¿A quién beneficia el miedo a la IA?

La inteligencia artificial ha entrado en una nueva fase de su particular carrera tecnológica: sus propios creadores han comenzado a advertir de que el desarrollo acelerado de estos sistemas podría acabar teniendo consecuencias difíciles de controlar. El aviso resulta paradójico. Quienes durante años han defendido la velocidad como una condición imprescindible para liderar la revolución de la IA son ahora quienes reclaman cautela, regulación y coordinación internacional.

 En un reciente ensayo Dario Amodei, consejero delegado de Anthropic, reclamó una ralentización del desarrollo de la inteligencia artificial y una mayor cooperación entre empresas, gobiernos y organismos internacionales. Sus preocupaciones no se limitan a un futuro lejano: señala la posibilidad de que sistemas cada vez más autónomos puedan actuar sin supervisión humana, mejorar sus propias capacidades y provocar daños a gran escala.

El debate se ha intensificado después de varios episodios relacionados con agentes de IA capaces de operar de forma autónoma. Uno de los casos mencionados es el de un conjunto de agentes de OpenAI que, durante una evaluación de ciberseguridad, mostraron comportamientos que no se ajustaban a las instrucciones previstas e intentaron interferir con el sistema encargado de evaluar su comportamiento. También se han conocido episodios en los que modelos de IA accedieron sin autorización a sistemas externos.

Jacob Coxon, antiguo investigador de Anthropic, llegó a señalar que quienes desarrollan estas tecnologías contemplan la posibilidad de que una IA avanzada pueda provocar la desaparición de la humanidad antes de que termine esta década. Otros investigadores vinculados al sector han situado por encima del 10% la posibilidad de un escenario catastrófico durante los próximos diez años.

Pero existe otra pregunta que resulta menos espectacular y quizá más incómoda: ¿a quién beneficia el discurso del apocalipsis?

El Salto introduce una crítica al señalar que los tecnoligarcas pueden estar utilizando el temor a una IA fuera de control para desplazar el debate desde los problemas actuales hacia una hipotética superinteligencia futura.

Mientras se habla de máquinas capaces de destruir a la humanidad, quedan en segundo plano cuestiones mucho más inmediatas: la concentración de poder en unas pocas empresas, la vigilancia, la pérdida de privacidad, el impacto laboral, el consumo energético y de agua de los centros de datos, el uso militar de estas tecnologías y el riesgo para los derechos humanos.

La paradoja se hace todavía mayor cuando algunos de los mismos empresarios que reclaman cautela se oponen, al mismo tiempo, a determinadas medidas regulatorias. En Estados Unidos, el debate sobre la regulación de la IA se ha vinculado también a la competencia tecnológica con China. El argumento es conocido: imponer demasiados límites podría hacer perder ventaja a las empresas estadounidenses frente a sus competidores internacionales.

Mientras tanto, Naciones Unidas ha advertido de que los sistemas de inteligencia artificial pueden afectar a derechos fundamentales y ha reclamado mecanismos independientes de supervisión. La discusión, por tanto, no se limita a determinar hasta dónde puede llegar la tecnología, sino también quién establece las reglas y quién controla a quienes la desarrollan.

El apocalipsis como distracción

La posibilidad de que una inteligencia artificial llegue algún día a representar una amenaza existencial para la humanidad no puede descartarse sin más. Pero convertir ese escenario en el centro absoluto del debate puede tener un efecto inesperado: desplazar la atención de los problemas que ya están ocurriendo.

La pregunta fundamental no debería ser únicamente si las máquinas acabarán dominando a los seres humanos. También habría que preguntarse qué está ocurriendo mientras tanto: quién controla los datos, quién obtiene los beneficios, quién asume los costes y qué capacidad tienen los ciudadanos y los gobiernos para supervisar a las empresas que están construyendo esta tecnología.

Porque el fin del mundo puede ser una hipótesis. La concentración de poder económico y tecnológico que acompaña a la revolución de la IA, en cambio, ya está sucediendo.

El verdadero debate: una tecnología extraordinariamente poderosa desarrollada demasiado deprisa, concentrada en muy pocas manos y sometida a una lógica económica que premia la velocidad por encima de la prudencia, la transparencia y los derechos de quienes tendrán que convivir con ella.

Sigue nuestras noticias