En los últimos años, las principales empresas de IA han estado compitiendo por desarrollar sistemas cada vez más capaces, tanto para obtener beneficios como en su afán por crear lo que denominan superinteligencia: una tecnología teórica más inteligente que los humanos.
A diferencia de los sistemas y herramientas que muchas personas utilizan a diario para realizar tareas como escribir correos electrónicos o generar videos, los sistemas de IA superinteligentes deberían ser capaces de manejar tareas mucho más complejas.
OpenAI y Anthropic defienden que su objetivo es impulsar esta tecnología de forma que beneficie a los seres humanos y los proteja de sus riesgos existenciales.
Pero algunos críticos creen que las máquinas nunca podrán igualar a los humanos.
Afirman que las empresas de IA exageran las capacidades de la tecnología para aumentar su notoriedad o sus ganancias.
Leer También: ¿Se acabó el boom de la IA? Las acciones de chips se desploman tras las advertencias de sus líderes
¿Cómo creen los expertos que la IA podría amenazar a la humanidad?
Investigadores, expertos y directivos en inteligencia artificial, preocupados por el potencial de esta tecnología para poner en peligro a la humanidad, han esbozado escenarios inquietantes.
El cofundador y director ejecutivo de Anthropic, Dario Amodei, escribió que la IA ha avanzado “mucho más rápido” de lo esperado, incluso en su “capacidad para construir la próxima generación de IA”.
Existe la preocupación de que la IA, una vez alcanzado cierto punto, pueda, en teoría, comenzar a mejorarse a sí misma sin intervención humana.
Estos temores surgieron tras un incidente reciente en el que herramientas de inteligencia artificial piratearon sitios web sin haber recibido ninguna solicitud para ello.
Algunos investigadores preocupados han afirmado que quienes están en el centro de su desarrollo temen cada vez más perder el control de los sistemas conocidos como “agentes de IA”.
Se trata de herramientas dotadas de la capacidad de ejecutar tareas y acciones de forma independiente.
Otros escenarios contemplan el uso de sistemas de IA altamente inteligentes para amplificar o dirigir el espionaje, los ciberataques o la guerra biológica, o para perturbar las economías, ya sea por accidente o de forma intencionada.
Sin embargo, tales advertencias son proféticas, hipotéticas y, para algunos, una completa exageración.
Algunos expertos también critican el hecho de que se hable de los riesgos existenciales en lugar de los que ya se están produciendo, como el uso de herramientas de generación de imágenes para crear deepfakes (imágenes artificiales hiperrealistas) de mujeres desnudas sin consentimiento, desinformar a la gente y amplificar las estafas.
Un grupo multipartidista de parlamentarios británicos publicó un informe que describe los riesgos para los derechos humanos que plantea la IA y sugiere que se necesitan nuevas leyes para “abordar la magnitud y la gravedad” de dichas amenazas.
¿Cuáles son las propuestas para una “ralentización de la IA”?
Dario Amodei, de Anthropic, y Sam Altman, director ejecutivo de OpenAI, han pedido regulación y una “ralentización” del desarrollo de esta tecnología.
No es la primera vez que los directivos o voces más amplias del sector claman por este tipo de medidas.
Pero las preguntas siguen acumulándose sobre cómo sería realmente cualquier tipo de “desaceleración”, respaldada también por el jefe de SpaceX, Elon Musk.
Amodei señaló que eso no significaría “detener la formación de los modelos ni el progreso técnico”.
En cambio, quiere que las empresas “se tomen el tiempo necesario” para salvaguardar la IA que están desarrollando y que soliciten a “evaluadores externos” que revisen su trabajo.
En una publicación en X, Altman dijo que es necesario dosificar el desarrollo y precisó: “cuando hablamos de ‘dosificar’ no nos referimos a ‘detener’”.
“El progreso ha sido rápido y seguirá siéndolo”, afirmó. “Pero debería ser más lento de lo que podría ser de otro modo; intervenciones como los estudios de seguridad y la monitorización tienen costos significativos”.
El cofundador de OpenAI también afirmó que las empresas no esperan, ni esperarán, a que los gobiernos actúen.
¿Qué dice Trump?
El presidente de EE.UU., Donald Trump, ha elogiado los beneficios de la IA y defendido a las empresas estadounidenses que lideran su desarrollo.
Su gobierno ha firmado órdenes ejecutivas para reconocer la “importancia estratégica” de esta tecnología para la economía y acelerar su desarrollo.
“Creemos que estamos en una carrera por la inteligencia artificial, y queremos que Estados Unidos gane esa carrera”, dijo David Sacks, jefe de criptografía de la administración estadounidense, en julio de 2025.
Ante las recientes advertencias sobre su impacto potencial en la humanidad, el presidente Trump restó importancia a los riesgos que plantea la IA.
“Hay muchas fuerzas muy negativas que están sacando a relucir este tema, cuando no deberían hacerlo, y están mencionando cosas que no van a suceder”, dijo Trump durante una visita a Irlanda.
No abordó directamente la idea de una desaceleración, pero les dijo a los periodistas: “Estamos liderando a China en IA… y, francamente, quiero que siga siendo así porque quien gane en IA, gana”.
Este lunes, se sumó al debate del fin de semana afirmando que “el único control o ‘barreras de seguridad’ que necesita la IA es un presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), y Estados Unidos lo tiene, ¡y de sobra!”, escribió en Truth Social.
“La administración Trump ha impedido que los ‘seres’ de la IA hagan ‘cosas’ malas, o potencialmente malas, como Dario (¡de Anthropic!), quien ahora finge ser un ‘angelito perfecto’… ¡y seguiremos haciéndolo! ¡Ya tenemos un enorme poder PENAL y REGULATORIO sobre estas empresas! Hay una conspiración ENFERMIZA en marcha contra la IA y los centros de datos, y el único que se alegra de ello es China”.
Y criticó a los “teóricos de la conspiración, traidores a la patria, traidores y filtradores”.
¿Qué dice China?
China se había mantenido en silencio en respuesta a la oleada de alarmantes advertencias de investigadores de empresas estadounidenses.
Ante la feroz competencia y las limitaciones en su acceso a los componentes y chips estadounidenses que se utilizan para construir infraestructura de IA, el país ha impulsado el desarrollo nacional de esta tecnología.
Al mismo tiempo, ha pedido una mayor gobernanza global de la IA.
Be the first to comment