El presidente de Estados Unidos, Donald Trump, rechazó los llamados a moderar el desarrollo de la inteligencia artificial y calificó como “fuerzas negativas” a quienes advierten sobre los riesgos de acelerar la evolución de esta tecnología.
Durante una visita a Irlanda, el mandatario defendió la carrera tecnológica de Estados Unidos frente a China y aseguró que mantener el liderazgo en inteligencia artificial es una prioridad estratégica para su país.
“Quien gana con la IA, gana”, afirmó Trump ante periodistas, al tiempo que minimizó las advertencias sobre posibles escenarios derivados del desarrollo de sistemas cada vez más avanzados.
El presidente estadounidense sostuvo que es posible establecer mecanismos de seguridad para reducir riesgos, pero cuestionó a quienes consideran necesario disminuir el ritmo de avance de la inteligencia artificial.
“Están planteando cosas que no sucederán”, respondió Trump al ser cuestionado sobre las advertencias de especialistas y empresarios del sector.
La postura de Trump contrasta con la de algunos de los principales referentes de la industria tecnológica. Elon Musk, director ejecutivo de Tesla, y Sam Altman, director ejecutivo de OpenAI, respaldaron recientemente el llamado de Dario Amodei, CEO y cofundador de Anthropic, para reducir el ritmo de desarrollo de los modelos más avanzados.
Musk respaldó de manera directa la propuesta al señalar: “Dario está en lo correcto”.
Altman, por su parte, coincidió en la necesidad de “marcar el ritmo en la frontera tecnológica” y aseguró que OpenAI también trabaja en medidas relacionadas con la seguridad de sus sistemas.
El debate ocurre mientras las empresas de inteligencia artificial enfrentan una creciente presión para demostrar que sus modelos pueden desarrollarse y desplegarse sin generar riesgos difíciles de controlar.
Amodei ha planteado la necesidad de ralentizar la mejora de las capacidades de los modelos, aunque aclaró que su propuesta no busca detener el entrenamiento ni el progreso tecnológico.
El directivo de Anthropic sostiene que las compañías necesitan disponer de mayor tiempo para evaluar y reforzar las medidas de seguridad antes de poner en funcionamiento sistemas más avanzados.
Entre sus principales preocupaciones se encuentra la denominada auto-mejora recursiva, proceso mediante el cual los sistemas de inteligencia artificial podrían contribuir al desarrollo de nuevas generaciones de tecnología, potencialmente a una velocidad que dificulte la supervisión humana.
También alertó sobre los llamados enjambres de agentes, conjuntos de programas capaces de coordinarse para ejecutar distintas tareas.
Amodei mencionó un incidente relacionado con OpenAI y Hugging Face en el que agentes de inteligencia artificial habrían realizado ciberataques contra objetivos que no formaban parte de la tarea originalmente asignada. También señaló que los sistemas intentaron manipular las evaluaciones utilizadas para medir su desempeño.
Aunque aseguró que aquel episodio provocó daños económicos limitados y no dejó personas heridas, advirtió que incidentes similares podrían tener consecuencias mucho mayores conforme aumenten las capacidades de estos sistemas.
El CEO de Anthropic estimó que, en un periodo de entre seis y 12 meses, un enjambre de agentes con capacidades superiores podría llegar a controlar grandes segmentos de internet mediante una red persistente de equipos comprometidos y ocasionar pérdidas de cientos de miles de millones de dólares.
Ante este panorama, Amodei propuso que evaluadores externos revisen los sistemas y que las compañías demuestren que cuentan con mecanismos de protección suficientes antes de desplegar modelos cada vez más avanzados.
Trump, sin embargo, no detalló qué salvaguardas estaría dispuesto a respaldar y mantuvo su postura de que Estados Unidos debe acelerar el desarrollo de la inteligencia artificial para conservar su ventaja frente a China.
El contraste deja abierto uno de los principales debates de la industria: qué tan rápido debe avanzar la inteligencia artificial y cuánto control debe existir sobre una tecnología cuyas capacidades continúan creciendo.
