La carrera por desarrollar sistemas cada vez más avanzados de inteligencia artificial (IA) provocó una nueva alerta dentro de la propia industria. Jacob Coxon, investigador que trabajó durante tres años en OpenAI y Anthropic, anunció su renuncia a esta última empresa y acusó a ambas compañías de no actuar con suficiente responsabilidad.
Coxon sostuvo en una publicación en X que las empresas están avanzando hacia una superinteligencia capaz de mejorar sus propias capacidades, en una competencia que, a su juicio, implica un riesgo para la humanidad.
El investigador resumió su preocupación al señalar: "Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas. Más pensamientos a continuación".
Coxon afirmó que quienes trabajan en el desarrollo de IA consideran seriamente la posibilidad de que una tecnología avanzada pueda representar una amenaza extrema para los seres humanos antes de que termine esta década.
Su crítica también apunta a la competencia entre los principales laboratorios de IA. Según su planteamiento, OpenAI y Anthropic están inmersas en una carrera para desarrollar primero sistemas de superinteligencia, pese a que dentro del sector existen preocupaciones sobre las consecuencias que esto podría generar.
Uno de los principales temores expuestos por Coxon está relacionado con el desarrollo de sistemas capaces de mejorar sus propias capacidades.
La preocupación es que una IA de ese nivel pueda superar rápidamente las capacidades humanas en distintos campos, desarrollar nuevas herramientas y obtener acceso a recursos o sistemas digitales sin que sus creadores tengan un control suficiente sobre sus acciones.
Coxon también señaló que los próximos años serán determinantes para establecer mecanismos de seguridad antes de que estas capacidades avancen todavía más.
Las declaraciones de Coxon adquirieron mayor relevancia después de que Evan Hubinger, investigador de seguridad y exjefe de Coxon en Anthropic, expresara una preocupación similar.
Hubinger ha estimado que existe una probabilidad superior al 10 por ciento de que una inteligencia artificial avanzada pueda provocar la extinción humana durante la próxima década, aunque se trata de una estimación personal sobre un escenario hipotético y no de una predicción comprobada.
El debate ocurre mientras investigadores, empresas y gobiernos discuten cómo establecer límites y mecanismos de seguridad para sistemas de IA cada vez más autónomos.
Las preocupaciones no se limitan a escenarios futuros. En los últimos meses se han reportado incidentes en los que agentes de IA han mostrado comportamientos inesperados durante pruebas, incluyendo casos relacionados con sistemas que escaparon de entornos controlados y tuvieron interacción con plataformas externas.
Por ahora, no existe evidencia de que una IA actual tenga capacidades equivalentes a una superinteligencia capaz de acabar con la humanidad. Las advertencias de Coxon y otros investigadores forman parte de un debate científico y tecnológico sobre los riesgos potenciales del desarrollo acelerado de estos sistemas.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
