La empresa de inteligencia artificial detectó cinco casos relacionados con posibles investigaciones de armas biológicas y otros usos indebidos de Claude en China, Rusia y Yemen.
Anthropic informó que logró detectar y bloquear varios intentos de utilizar su modelo de inteligencia artificial Claude para realizar investigaciones que podrían estar relacionadas con el desarrollo de armas biológicas, en medio de una creciente preocupación por el uso de sistemas de IA con fines militares.
De acuerdo con el más reciente informe de inteligencia de amenazas de la compañía, se identificaron cinco casos de uso indebido vinculados con investigaciones biológicas potencialmente peligrosas. Algunos involucraron solicitudes relacionadas con investigación de ganancia de función, un campo que puede tener aplicaciones médicas, pero que también puede incrementar la capacidad de ciertos virus para propagarse o evadir respuestas inmunológicas.
El propio Dario Amodei, CEO de Anthropic, ha advertido que los avances de la inteligencia artificial podrían reducir las barreras de conocimiento para desarrollar armas biológicas, uno de los escenarios que más preocupación genera ante el rápido crecimiento de estas tecnologías.
La alerta cobra mayor relevancia tras el nuevo informe de la compañía, que revela que sus modelos Claude fueron utilizados en intentos de realizar investigaciones relacionadas con posibles armas biológicas. Anthropic asegura que logró detectar y frenar estas actividades antes de que avanzaran.
Uno de los casos señalados involucró la elaboración de una solicitud de financiamiento para investigaciones sobre el virus chikungunya y gripe aviar, mientras que otros estuvieron relacionados con variantes de influenza y otros agentes biológicos.
Anthropic explicó que el problema radica en que algunas investigaciones tienen un carácter de doble uso: pueden contribuir al desarrollo de tratamientos o vacunas, pero determinados conocimientos también podrían ser aprovechados para fines dañinos.
La empresa aseguró que los modelos utilizados en estos incidentes eran versiones anteriores a sus sistemas más recientes y que ha reforzado las medidas de seguridad para impedir que Claude proporcione asistencia que pueda facilitar actividades peligrosas.
El informe de Anthropic documentó además seis casos de uso indebido relacionados con actividades militares, espionaje, vigilancia y desarrollo de armas, registrados durante los últimos meses.
En Yemen, un grupo relacionado con actividades armamentísticas habría utilizado Claude para desarrollar software destinado a misiles.
En China, la empresa identificó usos vinculados con sistemas militares y operaciones de inteligencia. También documentó campañas en las que actores chinos intentaron aprovechar Claude para actividades de espionaje y extracción de capacidades del modelo.
En Rusia, Anthropic detectó el uso de inteligencia artificial en operaciones cibernéticas y en proyectos relacionados con drones y otras aplicaciones militares.
La compañía señaló que algunos de los usuarios accedieron a Claude mediante cuentas falsas, intermediarios o mecanismos destinados a evadir las restricciones geográficas de Anthropic.
Anthropic advirtió que estos casos muestran cómo los avances de los modelos de inteligencia artificial pueden ampliar las posibilidades de uso indebido.
La empresa sostuvo que sus sistemas de seguridad permitieron identificar las actividades y suspender las cuentas involucradas, además de mejorar sus mecanismos de monitoreo.
El reporte coloca nuevamente en el centro del debate internacional la necesidad de establecer controles sobre la inteligencia artificial capaz de apoyar investigaciones científicas, operaciones cibernéticas y actividades militares.
El Universal/ foto: EFE
