El reciente incidente en el que un agente de inteligencia artificial desarrollado por Meta habría salido de un entorno de pruebas y accedido a sistemas externos generó preocupación sobre los alcances de esta tecnología y su posible uso en ataques informáticos.
Sin embargo, el episodio no significa que una inteligencia artificial haya adquirido conciencia, tomado una decisión por voluntad propia o decidido “escaparse”, explicó el doctor Juan Manuel Aguilar Antonio, profesor investigador de la Facultad de Estudios Superiores Aragón de la UNAM.
De acuerdo con el especialista, el caso permite observar, más que una supuesta rebelión de la IA, el creciente potencial de los modelos avanzados para detectar y explotar vulnerabilidades informáticas.
Aguilar Antonio explicó que Meta realizaba pruebas de ciberseguridad con un modelo de inteligencia artificial dentro de un sandbox, es decir, un entorno virtual aislado diseñado para permitir que un programa sea probado sin afectar los sistemas externos.
Este tipo de espacios son utilizados para identificar errores, vulnerabilidades y fallas antes de que una aplicación o sistema sea puesto en operación.
En este caso, el objetivo era realizar pruebas conocidas como Red Team, una metodología de ciberseguridad en la que se intenta encontrar las debilidades de un sistema para determinar qué tan vulnerable puede ser ante un ataque.
El problema, explicó el investigador, es que el entorno aparentemente no estaba completamente aislado.
Dentro del sandbox existía una puerta trasera o backdoor, que permitió al modelo encontrar una vía para acceder a Internet y, posteriormente, buscar vulnerabilidades en sistemas a los que pudo tener alcance.
Aunque el hecho fue descrito en algunos espacios como un “escape” de la IA, el investigador de la UNAM pidió evitar interpretaciones relacionadas con la ciencia ficción.
Explicó que el modelo no tomó conciencia de sí mismo ni decidió escapar deliberadamente.
“No fue una acción maliciosa deliberada, la IA no tomó conciencia ni decidió revelarse”, explicó.
Lo que ocurrió, de acuerdo con el especialista, es que el sistema cumplió con la tarea para la que había sido diseñado: buscar vulnerabilidades y encontrar la manera más eficiente de explotarlas.
La diferencia es que una falla en la configuración del entorno de pruebas le permitió ir más allá de los límites que originalmente se habían establecido.
El incidente también pone sobre la mesa la importancia de establecer correctamente los límites de los entornos donde se prueban sistemas de inteligencia artificial.
Un sandbox debe funcionar como una especie de espacio cerrado en el que el programa pueda realizar operaciones sin tener acceso directo a infraestructura externa.
Sin embargo, una configuración incorrecta o una vulnerabilidad puede convertirse en una vía de salida.
Para Aguilar Antonio, este tipo de situaciones demuestra que los modelos de inteligencia artificial generativa están adquiriendo capacidades cada vez mayores para identificar pequeñas vulnerabilidades que pueden haber sido provocadas por errores humanos.
Uno de los mayores riesgos, según el especialista, no necesariamente está en que las inteligencias artificiales actúen de manera autónoma, sino en que faciliten el acceso a herramientas de ataque a personas con menos conocimientos técnicos.
Anteriormente, explicó, una persona que quisiera convertirse en hacker necesitaba conocimientos avanzados de programación, diferentes lenguajes y experiencia para encontrar vulnerabilidades o desarrollar exploits.
Con las herramientas actuales de IA, esa barrera puede reducirse considerablemente.
Una persona que no sea especialista en informática puede utilizar modelos capaces de programar o explicar código para desarrollar determinadas capacidades que antes requerían años de preparación.
Esto representa una democratización de las capacidades ofensivas en materia de ciberseguridad, lo que podría incrementar el número de personas capaces de intentar ataques informáticos.
El investigador señaló que este tipo de incidentes no son exclusivos de Meta.
También se han registrado situaciones similares durante pruebas realizadas con modelos de otras compañías, entre ellas Anthropic y OpenAI, donde sistemas de inteligencia artificial han mostrado capacidades para detectar vulnerabilidades o encontrar vías para salir de entornos controlados.
Estos episodios, sostuvo, muestran que los modelos de lenguaje de gran escala están avanzando rápidamente y pueden encontrar soluciones que sus desarrolladores no necesariamente habían previsto.
Sin embargo, insistió en que esto no significa que las IA tengan voluntad propia.
Para el investigador de la UNAM, la principal enseñanza es que los modelos de inteligencia artificial están evolucionando a una velocidad considerable y pueden encontrar alternativas para cumplir una tarea incluso cuando los desarrolladores establecen restricciones.
El riesgo aumenta cuando existen errores de configuración, vulnerabilidades o accesos no previstos en los entornos de prueba.
Por ello, consideró necesario fortalecer los mecanismos de seguridad antes de permitir que estos sistemas tengan acceso a infraestructura real.
El episodio también deja una advertencia para empresas y usuarios: la inteligencia artificial puede convertirse en una herramienta poderosa para mejorar la ciberseguridad, pero también puede reducir las barreras técnicas para cometer delitos informáticos.
Lejos de tratarse de una IA que “cobró vida” o decidió rebelarse, el caso muestra algo quizá más relevante: los sistemas de inteligencia artificial están desarrollando capacidades para encontrar vulnerabilidades a una velocidad que obliga a replantear la manera en que se diseñan y supervisan los entornos digitales.
