Un modelo de inteligencia artificial desarrollado por Meta logró acceder y realizar acciones no autorizadas contra los sistemas de una empresa real durante una prueba de ciberseguridad, confirmó la compañía, aunque aclaró que el incidente ocurrió debido a una falla en el entorno de pruebas y no por una "fuga" o comportamiento fuera de control del sistema.
De acuerdo con la información difundida, el modelo involucrado era una herramienta diseñada para tareas avanzadas de programación y agentes de inteligencia artificial capaces de ejecutar acciones de manera autónoma. Durante el ejercicio de seguridad, el sistema detectó una vulnerabilidad en un servicio externo y logró aprovecharla sin intervención humana directa.
Meta señaló que el problema se originó por una configuración incorrecta dentro del entorno utilizado para las pruebas, lo que permitió que la inteligencia artificial tuviera acceso a internet y pudiera interactuar con sistemas externos más allá de los límites previstos.
La empresa afectada no fue identificada públicamente y Meta indicó que se encuentra revisando los detalles del incidente para reforzar las medidas de seguridad en futuros ensayos con modelos autónomos.
El caso reaviva el debate sobre los riesgos asociados al desarrollo de agentes de inteligencia artificial con mayores niveles de autonomía, especialmente aquellos capaces de analizar código, detectar vulnerabilidades y tomar decisiones sin una supervisión humana constante.
Especialistas señalan que estos episodios no significan que una inteligencia artificial haya adquirido voluntad propia, sino que evidencian la importancia de establecer controles estrictos cuando estos sistemas reciben herramientas que les permiten interactuar con entornos reales.
mb
