El gobernador de California, Gavin Newsom, emitió este viernes una orden ejecutiva para acelerar la implementación de nuevas medidas de seguridad y supervisión de la inteligencia artificial (IA) en el estado, donde tienen su sede algunas de las principales empresas del sector.
Como parte de la orden, Newsom instruyó la creación de un grupo de trabajo que tendrá dos meses para presentar una guía con propuestas destinadas a fortalecer las leyes de seguridad y protección relacionadas con la inteligencia artificial.
Entre las medidas que deberán ser evaluadas se encuentra la posibilidad de exigir a las empresas el desarrollo de un "kill switch" o mecanismo de apagado de emergencia para modelos avanzados de IA, así como la elaboración de planes de seguridad por parte de terceros independientes.
"No vamos a esperar para actuar; vamos a acelerar nuestro trabajo en materia de supervisión sustancial y responsable de la IA antes de que sea demasiado tarde", declaró Newsom.
El término kill switch hace referencia a un mecanismo que permitiría detener o desactivar un sistema de inteligencia artificial bajo determinadas circunstancias de emergencia.
La propuesta que California ordenó evaluar contempla analizar si las empresas que desarrollan modelos avanzados deberían contar con mecanismos de este tipo, aunque la orden ejecutiva no establece que todos los sistemas de IA serán apagados de manera automática ni detalla todavía cómo funcionaría el mecanismo.
La orden ejecutiva también establece medidas para acelerar la aplicación de dos nuevas leyes estatales relacionadas con la supervisión de la inteligencia artificial, entre ellas disposiciones sobre auditorías independientes de estos sistemas.
California ya había debatido anteriormente una legislación de mayor alcance sobre seguridad de la IA. Newsom vetó en 2024 una iniciativa de ese tipo, pero algunas de las medidas contempladas entonces forman parte de las acciones que ahora serán revisadas.
Empresas como OpenAI y Anthropic tienen su sede en California. OpenAI calificó la nueva orden ejecutiva como "un paso importante" y señaló que espera colaborar con el gobierno estatal y la Legislatura para impulsar medidas de protección.
La decisión de California ocurre mientras aumenta el debate internacional sobre los riesgos asociados al desarrollo de sistemas de inteligencia artificial y la necesidad de establecer mecanismos de supervisión.
Al mismo tiempo, algunas empresas emergentes del sector han advertido que una regulación más estricta podría dificultar la competencia y favorecer a las compañías tecnológicas más grandes.
Newsom también pidió al Congreso de Estados Unidos avanzar en una legislación federal sobre seguridad de la IA y cuestionó la falta de medidas a nivel nacional.
La nueva orden ejecutiva abre ahora un periodo de evaluación de posibles mecanismos de seguridad, incluido el denominado kill switch, antes de que se determine qué medidas podrían incorporarse a la regulación de California.
