OpenAI pidió a Estados Unidos encabezar un esfuerzo internacional para establecer normas técnicas globales para el desarrollo seguro de la inteligencia artificial (IA), ante las preocupaciones por los riesgos asociados con el avance acelerado de esta tecnología.
La propuesta fue presentada por la compañía en un documento publicado el 21 de septiembre, en el que plantea que los gobiernos trabajen de manera coordinada para establecer estándares comunes en materia de seguridad, evaluación de capacidades y reporte de incidentes relacionados con sistemas avanzados de IA.
OpenAI señaló que las reglas internacionales deberían contemplar mecanismos para medir las capacidades de los modelos, probar sus sistemas de seguridad y determinar qué incidentes deben ser reportados, especialmente ante el desarrollo de tecnologías capaces de mejorar sus propias capacidades.
La compañía también sostiene que la regulación no debería limitarse a un solo país, debido a que los modelos, la investigación y los conocimientos técnicos circulan a escala internacional. Por ello, considera necesario que existan criterios compatibles entre distintos gobiernos para responder a posibles riesgos.
La propuesta ocurre en un contexto de creciente debate internacional sobre la supervisión de la inteligencia artificial. OpenAI ya había planteado en septiembre la necesidad de establecer requisitos nacionales obligatorios de seguridad para la IA en Estados Unidos, además de impulsar estándares internacionales.
El llamado coincide con la discusión sobre la gobernanza de la IA en el marco de la Asamblea General de Naciones Unidas, donde también se han planteado mecanismos internacionales para supervisar los riesgos de esta tecnología.
Foto: EFE
