Una iniciativa del PRI en el Senado de la República busca fortalecer la validez de pruebas judiciales ante el riesgo de manipulación con Inteligencia Artificial.
Fue presentada por la legisladora Claudia Anaya quien destaca que algunos especialistas señalan que “a través de la inteligencia artificial es posible la manipulación de datos. En este contexto, ante la aparición y uso de esa tecnología es indispensable prevenir que la inteligencia artificial sea utilizada de manera adecuada en beneficio de la sociedad”.
Y es que la iniciativa señala que “ante los avances de la Inteligencia Artificial (IA) generativa y la facilidad para crear contenido falso, los jueces en el mundo están enfrentando el desafío de distinguir la prueba verdadera de la prueba creada con Inteligencia Artificial mediante la aplicación y adaptación de los principios y herramientas ya existentes en el derecho procesal, con un énfasis creciente en la prueba pericial digital y los protocolos de cadena de custodia”.
Destaca que “la diferenciación se basa en gran medida en los siguientes pilares de la prueba digital: Cadena de Custodia Digital: Es el procedimiento más crucial. Exige que la evidencia (video, audio, imagen, documento) sea presentada con un registro ininterrumpido que demuestre cómo fue recolectada, conservada, y analizada”.
Subraya que “un proceso de cadena de custodia digital debe garantizar la integridad (que no ha sido alterada) y la autenticidad (que es lo que dice ser) de la evidencia desde el momento de su obtención”.
Por lo anterior, señala el riesgo que conlleva que “los jueces dependen cada vez más de peritos forenses digitales para examinar la metadata, las huellas de manipulación (artefactos de compresión, inconsistencias en la iluminación, etc.), y los algoritmos utilizados”.
Y es que ante esto, considera que “el perito debe explicar cómo se obtuvo el contenido, su trazabilidad y su fiabilidad. Transparencia y Explicabilidad: Se exige que cualquier sistema de IA o evidencia generada por una máquina (aunque sea parcialmente) cumpla con estándares de transparencia y explicabilidad. Esto significa que las partes deben poder entender el razonamiento o la metodología detrás de la generación de esa prueba. Si el origen es una ‘caja negra’ inescrutable, su valor probatorio disminuye”.
