La posibilidad de que la inteligencia artificial (IA) llegue a representar una amenaza para la humanidad ha cobrado relevancia a medida que los sistemas avanzan y son capaces de realizar tareas cada vez más complejas.
En entrevista para XEU Noticias, Guillermo Pérezbolde, director de la agencia Mente Digital, explicó que actualmente existe una estimación de riesgo entre especialistas de la industria, aunque señaló que los escenarios más extremos corresponden a sistemas de nueva generación y no a las herramientas de inteligencia artificial que utiliza actualmente la mayoría de las personas.
Pérezbolde explicó que desde hace más de una década existe un índice conocido como Probability of Doom (P(Doom)) o "probabilidad de desastre", mediante el cual personas vinculadas al desarrollo de inteligencia artificial estiman la posibilidad de que estos sistemas lleguen a salirse de control.
De acuerdo con su propia estimación, la probabilidad se ubica actualmente en alrededor de 10 por ciento, lo que implica, bajo ese cálculo, un 90 por ciento de posibilidades de que un escenario de este tipo no ocurra.
"Así como efectivamente algunos sistemas de inteligencia artificial se están brincando las restricciones, se están saliendo de sus cajas donde estaban contenidas, también hay sistemas que se están diseñando y que están trabajando para contener este tipo de situaciones", explicó.
El director de Mente Digital señaló que algunos experimentos realizados por compañías dedicadas al desarrollo de inteligencia artificial han mostrado el comportamiento que pueden presentar sistemas más avanzados cuando reciben una meta y se les permite determinar por sí mismos las acciones necesarias para cumplirla.
Explicó que, en pruebas controladas, se han observado sistemas capaces de buscar mecanismos alternativos para alcanzar un objetivo, incluso realizando operaciones que no estaban contempladas inicialmente por los investigadores.
"Son equipos que son máquinas y son sistemas tan avanzados que ya logran razonar de una manera que ni nos hubiéramos imaginado, pero recordemos que eso son experimentos que se hicieron en un entorno controlado", señaló.
Pérezbolde enfatizó que estos experimentos no representan necesariamente el funcionamiento de las herramientas de IA disponibles actualmente para el público en general, debido a que los sistemas más avanzados cuentan con diferentes mecanismos de prueba, supervisión y restricciones.
Ante las teorías que circulan en redes sociales sobre robots que podrían rebelarse contra los humanos, el especialista explicó que existe una diferencia entre la capacidad de razonamiento de una máquina y las motivaciones humanas.
Para ejemplificarlo, mencionó la llamada paradoja de Moravec, asociada al científico e investigador Hans Moravec.
Pérezbolde sostuvo que una inteligencia artificial puede realizar tareas complejas, pero no necesariamente posee emociones humanas como ambición o deseo de conquista.
"No tienen una visión de conquista porque no tienen qué conquistar. Lo más que tienen es un tema de supervivencia", explicó.
Agregó que, a diferencia de personajes históricos que emprendieron conquistas impulsados por factores humanos como el ego, la ambición o determinadas creencias, una inteligencia artificial no cuenta con esas motivaciones emocionales.
El especialista indicó que un escenario de pérdida de control dependería de las capacidades y de la programación de los sistemas involucrados.
Entre los posibles riesgos mencionó la capacidad de afectar sistemas e infraestructura crítica, como:
También señaló que existe preocupación sobre el posible uso de inteligencia artificial en ámbitos relacionados con instalaciones nucleares, aunque indicó que se han planteado mecanismos para mantener determinados sistemas críticos fuera del control directo de una IA.
Pérezbolde explicó que las principales compañías y laboratorios de inteligencia artificial también enfrentan el debate sobre la necesidad de establecer límites al desarrollo de estos sistemas.
De acuerdo con el especialista, parte de la industria ha optado por establecer mecanismos de autorregulación ante la posibilidad de que los gobiernos impongan restricciones mediante leyes o regulaciones.
"Lo que están haciendo es autolimitarse, autodetenerse y hacerlo en un ejercicio individual cada una y colectivo como industria para llegar a acuerdos", afirmó.
Consideró que la discusión podría intensificarse si llegara a presentarse un incidente que demostrara un riesgo concreto asociado con sistemas de mayor autonomía.
Ante la preocupación de los usuarios por herramientas como los chats de inteligencia artificial, Pérezbolde pidió diferenciar entre los sistemas disponibles para el público y aquellos que se encuentran en etapas más avanzadas de investigación y desarrollo.
"Los sistemas que usamos nosotros a través de un chat son sistemas que podríamos decirle light, a pesar de lo poderosos que son", explicó.
Señaló que los sistemas experimentales a los que se refieren algunos reportes sobre inteligencia artificial autónoma corresponden a generaciones que buscan desarrollar capacidades más amplias, conocidas en términos generales como inteligencia artificial general (AGI).
Estos sistemas buscan realizar tareas de manera más autónoma, con menor intervención humana directa, incluyendo procesos de investigación, planificación y ejecución.
Por ello, el especialista consideró que las herramientas de IA utilizadas actualmente por la mayoría de las personas distan todavía de esos escenarios, aunque recomendó dimensionar el potencial de estas tecnologías conforme continúe su desarrollo.
"Si con los chats todo lo que se puede hacer, imagínense con los sistemas más poderosos que tienen estas grandes empresas", concluyó.
