El acceso a tres aplicaciones de fotografía para generar desnudos falsos quedó este jueves bloqueado en Australia, después de que las autoridades detectaran que se utilizaban para generar material de explotación infantil, así como en centros educativos del país.
La restricción fue implementada después de que la comisión independiente australiana de seguridad en Internet, eSafety, emitiera, como primer paso del proceso sancionador, una acción de cumplimiento dirigida a estas empresas, que no han sido identificadas para evitar su promoción, confirmó la cadena pública ABC.
Según la comisión, se trata de algunos de los sitios web más populares para la creación de contenido 'nudify' –desnudos falsos generados mediante inteligencia artificial (IA)– a partir de fotografías reales de personas, incluidos menores.
La responsable de eSafety, Julie Inman Grant, informó en septiembre que se había emitido una advertencia formal a las compañías, implicadas en varios incidentes escolares, por incumplir los estándares obligatorios de seguridad en línea.
De acuerdo con la autoridad supervisora, dichos programas –uno de ellos de Reino Unido– recibían unas 100.000 visitas al mes desde Australia y permitían funciones como "desnuda a cualquier chica" o modos orientados a la creación de imágenes sexualizadas de menores.
"Estos servicios fallaron en proporcionar salvaguardas adecuadas y representan un riesgo serio para nuestros niños", señaló Inman Grant.
La comisionada añadió que el uso de dichas aplicaciones ha tenido efectos "devastadores" en escuelas australianas, donde se detectaron casos de alumnos que manipulaban imágenes de sus compañeros para producir contenido sexualizado.
Los reportes de contenido "ultrafalso" –'deepfake', en inglés–, así como de otros abusos relacionados con imágenes digitales creado por menores se han duplicado en los últimos 18 meses en Australia, según datos del organismo, y cuatro de cada cinco víctimas son niñas.
Inman Grant advirtió que los casos registrados son "solo de la punta del iceberg", ya que este tipo de daños suelen estar "infradenunciados".
Tras el bloqueo de acceso a las tres aplicaciones, si las empresas reinciden, podrían enfrentar multas de hasta 49,5 millones de dólares australianos (unos 30 millones de euros).
La restricción busca también enviar un mensaje al resto del sector, en un momento en que el Gobierno australiano estudia nuevas vías para limitar la disponibilidad de estas herramientas.
El Ejecutivo del país oceánico planea prohibir de manera inminente a menores de 16 años el acceso a las redes sociales, como parte de un conjunto de medidas destinadas a proteger a los jóvenes de contenidos dañinos y explotación en línea.
La prohibición entrará en vigor el 10 de diciembre, de acuerdo con el Gobierno. EFE
