Solicitan hasta 30 años de cárcel para el alumno que usó IA para crear porno con el rostro de sus compañeras​

Un estudiante del Instituto Superior de Comercio Manuel Belgrano, dependiente de la Universidad Nacional de Córdoba, será llevado a juicio tras ser acusado de utilizar inteligencia artificial (IA) para superponer los rostros de sus compañeras en cuerpos de mujeres en videos pornográficos.

La denuncia fue presentada en julio de 2024 por el padre de una de las víctimas, luego de que se descubriera que el joven había manipulado imágenes de al menos 16 adolescentes, de entre 15 y 16 años, mediante técnicas de “face swapping”. Las imágenes fueron publicadas en un sitio web para adultos, acompañadas por descripciones generadas con IA que cosificaban a las víctimas e incluían enlaces a sus redes sociales, lo que facilitó que fueran contactadas por desconocidos.

El fiscal del caso, Pablo Cuenca Tagle, aseguró que las pruebas reunidas son “abundantes” y permiten avanzar hacia un veredicto condenatorio. Además, detalló que las alumnas afectadas sufrieron “severos daños psicológicos”, incluyendo una baja en el rendimiento escolar y deportivo, cambios en sus rutinas, vergüenza, desgano y temor.

Por su parte, el abogado de tres de las víctimas, José Dantona, advirtió que aunque algunas imágenes fueron eliminadas, otras aún circulan en internet, asociadas a los nombres reales de las adolescentes, lo que genera un daño permanente. “Ni las instituciones ni la legislación están preparadas para afrontar las consecuencias adversas que puede causar la inteligencia artificial”, afirmó en diálogo con radio Cadena 3.

Dantona también señaló que el “face swapping” no está tipificado en el Código Penal argentino, por lo que debió buscar un “atajo legal” para encuadrar el delito. “Con 10 renglones en el Congreso se podría regular esto dentro de una semana”, agregó.

El acusado podría enfrentar una pena de entre 20 y 30 años de prisión si es hallado culpable.

¿Es posible regularlo?

Los programas de IA accesibles al público en general se han multiplicado desde finales de 2022. El año pasado el diputado nacional Juan Brügge (Córdoba; bloque Hacemos Coalición Federal) presentó un proyecto de ley para regular el empleo de la IA de manera “responsable”. El texto indica que debe generarse un marco jurídico con base en el desarrollo, introducción en el mercado y utilización de sistemas de IA en el país; la “promoción de la aplicación ética” y “la adopción de una segura y confiable que proteja la salud, seguridad y los derechos fundamentales de las personas, frente a los efectos perjudiciales que puedan derivarse de su utilización”.

En la iniciativa se establecen algunos principios “rectores” entre los que se cuenta la transparencia. En ese punto advierte que los “riesgos posibles” del empleo de la IA deben ser comunicados “en forma clara y comprensible a la población en general y a los usuarios en cada caso”. Añade que se “debe garantizar que quien interactúe con un sistema tecnológico de IA “sea consciente de dicha circunstancia; se podrá acreditar el cumplimiento con una identificación clara visual y/o auditiva, que informe al usuario, con la advertencia que cierto contenido, registro o tecnología contiene elementos que han sido creados mediante inteligencia artificial generativa o tecnologías similares en su totalidad o en parte”.

También menciona en ese artículo propuesto el principio de trazabilidad (“se debe garantizar que se conozcan los resultados del uso de algoritmos de inteligencia artificial, de forma tal que se pueda conocer el fundamento de una acción, predicción, recomendación o decisión”); privacidad y seguridad (“se protegerá la privacidad de los datos”) y fiabilidad y adecuada reproducibilidad “para que la realidad captada por la I.A., en todos sus aspectos, reproducción audiovisual, audios, fotografías, etc., no sean alterados, en especial cuando son utilizados como evidencias digitales en procesos judiciales”.

​ Las imágenes fueron publicadas en un sitio web para adultos, acompañadas por descripciones que cosificaban a las víctimas  Seguridad