El abogado José Nicolás Chumbita, profesor de la cátedra de Derecho Informático de la Universidad Nacional de La Rioja (UNLaR), alertó sobre los riesgos de la creación y difusión de imágenes sexuales falsas mediante inteligencia artificial, una práctica que puede afectar gravemente la dignidad, la intimidad y la integridad de adolescentes y otras personas.
En diálogo con el equipo de Medios Provincia, el especialista explicó que los deepfakes sexuales son contenidos audiovisuales manipulados o generados con inteligencia artificial para representar falsamente el rostro, el cuerpo o la voz de una persona en situaciones que nunca ocurrieron.
“Lo que no es real no quiere decir que las consecuencias que produce no sean reales”, advirtió Chumbita, al remarcar que estas prácticas pueden vulnerar derechos fundamentales y provocar daños psicológicos y sociales en las víctimas.
La responsabilidad detrás de una pantalla
El docente señaló que uno de los principales desafíos es generar conciencia entre adultos, familias y jóvenes sobre las consecuencias de crear, compartir o difundir este tipo de contenidos. En ese sentido, cuestionó la falsa sensación de anonimato que muchas veces existe en internet y advirtió que acciones consideradas bromas o memes pueden tener consecuencias jurídicas.
Chumbita explicó que no toda conducta realizada en el entorno digital constituye necesariamente un delito penal, pero aclaró que esto no significa que las personas estén exentas de responsabilidad. Según indicó, dependiendo de las circunstancias, pueden existir consecuencias penales o civiles, incluso para quienes contribuyen a ampliar la difusión de imágenes que perjudican a una víctima.
“Un simple reenvío puede aumentar el daño que ya ha sufrido la víctima”, sostuvo, al referirse a la participación de quienes comparten o viralizan estos contenidos, aunque no hayan sido sus creadores.
Qué dice la legislación argentina
El especialista hizo referencia al marco jurídico vigente en el país y a las herramientas legales que pueden intervenir ante situaciones de violencia digital. Entre ellas, mencionó la Ley Olimpia, que incorporó la violencia digital a la legislación de protección integral contra la violencia hacia las mujeres y contempla medidas para proteger a las víctimas.
También señaló la relevancia del artículo 128 del Código Penal, referido a material de abuso y representaciones sexuales de personas menores de edad, y explicó que su aplicación a contenidos generados mediante inteligencia artificial plantea debates jurídicos que ya comenzaron a llegar a los tribunales argentinos.
En ese sentido, indicó que existen antecedentes judiciales en otras provincias vinculados con la creación de imágenes sexuales falsas de menores mediante estas herramientas. Asimismo, mencionó que en La Rioja se adoptaron medidas judiciales para retirar contenidos que permitían identificar a menores en situaciones que podían exponerlos a una mayor revictimización.
No obstante, aclaró que, según su conocimiento, todavía no existe en la provincia una condena que defina específicamente el alcance jurídico de estas conductas en relación con las representaciones generadas por inteligencia artificial.
Chumbita también se refirió al debate legislativo en torno a nuevas figuras penales vinculadas con la producción y circulación de imágenes sexuales mediante IA. En ese marco, subrayó que la falta de una norma específica no implica necesariamente que estas conductas queden fuera de toda regulación penal, ya que su encuadre depende de las circunstancias y de las figuras legales aplicables.
Educación digital: el desafío de las familias y las escuelas
Por último, el profesor de Derecho Informático hizo hincapié en la necesidad de acompañar a niños y adolescentes en el uso de las nuevas tecnologías, especialmente ante el acceso cada vez más temprano a celulares, redes sociales y herramientas de inteligencia artificial.
Consideró fundamental que las familias y las instituciones educativas promuevan no solo el conocimiento de las posibilidades tecnológicas, sino también la comprensión de los derechos, los deberes y las responsabilidades que implica utilizarlas.
Además, advirtió que las herramientas actuales de investigación permiten analizar imágenes, voces y registros digitales para rastrear el origen de determinados contenidos, por lo que la percepción de que internet garantiza el anonimato puede resultar engañosa.
El especialista concluyó que el desafío es fortalecer la prevención y la educación digital para evitar que la inteligencia artificial se convierta en una herramienta de hostigamiento, exposición y vulneración de derechos, especialmente contra quienes se encuentran en una situación de mayor vulnerabilidad.
