Pornografía con IA en el aula: "No es una travesura, es violencia digital"

El juez de Menores y académico de la UNT, Federico Moeykens, se refirió en sus redes sociales al uso de la Inteligencia Artificial (IA) para crear imágenes falsas de personas sin su consentimiento, conocidas como deepfakes o ultrafalsos. Advirtió que estos episodios no deben minimizarse ni interpretarse como simples bromas entre adolescentes.

"La reciente noticia sobre la creación y difusión de imágenes íntimas falsas mediante Inteligencia Artificial en una institución educativa de Tucumán enciende una alarma impostergable. No estamos ante un hecho aislado; es el reflejo de un desafío global que nos obliga, como operadores del sistema penal juvenil y profesionales del derecho, a repensar nuestras estrategias de intervención y, fundamentalmente, de prevención", sostuvo.

"El problema de los deepfakes y de la violencia digital no radica en los píxeles, sino en el impacto devastador y real que provoca en la vida de las víctimas, que sufren miedo, humillación, aislamiento y una pérdida total de control sobre su propia imagen", afirmó.

También te puede interesar: Ola polar: cómo estará el tiempo durante el fin de semana en Tucumán y cuándo comenzará a subir la temperatura

El magistrado explicó que estas herramientas permiten manipular fotografías, videos o audios mediante IA hasta hacerlos parecer auténticos, una capacidad que representa enormes desafíos cuando se utiliza para vulnerar la intimidad de otras personas. Uno de los principales llamados de atención del juez apunta a cambiar la forma en que muchas veces se interpretan estos episodios.

"Es imperativo desterrar la idea de que estas conductas son 'travesuras tecnológicas', 'memes' o 'cosas de chicos'", enfatizó.

Cuando una persona utiliza IA para vulnerar la intimidad de una compañera sin su consentimiento, estamos ante una forma clara de violencia de género digital, remarcó. En ese sentido recordó que Argentina ya incorporó este tipo de conductas al marco legal mediante la Ley Olimpia (Ley 27.736), que modificó la Ley de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres, reconociendo la violencia digital como una modalidad específica.

También te puede interesar: Estacionamiento medido: Rossana Chahla pidió evaluar las aptitudes de los cuidacoches

"Cuando analizamos la justicia juvenil, el foco no puede limitarse a la respuesta punitiva o posterior al conflicto. La verdadera justicia del siglo XXI comienza por anticiparnos a las nuevas dinámicas de vulneración de derechos en los entornos donde los jóvenes construyen su identidad: el espacio digital", sostuvo.

Para el juez, la educación debe convertirse en la principal herramienta para enfrentar estas nuevas formas de violencia. Propuso fortalecer la alfabetización digital con un enfoque basado en los derechos humanos. "La innovación técnica jamás puede estar por encima de los derechos humanos. Es urgente educar a las adolescencias en que el consentimiento es el límite. Si no hay consentimiento, no hay broma; hay violencia digital", afirmó.

El segundo eje consiste en promover procesos de responsabilización dentro del sistema penal juvenil. Se debe apuntar a que los adolescentes comprendan el alcance del daño ocasionado y asuman las consecuencias de sus actos. Finalmente, dijo: "las familias y las instituciones educativas no pueden ser meras espectadoras. Necesitamos canales de escucha activa y protocolos claros que permitan detectar estas prácticas a tiempo y promover una ciudadanía digital responsable", expresó. Para el juez, nuestro rol como adultos, educadores y magistrados es garantizar que la IA no se convierta en una zona liberada.