La creación y difusión de imágenes sexuales falsas mediante inteligencia artificial volvió a generar preocupación en las comunidades educativas. En el Colegio Modelo Lomas, en Lomas de Zamora, familias y estudiantes denunciaron la manipulación de fotografías de alumnas para simular desnudos y reclamaron medidas de protección. El caso quedó bajo investigación judicial.

La situación plantea un desafío que también alcanza a las familias y las escuelas santafesinas: cómo prevenir estas agresiones y acompañar a quienes las sufren. Aunque las imágenes sean artificiales, sus consecuencias sobre la intimidad, los vínculos y la vida cotidiana de las víctimas son reales.

En dialogo con LT10, Hernán Navarro, presidente de Grooming Argentina, explicó que estas prácticas constituyen una forma de violencia sexual digital. “Esto no es una broma”, remarcó, al advertir que muchos adolescentes no dimensionan el daño que generan ni las posibles consecuencias de sus acciones.

Imágenes falsas, sufrimiento real

Navarro describió dos mecanismos: los montajes que colocan un rostro sobre un cuerpo desnudo y las herramientas de inteligencia artificial que alteran una fotografía para simular que la persona está sin ropa. Según señaló, los casos que analiza la entidad afectan principalmente a adolescentes mujeres.

Para explicar el impacto, recordó el testimonio de una víctima que llegó a revisar sus propias fotografías ante el realismo de la manipulación. También destacó que saber que una imagen es falsa no elimina la angustia que produce su circulación.

“Internet amplifica la violencia”, sostuvo. La pérdida de control sobre el contenido y la imposibilidad de saber quién lo vio o dónde fue compartido profundizan el padecimiento.

En ese contexto, cuestionó la distancia con la que parte del mundo adulto observa la vida digital de los chicos: “El mundo adulto sigue posicionado en un estadio de anestesia digital”.

Qué pueden hacer las familias y las escuelas

El especialista advirtió que no existe una solución reducida a unos pocos consejos. El abordaje requiere la participación de las familias, las instituciones educativas y el Estado, además de herramientas para reconocer la violencia y actuar.

Como primer paso frente a un caso, destacó la necesidad de acompañar a la víctima sin minimizar lo ocurrido. Planteó que la prioridad es la “contención de manera empática, amorosa, respetando los procesos de quienes están padeciendo estas violencias”.

Después, señaló la importancia de realizar la denuncia y buscar medidas para limitar la circulación del material. Sobre el encuadre penal, sostuvo que, a su criterio, estas situaciones deberían quedar comprendidas en el artículo 128 del Código Penal. Lo presentó como una interpretación sobre la aplicación de la norma a imágenes generadas con IA.

Para prevenir, insistió en fortalecer la educación digital y el diálogo en casa. Explicó que las dificultades aumentan cuando los adultos no cuentan con herramientas para conversar sobre lo que sucede en internet y los adolescentes no reconocen que sus acciones allí también tienen consecuencias.

“Mi yo físico se tiene que cuidar de igual modo que mi yo digital”, expresó Navarro, quien propuso comprender internet como un territorio donde los chicos construyen su identidad y sus relaciones.

Take It Down: una herramienta para limitar la difusión

Durante la entrevista, Navarro mencionó Take It Down, un servicio gratuito del Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos (NCMEC, por sus siglas en inglés).

La herramienta genera una huella digital del archivo, denominada hash, sin que la imagen o el vídeo salgan del dispositivo. Las plataformas participantes pueden utilizar ese identificador para detectar coincidencias y actuar sobre su circulación. Su alcance se limita a los servicios públicos o no cifrados adheridos: no elimina el contenido de todo internet.

El servicio también indica que no se deben descargar ni reenviar imágenes para utilizarlo: se trabaja únicamente con archivos que ya estén en el dispositivo. La información y el acceso están disponibles en el sitio oficial de Take It Down.

Navarro subrayó que las adolescentes deben poder recurrir a adultos responsables que las contengan y acompañen durante todo el proceso. La respuesta, sostuvo, debe poner la protección de las víctimas en el centro y explicar a los jóvenes la gravedad de crear o difundir estas imágenes.

Audio: Escuchá la entrevista con Hernan Navarro