Hay una máxima que dice: si no querés que se filtre una imagen, no la publiques. Pero ¿qué ocurre cuando las fotos o videos son robados y/o publicados sin consentimiento?
“El hombre más odiado de internet” es un doloroso ejemplo de ello. El documental de Netflix que relata la historia de las primeras víctimas de violencia digital, cuando no solo no había herramientas para proteger esta violación a la intimidad, sino cuando no era considerado delito. Pasaron ya 13 años desde la historia de Hunter Moore que da origen a la docuserie, pero aún hay mucho camino para recorrer.
En primer lugar, saber que la violencia digital no es pornovenganza: el origen del contenido no es pornografía y su difusión no es a causa de un daño previo. En segundo, hasta que la legislación local y global agilice los procesos, es de vital importancia conocer herramientas disponibles para proteger el derecho personalísimo a la intimidad.
Con ese fin, Meta, la compañía subsidiaria de Facebook e Instagram, acaba de presentar una herramienta para prevenir que se difunda y viralice un contenido en internet. La iniciativa se llama Take it Down (”bájalo” o “quitálo”, en inglés) y permite a cada persona indicar, de manera privada, qué una foto o video podría haberse publicado sin su consentimiento en internet y eliminar el archivo forma automática. La página fue creada en conjunto con Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) de Estados Unidos, pero se ofrece a todo el mundo, siguiendo los pasos de la plataforma StopNCII, que ayuda a los adultos a detener la difusión de sus imágenes íntimas en Internet.
María Cristina Capelo, Líder de Seguridad de Meta para América Latina, explica a LA NACION el largo recorrido de la empresa para lograr una tecnología que analice los millones de metadatos de manera privada y evite la circulación de este contenido en las redes sociales de la empresa: “El 99% de las veces que detectamos cualquier tipo de imagen de explotación sexual infantil, lo hacemos antes de que lleguen a circular en la red. La inteligencia artificial nos permite identificar desnudos en menores y situaciones de abuso. Es un trabajo en constante evolución que venimos haciendo desde hace muchos años”. Capelo explica cómo evolucionó la herramienta para que los archivos que uno desea subir no salgan nunca del dispositivo original. El sitio trabaja de manera conjunta con dos organizaciones: “Si bien la página es la misma, si un mayor de 18 años quiere subir un archivo es dirigido automáticamente a la plataforma, con recursos para víctimas de abusos de imágenes íntimas no consensuadas. Si es menor de 18, el sitio Take it down se encarga del proceso automático”.
Este sistema, además, utiliza tecnología de código abierto desarrollada por Meta que es puesta a disposición de empresas y organizaciones que deseen sumarse a la iniciativa. Por el momento, forman parte de “Take It Down” Facebook, Instagram, OnlyFans y la plataforma Yubo.
Cómo funciona Take it Down
La propuesta requiere muy pocos pasos. En la página, se invita a indicar la edad del denunciante anónimo, y luego se puede proceder a cargar las imágenes o videos en cuestión. Se pueden subir hasta 10 archivos por vez, pero si es necesario, se vuelve a repetir la carga con otra consulta. Una vez finalizado cada proceso, el usuario recibe un número de caso que posteriormente puede ser usado para hacer el seguimiento del mismo.