Take it down, nueva herramienta de Meta para prevenir la difusión de imágenes íntimas

En la actualidad, la práctica de almacenar fotos y videos íntimos en nuestros dispositivos móviles se ha vuelto cada vez más común. No obstante, esta acción conlleva riesgos, ya que este contenido puede ser filtrado a diversas plataformas y, en ocasiones, podrían ser víctimas de extorsionadores que utilizan esta información privada para obtener algún beneficio personal mediante la amenaza.

Por tal razón, Meta, la empresa matriz de Facebook e Instagram, decidió presentar su herramienta “Take It Down” (bájalo o quítalo, en inglés) para prevenir la difusión y viralización de este tipo de contenido en Internet. La herramienta permite a los usuarios reportar, de manera privada, cualquier foto o video que pudo haber sido publicado en la red sin su consentimiento y automáticamente eliminar el archivo.

Esta página se desarrolló de forma colaborativa con el Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) de Estados Unidos. A su vez, se basa en la plataforma StopNCII, iniciativa similar que permite detener la difusión de imágenes íntimas de adultos en Internet. Práctica denominada como “porno de venganza”.

Para María Cristina Capelo, líder de Seguridad de Meta para América Latina, el desarrollo de una tecnología con estas características demandó un arduo trabajo, y gracias a su detección temprana ayuda a prevenir su difusión. “La Inteligencia Artificial nos permite identificar desnudos en menores y situaciones de abuso. Es un trabajo en constante evolución que venimos haciendo desde hace muchos años”, comenta.

Además, Capelo agrega que la plataforma trabaja de manera colaborativa con dos organizaciones. “Si bien la página es la misma, si un mayor de 18 años quiere subir un archivo es dirigido automáticamente a la plataforma, con recursos para víctimas de abusos de imágenes íntimas no consensuadas. Si es menor de 18, el sitio Take it down se encarga del proceso automático”.

¿Cómo se utiliza esta plataforma?

• Usuarios menores de 18 años o sus tutores podrán acceder a la página de Take it down e iniciar el proceso mediante el botón “Comenzar +”, después deberán seleccionar el rango etario correspondiente y rellenar un formulario para cargar los archivos que podrían estar circulando en Internet.
• La plataforma enviará un código numérico, “hash único”, a la foto o video de forma privada y desde el dispositivo del ciberusuario que manda la denuncia.
• Completado el procedimiento, Meta utilizará el reporte para encontrar las copias del material, retirarlas y evitar que el contenido se divulgue en las redes sociales (Facebook e Instagram) en el futuro.
• Con el objetivo de proteger la seguridad y privacidad de los menores, el “hash único” codifica las imágenes o videos y los convierte en huellas digitales seguras, lo que impide que se visualicen.