Meta implementó en abril de 2024 una función que difumina automáticamente imágenes con desnudos en los mensajes directos de Instagram, seis años después de advertencias internas sobre riesgos asociados a este tipo de contenido.
La información salió a la luz en el marco de una demanda federal en Estados Unidos, donde se cuestiona a la compañía por la demora en aplicar medidas de protección dirigidas, especialmente, a menores de edad.
La herramienta, incorporada en la plataforma propiedad de Meta, detecta posibles imágenes con desnudos en los mensajes privados y las muestra difuminadas.
Medidas adopatadas
De esta manera, el usuario puede decidir si desea visualizar el contenido. Según la empresa, la función forma parte de un conjunto de medidas orientadas a combatir la sextorsión y el grooming.
La red social Instagram anunció que estas herramientas buscan reducir el envío no solicitado de imágenes íntimas y reforzar la seguridad digital, especialmente entre adolescentes. La función se activa por defecto en cuentas de menores de edad.
Sin embargo, declaraciones reveladas en el proceso judicial indican que dentro de la compañía ya existían preocupaciones formales desde 2018 sobre el uso indebido de los mensajes directos.
Advertencias internas desde 2018
De acuerdo con documentos presentados ante el tribunal, en una cadena de correos electrónicos de 2018 el entonces vicepresidente y director de Seguridad de la Información de Meta, Guy Rosen, advirtió que a través de aplicaciones de mensajería podían ocurrir "cosas horribles" relacionadas con el intercambio de contenido problemático.
Estos intercambios forman parte del expediente de una demanda que acusa a varias empresas tecnológicas de diseñar productos potencialmente adictivos y con efectos perjudiciales en menores. La revelación de estos correos ha generado cuestionamientos sobre la rapidez con la que la compañía adoptó medidas de prevención.
Durante el proceso, el responsable de Instagram, Adam Mosseri, declaró que el envío de contenido sensible puede ocurrir en cualquier servicio de mensajería y no exclusivamente en esa red social.
Datos sobre exposición de menores
En su testimonio, Mosseri explicó que la empresa buscaba equilibrar la privacidad de los usuarios con su seguridad al momento de implementar nuevas funciones de control en los mensajes directos.
Asimismo, se revelaron resultados de una encuesta interna realizada a usuarios de entre 13 y 15 años. Según los datos presentados ante el tribunal, el 19,2 % reconoció haber visto imágenes sexuales o desnudos que no deseaba ver en la plataforma, mientras que el 8,4 % afirmó haber observado contenido en el que alguien se hería o amenazaba con hacerlo en los siete días previos.
Estas cifras fueron citadas como parte del debate sobre la seguridad en redes sociales y la exposición de adolescentes a contenidos sensibles en entornos digitales.
Declaración del director ejecutivo
En el mismo proceso judicial, el director ejecutivo de Meta, Mark Zuckerberg, compareció ante un jurado en Los Ángeles. Durante su declaración, fue interrogado sobre el diseño de funciones en Instagram y Facebook y la estrategia de la empresa para atraer usuarios.
Zuckerberg sostuvo que las herramientas desarrolladas por la compañía están pensadas para hacer que la plataforma sea "útil" para los usuarios, y no para aumentar deliberadamente el tiempo de permanencia ni causar daños a la salud mental.
El caso judicial continúa en trámite en Estados Unidos y se enmarca en una serie de procesos que examinan el impacto de las redes sociales en menores de edad, así como las políticas de moderación y diseño de producto adoptadas por las principales plataformas tecnológicas.
