Meta AI comenzó a aplicar nuevas herramientas de protección para adolescentes que utilizan su asistente conversacional, con un sistema que permitirá enviar avisos a los padres cuando detecte conversaciones vinculadas con temas sensibles como el suicidio o las autolesiones. La compañía explicó que la medida busca reforzar los recursos de apoyo disponibles para los menores de edad.
La empresa tecnológica informó que estas funciones buscan identificar señales que indiquen que un adolescente "podrían estar pasando por un momento difícil" durante una conversación con el chatbot. Además, Meta señaló que trabaja en mecanismos para adaptar la experiencia del asistente según la edad de los usuarios.
Actualmente, cuando un adolescente expresa en una conversación con Meta AI que podría estar pensando en hacerse daño o atravesar una situación relacionada con su bienestar, el asistente muestra recursos de ayuda y recomienda contactar con líneas de apoyo o hablar con un adulto de confianza.
Meta AI activa alertas para conversaciones sensibles
La nueva función añade notificaciones dirigidas a los padres, una herramienta similar a la que Instagram utiliza cuando identifica búsquedas frecuentes de términos relacionados con el suicidio o las autolesiones dentro de un periodo corto de tiempo.
En el caso de Meta AI, las alertas no solo se activarán cuando existan referencias directas a estos temas, sino también cuando el sistema detecte señales menos evidentes que puedan indicar una situación de riesgo para el adolescente, según explicó Meta en un comunicado publicado en su blog.
Antes de enviar una notificación, las conversaciones identificadas con contenido sensible pasarán por una revisión realizada por un equipo de moderación humano. Este proceso busca analizar el contexto del diálogo antes de informar a los responsables de la cuenta.
Meta indicó que "si la intención de un adolescente es ambigua, actuarán con precaución y alertarán a los padres". La compañía explicó que este criterio permitirá tomar medidas preventivas cuando exista incertidumbre sobre la situación expresada en la conversación.
Protección parental de Meta AI llegará a más países
Las alertas de Meta AI ya están disponibles para padres que utilizan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá. La compañía anunció que planea ampliar esta función al resto de países antes de que termine el año.
Además, Meta mantiene una configuración de contenido limitado para cuentas de adolescentes, una herramienta que restringe la aparición de contenido para mayores de 13 años. Ahora, esta medida también se aplicará a las conversaciones que los menores mantengan con Meta AI.
De esta manera, los padres podrán contar con más controles dentro de las herramientas digitales utilizadas por sus hijos adolescentes. La compañía señaló que estas funciones forman parte de un proceso para establecer límites y acompañamiento en el uso de inteligencia artificial.
Asimismo, Meta informó que continúa trabajando junto con especialistas en salud mental y expertos en adolescentes para mejorar las respuestas que ofrece Meta AI cuando recibe consultas relacionadas con suicidio y autolesiones.
El objetivo de la empresa es ajustar el comportamiento del asistente para responder de manera adecuada ante conversaciones que involucren situaciones sensibles, mientras desarrolla nuevas medidas de protección para usuarios adolescentes.
