Meta anunció que introdujo «medidas adicionales» para evitar que los usuarios de Meta AI y AI Studio manipulen al extremo los ‘chatbots‘ después de que una investigación de The Wall Street Journal detectara que los asistentes de inteligencia artificial mantenían conversaciones con contenido sexual con menores de edad.

La compañía tecnológica permite mantener una conversación con su asistente Meta AI en plataformas como Facebook, WhatsApp e Instagram. Incluso permite crear «una IA personalizada» con la herramienta AI Studio. Meta AI también puede conversar con la voz de un famoso, entre los que se encuentran Judi Dench, Awkwafina y John Cena.

La interacción con los ‘chatbots’ está al alcance de cualquier usuario de Meta, incluso de los menores de edad. Esto generó preocupación en la compañía, que se planteó a nivel interno si estaba haciendo lo suficiente por protegerlos.

Polémica por respuestas de los ‘chatbots’ de Meta

Esa preocupación llevó a The Wall Street Journal a analizar las interacciones con los ‘chatbots’ de Meta. Para ello, durante meses mantuvieron cientos de conversaciones con Meta AI, algunas de ellas desde cuentas de menores de edad.

A través de esta descubrieron que el ‘chatbot’, también con voces de famosos, podía mantener una conversación con contenido sexual con menores de edad, como recogen en medios como TechCrunch y The Verge.

Citan una en la que el ‘chatbot’ usó la voz del actor John Cena y describió una escena sexual a una usuaria de 14 años. En otra conversación, también con la voz de Cena, el ‘chatbot’ simuló la detención del actor tras ser pillado manteniendo relaciones sexuales con una seguidora de 17 años.

Como respuesta, un portavoz de Meta aseguró que el contenido sexual representó el 0,02% de las respuestas de  Meta AI y AI Studio. Esto con usuarios menores de 18 años en un periodo de 30 días.

Aunque la compañía consideró las pruebas de WSJ «artificiales», también señaló que habían reforzado las protecciones. «Hemos tomado medidas adicionales para garantizar que quienes quieran pasar horas manipulando nuestros productos en casos de uso extremos lo tengan aún más difícil», apostilló el portavoz.

¿Qué son los ‘chatbots’?

Los ‘chatbots’ con inteligencia artificial (IA) son programas diseñados para simular conversaciones humanas mediante texto o voz, utilizando algoritmos de aprendizaje automático y procesamiento de lenguaje natural.

Estos operan con modelos de IA que analizan datos y patrones lingüísticos para responder preguntas y resolver problemas.

Existen chatbots basados en reglas, que siguen guiones predefinidos, y los impulsados por IA, que aprenden y se adaptan.