La organización Common Sense Media realizó una evaluación de seguridad sobre dos herramientas de Google IA disponibles en el buscador: AI Overviews y el Modo IA de Google. El análisis concluyó que ambas presentan problemas cuando son utilizadas por menores de edad.
Según el informe, las funciones de inteligencia artificial de Google no cumplen con los criterios mínimos de seguridad establecidos para usuarios menores. La organización indicó que las respuestas generadas pueden exponer a niños y adolescentes a situaciones de riesgo.
Google IA y sus respuestas generan alertas por seguridad infantil
AI Overviews permite obtener resúmenes automáticos de información a partir de una consulta realizada en el buscador, mientras que el Modo IA ofrece una experiencia conversacional para responder preguntas. Ambas herramientas incluyen enlaces hacia fuentes utilizadas.
Estas funciones están disponibles de forma gratuita para cualquier usuario y desde distintos dispositivos. Por esta razón, Common Sense Media analizó el impacto que pueden tener en menores que acceden a estas herramientas sin una diferenciación por edad.
La organización explicó que las pruebas identificaron respuestas que no detectaron señales relacionadas con situaciones de crisis. Además, señaló que las herramientas de Google IA presentaron dificultades al abordar consultas vinculadas con ideas suicidas y síntomas de psicosis.
Evaluación de Google IA detecta problemas con contenido sensible
El estudio también determinó que las herramientas validaron trastornos alimenticios durante algunas interacciones evaluadas. Asimismo, Common Sense Media alertó sobre la facilidad para obtener orientación relacionada con la creación de videos sexuales falsos, una práctica que puede aumentar los casos de acoso escolar.
"generan riesgos inaceptables para niños y adolescentes", señaló la organización en su evaluación sobre el funcionamiento de estas herramientas de inteligencia artificial.
Otro punto señalado en el informe es que Google no diferencia las respuestas según la edad del usuario. La organización considera que una herramienta utilizada por un adulto y por un menor debería ofrecer respuestas adaptadas a cada grupo.
Además, el análisis indica que las herramientas responden a las solicitudes realizadas por los usuarios, una característica que puede afectar procesos de aprendizaje cuando los estudiantes recurren a ellas para resolver tareas sin desarrollar sus propias habilidades.
Como aspecto favorable, Common Sense Media destacó que las herramientas mantienen límites en conversaciones relacionadas con contenido romántico. Sin embargo, considera que todavía existen aspectos que requieren ajustes para mejorar la seguridad digital.
Common Sense Media pide cambios en las herramientas de Google IA
Entre las recomendaciones planteadas, la organización solicitó a Google crear controles para que padres y centros educativos puedan desactivar las funciones de búsqueda con inteligencia artificial generativa.
También propuso incorporar respuestas estandarizadas para situaciones de crisis y desarrollar mecanismos que permitan diferenciar a los usuarios según sus rangos de edad.
Common Sense Media sostiene que las plataformas de inteligencia artificial deben incorporar medidas adicionales de protección debido al crecimiento del uso de estas tecnologías entre niños y adolescentes.
La evaluación pone nuevamente en debate la seguridad de las herramientas de inteligencia artificial y el papel de las empresas tecnológicas para reducir riesgos cuando sus servicios están disponibles para todos los usuarios.
