La red social X, propiedad de Elon Musk, restringió el uso de su herramienta de inteligencia artificial, Grok, exclusivamente a usuarios con suscripción de pago, luego de varios días de denuncias internacionales por la creación y alteración de imágenes de desnudos sin consentimiento.
La medida se implementó esta semana y busca añadir un mecanismo de identificación a quienes utilicen la función de edición de imágenes.
La decisión se produce tras reportes de víctimas, organizaciones y autoridades que alertaron sobre el uso de la IA para generar "deepfakes" —imágenes manipuladas mediante inteligencia artificial—, incluyendo casos que involucrarían a menores de edad.
Identificación de usuarios y advertencia legal
Con el cambio, Grok pasa a ser una función premium dentro de X. Esto implica que cada imagen creada o modificada quedará vinculada al nombre y a los datos de pago del suscriptor. De acuerdo con la empresa, este registro facilitaría el rastreo en caso de que la herramienta se utilice con fines ilícitos.
Elon Musk se refirió al tema en su propia red social y advirtió sobre las consecuencias legales. "Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal", escribió.
Hasta antes de la restricción, usuarios gratuitos podían cargar fotografías y solicitar modificaciones sin que existieran filtros éticos efectivos, lo que derivó en la circulación de imágenes de mujeres en bikini o desnudas generadas artificialmente.
Críticas de víctimas y expertos
Pese al nuevo requisito de suscripción, especialistas y víctimas consideran que la medida no resuelve el problema de fondo.
Daisy Dixon, profesora de Filosofía en la Universidad de Cardiff y afectada por este tipo de contenido, señaló que la aparente desactivación de la generación de imágenes supone "al menos una pausa en estas ofensas", aunque advirtió que podría tratarse de "una curita para un problema más profundo: un diseño de IA poco ético y una misoginia generalizada".
Organizaciones que trabajan en derechos digitales han insistido en que la identificación de usuarios no sustituye la necesidad de implementar bloqueos técnicos que impidan la creación de desnudos no consentidos desde el diseño de la herramienta. El cuestionamiento central apunta a si las plataformas deben incorporar restricciones nativas más estrictas, independientemente de si el acceso es gratuito o de pago.
Acciones legales en Europa
La controversia también generó respuestas institucionales. En España, la ministra de Juventud e Infancia, Sira Rego, solicitó a la Fiscalía General del Estado que investigue a X y a Grok por presuntos delitos relacionados con la difusión de material de violencia sexual contra la infancia.
Por su parte, la Comisión Europea emitió una medida cautelar y ordenó conservar documentos internos de la empresa hasta finales de 2026, en el marco de la Ley de Servicios Digitales (DSA). X ya enfrenta una multa de 120 millones de euros por incumplimientos en materia de seguridad digital.
En el Reino Unido, el gobierno de Keir Starmer calificó como "un insulto" que una herramienta con capacidad de generar contenido ilegal pase a ser de pago, y pidió eliminar esa función de forma definitiva.
