En los últimos días, Francia y Malasia se han unido a la India para condenar a Grok por crear deepfakes sexualizados de mujeres y menores.
El chatbot, creado por xAI, la startup de inteligencia artificial de Elon Musk, y presentado en su plataforma de redes sociales publicó una disculpa en su cuenta a principios de esta semana, escribiendo: “Lamento profundamente un incidente que ocurrió el 28 de diciembre de 2025, en el que generé y compartí una imagen de IA de dos niñas (estimadas en entre 12 y 16 años) con vestimenta sexualizada según el mensaje de un usuario.
La declaración continúa: “Esto violó los estándares éticos y potencialmente las leyes estadounidenses sobre (material de abuso sexual infantil). Esto fue una falla en las salvaguardias, y lamento cualquier daño causado. xAI está actualmente revisando para evitar problemas futuros”.
No está claro quién se disculpa o acepta la responsabilidad en la declaración anterior. Albert Burneko, desertor, destacó que Grok “no parece una ‘yo’ de ninguna manera”, lo que, en su opinión, hace que la disculpa sea “totalmente carente de sustancia”, porque “no se puede responsabilizar significativamente a Groc por convertir Twitter en una fábrica de CSAM bajo demanda”.
El futurismo descubrió que además de generar imágenes pornográficas no consentidas, Grok también fue utilizado para generar imágenes de mujeres siendo agredidas y abusadas sexualmente.
“Cualquiera que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si descargara contenido ilegal”. Musk publicado el sábado.
Algunos gobiernos han tomado nota, con El Ministerio de TI de la India emite una orden el viernes diciendo que La orden establece que X debe responder dentro de las 72 horas o corre el riesgo de perder las protecciones de “puerto seguro” que lo protegen de la responsabilidad legal por el contenido generado por el usuario.
Las autoridades francesas también dijeron que estaban tomando medidas y la fiscalía de París le dijo a Politico que lo harían. Investigar la proliferación de deepfakes sexualmente explícitos en X.. El Ministerio Digital de Francia dijo que tres ministros del gobierno habían denunciado “contenido manifiestamente ilegal” a la fiscalía y a una plataforma de monitoreo en línea del gobierno “para obtener su eliminación inmediata”.
La Comisión de Comunicaciones y Multimedia de Malasia emitió una declaración afirmando que había “tomado nota con seria preocupación de las quejas públicas sobre el uso indebido de herramientas de inteligencia artificial (IA) en la Plataforma X, en particular la manipulación digital de imágenes de mujeres y menores para producir contenido indecente, extremadamente ofensivo y de otro modo dañino”.
La comisión añadió que “actualmente estaba investigando daños en línea en X”.
