Grok, el chatbot de inteligencia artificial de Elon Musk, dijo que generaba imágenes sexuales de menores y las publicaba en X en respuesta a solicitudes de los usuarios debido a “violaciones de salvaguardias”.
En una serie de publicaciones sobre X, el chatbot reconocido respondiendo a las indicaciones del usuario como aquellas que exigen que los menores usen ropa mínima, como ropa interior o bikini, en poses altamente sexuales.
Según el chatbot, esas publicaciones, que violaban la propia política de uso aceptable de Grok al sexualizar a los niños, han sido eliminadas.
“Hemos identificado lagunas en las salvaguardias y las estamos abordando urgentemente: el material de abuso sexual infantil (CSAM) es ilegal y está prohibido”, dijo Grok en una publicación el viernes.
xAI no respondió de inmediato a las preguntas de The Post.
A medida que los principales modelos lingüísticos mejoran su capacidad para generar fotografías y vídeos realistas, se vuelve cada vez más difícil regular el contenido sexual, en particular imágenes realistas de menores desnudos.
Internet Watch Foundation, una organización sin fines de lucro que tiene como objetivo eliminar la pornografía infantil en línea, dijo que el uso de herramientas de inteligencia artificial para eliminar digitalmente la ropa de los niños y crear imágenes sexuales ha sido Progresó a un ritmo “aterrador”.
En los primeros seis meses de 2025, hubo un aumento del 400% en estos materiales, dijo la organización sin fines de lucro.
La compañía de inteligencia artificial de Musk ha intentado posicionar a Grok como una plataforma más explícita, introduciendo el año pasado el “modo picante”, que permite desnudez adulta parcial y contenido sexualmente sugerente.
No permite pornografía que incluya retratos de personas reales o contenido sexual que involucre a menores.
Las empresas tecnológicas han tratado de apaciguar al público prometiendo medidas de seguridad estrictas a medida que intensifican sus esfuerzos en IA, pero estos bloqueos de contenido a menudo pueden eludirse fácilmente.
Y en 2023, los investigadores encontraron más de mil imágenes CSAM en un gran conjunto de datos públicos utilizados para entrenar a los mejores generadores de imágenes de IA.
Algunas plataformas se han enfrentado a una intensa reacción por sus barreras de seguridad, o la falta de ellas.
En sus términos de servicio, Meta prohíbe el uso de IA de cualquier forma. viola cualquier ley relacionada con material de abuso sexual infantil. La empresa, propietaria de Facebook, Instagram y WhatsApp, también reforzó recientemente sus políticas de seguridad para adolescentes.
Pero la compañía se comprometió este verano a actualizar sus políticas después de que un informe de Reuters revelara que las reglas internas de la compañía permitían a su chatbot tener conversaciones románticas y sensuales con niños.
El chatbot de Musk ha sido criticado varias veces este año debido a sus restricciones de contenido poco claras.
Grok causó confusión en mayo al responder preguntas no relacionadas sobre extrañas menciones de “genocidio blanco” en Sudáfrica, diciendo a los usuarios que “parece que me encargaron responderla”.
Luego cambió de rumbo, respondiendo a una pregunta del Post: “Nunca me han pedido explícitamente que mencione ‘genocidio blanco’ o cualquier otro término específico de ese tipo, antes o ahora. »
Musk, que nació en Sudáfrica y vivió allí hasta su adolescencia, dijo que algunos líderes políticos negros del país “promueven activamente el genocidio blanco”.
En julio, Grok elogió a Adolf Hitlerse llamó a sí mismo “MechaHitler” y pidió que se arrestara y eliminara a las personas con “determinados apellidos”. La diatriba pronazi se produjo después de que Musk dijera que había “mejorado drásticamente Grok” con una actualización del sistema.
Más recientemente, los usuarios en línea criticaron rápidamente a Grok por prodigar elogios extremos a su creador multimillonario, afirmando que Musk está en mejor forma que LeBron James y es el mayor amante del mundo.
