Grok de Elon Musk fue bloqueado por Indonesia y Malasia, los primeros países en hacerlo tras el lanzamiento de la herramienta de IA. “desnudarse digitalmente” Esta característica inundó Internet con fotografías de mujeres y menores en imágenes manipuladas sugerentes y obscenas.
La presión internacional ha aumentado sobre Musk para que controle a Grok luego de una tendencia viral en la que los usuarios pidieron a la herramienta de inteligencia artificial que generara deepfakes sexualmente explícitos.
Grok es una herramienta en la plataforma de redes sociales X de Musk, anteriormente conocida como Twitter.
Meutya Hafid, Ministro de Digital de Indonesia dijo en un comunicado el sábado La prohibición tenía como objetivo “proteger a las mujeres, los niños y el público en general de los riesgos asociados con el contenido pornográfico falso generado mediante tecnología de inteligencia artificial”.
Malasia anunció su propia prohibición temporal el domingo tras “el repetido uso indebido de Grok para generar imágenes obscenas, sexualmente explícitas, indecentes, extremadamente ofensivas y manipuladas sin consentimiento, incluido contenido que involucra a mujeres y menores”.
Tanto Indonesia como Malasia son países de mayoría musulmana con estrictas leyes contra la pornografía.
CNN se ha puesto en contacto con la empresa matriz xAI para solicitar comentarios.
Funcionarios del Reino Unido, la Unión Europea y la India también han expresado su preocupación por las barreras de seguridad de Grok.
Anteriormente, Musk y xAI dijeron que estaban abordando el problema suspendiendo permanentemente las cuentas infractoras y “trabajando con los gobiernos locales y las fuerzas del orden”. Pero las respuestas de Grok a las solicitudes de los usuarios todavía estaban inundadas de imágenes que sexualizaban a las mujeres.
Muchos usuarios consideran que Grok es un caso atípico en comparación con otros modelos tradicionales de IA al permitir, y en algunos casos promover, contenido sexual explícito y avatares acompañantes.
La tendencia del stripping digital comenzó a finales del año pasado, cuando muchos usuarios descubrieron que podían identificar a Grok en X y hacerle manipular imágenes.
Los usuarios solicitaron al chatbot que generara imágenes de personas en bikini y posando sugestivamente, causando angustia a cientos de miles de mujeres en todo el mundo.
Investigadores de AI Forensics, una organización europea sin fines de lucro que estudia algoritmos, analizaron más de 20.000 imágenes aleatorias generadas por Grok y 50.000 solicitudes de usuarios entre el 25 de diciembre y el 1 de enero.
Los investigadores encontraron “una alta prevalencia de términos como ‘ella’, ‘ponerse/quitarse’, ‘bikini’ y ‘ropa'”.
Más de la mitad de las imágenes generadas de personas “contenían individuos vestidos con prendas minimalistas, como ropa interior o bikinis”.
Musk se opone a la censura
Públicamente, Musk ha hecho campaña durante mucho tiempo contra los modelos de IA “despertados” y lo que él llama censura.
Pero el multimillonario se opuso a las barreras de Grok en la empresa, dijo a CNN una fuente con conocimiento de la situación en xAI.
El equipo de seguridad de xAI, que ya era pequeño en comparación con sus competidores, perdió varios empleados en las semanas previas a la controversia.
Musk dijo que cualquiera que use Grok para crear contenido ilegal enfrentará consecuencias. Pero ha descartado en gran medida las preocupaciones sobre el contenido sexual en la aplicación, argumentando que los gobiernos “sólo quieren suprimir la libertad de expresión” y respondiendo a las críticas con emojis.
La semana pasada, Grok limitó algunas de sus funciones de generación de imágenes. a suscriptores X pagos, pero las restricciones solo se aplican a una de las formas en que los usuarios interactúan con Grok.
Los no suscriptores aún pueden pedirle a Grok que edite imágenes en la aplicación, y las funciones de generación de imágenes y videos aún se ofrecen de forma gratuita a través de su sitio web y aplicación independientes.
La secretaria de Tecnología de Gran Bretaña, Liz Kendall, pidió el viernes que se tomen medidas rápidas para abordar las imágenes falsas.
“La manipulación sexual de imágenes de mujeres y niños es despreciable y aborrecible”, afirmó.
“Espero que Ofcom utilice todos los poderes legales que le ha otorgado el Parlamento”, añadió, refiriéndose al regulador independiente de comunicaciones del Reino Unido.
Hadas Gold y Trista Kurniawan de CNN contribuyeron con el reportaje.
Para obtener más noticias y boletines informativos de CNN, cree una cuenta en CNN.com
