Se ha instado a Elon Musk a tomar medidas urgentes para evitar que la herramienta Grok AI de X genere imágenes falsas e indecentes de niños y mujeres.
La secretaria de Tecnología, Liz Kendall, dijo que el multimillonario tecnológico estadounidense necesitaba intervenir después de que en los últimos días salieran a la luz casos de uso del sistema para crear imágenes sexualizadas de personas reales.
El regulador Ofcom ya ha pedido a X y xAI que expongan los pasos que están tomando para cumplir con las obligaciones legales para proteger a los usuarios británicos de la plataforma de redes sociales.
Pero la intervención del ministro amenaza con abrir un nuevo frente en la guerra entre el gobierno británico y Musk, quien anteriormente atacó las medidas británicas para regular las redes sociales.
“Lo que hemos visto en línea en los últimos días es absolutamente espantoso e inaceptable en una sociedad decente”, dijo Kendall esta tarde.
“Nadie debería tener que pasar por la terrible experiencia de ver deepfakes íntimos de sí mismo en línea.
“No podemos permitir ni permitiremos la proliferación de estas imágenes humillantes y degradantes, que apuntan de manera desproporcionada a mujeres y niñas.
‘X necesita abordar este problema con urgencia. Es absolutamente cierto que Ofcom está investigando este asunto con urgencia y cuenta con todo mi apoyo para tomar las medidas coercitivas que considere necesarias.
Ofcom “contactó urgentemente” a X y xAI por las imágenes sexualizadas de niños, lo que Grok admitió en una publicación en la plataforma de redes sociales.
Según la Ley de Seguridad en Línea del Reino Unido, las empresas de redes sociales deben prevenir y eliminar el contenido de pornografía infantil tan pronto como tengan conocimiento de ello.
La ley también prohíbe el uso de IA para generar imágenes pornográficas, también conocidas como deepfakes, de personas sin su consentimiento.
Pero los usuarios de X han destacado casos en los últimos días en los que Grok manipuló imágenes inocentes de actrices femeninas y infantiles después de que los usuarios pidieran alterar o quitarse la ropa digitalmente.
Ofcom ha hecho un “contacto urgente” con la plataforma de redes sociales X de Elon Musk después de serias preocupaciones de que su herramienta de inteligencia artificial Grok pudiera generar “imágenes sexualizadas de niños”.
Una publicación sobre Grok
Añadió: “xAI tiene salvaguardias, pero se están realizando mejoras para bloquear completamente dichas solicitudes. »
Ofcom se ha puesto en contacto urgentemente
Un portavoz del regulador dijo: “Abordar los daños ilegales en línea y proteger a los niños siguen siendo prioridades urgentes para Ofcom.
“Somos conscientes de las serias preocupaciones planteadas con respecto a una función de Grok en X que produce imágenes de personas desnudas e imágenes sexualizadas de niños.
“Hemos establecido contacto urgente con X y xAI para comprender las medidas que han tomado para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido”.
“En función de su respuesta, realizaremos una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”.
Cuando se le pidió un comentario sobre imágenes sexualizadas de niños en la plataforma, xAI respondió con un correo electrónico generado automáticamente que decía “mentiras de los medios heredados”.
Elon Musk parece ser consciente de la tecnología utilizada para desnudar a las personas, ya que publicó una foto generada de sí mismo en bikini.
La publicación original parece haber sido eliminada, pero volvió a publicar la respuesta de otro usuario con emojis de risa.
El director ejecutivo de Internet Watch Foundation, Kerry Smith, dijo: “La IWF ha recibido una serie de informes del público sobre supuestas imágenes de abuso sexual infantil en X generadas por el chatbot de IA Grok.
“Todavía estamos trabajando en estos informes pero, hasta ahora, no hemos visto ninguna imagen que supere el umbral legal para ser considerada abuso sexual infantil en el Reino Unido”.
Elon Musk parece estar al tanto de la tecnología utilizada para desnudar a las personas después de publicar una foto de él mismo en bikini con emojis de risa.
Instó al gobierno a exigir a las empresas de inteligencia artificial que incorporen medidas de seguridad en sus productos para evitar contenidos nocivos.
Un portavoz del Ministerio del Interior dijo: “Estamos legislando para prohibir las herramientas de nudificación en todas sus formas, incluido el uso de modelos de inteligencia artificial para este propósito.
“El abuso de la imagen íntima es un delito devastador que afecta desproporcionadamente a mujeres y niñas.
“Según este nuevo delito penal, cualquier persona o empresa que diseñe o proporcione estas herramientas de nudificación estará sujeta a penas de prisión y multas sustanciales”.
