Ofcom ha hecho un “contacto urgente” con la empresa xAI de Elon Musk tras informes de que su herramienta de inteligencia artificial Grok puede utilizarse para crear “imágenes sexualizadas de niños” y desnudar a mujeres.
Un portavoz del regulador dijo que también estaba investigando preocupaciones de que Grok estuviera produciendo “imágenes desnudas” de personas.
La BBC ha visto varios ejemplos. en la plataforma de redes sociales
X no respondió a una solicitud de comentarios. el domingo es emitió una advertencia a los usuarios No utilice Grok para generar contenido ilegal, incluida la pornografía infantil.
Elon Musk también publicado para decir cualquiera que pida a la IA que genere contenido ilegal “sufrirá las mismas consecuencias” que si lo subiera él mismo.
La Política de uso aceptable de XAI prohíbe “representar personas de manera pornográfica”.
Pero la gente está utilizando Grok para desnudar digitalmente a personas sin su consentimiento y sin informarles.
Es un asistente virtual gratuito, con funciones premium pagas, que responde a las indicaciones de X usuarios cuando lo etiquetan en una publicación.
Samantha Smith, una periodista que descubrió que los usuarios habían usado IA para crear fotos de ella en bikini, dijo el viernes al programa PM de la BBC que se sentía “deshumanizada y reducida a un estereotipo sexual”.
“Aunque no era yo quien se desnudó, se veía y se sentía como yo y fue tan violento como si alguien hubiera publicado una foto mía desnuda o en bikini”, dijo.
Según la Ley de Seguridad en Línea, Ofcom dice que es ilegal crear o compartir imágenes íntimas o sexualmente explícitas (incluidos los “deepfakes” creados con IA) de una persona sin su consentimiento.
Las empresas de tecnología también deberían tomar “medidas apropiadas” para reducir los riesgos de que los usuarios del Reino Unido encuentren dicho contenido y eliminarlo “con prontitud” cuando se les informe.
Un portavoz del Ministerio del Interior dijo que se estaba legislando para prohibir las herramientas de nudificación y que, según un nuevo delito penal, cualquiera que suministrara dicha tecnología “enfrentaría una pena de prisión y multas sustanciales”.
