La plataforma de redes sociales X de Elon Musk ha provocado indignación después de que la gente utilizara su chatbot de inteligencia artificial Grok para editar fotos de mujeres quitándose la ropa.
La BBC ha visto varios ejemplos de mujeres desnudas para aparecer en bikini sin su consentimiento, además de ser puestas en situaciones sexuales.
XAI, la compañía detrás de Grok, no respondió a las solicitudes de comentarios de la BBC, excepto una respuesta generada automáticamente que decía “mentiras de los medios heredados”.
Un portavoz del Ministerio del Interior dijo que se estaba legislando para prohibir las herramientas de nudificación y que, según un nuevo delito penal, cualquiera que suministrara dicha tecnología “enfrentaría una pena de prisión y multas sustanciales”.
El regulador Ofcom dijo que las empresas de tecnología deben “evaluar el riesgo” de que las personas en el Reino Unido vean contenido ilegal en sus plataformas, pero no confirmó si actualmente estaba investigando a X o Grok en relación con las imágenes de IA.
Grok es un asistente de inteligencia artificial gratuito (con funciones premium pagas) que responde a las indicaciones de X usuarios cuando lo etiquetan en una publicación.
A menudo se usa para dar una reacción o más contexto a los comentarios de otros usuarios, pero los usuarios de X también pueden editar una imagen cargada con su función de edición de imágenes AI.
Ha sido criticado por permitir a los usuarios generar fotos y videos que contienen desnudos y contenido sexualizado, y anteriormente ha sido acusado de hacer un vídeo musical sexualmente explícito de Taylor Swift.
Clare McGlynn, profesora de Derecho en la Universidad de Durham, afirmó que X o Grok “podrían impedir estas formas de abuso si quisieran”, y añadió que “parecían gozar de impunidad”.
“La plataforma ha permitido la creación y distribución de estas imágenes durante meses sin tomar ninguna medida y aún no hemos visto ningún desafío por parte de los reguladores”, dijo.
Específico para XAI política de uso aceptable prohíbe “representar personas de manera pornográfica”.
En una declaración a la BBC, Ofcom dijo que era ilegal “crear o compartir imágenes íntimas no consensuadas o material de abuso sexual infantil” y confirmó que esto incluía deepfakes sexuales creados con IA.
Dijo que plataformas como
