La Unión Europea ha iniciado oficialmente una investigación sobre la empresa de redes sociales X de Elon Musk por lo que describió como deepfakes de mujeres y niños desnudos generados por su chatbot Grok, impulsado por inteligencia.
El órgano ejecutivo de la UE, la Comisión Europea, dijo el lunes que estaba estudiando si La empresa de tecnología de Musk violó la Ley de Servicios Digitales, que exige que plataformas como X impidan la distribución de imágenes sexualmente explícitas manipuladas, incluidas imágenes de abuso sexual infantil.
“Las falsificaciones sexuales de mujeres y niños constituyen una forma violenta e inaceptable de degradación”, dijo en un comunicado Henna Virkkunen, vicepresidenta ejecutiva de tecnología de la Comisión Europea.
“A través de esta investigación, determinaremos si X cumplió con sus obligaciones legales bajo la DSA, o si trató los derechos de los ciudadanos europeos -incluidos los de mujeres y niños- como daños colaterales de su servicio. »
La Comisión citó lo que llamó la supuesta “difusión de contenidos ilegales, efectos negativos relacionados con la violencia de género y graves consecuencias negativas para el bienestar físico y mental derivadas del despliegue de las funciones de Grok en su plataforma” al iniciar la investigación.
Los funcionarios de la UE han advertido que X podría enfrentar sanciones de hasta el 6% de la facturación anual global si se confirman las violaciones.
El robot Grok AI de Musk provocó indignación a finales del año pasado después de que la aplicación X se inundara con imágenes de mujeres cuya apariencia había sido alterada digitalmente para que pareciera que estaban en bikini o lencería, a pesar de que las fotos originales las mostraban completamente vestidas.
Los cambios se realizaron cuando los usuarios Pudimos preguntarle a Grok desnudarlos sin su previo consentimiento.
Un análisis realizado por la investigadora Geneviève Oh encontró que Grok generaba aproximadamente 7.750 imágenes sexualmente sugerentes o “desnudistas” por hora.
Ashley St. Clair, la influenciadora de las redes sociales que dio a luz a un bebé cuyo padre fue Musk, presentó una demanda contra la startup de inteligencia artificial del multimillonario, xAI, que creó Grok.
Ella alegó en un expediente judicial que el robot de Musk generó imágenes falsas de ella cuando era una niña desnuda y tomó represalias contra ella, desmonetizando su cuenta X, cuando exigió que se detuviera el acoso.
A principios de este mes, la compañía de Musk decidió tomar medidas enérgicas contra los deepfakes. Grok dijo a los usuarios a principios de enero que “la generación y edición de imágenes está actualmente limitada a suscriptores pagos”.
Musk también publicó que las personas que usan Grok para crear contenido ilegal “sufrir las mismas consecuencias” como si estuvieran subiendo dicho contenido.
Los reguladores fuera de la UE rápidamente examinaron a Grok a medida que se extendía la reacción del deepfake.
En el Reino Unido, El organismo de control de medios Ofcom ha iniciado una investigación formal en el chatbot, citando preocupaciones similares a las planteadas en Europa sobre la creación y difusión de imágenes sexualmente explícitas y potencialmente ilegales.
Autoridades de Australia, Francia y Alemania también han abierto investigaciones a Grok sobre la controversia sobre los deepfakes sexuales, como parte de una respuesta internacional más amplia y coordinada.
Aunque los reguladores específicos y los mecanismos de aplicación varían, los funcionarios de cada país citaron la misma preocupación básica: Grok permitió imágenes sexualizadas no consensuadas de personas reales, incluidos menores, a gran escala.
En Estados Unidos se tomaron medidas a nivel estatal, cuando Rob Bonta, fiscal general de California, anunció la apertura de una investigación.
En Asia, los reguladores han ido más allá.
Tanto Indonesia como Malasia impusieron prohibiciones temporales a Grok, aunque Malasia levantó posteriormente su restricción.
Un representante de Musk no estuvo disponible de inmediato para hacer comentarios.
