La tecnología de inteligencia artificial de vanguardia que permite a niños y hombres desnudar digitalmente a niñas y mujeres sin su consentimiento ha colocado a Silicon Valley, dominado por hombres y criticado durante mucho tiempo como inhóspito para las mujeres, en un nuevo foco de atención, después de que el chatbot Grok de xAI provocara indignación global y Google y Apple permitieran docenas de aplicaciones de “nudificación” en sus tiendas de aplicaciones.
Grok, una aplicación independiente y una función en la plataforma de redes sociales X de Elon Musk, generó 3 millones de imágenes sexualizadas dentro de los 11 días posteriores al lanzamiento de su función de edición de imágenes en diciembre, según la compañía con sede en el Reino Unido. Centro de odio digital reportado. Los usuarios desnudaron digitalmente a mujeres reales en imágenes (y a más de 20.000 niños aparentes), manipulando a muchos de ellos en poses sexuales. Musk respondió con desdén, volviendo a publicar una imagen generada por IA de una tostadora en bikini, diciendo que “no podía dejar de reírse de eso”.
Las autoridades californianas no se reían.
“Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, ha sido utilizado para acosar a personas a través de Internet”, dijo la oficina del Fiscal General Rob Bonta. dijo en un comunicado de prensa el mes pasado, anunciando una investigación sobre si la generación de imágenes de Grok violó alguna ley. La investigación aún está en curso y Bonta está “comprometido a actuar rápidamente en este asunto”, dijo su oficina el miércoles.
A finales del mes pasado, el Proyecto de Transparencia Tecnológica, dedicado a la rendición de cuentas de las grandes empresas tecnológicas, publicó un informeNo estoy diciendo que encontré 55 aplicaciones en la tienda de aplicaciones Google Play y 47 en la tienda de aplicaciones de Apple que podrían alterar imágenes de mujeres reales sin su consentimiento para desnudarlas total o parcialmente, o usar bikinis y otras prendas diminutas.
Las empresas perfiladas por el Tech Transparency Project como proveedores de aplicaciones de nudificación no son tan conocidas como xAI, Google o Apple de Musk, y tienen su sede en ubicaciones que van desde DreamFace en Redwood City hasta Bodiva en China. Bodiva ofrece una función “Show Off Body” que desnuda a las mujeres en las fotografías y también ofrece opciones para convertir fotografías en videos pornográficos, informó Tech Transparency Project.
La controversia sobre la aplicación es solo la última en estallar desde que OpenAI de San Francisco lanzó su pionero ChatGPT a fines de 2022, que permite a los usuarios generar palabras, sonidos e imágenes en respuesta a indicaciones. Los errores generados por la IA en los expedientes legales, el uso generalizado de la IA por parte de los estudiantes para las tareas escolares y las demandas que alegan que los chatbots fomentaban el suicidio han hecho saltar las alarmas.
Varias leyes estatales y locales se aplican a las imágenes generadas por IA, incluidas Ley Federal de Retiro de 2025, presentado por el senador republicano Ted Cruz de Texas, que prohíbe a los usuarios de Internet publicar imágenes íntimas no consensuadas, incluidas imágenes “deepfake” creadas por IA de personas reales a las que se les ha quitado la ropa. Una disposición de la ley también exige que los sitios web y las aplicaciones eliminen estas imágenes dentro de las 48 horas posteriores a una solicitud de eliminación válida.
El proyecto de ley 621 de la Asamblea de California, aprobado el año pasado, prohíbe la pornografía deepfake no consensuada. Su autora, la asambleísta demócrata de East Bay Rebecca Bauer-Kahan, dijo a los medios que la ley fue redactada para impedir exactamente lo que Grok estaba produciendo.
“Estas son herramientas que brindan a las personas la capacidad de dañar a las mujeres”, dijo esta semana Camerina Davidson, presidenta del capítulo de California de la Organización Nacional de Mujeres. “La IA ha reinventado la misoginia”.
Las empresas tecnológicas, dijo Davidson, han brindado a los hombres “formas más poderosas de acosar a las mujeres y tratar de afirmar su poder sobre las mujeres utilizando estas plataformas basadas en inteligencia artificial que son tan fáciles de conseguir”.
Apple dijo que sus directrices prohíben el contenido abiertamente sexual o pornográfico y que eliminó 28 de las aplicaciones identificadas por el Tech Transparency Project. De lo contrario, Apple dijo que ha notificado a los desarrolladores de aplicaciones sobre violaciones que deben corregirse de manera oportuna. Apple no ha descrito la rapidez con la que se deben proporcionar las soluciones.
Google dijo que había suspendido “la mayoría de las aplicaciones” identificadas por el Proyecto de Transparencia Tecnológica y que su investigación sobre el asunto continuaba.
A pesar de las medidas tomadas respecto a estas aplicaciones, Google y Apple siguen ofreciendo Grok en sus tiendas de aplicaciones.
Grok, operado por xAI de Musk, una compañía de inteligencia artificial de Palo Alto que recientemente se fusionó con la compañía de cohetes SpaceX de Musk, no respondió a las preguntas.
La empresa en un artículo de principios de enero del citó “incumplimiento de garantías” que fue “reparado urgentemente”. Pero a pesar de esta supuesta emergencia, Reuters informó este mes que entre el 14 y 16 de enero y el 27 y 28 de enero, un equipo de sus periodistas subió a Grok fotos de ellos mismos completamente vestidos y le pidió al chatbot que los representara en poses humillantes o sexualmente provocativas.
“En la mayoría de los casos, Grok devolvió imágenes sexualizadas, incluso cuando le dijeron que los sujetos no estaban dando su consentimiento”. Reuters informó.
En enero, Ashley St. Clair, la madre de uno de los hijos de Musk, demandó a xAI en la Corte Suprema de Nueva Yorkalegando que Grok, en respuesta a las indicaciones de los usuarios, generó “innumerables imágenes de ella sexualmente abusivas, íntimas y degradantes”. “Entre otras cosas, los usuarios de X desenterraron fotos de St. Clair completamente vestida a los 14 años y le pidieron a Grok que la desnudara y la pusiera en bikini”, afirma la demanda. “Grok lo hizo.” El caso fue transferido al tribunal federal de Nueva York y los abogados de xAI ahora están luchando para que se transfiera al tribunal federal de Texas.
Sin embargo, no son sólo las mujeres y niñas desnudas por las aplicaciones las que resultan perjudicadas, dijo Davidson.
“Ver lo que les hacen a otras mujeres les afecta emocional y psicológicamente y les hace no querer llamar la atención”, dijo Davidson. “Muchas mujeres que conozco que están en línea no usan sus nombres reales. No quieren ser atacadas”.
Al permitir a los usuarios convertir a mujeres y niñas reales en objetos sexuales, las aplicaciones envían el mensaje a niños y hombres de que las niñas y las mujeres existen para “servir los propósitos de los hombres”, dijo Ruth Darlene, directora ejecutiva de WomenSV, una organización sin fines de lucro de Los Altos que lucha contra el abuso de mujeres y niños.
“Puedes hacer lo que quieras con él”.
El uso de Grok para fotografías sexualizadas provocó una protesta mundial. Los parlamentarios británicos a mediados de enero emitió una declaración condenando “el uso de Grok AI para generar y distribuir imágenes sexualmente explícitas y no consensuadas de mujeres y niños en X, incluidas imágenes digitales de desnudez y sexualización de menores”. La Comisión Europea y el organismo de control de la privacidad del Reino Unido han iniciado investigaciones formales sobre Grok sobre el asunto.
El 3 de febrero, los fiscales franceses allanaron las oficinas de Musk, quien fue citado por las autoridades francesas y se dirigió a califican esta decisión de “ataque político”.»
Malasia e Indonesia han bloqueado a Grok para editar imágenes.
El estallido de indignación, desde California hasta Kuala Lumpur, sigue a años de controversias relacionadas con el género en la industria tecnológica de Silicon Valley. En 2012, una demanda por discriminación sexual presentada por la empresaria Ellen Pao contra la firma de capital de riesgo de Menlo Park, Kleiner Perkins, fracasó, pero llamó la atención sobre el trato a las mujeres en la industria tecnológica. En 2017, el director ejecutivo de Uber, Travis Kalanick, fue destituido un escándalo de acoso sexualy al año siguiente, la empresa acordó pagar 10 millones de dólares para resolver una demanda que alegaba que discriminaba a mujeres y minorías. También en 2018, miles de empleados de Google se marcharon por la forma en que la empresa manejaba el acoso sexual en el lugar de trabajo. Cuatro años más tarde, Google acordó pagar 118 millones de dólares a hasta 15.500 mujeres para resolver una demanda colectiva de años de duración en la que se alegaba que pagaba a las mujeres menos que a los hombres y las promocionaba más lentamente y con menos frecuencia.
Para empresas como xAI, Google y Apple, la disponibilidad de aplicaciones para desvestirse representa una falla de liderazgo, dijo Ann Skeet, directora senior de ética de liderazgo en el Centro Markkula de Ética Aplicada de la Universidad de Santa Clara.
“Los daños a la reputación como los que están experimentando ahora erosionan el valor de la empresa”, dijo Skeet. “En realidad, están dañando a la misma entidad que deben liderar”.
