IEs una repugnante ley de Internet que lo primero que la gente intentará hacer con una nueva herramienta es desnudar a las mujeres. Grok, el chatbot de IA de X, ha sido utilizado repetidamente por los usuarios estos últimos días para desnudar imágenes de mujeres y menores. El viernes pasado, Reuters identificó 102 solicitudes de usuarios durante un período de 10 minutos pidiéndole a Grok que mostrara personas en bikini, la mayoría de ellas dirigidas a mujeres jóvenes. Grok cumplió con al menos 21 de ellos.
No hay excusa para publicar herramientas de explotación en Internet mientras estás sentado 10.000 millones de dólares (7.500 millones de libras esterlinas) en efectivo. Cada plataforma que integra IA (que ahora cubre casi todo Internet) se está preparando para los mismos desafíos; Si desea permitir que los usuarios creen imágenes e incluso videos con IA generativa, ¿cómo lo hace sin permitir que las mismas personas causen daño? Las empresas de tecnología están gastando dinero entre bastidores que usted, como usuario, nunca verá para combatir esto; Harán “equipos rojos”, en los que se harán pasar por malos actores para probar sus productos. Realizarán pruebas beta para probar y revisar funciones en entornos confiables.
Con cada iteración, brindarán salvaguardias, no solo para mantener a los usuarios seguros y cumplir con la ley, sino también para apaciguar a los inversores que no quieren verse asociados con malas prácticas en línea. Pero desde el principio, Elon Musk no pareció actuar como si pensara que el stripping digital fuera un problema. Es prerrogativa de Musk si siente que alguien está convirtiendo un ardiente meme de Ben Affleck en una imagen de Musk semidesnudo. es “perfecto”. Esto no impide que compartir deepfakes de IA no consensuados sea ilegal en muchas jurisdicciones. incluido el Reino Unidodonde los infractores pueden ser acusados de compartir estas imágenes o crear imágenes sexuales de niños.
Una cosa útil que hizo Grok esta semana fue revelar cómo estaba programado. Cuando un usuario le preguntó por qué manipuló una imagen de la viceprimera ministra sueca, Ebba Busch, para que apareciera en bikini, respondió argumentó que era una sátira porque estaba hablando de la prohibición del burka. Luego insistió en que no era un deepfake de una foto real, sino una ilustración generada por IA (falsa), y añadió que su objetivo es equilibrar la diversión y la ética, “evitando daños reales y respondiendo creativamente” a las solicitudes.
Para alguien que supuestamente valora el humor, es extraño que Musk haya intentado proporcionarle uno a un chatbot. Los chatbots reciben un nombre equivocado porque en realidad no tienen idea de cómo hablar: generan texto prediciendo lo que es más probable que suceda a continuación, utilizando modelos estadísticos y entrenamiento de datos, en lugar de información real. La disculpa de Grok muestra que sus configuraciones de seguridad o factualidad no han sido probadas rigurosamente; fue programado para entretenimiento.
A medida que avanzaba la semana, el propio Musk pareció encontrar el chiste menos divertido. “Cualquiera que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si descargara contenido ilegal”. Musk amenazó el 3 de enero con lo que parecía toda la gravedad de una bola de pasta de ajo. Entre 2023 y 2024, X ha reducido significativamente su confianza y seguridad y depende demasiado de los informes de los usuarios. Esto significa que muchos actores maliciosos aún pueden cometer comportamientos ilegales en la plataforma.
En lugar de reconocer ese azul.
Otras herramientas de agentes de IA, como ChatGPT y Meta AI, prohíben la pornografía deepfake no consensuada y parecen imponerla, lo que plantea la pregunta: ¿por qué Grok no puede hacerlo? La forma en que el mundo elija vigilar la plataforma por permitir tan descaradamente que se cometan crímenes allí demostrará de una vez por todas si figuras como Musk pueden actuar con impunidad. Tengo curiosidad por ver cómo reaccionará ante esto la derecha política, que ha disfrutado inclinándose en su dirección desde que Musk asumió el poder. Proteger a las mujeres y a los niños es un principio fundamental de los valores conservadores, y las voces de derecha en Estados Unidos se enfrentan ahora a una prueba moral. En las próximas semanas veremos si todavía están dispuestos a defender a una empresa estadounidense en nombre de la libertad de expresión, incluso cuando permite a la gente crear contenido sexualizado sobre niños.
Desde mi perspectiva como ex usuario diario, X siempre se ha sentido inhóspito, y los eventos de esta semana son los últimos de una serie de abominaciones digitales que me recuerdan que fue una buena decisión trasladar mi producción a otra parte. Pero un entorno activo y hostil que normalice este comportamiento todavía nos perjudica, estemos allí o no, porque estas imágenes se difundirán por Internet. El daño –la agresión– nos marca, seamos todavía usuarios de X o no.
Alguien tiene que hacer algo, y si los gobiernos internacionales no pueden motivar a X a cambiar, entonces tal vez algunos de sus inversores puedan hacerlo. xAI quema miles de millones para el desarrollo de su IA, y consumirá muchos datos al permitir a sus usuarios generar imágenes de cualquier manera; cumplir con diversas leyes internacionales no sólo sería más legal, sino que también sería más barato.
El objetivo de Grok es maximizar “la verdad y la objetividad”, según su propio sitio web, pero hoy, mientras navegaba por su pozo negro, lo único que le vi maximizando fueron las “aldabas” de un político sueco a petición de un usuario anónimo. Los informes ahora también presentan una serie de imágenes manipuladas en bikini de jóvenes de 14 años. “Reportamos contenido sospechoso de abuso sexual infantil al Centro Nacional para Niños Desaparecidos y Explotados”, afirma la política de uso aceptable de xAI. Pero ¿qué tan cómoda se sentirá la empresa al exponer su propio monstruo?
-
Sophia Smith Galer es periodista y creadora de contenidos. Su segundo libro, Cómo matar una lenguase publicará en mayo
-
¿Tiene alguna opinión sobre las cuestiones planteadas en este artículo? Si desea enviar una respuesta de hasta 300 palabras por correo electrónico para ser considerada para publicación en nuestra sección de cartas, haga clic aquí.
