AUna tendencia en línea de pedirle a Grok, el chatbot propiedad de Elon Musk, que quite fotos de mujeres y niñas y las muestre en bikini ha provocado indignación en el Reino Unido y en todo el mundo. A principios de esta semana, la secretaria de Ciencia y Tecnología, Liz Kendall, calificó la proliferación de imágenes mejoradas digitalmente, algunas de las cuales son abiertamente sexualizadas o violentas, como “inaceptable en una sociedad decente”. Lo que suceda a continuación dependerá de su voluntad y la de sus colegas de dar seguimiento a tales comentarios. El enfoque generalmente entusiasta del gobierno hacia la IA y su creciente papel en los servicios públicos no inspira confianza en su capacidad para hacer frente a tales amenazas.
Además de la avalancha de imágenes en bikini, la Internet Watch Foundation, una organización benéfica, tiene evidencia de que Grok Imagine (una herramienta de inteligencia artificial que genera imágenes y videos basados en indicaciones) se utilizó para crear imágenes ilegales de abuso sexual infantil. Sin embargo, aunque X dice que elimina este tipo de material, no hay señales de fortalecer las salvaguardias en respuesta a imágenes en bikini que son crueles y violentas incluso cuando no violan la ley.
La insuficiencia de esta respuesta no es sorprendente, dado el historial de Musk y el de su industria. Pero sigue siendo preocupante. A principios de esta semana, xAI, la empresa propietaria de X (antes Twitter) y Grok, anunció que había recaudado 20.000 millones de dólares en su última ronda de financiación. El miércoles, Musk publicó en X que “Grok está del lado de los ángeles”.
En el Reino Unido, la atención se está centrando ahora en el regulador de medios Ofcom, que está evaluando la necesidad de una investigación. Para mantener la confianza del público, Ofcom debe inyectar más urgencia a su enfoque y explicar los pasos que está tomando. La ley de seguridad en línea del Reino Unido considera el tiempo de inactividad como último recurso, lo que significa que las autoridades deben seguir un procedimiento antes de poder tomar medidas tan drásticas como bloquear un sitio en particular.
El peligro es que dichas medidas puedan ser retrasadas por plataformas que no estén dispuestas a cumplirlas. Un ejemplo preocupante son las multas impuestas a sitios web pornográficos que no cumplen con los estándares de verificación de edad y que hasta ahora no han sido pagadas. ¿Qué hará Ofcom en respuesta?
Se necesitará más regulación a medida que la tecnología se desarrolle, alterando comportamientos y normas establecidos desde hace mucho tiempo. El público, así como los expertos jurídicos y tecnológicos, deben preguntarse hasta dónde deben extenderse los derechos individuales sobre nuestros propios rostros y cuerpos. En Dinamarca está previsto dar a las personas derechos de autor sobre su propia imagende modo que manipular fotografías de personas reales sin su consentimiento sería ilegal, incluso cuando las imágenes no sean íntimas ni sexualizadas.
Pero un gobierno que se toma en serio la seguridad y el bienestar de las mujeres y los niños no puede esperar a que se lleven a cabo esos debates y debe responder rápidamente a acontecimientos como los de la semana pasada. Las lagunas en la ley relativa a los chatbots deben cerrarse ahora, no en un proyecto de ley sobre inteligencia artificial que podría tardar años. El proyecto de ley sobre policía y delincuencia podría modificarse para lograrlo. La propuesta de la profesora Clare McGlynn de enfoque más amplio de los delitos sexuales – en lugar del patrón actual de iniciativas separadas para hacer frente a cada amenaza emergente – también debería examinarse. Los ministros y reguladores deben demostrar que su prioridad son los usuarios, no las plataformas. Las reglas que rigen el mundo en línea deben acordarse y aplicarse democráticamente, y las grandes tecnologías no deben ignorarlas.
-
¿Tiene alguna opinión sobre las cuestiones planteadas en este artículo? Si desea enviar una respuesta de hasta 300 palabras por correo electrónico para ser considerada para publicación en nuestra sección de cartas, haga clic aquí.
