Liv Mc MahonPeriodista de tecnología
Imágenes falsasEl gobierno británico ha anunciado que prohibirá las llamadas aplicaciones de “nudificación” como parte de los esfuerzos para combatir la misoginia en línea.
Nuevas leyes – anunciadas el jueves como parte de una Estrategia más amplia para reducir a la mitad la violencia contra las mujeres y las niñas. – hará que sea ilegal crear y proporcionar herramientas de inteligencia artificial que permitan a los usuarios modificar imágenes para aparentemente quitarle la ropa a alguien.
Los nuevos delitos se basarían en las normas existentes sobre deepfakes sexualmente explícitos y el abuso de imágenes íntimas, dijo el gobierno.
“Las mujeres y las niñas merecen estar seguras tanto en línea como fuera de línea”, dijo la Secretaria de Tecnología, Liz Kendall.
“No nos quedaremos de brazos cruzados mientras se utiliza la tecnología para abusar de ellos, humillarlos y explotarlos mediante la creación de deepfakes sexualmente explícitos y no consensuales”.
Crear imágenes falsas y explícitas de alguien sin su consentimiento ya es un delito según la Ley de Seguridad en Línea.
Kendall dijo que el nuevo delito, que convierte en ilegal la creación o distribución de aplicaciones nudistas, significaría que “aquellos que se beneficien de ellas o permitan su uso sentirán toda la fuerza de la ley”.
Las aplicaciones de nudificación o “desnudo” utilizan IA generativa para aparecer de manera realista como si una persona hubiera sido desnudada en una imagen o video.
Los expertos han advertido sobre el auge de estas aplicaciones y la posibilidad de que las imágenes falsas de desnudos causen daños graves a las víctimas, especialmente cuando se utilizan para crear material de abuso sexual infantil (CSAM).
En abril, la Comisaria de la Infancia de Inglaterra, Dame Rachel de Souza pidió una prohibición total de las aplicaciones de nudificación.
“Crear una imagen así es, con razón, ilegal; también debería serlo la tecnología que la permite”. ella dijo en un informe.
El gobierno anunció el jueves que “unirá fuerzas con empresas de tecnología” para desarrollar métodos para combatir el abuso de la imagen íntima.
Esto implicaría continuar su trabajo con la empresa británica de tecnología de seguridad SafeToNet, dijo.
La compañía británica ha desarrollado un software de inteligencia artificial que, según afirma, podría identificar y bloquear contenido sexual, así como bloquear cámaras cuando detecten la captura de contenido sexual.
Esta tecnología se basa en filtros existentes implementados por plataformas como Meta para detectar y señalar posibles desnudos en las imágenes, a menudo con el objetivo de evitar que los niños tomen o compartan imágenes íntimas de ellos mismos.
“No hay razón para existir”
Los planes para prohibir las aplicaciones nudistas surgen tras llamamientos anteriores de organizaciones benéficas de protección infantil para que el gobierno tome medidas enérgicas contra esta tecnología.
La Internet Watch Foundation (IWF), cuya línea directa Report Remove permite a los menores de 18 años informar confidencialmente sobre imágenes explícitas de ellos mismos en línea, dijo que el 19% de los periodistas verificados habían dicho que algunas o todas sus imágenes habían sido manipuladas.
Su director ejecutivo, Kerry Smith, acogió con satisfacción las medidas.
“También nos alegra ver medidas concretas para prohibir las llamadas aplicaciones de nudificación que no tienen ninguna razón para existir como producto”, afirmó.
“Aplicaciones como esta exponen a los niños reales a un riesgo aún mayor de sufrir daños, y estamos viendo que las imágenes producidas se obtienen de algunos de los rincones más oscuros de Internet”.
Sin embargo, aunque la organización benéfica para niños NSPCC acogió con agrado la noticia, su directora de estrategia, la Dra. Maria Neophytou, dijo que estaba “decepcionada” al no ver una “ambición” similar de introducir protecciones obligatorias a nivel de dispositivo.
La organización benéfica se encuentra entre las organizaciones que piden al gobierno que consiga que las empresas de tecnología encuentren formas más fáciles de identificar y prevenir la propagación de CSAM en sus servicios, como en mensajes privados.
El gobierno dijo el jueves que sería “imposible” que los niños tomaran, compartieran o vieran una imagen de desnudos en sus teléfonos.
También busca prohibir las herramientas de IA diseñado para crear o distribuir CSAM.
