W.A medida que el auge de la inteligencia artificial sacude a sectores de la industria musical, los robots generadores de voz también se están convirtiendo en una bendición para otro rincón improbable de Internet: los movimientos extremistas que los utilizan para recrear las voces y discursos de figuras importantes en sus círculos, y los expertos dicen que les ayuda a crecer.
“La adopción de la traducción basada en inteligencia artificial por parte de terroristas y extremistas marca una evolución significativa en las estrategias de propaganda digital”, dijo Lucas Webber, analista senior de inteligencia de amenazas en Tech Against Terrorism e investigador del Centro Soufan. Webber se especializa en monitorear las herramientas en línea de grupos terroristas y extremistas en todo el mundo.
“Los métodos anteriores dependían de traductores humanos o de traducciones automáticas rudimentarias, a menudo limitados por la fidelidad lingüística y los matices estilísticos”, dijo. “Ahora, gracias al auge de las herramientas avanzadas de inteligencia artificial generativa, estos grupos pueden producir traducciones fluidas y contextualmente precisas que preservan el tono, la emoción y la intensidad ideológica en múltiples idiomas. »
Entre la extrema derecha neonazi, la adopción de software de clonación de voz con IA ya se ha vuelto particularmente prolífica, con varias versiones en inglés de los discursos de Adolf Hitler obteniendo decenas de millones de transmisiones en X, Instagram, TikTok y otras aplicaciones.
Según un artículo de investigación reciente Según la Red Global sobre Extremismo y Tecnología (GNet), los creadores de contenido extremista han recurrido a servicios de clonación de voz, en particular a ElevenLabs, y les han proporcionado discursos de archivo de la era del Tercer Reich, que luego se transforman en personificaciones de Hitler en inglés.
Los aceleradores neonazis, aquellos que planean actos de terrorismo contra gobiernos occidentales para provocar el colapso social, también han recurrido a estas herramientas para difundir versiones más actualizadas de sus mensajes hiperviolentos. Por ejemplo, Siege, un manual de insurrección escrito por neonazis y terrorista prohibido James Mason, que se convirtió en la auténtica biblia de organizaciones como la Base y la ya desaparecida División Atomwaffen, se convirtió en un audiolibro a finales de noviembre.
“Durante los últimos meses, he estado ayudando a crear un audiolibro de James Mason’s Siege”, dijo un destacado influencer neonazi con presencia en X y Telegram, que montó el audiolibro utilizando herramientas de inteligencia artificial.
“Utilizando un modelo de voz personalizado de Mason, recreé cada boletín y muchos de los recortes de periódico adjuntos como en los boletines publicados originalmente”.
La influencer elogió el poder de tomar los escritos de Mason de la “América anterior a Internet” y transformarlos en una voz moderna.
“Pero escuchar la sorprendente precisión de las predicciones hechas a principios de los años 1980 realmente marca un hito en el camino y cambió mi visión de nuestra causa común en un nivel fundamental”, dijo.
En su apogeo en 2020, la Base organizó un club de lectura en la sede, que tuvo una influencia fundamental para que varios miembros discutieran sus beneficios en una hipotética guerra contra el gobierno de Estados Unidos. Una investigación antiterrorista a nivel nacional realizada por el FBI finalmente arrestó a más de una docena de sus miembros por diversos cargos relacionados con el terrorismo ese mismo año.
“El creador del audiolibro ha publicado previamente contenido similar sobre IA; sin embargo, Siege tiene una historia más notoria”, dijo Joshua Fisher-Birch, analista de terrorismo en el Counter Extremism Project, “debido a su estatus de culto entre algunos miembros de extrema derecha en línea, su promoción de la violencia de actor solitario y su lectura obligatoria por parte de varios grupos neonazis que apoyan abiertamente el terrorismo y cuyos miembros han cometido actos criminales violentos”.
Webber afirma que los medios pro-Estado Islámico en redes cifradas están actualmente “utilizando activamente la IA para crear representaciones de texto a voz de contenido ideológico de publicaciones oficiales”, para acelerar la difusión de sus mensajes transformando “la propaganda textual en narrativas multimedia atractivas”.
Los grupos terroristas yihadistas han descubierto que la IA es útil para traducir enseñanzas extremistas del árabe a contenido multilingüe fácilmente digerible. En el pasado, el imán estadounidense convertido en agente de Al-Qaeda, Anwar al-Awlaki, fue requerido personalmente para dar conferencias en inglés para la propaganda de reclutamiento en la anglosfera. La CIA y el FBI han citó repetidamente la influencia de la voz de Al-Awlaki como factor de contagio clave en la difusión del mensaje de Al-Qaeda.
En Rocket.Chat –la plataforma de comunicaciones preferida del Estado Islámico, que utiliza para comunicarse con sus partidarios y reclutas–, un usuario publicó un videoclip en octubre con elegantes gráficos y subtítulos en japonés, destacando las dificultades de hacerlo sin la llegada de la IA.
“El japonés sería un idioma extremadamente difícil de traducir de su estado natal al inglés manteniendo su elocuencia”, dijo el usuario pro-Estado Islámico. “Cabe señalar que no uso inteligencia artificial para ningún medio relacionado, con algunas excepciones en cuanto al audio”.
Hasta ahora, no sólo el Estado Islámico, sino también grupos de todo el espectro ideológico, han comenzado a utilizar aplicaciones gratuitas de inteligencia artificial, incluido el chatbot ChatGPT de OpenAI, para amplificar sus actividades generales. La Base y los grupos adyacentes lo han utilizado para la creación de imágenes, reconociendo al mismo tiempo, ya en 2023, el uso de estas herramientas para agilizar la planificación y la investigación.
Las autoridades antiterroristas siempre han visto Internet y los avances tecnológicos como un persistente juego de ponerse al día cuando se trata de mantener el ritmo de los grupos terroristas que los explotan. La Base, el Estado Islámico y otros extremistas ya han explotado tecnologías emergentes como la criptografía para recaudar fondos de forma anónima y compartir archivos para armas impresas en 3D.
