OhLos creadores de contenidos en línea no sólo crean imágenes y vídeos falsos de figuras públicas destacadas, sino que también fabrican personas y las utilizan en contextos militares, lo que les puede hacer ganar dinero e incluso servir como propaganda eficaz, según investigadores de inteligencia artificial.
Algunos de estos avatares en línea son imágenes sexualizadas de mujeres vistiendo trajes de camuflaje que han generado audiencias significativas y han ayudado a crear una imagen idealizada de figuras políticas como Donald Trump, aunque el espectador sabe que el contenido no es real, dicen los expertos.
“Estamos desdibujando la línea entre las caricaturas políticas y la realidad”, dijo Daniel Schiff, profesor asistente de política tecnológica en la Universidad Purdue y codirector del Laboratorio de Gobernanza e IA Responsable (Grial). “Mucha gente piensa que estas imágenes, estos vídeos o las historias que transmiten, sentir VERDADERO.”
El número de deepfakes políticos ha aumentado significativamente en los últimos años, según un Base de datos del Grial. Desde principios de 2025, la organización ha documentado más de 1.000 publicaciones en redes sociales en inglés con imágenes o vídeos falsos de figuras políticas prominentes y temas y eventos sociales políticamente significativos.
Durante los ocho años anteriores, la organización registró 1.344 incidentes de este tipo.
Gran parte del aumento fue impulsado por mejoras en la tecnología de inteligencia artificial generativa, que ha permitido a los usuarios crear rápidamente dicho contenido, dijo Schiff.
Hemos hecho que sea “muy sencillo generar una escena que parezca bastante realista y colocar personas reales en las escenas”, dijo Sam Gregory, director ejecutivo de Witness, una organización dedicada a los derechos humanos y a combatir la IA engañosa.
Pero los avatares falsos –que imitan a personas reales y comunes en lugar de personajes conocidos– son otra cuestión.
AI mujeres en uniforme, Trump y… ¿fotos de pies?
En diciembre de 2025, una cuenta de Jessica Foster, una mujer rubia generada por IA, a menudo con uniforme militar estadounidense, se publicó en Instagram y comenzó a compartir fotos de Foster encima de una litera en un cuartel; sentado en una silla de oficina, con los pies sobre un escritorio; y caminar por la pista con tacones altos junto a Trump, según a la empresa rapida.
Los diseñadores usaron estos zapatos intencionalmente e hicieron que sus pies aparecieran de manera prominente.
Las imágenes de Foster, que no es una persona real, atrajeron a más de un millón de seguidores en Instagram. Luego, las publicaciones se vincularon a una cuenta en Onlyfans, una plataforma ampliamente utilizada por creadores de pornografía, donde supuestamente los visitantes podían comprar fotos de los pies de Foster.
“¿Por qué NUNCA respondes?” un usuario preguntó al perfil de Foster en Instagram, según el Correo de Washington.
la cuenta ha sido eliminado en los últimos días.
“Gran parte de la generación de IA se trata básicamente de conseguir clics y dinero o llevar a la gente a algún lugar más lucrativo”, dijo Gregory.
Pero estas herramientas también pueden servir a un objetivo político. Durante la guerra en Irán, apareció una avalancha de videos en las redes sociales que mostraban a falsas soldados iraníes diciendo: “Habibi, ven a Irán”. La BBC informó.
Una ventaja es que Irán prohíbe a las mujeres desempeñar funciones de combate.
Los creadores también crearon una mujer policía generada por IA que tiene más de 26.000 seguidores en TikTok. un vídeo Lo presenta sonriendo con el texto: “El presidente Trump ha deportado a más de 2,5 millones de personas fuera del país. ¿Es por eso por lo que votó? Sí”.
Recibió más de 200 me gusta y 23 comentarios, entre ellos: “absolutamente sí”.
Durante las elecciones de 2024, Trump también compartió imágenes generadas por IA que mostraban a los fanáticos de Taylor Swift apoyándolo. Desde 2024, Trump y la Casa Blanca han compartido al menos 18 deepfakes en las redes sociales, según la base de datos Grail.
Pero la cuestión no se limita a la derecha. El gobernador de California, Gavin Newsom, quien muchos predicen que se postulará para presidente en 2028, también comenzó a compartir deepfakes dirigidos a Trump. incluyendo uno que muestra al presidente sonriendo frente a un holograma de Jeffrey Epstein.
Los investigadores de inteligencia artificial dicen que los deepfakes políticos aún pueden ser convincentes incluso si los consumidores saben que no son reales.
Foster “camina con tacones altos, con uniforme militar, su insignia militar está completamente equivocada. No hay ninguna razón para que ella salga con el presidente Trump y Nicolás Maduro”, dijo Gregory. “Nada de esto, si lo piensas bien, tiene mucho sentido o resiste el escrutinio. Pero la gente no necesariamente busca cosas que sean reales; busca cosas que representen sus creencias”.
Los deepfakes entonces hacen que sea menos probable que la gente reconsidere esas creencias, dijo Valerie Wirtschafter, miembro de la Brookings Institution en su Iniciativa de Inteligencia Artificial y Tecnologías Emergentes.
Los deepfakes son “sólo otra capa añadida a este proceso de reforzar, en lugar de revisar, lo que la gente cree que es verdad”, dijo Wirtschafter.
“Es un poco como una granja de trolls”.
Los investigadores temen que la situación empeore. La tecnología utilizada para construir Foster también podría usarse para producir lo que los investigadores describieron como “enjambres de IA”, capaces de “coordinarse de forma autónoma, infiltrarse en comunidades y generar consenso de manera eficiente”, según un estudio reciente en Science.
“Es como una granja de trolls sin necesidad de más gente”, dijo Wirtschafter.
Pero los humanos aún pueden evitar que los malos actores utilicen la IA para desestabilizar la sociedad, afirman los investigadores.
EL Coalición para la procedencia y autenticidad del contenido desarrolló una “norma técnica para editores, creadores y consumidores para establecer el origen y las modificaciones del contenido digital”, según el grupo.
Está “incrustado en una foto que se toma con una cámara o en contenido creado con una herramienta de inteligencia artificial o editado con una herramienta de inteligencia artificial y luego distribuido en una plataforma, por lo que se supone que es un conjunto de metadatos firmados criptográficamente”, dijo Gregory.
Las empresas de tecnología deberían luego usar esa información para indicar si el contenido incluye IA, dijo Gregory.
LinkedIn, Pinterest, TikTok y YouTube se han comprometido a etiquetar el contenido generado por IA. Pero un investigador con el indicadorun medio de comunicación publicó recientemente 200 imágenes y videos generados por IA en estas plataformas para determinar si realmente las estaban promocionando. Descubrió que los más diligentes (LinkedIn y Pinterest) todavía solo etiquetaban el 67% de este contenido; Instagram sólo etiquetó 15 de las 105 imágenes falsas.
el meta consejo de supervisión Recientemente dijo que estaba preocupado por los informes de que la compañía estaba “implementando de manera inconsistente” los estándares de la Coalición “incluso en el contenido generado por sus propias herramientas de inteligencia artificial, y que solo una parte de esa producción recibía el etiquetado apropiado”.
Gregory dijo que el etiquetado inconsistente se debe a una “falta de voluntad política en los niveles superiores” de las grandes empresas tecnológicas.
“No debemos renunciar a nuestra capacidad de distinguir lo real de lo sintético”, afirmó. “Pero debemos actuar rápidamente”.
