Instagram está bajo una presión cada vez mayor después de que una amplia investigación descubrió que millones de usuarios estaban ofreciendo carretes pronazis, que negaban el Holocausto y abiertamente antisemitas.
El estudio por Fortuna descubrió que el contenido ofensivo se había colocado directamente al lado de anuncios de algunas de las empresas más grandes de Estados Unidos, incluidas JP Morgan, SUNY e incluso el ejército estadounidense.
Estas revelaciones se producen pocos meses después de que el director ejecutivo de Meta, Mark Zuckerberg, relajara significativamente las reglas de contenido y desmantelara el programa de verificación de datos de la compañía en Estados Unidos.
Zuckerberg defendió el cambio como un retorno a “dar prioridad a la libertad de expresión”, pero los críticos dicen que ha permitido que la propaganda extremista esté más fácilmente disponible en la plataforma.
En el centro de la controversia se encuentra una cuenta ahora desaparecida de una marca de moda conocida como @forbiddenclothes.
La cuenta parece haber sido eliminada, pero anteriormente publicó memes de temática fascista para generar una participación masiva, informó Fortune.
Uno de sus carretes fijados visto por Fortuna junto con otros 31 millones de personas, aparecía un oficial nazi de las SS de la película Malditos Bastardos usado como parte de un meme con la leyenda: “Cuando la familia discute sobre política y me piden mi opinión experta”.
Los comentarios que condenaban el uso del clip para glorificar el nazismo fueron ampliamente superados por las respuestas positivas según el informe, que también afirmaba que la interacción con el vídeo abrió una puerta a contenidos más atroces.
Instagram se enfrenta a un escrutinio tras descubrir que los algoritmos de la aplicación ofrecían vídeos abiertamente antisemitas, pronazis y de negación del Holocausto a grandes audiencias.
Estas revelaciones se producen pocos meses después de que el director ejecutivo de Meta, Mark Zuckerberg, relajara significativamente las reglas de contenido y desmantelara el programa independiente de verificación de datos de la compañía, poco antes de que el presidente Trump regresara al cargo.
Un carrete posterior mostró una “traducción” hecha por IA de un supuesto discurso de Adolf Hitler, con gráficos que pretendían identificar a los judíos en el gabinete de Trump y las principales organizaciones de medios.
El vídeo, visto 1,4 millones de veces, mostraba estrellas judías retocadas en los rostros de las personas.
Los comentarios incluyeron: “Le debemos una disculpa al gran hombre”, en referencia a Hitler. Otro usuario escribió: “Tenía razón en todo”.
Un periodista de Fortune encontró memes que negaban el Holocausto, incluido uno en el que aparecía un personaje con “cerebro pequeño” que decía: “Gasó a millones de personas”. Lee un libro de historia”, y un personaje con “cerebro grande” responde: “¿Quién escribió los libros de historia?”
La publicación, que sugiere que el Holocausto fue inventado por el pueblo judío basándose en teorías de conspiración racistas de que los judíos controlan los medios de comunicación, obtuvo 3,2 millones de visitas y más de 250.000 interacciones.
Después Fortuna Después de informar los mensajes a Meta, los clips desaparecieron silenciosamente, no sin antes ser distribuidos ampliamente.
El contenido apareció en un patrón que, según los expertos, es el resultado del sistema de recompensa del algoritmo de Instagram.
Una vez que un usuario interactúa incluso con un solo carrete codificado fascista, el motor de recomendaciones de Instagram “personaliza” un feed que rápidamente se transforma en una corriente de conspiraciones antisemitas, chistes racistas y glorificación de imágenes nazis, a menudo presentadas como humor o estética irónica y vanguardista.
La investigación encontró que este contenido estaba repleto de anuncios pagados de algunas de las marcas más respetadas del país, desde JPMorgan Chase hasta Nationwide Insurance, SUNY, Porsche e incluso el ejército estadounidense.
Según el estudio, se publicaron consecutivamente contenidos extremistas y anuncios corporativos. Sin embargo, no había indicios de que las empresas supieran junto a qué contenido se colocaban sus anuncios.
Meta eliminó las publicaciones una vez que fueron marcadas, a pesar de que los videos ya habían llegado a una audiencia masiva.
Meta, propietaria de Facebook e Instagram, alguna vez fue una plataforma que alguna vez dedicó dinero a la moderación, pero desde entonces cambió de rumbo.
Un portavoz del ejército estadounidense dijo que el ejército no controla la colocación de los anuncios de Meta.
Meta emitió una breve declaración a Fortune: “No queremos este tipo de contenido en nuestras plataformas y las marcas no quieren que sus anuncios aparezcan junto a él”.
La compañía dijo que agregó las publicaciones reportadas a su base de datos de contenido prohibido.
Las propias políticas de Meta prohíben explícitamente la negación del Holocausto, las afirmaciones de que los judíos controlan las instituciones financieras y cualquier contenido que glorifique a Hitler.
La investigación también reveló los beneficios económicos relacionados con la distribución de contenidos ofensivos.
Un operador de una página de memes británica le contó a Fortune cómo ganó “más de £10,000 ($13,000)” vendiendo camisetas y mensajes, y agregó que las publicaciones con temas de Hitler “siempre obtienen más tracción”.
Un experto en tecnología con sede en EE. UU. dijo que ganó casi $ 3,000 con bonos de Instagram antes de ser desmonetizado. Incluso admitió que era judío y no creía en el contenido, pero lo publicó porque los Reels “ofensivos y políticos” generan la mayor cantidad de cuentas.
Varios creadores dijeron que vieron sus ingresos dispararse después de que Zuckerberg decidiera poner fin a la verificación de datos por parte de terceros.
Zvika Krieger, ex directora de innovación responsable de Meta, dijo a Fortune que después del cambio de reglas, los sistemas de moderación se “hicieron intencionalmente menos sensibles”.
El presidente Trump y Mark Zuckerberg son vistos en una cena con ejecutivos de tecnología estadounidenses en el Comedor Estatal de la Casa Blanca en Washington, DC, en septiembre.
“Lo que genere la mayor participación será recompensado en este algoritmo”, dijo Krieger.
El giro político radical de Zuckerberg se produjo el 8 de enero de 2025, apenas dos semanas antes de que Donald Trump regresara a la Casa Blanca.
En un video de cinco minutos que sorprendió a los grupos de derechos civiles y aplaudió a parte del mundo MAGA, Zuckerberg anunció que Meta iba a poner fin al uso de verificadores de datos independientes en Facebook e Instagram.
En cambio, fueron reemplazadas por “notas comunitarias” estilo X en las que se deja a los usuarios comentarios sobre la precisión de las publicaciones.
Zuckerberg también señaló que el umbral requerido para eliminar el discurso de odio se elevaría en un esfuerzo por “restaurar la libertad de expresión” en la plataforma.
Dijo que las elecciones de 2024 “parecen ser un cambio cultural hacia una nueva prioridad en la expresión”, y agregó: “Vamos a volver a nuestras raíces y centrarnos en reducir errores, simplificar nuestras políticas y restaurar la libertad de expresión en nuestras plataformas”.
Sin embargo, los críticos, incluida la Liga Antidifamación, han notado un aumento del contenido antisemita tras este cambio de política.
En mayo, la ADL dijo que los miembros judíos del Congreso habían enfrentado un acoso cinco veces mayor en Facebook.
Meta defendió su política de control del contenido de su sitio.
“Solo en la primera mitad de 2025, presentamos demandas contra casi 21 millones de contenidos por violar nuestra prohibición de organizaciones e individuos peligrosos”, dijo Meta en un comunicado.
Después de afirmar inicialmente una tasa de detección proactiva del 99%, la empresa admitió más tarde que la cifra real estaba “en los 90”.
Daily Mail se ha puesto en contacto con Meta para solicitar comentarios, así como con JPMorgan Chase, Nationwide Insurance, SUNY y Porsche.
