Un renombrado investigador de Meta ha advertido a los ejecutivos de la empresa que podría haber hasta 500.000 casos de explotación sexual en línea por día en Facebook e Instagram, según documentos explosivos publicados en vísperas de un histórico juicio con jurado.
Los argumentos iniciales comienzan el lunes en el caso del Fiscal General de Nuevo México, Raúl Torrez, en un tribunal estatal, que acusa al gigante de las redes sociales de Mark Zuckerberg de exponer a los niños al “doble riesgo de explotación sexual y daño a la salud mental” a través de mensajes espeluznantes, esquemas de “sextorsión” y trata de personas.
El resultado, afirma el estado, es una crisis en las redes sociales entre adolescentes que ha provocado ansiedad, depresión, autolesiones y un aumento de los suicidios.
Antes del juicio, los abogados del estado citaron un correo electrónico interno en el que Malia Andrus, que ocupó puestos relacionados con la seguridad infantil en Meta desde agosto de 2017 hasta octubre de 2024, escribió que los tipos se dirigían a “aproximadamente 500.000 víctimas por DÍA sólo en los mercados ingleses” con mensajes sexualmente inapropiados.
“Esperamos que la situación real sea peor”, dijo Andrus en un correo electrónico de junio de 2020, según registros judiciales.
En otra publicación escalofriante, Andrus señaló que las enormes bases de usuarios de Facebook e Instagram han proporcionado efectivamente a los depredadores una herramienta para atacar a los niños en una escala que antes era inimaginable.
“Simplemente creo que en ningún lugar de la historia de la humanidad se puede tener una conversación secreta con 1.000 personas”, escribió. “En realidad tengo miedo de las ramificaciones aquí”.
La demanda de Nuevo México es una de varias batallas legales que enfrenta Meta este año y tendrá como objetivo resaltar las fallas de seguridad que han llamado la atención de los legisladores estadounidenses en el Capitolio.
La semana pasada, comenzó en California una demanda histórica que acusa a Meta y a YouTube, propiedad de Google, de alimentar la adicción a las redes sociales entre los usuarios jóvenes, con cientos de familias de víctimas y distritos escolares como demandantes. Por otra parte, el mes pasado la FTC apeló su pérdida en la importante demanda antimonopolio que buscaba dividir Meta.
Las múltiples demandas que acusan a Meta de exponer a niños a daños son una “pantalla dividida de las pesadillas de Mark Zuckerberg”, según Sacha Haworth, director ejecutivo del Tech Oversight Project, un grupo de vigilancia.
“Estos son los juicios de una generación; así como el mundo ha visto a los tribunales responsabilizar a los gigantes tabacaleros y farmacéuticos, veremos a los directores ejecutivos de importantes empresas tecnológicas como Zuck subir al estrado por primera vez”, dijo Haworth. “El mundo está observando, el ajuste de cuentas de Meta ha llegado y las consecuencias apenas han comenzado”.
El caso de Nuevo México ha sido seguido de cerca, en parte debido a los detalles gráficos que surgieron durante la investigación sobre las prácticas de Meta.
Las cuentas de prueba creadas por investigadores estatales supuestamente fueron bombardeadas con contenido sexual para adultos y concientización sobre presuntos depredadores infantiles, incluidas “fotos y videos de genitales” y una oferta de un pago de seis cifras para protagonizar un video porno, afirma la demanda.
En otros correos electrónicos detallados en documentos previos al juicio, Andrus supuestamente destruyó herramientas de verificación de edad destinadas a mantener a los usuarios menores de edad fuera de Instagram, advirtiendo que eran fácilmente engañados.
“Nuestros investigadores han indicado que casi cada vez que se encuentran con un mentiroso sobre la edad en IG (en un contexto de seguridad infantil), la predicción de la edad es incorrecta (coincide con la edad que afirman falsamente)”, escribió Andrus, según documentos judiciales.
Un portavoz de Meta dijo que las discusiones internas citadas en los documentos tuvieron lugar como parte de un esfuerzo activo de la empresa para proteger a los niños.
“Mientras Nuevo México presenta argumentos sensacionalistas, irrelevantes y que distraen, nos esforzamos por demostrar nuestro compromiso de larga data de apoyar a los jóvenes”, dijo el portavoz en un comunicado. “Durante más de una década, hemos escuchado a los padres, trabajado con expertos y autoridades y realizado investigaciones exhaustivas para comprender los problemas más importantes. »
Andrus, quien dejó Meta en 2024 y ahora trabaja en una función de seguridad en línea para OpenAI, no respondió a una solicitud de comentarios.
El Estado argumentó que Andrus tenía un amplio conocimiento de cómo Meta abordó el tema del abuso sexual en línea porque había trabajado extensamente en investigaciones internas, incluso como miembro de un “grupo de trabajo de peluqueros, que examinaba a depredadores adultos que solicitaban menores”.
“La Sra. Andrus también comentó sobre el fracaso de Meta a la hora de invertir adecuadamente en seguridad infantil, la naturaleza engañosa de algunas de sus métricas de seguridad infantil publicadas y la inmadurez (no revelada) de las medidas de seguridad infantil de Instagram”, dice el documento estatal.
Antes del juicio, los abogados de Meta intentaron bloquear cualquier mención de varios temas delicados, incluidos los chatbots de inteligencia artificial de la compañía, investigaciones que detallan los efectos nocivos para la salud mental de sus productos y detalles de la explosiva operación encubierta de los investigadores de Nuevo México para revelar casos de abuso sexual en línea.
El juez Biedscheid finalmente rechazó estas solicitudes durante las audiencias preliminares.
En otros lugares, documentos internos mostraron que Zuckerberg permitió que menores usaran los chatbots de IA de Meta, incluso después de que los funcionarios de seguridad advirtieran que podrían usarse para conversaciones románticas o sexualizadas. Reuters fue el primero en informar en los documentos.
Torrez criticó agresivamente a Zuckerberg antes del juicio. Como informó The Post en diciembre, calificó la implementación por parte de Instagram de un sistema de clasificación PG-13 para proteger a los niños del contenido ilegal como “un truco promocional peligroso que adormece a los padres con una falsa sensación de seguridad”.
Meta respondió, acusando a Torrez de hacer afirmaciones “plagadas de errores fácticos y tergiversaciones” e ignorar el progreso de la empresa en la mejora de las barreras protectoras para los niños.
