GRAMOLas buenas noticias son tan raras hoy en día que no sabemos realmente cómo tomarlas. Quieres celebrar, pero el instinto rival te dice que el gol será anulado de una forma u otra, la misma sensación que tienes cuando tu equipo marca un gol tardío, pero inmediatamente te llena de pavor la idea de que el gol sea anulado en una repetición en video.
Admito que así reaccioné al doble golpe legal asestado esta semana a Meta, la empresa propietaria de Facebook e Instagram, cuando dos jurados estadounidenses fallaron en su contra durante varios días seguidos en dos casos históricos. El primer veredicto se dictó en Nuevo México, multando a la empresa con 375 millones de dólares (280 millones de libras esterlinas) por permitir daños, incluida la explotación sexual infantil, en sus plataformas y engañar a los consumidores sobre su seguridad. Veinticuatro horas después, los jurados de California concedieron 6 millones de dólares en daños y perjuicios a una joven usuaria que argumentó que Meta (junto con YouTube) diseñó deliberadamente productos adictivos que la engancharon desde la infancia, causándole graves daños.
Los activistas estaban eufóricos, creyendo que finalmente habían logrado un gran avance en su larga batalla para controlar a las empresas tecnológicas que dan forma a gran parte de nuestra vida diaria, influyendo en lo que sabemos sobre el mundo, cómo hablamos con los demás y cómo nos vemos a nosotros mismos. Hablé el día después del veredicto de California con Frances Haugen, la ex empleada de Facebook convertida en denunciante que, al publicar 20.000 páginas de documentos internos en 2021, proporcionó pruebas claras de que la empresa sabía que sus plataformas estaban causando daños, desde dañar a los niños hasta desestabilizar la democracia, pero de todos modos continuó su camino hacia “ganancias astronómicas”. Haugen me dijo que Meta podría estar enfrentando su “momento del asbesto”, con sus productos considerados tóxicos y enfrentando pagos legales por valor de, según sus cálculos, hasta un billón de dólares, una suma que, según ella, haría de la “quiebra” una posibilidad real.
Antes de evaluar la probabilidad de tal resultado, vale la pena recordar la toxicidad. Además de los archivos de Haugen, un texto útil es Careless People, las memorias de 2025 escritas por Sarah Wynn-Williams, otra denunciante de Facebook. En él, describe cómo la empresa, capaz de rastrear la actividad de los usuarios dentro y fuera de la plataforma, podía ver cuándo, por ejemplo, chicas de entre 13 y 17 años borraban un selfie. Al darse cuenta de que esto indicaba la insatisfacción de las niñas con su apariencia, la empresa encontró una manera de monetizar ese descontento. Por una tarifa, una empresa de cosméticos podría entregar un anuncio de belleza a estos niños en ese mismo momento.
Facebook no ha ocultado este comportamiento; se jactaban de ello. Wynn-Williams revela cómo Facebook creó un presentación para un cliente australianoalardeando de que su capacidad para monitorear la vida en línea de los usuarios (sus publicaciones, sus fotos, sus conversaciones con sus amigos) les permitía saber exactamente cuándo las adolescentes se sentían “inútiles”, “inseguras”, “estresadas”, “derrotadas”, “ansiosas”, “estúpidas”, “inútiles” y “como un fracaso”. Eran tiempos óptimos para vender.
Voces disidentes dentro de la empresa expresaron su malestar, pero fueron desestimadas. El tribunal de Nuevo México escuchó que un ex empleado de Meta le escribió a Mark Zuckerberg, fundador y director ejecutivo, instándolo a comprender el peligro de permitir que las jóvenes accedan a un filtro de cirugía estética en Instagram que permite a los usuarios ver cómo se verían con ojos más grandes o labios más gruesos. El colega le envió un correo electrónico para decir que una de sus hijas había sido “hospitalizada dos veces por dismorfia corporal” y que, en lo que respecta a la imagen corporal, “la presión que se ejerce sobre ellas y sus compañeros a través de las redes sociales es intensa”. Zuckerberg permaneció impasible. Dijo que sería “paternalista” limitar la “capacidad de los usuarios de presentarse de esta manera”.
Haugen, que trabajó en el equipo de integridad cívica de la empresa, me dijo cómo sus colegas podrían proponer un pequeño cambio que reduciría significativamente el daño causado por la plataforma. Pero si este cambio (por ejemplo, no enviar notificaciones a los niños a altas horas de la noche para animarlos a volver a Instagram) provocara una caída del 1% en la participación de los usuarios, los jefes lo vetarían. Como dice Haugen: “Mark dijo que lo más importante era aumentar el tiempo de permanencia en la plataforma. »
Por eso no sorprende que tanta gente haya acogido con satisfacción los fallos judiciales de esta semana. Los David, que se enfrentan a los Goliat de las redes sociales, finalmente han encontrado una manera de sortear el llamado escudo de responsabilidad que los ha protegido durante décadas.
Aprobada en la década de 1990, la Sección 230 de esta ley clave estipulaba que las empresas de tecnología no podían ser consideradas responsables por el contenido publicado en sus plataformas, como tampoco se podía responsabilizar a la Oficina de Correos por el contenido de una carta abusiva. El caso californiano, en particular, fue más allá de este escudo al centrarse no en el contenido –tal o cual mensaje desagradable– sino en el sistema de recomendación de contenidos, es decir, el mecanismo que determina lo que ven los usuarios.
Esta maquinaria, adictiva por diseño, ya sea la reproducción automática de vídeo o la transmisión infinita que fomenta el desplazamiento perpetuo, está diseñada y operada íntegramente por empresas de tecnología. Lo que significa que son responsables del daño causado. como abogado Ravi Naikque representa a Wynn-Williams y otros, me dijo: “Estos sistemas son creados por personas. No son entidades abstractas, transmitidas por los dioses. Son decisiones de las personas y responsabilidad por las decisiones que toman. ¿No es para eso la ley?”
¿Qué pasa con mi preocupación instintiva de que esta victoria pueda ser anulada, al estilo VAR? Es cierto que los veredictos de esta semana serán apelados, que podrían hacer avanzar el sistema hasta llegar a la Corte Suprema de Estados Unidos que, en su forma actual, como Trump, podría fallar a favor de las grandes tecnológicas. También es cierto que años de disputas legales permitirán a las empresas de tecnología seguir haciendo lo que hacen y seguir ganando miles de millones. Pero los expertos legales dicen que es menos probable que los veredictos de los jurados sean anulados que los de los jueces. Y, con miles de casos similares pendientes, sólo haría falta una pequeña fracción de adolescentes estadounidenses para unirse en una demanda colectiva exitosa para devastar Meta. Haugen hizo los cálculos: 150.000 adolescentes que recibieran 6 millones de dólares cada uno dejarían Meta con un billete de un billón de dólares.
Otra preocupación: esto es sólo Estados Unidos; ¿qué pasa con el resto del mundo? Ciertamente, aunque países como el Reino Unido y la Unión Europea tienen reglas estrictas, falta su aplicación. Los reguladores europeos han temido a los gigantes tecnológicos estadounidenses, del mismo modo que los gobiernos europeos han temido a la administración Trump. Pero eso podría cambiar. A medida que los europeos se mantienen alejados de la desastrosa guerra de Trump contra Irán, hay señales de que están cada vez más dispuestos a afirmar su propia “soberanía digital”. Otros ya lo están haciendo: nótese la prohibición en Australia de las redes sociales para los menores de 16 años, una medida Indonesia sigue a partir del sábado.
Quizás la mayor preocupación sea la IA. ¿Es posible que la ley finalmente haya afectado a las antiguas plataformas de redes sociales justo cuando una amenaza más nueva y mayor entra al ring? Esta no es la primera vez que Zuckerberg promete lo que para él es un futuro nuevo y brillante, pero para casi todos los demás parece una pesadilla distópica. Quiere que la IA se convierta en una Una “superinteligencia” similar a la de Dios más poderoso que el cerebro humano y espera con ansias el día en que La IA cumple el papel que ahora desempeñan nuestros amigos. ¿Seguramente las victorias legales de esta semana no hacen nada para detener esta amenaza?
No estés tan seguro. Los tribunales ahora han dictaminado que las empresas de tecnología son responsables de sus sistemas y que la IA, según Naik, “es enteramente un sistema diseñado por humanos”. Cada elección que llevó, por ejemplo, a que Grok de Elon Musk produjera imágenes desnudas falsas de mujeres reales bajo comando fue una elección humana, por la cual el creador de Grok ahora está siendo responsabilizado, en forma de demandas presentadas tanto por las autoridades estadounidenses como por personas que dicen haber sido abusadas por el chatbot. entre ellos Ashley St Clairquien es la madre de uno de los hijos de Musk.
Por supuesto, la broligarquía está formada por hombres decididos con mucho dinero y un amigo en la Casa Blanca. Nadie debe asumir que se retirarán rápida o fácilmente. Pero en la larga guerra contra quienes han hecho tanto para corroer la vida en el siglo XXI, esta semana trajo una victoria importante, y debemos celebrarla.
-
Jonathan Freedland es columnista de The Guardian.
-
¿Tiene alguna opinión sobre las cuestiones planteadas en este artículo? Si desea enviar una respuesta de hasta 300 palabras por correo electrónico para ser considerada para publicación en nuestra sección de cartas, haga clic aquí.
