Cuando vi “Data”, una obra fuera de Broadway sobre las crisis éticas de los empleados de una empresa de inteligencia artificial similar a Palantir, el mes pasado, me sorprendió su presciencia. Trata sobre un brillante y conflictivo programador informático involucrado en un proyecto secreto (deja de leer aquí si quieres evitar spoilers) para ganar un contrato del Departamento de Seguridad Nacional para una base de datos de seguimiento de inmigrantes. La obra, un vívido thriller teatral, captura perfectamente el lenguaje ingenioso y grandioso con el que los titanes de la tecnología justifican sus planes potencialmente totalitarios ante el público y tal vez ante ellos mismos.
“Los datos son el lenguaje de nuestro tiempo”, dice Alex, jefe de análisis de datos, que se parece mucho al jefe de Palantir, Alex Karp. “Y como todos los idiomas, sus historias serán escritas por los vencedores. Así que si aquellos que hablan el idioma con fluidez no contribuyen al florecimiento de la democracia, la estamos perjudicando. Y si no ganamos ese contrato, alguien más, con menos fluidez, lo hará”.
Siempre estoy buscando arte que intente dar sentido a nuestro momento político turbulento y plagado de crisis y la pieza me pareció estimulante. Pero en las últimas semanas, a medida que los eventos del mundo real se hicieron eco de ciertos puntos de la trama de “Data”, comenzó a parecer casi profético.
Algoritmo aterrador
Su protagonista, Maneesh, ha creado un algoritmo con poderes predictivos terriblemente precisos. Cuando vi la pieza, no estaba seguro de si esa tecnología estaba realmente en el horizonte. Pero esta semana, The Atlantic informó sobre Mantic, una startup cuyo motor de inteligencia artificial supera a muchos de los mejores pronosticadores humanos en áreas que van desde la política hasta los deportes y el entretenimiento.
También me pregunté cuántas de las personas que nos lanzan herramientas de inteligencia artificial realmente comparten la angustia de Maneesh y su colega Riley, quienes se lamentan: “Vengo aquí todos los días y empeoro el mundo”. Creo que eso es lo que hace la mayoría de las personas que trabajan en IA, pero era difícil imaginar que muchos de ellos pensaran eso, inmersos como están en una cultura que los promociona como exploradores heroicos en la cúspide de avances impresionantes en las posibilidades humanas (o tal vez posthumanas). Como dice una reseña de “Data” en una revista de Nueva York: “¿Quién llega tan lejos en el trabajo sin pensar (y justificar durante mucho tiempo) las consecuencias?” »
Pero la semana pasada, Mrinank Sharma, investigador de seguridad de Anthropic, renunció con el tipo de carta abierta que habría parecido tremendamente exagerada en un escenario teatral. “El mundo está en peligro”, escribió, describiendo la presión constante en el trabajo “para dejar de lado lo más importante”. De ahora en adelante, dijo Sharma, se centraría en la “construcción de comunidades” y la poesía. Dos días después, Zoë Hitzig, investigadora de OpenAI, anunció su dimisión en el New York Times y describió cómo la herramienta podría utilizar los datos íntimos de las personas para dirigirles anuncios.
Me puse en contacto con el autor de “Data”, Matthew Libby, porque tenía curiosidad por saber cómo tenía tanta razón y me enteré de que antes de trabajar en teatro, había estudiado ciencias cognitivas en la Universidad de Stanford. En concreto, es licenciado en Sistemas Simbólicos, un programa interdisciplinar que combina materias como informática, filosofía y psicología. Siempre tuvo la intención de ser escritor, dijo, pero quería asegurarse de tener algo sobre qué escribir.
No es sorprendente que Libby, graduada en 2017, sintiera la atracción de Silicon Valley, en un momento dado, mientras se entrevistaba para una pasantía en Palantir. Se le rompió el corazón cuando no entendió. Pero cuando se topó con un artículo de Intercept de 2017 titulado “Palantir proporciona el motor de la máquina de deportación de Donald Trump”, se preguntó qué habría hecho si hubiera trabajado allí, y así nació “Data”.
Quizás lo más interesante de “Datos” no es su visión de quienes dejan las empresas creando IA peligrosa, sino de la mayoría de los que se quedan y las historias que se cuentan sobre lo que construyen. “Mi experiencia en la industria tecnológica es que siempre existe ese aire de inevitabilidad”, dijo Libby. “Ya sabes, ‘No podemos poner esto en pausa porque sucede pase lo que pase, ¿y no quieres ser tú quien lo haga?'”
fin del mundo
Entre las tecnologías, la IA es única en el sentido de que quienes la crean (y se benefician de ella) ocasionalmente advierten que podría destruir a la humanidad. Como dijo Sam Altman en 2015, poco antes de ayudar a crear OpenAI, “Creo que la IA probablemente, muy probablemente, conducirá a una especie de fin del mundo. Pero mientras tanto, se crearán grandes empresas gracias al aprendizaje automático serio”. Una versión ligeramente truncada de esta cita aparece como epígrafe en el guión de Libby.
El mes pasado, Dario Amodei, que dirige Anthropic, el aparentemente más responsable de los gigantes de la IA, publicó un ensayo titulado “La adolescencia de la tecnología”, sobre los posibles apocalipsis de la IA. Los sistemas de inteligencia artificial, escribe, podrían volverse contra la humanidad o ayudar a crear armas biológicas. Podrían usarse para construir un panóptico digital más completo que cualquier cosa que exista hoy en día o desarrollar propaganda adaptada con tanta precisión a sus usuarios que equivaldría a un lavado de cerebro.
Pero según Amodei, estas posibilidades infernales son menos una razón para frenar el desarrollo de la IA, o para mantenerla fuera del alcance del Estado de vigilancia, que para garantizar que Estados Unidos se mantenga por delante de China. “Tiene sentido utilizar la IA para empoderar a las democracias para que resistan a las autocracias”, escribió. “Es por eso que Anthropic cree que es importante proporcionar IA a las comunidades de inteligencia y defensa en los Estados Unidos y sus aliados democráticos. » Su argumento sería más fuerte si Estados Unidos todavía fuera, en algún sentido significativo, parte de una coalición de democracias, en lugar de ser una nación liderada por un aspirante a autócrata apoyado en gran medida por la industria tecnológica.
En “Datos”, Alex presenta un argumento similar a favor de licitar por el contrato del Departamento de Seguridad Nacional. “Somos luchadores que protegemos la democracia”, dijo. “China ya tiene un sistema de crédito social automatizado que exporta a los países en desarrollo. Rusia tiene la infraestructura de desinformación más específica conocida por el hombre. Aquí es donde está innovando. ¿Qué pasa si dejamos de innovar? Estamos perdiendo nuestra ventaja”. La amenaza del autoritarismo en el extranjero se convierte en una justificación para construir las herramientas del autoritarismo digital en casa. Lástima que no sea sólo ficción.
Michelle Goldberg es columnista del New York Times.
