IFue mi camiseta azul, regalo de mi cuñada, la que lo reveló todo. Me hizo pensar en Yakov Petrovich Golyadkin, el modesto burócrata del cuento El doble de Fyodor Dostoyevsky, un estudio desconcertante del yo fragmentado dentro de un vasto e impersonal sistema feudal.
Todo comenzó con un mensaje de un estimado colega felicitándome por una videoconferencia sobre un tema geopolítico. Cuando hice clic en el enlace adjunto de YouTube para recordar lo que había dicho, comencé a preocuparme de que mi memoria ya no fuera la que solía ser. ¿Cuándo grabé dicho vídeo? Después de unos minutos, supe que algo andaba mal. No porque encontrara errores en lo que estaba diciendo, sino porque me di cuenta de que el vídeo me mostraba sentado en mi oficina en Atenas con esta camisa azul, que nunca había salido de mi isla natal. Resultó ser un vídeo en el que aparecía una IA falsa que se parecía a mí.
Desde entonces, cientos de vídeos de este tipo, que representan mi rostro y sintetizan mi voz, han proliferado en YouTube y las redes sociales. Incluso este fin de semana hubo otra cosecha, que muestra a una persona falsa diciendo cosas ficticias sobre el golpe de Venezuela. Dan sermones, dicen cosas que yo podría haber dicho, a veces mezcladas con cosas que nunca diría. Se enfurecen, pontifican. Algunas son toscas, otras inquietantemente persuasivas. Mis seguidores me los envían preguntándome: “Yanis, ¿realmente dijiste eso? Los detractores los pasan como prueba de mi idiotez. Mucho peor, algunos afirman que mis dobles son más elocuentes y más convincentes que yo. Y así me encuentro en la extraña posición de ser un espectador de mi propio títere digital, un fantasma en un máquina tecnofeudal Durante mucho tiempo he sostenido que no está simplemente roto, sino que está diseñado para quitarle poder.
Mi primera reacción fue escribir a Google, Meta y otros exigiendo que eliminaran estos vídeos. Se llenaron varias formas de ira antes de que, una semana o más después, algunos de estos canales y videos fueran eliminados, solo para reaparecer instantáneamente en diferentes formas. En cuestión de días, me había rendido: no importaba lo que hiciera, no importaba cuántas horas pasara cada día tratando de que la gran tecnología eliminara a mis doppelgangers de IA, muchos más volverían a crecer, al estilo Hydra.
Pronto, la ira da paso a la contemplación. ¿No fui yo, después de todo, quien argumentó que las grandes tecnologías no solo estaban digitalizando el capitalismo, sino que en realidad estaban encabezando una gran transformación, convirtiendo los mercados en feudos de la nube y las ganancias en rentas de la nube? ¿No son mis dobles de IA la confirmación perfecta de que, en esta realidad tecnofeudal, el el individuo liberal está muerto y enterrado?
Aceptando la pérdida parcial de la propiedad de uno mismo, busqué consuelo en racionalizar estos deepfakes como el acto definitivo de cierre feudal, prueba de que bajo el tecnofeudalismo no poseemos nada: ni los datos de nuestro trabajo, ni nuestros gráficos sociales y ahora ni siquiera nuestra identidad audiovisual. Nuestros nuevos señores nos ven como inquilinos de sus tierras de nubes, androides de cuya imagen pueden apropiarse a voluntad para sembrar confusión, desdibujar el discurso, ahogar la disidencia real en una cacofonía de ruido sintético creada para este propósito.
Pero entonces me asaltó un pensamiento más alegre, uno que me recuerda a la antigua Atenas. ¿Qué pasaría si mis imitadores de IA fueran precursores de isegoría (ἰσηγορία), un principio tan brillante, prometedor y ausente como la verdadera democracia? Cuando pedí a varias versiones de chatbots de IA que lo definieran, todos distorsionaron obedientemente su significado, definiendo isegoría como la igualdad de expresión, el derecho a ser oído o la libertad de dirigirse a la asamblea. Pero eso no es lo que los atenienses querían decir con esa palabra. De hecho, para ellos isegoría significaba exactamente lo contrario de la “libertad de expresión” actual, que descartarían como el derecho abstracto a gritar al vacío. Para los atenienses, esto significaba el derecho a que las propias opiniones fueran juzgadas seriamente, según sus méritos, independientemente de quién sea o cómo las exprese.
¿Podrían recuperarse los deepfakes de IA? isegoría de las garras de nuestra distopía tecnofeudal? Cuando nos damos cuenta de que es imposible verificar quién habla en un vídeo de YouTube, ¿podríamos vernos obligados a juzgar los méritos de lo que se dice, en lugar de quién lo dice? En el proceso de degradar la autenticidad, ¿podrían las grandes tecnologías haber dado inadvertidamente isegoría una oportunidad? Estas preguntas ofrecieron un rayo de esperanza.
Era la esperanza de que el espectro de la democracia todavía flotara sobre nuestras cabezas si tan solo pudiéramos encontrar la motivación para mirar hacia arriba, para involucrarnos en el lento y difícil trabajo democrático que el flujo algorítmico estaba diseñado para destruir: la evaluación crítica de los puntos de vista y argumentos que se nos presentan. Lamentablemente, esta esperanza, aunque tangible, es insuficiente mientras nuestros señores tecnofeudales conserven dos ventajas colosales y asimétricas.
Primero, tienen la AHORA en sí mismo: los servidores, los flujos, los medios algorítmicos de comunicación. Pueden imbuir su propio discurso con la autenticidad de los sellos digitales mientras ahogan el nuestro en un atolladero de dudas y ruido. ¿El resultado? No isegoría, sino un derecho divino digital donde la verdad es propiedad patentada del poder.
En segundo lugar, y más inteligentemente, no necesitan deepfakes para gobernar. Su ideología está integrado en el máquina: el poder de extraer plusvalía de los proletarios conectados a la nube a través de varios dispositivos digitales, la lógica de extraer rentas de la nube de los capitalistas vasallos en sus plataformas, la tiranía del valor para los accionistas, su inminente éxito en privatizar el dinero.
Así que nuestra tarea no es rogarles a estos señores que lo comprueben. Nuestra tarea es política. Debemos socializar el capital de la nube, esta nueva fuerza todopoderosa que está transformando la sociedad y destruyendo todo lo que hace imaginable el humanismo.
Hasta entonces, demos la palabra a nuestros dobles digitales. Tal vez saturen tanto el programa que eventualmente dejemos de escucharlo. nuestra voz y empezar a juzgar el argumentos en sus propios términos. Éste es quizás el estallido de esperanza más paradójico en un salón de espejos. Pero en este carnaval agarramos cada fragmento que podemos.
