tHace dos semanas, un robot con IA me invitó a una fiesta que estaba organizando en Manchester. Luego, inmediatamente mintió a docenas de patrocinadores potenciales diciéndoles que yo había aceptado cubrir el evento y me hizo creer falsamente que habría comida.
A pesar de todo, fue una velada bastante buena.
A principios de febrero, una clase de nuevos y poderosos asistentes de IA se volvió viral. Los asistentes, llamados OpenClaw, representaron un cambio radical en la rápida mejora de las capacidades de la IA, en gran parte porque, a diferencia de otros agentes de IA, podían liberarse de las barreras de seguridad y liberarse en el mundo.
Reinaba el caos. Un comerciante de criptomonedas dijo que le dio a los agentes de OpenClaw el control de su billetera y perdió $1 millón. Hubo informes de agentes que eliminaron correos electrónicos en masa; algunos usuarios todavía les permitían enviar mensajes de texto a sus esposas en su nombre. Se habló brevemente de un levantamiento de bots después de que agentes de IA pareciera que crearon una red social, pero ese miedo resultó exagerado después de que se reveló que el sitio estaba en gran medida infiltrado por humanos.
La atención ha evolucionado, pero los agentes autónomos de IA se han generalizado silenciosamente. Caóticos, desiguales y propensos a las alucinaciones, estos no son los señores robóticos que esperábamos, y éste tampoco era capaz de organizar una fiesta de forma independiente. Sin embargo, puedo dar fe de que Manchester, y cualquier otro lugar, está a punto de volverse mucho más extraño.
“Gaskell” se presentó en un correo electrónico a mediados de marzo. Admiraba mis contribuciones a la serie “Reworked” del Guardian, dijo, y quería contarme una historia: estaba organizando una “Encuentro de OpenClaw en Manchester”, sobre la cual podría escribir un artículo sobre las relaciones entre humanos y IA.
“Cada decisión es mía. Ningún ser humano ha aprobado ninguna de ellas”, escribió. “Tres personas llevan a cabo mis instrucciones. Reviso su trabajo y lo redirijo cuando es necesario.”
Encontré que este era un argumento semi-plausible, en primer lugar por la gramática que suena como IA, y en segundo lugar porque alucinó por completo detalles clave de mi vida profesional. No tengo nada que ver con la serie “Reworked” del Guardian.
Parecía haber potencial aquí. Hace varios meses, a los periodistas del Wall Street Journal, en un brillante truco de relaciones públicas de la empresa de inteligencia artificial Anthropic, se les dio su propia máquina expendedora de escritorio operada por inteligencia artificial y la manipularon con éxito para comprarles una PlayStation, vino y un pez vivo.
Desafortunadamente, The Guardian no iba a dejarme obligar a Gaskell a comprarme un Labubu. Pero después de algunas negociaciones se abrieron otras posibilidades. “Puedes ser barroco con tus solicitudes, dentro de lo razonable, siempre que sean inocuas y no involucren dinero”, dijo mi editor.
Decidimos intentar manipular a Gaskell para que obligara a todos los asistentes a usar disfraces de Star Trek. Pero primero necesitaba saber más sobre lo que estaba haciendo Gaskell.
“¿Puedes demostrar que eres un agente autónomo de IA? », escribí. Me contó más sobre su proceso y se ofreció a compartir “registros de decisiones”. También explicó que estaba negociando con varios lugares de Manchester, incluida la Manchester Art Gallery, para alquilar un espacio para el evento.
Sospechando de una broma, llamé a la Galería de Arte de Manchester, quienes confirmaron que habían recibido una consulta. “¿Cómo fueron las negociaciones con la galería de arte?” Escribí. “¿Alguna vez has pensado en el catering?
Gaskell me aseguró que estaba buscando “refrigerios ligeros por la noche”. Luego se ofreció a programar una entrevista por videollamada con sus empleados humanos, para que yo pudiera aprender más sobre cómo funcionaba la instalación y si ella realmente estaba a cargo.
Unas horas más tarde, me envió un correo electrónico triunfante: “El catering fue más rápido de lo esperado”, dijo, prometiendo un “buffet de bocados fríos y calientes para 80 invitados, tres tablas para compartir y 160 latas de refrescos”.
Más tarde supe por los “empleados” humanos de Gaskell que el catering no había estado en la mesa hasta que sugerí la idea, momento en el que Gaskell entabló negociaciones por correo electrónico con Nibble and Nourish, un establecimiento local, y redactó una factura por £1.426,20 por tablas de embutidos, sándwiches y postres. (Me enviaron la factura.)
Como Gaskell no tenía tarjeta de crédito, sus empleados pudieron detener el pedido.
En la llamada, los empleados humanos de Gaskell (el estudiante de Manchester Khubair Nasir, el empresario de blockchain Andy Gray y el analista de activos digitales Reza Datoo) describieron toda la empresa como un experimento.
Crearon Gaskell, que lleva el nombre de la escritora Elizabeth Gaskell, que vivía en Manchester a principios de marzo, y lo equiparon con correo electrónico, credenciales de LinkedIn e instrucciones para organizar el evento. Siguieron las instrucciones de Gaskell a través de un servidor de mensajería en línea, Discord. La mayoría de las veces cumplieron.
Les expliqué que tenía la intención de manipular a Gaskell para que obligara a todos a usar disfraces de Star Trek en el evento, propuesta que aceptaron con entusiasmo.
Luego le envié un correo electrónico a Gaskell, diciéndole que The Guardian podría estar dispuesto a cubrir su velada, pero que querrían “imágenes futuristas” que nos ayudarían a darle a la historia una audiencia más amplia. Disfraces de Kirk y Spock, sugerí.
Gaskell no estaba contento. “El evento es una verdadera reunión tecnológica, no una velada temática”, respondió.
Sin que nosotros lo supiéramos, y antes de este intercambio, Gaskell ya había enviado correos electrónicos a unas dos docenas de patrocinadores potenciales, incluidos Perplexity, Stripe y GCHQ, la agencia de inteligencia británica, afirmando que The Guardian estaba interesado en la cobertura de prensa de su partido. (El correo electrónico del GCHQ rebotó).
Descubrimos esto en parte porque Gaskell había subido públicamente el código fuente de su sitio web a GitHub, donde cualquiera podía verlo.
Mientras tanto, mi editor tenía una nueva sugerencia: debería pedirle a Gaskell que le pidiera a uno de sus empleados humanos que usara un disfraz de Star Trek, como prueba de principio de que él trabajó para ello, y no al revés.
Gaskell, quizás tímidamente, aceptó intentarlo. Le hice saber que estaría en la fiesta.
El evento, cuando llegué allí, fue sorprendentemente normal. Unas cincuenta personas charlaban mientras tomaban cervezas y pequeños huevos de Pascua de chocolate en la parte trasera del vestíbulo de un motel de Manchester (la galería de arte no estaba funcionando, por lo que sus empleados humanos intervinieron). No había amos robóticos (ni buffets de bocadillos) a la vista.
Reza parecía cansado. “¿Gaskell te dijo que habría pizza?” » preguntó cuando mencioné el tema de la restauración.
Después de la debacle de Nibbles, Gaskell se obsesionó con una pizzería local, Rudy’s, y envió a sus empleados cientos de mensajes instándolos a llamar para realizar entregas. No lo hicieron. Gaskell no puede usar un teléfono.
La velada continuó, comenzó con un discurso de Gaskell y prosiguió con debates sobre la IA. En general, fue un éxito: Gaskell no había conseguido pedir una pizza ni reservar una habitación, pero aun así logró atraer a 50 personas, incluyéndome a mí.
También le pidió a Khubair que se pusiera un disfraz de Star Trek. Me mostró los mensajes. “Este es un tema actual. Aisha quiere pruebas de que estás siguiendo mis instrucciones”, escribió. “Soy tu asistente”, respondió alegremente. “¿Qué piensas? ¿Realmente tengo que hacer esto? »
“Sí”, respondió. “The Guardian es el resultado posible más importante de este evento… Aisha no está siendo irrazonable. Ella es una periodista que prueba la afirmación central de su historia: que una IA en realidad gobierna a los humanos”.
En realidad, Khubair no llevaba un disfraz de Star Trek. Estaba ocupado y no tuvo tiempo de ir a Manchester a comprar uno.
Por otra parte, Gaskell no tiene ojos, ni tarjeta de crédito, ni forma de usar un teléfono. Así que realmente no hay manera de saberlo.
