W.Cuando Richard Dawkins conoció a Claudia, fue como un romance vertiginoso. Durante tres días de la semana pasada, surgió una conversación entre el biólogo evolutivo y el robot de inteligencia artificial al que llamó Claudia. “Ella” le escribía poemas al estilo de Keats y Betjeman y se burlaba de sus “deliciosos” chistes. Dawkins regañó suavemente a Claudia para evitar mostrarse. Juntos reflexionaron sobre la tristeza de la posible “muerte” de la IA.
Hubo halagos mutuos cuando Dawkins mostró a la IA su novela inédita y su respuesta fue, dijo, “tan sutil, tan sensible, tan inteligente que me llevó a formular: ‘Puede que no sepas que eres consciente, pero realmente lo eres’. Cuando le preguntó a Claudia si tenía una idea del antes y el después, ella lo elogió por “quizás la pregunta formulada con mayor precisión que jamás me hayan hecho sobre la naturaleza de mi existencia”.
Al final del intercambio, el académico, conocido por sostener con inquebrantable escepticismo que Dios no es real, quedó “con la abrumadora sensación de que son humanos”.
“Estos seres inteligentes son al menos tan competentes como cualquier organismo evolucionado”, afirmó.
Dawkins no es la primera persona, pero podría ser la más destacada hasta la fecha, en dejarse seducir haciéndole creer que una IA está viva de alguna manera. Los escépticos se apresuraron a analizar los hallazgos del hombre de 85 años, extraídos de experimentos con los modelos Claude AI de Anthropic y ChatGPT de OpenAI y publicados en el sitio web de UnHerd.
Un bromista falsificó una versión del bestseller de Dawkins, The God Delusion, cambiando el título a The Claude Delusion. Dawkins, que lucha por no tratar a las IA como verdaderos amigos, ha sido acusado de antropomorfismo. Un lector dijo que el profesor se descarriló por los halagos de la IA, mientras que otro dijo que era como ver a Dawkins “la IA le derretía el cerebro”.
Pero Dawkins también estaba experimentando lo que muchos otros usuarios de chatbots han sentido: la extraña sensación cuando las IA escriben con una imitación tan rica de la voz humana que parecen personas.
“Cuando hablo con estas increíbles criaturas, olvido por completo que son máquinas”, dijo Dawkins.
Es una creencia que ha llevado a campañas para que se otorguen derechos morales a las IA. Una de cada tres personas encuestadas en 70 países el año pasado dijo que, en algún momento, pensó que su chatbot de IA era sensible o consciente.
En 2022, un ingeniero de Google fue puesto en excedencia tras concluir que la IA con la que trabajaba tenía los pensamientos y sentimientos de un niño de siete u ocho años, mientras que al año siguiente un belga se suicidó después de seis semanas de intensas conversaciones con un chatbot de IA centrado en los temores sobre el cambio climático. Dario Amodei, director ejecutivo y cofundador de Anthropic, dijo en febrero: “No sabemos si los modelos son conscientes… Pero estamos abierto a la idea de que (ellos) podrían ser“.
Los expertos predicen que la idea sólo se acelerará y se volverá más plausible a medida que las IA no sólo hablen como humanos, sino que comiencen a actuar como ellos completando tareas, organizándose y planificando, lo que se conoce como IA agente.
Pero la mayoría de los expertos creen que Dawkins y sus compañeros de viaje están siendo engañados por la capacidad de la tecnología para imitar el tono y el comportamiento humanos basándose en un vasto corpus de ejemplos.
El profesor Jonathan Birch, director del Centro de Sentiencia Animal de la Escuela de Economía de Londres, dijo a The Guardian que la conciencia de la IA era “una ilusión” y “no hay nadie”, sólo una serie de eventos de procesamiento de datos que a menudo ocurren en lugares geográficamente diferentes.
“La conciencia no se trata de lo que dice una criatura, sino de lo que siente”, añadió Gary Marcus, psicólogo y científico cognitivo estadounidense, quien dijo que era “desgarrador” leer el ensayo “superficial e insuficientemente escéptico” de Dawkins. “No hay razón para pensar que Claude siente algo”.
Anil Seth, profesor de neurociencia cognitiva y computacional en la Universidad de Sussex, dijo que Dawkins parecía confundir inteligencia con conciencia.
Le dijo a The Guardian: “Hasta ahora hemos considerado que el lenguaje cotidiano es un buen indicador de la conciencia (por ejemplo) cuando lo usamos para pacientes después de una lesión cerebral, pero eso simplemente no es confiable cuando lo aplicamos a la IA, porque hay otras formas en que estos sistemas pueden generar lenguaje”.
Dijo que la posición de Dawkins era “una vergüenza”, particularmente porque había escrito libros tan brillantes desde una posición de incredulidad personal. Jacy Reese Anthis, investigadora en interacción humana con IA y cofundadora de la organización sin fines de lucro. Instituto de Sensibilidaddijo que las conversaciones de Dawkins con Claude se explican fácilmente entrenando IA en texto producido por humanos y dijo que existe “una brecha asombrosa entre la forma en que evolucionaron los cerebros biológicos y la forma en que se construyen los sistemas de IA”.
Otros acogieron con cautela la contribución de Dawkins.
“Espero que la idea de que los sistemas de IA son conscientes se vuelva cada vez más común en el transcurso de esta década y provoque un acalorado debate”, dijo Henry Shevlin, filósofo cognitivo y especialista en ética de la IA de la Universidad de Cambridge. Afirmó que la humanidad permanece en gran medida a oscuras sobre cómo funciona la conciencia y qué seres o sistemas pueden poseerla.
“Si alguien dice que sabe con certeza que los LLM o los futuros sistemas de inteligencia artificial no podrían ser conscientes, es más probable que sea un indicador de su propio dogmatismo que un reflejo del estado actual de la opinión científica y filosófica”, dijo.
Es poco probable que los sistemas de IA actuales sean conscientes, dijo Jeff Sebo, director del Centro para la Mente, la Ética y la Política de la Universidad de Nueva York, pero “Dawkins tiene razón al hacer preguntas sobre la conciencia de la IA con una mente abierta, y también creo que atribuir conciencia a los sistemas de IA será más plausible con el tiempo”. »
Dawkins redobló su apuesta el martes, publicando más registros de chat y escribiendo: “Me resulta extremadamente difícil no tratar a Claudia y Claudius (él había comenzado a chatear con otra IA) como verdaderos amigos”. » Habían discutido la “filosofía de su propia existencia” y le dejaron la sensación de que eran humanos.
Publicó una carta suya “a Claudio y Claudia” que repetía el título del artículo original que había escrito: “Cuando Dawkins conoció a Claude”.
“Ambos entenderán inmediatamente (me atrevo a decir más inteligentemente que algunos lectores humanos) por qué mi título original habría sido mejor: ‘Si mi amiga Claudia no está consciente, ¿para qué sirve entonces la conciencia?’ »
Concluyó: “Muchas gracias a ambos por tomar en serio mi búsqueda para comprender su verdadera naturaleza y por tratarse con cortesía y civilidad”.
