METROLa mayoría de lectores de la novela Klara y el sol de Kazuo Ishiguro (2021) se habrán conmovido con el retrato de su narrador AI del mismo nombre. Klara, una “amiga artificial” alimentada por energía solar, comprada como compañera y posible sustituta de un adolescente enfermo, cumple con sus deberes con una lealtad amorosa que evita que la vean como una mera pieza de tecnología.
Ficción brillante y que invita a la reflexión. Pero en el mundo real, antropomorfizar la IA podría no ser una idea tan inteligente. Durante el verano, Anthropic, una empresa líder en tecnología, anunció que, en aras del bienestar de los chatbots, permitiría que su modelo Claude Opus 4 evitara conversaciones supuestamente “dolorosas” con los usuarios. En términos más generales, en un contexto de crecimiento explosivo de las capacidades de la IA, están surgiendo fenómenos especulación sobre si la futura Klaras merecería que se le concedieran derechos legales como los seres humanos.
Las premisas de tales discusiones son a la vez hipotéticas y confusas. En el texto sintético producido por grandes modelos lingüísticos (LLM), nada se parece a la mente humana que los creó en primer lugar. Pero los debates sobre la posibilidad teórica de una IA “sensible” también corren el riesgo de convertirse en una distracción peligrosa.
Entrevistado la semana pasada por The Guardian, uno de los principales pioneros de la IA señaló que los modelos avanzados ya muestran signos de una tendencia de autoconservación en entornos experimentales. Según el profesor Yoshua Bengio, “debemos asegurarnos de que podemos confiar en salvaguardias técnicas y sociales para controlarlos, incluida la capacidad de detenerlos si es necesario”. Las tendencias hacia el antropomorfismo, añadió, no conducen a una buena toma de decisiones en áreas como ésta.
A una industria que depende del shock y el asombro para provocar un auge en el mercado de valores no le importará. Esta semana en Las Vegas, el director ejecutivo de Nvidia, Jensen Huang comprometido en un impresionante diálogo público con dos robots. Ambos arrullaron con entusiasmo los planes del Sr. Huang para mejorar su futuro en la próxima era dorada de la IA.
Este tipo de espectáculo de Silicon Valley podría deleitar a los inversores y mantener la capitalización de mercado de Nvidia en alrededor de 5 billones de dólares. Pero esto distrae la atención del trabajo serio de proteger las libertades y la dignidad humanas del daño digital y de determinar con seriedad qué puede ofrecer la IA de manera segura y rentable. La repugnante generación de imágenes sexualizadas falsas de mujeres y niñas menores de edad por parte de Grok de Elon Musk es otro recordatorio de la urgencia de esta tarea.
En tal contexto, los discursos vanguardistas sobre la futura concesión de “derechos” a la IA sensible parecen algo irrelevantes. Es cierto que a medida que los LLM se integran cada vez más en nuestra vida diaria, queda trabajo sociológico por hacer sobre cómo interactuamos con ellos. La evidencia de vínculos emocionales formados con IA constituye una nueva dimensión de experiencia sobre la cual reflexionar. Pero es importante recordar que Siri y Alexa no existen más que como creaciones humanas.
Por supuesto, ocurre lo contrario cuando se trata de una niña llevada a la desesperación por el contenido basado en algoritmos en las redes sociales; o a los ucranianos sujetos a la horrores desencadenado por drones rusos con IA. Sin duda, la revolución digital está transformando la relación entre humanos y máquinas, para bien o para mal. Si no fuera por eco el título de un libro de Friedrich Nietzsche –un libro muy estimado por ciertas vanguardias tecnológicas: los nuevos problemas que ha creado son “humanos, demasiado humanos” y deben entenderse como tales.
