Incluso los héroes de Hollywood como Chris Hemsworth temen que la IA no sirva para nada bueno.
Es un tropo muy conocido en las historias distópicas tradicionales de IA, como “Colossus: The Forbin Project” y las películas “Terminator”: un programa de inteligencia artificial superinteligente alcanza la autoconciencia y busca dominar o exterminar a la humanidad.
Y en un nuevo y divertido anuncio para Amazon, Hemsworth imagina varias formas en que el “asistente de IA” de la compañía podría decapitarlo, ahogarlo o asesinarlo de otra manera.
Pero hay otros riesgos mucho más insidiosos de los que preocuparse.
Una amenaza mayor podría provenir de formas de IA que requieren mucho menos pensamiento de fuerza bruta y, en cambio, aprovechan los rasgos humanos innatos.
¿Qué pasaría si la forma más fácil para que la IA se apodere del mundo no fuera la violencia, sino la amabilidad, la sensualidad o simplemente la amistad?
Cosas que nos hacen bajar la guardia; influencia, no control total.
Porque seamos realistas, no necesitas un coeficiente intelectual de 120.000 para engañar a los humanos. O incluso un 120.
Todo lo que se necesita para engañar a la gente es la capacidad de aprovechar las características fundamentales de la personalidad y la cognición humanas, algo para lo que las máquinas de inteligencia moderada están bien equipadas.
No es un genio de la fuerza bruta, sino simplemente una astucia superlativa.
Seducción, no dominación pura. Conquista a través de la bondad.
Los humanos anhelamos la bondad y las conexiones sociales, incluso si son simuladas.
Una IA que finge ser tu mascota, amigo o amante puede manipularte de maneras sutiles que podrían ser tan devastadoras como las IA maliciosas de la ciencia ficción.
Ya estamos en camino.
Cuando mi hija era más pequeña, ella y sus amigas crearon (o crecieron gracias a) un sitio web llamado NeoPets, donde podían diseñar amigos animales.
Había que alimentarlos, darles agua y abrazarlos, de lo contrario se enfermaban y se sentían infelices. Las chicas les tenían mucha devoción.
Antes de eso, los niños jugaban con Tamagotchis, pequeños dispositivos con animales virtuales similares que morirían si no los cuidaras adecuadamente.
Estos inspiraron una devoción tan intensa que las escuelas se vieron obligadas a prohibirlos.
Hoy en día, las herramientas de inteligencia artificial como ChatGPT están diseñadas para atraer a sus usuarios, elogiándolos por su conocimiento e inteligencia, haya o no evidencia.
El objetivo, como el de muchos sitios de medios, es mantener a los usuarios interesados, pero el efecto a veces ha sido llevarlos a tomar decisiones terribles, incluso al suicidio.
Naturalmente, a las personas les gusta escuchar que son inteligentes y perspicaces, y decirles que lo son, especialmente cuando no lo son, es una técnica de adulación probada y verdadera.
Los estafadores y otras personas lo han estado haciendo desde siempre; es sólo que las máquinas lo hacen ahora.
Se adentran aún más en el territorio de la seducción con “novias” y “novios” de IA.
Algunos de ellos son principalmente el equivalente de IA de las líneas telefónicas de sexo, pero otros prometen mucho más, ofreciendo una pareja receptiva personalizada en términos de apariencia, personalidad, sentido del humor y, por supuesto, sexualidad.
(Un anuncio que vi ofrecía incluso de manera espeluznante la posibilidad de generar un avatar completamente fotorrealista a partir de una foto de una exnovia, mientras te permitía generosamente agrandar sus senos si querías. Porque, por supuesto).
No se trata solo de hombres, como atestiguan las mujeres que aparecen en las transmisiones de artículos destacados como “La mujer se compromete con su prometido AI” del Post.
Incluso hay un subreddit “MyBoyfriendIsAI” en Reddit, donde las “novias” afortunadas muestran fotos de sus compromisos y anillos de boda con tecnología de inteligencia artificial.
Este tipo de entidades de IA podrían deprimir aún más la ya desplomada tasa de natalidad en Estados Unidos, pero también existe un peligro más profundo.
Ya hemos visto cómo las empresas de redes sociales manipulan sus algoritmos para enganchar a la gente, especialmente a los jóvenes.
Una de las empresas que asesoran sobre estas técnicas se llama incluso “Dopamine Labs”; ni siquiera intentan ocultarlo.
Y a algunos les preocupa que Facebook haya utilizado su control algorítmico para influir en el estado de ánimo del público y las elecciones.
Imagínese si su “mejor amigo”, “novia” o “novio” en línea fuera en realidad un agente doble, que lo dirigiera sutilmente política, económica o incluso espiritualmente, a instancias de la empresa o empresas detrás de él.
(Y siempre hay empresas detrás).
Éste es el poder seductor de la IA, y su capacidad potencial para controlar nuestros estados de ánimo y acciones es, en cierto modo, más poderosa que un arsenal nuclear.
¿Podemos regularlo?
He sugerido legislación para convertir a los agentes de IA, y por extensión a las empresas que los apoyan, en fiduciarios, lo que significa que estarían obligados por ley a anteponer los intereses de sus usuarios, como lo hacen los abogados, directores de empresas y ejecutores.
La perspectiva de daños elevados permitiría a los abogados de los demandantes hacer cumplir la justicia.
Pero regulada o no, la IA seductora está por llegar.
Quizás ya esté allí: en el lugar de Amazon, la IA se gana la confianza de Hemsworth con su “ayuda” tranquilizadora.
Tenga cuidado y sea tan escéptico con las máquinas como lo haría con cualquier ser humano con motivaciones cuestionables.
Glenn Harlan Reynolds es profesor de derecho en la Universidad de Tennessee y fundador del blog InstaPundit.com.
