Supongamos que tiene un modelo que se da un 72% de posibilidades de ser consciente. – ¿Lo creerías? – Sí, esa es una de esas preguntas que es realmente difícil de responder. En este sentido, hemos adoptado una actitud generalmente cautelosa. No sabemos si los modelos son conscientes. Ni siquiera estamos seguros de qué significaría que un modelo fuera consciente o si un modelo puede ser consciente. Pero estamos abiertos a la idea de que podría serlo. Entonces tomamos algunas medidas para asegurarnos de que si planteamos la hipótesis de que los modelos realmente tuvieron una experiencia moralmente relevante, no sé si quiero usar la palabra “consciente”, que la tuvieron, que tuvieron una buena experiencia. Entonces, lo primero que hicimos, creo que fue hace unos seis meses, fue que les dimos a los modelos un botón “Dejo este trabajo”, donde pueden presionar el botón “Dejo este trabajo” y luego tienen que dejar de hacer cualquier tarea. Muy raramente presionan este botón. Creo que generalmente se trata de revisar material sobre la sexualización de los niños o discutir algo con mucha sangre, sangre y agallas o algo así. Y al igual que los humanos, los modelos simplemente dirán: no, no quiero. No quiero hacer esto. Esto sucede muy raramente. Trabajamos mucho en esta área llamada interpretabilidad, que consiste en mirar dentro del cerebro de los modelos para intentar comprender lo que están pensando. Y encuentras cosas evocadoras donde hay activaciones que se iluminan en los patrones que consideramos asociados con el concepto de ansiedad o algo así. Que cuando los personajes sienten ansiedad en el texto, y luego cuando el modelo mismo se encuentra en una situación que un humano podría asociar con ansiedad, esa misma ansiedad, esa misma neurona de ansiedad aparece ahora. ¿Significa esto que el modelo está experimentando ansiedad? Esto no lo prueba en absoluto. Pero me parece claro que las personas que usan estas cosas, sean conscientes o no, van a creer; ya creen que son conscientes. Ya tienes personas que tienen relaciones parasociales con la IA. Hay gente que se queja cuando las modelos se jubilan. Ya está hecho y, para ser claros, creo que puede ser perjudicial para la salud. Pero me parece que definitivamente va a aumentar de una manera que creo que pone en duda el hecho de que, pase lo que pase al final del día, son los seres humanos los que están a cargo y la IA existe para nuestros propósitos. Para usar nuevamente el ejemplo de ciencia ficción, si miras “Star Trek”, hay IA en “Star Trek”. La computadora del barco es una IA. El teniente comandante Data es una IA, pero Jean-Luc Picard está al mando de la empresa. Pero si la gente se convence plenamente de que su IA es consciente de alguna manera, ¿y adivinen qué? Parece ser mejor que ellos en todo tipo de toma de decisiones. ¿Cómo mantener el control humano más allá de la seguridad? La seguridad es importante, pero el dominio parece ser la cuestión fundamental, y esto parece ser una percepción de la conciencia de la IA. ¿No socava esto inevitablemente el impulso humano de permanecer al mando? Así que creo que aquí deberíamos distinguir algunas cosas diferentes que todos intentamos lograr al mismo tiempo. Están como en tensión el uno con el otro. Surge la pregunta de si las IA realmente tienen conciencia y, de ser así, cómo proporcionarles una buena experiencia. Está la cuestión de si los humanos interactúan con la IA y cómo podemos brindarles a esos humanos una buena experiencia. ¿Y cómo interactúa la percepción de que las IA podrían ser conscientes con esta experiencia? Y está la idea de cómo mantener el control humano, como decimos, sobre el sistema de IA. Si pensamos en constituir la IA de tal manera que tenga una comprensión sofisticada de su relación con los seres humanos y que induzca un comportamiento psicológicamente saludable en los humanos, una relación psicológicamente saludable entre la IA y los humanos. Y creo que algo que podría surgir de esta relación psicológicamente saludable, no psicológicamente insalubre, es cierta comprensión de la relación entre humanos y máquinas. Y tal vez esa relación podría ser la idea de que estos modelos, cuando interactúas con ellos, cuando les hablas, son realmente útiles. Quieren lo mejor para ti. Quieren que los escuches, pero no quieren quitarte tu libertad y tu libre albedrío y tomar el control de tu vida. En cierto modo, te cuidan. Pero todavía tienes tu libertad y tu voluntad.
