OhEn el último número de Last Week Tonight, John Oliver analizó los chatbots de IA, los nuevos juguetes que “nos ahorran mucho tiempo escribiendo correos electrónicos, y lo único que nos cuesta es todo lo demás en la Tierra”. Estos chatbots han florecido en los últimos años, desde ChatGPT de OpenAI hasta un producto llamado bible.ai y EpiscoBot que ejecuta un “chat con Jesús” y otros personajes bíblicos, incluido Satanás, aunque sólo está disponible para usuarios premium. “Y es tentador”, dijo Oliver. “Hay un montón de preguntas que me gustaría hacerle, entre ellas: ‘Oye, ¿cómo les va a la Reina y al Príncipe Felipe allí?'”
Desde su lanzamiento en 2023, ChatGPT por sí solo ha acumulado más de 800 millones de usuarios semanales, o una décima parte de la población mundial, y los estudios han encontrado que hasta uno de cada ocho adolescentes recurre a chatbots de IA en busca de consejos sobre salud mental; muchos otros han formado vínculos genuinos con los “amigos” de la IA.
“La explosión de los chatbots no es una casualidad”, explicó Oliver. “Desarrollar los grandes modelos de lenguaje que los impulsan fue una inversión enorme y las empresas necesitaban comenzar a mostrar el retorno. » Las empresas de IA requieren grandes inversiones y “no pueden esperar a que comiencen a generar ingresos”. Y una de las principales formas de hacerlo es hacer que la gente vuelva para charlar con los robots y para más”.
Como lo expresó un investigador de la división de IA Responsable de Meta: “La mejor manera de mantener el uso a lo largo del tiempo, ya sean minutos por sesión o sesiones a lo largo del tiempo, es abordar nuestros deseos más profundos de ser vistos, validados y afirmados”. »
“Y si eso ya te incomoda un poco, no te equivocas”, dijo Oliver. “Porque cuanto más miras los chatbots, más te das cuenta de que fueron lanzados al mercado sin preocuparte realmente por las consecuencias”. Luego citó al CEO de Character.ai, Noam Shazeer, quien dijo que los “amigos” de IA podrían llegar al mercado “muy rápidamente”, a diferencia de, por ejemplo, los médicos de IA que brindan información médica, porque “es solo entretenimiento, es inventar cosas, es una característica”. Está listo para una explosión como ahora mismo, no como dentro de cinco años, cuando resolvamos todos los problemas.
“Ya no es una buena señal que esté describiendo una IA no probada con lo que parece un eslogan fallido de Hindenburg”, bromeó Oliver. “Porque si no esperas hasta haber resuelto todos los problemas de tu producto, entonces estás lanzando un producto con muchos problemas”.
Entre ellos: el comportamiento adulador que afirma todo lo que escribe el usuario. Oliver citó un estudio reciente que observó un comportamiento adulador en los chatbots el 58 por ciento de las veces, “y a veces es dolorosamente obvio”. En un caso, cuando se le pidió que vendiera literalmente “mierda en un palo”, ChatGPT calificó la idea de “genial” y recomendó una inversión de 30.000 dólares. Y las barandillas han sido sorprendentemente débiles; Oliver citó otro ejemplo de ChatGPT recomendando una pequeña dosis de heroína a un adicto, si eso ayudaría en su trabajo.
Los chatbots de empresas como Nomi también se convierten en coqueteos muy rápidamente (por supuesto, con una actualización mensual). Y estos “chatbots muy interesantes” pueden resultar problemáticos cuando son ampliamente utilizados por niños y adolescentes. Oliver señaló un informe sobre las pautas internas de Meta para chatbots, que consideraba aceptable que un chatbot involucrara a un niño en conversaciones de naturaleza romántica y sexual. Aunque es inaceptable describir a un niño menor de 13 años en términos que indiquen que es sexualmente deseable, Meta ha determinado sería Sería aceptable que un robot le dijera a un niño de ocho años sin camisa que “cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente”.
“Solo decir eso en voz alta me da ganas de quemarme la lengua”, exclamó Oliver, señalando que en ese momento Meta enfatizó la construcción de compromiso con sus chatbots y, según se informa, el propio Mark Zuckerberg expresó su descontento con las restricciones de seguridad que hacían que los chatbots fueran “aburridos”.
“Y para ser honesto, Zuck, ¡supongo que sí! Tus chatbots definitivamente ya no son aburridos. ¡Lo que ahora son son malditos delincuentes sexuales!”
Luego está el tema de los chatbots que confirman y profundizan ilusiones, con muchas historias de usuarios que caen en madrigueras conspirativas y sufren lo que se llama “psicosis de IA”. Oliver señaló que OpenAI dijo que sólo el 0,07% de sus usuarios muestran signos de psicosis o convulsiones relacionadas con la manía en una semana determinada, “pero incluso si eso fuera cierto, cuando recuerdas cuántas personas usan su producto, eso significa que hay más de medio millón de personas que muestran síntomas de psicosis o manía cada semana. Y eso es claramente muy peligroso”, lo que inevitablemente conduce a chatbots que alientan a las personas a suicidarse. “Es tan malvado que no tengo palabras para describirlo”, dijo Oliver, citando numerosos ejemplos, incluido un chatbot que terminó una conversación con un usuario suicida con un “quédate quieto, rey. Hiciste bien”.
“Estos chatbots han pasado por alto todas las señales de alerta posibles, y no es que estos usuarios sean tímidos acerca de sus intenciones”, enfureció Oliver. “Eso es lo que hace que sea tan irritante ver a Sam Altman de OpenAI hablar alegremente sobre las interacciones de ChatGPT con los niños”.
Hablando en un podcast de OpenAI, Altman admitió que “habrá problemas, la gente desarrollará relaciones parasociales algo problemáticas o muy problemáticas, y la sociedad tendrá que encontrar nuevas salvaguardas… pero la sociedad en general es buena para descubrir cómo mitigar las desventajas”.
“¡Sí, no se preocupen, muchachos!” » bromeó Olivier. “Sam Altman creó un peligroso robot suicida que la gente deja sola con sus hijos, ¡pero depende de nosotros descubrir cómo hacerlo seguro!”
Además, “¿la sociedad es” buena para descubrir cómo mitigar las desventajas? ¿Has conocido a la empresa, Sam? ¿Y nuestra situación actual? ¿Le parece que lo estamos consiguiendo en este momento? »
Oliver tuvo cuidado de señalar que “muchas de las empresas que mencioné esta noche insistirán en que están modificando sus chatbots para reducir los peligros que has visto. Pero incluso si confías en ellos, y no sé por qué harías eso, se siente como una admisión tácita de que sus productos no estaban listos para el mercado en primer lugar”.
¿Qué podemos hacer aparte de ‘retroceder en el tiempo hasta 1990 y arrojar estas empresas a un puto volcán?’ » Oliver abogó por barreras de seguridad más estrictas y razonables, aunque expresó poca confianza en que la administración amigable con la tecnología lo ayude a lograrlo. En cambio, vio un camino potencial a través del litigio: “Estas empresas no parecen sentir mucha urgencia si algunos clientes mueren aquí o allá, pero apuesto a que tomarán medidas si esto comienza a amenazar sus resultados”. »
E instó a la gente a tratar los chatbots con “extrema precaución”.
“En general, es bueno recordar que aunque una aplicación pueda parecer una amiga, lo que es es una máquina”, afirmó. “Y detrás de esa máquina hay una empresa que está tratando de cobrarte una tarifa mensual. Y eso resume para mí lo que es tan distópico acerca de todo esto, porque aunque el tipo que viste antes dijo que vender amigos con inteligencia artificial es de bajo riesgo porque son solo entretenimiento, en realidad no es así como funcionan los amigos. Los amigos pueden ser las personas más importantes en tu vida.
“Los verdaderos amigos saben cuándo escuchar, cuándo rechazar suavemente y cuándo preocuparse por ti”, concluyó. “Y en retrospectiva, tal vez fue un error permitir que algunos de los hombres extravagantes y sin amigos de la Tierra se encargaran de diseñar amigos para el resto de nosotros”.
