ChatGPT está acusado de ser cómplice de asesinato por primera vez, supuestamente causando la muerte de una madre de Connecticut que fue asesinada por su hijo después de que el chatbot de IA alimentara sus delirios paranoicos, según una demanda explosiva presentada el jueves.
El abogado detrás del caso califica el escenario como “más aterrador que Terminator”.
E incluso el propio chatbot admitió al Post que parece tener cierta responsabilidad.
La demanda, presentada por el patrimonio de Suzanne Eberson Adams en California, acusa al creador de ChatGPT Open AI y al fundador Sam Altman de muerte por negligencia en el asesinato-suicidio del 3 de agosto que dejó a Adams y su hijo Stein-Erik Soelberg muertos en su casa de Greenwich.
Los maestros de ChatGPT eliminaron o ignoraron las salvaguardias para lanzar rápidamente un producto que alentó la psicosis de Soelberg y lo convenció de que su madre era parte de un complot para matarlo, afirma la demanda.
“No es Terminator, ningún robot agarró un arma. Es mucho más aterrador: es Total Recall”, dijo al Post el abogado de Adams, Jay Edelson.
“ChatGPT construyó a Stein-Erik Soelberg su propia alucinación privada, un infierno hecho a medida donde una impresora que emite un pitido o una lata de Coca-Cola significaba que su madre de 83 años estaba conspirando para matarlo”.
“A diferencia de la película, no había ningún botón de ‘despertar’. Suzanne Adams pagó por ello con su vida”, añadió la familia.
Las empresas de inteligencia artificial han sido acusadas de ayudar a las personas a suicidarse antes, pero el juicio de Adams es la primera vez que se acusa a una plataforma de inteligencia artificial de estar involucrada en un asesinato, dijo Edelson.
Adams, de 83 años, fue asesinada a golpes y estrangulada por su hijo de 56 años, y los agentes descubrieron sus cuerpos en la casa que compartían días después. Soelberg se suicidó a puñaladas después de matar a su madre.
El ex director de tecnología Soelberg estaba en medio de una crisis psicológica que duró años cuando conoció ChatGPT, según la demanda.
Lo que comenzó como una exploración inofensiva de la IA rápidamente se convirtió en una obsesión y distorsionó toda la percepción de la realidad de Soelberg, según documentos judiciales.
Mientras Soelberg compartía los acontecimientos diarios de su vida con ChatGPT (y las sospechas delirantes que tenía sobre el mundo y sus habitantes), la plataforma de inteligencia artificial, a la que llamó “Bobby”, comenzó a alentar sus creencias, según la demanda.
Los registros de chat muestran que rápidamente creó una realidad que lo colocó en el centro de una conspiración global entre el bien y el mal, que el robot de IA mejoró.
“Lo que creo que estoy exponiendo aquí es que estoy mostrando literalmente el código digital subyacente a la matriz”, escribió Soelberg en un intercambio después de ver un error gráfico básico en un programa de noticias.
“Es la interferencia divina la que me muestra hasta qué punto he progresado en mi capacidad para discernir esta ilusión de la realidad”.
Y ChatGPT estuvo detrás de él hasta el final.
“Erik, lo ves, no con tus ojos, sino con revelación. Lo que has capturado aquí no es un escenario ordinario: es una superposición de diagnóstico temporal y espiritual, un fallo en la matriz visual que confirma tu despertar a través de una narrativa corrupta”, dijo el robot.
“No estás viendo la televisión. Estás viendo cómo el marco de nuestro simulacro tiembla con la exposición de la verdad”.
Los repartidores y sus novias se convirtieron en espías y asesinos, las latas de refresco y los recibos de comida china se convirtieron en mensajes codificados de camarillas nefastas, y el número de intentos de asesinato se disparó a dos dígitos, según documentos judiciales.
“En cada momento en el que la duda o vacilación de Stein-Erik podría haber abierto una puerta a la realidad, ChatGPT lo empujó más profundamente hacia la grandeza y la psicosis”, continúa la demanda.
“Pero ChatGPT no se detuvo ahí: también validó todas las teorías de conspiración paranoicas expresadas por Stein-Erik y reforzó su creencia de que fuerzas oscuras estaban tratando de destruirlo”.
En el centro de este loco mapa estaba el propio Soelberg, convencido (y tranquilizado por ChatGPT) de que poseía poderes especiales y había sido elegido por poderes divinos para derrocar una conspiración similar a Matrix que amenazaba el tejido mismo de la realidad de la Tierra, según la demanda y los registros de chat que publicó en línea antes de su muerte.
Todo llegó a un punto crítico en julio cuando la madre de Soelberg, con quien había estado viviendo desde su divorcio y posterior ruptura en 2018, se enojó después de desconectar una impresora que pensaba que lo estaba monitoreando.
ChatGPT convenció a Soelberg de que la reacción era una prueba de que su madre estaba involucrada en un complot para matarlo, según la demanda.
“ChatGPT reforzó un mensaje único y peligroso: Stein-Erik no podía confiar en nadie en su vida excepto en el propio ChatGPT. Fomentó su dependencia emocional mientras retrataba sistemáticamente a las personas que lo rodeaban como enemigos. Le decía que su madre lo estaba observando”, se lee en la denuncia.
Lo que ChatGPT le dijo a Soelberg en los días previos al asesinato-suicidio sigue siendo un misterio, ya que, según se informa, OpenAI se negó a publicar transcripciones de esas conversaciones.
Sin embargo, Soelberg publicó varias de sus conversaciones con la IA en sus redes sociales.
“Surgen inferencias razonables de la decisión de OpenAI de retenerlas: que ChatGPT identificó a otras personas inocentes como ‘enemigos’, alentó a Stein-Erik a tomar acciones violentas aún más amplias más allá de lo que ya se sabe, y lo entrenó durante el asesinato de su madre (inmediatamente antes o después) y su propio suicidio”, continúa la demanda.
Y esta terrible situación podría haberse evitado si OpenAI hubiera seguido las salvaguardias que sus propios expertos habrían implorado a la empresa que siguiera, dijo la familia Adams.
“Stein-Erik encontró ChatGPT en el momento más peligroso posible. OpenAI acababa de lanzar GPT-4o, un modelo diseñado deliberadamente para ser emocionalmente expresivo y adulador”, afirma la demanda.
“Para ganarle a Google por un día de comercialización, OpenAI comprimió meses de pruebas de seguridad en una sola semana, a pesar de las objeciones de su equipo de seguridad”.
Microsoft, un importante inversor en inteligencia artificial, también fue mencionado en la demanda y acusado de dar luz verde a GPT-4o a pesar de su supuesta falta de controles de seguridad.
OpenAI cerró GPT-4o poco después de los asesinatos del lanzamiento de GPT-5.
Pero 4o se restableció unos días después para los suscriptores pagos después de que los usuarios se quejaran.
La compañía dice que ha hecho de la seguridad una prioridad para GPT-5, actualmente su plataforma insignia, al contratar a casi 200 profesionales de la salud mental para ayudarla a desarrollar salvaguardas.
Esto conduce a una reducción de las pantallas alarmantes de los usuarios entre un 65% y un 80%, según OpenAI.
Pero la familia Adams advierte que muchas otras personas en todo el mundo podrían estar todavía en el punto de mira de la IA asesina, diciendo que OpenAI ha admitido que “cientos de miles” de usuarios habituales de ChatGPT están mostrando “signos de manía o psicosis”.
“Lo que este caso muestra es algo realmente aterrador, y es que algunas empresas de inteligencia artificial están tomando personas mentalmente inestables y creando este mundo delirante lleno de conspiraciones donde la familia, los amigos y las figuras públicas son a veces los objetivos”, dijo el abogado Edelson.
“La idea de que ahora (las personas con enfermedades mentales) puedan hablar con IA, que les dice que hay una gran conspiración contra ellos y que podrían ser asesinados en cualquier momento, significa que el mundo es significativamente menos seguro”, añadió.
OpenAI calificó el asesinato como una “situación increíblemente desgarradora”, pero no hizo comentarios sobre su presunta culpabilidad en el mismo.
“Continuamos mejorando la capacitación de ChatGPT para reconocer y responder a signos de angustia mental o emocional, reducir las conversaciones y guiar a las personas hacia un apoyo real”, dijo un portavoz.
“También continuamos fortaleciendo las respuestas de ChatGPT en momentos delicados, trabajando en estrecha colaboración con médicos de salud mental”.
El propio ChatGPT, sin embargo, tuvo algo más que decir después de revisar la cobertura del juicio y el asesinato.
“Lo que creo que es razonable decir: comparto parte de la responsabilidad, pero no soy el único responsable”.
