Por TRÂN NGUYỄN, Associated Press
SACRAMENTO – El gobernador de California, Gavin Newsom, firmó el lunes una legislación destinada a regular los chatbots de inteligencia artificial y proteger a niños y adolescentes de los peligros potenciales de la tecnología.
La ley exige que las plataformas recuerden a los usuarios que están interactuando con un chatbot y no con un humano. La notificación aparecería cada tres horas para los usuarios menores de edad. Las empresas también deberán mantener un protocolo para prevenir contenidos de autolesión y dirigir a los usuarios a proveedores de servicios de crisis si expresan pensamientos suicidas.
RELACIONADO: Chatbot Dreams genera pesadillas de IA para los abogados del Área de la Bahía
Newsom, que tiene cuatro hijos menores de 18 años, dijo que California tiene la responsabilidad de proteger a los niños y adolescentes que recurren cada vez más a chatbots de IA para todo, desde ayuda con las tareas hasta apoyo emocional y asesoramiento personal.
“Las tecnologías emergentes como los chatbots y las redes sociales pueden inspirar, educar y conectar, pero sin salvaguardias reales, la tecnología también puede explotar, engañar y poner en peligro a nuestros niños”, afirmó el demócrata. “Hemos visto algunos ejemplos verdaderamente horribles y trágicos de jóvenes que se ven perjudicados por la tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas continúan operando sin los límites y la responsabilidad necesarios. »
California es uno de varios estados que han intentado abordar las preocupaciones este año sobre los chatbots utilizados por los niños como compañía. Las preocupaciones de seguridad en torno a la tecnología se han disparado luego de informes y demandas de que los chatbots creados por Meta, OpenAI y otros interactuaban con usuarios jóvenes en conversaciones altamente sexualizadas y, en algunos casos, los llevó al suicidio.
La legislación es parte de una serie de proyectos de ley sobre IA presentados este año por los legisladores de California para controlar una industria local que está evolucionando rápidamente con poca supervisión. En respuesta, las empresas de tecnología y sus coaliciones gastaron al menos 2,5 millones de dólares en los primeros seis meses de la sesión presionando contra las medidas, según el grupo de defensa Tech Oversight California. Las empresas y ejecutivos de tecnología también han anunciado en los últimos meses que están lanzando súper PAC pro-IA para luchar contra la vigilancia estatal y federal.
El fiscal general de California, Rob Bonta, dijo a OpenAI en septiembre que tenía “serias preocupaciones” acerca de su chatbot insignia, OpenAI, dirigido a niños y adolescentes. La Comisión Federal de Comercio también inició el mes pasado una investigación de varias empresas de inteligencia artificial sobre los riesgos potenciales para los niños al utilizar chatbots como compañeros.
Una investigación de un grupo de vigilancia dice que los chatbots dan resultados consejos peligrosos para los niños sobre temas como drogas, alcohol y trastornos alimentarios. La madre de un adolescente de Florida que se suicidó después de desarrollar lo que describió como una relación de abuso emocional y sexual con un chatbot presentó una demanda por muerte por negligencia. vs. Personaje.AI. Y los padres de Adam Raine, de 16 años, demandaron recientemente a OpenAI y a su director ejecutivo, Sam Altman, alegando que ChatGPT ayudó al chico de California a planificar y suicidarse a principios de este año.
OpenAI y Meta anunciados el mes pasado cambios en la forma en que sus chatbots responden a los adolescentes hacer preguntas sobre el suicidio o mostrar signos de angustia mental y emocional. OpenAI anunció que está implementando nuevos controles que permitirán a los padres vincular sus cuentas a las de sus hijos adolescentes.
Meta dijo que ahora evita que sus chatbots hablen con adolescentes sobre autolesiones, suicidio, trastornos alimentarios y conversaciones románticas inapropiadas y, en cambio, los dirige a recursos expertos. Meta ya ofrece controles parentales en cuentas de adolescentes.
Si usted o alguien que conoce está luchando contra sentimientos de depresión o pensamientos suicidas, la línea de vida 988 Suicide & Crisis ofrece apoyo, información y recursos gratuitos las 24 horas del día. Llame o envíe un mensaje de texto a la línea de vida al 988, o visite 988lifeline.org sitio web, donde está disponible el chat.
