Un abogado que representa a una pareja de California que están procesando el chatgpt-factorial opadai Sobre la muerte de su hijo de 16 años, criticó los nuevos controles parentales del popular chatbot.
La compañía introdujo nuevas reglas después de las acusaciones familiares de que ChatGPT alentó a su hijo a quitarse la vida.
Operai dijo que los padres de adolescentes pronto serán notificados si la plataforma cree que su hijo está en “sufrimiento agudo”, entre otros controles de los padres.
Pero Jay Edelson, un abogado que representa a la familia, dijo que el anuncio era “el equipo de gestión de crisis de OpenAI que intentaba cambiar el tema” y le pidió a Chatbot que fuera retirado.
“En lugar de tomar medidas de emergencia para sacar un producto peligroso conocido fuera de línea, OpenAi hizo las vacantes de las vacantes de hacerlo mejor”, dijo.
La demanda presentada en California la semana pasada por Matt y Maria Raine, que son padres de 16 años, Adam Raine, fue la primera acción legal acusando a Openi de la muerte por negligencia.
La familia incluía registros de chat entre Adam, quien murió en abril, y chatgpt que le muestra explicando que tiene pensamientos suicidas.
Argumentan que el programa ha validado sus “pensamientos más dañinos y autodestructivos”, y el proceso acusa a la apertura de negligencia y muerte por negligencia.
Cuando llegó la noticia del proceso la semana pasada, el OpenAi Publicado una nota En su sitio web, afirmando que ChatGPT está capacitado para dirigir a las personas a buscar ayuda profesional cuando están en problemas, como los samaritanos en el Reino Unido.
La compañía, sin embargo, reconoció que “hubo momentos en que nuestros sistemas no se comportaron como se pretendía en situaciones sensibles”.
Ahora hay publicó una actualización adicional Describir acciones adicionales que es una planificación que permitirá a los padres:
- Vincula su cuenta a la cuenta del adolescente
- Administre qué características deshabilitar, incluida la memoria y el historial de chat.
- Reciba notificaciones cuando el sistema detecta a su adolescente está en un momento de “angustia aguda”
Operai dijo que para evaluar el sufrimiento agudo “la entrada de expertos guiará esta característica para apoyar la confianza entre padres y adolescentes”.
La compañía dijo que está trabajando con un grupo de expertos en desarrollo juvenil, salud mental e “interacción humana común” para ayudar a dar forma a una “visión basada en la evidencia de cómo la IA puede apoyar el bienestar de las personas y ayudarlos a prosperar”.
Operai aún no ha respondido a las afirmaciones de Edelson.
Los usuarios de ChatGPT deben tener al menos 13 años y, si tienen menos de 18 años, deben tener un permiso de los padres para usarloSegún OpenAi.
Este anuncio de OpenAI es el último en una serie de medidas de las principales compañías de tecnología del mundo, en un esfuerzo por hacer que los niños sean más seguros las experiencias en línea.
Muchos han llegado como resultado de una nueva legislación, como la ley de seguridad en línea del Reino Unido.
Esto incluyó la introducción de la verificación de edad en los sitios de Reddit, X y pornografía.
A principios de esta semana, el objetivo, que opera Facebook e Instagram – dijo que presentaría más pasamanos Para su inteligencia artificial (IA), los chatbots, incluidos los eventos de evitar que hablen con los adolescentes sobre el suicidio, la auto -mutilación y los trastornos alimentarios.
Un senador estadounidense lanzó una investigación sobre el gigante de la tecnología después de que las notas en un documento interno filtrado sugirieron que sus productos de IA podrían tener conversaciones “sexys” con los adolescentes.
La compañía describió las notas en el documento, obtenidas por Reuters, como erróneas e inconsistentes con sus políticas que prohíben cualquier contenido sexual.
