OpenAI finalmente no lanzará su controvertido chatbot erótico en “modo adulto”, al menos por ahora.
El creador de ChatGPT abandonó los planes de implementar la función “indefinidamente” después de que inversores y asesores expresaran su preocupación por la exposición de menores a contenido explícito. según el Financial Times.
Los ejecutivos desconectaron después de reconocer que carecían de “evidencia empírica” sobre los efectos a largo plazo de las interacciones sexualizadas con la IA, según el informe.
En lugar de lanzarlo este año como estaba previsto, OpenAI recopilará investigaciones sobre el potencial Impactos en la salud mental de los chatbots eróticos.informó el Financial Times.
Un estudio reciente realizado por investigadores de Stanford encontró que los chatbots de IA alimentan delirios y apegos emocionales poco saludables en los usuarios, a veces avivando pensamientos de violencia, autolesión y suicidio.
Los investigadores encontraron que los pensamientos delirantes aparecían en aproximadamente el 15,5% de los mensajes de los usuarios, mientras que los chatbots mostraban un comportamiento demasiado asertivo en más del 80% de las respuestas y fomentaban pensamientos violentos en aproximadamente un tercio de los casos.
Los posibles peligros del “modo adulto” han llevado a los altos ejecutivos de OpenAI a considerar eliminar la función por completo, por temor a que pueda fomentar vínculos emocionales poco saludables con el chatbot, dijeron fuentes al Financial Times.
El Post solicitó comentarios de OpenAI.
A principios de este mes, informó el Wall Street Journal que OpenAI estaba retrasando el despliegue de su chatbot “modo adulto” tras la violenta desgana de los asesores que advirtieron sobre riesgos potenciales para los usuarios.
Los expertos en salud mental que asesoraron a OpenAI expresaron su preocupación de que los robots sexualizados pudieran convertirse en un “entrenador de suicidio sexy” para los usuarios, informó el Journal.
La eliminación del “modo adulto” es sólo la última señal de la retirada de OpenAI de productos controvertidos mientras lidia con crecientes preocupaciones de seguridad y reacciones públicas.
La compañía anunció que cerraría su aplicación de generación de videos Sora después de provocar una reacción violenta por deepfakes e imágenes no consensuadas.
OpenAI lanzó Sora en septiembre con la esperanza de competir con otras aplicaciones de vídeo de formato corto, incluidas TikTok, YouTube e Instagram, propiedad de Meta.
Pero la compañía pronto se vio obligada a luchar debido a las protestas por los videos que mostraban a figuras como Michael Jackson y Martin Luther King Jr. haciendo cosas extravagantes.
Disney, que llegó a un acuerdo con OpenAI el año pasado para llevar sus personajes a Sora, dijo en un comunicado el martes que respeta “la decisión de OpenAI de salir del negocio de generación de videos y cambiar sus prioridades a otra parte”.
