Liv Mc MahonPeriodista de tecnología
Imágenes falsasOpenAI ha lanzado una nueva función ChatGPT en EE. UU. que puede analizar los registros médicos de las personas para brindarles mejores respuestas, pero los activistas advierten que genera preocupaciones sobre la privacidad.
La compañía quiere que las personas compartan sus registros médicos, así como datos de aplicaciones como MyFitnessPal, que serán analizados para brindar consejos personalizados.
OpenAI dijo que las conversaciones en ChatGPT Health se almacenarían por separado de otros chats y no se usarían para entrenar sus herramientas de inteligencia artificial, al tiempo que aclaró que no estaban destinadas a ser utilizadas para “diagnóstico o tratamiento”.
Andrew Crawford, del Centro para la Democracia y la Tecnología, una organización sin fines de lucro estadounidense, dijo que era “crucial” mantener salvaguardias “herméticas” en torno a la información de salud de los usuarios.
No está claro si esta función podrá introducirse en el Reino Unido o cuándo.
“Las nuevas herramientas de salud de IA ofrecen la promesa de empoderar a los pacientes y promover mejores resultados de salud, pero los datos de salud son una de las informaciones más sensibles que las personas pueden compartir y deben protegerse”, afirmó Crawford.
Dijo que las empresas de inteligencia artificial están “luchando” para encontrar formas de personalizar más sus servicios para aumentar su valor.
“Especialmente porque OpenAI planea explorar la publicidad como modelo de negocio, es crucial que la separación entre este tipo de datos de salud y los recuerdos que ChatGPT captura de otras conversaciones sea hermética”, dijo.
Según OpenAI, más de 230 millones de personas hacen preguntas a su chatbot sobre su salud y bienestar cada semana.
en un publicación de blogDijo que ChatGPT Health había “mejorado la privacidad para proteger datos confidenciales”.
Los usuarios pueden compartir datos de aplicaciones como Apple Health, Peloton y MyFitnessPal, así como proporcionar registros médicos, que pueden usarse para dar respuestas más relevantes a sus preguntas de salud.
OpenAI dijo que su función de salud fue diseñada para “apoyar, no reemplazar, la atención médica”.
“Momento decisivo”
Los chatbots y las herramientas de inteligencia artificial generativa pueden ser propensos a generar información falsa o engañosa, a menudo expresándola de una manera muy concreta y convincente.
Pero Max Sinclair, director ejecutivo y fundador de la plataforma de marketing de IA Azoma, dijo que OpenAI estaba posicionando su chatbot como un “asesor médico confiable”.
Describió el lanzamiento de ChatGPT Health como un “momento decisivo” que podría “remodelar tanto la atención al paciente como el comercio minorista”, influyendo no solo en cómo las personas acceden a la información médica, sino también en lo que pueden comprar para tratar sus afecciones.
Sinclair dijo que la tecnología podría ser un “cambio de juego” para OpenAI en medio de una mayor competencia de los chatbots de IA rivales, particularmente Gemini de Google.
La compañía dijo que inicialmente pondría Health a disposición de un “pequeño grupo de primeros usuarios” y abrió una lista de espera para aquellos que quieran acceder.
Además de no estar disponible en el Reino Unido, tampoco se lanzó en Suiza ni en el Espacio Económico Europeo, donde las empresas de tecnología deben seguir reglas estrictas en lo que respecta al manejo y protección de los datos de los usuarios.
Pero en Estados Unidos, Crawford dijo que el lanzamiento significaba que algunas empresas no sujetas a protecciones de privacidad “recopilarían, compartirían y utilizarían datos de salud de las personas”.
“Dado que corresponde a cada empresa establecer las reglas sobre cómo se recopilan, utilizan, comparten y almacenan los datos de salud, las políticas y protecciones de datos inadecuadas pueden poner la información de salud sensible en riesgo real”, dijo.
