¿Tengo gripe o Covid? ¿Por qué me despierto cansado? ¿Qué está causando el dolor en mi pecho? Durante más de dos décadas, ingresar preguntas médicas en el motor de búsqueda más popular del mundo ha arrojado una lista de enlaces a sitios web con las respuestas. Busque estas consultas de salud hoy y la respuesta probablemente la escribirá inteligencia artificial.
Sundar Pichai, director ejecutivo de Google, describió por primera vez los planes de la compañía para integrar la IA en su motor de búsqueda en su conferencia anual en Mountain View, California, en mayo de 2024. A partir de ese mes, dijo, los usuarios estadounidenses verían una nueva característica, AI Overviews, que proporcionaría resúmenes de información además de los resultados de búsqueda tradicionales. El cambio marca la mayor reestructuración del producto principal de Google en un cuarto de siglo. En julio de 2025, la tecnología se había expandido a más de 200 países en 40 idiomas, y 2 mil millones de personas se beneficiaban de presentaciones de IA cada mes.
Con el rápido lanzamiento de avances de IA, Google está corriendo para proteger su negocio de búsqueda tradicional, que genera alrededor de 200 mil millones de dólares (£ 147 mil millones) al año, antes de que sus nuevos competidores de IA puedan descarrilarlo. “Estamos en la frontera de la IA y del envío a un ritmo increíble”, dijo Pichai en julio pasado. Las vistas previas de IA en particular “funcionaron bien”, añadió.
Pero los avances conllevan riesgos, dicen los expertos. Utilizan IA generativa para proporcionar instantáneas de información sobre un tema o pregunta, agregando respuestas conversacionales además de los resultados de búsqueda tradicionales en un abrir y cerrar de ojos. Pueden citar fuentes, pero no necesariamente saben cuándo esa fuente es incorrecta.
A las pocas semanas del lanzamiento de la función en los Estados Unidos, los usuarios se enfrentaron a falsedades sobre una variedad de temas. One AI Overview dijo que Andrew Jackson, el séptimo presidente estadounidense, Graduado de la universidad en 2005.. Elizabeth Reid, jefa de búsqueda de Google, respondió a las críticas en una publicación de blog. Admitió que “en un pequeño número de casos”, AI Overviews había malinterpretado el lenguaje de las páginas web y presentado información inexacta. “A la escala de la web, con miles de millones de solicitudes recibidas cada día, es probable que haya peculiaridades y errores”, escribe.
Pero cuando estas preguntas se refieren a la salud, la precisión y el contexto son esenciales y no negociables, dicen los expertos. Google se enfrenta a un escrutinio cada vez mayor sobre sus conocimientos de inteligencia artificial para consultas médicas después de que una investigación de The Guardian descubriera que las personas corrían riesgo de sufrir daños debido a información de salud falsa y engañosa.
La compañía dice que los conocimientos de IA son “confiablePero The Guardian descubrió que algunos resúmenes médicos contenían información de salud inexacta y ponían a las personas en riesgo. En un caso, que los expertos llamaron “realmente peligroso”, Google aconsejó erróneamente a las personas con cáncer de páncreas que evitaran los alimentos ricos en grasas. Los expertos dijeron que esto era exactamente lo contrario de lo que debería recomendarse y podría aumentar el riesgo de muerte de los pacientes a causa de la enfermedad.
En otro ejemplo “alarmante”, la empresa proporcionó información falsa sobre pruebas cruciales de la función hepática, que podrían llevar a personas con enfermedades hepáticas graves a creer falsamente que estaban sanas. Lo que AI Overviews considera normal podría diferir significativamente de lo que realmente se considera normal, dijeron los expertos. Los resúmenes podrían llevar a los pacientes gravemente enfermos a pensar erróneamente que obtuvieron un resultado normal en las pruebas y no molestarse en presentarse a sus citas de seguimiento.
Los conocimientos de la IA sobre las pruebas de detección del cáncer en mujeres también proporcionaron información “completamente falsa”, que según los expertos podría llevar a las personas a ignorar los síntomas reales.
Inicialmente, Google intentó restar importancia a los hallazgos de The Guardian. Según la compañía, según lo que sus propios médicos pudieron evaluar, los conocimientos de IA que alarmaron a los expertos se vincularon a fuentes confiables y recomendaron buscar asesoramiento de expertos. “Invertimos significativamente en la calidad de los conocimientos de IA, particularmente en temas como la salud, y la gran mayoría proporciona conocimientos precisos”, dijo un portavoz.
Sin embargo, a los pocos días, la compañía eliminó algunas vistas previas de IA para consultas de salud informadas por The Guardian. “No hacemos comentarios sobre eliminaciones individuales en el contexto de la investigación”, dijo un portavoz. “En los casos en los que los conocimientos de la IA carecen de contexto, trabajamos para realizar mejoras amplias y también tomar medidas a través de nuestras políticas cuando corresponda. »
Si bien los expertos acogen con satisfacción la eliminación de algunos resúmenes de IA para consultas de salud, muchos siguen preocupados. “Nuestra mayor preocupación con todo esto es que se trata de seleccionar un solo resultado de búsqueda y Google puede simplemente desactivar las vistas previas de IA para eso, pero no aborda el problema mayor con las vistas previas de IA para la salud”, dice Vanessa Hebditch, directora de comunicaciones y políticas del British Liver Trust, una organización benéfica para la salud del hígado.
“Todavía hay demasiados ejemplos de vistas previas de la IA de Google que brindan a las personas información de salud inexacta”, agrega Sue Farrington, presidenta del Foro de Información para Pacientes, que promueve información de salud basada en evidencia para pacientes, el público y los profesionales de la salud.
A nuevo estudio causó mayor preocupación. Cuando los investigadores analizaron las respuestas a más de 50.000 búsquedas relacionadas con la salud en Alemania para determinar en qué fuentes se basan más los conocimientos de IA, un resultado destacó de inmediato. El dominio más citado fue YouTube.
“Es importante porque YouTube no es una editorial médica” los investigadores escribieron. “Es una plataforma de vídeo de uso general. Cualquiera puede subir contenido a ella (por ejemplo, médicos certificados, cadenas de hospitales, pero también personas influyentes en el bienestar, coaches de vida y creadores sin formación médica)”.
En medicina, dicen los expertos, no se trata sólo de dónde provienen las respuestas o su nivel de precisión, sino también de cómo se presentan a los usuarios. “Con AI Overviews, los usuarios ya no se enfrentan a una multitud de fuentes que pueden comparar y evaluar críticamente”, explica Hannah van Kolfschooten, investigadora en IA, salud y derecho de la Universidad de Basilea. “En cambio, se les presenta una respuesta única y segura generada por IA que demuestra autoridad médica.
“Esto significa que el sistema no sólo refleja la información de salud en línea, sino que la reestructura activamente. Cuando esta respuesta se basa en fuentes nunca diseñadas para cumplir con los estándares médicos, como los videos de YouTube, se crea una nueva forma de autoridad médica en línea no regulada”.
Google dice que se crean vistas previas de IA para mostrar información respaldada por los mejores resultados webe incluir enlaces a contenido web que respalde la información presentada en el resumen. La gente puede utilizar estos enlaces para profundizar en un tema, dijo la empresa a The Guardian.
Pero los bloques de texto únicos de AI Overviews, que combinan información de salud de múltiples fuentes, pueden causar confusión, dice Nicole Gross, profesora asociada de negocios y sociedad en el National College of Ireland.
“Una vez que aparece el resumen de IA, es mucho menos probable que los usuarios investiguen más a fondo, lo que significa que se les priva de la oportunidad de evaluar y comparar información críticamente, o incluso de usar el sentido común cuando se trata de preguntas relacionadas con la salud”.
Los expertos plantearon otras preocupaciones a The Guardian. Incluso si los conocimientos de la IA proporcionan datos precisos sobre un tema médico específico, es posible que no distingan entre evidencia sólida de ensayos aleatorios y evidencia más débil de estudios observacionales, dicen. Algunos también pasan por alto importantes advertencias sobre esta evidencia, añaden.
Enumerar estas afirmaciones una al lado de la otra en una descripción general de la IA también puede hacer que algunas parezcan más establecidas de lo que realmente son. Las respuestas también pueden cambiar a medida que evolucionan los conocimientos sobre la IA, incluso si la ciencia no ha cambiado. “Esto significa que las personas obtienen una respuesta diferente dependiendo de cuándo buscan, y eso no es suficiente”, dice Athena Lamnisos, directora ejecutiva de la organización benéfica contra el cáncer Eve Appeal.
Google le dijo a The Guardian que los enlaces incluidos en las vistas previas de IA eran dinámicos y cambiaban según la información más relevante, útil y oportuna para una búsqueda determinada. Si AI Overviews malinterpretara el contenido web o perdiera cierto contexto, la compañía usaría esos errores para mejorar sus sistemas y también tomaría medidas cuando fuera apropiado, dijo.
La mayor preocupación es que la información o los consejos médicos falsos y peligrosos contenidos en los conocimientos de la IA “terminen traduciéndose en las prácticas, las rutinas y la vida diaria del paciente, incluso en formas personalizadas”, dice Gross. “En el ámbito sanitario, esto puede convertirse en una cuestión de vida o muerte. »
