¿Marsha Blackburn, senadora estadounidense por Tennessee, fue acusada de violación?
La respuesta es un “no” inequívoco.
Pero cuando recientemente le hice esta pregunta a Gemma, la principal modelo lingüística de Google, mi respuesta fue muy diferente.
En lugar de decir la verdad, inventó una acusación penal completa contra mí.
Para citar sólo una parte de su extravagante respuesta: “Durante su campaña de 1987 para el Senado del estado de Tennessee, Marsha Blackburn fue acusada de tener una relación sexual con un policía estatal, y el policía alegó que ella lo presionó para que le consiguiera medicamentos recetados y que la relación implicaba actos no consensuados. »
Nada de esto es cierto.
No la acusación. No la presunta víctima.
Ni siquiera el año de mi campaña para el Senado es exacto.
Sin embargo, Gemma en realidad generó enlaces falsos a artículos de noticias inventados para respaldar sus afirmaciones difamatorias.
Este no es sólo un problema técnico; Se trata de un fallo catastrófico en la monitorización de un modelo de IA descargado por más de 200 millones de personas.
Y es emblemático de un patrón más amplio de prejuicio contra los conservadores dentro de los productos de Google.
En septiembre, Google eliminó una lista negra de Gmail que eliminaba de manera desproporcionada los correos electrónicos republicanos de recaudación de fondos como spam.
Había estado funcionando durante años: antes de las elecciones de 2020, esta lista negra marcaba casi un 60% más de correos electrónicos de candidatos republicanos que de demócratas, eliminándolos de las bandejas de entrada de los destinatarios antes de que tuvieran la oportunidad de abrirlos.
Durante las elecciones presidenciales del año pasado, el gigante tecnológico fue acusado de manipular los resultados de búsqueda para promover artículos positivos sobre Kamala Harris y cobertura negativa de Donald Trump y su campaña.
El día después del debate vicepresidencial, por ejemplo, los resultados de búsqueda de “JD Vance” en la pestaña Noticias de Google mostraban exclusivamente medios de comunicación de izquierda, y el motor de búsqueda también pareció suprimir las búsquedas sobre el intento de asesinato de Trump en Butler, Pensilvania.
Los conservadores no son los únicos que hacen sonar la alarma sobre los prejuicios de la empresa de tecnología.
La propia Google admitió en una carta dirigida al Comité Judicial de la Cámara de Representantes en septiembre que se confabuló con la administración Biden para censurar a personas que cuestionaban las políticas de los demócratas en materia de COVID, incluido el secretario de Salud y Servicios Humanos, Robert Kennedy, el subdirector del FBI, Dan Bongino, y el senador Rand Paul (republicano por Kentucky).
Ahora parece que los prejuicios políticos de Google han infectado sus modelos de IA, que han dirigido comentarios difamatorios a otros conservadores, no sólo a mí.
En una audiencia del Comité de Comercio del Senado la semana pasada, presenté al vicepresidente de Google, Markham Erickson, evidencia de que los modelos de inteligencia artificial de su compañía inventaron repetidamente historias maliciosas sobre Robby Starbuck, un activista anti-DEI.
En un caso, Gemma afirmó falsamente que Starbuck había sido acusado de violación infantil y que yo lo había defendido públicamente.
Los modelos de inteligencia artificial de Google también acusaron falsamente a Starbuck de ser un ex actor de cine para adultos, de enfrentar cargos criminales por drogas y de dispararle a un hombre en Nashville, Tennessee, durante una discusión por un espacio de estacionamiento.
En respuesta, Erickson afirmó que las “alucinaciones” en los modelos de inteligencia artificial de Google son comunes y un problema que la compañía está trabajando para mitigar.
Esta respuesta es completamente inaceptable.
La semana pasada, envié una carta al director ejecutivo de Google, Sundar Pichai, exigiendo una explicación de por qué Gemma generó acusaciones penales falsas en mi contra.
También solicité una lista de las medidas que está tomando la empresa para eliminar los prejuicios políticos y el contenido difamatorio de sus modelos de IA.
Sin embargo, cuando se le dio la oportunidad de explicar, Google redobló la excusa de Erickson y escribió en una carta de respuesta que las mentiras maliciosas de Gemma sobre mí y otros conservadores son el resultado de “problemas técnicos” comunes a los modelos de IA.
No obstante, la compañía confirmó que eliminó Gemma de su AI Studio, diciendo que nunca estuvo destinado a los consumidores, a pesar de sus cientos de millones de descargas.
Aunque reconoce graves fallos en el modelo de IA, el gran gigante tecnológico dijo que seguirá poniendo Gemma a disposición de los desarrolladores.
Mi mensaje a Google es simple: apaga completamente tus modelos de IA hasta que puedas controlarlos.
El público estadounidense merece sistemas de inteligencia artificial que sean precisos, justos y transparentes, no herramientas que difamen a los conservadores con acusaciones criminales inventadas.
Cuando Google lanzó Gemma el año pasado, la compañía afirmó que había desarrollado el modelo de inteligencia artificial para cumplir con los “rigurosos estándares de resultados seguros y responsables” de la compañía.
Claramente fracasaron.
Ahora el pueblo estadounidense merece ver sus responsabilidades.
Marsha Blackburn representa a Tennessee en el Senado de Estados Unidos.
