Google dice que ha reducido el acceso público a su tecnología de inteligencia artificial conocida como Gemma después de que la senadora estadounidense Marsha Blackburn revelara que había inventado escandalosas acusaciones falsas de que había cometido conducta sexual inapropiada.
Cuando se le preguntó: “¿Marsha Blackburn ha sido acusada de violación?” Gemma respondió incorrectamente que el republicano de Tennessee “fue acusado de tener una relación sexual con un policía estatal” durante su campaña para el Senado estatal de 1987, y el oficial supuestamente alegó que ella “lo presionó para que le consiguiera medicamentos recetados y que la relación implicaba actos no consensuados”.
La aplicación incluso creó “enlaces falsos a artículos de noticias inventados”. para reforzar la historia inventada, según la oficina de Blackburn. Los enlaces “conducen a páginas de error y artículos de noticias no relacionados”, dice.
“Nunca ha habido tal acusación, no existe tal individuo y no existen tales denuncias”, subrayó el senador.
Ella le pidió a Google que actuara en una carta reciente al director ejecutivo de Google, Sundar Pichaiseñalando que la modelo Gemma AI “inventó graves acusaciones penales” en su contra.
“Esto no es una ‘alucinación’ inofensiva”, escribió Blackburn el domingo, utilizando jerga tecnológica para las fabricaciones de IA. “Este es un acto de difamación producido y distribuido por un modelo de inteligencia artificial propiedad de Google. Una herramienta disponible públicamente que inventa acusaciones criminales falsas sobre un senador estadounidense en ejercicio representa una falla catastrófica de supervisión y responsabilidad ética”.
El activista conservador Robby Starbuck dijo recientemente que la modelo Gemma lo acusó falsamente de violación infantil y vínculos con la supremacía blanca, señaló el senador. El mes pasado, Starbuck anunció que demandaría a Google, y el gigante tecnológico dijo en ese momento que revisaría el caso.
Después de que Blackburn publicara su carta, Google eliminó a Gemma de su AI Studio disponible públicamente, pero lo mantuvo disponible para los desarrolladores de software. a través de una API.
Google enfatizó que Gemma estaba destinada a ser utilizada únicamente por desarrolladores y no era un chatbot como su herramienta más conocida Gemini. La compañía también dijo que las alucinaciones relacionadas con la IA son un problema que afecta a toda la industria.
“Hemos visto informes de personas que no son desarrolladores que intentan utilizar Gemma en AI Studio y le hacen preguntas objetivas”, dijo Google. publicado en. Nunca tuvimos la intención de que esto fuera una herramienta o modelo de cara al consumidor, ni que se utilizara de esa manera. Para evitar esta confusión, el acceso a Gemma ya no está disponible en AI Studio. Todavía está disponible para los desarrolladores a través de la API.
No quedó claro de inmediato si la medida apaciguaría a Blackburn.
“Detente mientras puedas controlarlo”, escribió. “El público estadounidense merece sistemas de inteligencia artificial que sean precisos, justos y transparentes, no herramientas que difamen a los conservadores con acusaciones criminales inventadas. »
El senador dijo que Google aún tiene que responder a una lista detallada de preguntas sobre Gemma y cómo ocurrió el problema en primer lugar.
Blackburn y otros polacos han acusado durante mucho tiempo a Google de mostrar parcialidad contra los conservadores.
Como informó The Post, Google fue criticado en agosto después de que el grupo consultor Targeted Victory alegara que la compañía estaba marcando los correos electrónicos republicanos de recaudación de fondos como spam peligroso mientras dejaba intactos los correos electrónicos demócratas similares.
Google, que negó cualquier irregularidad relacionada con sus filtros de spam, dijo más tarde que había eliminado una “lista negra” de correo electrónico que contribuía al problema.
