PARÍS (AP) — El gobierno francés toma medidas contra inteligencia artificial el chatbot Grok, lanzado por una empresa propiedad de un multimillonario Elon Muskdespués de generar artículos en francés cuestionando el uso de cámaras de gas en Auschwitz y enumerando a figuras públicas judías, dijeron funcionarios.
Grok, construido por la empresa xAI de Musk e integrado en su plataforma de redes sociales Auschwitz-Birkenau Los campos de exterminio fueron diseñados para la “desinfección con Zyklon B contra el tifus” en lugar de para asesinatos en masa, lenguaje asociado durante mucho tiempo con la negación del Holocausto.
El Memorial de Auschwitz destacó el intercambio sobre X y dijo que la respuesta distorsionó los hechos históricos y violó las reglas de la plataforma.
A partir de esta semana, las respuestas de Grok a las preguntas sobre Auschwitz parecen proporcionar información históricamente precisa.
Grok tiene un historial de hacer comentarios antisemitas. A principios de este año, la compañía de Musk eliminó los mensajes del chatbot que parecían elogiar a Adolf Hitler después quejas sobre contenido antisemita.
Los fiscales de París confirmaron a The Associated Press el viernes que los comentarios negacionistas se habían agregado a una investigación de delito cibernético existente sobre X. El caso se abrió a principios de este año después de que funcionarios franceses expresaran su preocupación de que el algoritmo de la plataforma pudiera usarse para interferencia extranjera.
Los fiscales dijeron que los comentarios de Grok ahora eran parte de la investigación y que “se examinará el funcionamiento de la IA”.
Francia tiene una de las leyes de negación del Holocausto más estrictas de Europa. Cuestionar la realidad o el carácter genocida de los crímenes nazis puede ser perseguido como delito, junto con otras formas de incitación al odio racial.
Varios ministros franceses, incluido el ministro de Industria, Roland Lescure, también informaron sobre los deberes de Grok al fiscal de París en virtud de una disposición que exige que los funcionarios públicos informen sobre posibles delitos. En una declaración del gobierno, calificaron el contenido generado por IA como “evidentemente ilegal”, diciendo que podría equivaler a difamación racista y la negación de crímenes contra la humanidad.
Las autoridades francesas remitieron estos mensajes a una plataforma de la policía nacional por contenido ilegal en línea y alertaron al regulador digital de Francia sobre supuestas violaciones de la ley de servicios digitales de la Unión Europea.
El asunto se suma a la presión de Bruselas. Esta semana, la Comisión Europea, el poder ejecutivo de la UE, dijo que el bloque estaba en contacto con
Dos grupos franceses de derechos humanos, la Liga de Derechos Humanos y SOS Racisme, presentaron una denuncia penal acusando a Grok y X de cometer crímenes contra la humanidad.
X y su unidad de IA, xAI, no respondieron de inmediato a las solicitudes de comentarios.
