OpenAI detiene temporalmente los deepfakes de Martin Luther King Jr.

OpenAI se ha cerrado temporalmente Su aplicación de inteligencia artificial (IA), Sora, crea vídeos falsos que representan al Dr. Martin Luther King Jr, a petición de sus herederos.

Dijo que se había generado contenido “irrespetuoso” sobre el activista de derechos civiles.

Sora tiene hacerse popular en los Estados Unidos por hacer videos hiperrealistas generados por IA, lo que llevó a que las personas compartieran clips de celebridades y figuras históricas fallecidas en escenarios inverosímiles y a menudo ofensivos.

OpenAI dijo que pausaría las imágenes del Dr. King “ya que fortalece las barreras para las figuras históricas”, pero continúa permitiendo que las personas hagan clips de otras personas.

Esta postura de la empresa ha sido objeto de controversia, ya que se han compartido ampliamente en línea videos que muestran a figuras notables como el presidente John F. Kennedy, la reina Isabel II y el profesor Stephen Hawking.

Esto llevó a Zelda Williams, la hija de Robin Williams, pidiendo a la gente que deje de enviarle videos de su padre generados por IAel famoso actor y comediante estadounidense que murió en 2014.

Bernice A. King, la hija del difunto Dr. King, hizo más tarde una petición pública similar: escribir en linea: “Estoy de acuerdo con mi padre. Por favor, detente”.

Entre los vídeos generados por IA que muestran al activista de derechos civiles, algunos editaron su famoso discurso “Tengo un sueño” de varias maneras, con el Informe del Washington Post un clip lo mostró haciendo ruidos racistas.

Mientras tanto, otras acciones en la aplicación Sora y en las redes sociales mostraron figuras parecidas al Dr. King y al activista de derechos civiles Malcolm X peleando.

La autora y especialista en ética de la IA, Olivia Gambelin, dijo a BBC OpenAI que limitar el uso de la imagen del Dr. King era “un buen paso adelante”.

Pero dijo que la compañía debería haber implementado medidas desde el principio, en lugar de adoptar un enfoque de “prueba y error de bombero” para implementar dicha tecnología.

Dijo que la capacidad de crear deepfakes de personajes históricos fallecidos no sólo mostraba una “falta de respeto” hacia ellos, sino que también planteaba peligros adicionales para comprender el contenido real y falso.

“Parece demasiado un intento de reescribir ciertos aspectos de la historia”, dijo.

El aumento de los deepfakes (videos que han sido alterados usando herramientas de inteligencia artificial u otras tecnologías para mostrar a alguien hablando o comportándose de una manera que no lo hace) ha generado preocupaciones de que podrían usarse para difundir información errónea, discriminación o abuso.

OpenAI dijo el viernes que si bien cree que existen “fuertes intereses de libertad de expresión en la representación de personajes históricos”, ellos y sus familias deberían tener control sobre sus retratos.

“Los representantes autorizados o los propietarios de terrenos pueden solicitar que su imagen no se utilice en los cameos de Sora”, dice.

Los llamados “cameos” en la plataforma permiten a las personas vivas dar su consentimiento para que su rostro o imagen se utilice en otros videos de IA sobre Sora.

OpenAI le dijo a la BBC en un comunicado a principios de octubre que había creado “múltiples capas de protección para evitar el uso indebido”.

Y dijo que estaba en “diálogo directo con figuras públicas y propietarios de contenidos para recabar comentarios sobre los controles que desean” con miras a reflejarlo en cambios posteriores.