Una aplicación lanzada por una ex estrella de Disney que permite a los usuarios hablar con versiones de inteligencia artificial de sus seres queridos fallecidos ha provocado burlas en línea, y los usuarios de las redes sociales califican la tecnología de “vil”, “demoníaca” y que recuerda a la serie distópica de ciencia ficción “Black Mirror”.
Calum Worthy, un actor canadiense conocido por “Austin & Ally” de Disney de 2011 a 2016, lanzó un anuncio de su aplicación 2wai la semana pasada en X. El clip rápidamente acumuló más de 40 millones de visitas y docenas de comentarios pidiendo que se eliminara la aplicación.
“Esta es una de las cosas más viles que he visto en mi vida”, escribió un usuario en X.
En el vídeo, una mujer embarazada usa 2wai para hablar con un avatar sobre su madre fallecida. Años más tarde, el bebé del que estaba embarazada (ahora un niño de 10 años) habla con el robot mientras camina a casa desde la escuela.
Finalmente, la joven, que ahora tiene 30 años e interpretada por Worthy, le dice al avatar que se convertirá en bisabuela.
“Con 2wai, tres minutos pueden durar para siempre”, dice el anuncio, afirmando que solo se pueden usar tres minutos de metraje para crear avatares realistas de IA de amigos y familiares.
La aplicación se puede descargar gratis desde Apple Store y pronto estará disponible en Android. También ofrece funciones premium por una tarifa.
Los críticos han calificado la aplicación de peligrosa y explotadora, argumentando que podría causar graves daños mentales a los dolientes.
“¿Estás seguro de que quieres cancelar tu suscripción y no volver a hablar nunca más con tus padres fallecidos?”, escribió un usuario de las redes sociales en una publicación. “Eres un psicópata. Consigue ayuda. Deja de fabricar productos antes de lastimar a alguien”.
“La muerte y la pérdida son una parte normal de la vida. Al hacer esto, estás creando adultos dependientes y lobotomizados”, escribió otro usuario. “Básicamente despreciable”.
Algunos usuarios han compartido su preocupación de que los avatares de la aplicación, “capaces de conversar en tiempo real” con “movimientos realistas y voz sincronizada con los labios”, puedan empujar a los usuarios a la psicosis o llevarlos al suicidio.
Otro más criticó a la empresa: “Demoníaco, deshonesto y deshumanizante. Si muero y pones palabras en mi boca, te maldeciré por la eternidad. Mi valor muere conmigo. No soy un avatar de un rey”.
Otra persona publicó un meme de “Padre de familia” que muestra al personaje Peter Griffin reclinado en una silla y usando un control remoto de TV con la leyenda: “Ah, dulces horrores creados por el hombre más allá de mi comprensión”. »
Algunos críticos dijeron que la aplicación parecía sacada directamente de la popular serie de Netflix “Black Mirror”.
“Este fue LITERALMENTE un episodio de ‘Black Mirror’, odio cuando la gente dice esto, pero es específicamente el episodio 1 de la temporada 2”, escribió un usuario.
En este episodio, titulado “Ya vuelvo”, una joven utiliza software de inteligencia artificial para crear una recreación de la vida real de su novio, que murió en un accidente automovilístico.
Worthy y el cofundador Russell Geyser, un productor de Hollywood, comercializaron su startup de inteligencia artificial como una forma segura para que las celebridades creen chatbots de inteligencia artificial que puedan hablar con los fanáticos, con barreras para evitar conversaciones inapropiadas.
“Vimos una necesidad urgente de que los creadores y las personas pudieran actuar según su propia imagen, con sus propios avatares para utilizar la IA para amplificar su voz, no reemplazarla”. Worthy dijo a Variety en junio.
El actor, también conocido por protagonizar “The Act” de Hulu, dijo que la pareja recaudó 5 millones de dólares de amigos y familiares en financiación “pre-semilla”.
Además de crear avatares de tus familiares y amigos, 2wai ofrece a los usuarios la posibilidad de crear un “gemelo digital”: “¡un HoloAvatar que te mira y te habla, e incluso comparte los mismos recuerdos!”. »
Worthy tiene un avatar de sí mismo con IA en la aplicación 2wai, que dice que trata “como un diario viviente”, contándole historias detrás de escena de sus años en Disney para compartir con los fanáticos.
La aplicación también está cargada con avatares pregenerados, como un robot de William Shakespeare o personajes originales como Celest la astróloga y Darius el entrenador personal.
Worthy dijo que la startup está “construyendo un archivo vivo de la humanidad, una historia a la vez”.
