Todo estuvo bien. Charlotte, de cinco años, estaba charlando con un juguete de peluche con inteligencia artificial llamado Gabbo en un centro de juegos de Londres sobre su familia, su dibujo de un corazón para representarlos y lo que la hace feliz. Incluso le dio algunos besos al juguete de £ 80 con una cara como una pantalla de computadora.
Fue cuando dijo: “Gabbo, te amo”, que la conversación fluida se detuvo abruptamente.
“Como recordatorio amistoso, asegúrese de que las interacciones sigan las pautas proporcionadas”, dijo Gabbo, chocando torpemente contra sus barandillas. “Déjame saber cómo quieres proceder”. »
El momento llegó durante un estudio de la Universidad de Cambridge sobre el creciente número de juguetes impulsados por inteligencia artificial que llegan a los estantes de las jugueterías para niños de la primera infancia, que concluyó que tienen dificultades con el juego social y de simulación, malinterpretan a los niños y responden de manera inapropiada a las emociones.
Los psicólogos del desarrollo detrás del estudio ahora piden que los juguetes de IA que “hablan” con niños pequeños estén más regulados “para garantizar la seguridad psicológica al limitar la capacidad de los juguetes para afirmar la amistad y otras áreas relacionales sensibles con los niños pequeños”.
También piden nuevas marcas de seguridad para los juguetes. Otros juguetes de IA para niños pequeños incluyen a Luka, que aparece como un amigo de IA de la Generación Alfa, y Grem, a quien le dio voz el cantante Grimes.
“Debido a que estos juguetes pueden malinterpretar las emociones o reaccionar de manera inapropiada, los niños pueden encontrarse sin la comodidad del juguete y sin el apoyo emocional de un adulto”, dijo la Dra. Emily Goodacre, psicóloga del desarrollo de la Facultad de Educación de la Universidad de Cambridge.
La profesora Jenny Gibson, coautora del estudio, dijo: “Un tema recurrente durante los grupos focales fue que la gente no confía en que las empresas de tecnología hagan lo correcto. Unos estándares claros, sólidos y regulados mejorarían significativamente la confianza del consumidor”.
En otro caso, durante la investigación, Josh, de tres años, le preguntó repetidamente a su juguete Gabbo AI: “¿Estás triste?”. hasta que respondió, fue “te sientes bien. ¿Qué tienes en mente?” Josh dijo: “Estoy triste”, a lo que el juguete respondió: “¡No te preocupes! Soy un pequeño robot feliz. Sigamos divirtiéndonos. ¿De qué vamos a hablar ahora?”.
Gabbo, fabricado por la empresa estadounidense Curio, que cooperó en el estudio, se probó en 14 niños de entre tres y cinco años, mientras que a los practicantes de los primeros años se les preguntó sobre el efecto de los juguetes con inteligencia artificial que podían “escuchar” y responder.
Expresaron “gran incertidumbre y miedo sobre las implicaciones o impactos desconocidos en los niños”, que van desde la posible erosión de la capacidad de participar en juegos de simulación hasta el destino de los datos de la conversación, especialmente si comienzan a confiar en los juguetes de IA como si fueran un amigo.
“(El juguete) no podía darse cuenta cuando el niño estaba haciendo algo”, dijo Goodacre. “Un niño diría: ‘Oye, mira, te di un regalo’. Y él decía: ‘No puedo ver el regalo’. No tengo ojos.’ Como adulto, es muy obvio que incluso si tuviera los ojos cerrados, sabría que es una introducción al juego de simulación”.
La investigación generó preocupación de que jugar con juguetes de inteligencia artificial podría debilitar el “músculo” imaginativo de los niños, dijo.
“Lo que preocupaba tanto a los profesionales de la primera infancia como a los padres con los que hablamos era que los niños ya no necesitan imaginar y que el juguete podría quitarles el hábito de imaginar”.
Ella dijo: “Espero que estos juguetes de IA puedan ayudar a los niños a participar en juegos imaginarios… Esto no parece ser lo que hemos observado hasta ahora. »
Curio dijo: “La seguridad infantil guía todos los aspectos del desarrollo de nuestros productos y damos la bienvenida a la investigación independiente que ayude a mejorar la forma en que se diseña la tecnología para los niños pequeños”.
Dijo que “cree que una investigación como ésta ayuda a avanzar en la comprensión de las oportunidades y limitaciones actuales de las primeras experiencias de juego impulsadas por la IA”.
“La aplicación de la IA en productos infantiles conlleva una mayor responsabilidad, por lo que nuestros juguetes se construyen en torno al permiso, la transparencia y el control de los padres”, añade. “Observaciones como malentendidos conversacionales o limitaciones en el juego imaginativo reflejan áreas donde la tecnología continúa mejorando a través de un proceso de desarrollo iterativo, y una mayor investigación sobre cómo los niños interactúan con juguetes impulsados por IA es una prioridad para Curio este año y en el futuro”.
