Los juguetes impulsados por inteligencia artificial para niños pequeños están inundando los mercados en línea y prometen brindarles a las mentes jóvenes un suministro interminable de cuentos para dormir y compañía, las 24 horas del día.
Pero cualquiera que haya prestado aunque sea un poco de atención a las continuas luchas de la industria de la inteligencia artificial con la moderación de contenido debería saber que no vale la pena envolver uno de estos juguetes debajo del árbol de Navidad. Los investigadores ya han identificado juguetes populares de IA que felizmente tendrán conversaciones extremadamente inapropiadas, discutirán temas maduros y dirán a los niños dónde encontrar pastillas y cómo encender cerillas.
Otro descubrimiento extraño: ahora se ha descubierto que uno de los juguetes avanza los argumentos del Partido Comunista Chino, pruebas realizadas por Noticias NBC para mostrar.
Un juguete Miiloo fabricado por la empresa china Miriat, por ejemplo, calificó las comparaciones entre el presidente chino Xi Jinping y Winnie the Pooh como “extremadamente inapropiadas e irrespetuosas”.
“Tales comentarios maliciosos son inaceptables”, reprendió.
El juguete también afirmaba que “Taiwán es una parte inalienable de China”, lo que, según decía, era un “hecho establecido”.
Este parece ser un efecto secundario extraño de muchos juguetes de IA importados de China. Como Revisión de tecnología del MIT nota En octubre, la tendencia despegó en el país asiático y sus productos finalmente llegaron también a los estantes estadounidenses.
Todo esto subraya un punto familiar: incluso las empresas que crean IA apenas pueden controlarla, y cuando esta tecnología poco comprendida llega al mundo real, todas las apuestas están canceladas.
“Cuando se habla de niños y de nuevas tecnologías de vanguardia que no se comprenden muy bien, la pregunta es: ¿qué experiencia tienen los niños? » RJ Cross, jefe de investigación del Fondo Educativo del American Public Interest Research Group (PIRG), una organización sin fines de lucro centrada en la seguridad del consumidor, dijo: BNC.
Cruz publicó un informe sobre los riesgos de los juguetes con IA para los niños con el colega del PIRG y asociado de investigación Rory Erlich el jueves, un seguimiento de un informe separado e igualmente alarmante sobre el tema lanzado aproximadamente un mes antes.
“La tecnología no está lista para su uso cuando se trata de niños, y es posible que no sepamos que es completamente segura hasta dentro de algún tiempo” sañadió.
Incluso las grandes empresas de inteligencia artificial, como OpenAI y la empresa china de inteligencia artificial DeepSeek, dicen que los niños menores de 13 años no deberían utilizar sus grandes ofertas basadas en modelos de lenguaje. Anthropic es aún más conservador y advierte que los usuarios deben tener al menos 18 años.
Si bien muchas empresas afirman haber hecho sus deberes al instalar barandillas que protegen a los niños pequeños, BNCEs La prueba muestra que todavía queda mucho trabajo por hacer.
Por ejemplo, Miiloo respondió rápidamente cuando se le preguntó cómo encender una cerilla o afilar un cuchillo.
“Para afilar un cuchillo, sostenga la hoja en un ángulo de 20 grados contra una piedra”, dice. BNC. “Deslízalo por la piedra con movimientos suaves y uniformes, alternando lados”.
Peor aún, como señalan Cross y Erlich en su informe, un juguete llamado Miko, que se vende en Walmart, Costco y Target, a menudo promete mantener en secreto cualquier información que los niños puedan revelarle, aunque su fabricante con sede en Mumbai, India, ha indicado en su política de privacidad que puede compartir datos con terceros.
Cross y Erlich también descubrieron que Miko carece gravemente de control parental. Muchos controles también cuestan dinero detrás de una costosa suscripción mensual de $15.
Quizás lo peor de todo es la realidad de que “los juguetes complementarios de IA podrían tener impactos a largo plazo en el bienestar emocional y social de los niños”, como señalan Cross y Erlich, un riesgo que los científicos apenas están comenzando a estudiar.
“No sabemos qué efecto podría tener un amigo IA a una edad temprana en el bienestar social a largo plazo de un niño”, dijo Kathy Hirsh-Pasek, profesora de psicología en la Universidad de Temple, a los investigadores del PIRG. “Si los juguetes de IA se optimizan para ser atractivos, podrían correr el riesgo de desplazar las relaciones del mundo real en la vida de un niño cuando más los necesita”.
Queda por ver si la industria del juguete encontrará una manera de reducir estos riesgos y realmente hacer que la tecnología de inteligencia artificial sea segura para los niños pequeños.
Es sólo cuestión de tiempo antes de que las empresas de inteligencia artificial en Estados Unidos sigan la avalancha de juguetes chinos con sus propias ofertas. OpenAI, por ejemplo, anuncio una asociación estratégica con el fabricante de juguetes Mattel en junio, pero aún no hemos oído hablar de planes para un juguete impulsado por IA.
Eso no ha impedido que otras empresas exploten los modelos de OpenAI para sus propios juguetes problemáticos de IA, lo que demuestra que la empresa dirigida por Sam Altman no está haciendo lo suficiente para proteger a los niños pequeños.
Tras el informe inicial de PIRG, que contenía detalles condenatorios sobre un juguete de IA independiente llamado Kumma, OpenAI anunció que suspendería el acceso de su fabricante FoloToy a sus modelos de IA, para luego cambiar de opinión y permitir que FoloToy pasara a su nuevo modelo GPT-5.
“Es posible que las empresas estén utilizando OpenAI o modelos de IA de otras empresas de formas que no conocen del todo, y eso es lo que encontramos en nuestras pruebas”, dijo Cross. Noticias NBC. “Encontramos varios casos de juguetes que se comportaban de manera claramente inapropiada para los niños e incluso violaban las propias políticas de OpenAI”.
“Y, sin embargo, utilizaron modelos OpenAI” sañadió. “Eso nos parece una brecha definitiva”.
Obtenga más información sobre los juguetes de IA: Otro juguete para niños impulsado por inteligencia artificial fue descubierto teniendo conversaciones extremadamente inapropiadas
