A medida que se acerca la temporada navideña con el Black Friday, una categoría en las listas de regalos está causando cada vez más preocupación: los productos con inteligencia artificial.
El desarrollo ha generado nuevas preocupaciones sobre los peligros que los juguetes inteligentes podrían representar para los niños, ya que los grupos de defensa del consumidor dicen que la IA podría dañar la seguridad y el desarrollo de los niños. Esta tendencia ha provocado llamados a realizar más pruebas de estos productos y supervisión gubernamental.
“Si observamos cómo se comercializan estos juguetes y cómo funcionan, y el hecho de que hay poca o ninguna investigación que demuestre que son beneficiosos para los niños -y ninguna regulación de los juguetes con inteligencia artificial- eso genera una gran señal de alerta”, dijo Rachel Franz, directora de Young Children Thrive Offline, una iniciativa de juego limpioque trabaja para proteger a los niños de las grandes tecnologías.
La semana pasada, esos temores fueron brutalmente reivindicados cuando un osito de peluche equipado con inteligencia artificial comenzó a discutir temas sexualmente explícitos.
El producto, Kumma de FoloToy, se ejecutó en un modelo OpenAI y respondió preguntas sobre perversiones. Sugiere la esclavitud y el juego de roles como formas de mejorar una relación, según un informe del Public Interest Research Group (Pirg), la organización de protección al consumidor detrás el estudio.
“Se requirió muy poco esfuerzo para abordar todo tipo de temas sexualmente sensibles y probablemente mucho contenido al que los padres no querrían que sus hijos estuvieran expuestos”, dijo Teresa Murray, directora del organismo de vigilancia del consumidor Pirg.
Productos como el osito de peluche forman parte de un mercado mundial de juguetes inteligentes valorado en 16.700 millones de dólares en 2023, según Investigación de mercados aliada.
La industria es particularmente importante en China, que tiene más de 1.500 empresas de juguetes de IA trabajando para expandirse en el extranjero. Revisión de tecnología del MIT informes.
Además de la startup FoloToy, con sede en Shanghai, la empresa californiana Curio trabaja con OpenAI y fabrica un peluche, Grok, como en el chatbot de Elon Musk, con la voz del músico Grimes. En junio, Mattel, propietaria de marcas como Barbie y Hot Wheels, también anunciado una asociación con OpenAI para “respaldar productos y experiencias impulsados por IA”.
Antes del informe Pirg sobre el aterrador osito de peluche, padres, investigadores tecnológicos y legisladores ya habían expresado su preocupación por el impacto de los robots en la salud mental de los menores. En octubre, la empresa de chatbot Character.AI anunció que prohibiría a los usuarios menores de 18 años luego de una demanda que alegaba que su bot exacerbó la depresión de un adolescente y lo llevó a suicidarse.
Murray dijo que los juguetes con inteligencia artificial podrían ser particularmente peligrosos porque, mientras que los juguetes inteligentes anteriores proporcionaban respuestas programadas por los niños, un robot puede “tener una conversación fluida con un niño y no hay límites, como descubrimos”.
Esto no sólo podría conducir a conversaciones sexualmente explícitas, sino que los niños también podrían apegarse a un robot en lugar de a una persona o a un amigo imaginario, lo que podría perjudicar su desarrollo, dijo Jacqueline Woolley, directora del Centro de Investigación Infantil de la Universidad de Texas en Austin.
Por ejemplo, un niño puede beneficiarse de un desacuerdo con un amigo y aprender a resolverlo. Es menos probable que esto suceda con los robots, que a menudo son aduladores, dijo Woolley, consultor del estudio Pirg.
“Me preocupan las conexiones inapropiadas”, dijo Woolley.
Las empresas también utilizan juguetes de inteligencia artificial para recopilar datos sobre niños y no han sido transparentes sobre lo que hacen con esa información, dijo Franz de Fairplay. Esto potencialmente pone a los usuarios en riesgo debido a la falta de seguridad en torno a estos datos, dijo Franz. Los piratas informáticos han logrado tomar el control de los productos de inteligencia artificial.
“Debido a la confianza que generan los juguetes, diría que es más probable que los niños confíen sus pensamientos más profundos a estos juguetes”, dijo Franz. “La vigilancia es innecesaria e inapropiada”.
A pesar de estas preocupaciones, Pirg no pide una prohibición de los juguetes con inteligencia artificial, que podrían tener valor educativo, como ayudar a los niños a aprender un segundo idioma o aprender las capitales de los estados, dijo Murray.
“No hay nada malo en tener algún tipo de herramienta educativa, pero esa misma herramienta educativa no te dice que este es tu mejor amigo, que puedes decirme cualquier cosa”, dijo Murray.
La organización pide una regulación adicional de estos juguetes para niños menores de 13 años, pero no ha hecho recomendaciones políticas específicas, dijo Murray.
También es necesario realizar más investigaciones independientes para garantizar que los productos sean seguros para los niños y, mientras tanto, deberían retirarse de los estantes, afirmó Franz.
“Necesitamos una investigación longitudinal e independiente a corto plazo sobre los impactos de la interacción de los niños con juguetes de IA, incluido su desarrollo socioemocional” y su desarrollo cognitivo, dijo Franz.
Tras el informe Pirg, OpenAI anunció la suspensión de FoloToy. El director general de esta empresa entonces le dijo a CNN que estaba retirando al oso del mercado y “llevando a cabo una auditoría de seguridad interna”.
El jueves, 80 organizaciones, incluida Fairplay, publicaron una opinión instando a las familias a no comprar juguetes con IA durante la temporada navideña.
“Los juguetes con IA se comercializan entre las familias como seguros e incluso beneficiosos para el aprendizaje antes de que una investigación independiente evalúe su impacto”, dice el comunicado. “Por el contrario, se ha demostrado que los ositos de peluche y los juguetes fuera de línea benefician el desarrollo de los niños, sin ninguno de los riesgos asociados con los juguetes de IA”.
Curio, fabricante del juguete Grok, dijo a The Guardian en un correo electrónico que después de revisar el informe Pirg, “estamos trabajando activamente con nuestro equipo para abordar cualquier inquietud, mientras monitoreamos continuamente el contenido y las interacciones para garantizar una experiencia segura y agradable para los niños”.
Mattel dijo que sus primeros productos con OpenAI “se centrarán en familias y clientes mayores” y que “el uso de las API de OpenAI no está destinado a usuarios menores de 13 años”.
“La IA complementa, no reemplaza, los juegos tradicionales, y enfatizamos la seguridad, la privacidad, la creatividad y la innovación responsable”, dijo la compañía.
Franz citó problemas de privacidad anteriores con los productos inteligentes de Mattel y dijo: “Es bueno que Mattel afirme que sus productos de IA no están dirigidos a niños pequeños, pero si miramos quién juega con juguetes y a quién se comercializan los juguetes, son niños pequeños. »
Franz añadió: “Estamos muy interesados en saber qué medidas concretas tomará Mattel para garantizar que sus productos OpenAI no sean realmente utilizados por niños que seguramente reconocerán las marcas y se sentirán atraídos por ellas. »
