ISi está pensando en comprarle a su hijo un nuevo juguete impulsado por IA para las fiestas, ¿puedo sugerirle que no lo haga? Estoy seguro de que la mayoría de los lectores de The Guardian se horrorizarían ante la idea de todos modos, pero pronto será difícil evitar estas cosas. El mercado está en auge y, según MIT Technology ReviewYa existen más de 1.500 empresas de juguetes con IA en China. Con Mattel, propietaria de la marca Barbie, anunciando una “colaboración estratégica” Con OpenAI, puedes apostar que pronto se encontrarán más objetos extraños en unos grandes almacenes cercanos.
Permítanme presentarme como una advertencia para cualquiera que pueda estar intrigado por la idea de un tierno chatbot. En septiembre, dejé que mi hijo de cuatro años usara un animal de peluche impulsado por inteligencia artificial llamado Grem durante unos días. Desarrollado por una empresa llamada Curio en colaboración con el músico Grimes, utiliza la tecnología OpenAI para tener conversaciones personalizadas y jugar juegos interactivos con su hijo.
Antes de que cuestiones mi criterio paterno, debo explicar que no conseguí a Grem porque lo deseara. En cambio, mi editor me preguntó si quería probarlo para una obra de teatro y pensé, claro, ¿qué tan malo podría ser realmente? (No responderé más preguntas sobre mi juicio en este momento).
Una vez que la novedad pasó (unas 24 horas), mi hija perdió interés en Grem. Pero era más que suficiente para que yo tuviera miedo de esta cosa, que le decía a mi hija cuánto la amaba. A otros juguetes de IA les ha ido mucho peor. Búsquedas recientes por una red de organizaciones sin fines de lucro de defensa del consumidor llamada Public Interest Research Group, identificó varios juguetes populares (no Grem) que indicaban a los niños dónde encontrar un cuchillo o encender una cerilla. Algunos también habrían dado respuestas inapropiadas sobre sexo y drogas. Un juguete describía problemas y sugería ataduras y juegos de roles como una forma de mejorar una relación.
También hay evidencia de que esta nueva tecnología no regulada podría recopilar sus datos personales; Se ha demostrado que “alucina” (da información engañosa o falsa) y puede contribuir o exacerbar los síntomas de la psicosis.
Grem ahora ha sido entregado a un profesor de filosofía amigo mío, y evitaré todos los juguetes futuros habilitados para IA hasta que se desarrollen medidas de seguridad. Lo cual, seamos honestos, probablemente nunca será así. Es mejor mantener el desarrollo de la tecnología alejado del desarrollo del cerebro.
