OTTAWA – A raíz de uno de los tiroteos masivos más mortíferos de Canadá, el director ejecutivo de OpenAI, Sam Altman, fue interrogado el miércoles por un alto funcionario del gobierno sobre por qué la compañía no alertó a la policía sobre los mensajes ChatGPT aparentemente violentos del presunto tirador y por qué no pudo evitar que el usuario eludiera una prohibición.
El ministro canadiense de IA, Evan Solomon, se reunió virtualmente con Altman, quien se comprometió a proporcionar un “informe completo” sobre cómo los sistemas de OpenAI detectan usuarios peligrosos y evitan que los usuarios prohibidos creen nuevas cuentas. Solomon dijo que le pidió al Instituto Canadiense de Seguridad de la Inteligencia Artificial que pruebe la tecnología OpenAI para garantizar que no represente un peligro para el público.
“Estas medidas representan acciones inmediatas para fortalecer la seguridad y la rendición de cuentas”, dijo Solomon después de la reunión.
“Al mismo tiempo, la inteligencia artificial presenta enormes oportunidades para Canadá. Los canadienses deben tener confianza en que estas tecnologías operan bajo reglas claras, salvaguardias sólidas y una responsabilidad real cuando surgen riesgos”.
Un portavoz de OpenAI dijo que Altman explicó cómo la compañía estaba mejorando sus políticas de seguridad, explicando cuándo llamó a la policía y cómo le estaba enseñando a su IA a tener en cuenta el contexto canadiense.
“Lo que ocurrió en Tumbler Ridge es una tragedia terrible y nuestros corazones están con las familias y con todos los afectados”, dijo el portavoz. “Seguimos comprometidos a continuar este trabajo con el gobierno canadiense en el futuro”.
OpenAI dijo que en junio prohibió la cuenta de Jesse Van Rootselaar, quien es el presunto tirador en una masacre en Tumbler Ridge, Columbia Británica, el 10 de febrero. La policía dice que ocho personas murieron, incluidas seis en una escuela secundaria. Ocho meses antes del tiroteo, la cuenta ChatGPT de Van Rootselaar fue marcada internamente después de que los empleados interpretaran ciertos mensajes como “una indicación de posible violencia en el mundo real”. El Wall Street Journal informó.
El primer ministro de Columbia Británica, David Eby, que se reunirá con Altman el jueves, exigió una disculpa.
“El gobierno y yo personalmente apoyamos la petición y exigencia de una disculpa a las familias”, dijo Solomon. CBC “Poder y Política” Miércoles.
Durante su reunión, Solomon dijo que Altman “me expresó su horror y responsabilidad general por no denunciar” al usuario.
“Por eso están haciendo cambios”, dijo. “Aquí es territorio emocional”.
Desde entonces, OpenAI se ha comprometido a haz que tu IA sea más segura haciendo más difícil que los usuarios prohibidos regresen a la plataforma. La compañía dijo que dirigirá a los usuarios a recursos locales cuando parezca que están en peligro o “continúan con un comportamiento prohibido”. Solomon dijo que OpenAI también acordó traer expertos locales cuando la compañía señaló a un usuario de alto riesgo en Canadá.
La empresa de tecnología también establecerá un punto de contacto para que la policía canadiense intercambie instantáneamente información sobre usuarios peligrosos, una solicitud realizada por Solomon.
La compañía reconoció que si estos cambios de política hubieran existido, habría informado el relato del presunto tirador a la policía canadiense.
Solomon también pidió a OpenAI que volviera y volviera a verificar las alertas de seguridad del año pasado utilizando estas reglas nuevas y más estrictas. Solomon dijo que Altman aceptó la revisión, que podría ayudar a revelar si OpenAI pasó por alto a otros usuarios peligrosos que deberían haber sido denunciados a la policía nacional de Canadá.
Cuando se trata de regular las empresas de inteligencia artificial, Solomon dijo que “todas las opciones están sobre la mesa”.
“Seguiremos trabajando con expertos, la industria, las provincias y los territorios para garantizar que los canadienses puedan beneficiarse de la inteligencia artificial y al mismo tiempo permanecer protegidos de los peligros”, afirmó.
