Por David Ljunggren
OTTAWA, 24 feb (Reuters) – Canadá presionará a los funcionarios de OpenAI el martes sobre sus protocolos de seguridad después de que se supo que el creador de ChatGPT no “contactó a la policía sobre una cuenta que prohibió y que pertenecía a un presunto tirador masivo”, dijo un ministro del gobierno.
Jesse Van Rootselaar, de 18 años, es sospechoso de matar a ocho personas el 10 de febrero antes de suicidarse. OpenAI dijo que prohibió su cuenta el año pasado en ChatGPT por violaciones de políticas, que según dijo no cumplían con los criterios internos para informar a las autoridades.
Evan Solomon, el ministro federal responsable de inteligencia artificialconvocó a los principales funcionarios de seguridad de OpenAI a una reunión en Ottawa.
“Espero que nos cuenten más detalles sobre sus protocolos de seguridad, sus umbrales de escalada y cómo mantienen seguros a los canadienses, y si perciben una amenaza, qué hace la tecnología y qué hace el proceso humano”, dijo a los periodistas.
“Queremos saber exactamente qué está haciendo OpenAI para que los canadienses entiendan lo que está pasando y tengan cierta transparencia”.
Un portavoz de Salomon dijo que el ministro no hablaría con los medios de comunicación después de la reunión, ya que estaba prevista para el martes por la noche.
En 2024, el gobierno liberal presentó un proyecto de ley para acabar con el odio en línea, pero sus esfuerzos fueron bloqueados debido a las críticas de que su alcance era demasiado amplio. Los ministros dicen que lo intentarán nuevamente este año con un proyecto de ley revisado.
“Todas las opciones están sobre la mesa cuando se trata de entender qué podemos hacer con los chatbots de IA”, afirmó Solomon.
Van Rootselaar, quien según la policía nació hombre pero se identificó como mujer y comenzó la transición hace seis años, tenía antecedentes de “problemas de salud mental”. Los asesinatos tuvieron lugar en Tumbler Ridge, Columbia Británica, una ciudad de aproximadamente 2.400 habitantes.
OpenAI dice que prohibió la cuenta de Van Rootselaar en 2025 después de que fuera señalado por sistemas que identifican “usos indebidos de nuestros modelos en actividades violentas”. La empresa consideró contactar a la policía, pero determinó que la cuenta no cumplía con el umbral de riesgo inminente y creíble de daño físico grave a otras personas.
(Reporte de David Ljunggren, editado por Rod Nickel)
