Un departamento de policía de Utah generó un informe afirmando que un oficial se transformó en una rana después de usar inteligencia artificial para ayudarlo a lograrlo.
El Departamento de Policía de la ciudad de Heber está probando dos software de inteligencia artificial diferentes para ayudar a los agentes a redactar informes basados en imágenes de cámaras corporales.
En uno de los informes, afirmó que un oficial se convirtió en una rana después de captar un video de la princesa y la rana jugando en el fondo de la interacción.
“Fue entonces cuando nos dimos cuenta de la importancia de corregir estos informes generados por IA”, dijo el sargento Rick Keel. Fox 13 Salt Lake City.
El departamento comenzó a probar los programas Draft One y Code Four el año pasado. Los programas graban imágenes de las cámaras corporales y escriben informes, incluidas marcas de tiempo, sobre lo que sucedió durante la parada.
En ese momento, el agente estaba usando Draft One cuando se generó el informe Frog.
“El software es cada vez mejor y estoy seguro de que en el futuro será capaz de distinguir algunas voces de fondo”, dijo el jefe de policía Parker Sever al Daily Mail.
Los funcionarios de la ciudad de Heber deben revisar cada informe antes de enviarlo, y debe estar certificado al final de su revisión, dijo el jefe.
El Departamento de Policía de la ciudad de Heber está probando dos software de inteligencia artificial diferentes para ayudar a los agentes a redactar informes basados en imágenes de cámaras corporales. En uno de los informes, afirmó que un oficial se convirtió en una rana después de grabar un video de la princesa y la rana durante la interacción.
“El informe luego pasa por al menos dos niveles adicionales de revisión antes de que se considere presentado”, dijo al Daily Mail.
Sever también dijo que el departamento insertaría “huevos de Pascua” en los informes y encargaría a los oficiales encontrarlos como parte del entrenamiento.
A pesar del error y de la conocida tendencia de AI a incluir información falsa, el oficial Keel disfrutó usando el programa, le dijo a Fox 13, porque le ahorró un tiempo considerable que normalmente dedicaba a escribir los informes.
“Ahora trabajo entre 6 y 8 horas a la semana”, le dijo al medio.
Antes de los programas, se tardaba una o dos horas en escribir un solo informe. Aunque no dijo cuánto tiempo ahorró, estimó que fue casi un día completo de trabajo.
“No soy la persona más experta en tecnología, por lo que es muy fácil de usar”, dijo.
Sever dijo al Daily Mail que los programas se utilizan para ayudar a agilizar el trabajo tedioso.
“La IA es útil para completar el cuerpo principal del informe, lo que permite a los agentes pasar menos tiempo escribiendo y más tiempo en la calle, lo que marca la diferencia”, dijo al Daily Mail.
“Fue entonces cuando nos dimos cuenta de la importancia de corregir estos informes generados por IA”, dijo el secretario Rick Keel (en la foto). El jefe de policía Parker Sever dijo al Daily Mail que el informe tuvo que pasar por varias rondas de revisión y ser certificado en cuanto a sus méritos antes de ser aprobado.
Se estimó que el programa de Heber City costaría entre $10,000 y $30,000 al año, dijo Sever.
Axon, que elabora Draft One, dijo que los agentes dedican alrededor del 40 por ciento de su tiempo a escribir informes. La compañía afirma que puede reducir el trabajo a la mitad, con un software de inteligencia artificial capaz de escribir un informe en “segundos”, dice su sitio web.
Axon también dijo que el sistema requería que los oficiales “revisaran sus informes, llenaran los espacios en blanco y aprobaran la exactitud de cada informe antes de enviarlo”.
Sin embargo, su sitio web afirma que el producto no añade ningún adorno creativo a los informes porque está “escrito a partir de las transcripciones de audio de la grabación de la cámara corporal”.
El Daily Mail se ha puesto en contacto con Axon para solicitar comentarios.
El Ministerio también está probando el Código Cuatro, que es un programa similar. La prueba del Código Cuatro finaliza este mes.
Los funcionarios del departamento no están seguros de si seguirán utilizando el programa.
Antes de los programas, se tardaba una o dos horas en escribir un solo informe. El jefe de policía Parker Sever dijo al Daily Mail: “La IA es útil para completar el cuerpo principal del informe, lo que permite a los agentes dedicar menos tiempo a escribir y más tiempo en la calle, lo que marca la diferencia. »
A los críticos les preocupa que el uso de IA para redactar informes reduzca la responsabilidad de los agentes y pueda distorsionar la realidad.
Otras agencias, como la Oficina del Sheriff del condado de Palm Beach, exigen que los agentes que han utilizado Draft One incluyan un descargo de responsabilidad al final del informe que diga: “Reconozco que este informe se generó a partir de una grabación digital utilizando Draft One de Axon”.
“Además, reconozco que revisé el informe, hice los cambios necesarios y creo que es una representación precisa de mi recuerdo de los eventos informados”. Estoy preparado para testificar sobre la exactitud de este informe.
Sin embargo, no todos los departamentos exigen esta exención de responsabilidad y algunos departamentos de policía no pueden distinguir entre un informe escrito por humanos y un informe generado por IA. Fundación Frontera Electrónica (EFF) encontrado.
“Desafortunadamente, Axon parece haber hecho esto, por lo que los administradores no pueden crear una lista de todas las actividades del Draft One realizadas por toda la fuerza policial. En lugar de eso, todo lo que pueden hacer es mirar el registro de auditoría de un oficial individual para ver cuándo usaron la primera versión o verificar el registro en busca de una evidencia particular para ver si se usó la primera versión”, escribió la EFF en su informe.
No está claro cuántos departamentos de policía utilizan el Borrador Uno o el Código Cuatro.
