Cuando Ian Clayton, un profesional de salud y seguridad jubilado de Chester, llegó a Home Bargains a la hora del almuerzo en febrero, de repente se le acercó un miembro del personal de aspecto severo.
“Disculpe, ¿podría dejar todo y salir de la tienda ahora?”» ella dijo. Clayton recuerda lo atónito que estaba, y no fue hasta que pasó rápidamente junto a las cajas registradoras hacia la salida que se detuvo para preguntar qué había hecho.
“Te topaste con nuestro sistema llamado Facewatch siendo un ladrón”, fue la respuesta. “Hay un cartel en la ventana”. Dicho esto, se encontró solo afuera de la tienda, con un código QR para escanear y sin idea de lo que había sucedido.
Es una de varias personas que han hablado con The Guardian después de haber sido identificado falsamente como un ladrón por tiendas que utilizan Facewatch, un sistema de reconocimiento facial en vivo implementado en todo el Reino Unido para combatir la delincuencia en el comercio minorista.
El sitio web de la compañía afirma que su sistema tiene una tasa de precisión del 99,98% y que el mes pasado envió 50.288 alertas de “infractores conocidos” a tiendas como B&M, Home Bargains, Sports Direct, Farm Foods y Spar, todas las cuales ahora utilizan el software.
Pero aquellos que fueron identificados erróneamente y obligados a abandonar las tiendas, ya sea por la propia tecnología o por un error humano, dicen que no recibieron ayuda y no sabían cómo quejarse del trato recibido o demostrar su inocencia.
Clayton, de 67 años, dijo que después de que lo expulsaron de Home Bargains, intentó llamar a un número de teléfono que aparecía en un cartel de Facewatch y recibió un mensaje que decía que la empresa no aceptaba llamadas y que debía enviar un correo electrónico.
Solo pudo obtener respuestas después de enviar una solicitud de acceso al sujeto (una solicitud formal según las leyes de protección de datos sobre información personal) que reveló que lo habían asociado erróneamente con un incidente de robo durante una visita anterior a la tienda.
“Me sentí como si fuera culpable hasta que se demuestre mi inocencia. Es una sensación horrible. Te deja un hoyo en el estómago y cuando miro hacia atrás puedo sentirlo de nuevo”, dijo.
“Parece muy orwelliano. Nos graban constantemente y nos colocan en estos sistemas, pero ¿deberíamos estar allí? Es como espiar sin motivo alguno. Ahora estoy muy consciente de las cámaras en todas partes, estoy muy consciente de ellas”.
Home Bargains finalmente le ofreció una disculpa y un vale de £100 como “gesto de buena voluntad de no admisión”, con la condición de que los detalles del incidente permanecieran confidenciales. Clayton se negó: “Solo pensé: ‘¿De verdad estás tratando de comprar mi silencio?’ »
A medida que el reconocimiento facial se extiende entre las fuerzas policiales y las tiendas minoristas, los comisionados de biometría de Gran Bretaña advierten que la vigilancia nacional va muy por detrás de la rápida expansión de la tecnología.
El año pasado, el Ministerio del Interior admitió que las cámaras de reconocimiento facial tenían más probabilidades de identificar incorrectamente a las personas negras y asiáticas que a sus homólogos blancos, y a las mujeres más que a los hombres, y ha habido estudios contradictorios sobre su precisión general.
A Warren Rajah, un estratega de datos del sur de Londres, se le pidió que dejara su carrito de compras y abandonara su tienda Sainsbury’s local después de enterarse de que había aparecido en el sistema Facewatch en febrero.
“Para mí, este es un tema de derechos civiles en el que estamos avanzando lentamente, porque si te deportan sin preguntas, tus derechos civiles se ven afectados”, dijo.
“Ya vivimos en un país que tiene problemas con el racismo, es un problema inevitable. Y sabemos que las cámaras no pueden capturar los rasgos de las personas con rasgos más oscuros con tanta precisión. Y podría sucederle a personas que son mucho más vulnerables que yo”.
Dijo que estaba muy preocupado por el despliegue de esta tecnología en las fuerzas policiales y en el sector minorista.
“¿Quién regula a estas empresas? ¿Podemos confiarles nuestra información? Y lo que es más importante, nadie ha definido realmente cuál es el recurso si algo sale mal”, dijo.
Después de innumerables correos electrónicos, finalmente descubrió que no estaba en la base de datos de Facewatch y que los miembros del personal lo habían identificado erróneamente. Le ofrecieron un vale de 75 libras como disculpa. Cuando dijo que no se sentía cómodo regresando a la tienda, le dijeron que la usara en línea.
Jennie Sanders, de 48 años, de Birmingham, estaba navegando por B&M un sábado por la tarde del año pasado cuando un guardia de seguridad le dijo que había sido denunciada en el sistema Facewatch y que necesitaba acompañarla a la tienda para comprobar que no estaba robando.
“Estaba realmente molesta. Fue frente a mucha gente y me sentí muy avergonzada. Le dije que quería irme y él me acompañó fuera de la tienda”, dijo.
“Fue aterrador, pero lo que fue aún más aterrador fue que cuando llegué a casa y comencé a mirar Facewatch, vi que estaban compartiendo la información entre muchos minoristas.
“Pensé: ‘Me van a tratar como a un ladrón en todas las tiendas. Nunca podré volver a comprar en persona’.»
Le dijeron que tenía que enviar una copia de su pasaporte a Facewatch para demostrar su identidad antes de descubrir que era parte del plan para robar una botella de vino de B&M, lo que, según ella, nunca sucedió.
B&M le dijo que ya no tenían ninguna evidencia, incluidas imágenes de CCTV del día, por lo que la eliminaron del sistema y le ofrecieron un vale de £25.
“Me tomé unos días de descanso, estaba completamente fuera de mí. ¿Por qué estaba en una base de datos criminal sin mi conocimiento?” ella dijo. “Nunca volveré a B&M otra vez. Intento mantenerme alejado de lugares con cámaras; eso me ha afectado mucho.
Sanders dijo que se había quejado ante la Oficina del Comisionado de Información (ICO), el organismo de control oficial que supervisa cómo se utiliza la información personal en la tecnología de reconocimiento facial, pero siete meses después todavía no había recibido respuesta.
Y añadió: “Nos dicen que presentemos quejas y enviemos toda la correspondencia al Comisionado de Información, pero ellos no responden. ¿Qué está pasando con cualquier tipo de respuesta a las víctimas de esto?”
Rajah también había considerado presentar una queja ante la ICO, pero no encontró información sobre cómo hacerlo.
“Son tan desdentados”, dijo. “Y este problema ha sido bien informado y no han hecho público un proceso formal de queja. ¿Dónde está esta información? ¿Cómo puede alguien quejarse cuando no hay camino a seguir?»
Un portavoz de Sainsbury’s dijo: “Pedimos disculpas sinceras al señor Rajah por su experiencia en nuestra tienda Elephant and Castle. Esto no fue un problema con la tecnología de reconocimiento facial utilizada, sino un caso en el que se habían acercado a la persona equivocada en la tienda”.
“El sistema Facewatch tiene una tasa de precisión del 99,98% y todos los partidos son revisados por gerentes calificados, con capacitación adicional proporcionada después de este incidente para garantizar que nuestras medidas de protección se sigan consistentemente. »
Nick Fisher, director general de Facewatch, dijo: “Somos conscientes de los problemas planteados y en cada caso actuamos rápidamente una vez que se pusieron en contacto con el equipo de protección de datos de Facewatch.
“Estos casos se relacionan con errores humanos en la forma en que se llevaron a cabo los procesos en la tienda, más que con una falla de la tecnología Facewatch. Lamentamos que estas personas hayan tenido dificultades al comprar y entendemos por qué esto habría sido molesto.
“Estos tres errores son casos extremadamente raros cuando se consideran en el contexto de las más de 500.000 alertas que enviamos a los minoristas cada año, pero reconocemos que cualquier error molesta al individuo afectado. El sistema está diseñado para apoyar, no reemplazar, la toma de decisiones humana”.
Un portavoz de ICO dijo: “Reconocemos el daño y la perturbación que puede causar una identificación errónea. Por esta razón, el uso de la tecnología de reconocimiento facial debe cumplir estrictamente con la ley de protección de datos y manejarse con cuidado y transparencia.
“Si alguien tiene dudas sobre cómo se han recopilado, utilizado o compartido sus datos, y esas dudas no pueden resolverse directamente con el minorista, tiene derecho a presentar una queja ante nosotros.
“También continuamos regulando activamente en esta área y publicaremos más guías centradas en el comercio minorista para ayudarlos a comprender y cumplir con sus obligaciones de protección de datos, al tiempo que garantizamos que el público esté adecuadamente protegido”. »
Home Bargains y B&M declinaron hacer comentarios.
