ICO irrumpe: Home Office ocultó sesgos del reconocimiento facial policial
El ICO del Reino Unido acusó al Home Office de no informar sobre sesgos del reconocimiento facial policial revelados por pruebas publicadas el 4 de diciembre por el National Physical Laboratory. El regulador exige explicaciones urgentes y una evaluación oficial del impacto en la Police National Database, con posibles implicaciones para su despliegue nacional.
Según Emily Keaney, comisionada adjunta del ICO, la autoridad fue informada por primera vez la semana pasada sobre sesgos históricos en el algoritmo usado para la retrospective facial recognition (RFR). La falta de comunicación, pese al contacto regular entre organismos, fue calificada de decepcionante; además, el ICO ya solicitó claridad inmediata al Home Office.
Pruebas confirman sesgos del reconocimiento facial policial
Las pruebas independientes del NPL, encargadas por el Home Office, evaluaron dos algoritmos: Cognitec FaceVACS-DBScan ID v5.5 (en uso en la PND) e Idemia MBSS FR (previsto para despliegues futuros). Los resultados muestran disparidades demográficas al aplicar umbrales de similitud elevados para filtrar candidatos.
Resultados clave de precisión y error
- Con umbrales altos, Cognitec registró aciertos del 98% para sujetos asiáticos, 91% para blancos y 87% para negros.
- Sin restricciones, Cognitec alcanzó un 99,9% de acierto en la PND.
- Las tasas reportadas impactaron de forma desproporcionada: 0,04% para blancos, 4% para asiáticos y 5,5% para negros.
- El Idemia MBSS FR fue analizado para despliegues futuros; el Gobierno afirma que no presenta sesgos estadísticamente significativos.
El ICO indicó que, en la RFR, los resultados no se presentan como evidencia sin revisión manual; además, se actualizó la formación y las directrices para las fuerzas policiales. Por lo tanto, el regulador quiere verificar cómo se están aplicando estos protocolos en la práctica.
Estas cifras reavivan el debate sobre los sesgos del reconocimiento facial policial en un contexto de creciente integración de biometría en investigaciones. Sin embargo, el Home Office defiende su inversión y la eficacia operativa del PND desde 2011.
Reacciones a los sesgos del reconocimiento facial policial
El Gobierno solicitó a la Inspectorate of Constabulary, con apoyo del Forensic Science Regulator, revisar el uso policial de la tecnología. Un portavoz del Home Office aseguró que se ha adquirido un nuevo algoritmo, probado de forma independiente y sin sesgos significativos, que será evaluado a inicios del próximo año.
El ICO mantendrá conversaciones formales con el Home Office para determinar los siguientes pasos y eventuales medidas regulatorias. Además, la autoridad de protección de datos recordó que la transparencia y la rendición de cuentas son esenciales cuando tecnologías de alto impacto afectan a grupos demográficos de manera desigual.
La controversia emerge durante una consulta gubernamental para ampliar el uso policial del reconocimiento facial. El Ejecutivo destina decenas de millones de libras anuales a estas herramientas; por lo tanto, la resolución de los sesgos del reconocimiento facial policial será decisiva para su continuidad y alcance en 2025.
Fuentes oficiales: ICO y Home Office.
