Los gobiernos y las empresas están rastreando nuestra vida con un marcador único que la mayoría de nosotros no puede ocultar ni cambiar: nuestro propio rostro. En todo Estados Unidos, las comunidades se están oponiendo con leyes que restringen esta peligrosa tecnología.
En respuesta, algunos gobiernos y empresas afirman que estas leyes sólo deberían aplicarse a algunas formas de reconocimiento facial, como la identificación de rostros, y no a otras, como la agrupación de rostros.
No estamos de acuerdo. Todas las formas de reconocimiento facial son una amenaza para la privacidad, la libertad de expresión y la justicia racial.
¿Qué es el reconocimiento facial?
En el nivel más básico, la tecnología de reconocimiento facial toma imágenes de rostros humanos e intenta extraer información sobre las personas que aparecen en ellas.
Así es como suele funcionar hoy en día: En primer lugar, la imagen se procesa automáticamente para identificar qué es y qué no es una cara. Esto suele llamarse “detección de rostros“. Se trata de un requisito previo para todas las formas más sofisticadas de reconocimiento de rostros que comentamos a continuación. En sí misma, la detección de rostros no es necesariamente perjudicial para la privacidad del usuario. Sin embargo, existe una importante disparidad racial en muchas tecnologías de detección de rostros.
A continuación, el sistema extrae las características de cada imagen de un rostro. Los datos de la imagen en bruto se procesan en un conjunto más pequeño de números que resumen los rasgos diferenciadores de un rostro, esto suele llamarse “huella facial”.
Las huellas faciales, en lugar de las imágenes faciales en bruto, pueden utilizarse para todas las tareas problemáticas que se describen a continuación. Un ordenador puede comparar la huella facial de dos imágenes distintas para intentar determinar si son la misma persona. También puede intentar adivinar otras características (como el sexo y las emociones) del individuo a partir de la huella facial.
Comparación de caras
La clase de reconocimiento facial más utilizada suele denominarse “face matching”. Trata de cotejar dos o más huellas faciales para determinar si se trata de la misma persona. El cotejo de caras también puede utilizarse para averiguar si dos huellas faciales son de la misma cara, sin saber necesariamente a quién pertenece esa cara. Por ejemplo, un teléfono puede comprobar la cara de un usuario para determinar si debe desbloquearse, lo que suele llamarse “verificación facial”.
Asimismo, un sitio de redes sociales puede escanear las fotos de un usuario para tratar de determinar cuántas personas únicas están presentes en ellas, aunque puede no identificar a esas personas por su nombre, lo que suele llamarse “agrupación de rostros”.
Esta tecnología puede usarse para coincidencias uno a uno (¿son dos fotografías de la misma persona?), coincidencias uno a varios (¿coincide esta foto de referencia con alguna de un conjunto de imágenes?) o coincidencias muchos a muchos (¿cuántas caras únicas hay en un conjunto de imágenes?).
Incluso sin asociar rostros a nombres, el cotejo de rostros puede utilizarse para seguir los movimientos de una persona en tiempo real, por ejemplo, por una tienda o por una ciudad, lo que suele denominarse “seguimiento de rostros”.
Todas las formas de comparación de rostros plantean graves problemas de derechos digitales, como la identificación, la verificación, el seguimiento y la agrupación de rostros. Los legisladores deben abordarlos todos.
Incluso si la tecnología de identificación facial no se utiliza nunca, las tecnologías de agrupación y seguimiento de rostros pueden amenazar la privacidad, la libertad de expresión y la equidad. Por ejemplo, la policía podría utilizar la tecnología de rastreo facial para seguir a un manifestante no identificado desde una concentración hasta su casa o su coche, y luego identificarlo con una base de datos de direcciones o matrículas.
Precisión, error y sesgo
En 2019, Nijeer Parks fue detenido injustamente tras ser identificado erróneamente por un sistema de reconocimiento facial. A pesar de estar a 30 millas de la escena del supuesto crimen, Parks pasó 10 días en la cárcel antes de que la policía admitiera su error.
Nijeer Parks es, al menos, la tercera persona que es detenida por error debido a una tecnología de reconocimiento facial defectuosa. No es casualidad que las tres personas sean hombres negros. El reconocimiento facial nunca es perfecto, pero es alarmantemente más propenso a errores cuando se aplica a cualquier persona que no sea un hombre blanco y cisgénero.
En un estudio pionero de 2018, Joy Buolamwini y el Dr. Timnit Gebru demostraron que los sistemas de identificación facial identificaban erróneamente a las mujeres de color en una proporción más de 40 veces superior a la de los hombres blancos.
Más recientemente, las pruebas del NIST de varios sistemas de reconocimiento de rostros de última generación confirmaron una amplia y dramática tendencia de tasas de “falsos positivos” dispares entre los grupos demográficos, con tasas de error más altas para los rostros que no eran blancos y masculinos
Por muchas razones, la implantación generalizada de la identificación facial -incluso si fuera precisa e imparcial- es incompatible con una sociedad libre. Pero la tecnología actual dista mucho de ser precisa, y está profundamente sesgada en formas que magnifican el racismo sistemático existente en nuestro sistema de justicia penal.
Esperamos que los investigadores encuentren el mismo tipo de errores y sesgos inaceptables en el rastreo y agrupación de rostros, como ya se ha encontrado en la identificación de rostros. Lo cual es una razón más por la que las leyes de privacidad deben abordar todas las formas de reconocimiento facial.
