En la votación del miércoles en el Parlamento Europeo, 377 diputados apoyaron una resolución que restringe el uso del reconocimiento facial por parte de las fuerzas del orden. 248 votaron en contra y 62 se abstuvieron, para que conste.
“Los sistemas de identificación basados en inteligencia artificial ya identifican erróneamente los grupos étnicos minoritarios, las personas LGBTI, los ancianos y las mujeres en tasas más altas. Esto es particularmente preocupante en el contexto de la vigilancia de la aplicación de la ley y el poder judicial ”, se lee en un comunicado del parlamento.
Algoritmos opacos, vigilancia inquisitorial
Para garantizar que se respeten los derechos fundamentales al utilizar estas tecnologías, los algoritmos deben ser transparentes, rastreables y suficientemente documentados. Siempre que sea posible, las autoridades públicas deberían utilizar software de código abierto para ser más transparentes.
Declaración del Parlamento de la UE
Es una buena noticia que la mayoría de los representantes políticos de la UE hayan hecho esta evaluación. ¿Quién no quiere utilizar el reconocimiento facial en la vigilancia masiva automática de personas en público? El monitoreo debe limitarse solo a aquellos que se cree que han violado la ley. Conjuntos de datos acumulados por empresas privadas, como IA de Clearview, para identificar a los ciudadanos. Sería útil prevenir, en verdad, incluso los sistemas que permiten a los policías predecir ofensas del comportamiento y los antecedentes de las personas.
Esto es lo que dijo el Parlamento de la UE sobre el reconocimiento facial y la vigilancia masiva:
"Los derechos fundamentales son incondicionales", dice Pedro Vitanov, Eurodiputado en representación del Partido Socialista Búlgaro. "Por primera vez, pedimos una moratoria en la implementación de sistemas de reconocimiento facial con fines de vigilancia y aplicación de la ley, ya que la tecnología ha demostrado ser ineficaz y, a menudo, conduce a resultados discriminatorios".
Estamos claramente en contra de la policía predictiva basada en el uso de inteligencia artificial y cualquier procesamiento de datos biométricos que conduzca a una vigilancia masiva. Esta es una gran victoria para todos los ciudadanos europeos.
Pedro Vitanov, Eurodiputado
La votación no es vinculante y, por lo tanto, no puede conducir directamente a ningún cambio legislativo. Se promovió para "tomarle el pulso" al Parlamento Europeo, y para entender si los miembros podrían apoyar las próximas leyes como la AI Act. Entre las intenciones, también está la de prohibir los datos biométricos en los controles fronterizos para rastrear a los viajeros en Europa.
Los fallos de una tecnología aún incompleta
El crecimiento de estos algoritmos de vigilancia sucedió muy rápido y con un conjunto de datos incompleto, para ser generoso. La discriminación por reconocimiento facial está a la orden del día (piense en la persona identificada como "mono" por un algoritmo de Facebook). En la actualidad, es mucho más probable que las personas de color sean identificadas erróneamente por el mecanismo de autenticación de reconocimiento facial. Y hay uno que lo hace cocido y crudo: es el algoritmo de Uber.
Un conductor de Black Uber en el Reino Unido, que perdió su trabajo después de ser bloqueado por la aplicación de llamadas en ejecución cuando su sistema de reconocimiento facial no lo identificó, está tomando acciones legales contra el gigante tecnológico. Contará con el apoyo del Sindicato de Trabajadores Independientes de Gran Bretaña (IWGB), que ha convocado una huelga de 24 para exigir cambios en el modus operandi.
"El uso continuo por parte de Uber de un algoritmo de reconocimiento facial que es ineficaz en personas de color es discriminatorio", dijo. Henry Chango López, secretario general del IWGB.
