Reconhecimento facial: novos dilemas, velhas questões

Sistemas de reconhecimento facial vêm sendo implementado ao redor do mundo de maneira bastante ágil. Países da Ásia, da Europa e das Américas avançam na utilização desses sistemas nas mais diferentes áreas, que vão desde usos privados (smartphones, sistemas que determinam score de crédito e avaliam candidatos/as para vagas de emprego) a usos públicos (segurança pública, mobilidade urbana e gestão de pessoas).

Entretanto, a implementação de tais sistemas não é feita sem muito se questionar a que servem tais softwares. Alguns estudos têm demostrado que os algoritmos – aqui entendidos como um modelo matemático que busca a resolução de um problema específico – que orientam o trabalho de tais sistemas, entregam resultados discriminatórios e racistas, possuindo grandes dificuldades em reconhecer e diferenciar faces negras, especialmente de mulheres negras.

Há, diante disso, algumas questões que merecem atenção, especialmente quando falamos na utilização de reconhecimento facial por órgãos públicos, especialmente na segurança pública. Isso porque há uma incompatibilidade visível entre os sistemas citados e princípios democráticos, tais como publicidade, transparência e igualdade de tratamento.

O episódio recente de racismo envolvendo a loja Zara do Shopping Iguatemi em Fortaleza¹ pode ilustrar o que dizemos aqui. Segundo concluiu o inquérito da Polícia do estado do Ceará, a referida loja teria criado um código interno de aviso aos seguranças que os alertavam quando entrava uma pessoa negra ou “com roupas simples” no interior da loja – “Zara zerou” era o aviso. O estabelecimento orientava seus/as funcionários/as a tratar de maneira discriminada pessoas com base na cor da pele e vestimentas, conforme conclusões do inquérito policial. Mas qual a relação disso com reconhecimento facial?

Ora, um sistema de reconhecimento facial poderia ampliar o alcance dessa normativa e diminuir as chances de “erro”, quer dizer, poderia garantir que nenhuma pessoa negra entraria na loja despercebida, e poderia fazê-lo sem que fosse necessário que se anunciasse aos presentes que a “Zara zerou”. Tudo poderia ocorrer internamente, por meio de sistema informatizado. Discriminar-se-ia em sigilo.

Nos Estados Unidos da América, diversas organizações da sociedade civil têm se insurgido contra o uso de reconhecimento facial. Em 2018, a União Americana pelas Liberdades Civis realizou um teste² com o sistema de reconhecimento facial de propriedade da Amazon, o Rekognition. O teste consistiu na confrontação de fotografias de congressistas estadunidenses com um banco de dados de fotos públicas de 25 mil pessoas presas. Como resultado, o sistema reconheceu, erroneamente, 28 congressistas dentre as 25 mil imagens.

Nesse sentido, ainda salta aos olhos a formação racial dos congressistas reconhecidos e do próprio Congresso. Segundo o estudo, 39% das pessoas reconhecidas no teste eram negras, enquanto apenas 20% dos congressistas são pessoas negras.

O que motivou o estudo foi o constante lobby feito pela Amazon frente ao poder público para venda do sistema Rekognition para fins de garantia de aplicação da lei. Além do estudo, empregados, acionistas, uma coalização de mais de 70 associações civis, 400 pesquisadores/as e mais 150 mil cidadãos/ãs mobilizaram-se pela suspensão do fornecimento do sistema pela Amazon aos governos. Em junho de 2020 a empresa cedeu à pressão e suspendeu todas as negociações.

No Brasil, o debate, que ainda engatinha, já conta com estudos que questionam o caráter discriminatório dos dispositivos. Uma pesquisa feita pela Rede de Observatórios da Segurança, do Centro de Estudos de Segurança e Cidadania (CESeC), analisou as prisões realizadas por meio de sistemas de reconhecimento facial feitas em quatro estados do país: Bahia, Rio de Janeiro, Santa Catarina e Paraíba.

Entre os meses de junho a outubro de 2019, 151 pessoas foram presas, sendo que 90,5% eram negras. Segundo o coordenador do programa, Pablo Nunes, “o reconhecimento facial tem se mostrado uma atualização high-tech para o velho e conhecido racismo que está na base do sistema de justiça criminal e tem guiado o trabalho policial há décadas³”.

Diante disso, é preciso que nos mantenhamos alertas em relação ao uso de sistemas de reconhecimento facial pelas polícias no país. É imprescindível um debate amplo, transparente e fundamentado sobre os riscos que a utilização para fins de policiamento em larga escala de softwares com sabidas tendências racistas e discriminatórias pode trazer para nossa sociedade. O controle pela sociedade civil pode servir para que fatos como o ocorrido na Zara não sejam apenas um “erro” do sistema.