Robert Julian-Borchak Williams foi preso em janeiro, depois que a polícia de Detroit disse para ele se entregar, relata o The New York Times . Quando Williams chegou à delegacia, ele foi preso porque a IA de reconhecimento facial determinou que ele era a pessoa vista nas imagens de vigilância de um furto em 2018. Era uma clara incompatibilidade – mas Williams ainda tinha que passar 30 horas na prisão por causa de uma dependência excessiva de IA defeituosa.

Embora Williams tenha sido libertado após pagar a fiança e o caso tenha sido julgado improcedente, sua prisão aponta para um problema muito maior de a polícia usar algoritmos não confiáveis .

“Eu suspeito fortemente este não é o primeiro caso de misidentify alguém para prendê-los por um crime que não cometeu”, disse o advogado da Universidade de Georgetown Clare Garvie o NYT . “Esta é apenas a primeira vez que sabemos sobre isso.”

Após o ocorrido, dois senadores dos EUA estão pressionando pela ação mais forte contra o uso da polícia do reconhecimento facial até o momento.

A proposta de Moratória do Reconhecimento Facial e da Tecnologia Biométrica, introduzida pelos senadores Ed Markey e Jeff Merkley, manteria o reconhecimento facial – e outras formas de vigilância biométrica – fora das mãos da polícia para sempre, informa a CNET . O projeto é muito mais ambicioso do que qualquer legislação relacionada nos EUA, que deixou em grande parte a questão do uso do reconhecimento facial pela aplicação da lei em cidades individuais .

Nas últimas semanas, empresas de tecnologia, como Amazon e IBM, impuseram proibições e moratórias à aplicação da lei usando seus algoritmos de reconhecimento facial. Mas a nova proposta iria ainda mais longe: a CNET relata que a proibição seria permanente, a menos que o Senado um dia aprovasse outra lei que reverte a decisão.

O projeto visa restringir a flagrante dependência dos policiais e o uso indevido de algoritmos de vigilância defeituosos, que têm como alvo desproporcional pessoas negras e outras pessoas de cor.

“A tecnologia de reconhecimento facial não representa apenas uma ameaça grave à nossa privacidade, mas também coloca em risco os negros americanos e outras populações minoritárias em nosso país”, disse Markey, segundo a CNET . “Enquanto trabalhamos para desmantelar o racismo sistemático que permeia todas as partes da nossa sociedade, não podemos ignorar os danos que essas tecnologias apresentam.”

Fonte: Futurismo