Tudo sobre Estados Unidos
A Comissão Federal de Comércio dos Estados Unidos proibiu o uso de um software de reconhecimento facial por cinco anos após uma série de problemas envolvendo a tecnologia. Os casos aconteceram em lojas da rede de farmácias Rite Aid, onde clientes, na grande maioria negros, foram acusados injustamente por furtos e outros delitos.
Leia mais
{{#values}}
{{#ap}}
{{/ap}}
{{^ap}}
{{/ap}}
{{/values}}
Falhas do sistema de reconhecimento facial
- De acordo com as autoridades norte-americanas, a empresa falhou ao não adotar uma série de medidas.
- As denúncias apontam que, a partir da sinalização do sistema de reconhecimento facial, funcionários das lojas perseguiram, revistaram e acusaram consumidores na frente de amigos ou familiares, chamando a polícia em alguns casos.
- O problema é que esses casos eram falso-positivos.
- A Rite Aid também violou as normas ao não informar os clientes sobre o uso da tecnologia e ao orientar os seus funcionários a não fazê-lo.
- As informações são da ABC News.
Violações de informações de clientes
No total, a empresa coletou dezenas de milhares de imagens de indivíduos, muitas das quais de baixa qualidade entre 2012 e 2020. A conclusão das autoridades foi que a Rite Aid violou os termos de um acordo de 2010, colocando em risco informações financeiras e médicas confidenciais de seus clientes.
O uso imprudente de sistemas de vigilância facial pela Rite Aid deixou seus clientes enfrentando humilhação e outros danos, e suas violações de ordem colocam as informações confidenciais dos consumidores em risco.
Samuel Levine, diretor do Departamento de Proteção ao Consumidor da Comissão Federal de Comércio dos Estados Unidos
No início deste ano, a Comissão Federal de Comércio dos EUA havia emitido um alerta afirmando que a rede de farmácias estaria coletando dados ligados às características físicas dos consumidores.
Em comunicado, a Rite Aid disse estar “satisfeita por chegar a um acordo”, mas discordou sobre as alegações de violações no uso do reconhecimento facial.
Além de não poder usar o sistema por cinco anos, a empresa será obrigada a excluir fotos coletadas anteriormente, informar aos clientes quando suas características físicas são inseridas em um banco de dados da loja e avisar os consumidores sobre o uso da tecnologia no futuro.
Análise
Para o colunista do Olhar Digital Rodrigo Almeida, mestre em Gestão e Tecnologia, além de diretor da agência CRIATIVOS, esse é mais um caso de racismo algorítmico:
Números da Rede de Observatório de Segurança apontaram que, em 2019, mais de 90% dos casos envolvendo pessoas detidas erroneamente pelo uso de reconhecimento facial, no Brasil, foram negros. Dados do National Institute of Standards and Technology, publicado em dezembro de 2019, expõem que faces afro-americanas e asiáticas são identificadas erroneamente de 10 a 100 vezes mais em comparação às faces caucasianas.
Fenômeno conhecido como ‘racismo algorítmico’, o problema tecnológico de reconhecimento facial tem a sua origem no nascimento. Com um mercado de programação dominado por homens brancos e que utilizam o repertório próprio, experiências pessoais e banco de dados de pessoas semelhantes para testes e validações de programas, não ensinamos aos sistemas sobre as variações fenotípicas de toda a população, restringindo assim o aprendizado do software a características macro de formação, provocando então a ideia de unidade étnica e racial.
Enquanto não tivermos ensinado corretamente aos sistemas de reconhecimento facial a multiplicidade de rostos entre pessoas negras, indígenas e asiáticas, viveremos absurdos como esse, provocado pela rede de farmácias Rite Aid.