"O crescimento sem lei do reconhecimento facial"

Câmeras de reconhecimento facial automatizadas ao vivo, atuando como pontos de verificação de identificação biométrica, são uma clara ameaça à privacidade e privacidade individual como uma norma social.

"O crescimento sem lei do reconhecimento facial"

 

Uma ameaça ao direito à privacidade
Câmeras de reconhecimento facial automatizadas ao vivo, atuando como pontos de verificação de identificação biométrica, são uma clara ameaça à privacidade e privacidade individual como uma norma social.
A Lei de Direitos Humanos de 1998 exige que qualquer interferência no direito do Artigo 8 a uma vida privada seja necessária e proporcional. No entanto, o uso de reconhecimento facial automatizado com câmeras de CCTV em espaços públicos parece falhar em ambos os testes.

Câmeras de reconhecimento facial automatizadas efetuam um scanner dos rostos de todas as pessoas que andam dentro da visão da câmera; o sistema cria, mesmo que transitoriamente, uma varredura biométrica do rosto de cada pessoa visível; compara essas imagens biométricas com a base de dados de imagens; e retém fotos de todos os indivíduos "combinados" pelo sistema, apesar de 95% das correspondências identificarem pessoas inocentes de forma incorreta. Como tal, as câmaras de reconhecimento facial automatizadas são pontos de verificação de identificação biométrica que podem levar os membros do público a andar com cartões de identificação.
É claramente desproporcional implantar uma tecnologia pela qual a face de cada transeunte seja analisada, mapeada e a sua identidade verificada. Além disso, uma correspondência de reconhecimento facial pode resultar em que um indivíduo possa ser abordado na rua pela polícia e solicitado a provar a sua identidade e, assim, a sua inocência.

É improvável que os cidadãos que foram "scanados" pelo reconhecimento facial automático estejam cientes de que estavam sujeitos à verificação de identidade e não têm a opção de consentir com o seu uso. Ao contrário do DNA ou das impressões digitais, as imagens faciais podem ser facilmente capturadas e armazenadas sem o conhecimento do sujeito.


Durante duas semanas, conversei com um número de pessoas (nas regiões do leste e oeste de Sussex, Inglaterra) num total de 183, abordando-as com a questão sobre, "a sua conscientização sobre esta tecnologia".

Fiquei impressionado com o facto de 181 pessoas das 183 pessoas com quem conversei não tinham consciência sobre esta realidade, embora sabendo da existência das CCTV's. Alguns ficaram horrorizados, alguns ficaram intrigados e cada um deles tinha dúvidas e preocupações.

A proporcionalidade é uma preocupação particular em relação ao reconhecimento facial automatizado devido à natureza geral e indiscriminada em que a câmera examina biometricamente o público, muitas vezes sem o seu conhecimento e sempre sem o seu consentimento ou mesmo qualquer evidência objetiva de irregularidade. Esta preocupação é significativamente aumentada no contexto das intenções das autoridades para a tecnologia. 

 

Uma ameaça ao direito à liberdade de expressão
O direito de realizar a sua atividade diária sem perturbações das autoridades, ir onde e com quem participar e participar em eventos, festivais e manifestações é um princípio fundamental de uma sociedade democrática protegida pelo Artigo 10 da Lei de Direitos Humanos de 1998.
A vigilância biométrica e a identificação de indivíduos em espaços públicos, eventos públicos, em particular, demonstrações políticas, é claramente incompatível com esse direito fundamental.
Estamos preocupados que o uso de reconhecimento facial automatizado com CCTV tenha um efeito inibidor na participação das pessoas em espaços e eventos públicos e, portanto, na sua capacidade de expressar idéias e opiniões e de se comunicar com outras pessoas nesses espaços.

 

Uma ameaça ao direito à liberdade contra a discriminação
Estudos realizados no ano 2017 e mais recentemente (Março de 2018) revelaram que o reconhecimento facial automatizado é incrivelmente impreciso, com correspondências médias de 95% de imprecisão. Tais identificações errôneas, no contexto da aplicação da lei, podem ter sérias consequências para as pessoas e tendem a afetar desproporcionalmente grupos étnicos e minoritários.

As altas taxas de erros de identificação por câmeras de reconhecimento facial automáticas afetam a todos, mas são particularmente perturbadoras à luz de pesquisas que mostram que muitos algoritmos de reconhecimento facial desprezam de forma errada a identificação de negros e mulheres. No contexto da aplicação da lei, os algoritmos tendenciosos de reconhecimento facial levam a uma interferência desproporcional nos grupos em questão - seja por meio acções policiais e solicitações de comprovação de identidade ou do armazenamento de fotos biométricas "correspondentes" por essas entidades.

Um estudo recente conduzido pelo Massachusetts Institute of Technology sobre o uso comercial de sistemas de inteligência artificial descobriu que a taxa de erro do software de reconhecimento facial era 43 vezes maior para mulheres de pele escura do que para homens de pele clara.
Na verdade, vários estudos descobriram de forma semelhante que os algoritmos de reconhecimento facial - incluindo os do FBI - desproporcionalmente identificam erroneamente os rostos negros. As causas dessa discriminação algorítmica podem variar, mas provavelmente devem-se ao fato de que os conjuntos de dados nos quais os algoritmos são treinados contêm principalmente rostos brancos e masculinos, bem como o fato de as câmeras não estarem configuradas para identificar tons de pele mais escuros.


“Tecnologias de captura Biométrica de imagens são cada vez mais provenientes do setor privado. Isso resulta numa lacuna no escopo para uma avaliação independente sobre a eficácia de tecnologias cujos algoritmos de identificação biométrica são protegidos por questões de confidencialidade comercial ”

Estamos profundamente preocupados com o impacto do reconhecimento facial automatizado no direito dos indivíduos a uma vida privada e liberdade de expressão, e o risco de impacto discriminatório.

Os recursos atuais de reconhecimento facial estão em rápido desenvolvimento, facilitando a integração do software de rastreamento biométrico em vários dispositivos tais como Smartphones, Tablets... A empresa japonesa NEC, que fornece software de reconhecimento facial para as forças policiais do Reino Unido, adquiriu o Northgate Public Services (NPS) em janeiro de 2018. O NPS fornece às forças policiais britânicas o CONNECT.
A plataforma CONNECT fornece um sistema de informações policiais integrado em toda a área de trabalho para aplicativos móveis em tempo real, incluindo uma ampla variedade de dados, informações e inteligência. Durante a aquisição, foi relatado que:

"Uma das principais vantagens da aquisição, as duas partes afirmam, será a oportunidade para o NPS integrar o reconhecimento facial da NEC e outras tecnologias biométricas nos seus produtos de software".


Alemanha - o combóio já saiu da estação?
Grande controvérsia foi causada quando o ministro do Interior da Alemanha, Thomas de Maizière, encomendou um "piloto" de tecnologia de reconhecimento facial na estação ferroviária de Berlim Südkreuz em agosto de 2017. Equipado com três câmeras de vigilância com reconhecimento facial, o piloto deveria funcionar por seis meses e convidou 250 voluntários para participar do estudo.
O projeto orgulhava-se da transparência e da consideração da privacidade dos não-participantes ao colocar sinalização e restringir o uso das câmeras a uma área específica. No entanto, os críticos apontam que os voluntários foram incentivados a se sujeitar à vigilância biométrica com a promessa de prêmios como relógios "inteligentes" para o participante que foi mais capturado pelo sistema. No entanto, qualquer membro do público que entrasse nas áreas vigiadas teriam ainda as suas faces digitalizadas involuntariamente se não fossem identificadas.
O ministro anunciou recentemente que o projeto seria prolongado por mais seis meses, o que significa que até 100.000 pessoas serão "scaneadas" diariamente. É questionável por que as autoridades alemãs decidiram estender o "piloto". Mesmo sob o ambiente controlado do teste, o sistema combinou corretamente imagens voluntárias apenas 70 a 85% do tempo - demonstrando que a tecnologia não é confiável e é imprecisa.
O "piloto" da Berlin Südkreuz foi recebido com significativo protesto público na Alemanha, especialmente devido à sua nova lei permitindo que as forças policiais e outras autoridades acessem o passaporte biométrico e as imagens de identificação dos cidadãos. A Ordem dos Advogados da Alemanha destacou que o uso do reconhecimento facial viola os direitos fundamentais dos cidadãos. O Presidente da Associação enfatizou que: “Essa interação entre inovações técnicas e legais representa uma ameaça sem precedentes à proteção das liberdades civis”.

 

Rússia - 160.000 câmeras para acompanhar os cidadãos "around the clock"
Em setembro de 2017, o governo local de Moscovo anunciou a implantação formal da tecnologia de reconhecimento facial ao vivo, adquirida da startup NTech Lab, na rede CCTV de 160.000 câmeras da cidade. O Departamento de Tecnologias da Informação da cidade afirma que o sistema de vigilância cobre 95% das entradas de prédios de apartamentos em Moscovo.
Embora o reconhecimento facial esteja ativo, está ativo apenas em algumas camaras de cada vez, no entanto, pode ser rapidamente alterado para áreas de interesse se desejado. As autoridades afirmam que possuem a maior rede de CCTV do mundo e precisavam de inteligência artificial para filtrar as massas de imagens acumuladas. Ao contrário do Reino Unido, da Alemanha ou dos EUA, o uso dessa máquina de vigilância ampliada é autorizado pela legislação nacional.

 

China - o novo laboratório de linha de frente para vigilância
O uso prolífico da tecnologia de vigilância na China tem sido amplamente criticado por observadores e, particularmente, por defensores dos direitos humanos. A introdução da tecnologia de reconhecimento facial ao vivo da China em todo o país exigiu um exame minucioso.
Combinada com uma rede de vigilância por vídeo difundida, a tecnologia de reconhecimento facial ao vivo permite às autoridades rastrear um cidadão sem problemas através de grandes partes das cidades chinesas. Indivíduos e veículos podem ser reconhecidos pelo sistema após o qual a polícia é alertada sobre seus movimentos.
Atualmente, existem 170 milhões de câmeras de vigilância na China. Em março de 2018, como parte do programa de monitoramento nacional "Skynet", câmeras em 16 partes do país foram atualizadas com software de reconhecimento facial automatizado, permitindo a identificação de milhões de cidadãos dentro um segundo pelas câmeras.
Desenvolvedores chineses integraram com sucesso o reconhecimento facial em óculos de sol "inteligentes", permitindo à polícia patrulhar os arredores de Pequim e verificar a identidade dos viajantes independentemente das câmeras de vigilância. Com a ajuda do reconhecimento facial e inteligência artificial, os jaywalkers são publicamente nomeados e multados via texto mensagens.
Declarações oficiais afirmam que o uso da tecnologia é limitado à captura de criminosos. No entanto, as minorias étnicas e dissidentes são frequentemente alvo.
Por exemplo, a província Xinjiang no noroeste, tem sido cinicamente chamada de "Laboratório Frontline de Vigilância". No início de 2018, foi testado um sistema de reconhecimento facial ao vivo que alertava os oficiais quando um alvo se deslocava a mais de 300 metros da sua casa ou local de trabalho. As autoridades afirmaram que essas medidas foram testadas para atacar terroristas e extremistas que se escondem na área. No entanto, o ataque à minoria muçulmana Uighur da província é impressionante, pois eles podem ser presos por suspeita de deslealdade política ou simplesmente por expressar sua identidade religiosa e cultural. Em combinação com outras tecnologias biométricas e preditivas de comportamento, o reconhecimento facial agride os direitos de privacidade de pessoas inocentes e permite o direcionamento indiscriminado de "protestantes".
A ampla implantação de reconhecimento facial na China não deve ser descartada como um risco excepcional ou distante para o Ocidente. É a prova de que a capacidade tecnológica de vigiar os cidadãos 24 horas por dia, sete dias por semana, e corroer as suas liberdades pessoais já existe e poderia ser facilmente aplicada em qualquer lugar. Este exemplo deveria ser um aviso para qualquer democracia livre para adotar uma abordagem crítica e cautelosa às tecnologias de vigilância que ameaçam fundamentalmente as liberdades civis e a privacidade dos cidadãos.

 

Os Estados Unidos - reconhecimento facial intrusivo
Em contraste com o Reino Unido, os estádios e outros espaços ao ar livre são frequentemente de propriedade privada nos Estados Unidos. Portanto, o uso de reconhecimento facial automatizado em eventos de grande escala é muitas vezes da competência dos atores comerciais. Por exemplo, em março de 2018, foi revelado que os operadores do Madison Square Garden usavam a tecnologia nos visitantes sem o conhecimento deles.
Os departamentos de polícia dos EUA também começaram a implementar a tecnologia, provocando grande controvérsia em torno de suas ações. Um relatório do Centro de Privacidade e Tecnologia da Georgetown Law descobriu que “pelo menos cinco grandes departamentos de polícia - incluindo agências em Chicago, Dallas e Los Angeles - reivindicaram o reconhecimento facial em tempo real das câmeras de rua, compraram tecnologia que pode fazê-lo ou manifestou interesse em comprá-lo ”.

Tal como no Reino Unido, o uso da tecnologia de reconhecimento facial pela aplicação da lei nos EUA não é regulamentada e não tem base legal - apenas cinco estados têm leis que abordam vagamente a questão. Como é o caso em qualquer país democrático, o uso de produtos faciais o reconhecimento colide fortemente com os direitos dos cidadãos dos EUA - particularmente pela Primeira e a Quarta Emendas.

"Dr. Clare Garvie, (advogada), no "Georgetown Law Center" em Privacidade e Tecnologia, autora do “The Perpetual Line-up – Unregulated Police Face Recognition in America”
O reconhecimento de rostos pelos órgãos de segurança dos EUA é muito mais difundido e avançado do que a maioria das pessoas imagina. Atualmente, a maioria dos bancos de dados de fotos mantidos por órgãos estatais e federais - vistos, passaportes, cartas de condução, fotos (tipo passe)... são utilizadas para reconhecimento de rosto. E, independentemente do propósito original para o qual as fotos foram coletadas, esses bancos de dados estão cada vez mais acessíveis à polícia entre outras organizações estatais, federais ou privadas."

A vigilância de reconhecimento facial - identificando pessoas em tempo real a partir de feeds de vídeo ao vivo - corre o risco de ser uma realidade iminente para muitos cidadões.

Estamos confortáveis com uma sociedade em que o reconhecimento facial permite que a polícia identifique alguém com carta de condução, sem suspeita ou consentimento?


Estamos confortáveis com uma sociedade em que o governo possa encontrar alguém, a qualquer momento, "scanando" continuamente os rostos das pessoas na rua? 


O reconhecimento facial altera fundamentalmente a natureza da privacidade em espaços públicos. Como as próprias agências governamentais advertiram, a vigilância do reconhecimento facial 'tem o potencial de fazer as pessoas sentirem-se extremamente desconfortáveis, causarem alterações no comportamento e levarem à autocensura e à inibição,' arrefecendo o exercício dos direitos protegidos pela Primeira Emenda e questionando o alcance das proteções oferecidas pela Quarta Emenda.
As legislaturas dos EUA e os tribunais começaram a limitar outras tecnologias avançadas de rastreamento policial, ex; leitores de matriculas de automóveis, dispositivos de localização geográfica, drones... 
Até ao momento, não há leis estatais ou federais abrangentes que determinem como a polícia pode, ou, mais importante, não pode, fazer uso do reconhecimento facial. Como consequência, cabe às agências policiarem a si mesmas; Sem surpresa, muitos não implementaram nem mesmo as medidas mais básicas de responsabilidade. Já passou da hora de os legisladores norte-americanos considerarem as implicações dessa poderosa tecnologia e reinarem no seu uso.

Acredito num mundo onde os cidadãos estão livres de vigilância, discriminação, opressão e invasão injusta.
As tecnologias de vigilância estão em franco desenvolvimento numa velocidade vertiginosa que é-se difícil de acompanhar. Os desenvolvimentos tecnológicos levam-nos a fazer perguntas críticas sobre o futuro das liberdades civis. 


Queremos viver num mundo onde os cidadãos são continuamente observados, intrinsecamente inspecionados e rastreados biometricamente? 


Quais são os riscos para as liberdades públicas, para as nossas normas democráticas, para os nossos direitos fundamentais?


O crescimento ilegal do reconhecimento facial afeta todos os cidadãos, mas, como exposto neste relatório, afeta mais os mais marginalizados de nossa sociedade.
Essa prática autoritária de vigilância tem sido dirigida contra minorias, manifestantes pacíficos e cidadãos mentalmente indispostos sem qualquer lei orientadora, supervisão ou escrutínio formal.
Estamos profundamente preocupados com o fato de que a securitização de espaços públicos usando o reconhecimento facial que identifica biometricamente sujeita inaceitavelmente os cidadãos respeitadores da lei a verificações de identidade ocultas, corroendo os nossos direitos fundamentais à privacidade e liberdade de expressão.
Estamos profundamente preocupados com o impacto do reconhecimento facial automatizado nos direitos individuais à vida privada e liberdade de expressão, e o risco de impacto discriminatório.

 

Concluão:
Quando o reconhecimento facial automatizado é usado em tempo real em espaços públicos, os cidadãos cumpridores da lei são efetivamente fornecedores da sua idêntificação pessoal sem o seu consentimento ou conscientização. Se levarmos em consideração de que, a maioria dos cidadãos ainda não ouviu falar ou possui um deficiente conhecimento sobre «Reconhecimento Facial Automatizado» (RFA) e não está ciente de suas implicações, leva-nos a concluir que, sem uma base legal clara, supervisão ou estratégia governamental, o seu potencial poderá infringir as liberdades civis e os direitos fundamentais.

 

©RJCS



LINKS:

Carta da Baronesa Williams de Trafford para o Chair of the Science and Technology Committee,
Baroness-Williams-to-chair-Biometrics-Strategy-and-Forensic-Services.pdf  (Fonte: House of Commons "UK")

The United States - First Amendment - Religion And Expression

The United States - Fourth Amendment - Search And Seizure

M.I.T.  - Massachusetts Institute of Technology facial recognition  (PDF)

Moscovo (Russia) reconhecimento facial - Moscow Mayor official website 

Proceedings of Machine Learning Research - Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification

Dr. Clare Garvie, (advogada), no "Georgetown Law Center" vertente Privacidade e Tecnologia, autora do “The Perpetual Line-up – Unregulated Police Face Recognition in America”
The Perpetual Line-Up - Center on Privacy and Technology at Georgetown Law - 121616 (PDF)

Maastricht university - Machine learning techniques in eating behavior e-coaching: Balancing between generalization and personalization

Bitte lächeln, Sie Werden überwacht - Alemanha - o combóio já saiu da estação? (Por favor sorria, está a ser observado)

PM 9/17: Associação Alemã de Advogados: reconhecimento facial em estações ferroviárias interfere com direitos fundamentais:

Reconhecimento Facial:
http://www.sueddeutsche.de/thema/Gesichtserkennung

Reconhecimento Facial NEC:
https://www.nec.com/en/global/solutions/safety/face_recognition/index.html