A personagem Ellen da série "As Five", um spin-off da premiadíssima "Malhação Viva a Diferença", é uma das protagonistas da trama. Ellen, representada pela atriz Heslaine Vieira, foi uma estudante muito dedicada, extremamente inteligente e que enfrentou vários problemas econômicos e sociais para poder se tornar uma referência em ciência de dados.
Após fazer o mestrado em uma universidade norte-americana, Ellen volta ao Brasil e passa a trabalhar em uma empresa de tecnologia. Na segunda temporada da série, que foi lançada este ano, seu desafio é criar um sistema de reconhecimento facial em um tempo curto. A partir daí, há uma série de discussões entre ela e o dono da empresa, porque Ellen precisa de mais tempo para criar um sistema que não seja racista. Mas será mesmo que isso é possível?
Na vida real, o debate sobre o uso ou não de reconhecimento facial está se tornando tão forte quanto na ficção. Mas por aqui fica cada vez mais evidente que esse sistema é discriminatório por natureza, não apenas para pessoas de pele preta, como também para transgêneros e travestis. Então, Ellen, vai ser preciso muito tempo, anos, inclusive, para que se crie um sistema que não gere racismo e transfobia.
Sob pretexto da segurança pública, a partir de 2019, houve uma expansão no uso de tecnologias de reconhecimento facial, que representam diversos riscos e abusos a direitos. Este tipo de vigilância resulta em reconhecimentos errados, abusivos e pouco transparentes.
Diante de tantos abusos, a sociedade civil se mobilizou através da campanha #TireMeuRostodaSuaMira pelo banimento do reconhecimento facial na segurança pública. Outras iniciativas também têm ganhado força, como a #SaiDaMinhaCara, quando em junho de 2022 mais de 50 parlamentares de diferentes partidos e regiões do país apresentaram projetos de lei pelo banimento do reconhecimento facial em espaços públicos.
A nova legislatura representa uma janela de oportunidade para que estes parlamentares, junto à sociedade civil, possam ampliar o debate acerca dos riscos envolvidos no uso do reconhecimento facial.
Para além das preocupações por seu potencial discriminatório e de abusos a direitos, a solução meramente tecnológica também gera preocupações por seu potencial de vigilância em massa. Ao frequentar espaços públicos, todos os cidadãos passam a ser tratados como suspeitos, filmados, vigiados e potencialmente identificados – sem consentimento ou qualquer possibilidade de negativa ao tratamento de seus dados. Portanto, ainda que essas tecnologias diminuam os riscos e aperfeiçoem seus algoritmos e vieses, o aspecto vigilante e persecutório permanecerá, o que não pode ser admitido em um estado democrático.
Como prova das preocupações levantadas, o programa Smart Sampa, da Prefeitura de São Paulo, prevê a instalação de 20 mil câmeras com capacidade de videomonitoramento e reconhecimento facial. O edital, publicado ao final de 2022, ainda previa a identificação de fatores como "cor" e "vadiagem", de forma a fomentar discriminação racial e violações aos direitos humanos. Poucos dias após sua publicação, o edital foi suspenso pelo Tribunal de Contas da União (TCU), mas a Prefeitura demonstrou interesse em relançá-lo em breve.
Recentemente, o vice-governador, Felício Ramuth, disse em entrevista acerca do Smart Sampa que "erros podem acontecer por todos os lados, para qualquer tipo de cor", minimizando que 90,5% das pessoas identificadas são negras, sendo elas também os alvos dos principais "erros", como abordado acima.
Diante dos riscos à privacidade, à intimidade e à possível discriminação racial, o programa também virou alvo de inquérito civil pelo Ministério Público do Estado de São Paulo. A suspensão e o inquérito só foram possíveis pela rápida movimentação da sociedade civil, alinhada com parlamentares da cidade, que viram o programa com grande preocupação aos direitos civis de toda população.
Das telas para o Congresso
A iniciativa #SaiDaMinhaCara foi uma mobilização coletiva para um problema coletivo. A coalizão multipartidária demonstrou como os riscos associados ao uso de tecnologias de reconhecimento facial, por seu caráter invasivo e discriminatório, preocupam parlamentares de diversas frentes.
Ao todo, 65 parlamentares, entre mandatos coletivos e individuais, se mobilizaram ao apresentar projetos de lei que apoiam o banimento de tecnologias que representam risco ao exercício de direitos fundamentais.
A partir de 2023, a Câmara dos Deputados passa a contar com mais sete parlamentares que defendem o banimento, são eles: Erika Hilton (PSOL), Daiana Santos (PC do B), Chico Alencar (PSOL), Lindbergh Farias (PT), Tarcísio Motta (PSOL), Reimont (PT), Carol Dartora (PT) e a reeleita Benedita da Silva (PT). Trata-se, portanto, de uma verdadeira 'Bancada do Banimento', capaz de promover um debate qualificado acerca dos perigos do uso de reconhecimento facial em espaços públicos.
A mobilização também conta com cerca de 20 deputados estaduais de diversos estados do país: Pará, Bahia, Ceará, Pernambuco, Sergipe, Rio de Janeiro, São Paulo, Espírito Santo, Minas Gerais e Rio Grande do Sul, além dos do Distrito Federal.
Alguns dos estados e cidades que mais servem como laboratórios de reconhecimento facial – Bahia (Salvador), Rio de Janeiro e São Paulo – estão presentes na mobilização. Nestes locais é ainda mais evidente a necessidade de banir essas tecnologias. Na cidade do Rio de Janeiro, por exemplo, no primeiro dia de uso da tecnologia uma mulher foi detida ao ser confundida com outra que já estava em privação de liberdade. Já na Bahia, dos 903 alertas gerados pelos sistemas de reconhecimento facial em uma micareta, apenas 3,6% geraram mandados de prisão.
Da tela da TV ou das plataformas de streaming até o Congresso Nacional e Assembleias estaduais. A sociedade precisa estar atenta aos problemas do reconhecimento facial e lutar unida contra esse sistema preconceituoso e ineficaz.
O Idec (Instituto Brasileiro de Defesa do Consumidor) e dezenas de outras organizações especialistas em temas de tecnologia, segurança e Direitos Humanos vêm mobilizando parlamentares em torno desta pauta. Porém, esse é um dever de todas, todes e todos que querem uma sociedade mais justa e livre de preconceitos.
* -Sobre os autores: Marina Fernandes é Estagiária do Programa de Direitos Digitais e Telecomunicações do Idec. Luã Cruz é esquisador e Especialista do Programa de Direitos Digitais e Telecomunicações do Idec. As opiniões expressas nesse artigo não necessariamente representam o ponto de vista de TELETIME.
