Escolas no Brasil adotam sistema de reconhecimento facial; uso pode discriminar estudantes, aponta relatório

O InternetLab, um centro de pesquisa interdisciplinar que promove debates acadêmicos e a produção de conhecimento nas áreas de direito e tecnologia, publicou um relatório intitulado "Tecnologias de vigilância e educação: um mapeamento das políticas de reconhecimento facial em escolas públicas brasileiras".

O relatório encontrou 15 casos em que escolas públicas brasileiras utilizam a tecnologia de reconhecimento facial, nas capitais Fortaleza, Goiânia, Rio de Janeiro e Porto Alegre, e nos municípios de Mata de São João (BA), Jaboatão dos Guararapes (PE), Águas Lindas (GO), Morrinhos (GO), Betim (MG), Angra dos Reis (RJ), Itanhaém (SP), Potirendaba (SP), Santos (SP) e Xaxim (SC).

Esse estudo aponta que escolas públicas brasileiras estão utilizando a tecnologia de reconhecimento facial para prever quais estudantes têm mais probabilidade de reprovar de ano, sem detalhar quais os critérios para se definir tal diagnóstico.

"Há também a possibilidade de inferências discriminatórias quando o reconhecimento facial busca não apenas verificar ou identificar determinada pessoa, mas também atribuir características físicas ou comportamentais a ela, tais como sua raça, gênero, humor, temperatura corporal, dentre outras possibilidades", alertam os pesquisadores.

+++  Decisão do STJ pode ajudar a orientar juízes e profissionais de saúde sobre casos de aborto

Estudo aponta falta de transparência sobre os bancos de dados e ameaça a privacidade

As empresas que oferecem o serviço às escolas, as ferramentas são construídas a partir de estereótipos, o que pode levar a discriminação de grupos historicamente minorizados, como as mulheres, os negros e a população LGBTQIA+, uma vez que as tecnologias de reconhecimento facial são menos precisas quando o público alvo da ferramenta não é masculino e/ou branco, indica o relatório.

A maioria das escolas justificou o uso da tecnologia para registro de frequência dos alunos e como um meio de aumentar a segurança e combater a evasão escolar. O estudo alerta para a falta de transparência sobre o acesso aos bancos de dados onde ficam armazenados aqueles que foram coletados da comunidade escolar.

Outra questão é que o fato de os autores do relatório terem descoberto os projetos implementados nas escolas por meio de várias fontes, como notícias, sites governamentais, portais de transparência, entrevistas com gestores e, ocasionalmente, solicitações feitas com base na Lei de Acesso à Informação (LAI), já aponta para um problema evidente: a falta de transparência.

"Há diversos estudos que pontuam como as tecnologias de reconhecimento facial são menos precisas quando o público alvo da ferramenta são pessoas não pertencentes ao gênero masculino ou não brancas, uma vez que são treinadas por meio de bancos de dados fracos em termos de diversidade de gênero, raça e registros culturais. Há, assim, reprodução de vieses discriminatórios que podem levar a erros persistentes na operação da tecnologia, tais como falsos negativos e/ou falsos positivos.", destacam os pesquisadores à Agência Brasil.

A equipe do InternetLab recomenda diversas medidas, tais como a adoção de software livre, a capacitação em letramento digital para educadores e gestores, a elaboração de relatórios que avaliem o impacto das políticas adotadas na proteção de dados e direitos humanos, e a participação ativa dos estudantes, incluindo a ampliação de sua compreensão sobre o tema.

+++ Acompanhe as principais informações sobre Sociedade e Brasil no JC Concursos

Jornalista em Multimeios. Repórter responsável por produzir matérias na editoria Sociedade no JC Concursos. Foi trainee de Jornalismo de Saúde do Estadão, estagiário no G1 Petrolina na TV Grande Rio e na Redação Virtual.