Empresa de reconhecimento facial usada em Gaza anuncia parceria para uso em escolas públicas de Alagoas

SEM MUITO ALARDE, o governo israelense implementou no ano passado um programa de reconhecimento facial em larga escala em Gaza. A tecnologia passou a ser utilizada na Palestina após os ataques de outubro graças à Corsight, uma empresa israelense contratada pelo exército para desenvolver um programa que pudesse identificar reféns israelenses em Gaza e achar alvos militares do Hamas.

A milhares de quilômetros de Gaza, em Alagoas, no Brasil, essa mesma empresa está anunciando uma parceria que leva sua tecnologia de reconhecimento facial às escolas públicas do estado.

Em fevereiro, alguns portais estrangeiros de tecnologia e segurança noticiaram que a Corsight havia anunciado uma parceria com a Teltex, uma empresa brasileira de soluções em segurança eletrônica. Segundo uma destas notícias, a Teltex havia escolhido, em resposta a uma preocupação crescente com segurança nas escolas, incorporar a tecnologia de reconhecimento facial da Corsight.

A solução, ainda segundo essa notícia, seria integralmente implementada até o meio de 2024, com a instalação de licenças de uso da Corsight em centenas de escolas de Alagoas.

A Teltex, empresa com a qual a Corsight teria feito essa parceria, tem, desde abril de 2023, um contrato de R$ 18 milhões com a Secretaria de Educação de Alagoas, a Seduc. A finalidade é implantar um sistema de gestão de controle de entrada e saída de alunos nas escolas públicas alagoanas.

Mas não existe rastro da contratação da Corsight em documentos públicos de Alagoas e tampouco o governo foi avisado da incorporação dessa tecnologia, segundo informações obtidas pelo Intercept Brasil via Lei Acesso à Informação.

O contrato foi renovado por mais um ano no fim de maio. Em nenhum momento o documento fala em reconhecimento facial. Também não existe nenhum aditivo de contrato falando sobre a participação da Corsight.

Em resposta a um pedido de LAI, a Seduc disse não ter sido informada sobre a incorporação de solução de reconhecimento facial. Questionada via assessoria de imprensa, a Teltex disse desconhecer a parceria e informou, via nota por e-mail, que o projeto em implantação em Alagoas inclui a “utilização de várias tecnologias avançadas, como sistemas analíticos de vídeo”.

A empresa disse ainda que realizou apenas provas de conceito, um tipo de demonstração da funcionalidade, com a Corsight e que a plataforma “Corsight AI provavelmente não será utilizada neste contexto específico”.

‘Vamos em frente por mais’
Apesar de afirmar desconhecer a parceria, executivos da Teltex se mostraram entusiasmados com a notícia em uma publicação de LinkedIn em que a Corsight anunciava a colaboração. Marcado em um comentário por Geraldo Sanga, gerente de vendas da Corsight no Brasil, o gerente de pré-vendas da Teltex, Gabriel Duardes, respondeu: “conte conosco, vamos em frente por mais”.

Mas, conforme reportado pelo New York Times, mesmo oficiais da inteligência israelense afirmaram que o sistema é falho, tendo por vezes erroneamente identificado civis como alvos militares do Hamas. As fontes que conversaram com o NYT manifestaram preocupação de que o sistema seria um “mau uso de tempo e recursos por Israel”.

O sistema desenvolvido pela Corsight não é a única frente em que Israel está usando inteligência artificial em Gaza. A +972 Magazine e Local Calls, dois veículos israelenses, reportaram que Israel conta com dois sistemas que usam IA para identificar e marcar alvos militares a partir do processamento massivo de dados. Segundo a reportagem, durante as fases iniciais da guerra, oficiais autorizaram ataques contra os alvos identificados sem que houvesse revisão humana.

Tecnologia se espalha por escolas do Brasil sem mitigação de riscos
Já foram encontrados casos de reconhecimento facial em escolas de pelo menos 10 estados brasileiros, segundo um mapeamento publicado pelo InternetLab em março de 2023.

Um dos estados que mais utilizam a tecnologia é Goiás, que recebeu mais de R$ 30 milhões em emendas parlamentares destinadas a reconhecimento facial. Mas ao que tudo indica, a tecnologia está sendo adotada sem nenhum estudo de seu potencial impacto e sem mitigação de riscos.

O mapeamento identificou que em nenhum dos 15 casos de uso o poder público informou ter realizado estudos de “impacto de risco aos direitos humanos ou análises sobre o potencial de discriminação resultante de softwares de reconhecimento facial” antes da execução do projeto.

Como justificativas para o uso da tecnologia, o InternetLab mapeou que otimização da gestão do ambiente escolar, combate à evasão e segurança aparecem como as mais frequentes. Uma das conclusões do mapeamento, para o qual foram ouvidos docentes e especialistas, é de que o reconhecimento facial não parece ser capaz de combater de forma eficiente essas questões.

S.O.S INTERCEPT

Peraí! Antes de seguir com seu dia, pergunte a si mesmo: Qual a chance da história que você acabou de ler ter sido produzida por outra redação se o Intercept não a tivesse feito?

Pense em como seria o mundo sem o jornalismo do Intercept. Quantos esquemas, abusos judiciais e tecnologias distópicas permaneceriam ocultos se nossos repórteres não estivessem lá para revelá-los?

O tipo de reportagem que fazemos é essencial para a democracia, mas não é fácil, nem barato. E é cada vez mais difícil de sustentar, pois estamos sob ataque da extrema direita e de seus aliados das big techs, da política e do judiciário.

O Intercept Brasil é uma redação independente. Não temos sócios, anúncios ou patrocinadores corporativos. Sua colaboração é vital para continuar incomodando poderosos.

Apoiar é simples e não precisa custar muito: Você pode se tornar um membro com apenas 20 ou 30 reais por mês. Isso é tudo o que é preciso para apoiar o jornalismo em que você acredita. Toda colaboração conta.