Por que o uso da IA pública começa pela vigilância?

Projetos públicos usam IA para reconhecer rostos e monitorar espaços. O que essa preferência revela sobre os problemas que os governos escolhem enxergar? No texto a seguir, você vai ler sobre: 

Em grandes eventos no pelo país, câmeras de reconhecimento facial já produziram alertas contra pessoas que não eram procuradas pela Justiça. No Rio, a própria Polícia Militar admitiu que cerca de 10% das abordagens iniciadas pelo sistema, desde sua estreia no Réveillon de 2024, foram falsos positivos. No Carnaval de Salvador de 2025, um homem negro de 71 anos foi confundido com um foragido cerca de vinte anos mais jovem e conduzido pela polícia antes que o erro fosse desfeito.

Nenhuma dessas pessoas abriu um aplicativo, aceitou termos de uso ou criou uma conta. Bastou passar pelo lugar certo, na hora errada, diante de uma câmera conectada a um banco de dados.

Essa diferença separa duas formas de encontrar a inteligência artificial (IA) hoje. Uma pessoa pode escolher não usar um chatbot. É bem mais difícil escolher não ser vista por uma infraestrutura instalada na rua, no transporte ou na escola.

A IA costuma ser vendida como uma ferramenta que responde perguntas. Nas mãos do poder público, ela também decide quem será observado, comparado e, eventualmente, abordado.

É esse o fio deste texto: na agenda global de governança, o uso da inteligência artificial para reconhecer, controlar e prever comportamentos tem ganhado prioridade estrutural sobre a modernização do cuidado social e o acesso a direitos.

A resposta não é simples, e talvez nem seja única. Mas existe uma desproporção que vale a pena investigar, com todos os seus limites.

A predominância da segurança na agenda de IA

A segurança pública é hoje a vitrine mais visível da inteligência artificial no setor público brasileiro. Um exemplo concentra boa parte da discussão: o Smart Sampa, sistema de câmeras com reconhecimento facial da Prefeitura de São Paulo, cujo consórcio vencedor apresentou um lance de R$ 9,2 milhões mensais para operar a rede. A promessa é encontrar procurados e pessoas desaparecidas com mais agilidade. O sistema, no entanto, foi denunciado por irregularidades no processo de contratação antes mesmo de entrar em operação plena.

Em São Paulo, o Muralha Paulista integra câmeras e sistemas capazes de ler placas de veículos a bases de dados policiais, incluindo informações compartilhadas com o Córtex, plataforma federal que reúne registros de diferentes órgãos.

Uma investigação da Agência Pública revelou que a Polícia Militar já utilizava a tecnologia havia mais de um ano e meio quando o governo estadual publicou o decreto que regulamentou o programa. Até então, não havia regras claras sobre os limites de uso, o tratamento dos dados coletados ou a realização de auditorias. O decreto também determinou que novos contratos de concessão e parcerias público-privadas prevejam a integração das câmeras das concessionárias ao sistema.

Para encontrar um rosto entre milhares, a tecnologia precisa primeiro transformar todos os outros rostos em dados pesquisáveis. Esse é o mecanismo central do reconhecimento facial de identificação (a chamada análise 1:N): a câmera não procura uma pessoa, ela compara todo mundo que passa por ali contra um banco de referência.

O problema não é apenas técnico.

Um levantamento do projeto O Panóptico, do Centro de Estudos de Segurança e Cidadania, notou que 90,5% das pessoas detidas a partir de monitoramento facial no Brasil são negras. O dado não significa que o algoritmo tenha intenção própria. Significa que sistemas treinados em registros policiais historicamente concentrados em determinados territórios tendem a reproduzir essa concentração, com escala e aparência de neutralidade.

A vigilância também chegou a espaços menos óbvios. Um documento técnico da Autoridade Nacional de Proteção de Dados analisa o uso de biometria e reconhecimento facial em escolas públicas, geralmente justificado pelo controle de frequência, pela gestão da merenda, pelo combate à evasão ou pela segurança.

É justamente quando a tecnologia assume a aparência de ferramenta administrativa que seus limites ficam menos visíveis. Em um artigo publicado no portal jurídico Migalhas, a especialista em privacidade Mariana Sbaite Gonçalves discute os riscos dessa prática para a proteção de dados de crianças e adolescentes. Na escola, a câmera pode ser apresentada como um recurso de gestão. Mas também ensina, sem que ninguém precise dizer isso em voz alta, que estar presente significa ser identificado.

Por que é mais complexo inovar no cuidado social do que na vigilância?

Reduzir a questão à máxima “governos gostam de controle” não dá conta do problema. Existem razões mais concretas para a vigilância avançar na frente.

O primeiro fator é a narrativa: o problema da segurança é fácil de comunicar. Uma câmera promete algo direto: vai encontrar quem representa risco. Já uma IA para reduzir filas na saúde ou prever abandono escolar depende de integração entre órgãos, dados confiáveis e mudanças na própria forma como o serviço funciona. A câmera cabe numa apresentação de dez minutos. O cuidado exige reorganizar uma instituição inteira.

Em segundo lugar, o resultado parece mais fácil de contabilizar. Câmeras instaladas, alertas emitidos, prisões realizadas: são números visíveis e politicamente comunicáveis, ainda que não comprovem, por si só, redução da criminalidade. Já os efeitos de uma política de prevenção podem levar anos para aparecer e dependem de fatores difíceis de isolar. Como medir quantas internações foram evitadas porque um serviço reconheceu cedo uma necessidade?

Tem, também, a conveniência da infraestrutura que já existe. Cidades já têm câmeras, centrais de monitoramento e bancos de dados de trânsito. Acrescentar uma camada de análise automatizada parece mais simples do que redesenhar um serviço do zero, mesmo quando essa simplicidade é só aparente.

Por fim, existe a força do mercado. Empresas oferecem pacotes prontos de câmeras, software e armazenamento, com demonstrações e metas de eficiência já embutidas. Melhorar um serviço público, por outro lado, costuma exigir passos menos vistosos:

Essas mudanças produzem valor público real, mas têm pouca aparência de futuro.

E existe ainda uma questão jurídica que ajuda a entender por que a vigilância avança com tão pouco freio. A LGPD não se aplica a tratamentos de dados feitos exclusivamente para segurança pública e investigação penal, deixando essa regulação para uma lei específica que ainda não existe. Justamente as aplicações estatais com maior capacidade de interferir na liberdade das pessoas estão entre as que operam com menos obrigação de transparência.

O Supremo Tribunal Federal já tentou colocar limites nesse vácuo. No julgamento conjunto da ADI 6649 e da ADPF 695, a Corte determinou que o compartilhamento de dados entre bases públicas precisa ter propósito legítimo, específico e transparente, rejeitando estruturas de integração sem controle claro sobre quem acessa o quê.

O caso holandês do sistema SyRI mostra até onde esse tipo de automação pode chegar sem controle. Criado para identificar possíveis fraudes em benefícios sociais, impostos e outras áreas, o sistema foi empregado principalmente em bairros de baixa renda, muitos deles com grande população de origem imigrante. Em 2020, a Justiça holandesa determinou sua interrupção por considerar que faltavam transparência e salvaguardas proporcionais e que a legislação violava o direito à vida privada.

Em outro contexto, a cidade californiana de São Francisco proibiu o uso de reconhecimento facial por órgãos municipais, incluindo a polícia, em 2019. A proibição permaneceu, mas cinco anos depois os eleitores aprovaram uma proposta que ampliou a liberdade da polícia para utilizar drones, câmeras e outras tecnologias de vigilância. A mudança de direção mostra que as fronteiras impostas a esses sistemas não são definitivas nem puramente técnicas. Elas também são resultado de disputas políticas sobre segurança, privacidade e poder.

E se o alvo certo não fosse o cidadão?

Nem toda inteligência artificial do setor público mira o cidadão como suspeito.

O Tribunal de Contas da União mantém um trio de ferramentas com nome de gente: Alice, Sofia e Monica. Elas vasculham editais, contratos e diários oficiais atrás de indícios de fraude e direcionamento em licitações, e encaminham cada suspeita para um auditor humano decidir o que fazer com ela. A lógica se inverte. Em vez de reconhecer rostos na rua, o sistema lê contratos e decisões de quem já ocupa uma posição de poder dentro do próprio Estado.

A Receita Federal caminha em direção parecida com o projeto Harpia, que cruza notas fiscais, movimentações bancárias e declarações para apontar risco de sonegação e fraude tributária. O alvo, de novo, não é quem atravessa uma praça. É quem movimenta grandes volumes de recursos sem prestar contas direito.

Nenhum dos dois sistemas é imune a erro, e nenhum resolve sozinho o problema da fiscalização. Mas os dois mostram que existe outro caminho possível: uma inteligência artificial que amplia a capacidade de fiscalizar contratos e agentes econômicos, em vez de multiplicar o escrutínio sobre o cidadão comum em sua circulação cotidiana.

A diferença central talvez não esteja na tecnologia em si, mas no que se verifica antes de adotá-la. Antes de automatizar uma decisão pública, seria razoável esclarecer qual problema exatamente está sendo resolvido, se existe alternativa menos invasiva, quem aparece nos dados usados para treinar o sistema e quem simplesmente não aparece, se a pessoa afetada por um erro terá como contestar a decisão, e se o órgão público mantém controle real sobre a ferramenta ou depende inteiramente do fornecedor para entendê-la.

Esse tipo de checagem raramente acontece antes da compra de um sistema de vigilância. Acontece, quando acontece, depois que algo já deu errado.

As pessoas presas por engano em meio à festa, no início deste texto, não escolheram participar de nenhum sistema. A maioria dos cidadãos que cruzam diariamente com uma câmera de reconhecimento facial também não. Essa falta de escolha não significa ausência de consequência.

A inteligência artificial permite que o poder público enxergue mais coisas, mais depressa e em maior escala. Isso não resolve, sozinho, o que ele deveria estar procurando.

Talvez o mais importante sobre a IA pública não seja a capacidade do Estado de reconhecer cada cidadão, mas a de reconhecer aquilo de que cada cidadão precisa, sem transformá-lo antes em alguém a ser observado.

---

Créditos: Imagem Destaque – DedMityay/Shutterstock