Inteligência Artificial e Governança | A Era da IA #04

Em maio de 2023, poucos meses depois de o ChatGPT transformar a Inteligência Artificial em assunto cotidiano, Sam Altman, CEO da OpenAI, defendeu diante do Senado dos Estados Unidos que governos deveriam intervir para reduzir os riscos de sistemas de IA cada vez mais poderosos.

A cena expõe uma das questões centrais desta transformação tecnológica. Concordar que a IA precisa de regras é apenas o começo. Quem define essas regras? Quais usos exigem mais controle? Quem fiscaliza? E quem responde quando uma decisão apoiada por tecnologia produz consequências na vida de alguém?

É a partir dessas perguntas que o quarto episódio da temporada A Era da Inteligência Artificial, do podcast InovaSocial, investiga a governança da IA. Em “Quem governa a inteligência?”, Victor Vasques e Andressa Jordano percorrem uma discussão que começa nas leis, passa por decisões automatizadas e infraestrutura digital e chega ao cotidiano de organizações que utilizam essas ferramentas.

Quando um número ganha poder

Um dos casos apresentados no episódio aconteceu na Bahia. Em 2026, o governo estadual anunciou que seu sistema de reconhecimento facial havia contribuído para localizar cinco mil pessoas procuradas pela Justiça.

Quatro anos antes, porém, um vigilante foi preso após o sistema apontar 95% de similaridade entre seu rosto e o de uma pessoa procurada. Ele não havia cometido o crime.

O problema havia começado anos antes, quando outra pessoa utilizou seu nome ao ser presa. Essa informação permaneceu associada à identidade errada. Depois, uma câmera registrou seu rosto, o sistema produziu uma correspondência e policiais agiram a partir daquele alerta.

O vigilante passou 26 dias preso.

O caso mostra por que atribuir toda a responsabilidade à tecnologia simplifica demais o problema. Antes do algoritmo, havia uma base de dados. Depois dele, havia procedimentos, instituições e decisões humanas.

Governança significa tornar visível essa cadeia de responsabilidades e estabelecer o que precisa ser verificado antes de um resultado automatizado produzir consequências no mundo real.

Regular é decidir quais riscos estamos dispostos a aceitar

Uma das principais respostas regulatórias atuais é organizar obrigações de acordo com o risco de cada aplicação.

A lógica é intuitiva: um filtro de spam e um sistema utilizado para selecionar candidatos a uma vaga de emprego não deveriam necessariamente estar sujeitos às mesmas exigências.

Esse princípio aparece no AI Act da União Europeia e também no PL 2338/2023, proposta que busca criar um Marco Legal da Inteligência Artificial no Brasil e que continua em discussão no Congresso.

Na versão aprovada pelo Senado, sistemas considerados de maior risco podem estar sujeitos a exigências como avaliação de impacto, documentação, mitigação de vieses e mecanismos de explicabilidade. Alguns usos também podem ser classificados como de risco excessivo.

A discussão, portanto, não se resume a ser contra ou a favor da regulação.

O que está sendo decidido é como distribuir risco, responsabilidade e poder entre empresas, governos, instituições e pessoas afetadas pela tecnologia.

Explicar também significa permitir contestação

Imagine receber a mensagem: “Solicitação não aprovada”. Ao pedir uma justificativa, você recebe apenas a informação de que os critérios internos não foram atendidos. Isso parece uma explicação, mas pode não permitir nenhuma ação.

A explicabilidade se torna relevante justamente porque decisões automatizadas podem afetar acesso a empregos, crédito, serviços e outras oportunidades. Para quem foi impactado, não basta saber que um sistema participou do processo. É preciso existir informação suficiente para compreender o que aconteceu e, quando necessário, questionar o resultado.

No Brasil, a LGPD já estabelece direitos relacionados a decisões tomadas unicamente com base no tratamento automatizado de dados pessoais, incluindo a possibilidade de solicitar revisão e informações sobre critérios e procedimentos utilizados.

Mas a presença de uma pessoa no processo não garante, por si só, supervisão efetiva.

Se alguém apenas consulta a mesma pontuação produzida pela ferramenta e não tem autonomia para discordar dela, a revisão se torna uma formalidade.

Governança exige possibilidade real de contestação.

Quem controla a infraestrutura também influencia as escolhas

A governança da Inteligência Artificial não acontece apenas no momento de uma decisão. Ela também está na infraestrutura que permite que os sistemas funcionem.

Serviços de nuvem, chips especializados e capacidade computacional estão concentrados em poucas empresas. Essa concentração pode gerar dependências difíceis de perceber até que um fornecedor altere preços, encerre uma funcionalidade ou modifique as condições de um serviço.

É nesse contexto que a soberania digital entra no debate.

Ela não precisa significar produzir toda a tecnologia dentro de um país. Pode significar preservar capacidade de escolha.

Em agosto de 2026, o governo federal anunciou um novo supercomputador dedicado à Inteligência Artificial, previsto para ser instalado em Macaíba, no Rio Grande do Norte. Além da infraestrutura de processamento, o projeto envolve transferência de tecnologia, formação profissional, pesquisa e desenvolvimento nacional.

Ampliar capacidade técnica própria também significa ampliar alternativas e reduzir dependências estratégicas.

Governança começa antes do primeiro prompt

Essa discussão chega diretamente ao terceiro setor.

Imagine uma organização que acompanha milhares de famílias e possui uma base com informações acumuladas ao longo dos anos. Alguém sugere enviar essa planilha para uma ferramenta de IA em busca de padrões.

Antes de clicar em “enviar”, algumas perguntas precisam aparecer.

Quais dados estão ali? Existem informações pessoais ou sensíveis? Para onde elas serão enviadas? O fornecedor poderá utilizá-las? A IA servirá apenas para organizar informações ou participará de uma decisão sobre quem será atendido?

No episódio, o pesquisador Kenzo Soares Seto amplia ainda mais essa perspectiva. Escolher uma ferramenta também significa se relacionar com a cadeia que sustenta aquela tecnologia, incluindo seus impactos sociais, ambientais e as condições de trabalho envolvidas.

Uma política de uso de IA pode começar de forma simples: definir ferramentas autorizadas, estabelecer quais dados não podem ser compartilhados, identificar tarefas que exigem revisão humana e determinar quem responde quando algo dá errado.

O objetivo não é transformar governança em uma sequência de proibições. É fazer com que cada “sim” à tecnologia seja uma decisão consciente.

Governar é preservar margem

Ao conectar regulação, reconhecimento facial, explicabilidade, infraestrutura e terceiro setor, o episódio chega a uma ideia essencial.

Governar a Inteligência Artificial não significa controlar perfeitamente o que ela fará. Significa preservar margem. Margem para questionar uma recomendação. Corrigir um erro. Contestar uma decisão. Trocar de fornecedor. Ou concluir que determinado uso simplesmente não vale o risco.

Essa talvez seja uma das perguntas mais importantes para qualquer instituição diante da IA. Não apenas o que essa tecnologia consegue fazer, mas em quais condições queremos que ela faça.

Dê o play em “Quem governa a inteligência?”, quarto episódio da temporada A Era da Inteligência Artificial, e acompanhe uma investigação sobre regulação, responsabilidade, soberania digital e as escolhas que determinam como a IA participa da sociedade.