A IA pode reproduzir preconceitos?

Algoritmos podem repetir desigualdades sem que a gente perceba

01 / 05

Toque para continuar →

A inteligência artificial aprende padrões a partir de dados. Se eles refletem desigualdades do passado, o sistema pode reproduzi-las.

A explicação

02 / 05

Onde isso acontece? →

A IA pode repetir injustiças no cotidiano

Empregos

Pode favorecer candidatos com perfis parecidos aos de pessoas contratadas no passado.

Reconhecimento facial

Alguns sistemas confundem mais rostos de determinados grupos.

Crédito

Pode reproduzir desigualdades ao avaliar pedidos de empréstimo com dados históricos.

Na prática

03 / 05

E o que dizem os estudos? →

Em alguns algoritmos, falsos positivos foram até 100 vezes mais comuns

Em testes de reconhecimento facial, as taxas variaram entre grupos demográficos. Esse resultado não vale para todos os sistemas.

O que diz a ciência

04 / 05

Como evitar isso? →

inovasocial.com.br /

A IA também precisa de fiscalização

O que fazer

05 / 05

Testar os sistemas e corrigir erros ajuda a evitar injustiças.