Racismo algorítmico é a discriminação racial produzida ou amplificada por sistemas automatizados. Não depende de alguém escrever uma regra racista no código: acontece quando o sistema aprende com dados que já carregam desigualdade e passa a reproduzi-la em escala, com aparência de neutralidade técnica.
Adicione ao Google NotíciasNeste artigo
É um dos temas mais concretos da ética em IA, porque tem consequência material — quem é preso, quem consegue crédito, quem é chamado para a entrevista. Está no glossário de IA na seção de ética.
Como acontece sem ninguém programar para isso
Um sistema de IA aprende padrões nos dados que recebe. Se os dados refletem uma sociedade desigual, o padrão aprendido é a desigualdade — e o sistema passa a tratá-la como norma a ser repetida.
Um exemplo clássico: um sistema de triagem de currículos treinado com o histórico de contratações de uma empresa que contratou majoritariamente pessoas brancas aprende que esse é o perfil de sucesso. Ninguém escreveu isso; ele deduziu do que viu. E a saída vem com aparência de decisão objetiva, o que torna a discriminação mais difícil de contestar do que quando parte de uma pessoa.
Onde aparece na prática
- Reconhecimento facial: sistemas treinados majoritariamente com rostos brancos erram mais em pessoas negras. No Brasil, isso já levou a prisões equivocadas de pessoas identificadas erroneamente por câmeras.
- Crédito e seguro: modelos que usam CEP como variável acabam penalizando quem mora em periferia — uma proxy de raça que ninguém precisou declarar.
- Triagem de currículos: filtros automáticos que reproduzem o padrão histórico de contratação.
- Geração de imagens: pedir "médico" ou "executivo" e receber majoritariamente homens brancos, enquanto "faxineira" devolve outro padrão.
Por que é difícil corrigir
Remover a variável raça do modelo não resolve, porque outras variáveis funcionam como substitutas — CEP, escola de origem, nome. O sistema reencontra o padrão por outro caminho.
Some-se a isso o problema da caixa-preta: em modelos complexos, nem quem construiu explica com precisão por que uma decisão saiu daquele jeito. Fica difícil provar discriminação quando não se consegue abrir o raciocínio.
O que se faz para reduzir
As frentes conhecidas são auditoria dos dados de treinamento, teste de desempenho separado por grupo — para flagrar erro concentrado numa população —, exigência de explicabilidade e, sobretudo, revisão humana em decisões de alto impacto. No Brasil, a LGPD já garante o direito de pedir revisão de decisão automatizada, e a discussão sobre o marco legal da IA trata diretamente do tema.
Perguntas frequentes
O que é racismo algorítmico?
É a discriminação racial produzida por sistemas automatizados que aprenderam com dados enviesados. Diferente do preconceito individual, opera em escala e com aparência de neutralidade — o que dificulta identificar e contestar.
Tem caso de racismo algorítmico no Brasil?
Sim. Os mais documentados envolvem reconhecimento facial em segurança pública, com prisões de pessoas identificadas erroneamente — desproporcionalmente pessoas negras. Também há discussão sobre modelos de crédito que usam localização como variável.
Tirar a variável raça do sistema resolve?
Não. Outras variáveis funcionam como substitutas — CEP, escola, nome — e o modelo reencontra o mesmo padrão por outro caminho. Por isso a correção exige auditoria de resultado por grupo, não apenas remoção de campo.
A lei brasileira protege contra isso?
A LGPD garante o direito de solicitar revisão de decisões tomadas apenas por sistema automatizado que afetem seus interesses. A regulamentação específica de IA, em discussão no Congresso, trata diretamente de discriminação algorítmica e de obrigações para sistemas de alto risco.
