O que é viés algorítmico?
Viés algorítmico (algorithmic bias) é quando um sistema de inteligência artificial ou um algoritmo produz resultados sistematicamente injustos ou distorcidos, favorecendo ou prejudicando certos grupos de pessoas, geralmente porque aprendeu com dados incompletos ou que refletem preconceitos do passado.
Em palavras simples
Imagine que alguém aprendeu a cozinhar só com receitas de uma única região do país. Essa pessoa vai achar que aquele é o jeito “certo” de cozinhar e pode estranhar ou errar pratos de outros lugares, sem perceber. A IA funciona de modo parecido. Ela aprende com exemplos. Se esses exemplos mostram mais um tipo de pessoa do que outro, ou carregam decisões injustas tomadas no passado, a IA repete esses padrões, agora em grande escala e com aparência de neutralidade.
O ponto central: o computador não tem opinião própria, mas também não é automaticamente imparcial. Ele espelha os dados e as escolhas de quem o construiu.
Como funciona
O viés pode entrar em várias etapas da construção de um sistema:
- Dados de treinamento: se o dataset tem poucas fotos de pessoas negras, poucas vozes com sotaque nordestino ou poucos currículos de mulheres em certa área, o modelo aprende pior sobre esses grupos.
- Histórico injusto: quando o modelo aprende com decisões humanas antigas, como contratações ou concessões de crédito, ele pode reproduzir discriminações que já existiam.
- Escolha do objetivo: o que o sistema tenta otimizar também importa. Um algoritmo que mede “bom funcionário” só por um critério estreito pode deixar de fora perfis competentes.
- Variáveis indiretas: mesmo sem usar raça ou gênero, o modelo pode chegar a eles por outras pistas, como CEP, escola ou palavras usadas no currículo.
- Uso fora de contexto: um sistema criado para um país ou público pode falhar quando aplicado a outro.
Um detalhe importante: existem várias definições matemáticas de “justiça”, e pesquisas mostram que, em muitas situações, não é possível satisfazer todas ao mesmo tempo. Por isso, corrigir viés envolve escolhas técnicas e também éticas.
Exemplos
- Recrutamento na Amazon: em 2018, a agência Reuters revelou que a Amazon abandonou uma ferramenta experimental de triagem de currículos. Treinada com cerca de dez anos de currículos recebidos, em sua maioria de homens, ela passou a rebaixar candidatos cujo currículo tinha a palavra “women’s” (feminino), como em “time feminino de rúgbi”.
- Reconhecimento facial: o estudo Gender Shades, de Joy Buolamwini e Timnit Gebru, publicado em 2018, testou sistemas comerciais de classificação de gênero por foto. As taxas de erro chegaram a 34,7% para mulheres de pele escura, contra menos de 1% para homens de pele clara.
- Justiça criminal nos EUA: em 2016, uma investigação da ProPublica apontou que o sistema COMPAS, usado para estimar risco de reincidência, classificava réus negros que não voltaram a cometer crimes como “alto risco” com frequência quase duas vezes maior que réus brancos. A fabricante contestou a análise, e o caso virou referência no debate sobre justiça em algoritmos.
- IA generativa: geradores de imagem e chatbots podem reforçar estereótipos, como mostrar sempre homens quando se pede “um médico” ou mulheres quando se pede “uma pessoa cuidando da casa”.
Por que isso importa para você
Algoritmos já participam de decisões que mexem com a sua vida: análise de crédito, seleção de vagas, preço de seguro, moderação de conteúdo e até o que aparece no seu feed. Um viés nesses sistemas pode significar um empréstimo negado ou um currículo que nunca chega a um recrutador, sem que ninguém explique por quê.
No Brasil, a LGPD (Lei Geral de Proteção de Dados) garante, no artigo 20, o direito de pedir a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, como perfis de consumo ou de crédito. A empresa também deve informar, quando solicitado, os critérios usados, respeitados os segredos comerciais.
No uso diário de IA, vale desconfiar de respostas que generalizam grupos de pessoas, pedir alternativas e revisar textos e imagens antes de publicar. Para entender a base de tudo isso, leia o que é inteligência artificial.
Termos relacionados
- Algoritmo: a sequência de passos que, mal desenhada ou mal alimentada, gera o viés.
- Dataset: os dados de treinamento, principal porta de entrada do viés.
- Aprendizado supervisionado: o tipo de treino que aprende com decisões passadas já rotuladas.
- Machine learning: a área que aprende padrões dos dados, inclusive os injustos.
- Alucinação de IA: outro tipo de erro da IA, quando ela inventa informações.
Perguntas frequentes
Se o computador só segue a matemática, como pode ser preconceituoso?
Porque a matemática trabalha com dados criados por pessoas e com objetivos escolhidos por pessoas. Se os dados refletem desigualdades, o modelo aprende e repete esse padrão.
É possível eliminar o viés algorítmico?
Eliminar totalmente é muito difícil, mas dá para reduzir bastante com dados mais diversos, testes por grupo, auditorias independentes e revisão humana nas decisões importantes.
O que fazer se eu for prejudicado por uma decisão automática?
Pela LGPD, você pode pedir à empresa a revisão da decisão automatizada e informações sobre os critérios usados. Se não houver resposta, é possível recorrer ao Procon ou à ANPD.