Como o viés e a injustiça da IA aparecem na educação, e o que podemos fazer a respeito?

Esta é uma tradução automática da página em inglês; ainda não foi revisada por uma pessoa falante nativa.

O viés e a injustiça na IA educacional não são um único problema. A investigação nesta base de conhecimento documenta o viés a entrar em quase todas as etapas da vida de um sistema — dados de treino, comportamento do modelo, prompts, pontuação, feedback, decisões de alocação e a infraestrutura por baixo delas — e afeta professores, programadores, investigadores e administradores de formas diferentes. O padrão em tudo isto é suficientemente consistente para o afirmar com clareza: peça números por subgrupo, não médias; defina "desfavorecido" por resultados, não pelo tamanho do grupo; e trate a justiça como algo que se concebe e audita, não algo que se acrescenta depois.

Onde o viés e a injustiça aparecem

Pontuação e avaliação. A pontuação por IA pode penalizar a língua em que o estudante escreve em vez da compreensão que expressa: a pontuação em física subestima sistematicamente estudantes cujas explicações são menos fluentes, punindo escritores não nativos e menos confiantes pelo que sabem (viés linguístico na pontuação automatizada). A marcação automatizada também comprime em direção ao meio da distribuição, expondo mais os estudantes mais fortes e os mais fracos, e a sua discordância com avaliadores humanos varia com o nível de desempenho e com características superficiais da língua, como a amplitude de vocabulário (OpRaise, 2026). Para o quadro completo da avaliação, veja a FAQ sobre justiça e fiabilidade na avaliação.

Tutoria, feedback e sistemas adaptativos. O modelo interno de um tutor adaptativo pode desfavorecer grupos inteiros de forma invisível: uma auditoria de justiça de rastreamento de conhecimento bayesiano aos registos do MATHia de 8.549 estudantes ao longo de dois anos letivos encontrou uma paridade estatística agregada de −0,077 que ocultava 36 das 50 competências enviesadas contra leitores emergentes, com viés ao nível da competência de até −0,262 — o tutor não tinha componente de competência de leitura, pelo que os estudantes que liam com menos fluência perdiam terreno a matemática (Stinar et al., 2026). As ferramentas de feedback têm o seu próprio enviesamento documentado: quatro LLM amplamente utilizados deslocam o feedback de escrita de formas alinhadas com estereótipos quando recebem a identidade de um estudante — mais elogios, menos crítica, suposições de capacidade limitada — mesmo para ensaios idênticos (Tan et al., 2026). Os tutores LLM também variam com o rótulo demográfico do aprendente: no EduFair-Bench, as excursões de tom corretivo excederam 0,10 em química e física para todos os modelos, com o andaimento passo a passo a correlacionar até |r| = 0,144 com condições demográficas a matemática, e o tom seguia o rótulo e não a qualidade do raciocínio (EduFair-Bench). Até o contexto demográfico invisivelmente presente no histórico de uma conversa altera os resultados: o condicionamento implícito inflacionou as pontuações de ensaios automatizados em até 1,57 pontos para um modelo, porque era o contexto, e não um atributo declarado, que transportava o sinal (Rooein, Benedetto and Hovy, 2026).

Painéis e alerta precoce. McConvey et al. (2026) testaram sob stress seis intervenções de justiça pós-hoc num sistema de alerta precoce replicado, construído a partir de 168.550 registos de estudantes: nenhuma produziu ganhos consistentes. As disparidades foram redistribuídas, não reduzidas; dois métodos usaram o tamanho do grupo para definir desvantagem e dirigiram todas as 706 correções a estudantes internacionais, que já tinham a taxa de sucesso prevista mais alta (0,916 vs. 0,756); e um método satisfez o seu alvo de igualdade de oportunidades de género ao fazer subir a taxa de falsos positivos feminina de 0,561 para 0,837. Os estudantes agregados na categoria "Unknown Gender" tinham as taxas de verdadeiros positivos mais baixas em todos os métodos.

Resultado generativo: texto, imagens e avatares. Os modelos reproduzem normas dominantes a menos que sejam explicitamente verificados. Uma revisão sistemática de 31 estudos sobre ferramentas texto-para-imagem na educação descobriu que as imagens centravam consistentemente figuras brancas, masculinas, ocidentais, magras e sem deficiência, com a diversidade de idade, corpo e capacidade largamente ausente (Alon et al., 2026). Os assistentes de formação de equipas encaminham os estudantes para experiências diferentes: três LLM que colocaram 11.200 trabalhos de engenharia de software enviaram homens pelo menos 80% menos vezes do que mulheres para Design de Interfaces em vez de Desenvolvimento Central, e a nacionalidade alterou as colocações independentemente do mérito (Entezami et al., 2026). Até as pistas de identidade de um avatar mudam a confiança: avatares brancos foram avaliados como mais credíveis e competentes em duas experiências (N = 396), enquanto avatares de mulheres negras mais velhas foram penalizados, com o efeito ampliado em tarefas STEM (Anthis and Kyriakidou-Zacharoudiou, 2026). As ferramentas de escrita podem transferir o viés para o próprio trabalho dos estudantes: um prompt enviesado por género produz ensaios mais estereotípicos de género, pelo que o viés da ferramenta se torna o resultado do aprendente (transferência de viés de género na escrita assistida por LLM).

Dados, rótulos e infraestrutura. O viés está presente antes de qualquer modelo treinar. Ferramentas comerciais de deteção de nomes falharam nomes africanos com recall 0,7647 e nomes asiáticos com 0,8640, contra 0,9024 para nomes europeus e 0,9091 para nomes americanos, lacunas que um modelo afinado eliminou (Ji et al., 2025). Os corpora de treino e a tokenização desfavorecem estruturalmente falantes de línguas sub-representadas (Structural Silence), os perfis de aprendentes gerados por LLM transportam priores regionais e de género que se propagam a jusante (López-Pernas et al., 2026), e os rótulos de verdade de base por trás dos modelos merecem o mesmo escrutínio que os próprios modelos (fiabilidade da verdade de base).

As ferramentas de deteção atingem mais duramente os escritores multilingues. Como os detetores classificam pela previsibilidade textual, a baixa perplexidade e a densidade formulaica da escrita em língua adicional disparam falsos sinais de "IA": estudos documentados classificaram erradamente grandes frações de ensaios TOEFL autênticos de falantes não nativos (Angelier, 2026), e editar um artigo não nativo deslocou os veredictos em ambos os sentidos — 10,7 pontos menos provável de ser sinalizado sob um detetor, 5,8 pontos mais provável sob outro (Park, Jeong and Kim, 2026).

O acesso e a qualidade das ferramentas também são questões de equidade. A divisão digital é fundacional (acesso digital), e as divisões de qualidade agravam-na: o nível gratuito do mesmo modelo foi impreciso em 49 de 150 respostas (32,7%) contra 18 de 150 (12%) no nível premium, levando professores a chamá-lo de "quase inútil para matemática" (Canonigo, 2026). O corpo docente espera esmagadoramente que a IA generativa alargue as desigualdades — 81% de 1.057 docentes inquiridos disseram-no, 58% dizendo muito (Watson and Rainie, 2026). E os benefícios da tutoria por IA não são automaticamente distribuídos: os ganhos concentram-se onde a alocação segue a necessidade, como quando a tutoria humana proativa dirigida aos estudantes mais abaixo de um limiar produziu crescimento marginalmente superior (75%, p = .065) exatamente nesse grupo (Gurung et al., 2026), ou quando materiais de estudo com IA verificados por especialistas moveram a maior parte de um ganho de 2,34 pontos para o quintil inferior (Dang and Nguyen, 2026).

O que fazer — pelo seu papel

Se é professor: pergunte a qualquer ferramenta que adote quais foram as suas taxas de erro para os subgrupos que realmente ensina, não apenas a sua precisão global. Verifique cuidadosamente o trabalho de escritores multilingues antes de aceitar o veredicto de um detetor — essas ferramentas classificam mal a escrita em língua adicional. Use prompts neutros quando gerar materiais didáticos (um prompt neutro evita largamente induzir linguagem diferenciada por género), e compare o resultado da IA com os seus próprios padrões em vez de o tratar como autoritativo (Como ensino os estudantes a verificar a saída da IA?). Para a avaliação, mantenha um humano no circuito nos casos limítrofes.

Se é programador: audite em condições de identidade — língua, género, cultura, deficiência — usando entradas que variam apenas o contexto do estudante (o resultado do sinal implícito mostra que os atributos declarados não são o único canal). Teste em sujeitos retidos, não apenas em itens retidos: ganhos de justiça que se mantêm numa divisão de validação evaporaram para um modelo real de atenção do estudante em 4 de 10 execuções (Fragkiadakis et al., 2026). Prefira a mitigação no modelo — afinação, treino invariante ao dialeto, objetivos conscientes da justiça como o GroupDRO — a ajustes pós-hoc do resultado (abordagens de mitigação do viés). Nunca infira desvantagem a partir do tamanho do grupo, e reporte métricas por subgrupo, incluindo os grupos que teve de excluir por a amostra ser demasiado pequena (Ye et al., 2026 excluiu aprendentes de inglês e estudantes com IEP exatamente por esta razão — diga-o quando o fizer).

Se é investigador: reporte uma métrica de justiça, ponto final — uma revisão de escopo de 421 estudos que aplicam PNL a avaliações de estudantes encontrou uma métrica formal de justiça em apenas 8 (1,9%) (Eicher and da Silva, 2026), e de 12 estudos de pontuação IA-versus-humano, dez estavam silenciosos sobre viés demográfico, linguístico ou social (Xu, Lu and Abdi, 2026). Teste em dimensões demográficas, não apenas género; reporte exclusões de grupos pequenos; e avalie a equidade a par da precisão, não como reflexão tardia. Quando auditar modelos como tutores de história ou tutores em contextos diferentes, use testes de condição de identidade antes de tirar conclusões (o filtro paternalista é o exemplo cautelar).

Se é administrador: torne o relato por subgrupo e a auditoria antes da adoção termos contratuais quando adquirir ferramentas preditivas ou generativas — os autores do estudo de alerta precoce enquadram a governação das compras, e não a otimização de métricas, como a principal salvaguarda (McConvey et al., 2026). Vigie as divisões de qualidade entre níveis, que deixam as salas de aula com menos recursos com ferramentas materialmente piores, e combine o acesso com apoio e formação em vez de emitir apenas licenças. Use as alavancas de política institucional de IA para exigir divulgação e relato de equidade, e encaminhe as discussões de I&D e supervisão através de as convenções de investigação em equidade, ética e segurança.

O que não funciona

Afirmações de precisão global. Uma paridade agregada de −0,077 coexistiu com 36 de 50 competências enviesadas contra um grupo; um modelo de aparência equilibrada falhou quase totalmente os estudantes em dificuldade numa divisão desequilibrada (Hooshyar et al., 2026 encontrou 8%, 12% e 16% de recall para desempenhos baixos com 80% de precisão). As médias são compatíveis com dano concentrado.

Correções de paridade pós-hoc. Todas as intervenções do estudo de alerta precoce ou redistribuíram erros, ou corrigiram os já favorecidos, ou alcançaram paridade tornando um grupo menos visível. Corrigir o pipeline bate remendar o resultado.

Uma mitigação feita uma vez. O viés reentra pelos dados, pelos prompts, pela pontuação e pela implementação; a investigação mostra estratégias complementares (objetivos de treino justos, conceção de prompts, invariância dialetal, pontuação que separa a compreensão da língua, explicabilidade, supervisão humana) precisamente porque nenhuma correção isolada cobre o pipeline (Mitigação de viés).

Onde aprofundar

A página Mitigação de viés cataloga fontes e abordagens de mitigação ao longo do pipeline; Equidade na educação com IA cobre as dimensões de acesso, representação e resultados com evidência para cada uma; Viés de automação cobre a falha do lado do leitor — confiar demasiado numa recomendação enviesada ou meramente errada; e Efeitos diferenciais entre grupos de estudantes reúne os estudos que traçam como a mesma ferramenta cai de forma diferente em grupos diferentes.