Como a pesquisa em IA na educação deve incorporar equidade, acessibilidade, privacidade, ética e segurança pedagógica?

Esta é uma tradução automática da página em inglês; ainda não foi revisada por uma pessoa falante nativa.

Essas dimensões devem ser tratadas como requisitos de desenho e desfechos de avaliação desde o início — e não como limitações acrescentadas à seção de discussão depois que um estudo de eficácia é concluído.

Equidade

Para a equidade, examine não apenas quem tem acesso à IA, mas também quem tem as habilidades para usá-la de forma eficaz e quem, em última análise, recebe seus benefícios. O conceito Divisão Digital da base de conhecimento distingue divisões de acesso, de habilidades e de desfecho, o que significa que acesso igualitário a um chatbot não equivale a um benefício educacional equitativo. Os pesquisadores devem, portanto, relatar desfechos relevantes por subgrupo e investigar a eficácia diferencial, em vez de confiar apenas em médias gerais (ver Efeitos Diferenciais Entre Grupos de Aprendizes).

Pesquisa recém-acrescentada mostra como as iniquidades estruturais se acumulam. Um estudo comparativo de 45 universidades nigerianas (15 federais, 15 estaduais, 15 privadas) encontrou apenas uma integração moderada de IA (M = 4,79 em uma escala de 10 pontos, variação de 1,83 a 7,83), e o tipo de governança não a previu (F(2,42) = 1,01, p = 0,372); a idade da instituição (β = 0,43, p = 0,016) e a localização no Sudoeste (β = 0,31, p = 0,029), sim. As capacidades internas eram mutuamente reforçadoras (r = 0,79–0,80), e as colaborações internacionais e as parcerias com a indústria potencializavam umas às outras (r = 0,74) — "conexões geram conexões". Os marcos de política eram a dimensão mais fraca (M = 4,09; apenas 27% das instituições pontuaram 6 ou mais), expondo uma lacuna entre a estratégia formal e a atividade curricular operacional. As intervenções de equidade devem, portanto, mirar instituições mais novas e regiões mal atendidas, em vez de presumir que a categoria institucional determina a capacidade, e devem considerar os contextos do Sul Global dos quais boa parte da base de evidência ainda está ausente.

Acessibilidade

Para a acessibilidade, inclua aprendizes com deficiência no desenho e na avaliação, teste as interfaces reais contra requisitos de acessibilidade, ofereça formas equivalentes de participar e demonstrar aprendizagem, e distinga acessibilidade técnica de pedagogia genuinamente inclusiva. Ver Acessibilidade. Um estudo de desenho sensível a valores com estudantes, instrutores e desenvolvedores de community colleges mostra como isso se parece na prática: ele produziu 16 recursos alinhados a valores que abrangem explicabilidade (E1–E5), controle com humanos no circuito (H1–H9) e privacidade (P1–P4) — e trouxe à tona tensões de valores em vez de soluções arrumadinhas, incluindo transparência versus interpretabilidade, privacidade versus insight instrucional e agência do aprendiz versus apoio guiado pelo sistema.

Privacidade e ética

Para privacidade e ética, colete apenas os dados necessários para a finalidade educacional, torne transparentes o uso dos dados e as limitações do sistema, mantenha responsabilização humana significativa e examine justiça, consentimento, viés, explicabilidade, autonomia do aprendiz e as consequências das decisões mediadas por IA. Essas são dimensões centrais de Ética. O estudo de desenho acima mostra que essas são concessões (trade-offs) a serem gerenciadas, e não requisitos independentes a serem ticados em uma lista: os estudantes queriam controle sobre analíticas de aprendizagem e dados afetivos, enquanto os instrutores queriam visibilidade para apoiar a aprendizagem. À medida que os sistemas ganham agência própria, a questão da governança se aguça. Uma revisão crítica da governança de IA agêntica argumenta que a autonomia não deve exceder a maturidade da evidência nem a força do controle humano responsabilizável, e propõe uma linguagem compartilhada de relato — níveis de autonomia A0–A4, níveis de supervisão O0–O4 e estágios de maturidade da evidência M0–M5 — para que usos consequentes (A4: admissões, notas, progressão) exijam validação replicada e relevante ao contexto, e autoridade humana contínua, em vez de uma nota alta em benchmark.

Segurança pedagógica

Para a segurança pedagógica, meça os danos que os benchmarks convencionais de IA deixam escapar: dependência excessiva, divulgação excessiva de respostas, reforço de concepções errôneas, perda de agência, supressão da metacognição, tratamento iníquo, dano motivacional e desalinhamento instrucional. O teste de segurança deve incluir interações realistas de múltiplos turnos e cenários específicos da disciplina, e não apenas provocações únicas. A síntese Segurança Pedagógica e o benchmark SafeTutors mostram por que sistemas tecnicamente "úteis" ou precisos ainda podem solapar a aprendizagem. Os praticantes convergem para uma resposta de desenho compatível: em um estudo de desenho participativo com seis professores do ensino médio, os professores desenharam independentemente "especialistas circunscritos", e não agentes autônomos — sistemas com um domínio de escopo estreito operando sob supervisão humana, com fronteiras de domínio, filtragem de conteúdo e poder de override do professor formando três camadas protetivas. Eles acolheram a IA para apresentar conteúdo, fornecer prática e dar formativo Retroalimentação (Feedback), mas recusaram delegar a definição de objetivos ou a somativa avaliação, enquadrando a supervisão como responsabilidade profissional, e não como desconfiança da tecnologia.

Triangulação metodológica

Por fim, combine evidência quantitativa e qualitativa. Desfechos quantitativos desagregados podem revelar efeitos diferenciais; entrevistas, observações, grupos focais e métodos participativos ou de codesenho podem trazer à tona barreiras, danos, pressupostos culturais e experiências de aprendizizes que as pontuações agregadas deixam escapar. A síntese Métodos de Pesquisa em AIED trata explicitamente a triangulação metodológica como importante porque nenhum método único maximiza simultaneamente inferência causal, validade ecológica, compreensão contextual e generalizabilidade.

A transparência sobre como a própria análise assistida por IA produziu seus achados faz parte dessa obrigação. A proposta de warrantability argumenta que uma interpretação assistida por IA deve permanecer inspecionável, contestável e revisável, sustentada por artefatos como tabelas de tópicos ligadas às fontes, pilhas de lentes e rios de evidência — para que um resumo fluente não possa ocultar a via analítica que o produziu. A revisão da IA agêntica acrescenta uma disciplina de separação dos níveis de desfecho: desfechos de artefato (precisão, qualidade do feedback) podem ser necessários para um benefício ao aprendiz, mas nunca são evidência suficiente de um, e os desfechos de equidade e institucionais são precisamente onde a evidência é mais escassa.

Onde isso se encaixa na base de conhecimento

Esses requisitos se conectam diretamente aos 10 Principais Achados para Professores emblemáticos (achados 9 e 10), às refutações por parte das partes interessadas em Como responder a concepções errôneas comuns sobre IA na educação? e à agenda de evidência não atendida em Lacunas de Pesquisa em AIED. Para métodos que levam essas restrições a sério, ver Avaliando Intervenções de IA: Métodos.