AIEd 知识库AIEd KB
本页内容

本页面已译为中文。文章页面仍以英文撰写。 阅读本页的英文版本

概念

偏见缓解

创建 2026-07-14 · 更新 2026-10-09

本页是英文页面的机器翻译，尚未经母语者审校。

AI 教育中的偏见缓解 —— 对 AI 导师、评分器、推荐器与教育系统中不公平的、与身份模式化的行为的识别、测量与减少。偏见可以在 AI 管线的任何阶段进入 —— 训练数据、模型行为、提示、评分与部署 —— 并表现为基于语言、性别、种族、文化或其他身份特征对学习者的差别对待。缓解横跨数据整理、去偏算法、提示设计、公平评分方法、可解释性与评估。它是 AI 教育中的公平 的技术对应物，也是 AI 教育伦理 的核心关切。

值得思考的问题

  • 偏见可以在 AI 管线的任何阶段进入 —— 训练数据、模型行为、提示、评分与部署。在读之前，你预期偏见存在于这条链的何处？本页认为它几乎处处皆可现身。有一处是你没想到的？
  • 研究 显示，AI 物理 评分系统性低估那些文本解释语言质量较低的学生 —— AI 给语言打分，而非理解。为何一个总体上与人类评分者吻合良好的系统，仍可能持续地惩罚非母语者或不太流利的写作者？
  • 一项研究发现，一个带性别偏见的提示使学生的作文表现出更大的“能动性缺口”与更多性别刻板的内容 —— 偏见从工具转移进了学习者自己的作品。这对“偏见不只是一种不公平的分数、而是一股能重塑学生产出与自我认知的力量”说明了什么？
  • 另一项研究显示，当用学生属性个性化时，大语言模型会以符合刻板印象的方式转移反馈 —— 对“marked”学生过度使用赞扬、扣留批评，即便作文完全相同。“温和地”有偏见的反馈为何可能比一个明显错误的分数更有害，因为它更难被察觉？
  • 缓解横跨数据整理、去偏算法、中性提示设计、公平评分方法、可解释性与人类监督。你认为哪一个单一的缓解杠杆会对你依赖的 AI 系统带来最大改变，而你需要审计什么才知道它起了作用？
  • 中性提示在很大程度上避免了诱发性别分化的语言 —— 这说明提示设计是一个实用的缓解手段。但如果偏见可以通过数据、评分或部署被重新引入，为何只修提示是一个不完整的答案？

引言

偏见缓解之所以重要，是因为 教育中的 AI 并非中立：用主导语言与文化数据训练的系统能系统性地使边缘化学习者处于劣势，从惩罚非母语写作者的 AI 评分，到对不同群体给出不同回答的 大语言模型 导师。偏见是一个横贯性的关切，出现在 自动评分、自动作文评分、知识追踪、推荐系统与 对话式 AI 导师中。

偏见的来源

本知识库的研究记录了偏见在管线的多个点上进入：

  • 语言与评分偏见： 基于 AI 的物理评分 系统性低估那些文本解释语言质量较低的学生对概念的理解 —— AI 给语言打分，而非理解，惩罚非母语者或不太流利的写作者。这是 自动评分 中一个直接的效度与公平失败。

  • 大语言模型辅助写作中的性别偏见转移： 被污染的合作 显示，当学生使用一个带性别偏见的大语言模型提示写作时，其作文表现出显著更大的能动性缺口与更多性别刻板的职业建议（N=123）；偏见转移是不对称的，压制了面向女性作文的能动性。一项验证研究（N=1,600 篇大语言模型作文，R²=.399）确认带性别偏见的提示诱发性别分化的语言。

  • 差别拒绝与认识论不公： 家长式过滤器 审计了四个作为历史导师的大语言模型（1,800 条回应），暴露出一层“家长式过滤器”：模型对不同学习者差别地拒绝、软化或重构敏感内容 —— 一种具有直接公平意涵的认识论不公。

  • 学习分析 中的选择偏倚： 去偏知识追踪 处理源于非随机练习推荐的选择偏倚：用标准经验风险在观察日志上训练，会产生有偏的精通估计，并在自适应推荐循环中放大误差。

  • 数据与标注偏倚： 数据标注 与 金标准可靠性 研究考察 AI 模型背后的标签与评分者间可靠性如何携带偏见 —— 并论证不应把 κ > 0.8 当作一个二元认可戳。

  • 被边缘化的知识： 生成式 AI 与被少数化的知识 记录了训练数据与模型行为如何边缘化非主导知识体系与残障视角。

  • 符合刻板印象的自动化反馈（Marked Pedagogies）： Tan 等人（2026） 显示，四个广泛使用的大语言模型在用学生属性 —— 种族、族裔、英语学习者身份、学习障碍、成就或动机 —— 个性化反馈时，会以符合刻板印象的方式系统性转移写作反馈，对 marked 学生产生正面反馈偏倚与反馈扣留偏倚（过度赞扬、实质性批评更少、假定能力有限），即便作文完全相同。“Marked Words”集中度指标为审计这类自动化反馈中的偏见提供了一个具体方法。

  • 文生图工具中的视觉偏倚： Alon、Hadar Shoval 与 Levkovich（2026） 系统综述 了 31 项同行评审研究（2023—2025），关于教育中使用 AI 生成文生图的偏见与表征。用一套六部分分析框架（性别；种族、族裔与社会经济地位；文化与宗教；年龄；身体与（残）障；内容），他们发现偏见表征无处不在 —— 图像频繁以白人、男性、西方、瘦削、非残障的人物为中心，而与年龄、身体、能力相关的多样性则大体被忽视。多数研究依赖图像审计与 质性 方法，少有实验性或基于干预的设计，揭示了教育研究在测量与回应视觉偏见上的显著盲区。

  • 虚拟化身身份线索复制了线下偏见。 在两个实验（N = 396）中，白人虚拟化身 —— 以及在 STEM 情境中的亚裔男性化身 —— 被评为更可信、更能干，而年长的黑人女性化身受到惩罚；STEM 与程序性任务放大了偏见，反思性与人际性任务则减弱了它（Anthis & Kyriakidou-Zacharoudiou（2026））。

  • 非歧视作为一项核心伦理价值。 Agarwal 等人（2026） 这篇对 25 篇文章的 系统综述，把非歧视（使用偏见/歧视/多样性等定义的条目）识别为 教育 AI 六大主要伦理价值之一，与数据管护、人类监督、善意、可解释性与教育适切性并列。该综述指出这些价值紧密耦合且可能冲突 —— 如非歧视 对 数据管护 —— 产生伦理困境，且没有任何关于非歧视的规范直接面向终端用户，使学习者在伦理文献中大体处于被动。

  • AI 辅助组队中的分配偏倚。 Entezami 等人（2026） 展示了偏见如何进入评分与反馈之外的一类任务：三个大语言模型把 28 名学生的软件工程班分入四个团队时，把男性路由到界面设计（而非核心开发）的频率比女性至少低 80%（GPT-5.2 OR < 0.01），且国籍独立于能力改变分配。提供技能信息能减少但不能消除它 —— 99.2% 基于技能的分配匹配了两个金标准团队之一，然而性别仍在同样有效的选项之间决定取舍（OR 2.53 GPT-4.1、2.81 GPT-5.2、1.43 DeepSeek）—— 而并行的图像生成使单人图像偏向男性与浅肤色（性别 V = 0.64 与 0.65；肤色 V = 0.57 与 0.61），多人图像则相对均衡。

缓解方法

本知识库的研究展示了若干互补的策略：

  • 公平感知建模： 混合 HKG-GRU 框架 把 组分布鲁棒优化（GroupDRO） 与可解释性及反事实稳定性整合起来，在 Moodle 日志（152 名学生，约 150k 次互动）上评估。它表明推荐系统可以被训练成公平而透明的，而不只是准确的。
  • 去偏估计量： 时间平滑双鲁棒（TSDR）学习 把一个倾向模型与一个误差插补模型结合，只要其一正确就保持无偏，以从知识追踪的精通估计中移除选择偏倚。
  • 提示层面的缓解： 性别偏见研究 显示，中性提示在很大程度上避免了诱发性别分化的语言，因此提示设计是一个实用的缓解杠杆。
  • 方言不变性训练： Fang 与 Liu（2026） 显示，训练方言不变性胜过事后打补丁：去掉风格迁移的对比项几乎使反事实翻转率增至三倍（4.3% 到 11.8%），非标准方言的假阴性缺口扩大十个百分点，却只花掉 0.8 的 Macro-F1，并把非洲裔美国人白话英语的假阴性削减 18.4 个百分点。
  • 经验证的、语言无关的评分： 应对 评分偏见 需要把概念理解与语言质量分开的评分，并审计分数中的语言偏见。
  • 可解释性： 教育中的可解释 AI 提供关于系统为何给出某个分数或推荐的透明性，使人能检测并纠正有偏见的行为，并支持 信任。
  • 全管线审计： 人格—技能审计 以及家长式过滤器这类系统审计，显示了在部署前跨身份条件审计模型的价值。
  • 在分析可规模化之处，公平性测量大体缺失。 一项对 421 项把自然语言处理应用于教学学生评估的研究的 PRISMA-ScR 范围综述发现，只有 8 项研究（1.9%）使用了形式化的公平性指标，18 项涉及机构使用风险，而研究局限出现在 70.5%、隐私保护出现在 42.3%；作者把这种并存读作 大语言模型 采用拓宽了技术 repertoire 而验证与负责任使用报告未同比例增长（Eicher & da Silva（2026））。
  • 组规模不是弱势的代理： 六种事后公平性方法中有两种把修正导向了本已占优的群体，因为它们用组规模来定义弱势；按观察到的差距重新指派弱势使一种方法改变了方向，却让另一种方法的零预测依旧翻转 —— 这是对事后缓解所能宣称之限度的限制（McConvey 等人（2026））。

横跨 AI 管线的缓解

偏见缓解不是单一修复，而是一个横跨管线的持续过程：

  1. 数据整理 —— 多样化训练数据，并审计标签中基于身份的缺口与不公标注。
  2. 模型训练 —— 应用去偏与公平感知的目标（如 GroupDRO、双鲁棒估计量）。
  3. 提示与系统设计 —— 设计中性提示与不对 学习者身份 差别回应的系统。
  4. 评分与评估 —— 验证自动化评分测量的是理解，而非语言或人口学代理。
  5. 评估与审计 —— 跨身份条件（语言、性别、文化）审计模型，并要求可解释性以浮现偏见。
  6. 人类监督 —— 保留 人在回路 的审查，尤其是对低置信度或高风险案例。

与相关概念的关系

偏见缓解是 公平 得以操作化的技术机制，也是 伦理 与负责任 AI 设计的核心要求。它关联到 AIED 评估（偏见作为一项评估判据）、教育测量 与 评估效度（评分中的公平）以及 隐私（作为一项相关的负责任 AI 关切）。它也关联到 过度依赖（因为有偏见的系统在被过度信任时尤其有害）与 AI 素养（帮助用户识别并质疑有偏见的 AI）。

对教育 AI 的启示

  • 审计整条管线： 偏见可以在数据、模型、提示、评分与部署阶段进入 —— 在它们每一处都加以缓解。
  • 跨身份条件测试： 评估 AI 导师、评分器与推荐器在语言、性别、文化与残障上的差别行为。
  • 在评分中把理解与语言分开： 自动化评分绝不能因学生展示的概念理解而惩罚非母语者或不太流利的写作者。
  • 让系统可解释： 对 AI 决策的透明性对检测并纠正偏见至关重要。
  • 结合技术与人类的缓解： 把去偏算法与人在回路监督配对，尤其对高风险或低置信度案例。

关联概念

关联文章

相关资源

元数据

层次Higher Ed, K 12
目标读者Learners, Instructors
技术与方法生成式人工智能, 大语言模型（LLM）
公平、伦理与负责任使用偏见缓解, 公平性, 伦理
教育中的人工智能基础AI 素养, 教学
SourceHistoryEditChat

嵌入此页

复制下面的代码，将本页嵌入学习管理系统或其他网站。嵌入版本只显示页面内容 — 网站的页眉、导航和页脚会被隐藏。