教育领域的人工智能研究应当如何纳入公平、无障碍、隐私、伦理与教学安全？

本页是英文页面的机器翻译，尚未经母语者审校。

这些内容应当从一开始就被当作设计要求与评价结果，而不是在效果研究完成之后才作为局限性补进讨论部分。

公平

在公平方面，不仅要考察谁能够使用人工智能，还要考察谁具备有效使用它的技能，以及谁最终获得它带来的益处。本知识库的数字鸿沟概念区分了接入鸿沟、技能鸿沟与结果鸿沟，这意味着能够同等使用聊天机器人并不等同于能够获得公平的教育收益。因此，研究者应当报告相关的子群体结果，并考察差异化的有效性，而不是只依赖总体平均值（参见不同学习者群体之间的差异效应）。

新近加入的研究显示结构性不平等如何累积。一项对 45 所尼日利亚大学（15 所联邦大学、15 所州立大学、15 所私立大学）的比较研究发现，人工智能融合程度仅为中等（在 10 分制上 M = 4.79，范围 1.83–7.83），治理类型并不能预测它（F(2,42) = 1.01，p = 0.372）；建校年限（β = 0.43，p = 0.016）与西南地区位置（β = 0.31，p = 0.029）则可以。内部能力相互强化（r = 0.79–0.80），国际合作与产业合作也彼此叠加（r = 0.74），也就是“关系催生关系”。政策框架是最薄弱的维度（M = 4.09；仅有 27% 的院校得分达到 6 或更高），暴露出正式战略与实际运行的课程活动之间的落差。因此，公平干预应当面向较新的院校与欠服务地区，而不是假定院校类别决定其能力，并且应当顾及全球南方背景，因为大部分证据基础仍然缺失这些背景。

无障碍

在无障碍方面，应当让残障学习者参与设计与评价，依据无障碍要求测试真实界面，提供等价的参与方式与展示学习成果的方式，并区分技术层面的无障碍与真正包容的教学法。参见无障碍。一项以社区学院学生、教师与开发者为对象的价值敏感设计研究展示了这在实践中是什么样子：它产出了 16 项与价值对齐的功能，涵盖可解释性（E1–E5）、人在回路控制（H1–H9）与隐私（P1–P4），并且浮现出的是价值张力而非整齐的解决方案，包括透明度与可解释性、隐私与教学洞察、学习者能动性与系统引导的脚手架之间的张力。

隐私与伦理

在隐私与伦理方面，应当只收集教育目的所需的数据，让数据使用与系统局限保持透明，维持有意义的人类问责，并考察公平性、同意、偏见、可解释性、学习者自主性以及人工智能介入的决策所带来的后果。这些是伦理的核心维度。上文的设计研究显示，这些是需要加以管理的取舍，而不是彼此独立、逐项打勾的要求：学生希望对学习分析与情感数据拥有控制权，而教师则希望拥有可见性以便支持学习。随着系统自身获得能动性，治理问题也变得更加尖锐。一篇关于智能体人工智能治理的批判性综述主张，自主性不应超过证据的成熟度，也不应超过可问责的人类控制的强度，并提出一套共同的报告语言，即自主性等级 A0–A4、监督等级 O0–O4 与证据成熟度阶段 M0–M5，从而使具有重大后果的用途（A4：招生、评分、升学）需要可重复、与情境相关的验证以及持续的人类权威，而不是一个很高的基准分数。

教学安全

就教学安全而言，应当测量常规人工智能基准测试所遗漏的伤害：过度依赖、答案过度披露、误解强化、能动性丧失、元认知受到抑制、不平等对待、动机伤害以及教学错位。安全测试应当包含真实的多轮互动与学科特定情境，而不只是单一提示。教学安全综述与 SafeTutors 基准测试说明了为什么技术上“有用”或准确的系统仍然可能损害学习。实践者在一个彼此兼容的设计答案上趋于一致：在一项有六位中学教师参与的参与式设计研究中，教师们各自独立地设计出了“有边界的专家”，而不是自主智能体，即领域范围狭窄、在人类监督下运行的系统，其中领域边界、内容过滤与教师覆写构成三层保护。他们欢迎人工智能来呈现内容、提供练习并给出形成性反馈，但拒绝把目标设定或总结性评价委托出去，并把监督视为专业责任，而不是对技术的不信任。

方法上的三角互证

最后，应当把定量证据与定性证据结合起来。经过分解的定量结果可以揭示差异效应；访谈、观察、焦点小组以及参与式或共同设计方法可以揭示总体分数所遗漏的障碍、伤害、文化假设与学习者体验。AIED 研究方法综述明确把方法上的三角互证视为重要，因为没有任何单一方法能够同时最大化因果推断、生态效度、情境理解与可推广性。

对人工智能辅助分析本身如何得出结论保持透明，也是这项义务的一部分。可保证性（warrantability）提议主张，人工智能辅助的解读应当保持可审查、可争辩、可修订，并由诸如来源关联的主题表、视角叠加与证据流等产物加以支撑，从而使流畅的摘要无法掩盖产生它的分析路径。智能体人工智能综述还补充了一条纪律，即区分不同层面的结果：产物层面的结果（准确性、反馈质量）可以是学习者受益的必要条件，但从来不是其充分证据，而公平与院校层面的结果恰恰是证据最薄弱之处。

这与本知识库的契合之处

这些要求直接关联到旗舰页面面向教师的 10 项主要发现（第 9 与第 10 条发现）、如何回应关于教育中人工智能的常见误解？中的利益相关方反驳，以及AIED 研究空白中尚未满足的证据议程。关于认真对待这些约束的方法，参见评价人工智能干预：方法。