教育领域的人工智能研究应当如何纳入公平、无障碍、隐私、伦理与教学安全？

本页是英文页面的机器翻译，尚未经母语者审校。

伦理审查方案周五要交。第 7 节讲伦理，写着“将监测风险”。招募借一门现有的一年级课程进行，局限那一段写着结果可能不可推广。评审小组会问：谁可能受益；残障学生能不能用这个东西；互动日志会被怎么处理；在你的数据里，一次有害的辅导回应长什么样。四个问题，而其中没有一个已经有对应的章节。

给评审小组的答案：公平、可及性、隐私和教学安全属于设计本身，也属于从初稿起就有的结果测量。每一项都会改变你招募谁、测什么、报告什么，所以趁方案还改得动，把它挂到一个决定上。

简版要点

1. 在收集数据之前就指名子组比较，并把它写进分析计划。

2. 把残障学习者请进设计环节，并测试真实的界面。

3. 把隐私取舍写下来，包括谁做了这个决定、谁能推翻它。

4. 在你本学科的情景里，跨整段对话测安全。

5. 把结果数据与访谈结合起来，并留下读者可以查看的痕迹。

问一问谁得到好处

数字鸿沟这个概念把接入、技能和结果三种鸿沟分开，这意味着用一个聊天机器人拆掉接入障碍，并不会自动产生公平的收益。要为第三种鸿沟做设计。报告子组结果，并检验差异化效果，而不是依赖总体平均值（不同学习者群体间的差异效应）。

一项对 45 所尼日利亚大学的比较研究（15 所联邦、15 所州立、15 所私立）显示了这些鸿沟如何叠加。总体AI整合程度为中等，M = 4.79（10 分制），范围 1.83-7.83。治理类型不能预测它（F(2,42) = 1.01, p = 0.372）。机构年龄（β = 0.43, p = 0.016）和位于西南部（β = 0.31, p = 0.029）能。内部能力彼此强化（r = 0.79-0.80），国际合作与产业伙伴关系相互叠加（r = 0.74），作者把这概括为“连接带来连接”。政策框架最弱（M = 4.09；只有 27% 的机构得分在 6 或以上），在正式战略与可操作的课程活动之间留下一个缺口。

由此有两点设计意涵。瞄准较新的机构和欠服务地区，因为类别并不决定能力。以及把更广的证据基础仍然遗漏的全球南方情境算进去。

让残障学习者进入设计室

把残障学习者纳入设计与评估，对照可及性要求测试真实界面，并提供等效的参与路径和展示学习的路径。技术合规与包容性教学是两场不同的检验，可及性两个都覆盖。

一项与社区学院学生、教师和开发者共同进行的价值敏感设计研究展示了这在实践中是什么样。它产出了 16 项价值对齐的功能，分布在可解释性（E1-E5）、人在回路控制（H1-H9）和隐私（P1-P4）之上，并且浮现出的是张力而不是干净的答案：透明与可解释、隐私与教学洞察、学习者能动性与系统引导的脚手架。要预期自己得去裁定这些张力，并记下你选了哪一边。

决定隐私取舍，并指名谁做决定

收集教学目的所需要的数据，让数据使用和系统限制保持透明，并让人为问责保持具体。公平、同意、偏见、可解释性、学习者自主，以及 AI 中介决定的后果，都是伦理的核心维度，而它们在实践中彼此冲突。学生想要对自己的学习分析数据和情感数据拥有控制权；教师想要可见性来支持学习。两种立场都站得住脚，这就是为什么这个决定需要一个具名的所有者。

当系统开始承担能动性，问题就变成结构性的。一项关于智能体 AI 治理的批判性综述主张，自主程度不应超过证据的成熟度，也不应超过可问责的人类控制的强度。它提出一套共享的报告语言：自主级别 A0-A4、监督级别 O0-O4、证据成熟度阶段 M0-M5。有重大后果的用途（A4：招生、评分、升学）要求经过复现、与情境相关的验证，以及持续的人类权威，而一个高的基准分数既代替不了前者，也代替不了后者。

测那些基准测不到的伤害

教学安全意味着测量基准不会测的东西：过度依赖、答案过度披露、误解强化、能动性的丧失、元认知被压制、不公平对待、动机伤害，以及教学错位。在学科特定的情景里测多轮互动。教学安全综述和SafeTutors基准说明了为什么一个看起来准确的系统仍然可能损害学习。

实践者在一个兼容的设计上收敛了。在一项与六位中学教师的参与式设计研究中，教师们各自独立地设计出“有边界的专家”，而不是自主智能体：一个狭窄的领域、人类监督，以及三层保护——领域边界、内容过滤和教师否决权。他们欢迎 AI 用来呈现内容、提供练习和给出形成性反馈，而拒绝把目标设定或终结性评估交给它。他们把监督框定为一种职业责任。

混合方法，并展示从数据到主张的路径

拆分的定量结果能揭示差异化效应。访谈、观察、焦点小组和共同设计能浮现总体分数看不到的障碍、伤害、文化假设和学习者体验。AIED 研究方法综述把三角互证视为必要，因为没有任何单一定性或定量方法能同时最大化因果推断、生态效度、情境理解和可推广性。

你自己的分析需要同样的纪律。可辩护性提案主张，一个 AI 辅助的解释只有在随附可核查产物时才保持可查看、可质疑、可修订，比如来源链接的主题表、视角堆叠和证据河流。一份流畅的摘要不应该掩盖产生它的那条路径。

也要把结果层级分开。那篇智能体 AI 综述把产物层面的结果（如准确性和反馈质量）与学习者收益分开。产物结果可以是必要的，却从来不是充分的，而公平与机构层面的结果才是证据最薄的地方。

这类读者容易搞错的地方

公平就是接入。数字鸿沟概念把技能和结果与接入并列，而 Adeniranye 的研究发现能力随机构年龄和地区而不同，治理类型则什么都预测不了。

可及性就是界面上的清单。那项价值敏感设计研究浮现出的可解释性与解释力之间的张力，没有任何清单能解决。

隐私就是一张同意书。那项设计研究发现学生和教师想从同一份数据里得到相反的东西，而治理综述把自主与证据成熟度绑在一起。

安全就是模型拒绝有害请求。教学安全涵盖过度依赖、误解强化和能动性丧失，而拒绝测试碰不到这些。

单一方法就能回答问题。方法综述明确指出，那四种属性彼此之间是此消彼长的。

你会遇到什么反弹

“我们会在讨论部分处理公平。” 那样你的分析计划就测不了它。现在就指名子组比较，否则发现会在数据关闭之后才到。

“我们的样本做子组分析太小了。” 那就说明它能支持什么，并报告样本里有谁。一个样本量不足的子组零结果，不是公平的证据。

“可及性测试是残障事务办公室的事。” 他们的审查覆盖合规。学习者能否在你的活动内部展示自己知道什么，是一个设计问题，上面那项设计研究把学生请进房间，正是为此。

“数据已经去标识化了，所以隐私已经处理好了。” 那项设计研究里的张力是关于控制和可见性，而不是标识符。学生想知道谁看得到自己的情感数据、为什么看。

“我们的安全套件通过了。” 在第几轮通过？SafeTutors 发现教学模型在长对话中退化，而长对话正是你的学生实际会用的长度。

本周可以做的事

1. 在分析计划里加一段子组说明，指名哪些组、哪个结果。

2. 在界面定稿之前，安排一次与残障学习者或支持他们的员工的设计会。

3. 把隐私决定写成一句带所有者的话：收集什么、谁看得到、谁能叫停。

4. 用你的学科草拟十个对抗性对话回合，拿去跑一遍系统。

5. 往分析文件夹里加一件可查看的产物，比如一张来源链接的表，或一组编码过的摘录。

接下来可以去哪里

评估 AI 干预：方法是讲测量与设计的姊妹页。给教师的十大发现在第 9 和第 10 条发现里承载了这些约束，回应关于教育中 AI 的常见误解处理利益相关方的反对意见，AIED 的研究空白列出证据缺失的地方。