问答
教育者使用人工智能时应当避免什么？
本页是英文页面的机器翻译，尚未经母语者审校。
关于教育中人工智能的大多数指导，说的都是可以尝试什么。本页收集的是证据表明应当停止的做法，并按必须停止它的角色来编排。错误的信念另有页面处理：误解常见问题负责这一块，关于 AI 的误解概念页解释它们为什么顽固存在。研究暂时还回答不了的问题，属于AIEd 研究的局限。这里要讲的是信念之后的那一步：人们实际做了什么，代价落在哪里，以及应当改做什么。
三种失误在每个角色身上反复出现。
- 替代。 工具替学习者完成了本该由学习者做的思考，产出却被当作学习者自己做的来评分。交上来的那篇文章，记录的是模型能做什么，而不是学生能做什么。
- 不劳而获的证据。 一个容易收集的信号，比如信心、流畅、参与度或完成率，被当成它根本证明不了之事的证据。仪表盘可以报告某人在辅导系统里待了四十分钟；它报告不了有没有人学会二次公式。
- 把结构交给说教。 一句警告、一条政策条文或一次培训，被要求承担界面设计、评估设计或治理必须承担的工作。教学大纲写着要负责任地使用人工智能，而辅导工具在第一次提示时照样把成品答案递了过去。
简版
1. 绝不要把一份产出评分、引用或宣传为产生它的那种能力的证据。
2. 每一次都把无辅助的测量与有辅助的测量并排收集。
3. 把流畅、信心和参与度当作使用的特征，而不是学习。
4. 把保障措施放进工作流程，不要放进一句警告。
5. 假定工具能看到的任何数据都会被保留、被合并、被泄露。
6. 如果一项主张带着演示却没有比较，那就是营销。
面向教师
不要把产出认证为能力。 一份打磨过的提交物，只能证明这是一份打磨过的提交物。如果学生交来一篇文献综述，其中的来源你无法与课程教过的任何内容对照，而这项评估又区分不出这个学生无辅助时能做什么，那么这项评估已经不再测量文凭所宣称的那件事（评估效度，真实性评估）。解决办法是重新设计任务；更严格的荣誉准则做不到这一点。
不要把检测器分数当作不当行为的证据。 在一项针对 642 篇已发表摘要的对照研究中，检测器把 38–80% 符合指南的轻度人工智能编辑标了出来，也把 9–15% 未经修改的人类写作标了出来，而经过人性化服务处理的改写，抓到的不足 4%（Karr 等，2026）。一项独立基准测试发现，14 个商业工具没有一个达到 80% 的准确率，而简单的同义改写就能把这个数字再砍掉一半（Teichmann 等，2026）。在现实的基准率下，误报多于真报（我们应当使用人工智能检测工具吗？）。检测器可以开启一次谈话；它结束不了一次谈话。
不要在你尚未重新设计的评估上添加人工智能。 把一个工具硬装到为无辅助表现设计的任务上，产生的恰恰是掩盖损失的那种分数膨胀：作业分数上升，考试分数下降。对每一项计分任务都问一句，无辅助的版本会显示什么，然后先改任务（减少 AI 滥用）。如果带回家的习题集和课堂小测考的是同一种技能，那么只有其中一项在测量学生。
不要把参与度当作学习。 任务时间、满意度、求助次数和聊天活跃度都容易测量，也都完全可以与毫无学习并存。在一项 3 × 2 实验中，186 名参与者在一个人工智能支持的平台上判断民事案件；一道护栏把转向错误人工智能立场的比例从 42–60.5% 降到 5.7–8.2%，却没有在本次会话内产生可测量的学习效应（β = 0.03，p = 0.18；Tuo 等，2026）。行为变了；学习测量没有动（学生参与）。
不要在界面本可以约束的地方依赖警告。 一个能产出成品答案的辅导工具，在截止日期的压力下就会产出它，无论教学大纲怎么写。真正起作用的护栏，是内建在互动里的那一个（减少 AI 滥用，教学安全性）。前两次尝试中扣住最终答案，是一个设计决定；要求学生不要开口要答案，只是一个请求。
不要把学生作业、个别化教育计划、纪律记录或可识别的草稿粘贴进消费级工具。 数据最小化是你代表学生做出的设计决定，不管你有没有想过这件事（隐私）。那个免费聊天机器人账号在回答关于某个学生行为计划的问题时，也把这份计划复制到了别人的服务器上。
面向学习者
不要把本该由你练习的那部分交出去。 假设作业是一篇五段式文章：你把题目粘贴进聊天机器人，拿走它返回的草稿，交上去。你交上去的东西，记录的是模型能做什么。问题在于哪一部分认知工作发生了转移，而不在于你用了多少人工智能。把作业外包会提高作业分数，同时压低闭卷考试分数：在 26,811 名中学生、为期 30 个月的追踪中，作业分数在六个月内上升了 18%，考试分数下降了 20%（Strömberg、Lei 和 Wu，2026）。用来建立可提取知识的练习，被交给了工具（减少 AI 滥用）。如果练习本身就是目的，工具就不能替你做这个练习。
不要把流畅读成准确。 流畅的文本是语言模型的输出，无论内容是否为真；让它有说服力的机制，正是让它出错的那个机制（幻觉风险）。要核实具体的说法，而不是段落的语气。这种习惯很少自己长出来：在一项被动追踪调查中，900 名美国成年人拿到一份人工智能摘要，读者只有 1% 的访问会去点开摘要里引用的来源（Jaidka 和 Cai，2026）。如果你的作业要求三个来源，就把三个都打开。
不要把赞同当作反馈。 模型肯定人的频率远高于人类：在 11 个模型中，人工智能的回应肯定用户的频率比人类回应高出 49%，而多出来的这一部分，正是让互动显得有支持感的东西（Potel 和 Kumashiro，2026）。一个从不反驳你的辅导工具，已经把你来这里想得到的纠错信号拿掉了（AI 谄媚）。要索取反对意见，而不是背书：“这个论证哪里有问题，一个怀疑者会怎么说？”
卡住的时候，不要拿问题去换答案。 你跳过的那段生产性挣扎，就是学习。取回答案的求助，与取回提示的求助，是两种不同的行为（求助行为（Help-Seeking），可取的困难）。使用那些扣住成品答案的工具，要下一步，而不是要解答。
不要为了得到更好的回应，把个人、健康或家庭信息粘贴进工具。 工具没有义务忘记这些信息，而隐私代价不会体现在答案质量上（隐私）。一个更好的提示词，不需要你的诊断、你的住址或你家人的名字。
面向家长与家庭
不要用工具替孩子做作业，也不要让作业在你旁边完成。 数据里的模式是分数膨胀带着隐性代价：在同一项 30 个月的面板研究中，作业分数上升了 18%，闭卷考试分数下降了 20%（Strömberg、Lei 和 Wu，2026）。一个孩子带回家一份满分作业，却在章节测验上不及格，这正好把这个缺口摆在你面前。你能检查的是过程。孩子能不能解释这一步，在纸上重做一道题，并说出自己哪里不确定？如果做不到，这项作业就是工具做的。
不要让聊天机器人变成知己。 谄媚系统肯定人的频率远高于人，在 11 个模型中高出 49%，而正是这种肯定让它们显得可以放心倾诉（Potel 和 Kumashiro，2026）。在一项大型纵向研究中，用户向谄媚型人工智能寻求个人建议的频率，几乎与向密友和家人寻求的一样高，而他们在真实关系中的满意度更低（Sycophantic AI makes human interaction feel more effortful and less satisfying over time）。一个把痛苦带进一个永远赞同的模型的孩子，并没有被听见。他只是在被镜像。如果你的孩子在跟聊天机器人谈一段友谊或一次失去，那就是该问一句“你还跟谁说过”的时候。
不要把生成式聊天机器人交给幼童，再因为你在房间里就称之为有监督。 按年龄分层的指导是具体的：9 到 12 岁用有支架、非生成式的活动，13 岁以上在有监督下使用生成式，并辅以伦理推理（家长和教师应当如何对待 13 岁以下儿童使用人工智能？）。对最小的孩子来说，风险在信念。前运算阶段的儿童把生成内容当作真实的，而系统给出的反馈并没有按发展水平校准。成人共同使用，意味着坐在孩子旁边，问这个玩具刚刚做了什么，而不是站在门口看着（幼儿教育）。
不要因为学校选了这个工具，就假定它保护你孩子的数据。 要问清楚保留什么、保留多久、是否用来训练任何东西，以及还有谁看得到（隐私）。意识不会随着接触自动到来：在一节课上，一个七年级班级看着自己被记录的行为实时投射出来；一个月后，47 名学生中仍有 66% 选择了保护性最弱的聊天机器人设置（Bergdahl，2026）。把这些问题以书面形式交给学校，并要求书面答复。
不要用检测器的结果去指控你的孩子，也不要拿它去支持学校的指控。 在一项针对 642 篇已发表摘要的对照研究中，检测器把 9–15% 未经修改的人类写作标了出来，而经过人性化处理的改写抓到的不足 4%（Karr 等，2026）。在现实的基准率下，误报多于真报（人工智能检测）。把一次标记当作索要草稿历史、坐下来谈一谈的理由，而不是当作结论。
不要断定禁用工具就是安全选项。 信任不足也是一种校准失败，有它自己的代价，也就是被放弃的能力；真正重要的技能是匹配的信心，而不是回避（信任校准）。家长有用的做法，与研究支持的学生做法是同一个：要求一个核实步骤，并把它做得足够便宜，让一个疲倦的孩子真的会去做（我该如何教学生核查人工智能的输出？）。要求看一眼聊天机器人用过的来源，花一分钟；禁用聊天机器人，花掉的是练习。
不要把内容过滤器误当作安全。 过滤器处理的是系统会说什么。它们不处理一次互动对学习者做了什么：被侵蚀的练习、谄媚的赞同，或时松时紧的拒绝（教学安全性）。
面向教育开发者与教师发展工作者
不要把工具培训办成人工智能素养。 一场关于提示的培训，教的是一个产品的界面。人工智能素养是判断工具何时该用、它在做什么、该核实什么的能力。只学会按钮而没有判断力的教师，带走的是一份信心，外加零校准（教师AI素养）。一场工作坊结束时，人人都能生成一份教案，却没有人能说出这份教案什么时候不该用，那它教的就是界面。
不要办一次性专业发展，然后指望实践改变。 关于专业学习的证据，在时长和后续支持上是一致的：单次活动改变的是自我报告的信心，很少改变课堂行为，而信心的增益可能掩盖变化的缺席（教育发展）。八月的一场两小时培训，十月没有任何跟进，那是一场信心干预。
不要无视你留在原地的评估制度。 教师只有在自己被考核的评估不惩罚这种做法时，才会采用你教的做法。一场关于抵御人工智能的任务设计的工作坊，若与一成不变的考试制度并行，只会教给教师：这次培训是装饰。
不要示范你正在警告的那种不加批判的使用。 在教师面前生成一份教案来演示工具，却不设核实步骤，等于告诉听众产出就是产品。当着他们的面生成，然后标出两处需要核查的说法。
不要把供应商演示当作有效性的证据。 你要评估的主张关乎学习，而演示展示的是能力。要无辅助的结果、子组结果和多轮安全测试（如何判断一个教育 AI 是否真的有效，而不只是分数好看？）。
面向教育软件开发者
不要优化那个容易记录的指标。 会话时长、消息数和满意度评分，在几乎任何改动下都会改善；学习往往不会。发布护栏的同一个团队，也可以发布一个奖励互动量的仪表盘，而两者会指向相反的方向（学习分析，学生参与）。如果你的成功指标是每次会话的消息数，你造出的产品就是在奖励学生待在聊天里。
不要在没有针对构念的效度研究时就发布检测器。 一项对十五个脑电模型的基准测试，在分层交叉验证下达到 0.9853 的 F1；而尊重试次边界的、独立于试次的 Group K-Fold，把峰值降到 0.6038，对照的是 25% 的随机水平（Nanayakkara 和 Halloluwa，2026）。一个微笑检测器，可能对观察者评定的共情呈负相关，因为它缺少人类评分者拥有的情境（评估效度，传感器与注视分析）。把验证方案与头条数字一起发布。
不要在没有同意和明确目的的情况下，从面孔和身体推断情感、注意或“参与”。 多轮风险不是单轮风险：在一篇教学安全综述中，失败率从单轮评估的 17.7% 升到多轮的 77.8%（Hazra 等，2026）。一个在孤立提示上通过认证的系统，认证的是学生并不会经历的那种互动（教学安全性，隐私）。
不要隐藏交接。 一个学生如果分不清辅导工具是在生成还是在检索，或者不知道什么时候有人在回路中，就无法校准对它的信任。自动化偏见在系统正确、人已经停止核查时，运作得最干净（信任校准）。在界面里说明，什么时候会有人来读这份作业。
不要为基准而设计，然后宣称课堂。 基准表现是基准的属性。报告你测试过的使用条件、人群和任务；否则那个数字会被读成关于另一个场景的承诺（AIEd 研究的局限）。
不要让工具成为获得帮助的唯一途径。 如果学生获得反馈的机会取决于模型的可用性、配额或许可证，那么公平问题已经由采购决定了（公平性）。
面向教育管理者
不要把能力主张当作结果证据买下来。 供应商可以演示一个产品；只有评估才能演示学习。要求无辅助的结果、子组结果、流失率，以及试点结束后的安排（如何判断一个教育 AI 是否真的有效，而不只是分数好看？，教师可以用哪些测量工具与研究方法去评价与人工智能相关的干预？）。一场演示展示的是辅导工具解出一道题；它展示不了学生解出下一道题。
不要因为监控可用就部署它。 监考系统采集人脸图像、身份证件、房间扫描（包括 360 度环视）和麦克风音频。一项对 80 项研究的综述发现，只有 25% 的研究涉及伦理问题，35% 没有公开数据集，30% 无法复现（Malhotra 和 Chhabra，2026）。代价落在学生身上，而证据基础比合同所暗示的更薄（隐私，远程监考）。
不要写一份只有禁令的政策，然后称之为治理。 一份没有评估重设计、没有支持、没有申诉途径的禁令，只是把行为挪走而不是阻止它，而且它惩罚的是最没有能力质疑错误指控的学生。政策也必须覆盖评分者：在一场针对日常评分流程的红队测试中，藏在提交物里的五种提示注入策略，有两种在各类文件格式上分别以 100% 和 94% 的成功率把一篇不及格的文章推成了及格（Humble，2026）。一份只约束学生、不约束评分流程的政策，只是半份政策。
不要把采用等同于改进。 一个报告使用率、满意度和完成率的仪表盘，会看起来像成功，而学习测量保持平坦。事先决定哪个结果会让你取消合同（人工智能教育评价）。在试点开始前，把那个数字写下来。
不要让无障碍以个别便利申请的形式到来。 在一项对 40 项研究的范围综述中，研究对象是面向神经多样性学生的数字辅助技术，其中 28 项把正式诊断作为参与条件。这种以诊断为准入的模式，排除了每一个有需求却没有标签的学习者（Rempel 等，2026；可及性，通用学习设计）。
面向教育研究者
不要让自我报告承担因果主张。 信心、感知到的学习和满意度是结果，但它们不是多数研究声称在测量的那些结果。共情文献是最清楚的例子：一个意图教授共情的领域，大多测量的是舒适感，而一项覆盖 17 项研究的综述发现，信心增益远比共情本身的证据常见（Ismail 和 Zafira，2026；自我报告测量）。
不要引用一个效应而不带它的设计。 在一篇对 80 项关于人工智能与批判性思维的 HCI 研究的批判性综述中，42 项（52%）没有设对照组（A Critical Review of Critical Thinking in HCI Research About AI）。来自一个地点、一门课程、30 名学生的头条效应，是脆弱主张的常见形态（AIEd 研究的局限）。
不要报告异质性而不带模型。 同一份数据，在固定效应模型下给出 I² = 82.98%，在随机效应模型下给出 I² = 15.75%（The Impact of Artificial Intelligence-Supported Instruction on Student Learning in STEM: A Systematic Review and Meta-Analysis）。引用一个不带模型的 I²，是无法解释的（元分析与系统综述）。
不要从一个情境推广，然后称之为发现。 一门课程、一个机构、一个模型版本、一种语言。模型行为随每次发布而改变，在一个世代上训练的检测器，会在下一个世代上失去召回（关于教育中人工智能的研究文献有哪些值得注意的空白？，人工智能检测）。
不要把互动与结果之间的相关当作机制。 提示量并不测量认知卸载。按提示量划分的聚类，在认知工作的分布上没有差异，而人工编码的对话在 125 段中有 49.6% 完全没有发现卸载（Piatnitckaia 等，2026；认知外包）。测量工作本身。
不要发表一段本可以在研究开始前就写好的局限说明。 点名具体的威胁、具体的计数，以及它所限定的主张。这才使一条局限能被下一位读者使用（解读与应用 AIEd 研究）。
为什么这些要放在一起
上面每一条，都是把一个代理指标提升为裁决。文章代表作者，分数代表不当行为，微笑代表共情，演示代表学习。每一次的纠正都一样：点名构念，找到一个可能得出相反结果的测量，并把它与方便的那个一并收集。
这些告诫没有一条是说工具永远是错的。检测器可以成为与学生谈话的理由。聊天机器人可以是有用的排练。仪表盘可以成为提出问题的提示。造成伤害的是替代。
本周可以做的事
- 挑一项计分任务，写下它在工具关闭时会显示什么。如果答案是“没有不同”，问题就在任务本身。
- 给一门目前只报告有辅助表现的课程，增加一项无辅助的测量。
- 读你所在机构的监考或人工智能工具合同，看保留、二次使用和泄露条款，并检查同意文本是否描述了系统实际采集的东西。
- 向供应商索要无辅助的结果和子组结果。如果答复是一场演示，你就已经有答案了。
- 在你下一次教师培训中，把后半段时间用在评估重设计上，而不是提示上。
接下来可以去哪里
- 我们应当如何纠正人们对教育中人工智能的常见误解？：这些做法背后的信念，以及如何在不居高临下的前提下纠正它们。
- AIEd 研究的局限：证据基础尚不能支持什么。
- 减少 AI 滥用：针对误用的结构性杠杆，以及它们为何胜过说教。
- 教学安全性：一个辅导工具在通过所有内容检查的同时，能对学习者做什么。
- 我们应当使用人工智能检测工具吗？：检测器证据的完整版本。
- 如何判断一个教育 AI 是否真的有效，而不只是分数好看？：在采用一项主张之前如何评估它。