我该如何教学生核查人工智能的输出？

本页是英文页面的机器翻译，尚未经母语者审校。

正是成绩截止前的那一周，两份提交引用了并不存在的来源。两个学生都说自己查过。一个点开了链接，另一个读了那段话，觉得听起来是对的。你已经在这个班说过要核实聊天机器人给的东西，而“说过”并没有产生行为。

核实是一套可以写进作业的流程。在任务开始前就确定什么算正确，让学生用书面形式先给出预期，把他们送到记录本身而不是他们对文字的印象那里，然后评他们产出的那份记录。量规里写一句“核查了来源”，以上这些一样都没测到。

简版要点

1. 先写好参考答案。核查需要有东西可以对得上；而多数核实类作业从未定义“正确”是什么意思。

2. 要求学生在输出出现之前先做预测，这样工具还没来得及覆盖，学生的推理已经在纸上了。

3. 说清每次核查的对象：作者名单、发表场所、年份、那个具体数字、那个具体步骤。“确保它是对的”不是核查。

4. 把机器能跑的检查和只有读者能做的判断分开，并教学生知道自己正在做哪一种。

5. 按参考答案评那份记录，而不是按努力评，这样“表演式核查”不得分。

6. 把核查排进任务内部。时间压力是文献记录的、学生跳过核查的原因。

在任何人动手核查之前先确定什么算正确

Wei 与 Shang（2026）在综述 493 条去重记录、梳理 14 项优先实证研究后，把被“批判性地使用 AI”这一说法压成一件事的东西拆成七件：认识论评价、核实的启动、过程质量、核实成功、依赖决策、当下任务表现，以及独立学习。你的量规写着“核查了来源”，它落在第二步，对这次核查是否胜任、是否改变了学生的答案，一个字都没说。启动不等于成功。强的过程可能得出无结论的结果，弱的过程可能碰对答案，而一个搜了一次仍然困惑的学生，与一个把问题解决了的学生得到同样的分。

同一篇综述还划了第二条线，在信任与依赖之间。依赖校准问的是：在输出实际质量既定的情况下，这个依赖决策是否恰当——这把判断系在某一个决策和某一份输出上。一项经过审计的研究发现，ChatGPT 的错误信息改变了参与者自报的信任，却从未记录他们后来是否接受了某条具体建议。另一项研究记录了 78 名翻译专业学生对 ChatGPT 反馈的接受与拒绝决策，但没有独立的专家评价，一次接受就不能被称为恰当，一次拒绝也不能被称为有据。没有关于输出质量的基准真相，依赖根本无法分类。

这就是设计上的后果，也是首先要修的东西。在布置核实任务之前，写两段简短的描述：对这项任务来说，正确的输出长什么样；看起来合理但实际错误的输出长什么样。各写一个就够。学生于是有了可对照的标准，你也有了除“学生听起来是否仔细”之外的东西来评这次核查。

让学生在工具作答之前先表态

Gousopoulos（2026）围绕先预测，再运行搭建了一套测量方案：学习者先说明应该发生什么，然后按学科依据判断产物的行为是否符合那个预测，而不是看它能不能跑起来。推理先于输出存在，这正是它可以被评分的原因。

他对 24 项研究的审计发现，同一个工具在不同的任务结构下会产生相反的结果。常规的 ChatGPT 使用条件在成绩、自我效能感和心流上都显著更低，而一个加入核实要求与错误反思模块的条件显示出更强的高阶思维。工具在这些条件之间是恒定的。变化的是：任务是否要求学生持有一个可能被工具反驳的立场。

落到实践中，就是作业说明上的一行字：打开工具之前，先写下你预期它会说什么，以及为什么。然后对比。两个学生可以写出同一段文字，而只有其中一个能说清这段文字在哪儿偏离了自己的预测。

把他们送到记录那里

Denny 等（2026）追踪了 2021 年以来发表的 5,225 篇计算机教育论文中的 113,588 条参考文献，并人工核实了 828 条可疑记录。他们发现 30 条含有可验证为捏造的文献信息，分布在 14 篇论文中，全部来自 2025 和 2026 年。其中 13 条完全凭空编造。另外 17 条把真实标题与捏造或错误的作者、发表场所或年份拼在一起。在 SIGCSE 技术研讨会上，这个数字从 2025 年论文集的 3 条上升到 2026 年的 17 条，占当年论文集论文的 2.3%。

作者字段比生成参考文献的任何其他部分都更容易出错。仅这一项发现就告诉你该要什么。“打开来源，读作者名单”瞄准的是最可能出错的字段，它产出一个学生要么有、要么没有的事实。“确保来源是真的”产出的是一句保证。要求学生对记录本身核对作者、发表场所和年份。该论文要求每一处被引用的作品都经过核实，并要求任何自动检查器保持在人在回路中——而这正是引用要求所排练的习惯。

把机器能跑的检查和只有读者能做的判断分开

Venetsanos（2026）为“什么可以由机器检查”设了一道可辩护的门槛：有书面记录的标准、与既有知识比较而不作解释性判断、以及单一正确答案或事先指定的可接受替代答案。日期、公式、引用和计算过得了这道门槛。任何解释性的东西都过不了，在那里，学生自己的阅读就是核查的工具。

Gousopoulos 把同一切分形式化为一个带两个独立参数的信号检测问题。敏感度是区分正确与有缺陷输出的能力；标准是学习者把拒绝的阈值设在哪里。过度依赖沿着这条线分开。警告、清单和幻觉提示改变的是标准，也就是改变学生何时拒绝。学科教学、示例对比和预埋错误练习提高的是敏感度，因为学习者从此能分辨。一个接受有缺陷输出的学生，可能有标准问题，也可能有敏感度问题，而两者需要不同的教学。

前提条件让人不舒服。核实教学只有在敏感度可能大于零的地方才有教育意义，而那需要足够的学科知识来区分正确与错误的输出。在同一份审计中，被要求解释 大语言模型（LLM） 生成代码的新手在约三分之一的任务上成功，所以用自己的推理去判断 AI 反馈或代码，只有在那个推理有实质内容时才是真正的核查。如果你的学生还不能独立完成学科思考，更多的警告什么也换不来。先教内容，再把核查挂在内容上。

设计里还该有另一条警告：减少不当接受的干预，也必须检查它是否带来了对正确帮助的意外拒绝。要给学生留出余地，让他们能基于说明的理由接受好的输出。

评这次核查，但不要把它变成监视

Gousopoulos 直接推出了后果。如果 AI 能产出那件产物，产物就不能是评价对象，于是评价转移到规格说明、验证推理和解释上。他的模型作者身份构念有四个面向——规格、概念模型、核实和解释——分四个有序层级，从“委托”到“作者”。作者层级要求：第一条提示之前有一份可验证的规格，基于学科依据并说明理由地拒绝输出，以及超出产物自我报告范围的解释。

量规依托的是建构类任务本来就会生成的材料，所以同一件工具既是形成性评价，也是研究测量工具。这回应了“白费功夫”的担忧：你评的是你本来就布置的作业的副产品。旁边要放两条限制。在 Wei 与 Shang 的 14 项优先案例中，没有一项同时测量核实成功与随后的依赖决策，也很少有研究在即时表现之后追踪延迟保持或迁移，所以这套量规依托的是一张分析地图，而不是一条经过验证的因果链。

有三个决定可以防止它变成监视。按裁决过的质量而不是努力来评这次核查，否则你就在激励“表演式检查”。说明来源，如 Venetsanos 所要求：学生需要知道他们收到的反馈里哪些部分是机器核实的、哪些是评价性判断的，以及人的判断具有优先性，因为对于无法定位的反馈，他们无法权衡。还有，把执行环节与检测工具脱钩。Bassett 等（2026）主张AI 检测根本不应被用于教育：它的估计是概率性的，而且因为现实世界的文本来源未知而无法被独立验证；它的分数达不到诚信调查所要求的“概率权衡”标准；而对“与 AI 合作而非由 AI 创作”的作品来说，人与 AI 的二分毫无意义。他们的结论是，检测“并不保护学术诚信，而是在损害它”。监视体制滋生怀疑，侵蚀学生的信任。要把检测的两层意思分开。检测 AI 生成的文本在这里没有任何可辩护的证据作用；教学生检测 AI 输出中的错误，才是整件事本身。

这种分离是架构层面的，也值得告诉学生。Li、Zhang 与 Botelho（2026）用第二个模型来检查输出，而不是把检查嵌进生成器里。看懂了这一点的学生，也就看得懂为什么“工具说它是对的”不构成核实论证。

如果你是课程设计者而不是授课教师

上面有三项发现属于课程建设层面，单打独斗的教师到不了那里。

第一项是诊断。跑一次预埋错误任务：二十道题，其中八道含有学科层面的错误。它告诉你，在你花一个学期去教一条学生用不上的标准之前，他们到底有没有分辨能力。一个漏掉预埋错误的班级需要复习内容，无论大纲上怎么写“批判性使用”。

第二项是警告放在哪里。Vu、Cummings 与 Park（2026）在两项任务开始前，向 100 名在美国的学生（40 名本国学生、60 名国际英语学习者）展示了一条通用预警信息。被“预灌”的学生在学术来源摘要任务上显著更可能去核实（M = 0.34 对 0.18），而自报的核实意向没有变化。效应还依赖任务：它在来源摘要任务上出现，但在一次关于指数运算和大数乘法的数学测验上并不一致出现。把警告放在使用现场、按任务类型给出，而不是在大纲或入学模块里说一次。

第三项是排期。一份没有给核实时段的大纲等于说它是可选的，而时间压力是文献记录的、学生跳过核查的原因。长在任务内部、附着一件要交的产物的核实会发生；长在政策段落里的核实不会。

如果你是正在读这一页的学生

四个动作覆盖了研究对你的大部分要求。

在提示之前写下你的预期。一句话说明答案应该是什么，然后拿输出去对照。

打开来源。对着记录核对作者名单、发表场所和年份，因为作者字段是生成参考文献最常出错的地方。

对任何解释性的内容，用自己的话写下理由。捏造的理由和捏造的引用一样容易被看出来。

不要信任“读起来很顺”的感觉。被要求解释 LLM 生成代码的新手在约三分之一的任务上成功；一项关于学生与 ChatGPT 测验对话的实地研究发现，即使遵循了正确的引导，仍然产出了错误答案。你能核查的范围，比你能读的范围窄。

教师容易搞错的地方

“我已经告诉过他们核查来源。” 一句警告要求的是某种性情。细心的学生有，匆忙的学生没有；而晚上 11 点、屏幕上摆着一份读起来通顺无比的输出时，那句话里没有任何东西是学生能照着做的。

“量规里写一条核查来源就够了。” 那条只落在启动上，对过程质量或成功什么都没说。搜了一次就放弃的学生，与把问题解决了的学生得分一样，所以量规奖励的是姿态。

“只要仔细读，他们就能发现错误。” 流畅感会替判断做主。经审计的文献显示，新手在解释生成代码上成功率约为三分之一，而实地研究记录了一次经由正确引导却仍然出现的错误答案。

“说会核实的学生，真的会核实。” 在 Vu、Cummings 与 Park 的研究里，自报意向没有变化，而实际做出的行为变了（M = 0.34 对 0.18）。评那个变了的行为。

“跳过核查的学生是不在乎的学生。” Jaidka 与 Cai（2026）把核实能力与核实动机交叉起来，不同的画像需要不同的补救。能力高、动机低的学生容易陷入自满的过度信任。能力低、动机低的学生暴露最严重。两个在同一项核查上失败的学生可能需要相反的教学，而先前知识决定你面对的是哪一个。

“多给些警告就能修好那些分辨不出的学生。” 警告改变的是标准，不是敏感度，而敏感度才是把能看出缺陷的学生和看不出的学生分开的东西。

“检测器能撑住政策。” 依据上面的证据，检测器分数达不到诚信案件所需的标准，人／AI 的二分对与 AI 一起做出的作品不成立，而这套体制会消耗掉你让学生愿意披露任何东西所需要的信任。

你会听到的反对意见

“他们为了分数照着做就行了。” 部分属实，所以去评那些 AI 无法替学生产出的材料。第一条提示之前写下的规格说明、产物运行之前记录的预测、对着记录核对过的来源清单、拒绝时给出的学科理由：每一项都要求学生持有一个生成器无法提供的立场。捏造的理由和捏造的引用一样容易被看出来。在学生没有学科知识可供核对的地方，核实就是表演，没有量规能救，这恰恰是“先教内容”的理由。

“大纲里没有时间。” 预警是任务前的一条消息。预埋错误任务复用的是一次你本来就会给的测验。量规依托任务本来就会生成的材料，所以它花的是批改时间，换来的是你否则不会有的证据。替代方案代价更高：未核实的提交、捏造的参考文献，以及之后那些诚信谈话。

“工具通常是对的。” 那么核查很便宜，而例外才是重点。作者字段比生成参考文献的任何其他部分都更容易出错，30 条捏造条目里有 17 条把真实标题配上了错误的作者、发表场所或年份，而有 17 条出现在同一年的一本研讨会论文集中。你碰巧注意到的那部分的准确率，说明不了你没注意到的那部分。

“我的学生知识不够，判断不了输出。” 那就是敏感度门槛，它是真实存在的。Gousopoulos 预测核实教学在低于某个学科知识底线时会失败，并指出有些领域提供了外部标准——物理、化学、生态学和流行病学在其中——而历史、文学和伦理大体上没有。要么教好学科再把核查挂上去，要么就等着核查变成仪式。

“这是监视。” 如果你按努力评分，或盯着学生怎么工作，它就是。按答案评那件产物，说明哪些反馈是机器核对的、哪些是由人判断的，并且不把检测器放进来，它就不是。

本周可以做的事

1. 为你下一份作业写下那两段描述：一个正确的输出，和一个看起来合理的错误输出。这就是核查所依据的参考答案。

2. 加上预测那一行。一句话，在打开工具之前写，之后按学科依据对照。

3. 把“核查你的来源”换成“打开记录，确认作者、发表场所和年份”。

4. 在一次你本来就会给的测验里放进八个预埋错误，看看哪些学生找得到。

5. 拿参考答案评一件核实产物，并告诉学生这次核查的哪一部分失败了：标准、过程，还是决策。

下一步去哪里

我应当如何把人工智能素养融入我的课程？讲如何搭起本页所用的那层理解，关于高等教育中的人工智能素养干预，有哪些证据？讲那项素养工作值多少。我怎样才能让学生不过度依赖人工智能？处理依赖工具的学生在教学设计上该怎么做，我应当如何用人工智能来有效地学习？是面向学生的姊妹篇，当人工智能能够完成作业时，我们应当如何设计与促进异步在线课程？则处理没有课堂可排核查的那种版本。关于学生正在核查的反馈，见AI 反馈质量和幻觉风险。