问答
关于高等教育中的人工智能素养干预,有哪些证据?
本页是英文页面的机器翻译,尚未经母语者审校。
教务长办公室要求到明年秋季每一条本科专业都带一项 AI 素养的学习成果,而桌上的方案是两小时工作坊加一个图书馆教程模块。或者一笔经费已经在你所在机构资助了“AI 素养”,而委员会第一次开会讨论的就是拿它买什么。屋里总会有人问,学生之后能做什么;而决定这个答案的是一场设计论证。
给那间屋子的答复,以及 高等教育领域证据的现状,是这样的:当学生在真实的学科任务里反复、与同伴一起批判 AI 输出时,素养会长;当他们只是被展示工具能做什么时,长得的少。干预文献的平均效应很大;围绕这个平均值的离散更宽,所以你的设计比你的主题更决定结果。信心调查测量的是接受度。如果你想声称素养,就去测一项表现。
简要版
1. 把素养放进学生本来就在上、本来就要被评分的课程里。
2. 让他们在看到模型的答案之前,先定下自己的答案。
3. 给批判本身评分,用你本来就用在这项任务上的量规。
4. 一个学期里做不止一次。
5. 用一项表现任务作为你的证据,把信心增益单独列一行。
围绕一次批判来搭序列
知识库中最强的课堂例子来自本科心理学。Richmond 与 Nicholls 让学生用自己课程的量规给一份 ChatGPT 生成的媒体通稿打分,指出错误,然后改写。学生普遍看得出文风很光滑,而内容曲解了研究目的、方法与发现。与上一届同伴评价的班级相比,AI 批判组在随后的脚本修订上略好(d = 0.36),在最终视频上没有显著优势(Using generative AI to promote psychological, feedback, and artificial intelligence literacies in undergraduate psychology)。
这些例子所属的文献依赖短程干预、自我报告和基于设计的工作,而这项研究带着其中两条局限。对照是历史对照,所以一个准备更充分的同期班级也会产生同样的模式。优势出现在中间作品上,在成品上消失了——如果这次批判真的教会了修订,这正是你会看到的。
Beck 与 Brodersen 把同一个动作装进了一门经济学课:学生先自己解决或解读一个真实问题,然后取得 ChatGPT 的回答,比较两者,批判 AI,反思,并与同伴讨论。他们的设计把 AI 素养折进课程本来就在跑的主动学习例程,例如 Think-Pair-Share。它的贡献是一份可迁移的教学设计,靠课堂使用而非实验支撑(Fostering Generative AI Literacy in Economics: A Hands-on Approach)。
放进学生本来就在上的课里
Hingle 与 Johri 的系统综述用 ICAP 框架给 AI 素养活动分类:被动接触、主动操作、建构性生成、互动性共建。四种模式里都有干预,综述反对把 AI 素养缩减成一场单向的信息讲座(Systematic review of collaborative learning activities for promoting AI literacy)。它支持的实践正是你能装进一项作业里的:学生创造、批判、解释,并与同伴辩论 AI 输出。
北卡罗来纳州立大学的 AI 素养连续体描述了一条从尚未参与、不加批判地使用,经知情使用、批判性评价到改进的进阶,已在课程和工作坊中向 330 多名参与者实施(Beyond Tool Adoption: A Practical Five-Stage Developmental Continuum for AI Literacy in Higher Education)。它的观察提示了一种分化:短暂的体验把学生推向知情使用,而批判性评价与改进主要出现在持续的、嵌入学科的工作中。它没有经过验证的前后测,也没有对照组,所以这是基于实践的证据。
教师教育从另一个角度显示出同一个上限。Le 等人的基于设计干预在 14 名硕士生中试行,并在 29 名教师教育学生中评估。报告的 AI 能力自我效能上升,学生对生成式 AI 的教学教学考量转向更具批判性,而伦理上的增益只达到边缘显著。这种规模的小型基于设计研究无法确立能力(Development and evaluation of artificial intelligence literacy training for teacher education students)。
测量学生能做什么
一项含 59 项研究的三层元分析(172 个效应量,7,211 名参与者)给出了目前最清楚的定量估计:总体效应很大(g = 0.837,p < .001)。95% 预测区间从 -0.292 到 1.966——当有人问这项干预在你的项目里管不管用时,要引用的就是这个数字。两个调节变量显著。东亚和欧洲的干预优于北美的干预;以知识为焦点的干预优于针对技能、态度或伦理的干预。混合式或反思性教学法、生成式 AI 支持的工具、以及表现任务型结果,出现了更大但不显著的效应。
作者把自己的结果读成一个论证:应当越过知识,走向技能、实践、伦理和态度,途径是整合的反思性教学法与文化相关的设计。对一个委员会来说,两条含义就够了。你测量的结果塑造你发现的效应,所以要挑你真正在意的那个结果。这么宽的预测区间,正是在论证应当先做本地试点。
测量是大多数项目主张失败的地方。经过验证的 GLAT 表现测试预测了学生在 AI 辅助的高等教育任务上的表现。一份自我报告的 ChatGPT 素养测量则没有(GLAT: The generative AI literacy assessment test;How to Assess AI Literacy: Misalignment Between Self-Reported and Objective-Based Measures)。在整座知识库里,自报的 AI 能力与展示出来的 AI 能力差距很大,这使教育测量和评价效度成为设计的一部分,而不是评估里的事后补充。
Burriss 等人把“算什么”说得更清楚。他们对 22 名十一年级学生制作关于 AI 伦理的视频公益广告的研究主张,现有的素养量表和能力框架都假定表现可以被个体单独测量,而这排除了协作性与创造性的表达。他们提出用学生反思、多模态作品和公共话语作为常规测量的补充。他们的学生通过协作的批判性教学法发展出批判性的 AI 伦理理解,这挑战了把素养当作技能清单的观念,也挑战了建立在其上的工具。18 份单元末回应中有 15 份确认了新的学习,作者也指出这个项目抗拒传统的终结性评价("Young Scholar[s] on the Beat": Multimodal composition as a form of critical AI literacy pedagogy)。
接受度测量是另一个陷阱。Wang、Chuang 与 Wu 在 831 名台湾 K-12 学生和教师使用一份按年龄分层的 AI 素养指南约 30 分钟后做了调查,发现一个稳定的四因子接受度结构。感知趣味性是行为意向最强的相关项。该研究测的是短期接受度,不是学习收益、伦理能力或实际使用;作者声明接受度构念“不得被用来推断学习效果或实施成功”(Measuring Acceptance of Age-Tiered AI Literacy Guidebooks: A Developmentally Informed Study of K-12 Students and Teachers)。
为教学修不好的那些错误做准备
把学生训练得更会写提示、更会用 AI,并不会让他们成为可靠的批判性使用者。在情境性谄媚实验中,AI 素养与提示训练降低了模型附和参与者推理错误的频率,而下游的错误传播在训练之后依然存在(The Hidden Cost of Contextual Sycophancy: an AI Literacy Intervention in Human-AI Collaboration)。
把它读作对课程所能承诺之事的一条边界。素养教育承担不了全部的安全负担,而一个声称它能承担的项目只是把风险挪了位置,没有消除它。工具设计和系统层面的保障仍要留在计划里。
从学生现在所在的地方开始
Şan 与 Orhan Karsak 用心理语言学式的词语联想法调查了 436 名土耳其本科生(1,376 条编码反应,评分者间 κ = 0.87),以此摸清学生如何表征 AI。联想聚集在工具性效用周围,便利(f = 145)和速度(f = 110)占主导。算法透明、隐私和治理概念很少出现,并且在结构上与那个效用簇相隔离(Kendall's τ = -0.819)。他们的论证随之而来:把一门伦理模块投进一个没有接收图式的认知结构里,很可能失败。课程需要从日常工具知识通向伦理与治理框架的明确桥梁,微证书则应当据此编排内容顺序,去补这个缺口,而不是重复学生已经知道的东西(Knowing its name, not its nature: Word association mapping of student AI cognition and evidence-based micro-credential design in Turkish higher education)。
一份情境化的叙述来自 Dai 与 Chan 对 28 名研究生研究者的七场焦点小组,他们在研究工作流中不均衡地使用 AI。在格式整理、翻译、解释这类低风险的流程性工作上使用更重,在涉及学术贡献的地方明显更谨慎。参与者自己在“协助推理”与“替代推理”之间划了界限。作者把AI 素养当作一种情境化的能力,而不是静态的能力清单,并建议在真实任务中脚手架式地支撑每一个维度,而不是执行二分的规则(Shaping responsible GenAI use in research through AI literacy-oriented guidelines: Insights from postgraduate students)。
发证之前先查这张证
证书与微证书是 AI 素养被大规模交付的地方,也是评估最薄的地方。Wu 与 Li 为 AI 证书项目建了一套专家加权的指标体系(AHP 与 Fuzzy-AHP,含蒙特卡洛校验,18 位专家)。教师的专业能力呈现出最大的“重要性—满意度”落差,感知重要性很高(0.1976)而当前满意度很低。他们的数据把教师能力置于技术基础设施之前,作为教学变革的首要约束。跨文化适应性得到的战略权重最低(0.0735),他们把这读作早期证书化中的技术优先偏向(Evaluation indicator system for AI certificate programs)。
随之而来的问题是该拿去问你自己的项目的那个:这张证书认证的是持久的素养,还是记录了一次出席?而教它的人,有没有资格做判断?
这批受众想错的地方
一场工作坊就是一套课程。连续体的观察把批判性评价与改进放在持续的、嵌入学科的工作里,而 Le 等人推动了自我效能,却没有确立能力。
信心是素养的代理。GLAT 的结果很直接:表现测试预测了任务表现,自我报告测量没有。
平均效应大,说明这个项目在这里也会有效。预测区间从 -0.292 到 1.966,平均值描述的是整个领域;你的这一批落在那个范围内的某个位置。
素养训练能让学生成为安全的使用者。在谄媚实验中,训练减少了附和,而错误传播完好无损。
素养是一项能跨工具迁移的技能。Dai 与 Chan 发现研究者在同一条工作流的不同环节划出不同的界限。
会有人这样回你
“课程里没有空间。” 把批判加到一项你本来就要评分的作业上,就像 Beck 与 Brodersen 把它折进已有的主动学习例程那样。单独开一门课成本更高,教的是同一件事。
“我们的学生是伴着这项技术长大的。” 对工具的熟悉,正是 Şan 与 Orhan Karsak 测到的东西:便利与速度,而隐私与治理在结构上被剥离在外。用得流利不等于理解它。
“直接给我们效应量。” g = 0.837,p < .001,来自 59 项研究,95% 预测区间为 -0.292 到 1.966。第二个数字才是支配你决策的那个。
“我们会在学期末调查学生。” 那你测到的是接受度。Wang 等人在 831 人的样本上明确说了这支撑不了什么。
“证书就是问责机制。” Wu 与 Li 发现教师能力才是绑定的约束,而跨文化适应性的权重最低。一张证书记录的是某人完成了某事。
“我们的教师还没准备好教这个。” 证据同意这一点。教师能力是 Wu 与 Li 数据里最大的落差,而本页没有任何研究检验如何补上它。
本周能做
1. 挑一项要评分的作业,加一个步骤:学生在咨询 AI 之前先产出自己的答案。
2. 按你现有的量规写出批判提示,让学生用你本来就在用的标准给输出打分。
3. 在学期稍后、同一门课里,把同一个活动再排一次。
4. 把一个期末的信心问题换成一道简短的表现任务,并给它评分。
5. 去问管你微证书的那个人:它接受什么样的能力证据,并把答案拿到书面上。
接下来读什么
我应该怎样把 AI 素养纳入课程?把设计问题带进课程规划。AI 素养 持有这个概念及其测量争论,研究空白页讲这批文献哪里还很薄。