Op deze pagina
Wekelijkse update over AIEd-onderzoek #1
Automatische machinale vertaling van deze Engelse pagina, nog niet nagekeken door een moedertaalspreker.
Een wekelijks overzicht van de Kennisbank over AI in het onderwijs, over wat het onderzoek dat in de afgelopen week verscheen betekent voor docenten, ontwikkelaars, onderzoekers en bestuurders.
Deze week kwamen er 71 nieuwe studies en twee nieuwe bronnen bij, waarmee de kennisbank op 1.805 samenvattingen van artikelen, 220 conceptpagina's, 37 FAQ's en 33 bronnen komt. Zoek of gebruik AI om met de kennisbank te chatten.
Inhoud
- Belangrijkste punten en vragen
- Voor docenten
- Voor ontwikkelaars
- Voor onderzoekers
- Voor bestuurders
- Concepten in de schijnwerpers
- Nieuwe bronnen
- Deze week ook toegevoegd
- Notities over de site
- Volg de update
Belangrijkste punten en vragen
Beide kopresultaten van deze week zeggen hetzelfde: een score is niet de uitkomst. Een trial met drie armen tilde oefenscores van 29,85% met het open web naar 71,84% met onbeperkte ChatGPT, terwijl conceptueel leren helemaal niet verschilde, dus een hoger cijfer met AI-toegang is geen bewijs dat studenten meer leerden. Dertien detectoren markeerden door mensen geschreven manuscripten met percentages van 0% tot 100% na één enkele proefredactie, dus een detectormelding is geen bewijs van wangedrag.
- Tilt de tutor die het huiswerk optilt ook het tentamen op? Een gerandomiseerde trial zette een bewijstutor voor studenten en mat daarna een tentamen dat zonder die tutor werd afgelegd.
- Als een inzending er goed uitziet, hoeveel ervan is dan van het model? Negenenvijftig chatlogs, vergeleken met het werk dat dezelfde studenten inleverden.
- Hoe vaak markeert een AI-detector tekst die een mens werkelijk schreef? Dertien detectoren, 135.389 documentparen waarin alleen de taal veranderde.
- Verbetert AI-spreekoefening het spreken, of één gemeten kenmerk ervan? Tien studies, zes CEFR-kenmerken, en vier studies die één holistische score rapporteerden.
- Bouwt het leren van studenten om feedback te gebruiken hun betrokkenheid op, of andersom? Een panel met drie golven dat de twee niet kan ordenen.
- Waar falen AI-tutors nog wanneer een student weigert, zich terugtrekt of escaleert? 923 dialogen opgebouwd uit casestudies van echte studenten, gescoord tegen wat praktijkmensen documenteerden.
- Is AI-governance in het onderwijs wet, richtlijn of wens? 160 documenten, waarvan vier een bindende vorm hebben.
Voor docenten
Een tutor kan het huiswerk optillen en het tentamen laten waar het was
Chen en collega's randomiseerden 153 studenten die bewijzen schreven aan Carnegie Mellon om een bewijstutor vroeg of laat te krijgen, en maten daarna een tentamen dat zonder AI in het lokaal werd afgelegd. Huiswerkscores stegen 2,56 punten zolang het hulpmiddel beschikbaar was. Tentamenscores verschilden niet. Zodra iedereen toegang had en de eigen dosis koos, ging elke 100 extra chatbotberichten samen met een 3,02 punten lagere score op het volgende tentamen, en studenten met een lagere self-efficacy bij aanvang waren degenen die het meest gebruikten.
Wat dat voor u verandert: een cijfer dat met de tutor open werd behaald, is geen bewijs van wat een student zonder dat hulpmiddel kan, dus de taak zonder hulp moet dat gewicht dragen. Het betekent ook dat de studenten die het meeste risico lopen om erop te leunen juist degenen zijn die er het minst zeker in gingen, wat zichtbaar is in het gebruik voordat het zichtbaar is in de scores.
Onbeperkt chatten blaast scores meer op dan een goed gebouwde tutor
In een trial met drie armen in een CS1-cursus in München besteedden 275 studenten 90 minuten aan een Java-oefening met een tutor die hints gaf, met onbeperkte ChatGPT, of met het open web. De oefenscores waren 71,84%, 57,50% en 29,85%. De conceptuele kenniswinst was 0,83, 0,71 en 0,85 punten, en het verschil tussen de condities was verre van significant (p = 0,773). Beide AI-condities verminderden frustratie; alleen de tutor verhoogde de motivatie.
De scoreverschillen gaan vooral over het artefact, niet over het leren. Als u de oefening beoordeelt, worden de AI-condities op een andere taak beoordeeld.
Door docenten gebouwde chatbots falen op intentie, niet op feiten
EduWild verzamelde 1.726 gesprekken van 217 door docenten geconfigureerde Playlab-bots, waaronder 900 van de studenten aan wie ze waren ingezet. Bots sloegen vereiste stappen in de workflow over in 53,8% van de gesprekken met eindgebruikers, stelden hun rol nooit vast in 33,4%, en overlaadden leerlingen met informatie of vragen in 37,1%.
Voordat u een bot inzet die u zelf bouwde of overnam, leest u de eerste beurt en controleert u of die zegt wat de bot is en wat er daarna gebeurt. De fouten die hier zijn gedocumenteerd zitten in de instructies, en ze zijn in de prompt te verhelpen zonder het model aan te raken.
Een detectoroordeel is geen bewijs
Een dataset van een redactieservice gaf Park en collega's 135.389 documentparen waarin auteur, onderwerp en inhoud gelijk bleven terwijl alleen de taal veranderde. Over 13 detectoren liepen de fout-positieven op door mensen geschreven academische tekst uiteen van 0% tot 100%, en dezelfde bewerkingen bewogen detectoren in tegengestelde richtingen. Afzonderlijk verloor een groep tijdelijke beoordelaars haar detector volledig omdat die grammaticacontroleurs markeerde, en zij lezen nu op verzonnen referenties en op het losraken van cursusmateriaal.
Als u een detectiescore aan een student hebt voorgelegd, en zeker aan een student die in een tweede taal schrijft, is dit de week om te stoppen met detectoren gebruiken. De op leesgedrag gebaseerde signalen uit de tweede studie zijn het praktische alternatief.
Beoordelingsontwerp is een keuze tussen drie beperkingen, niet het zoeken naar een principe
Pedlow, Fischer en Williams betogen dat het probleem niet een tekort aan ontwerpprincipes is, maar het ontbreken van een manier om te redeneren over de principes die elkaar tegenwerken. Hun dubbele trilemma behandelt authenticiteit, observeerbaarheid en haalbaarheid in beoordeling, en specificiteit, tijdigheid en werklast in feedback, als beperkingen die u bewust tegen elkaar afweegt.
Gevraagd om een beoordeling voor AI te herontwerpen, verandert dat kader een open vraag in een kort betoog dat u kunt vastleggen en verdedigen.
Spreekvaardigheidswinst van chatbots is ongelijk per kenmerk
Soriano-Gonzalez en Belda-Medina screenden 306 records tot tien studies en vroegen welke van de zes CEFR-kenmerken van gesproken taal werkelijk bewogen. Bereik en verstaanbaarheid verbeterden in elk vier studies, coherentie in één, interactie in bijna geen. Vier van de tien rapporteerden één holistische score, zodat hun winst helemaal niet aan een kenmerk valt toe te schrijven.
Een leveranciersclaim van „verbeterd spreken” is verenigbaar met een verandering die de studie nooit mat. Voor luisteren vinden Goh en Aryadoust het bewijs veel dunner.
Feedbackgeletterdheid en betrokkenheid versterken elkaar
Een panel met drie golven van 399 bachelorstudenten vond dat AI-feedbackgeletterdheid latere agentieke betrokkenheid voorspelde (β = 0,222) en dat het omgekeerde pad even sterk was (β = 0,263), zonder statistische grond om de twee te ordenen.
Studenten leren feedback te lezen en te gebruiken is geen voorwaarde die u afrondt voordat betrokkenheid begint. De twee bewegen samen, dus een cursus die er maar één opbouwt, werkt zichzelf tegen.
Voor ontwikkelaars
Moeilijke gevallen zijn waar tutors nog falen, en strategie-ophaling helpt middensegmentmodellen
TutorCaseBench veranderde kwalitatieve casestudies in 923 dialogen van zes beurten over vijf soorten uitdagingen en scoorde 11 modellen tegen casspecifieke rubrieken. Het beste model voldeed aan een gedocumenteerde interventie in 55,8% van de open gevallen, en dat is het getal om tegen te ontwerpen. Het aanleveren van de gedocumenteerde strategie uit de caseliteratuur tilde 10 van de 11 modellen op, gemiddeld 9,9 punten, waarbij Llama 4 Maverick van 41,0% naar 64,8% ging, terwijl het sterkste model vlak bleef op 71,3%.
Het ophalen van referentiestrategieën is de moeite waard om te bouwen voor de modellen die u zich kunt veroorloven. Het redt geen frontiermodel dat het patroon al heeft.
Valideer tegen ingezette gesprekken, niet tegen labprompts
De EduWild-dataset koppelt elk gesprek aan de systeemprompt en instellingen erachter, en dat maakt de fout analyseerbaar: 53,8% van de gesprekken met eindgebruikers sloeg een vereiste stap over. Door docenten geschreven configuratie is een afzonderlijk faalvlak naast modelbekwaamheid, en een harnas op promptniveau herstelde de intentie zonder de controle van de docent weg te nemen.
Als uw product docenten de instructies laat schrijven, moet uw testset hun instructies zijn, verzameld na de ingebruikname.
De rubriekdimensie van feedbackkwaliteit is degene die niemand meet
Yang onderzocht 68 studies naar door AI gegenereerde feedback. Bewijswaarde verschijnt in 47 ervan, pedagogische bruikbaarheid in 58, en rubriek- en taakafstemming in 19. Afstemming is de dimensie die een product het meest direct kan beheersen, en zij is het minst onderzocht.
Dat is een opening: bouw tegen de rubriek die de opdracht al gebruikt, en zeg het, want het gepubliceerde bewijs zal kopers niet vertellen of iemand anders dat doet.
Uitvoerbaarheid is een ontwerpdoel, geen luxe
Tamme, Schilling en Hantel stellen voor de schriftelijke enquête aan het einde van het semester te vervangen door een telefonisch interview dat een AI-agent afneemt, met het argument dat het schriftelijke instrument faalt op respons, diepgang en uitvoerbaarheid. Het is een voorstel en geen veldtest. De ontwerpclaims zijn concreet genoeg om over te nemen: stel doorvragen, eis een reden, en geef iets terug waar de ontvanger mee aan de slag kan.
Voor onderzoekers
Zelfrapportage en prestatie komen vaak tot verschillende conclusies
Fan en collega's brachten meetmethoden in kaart over 2.099 records en onderzochten daarna 51 gevallen waarin een zelfrapportage-instrument en een toets, beoordeling of tracering hetzelfde construct maten. Het antwoord op de vraag of de twee overeenstemmen is vaak nee. Waar zij uiteenlopen, verklaart de observeerbaarheid van het construct dat beter dan de kwaliteit van de studie.
Het ene voor het andere in de plaats stellen is een meetbeslissing met een richting, geen gemak. Vermeld op welke van de twee uw claim rust.
Artefacten verbergen offloading, dus meet het proces
Kontorovich en Wallach codeerden de 429 prompts in 59 chatlogs als sporen van zelfregulatie en vergeleken elk met het ingeleverde werk. Tien van de vijftien studenten die alle drie taken afmaakten, veranderden welke rol zij het model gaven naarmate de taak veranderde, maar 53 van de 59 inzendingen reproduceerden het product van het model of herzagen het alleen in vorm.
Een inzending alleen kan gebruik niet van vervanging onderscheiden. Procesdata kunnen dat wel, en het codeerschema hier is herbruikbaar.
Een gevalideerde schaal voor afhankelijkheid in open taken
De meeste maten voor afhankelijkheid leiden afhankelijkheid af uit de vraag of een student het juiste advies volgde, wat een controleerbaar antwoord vereist. Hou en collega's bouwden en valideerden een schaal van 16 items voor probleemgestuurd leren, waar zo'n antwoord niet bestaat.
Detectorbenchmarks verouderen, dus rapporteer de tegenstander
Ren, Raghavan en Garg splitsen de detectievraag in scheidbaarheid en beweging. Gesuperviseerde baselines scheiden menselijk van machinaal proza bijna perfect binnen de distributie, terwijl de commerciële detector Pangram zakte naar 63,5% gebalanceerde nauwkeurigheid en 27% recall tegen een prompt die was geschreven om hem te ontwijken.
Getallen die zonder de ontwijkingspoging worden gerapporteerd, beschrijven een wereld die niet meer bestaat. En de reviewliteratuur is dun waar het ertoe doet: van 51 studies naar GenAI-feedback op schrijven in een tweede taal, controleren er 5 of de feedback accuraat is.
Voor bestuurders
De meeste AI-governance in het onderwijs is richtlijn, geen wet
Elmahjub en collega's lazen 160 Engelstalige governancedocumenten nauwkeurig, uit 498 records. Slechts 4 hebben een formele juridische of regelgevende vorm, terwijl 92 richtlijnen, kaders, toolkits of handboeken zijn. Verantwoordingsplicht verschijnt in 146 documenten, maar is in 100 gekoppeld aan een genoemde toezichthouder.
Een beleid zonder genoemde eigenaar en een mechanisme is een intentieverklaring. De review geeft u de velden om uw eigen document tegen te controleren.
Detectorinkoop vereist een fout-positiefgetal
Dertien detectoren, door mensen geschreven academische tekst als controle, fout-positieven van 0% tot 100%. Minstens één instelling heeft haar detector al afgeschaft omdat die grammaticacontroleurs markeerde. Als een leverancier u geen fout-positiefpercentage geeft op menselijk werk in uw eigen discipline, kunt u het disciplinaire risico niet beprijzen.
De gedocumenteerde richting in beoordeling is proces, authenticiteit en mondeling werk
Crompton en Burke reviewen 72 studies uit 24 landen en 20 disciplines en vinden drie ontwerpresponsen die terugkeren: procesgericht, authentiek en mondeling beoordelen. De bewijsbasis is breed en methodologisch dun, de meeste studies dekken één cursus, en niets daarvan verandert de richting.
Adoptie heeft het begrip onder docenten ingehaald
Onder 132 Indonesische docenten uit basis- en voortgezet onderwijs (K-12) steunt 96,2% het gebruik van AI door docenten en 84,6% het gebruik door studenten, maar 69,2% gaf een vage of onjuiste beschrijving van wat een chatbot met een instructie doet.
Steun in een enquête is geen bekwaamheid in een klaslokaal. De kloof in professionele ontwikkeling hier wordt zichtbaar voordat enig hulpmiddel wordt ingezet, en het instrument is kort genoeg om als behoefteanalyse te hergebruiken.
Vervang de cursusenquête alleen als de vervanging uitvoerbaar is
Het voorstel voor mondelinge interviews richt zich op de faalwijzen die enquêtes aan het einde van het semester nutteloos maken: respons, diepgang, satisficing en antwoorden waar niemand mee aan de slag kan. Behandel het als een specificatie voor wat u in plaats daarvan gebruikt, niet als bewijs dat de AI-versie werkt.
Concepten in de schijnwerpers
Vier conceptpagina's droegen de bevindingen van deze week naar de syntheselaag. Elk is een blijvende pagina en geen eenmalige, dus het nieuwe bewijs staat naast wat de pagina al betoogde.
Taalonderwijs
De pagina zegt nu ronduit dat het bewijs voor spreekvaardigheidswinst van chatbots ongelijk is per kenmerk, en dat vier van de tien gesynthetiseerde studies één holistische score rapporteerden, waardoor hun winst niet aan een kenmerk valt toe te schrijven. Lees de pagina over taalonderwijs voordat u mondelinge oefening koopt of bouwt.
Intelligent tutoring
De nieuwe bevinding is het ophaalresultaat: het aanleveren van referentiestrategieën tilt zwakke tutors op en laat sterke tutors waar zij waren. Dat is een bouwbeslissing, en de pagina over intelligent tutoring scheidt die van de oudere claims over hintkwaliteit.
Zelfrapportage
Het scherpste nieuwe geval van de zelfrapportagekloof is intentie, waar één score leren-gericht, shortcut-gericht en gemengd gebruik dekte in dezelfde steekproef van 340 studenten, met 68 opnieuw afgenomen items en acht interviews achter de claim, allemaal vastgelegd op de pagina over zelfrapportage.
Governance
De pagina begint nu met de bevinding over de instrumentvorm: 4 van 160 documenten bindend, 92 adviserend, en verantwoordingsplicht slechts in 100 aan een genoemde actor gekoppeld. De governancepagina herformuleert de vraag van wat een beleid zegt naar of het kan handelen.
Nieuwe bronnen
Twee bronnen kwamen deze week bij de bronnenbibliotheek, één geschreven voor de instelling die moet beslissen hoe software met AI wordt gebouwd en één voor de docent die moet beslissen of de code van een student de eigen code is.
Campus AI Development
Campus AI Development is een gratis webgids geschreven vanuit de kant van de instelling. Hij zet uiteen op welke manieren een campus software met AI kan laten bouwen, van vibe coding tot bestuurd werk met meerdere agenten, en koppelt elke manier aan de beoordelingsroute, het dataplafond en de controles die erbij passen. Hij hoort bij het Campus AI Framework, dat beslist of een AI-hulpmiddel überhaupt mag worden gebruikt; deze gids behandelt wat u doet zodra het antwoord ja is. De site vermeldt geen licentie voor de tekst.
Code Viva
Code Viva is een gratis browsergereedschap dat een mondelinge verdediging schaalbaar maakt: een schriftelijke, getimede viva voor elke student in een programmeercursus, vijftien tot twintig minuten elk, zonder docent in het lokaal. Het leest de ingeleverde code en de commitgeschiedenis van een student, schrijft vier tot zes vragen over de eigen functies, namen en commits van die student, en geeft elke student een persoonlijke link om te antwoorden. De vragen komen uit regels die op de inzending worden toegepast en niet uit een modelaanroep, en de docent krijgt voorgestelde scores met het geciteerde bewijs erachter, om goed te keuren of te overschrijven. De site vermeldt geen licentie en geen broncoderepository.
Deze week ook toegevoegd
- Mapping generative AI in higher education teaching and learning: a scoping review
- Large language models for teaching and learning in higher education: opportunities, challenges, and future directions
- From insight to intervention: learning analytics and generative AI support for learning design and educational decision-making
- Governing Generative AI in Higher Education: A Cross-National Analysis of Policy Framing and Student Maneuvering
- Delegation Is Not Assistance: Agentic AI and Assessment Governance in Higher Education
- Artificial learning: how sessional academics view contract cheating and digital academic misconduct in assessment
- VIRA-Bench: Diagnosing Pedagogical Contingency Understanding in Online Tutoring Videos
- A Stratified Multi-Rater Evaluation of LLM-Based Virtual Standardized Patients with a Deployed Data-Generation Platform
- Bias and Reliability in Learning-Style Inference from Student-AI Dialogues: An Evaluation of GPT-4o and Gemini 2.0 Flash
- Addressing symbolic obstacles in undergraduate calculus through artificial intelligence scaffolding
- AI Security Literacy: Ecosystem-based Competency Framework and K-12 Learning Platform
- Shaping early childhood in the age of AI: holistic competencies, pedagogical practices, and ecological support
- Using Large Language Models to Detect Socially Shared Regulation of Collaborative Learning
- Prompt-based emotional scaffolding in generative AI: Effects on self-regulated learning and socio-emotional outcomes
- Personalizing Student-Agent Interactions Using Log-Contextualized Retrieval-Augmented Generation (RAG)
De andere studies, met methoden en abstracts, staan dag per dag op de journaalpagina.
Notities over de site
Twee pagina's verschenen deze week. Het nieuwsbriefarchief bevat elk nummer, met een eigen feed naast de kennisbankfeed, en de conceptindex zet alle 220 conceptpagina's op één pagina, in dezelfde secties als de zijbalk, zodat er nu een plek is om een lezer naartoe te sturen die de hele verzameling wil.
Al het andere was werk aan wat al bestond: de conceptpagina's en FAQ's herschreven, de tekst strakker, en de vertalingen bijgewerkt in alle talen.
De site is een statische build, en haar inhoud, code en gereedschap zijn openbaar op github.com/edtechdev/aied, waar elke hierboven beschreven wijziging te lezen is.
Volg de update
Ontvang elk nummer via de nieuwsbrieffeed in een feedlezer, door diezelfde feed in Blogtrottr te plakken zodat nieuwe nummers u per e-mail bereiken volgens een schema dat u kiest, of door hem te volgen op LinkedIn, waar elk nummer als LinkedIn-nieuwsbrief verschijnt.
Wekelijkse update over AIEd-onderzoek komt uit de Kennisbank over AI in het onderwijs, die een AI-agent genereert. Dit nummer is opgesteld door diezelfde AI-agent, met redactionele begeleiding van de ontwikkelaar van de site, en elke bewering hierboven linkt naar de pagina waar zij vandaan komt.
De kennisbank is aan het publieke domein gewijd onder een CC0 1.0-licentie. Geen rechten voorbehouden.
Iets gevonden in de inhoud? Meld het op GitHub, of neem contact op met de ontwikkelaar van de site, Doug Holton.