På denne side
Ugentlig forskningsopdatering om AI i uddannelse #1
Automatisk maskinoversættelse af denne engelske side, der endnu ikke er blevet gennemgået af en modersmålstalere.
En ugentlig kort orientering fra vidensbasen om kunstig intelligens i uddannelse, om hvad forskningen publiceret i den forløbne uge betyder for undervisere, udviklere, forskere og administratorer.
Denne uge bragte 71 nye studier og to nye ressourcer, så vidensbasen nu rummer 1.805 artikelsammendrag, 220 begrebssider, 37 FAQ'er og 33 ressourcer. Søg eller brug AI til at tale med vidensbasen.
Indhold
- Hovedpointer og spørgsmål
- Til undervisere
- Til udviklere
- Til forskere
- Til administratorer
- Fokus på begreber
- Nye ressourcer
- Også tilføjet denne uge
- Noter om webstedet
- Følg opdateringen
Hovedpointer og spørgsmål
Begge ugens hovedresultater siger det samme: en score er ikke udfaldet. Et trearmet forsøg løftede opgavescorerne fra 29,85% med det åbne web til 71,84% med ubegrænset ChatGPT, mens den konceptuelle læring slet ikke ændrede sig, så en højere karakter med AI-adgang er ikke bevis for, at de studerende lærte mere. Tretten detektorer markerede menneskeskrevne manuskripter med satser fra 0% til 100% efter en enkelt korrekturlæsning, så en detektormarkering er ikke bevis for uredelighed.
- Løfter den vejleder, der løfter hjemmeopgaven, også eksamen? Et randomiseret forsøg satte en bevisvejleder foran de studerende og målte derefter en eksamen, der blev taget uden den.
- Når en aflevering ser fin ud, hvor meget af den er så modellens? Nioghalvtreds chatlogger sammenlignet med det arbejde, de samme studerende afleverede.
- Hvor ofte markerer en AI-detektor tekst, som et menneske faktisk har skrevet? Tretten detektorer, 135.389 dokumentpar, hvor kun sproget var ændret.
- Forbedrer AI-taletræning det at tale, eller et enkelt målt træk ved det? Ti studier, seks CEFR-træk og fire studier, der rapporterede en enkelt holistisk score.
- Støtter undervisning i at bruge feedback de studerendes engagement, eller er det omvendt? Et panel med tre bølger, som ikke kan fastlægge rækkefølgen mellem de to.
- Hvor fejler AI-vejledere stadig, når en studerende afviser, trækker sig eller optrapper? 923 dialoger bygget på casestudier af virkelige studerende, scoret op imod det, praktikere dokumenterede.
- Er AI-governance i uddannelse lov, vejledning eller ønske? 160 dokumenter, hvoraf fire har bindende form.
Til undervisere
En vejleder kan løfte hjemmeopgaven og lade eksamen blive, hvor den var
Chen og kolleger randomiserede 153 studerende i bevisføringsopgaver på Carnegie Mellon til at få en bevisvejleder tidligt eller sent og målte derefter en eksamen, der blev taget uden AI i lokalet. Hjemmeopgavescorerne steg 2,56 point, mens værktøjet var tilgængeligt. Midtvejsscorerne ændrede sig ikke. Da alle først havde adgang og selv valgte deres dosis, hang hver 100 ekstra chatbotbeskeder sammen med en 3,02 point lavere score ved den næste eksamen, og de studerende med lavere self-efficacy ved begyndelsen var dem, der brugte det mest.
Hvad det ændrer for Dem: en karakter, der er opnået med vejlederen åben, er ikke bevis for, hvad en studerende kan uden den, så den uassisterede opgave skal bære den vægt. Det betyder også, at de studerende, der er mest i risiko for at læne sig op ad den, er dem, der er mindst sikre fra starten, hvilket ses i brugen, før det ses i scorerne.
Ubegrænset chat puster scorerne mere op, end en velbygget vejleder gør
I et trearmet forsøg på et CS1-kursus i München brugte 275 studerende 90 minutter på en Java-opgave med en vejleder, der gav hints, med ubegrænset ChatGPT eller med det åbne web. Opgavescorerne blev 71,84%, 57,50% og 29,85%. Gevinsterne i konceptuel viden var 0,83, 0,71 og 0,85 point, og forskellen mellem betingelserne var langt fra signifikant (p = 0,773). Begge AI-betingelser reducerede frustration; kun vejlederen øgede motivationen.
Spredningen i scoren handler mest om artefakten, ikke om læringen. Hvis De bedømmer opgaven, bliver AI-betingelserne bedømt på en anden opgave.
Lærerbyggede chatbots fejler på hensigt, ikke på fakta
EduWild indsamlede 1.726 samtaler fra 217 lærerkonfigurerede Playlab-bots, herunder 900 fra de studerende, de blev udrullet til. Bots sprang påkrævede trin i arbejdsgangen over i 53,8% af slutbruger-samtalerne, etablerede aldrig deres rolle i 33,4% og overbelastede de lærende med information eller spørgsmål i 37,1%.
Før De udruller en bot, De har bygget eller overtaget, bør De læse dens første tur og kontrollere, at den siger, hvad den er, og hvad der sker næste gang. Fejlene, der dokumenteres her, ligger i instruktionerne, og de kan rettes i prompten uden at røre modellen.
En detektors dom er ikke bevis
Et datasæt fra en redigeringstjeneste gav Park og kolleger 135.389 dokumentpar, hvor forfatter, emne og indhold var fastholdt, mens kun sproget ændrede sig. På tværs af 13 detektorer gik falske positive på menneskeskrevet akademisk tekst fra 0% til 100%, og de samme ændringer flyttede detektorerne i modsatte retninger. Separat mistede en gruppe timelønnede bedømmere deres detektor helt, fordi den markerede grammatiktjek, og læser nu i stedet efter opdigtede referencer og manglende sammenhæng med kursusmaterialet.
Hvis De har lagt en detektorscore foran en studerende, især en studerende, der skriver på et andet sprog, er dette ugen, hvor De skal holde op med at bruge detektorer. De læsebaserede signaler i det andet studium er det praktiske alternativ.
Vurderingsdesign er et valg mellem tre begrænsninger, ikke en jagt på et princip
Pedlow, Fischer og Williams hævder, at problemet ikke er mangel på designprincipper, men manglen på en måde at ræsonnere om dem, der trækker i hver sin retning. Deres dobbelte trilemma behandler autenticitet, observerbarhed og gennemførlighed i vurdering samt specificitet, rettidighed og arbejdsbyrde i feedback som begrænsninger, De afvejer bevidst.
Stillet over for at skulle redesigne en vurdering til AI forvandler den ramme et åbent spørgsmål til et kort argument, De kan nedskrive og forsvare.
Talegevinster fra chatbots er ujævnt fordelt på træk
Soriano-Gonzalez og Belda-Medina screenede 306 poster ned til ti studier og spurgte, hvilke af de seks CEFR-træk ved talt sprog der faktisk flyttede sig. Rækkevidde og forståelighed forbedredes i fire studier hver, sammenhæng i ét, interaktion i næsten ingen. Fire af de ti rapporterede en enkelt holistisk score, så deres gevinster kan slet ikke spores til et træk.
En leverandørs påstand om »forbedret tale« kan være forenelig med en ændring, studiet aldrig målte. For lytning finder Goh og Aryadoust evidensen meget tyndere.
Feedbackkompetence og engagement nærer hinanden
Et panel med tre bølger af 399 bachelorstuderende fandt, at AI-feedbackkompetence forudsagde senere agentisk engagement (β = 0,222), og at den modsatte vej var lige så stærk (β = 0,263), uden statistisk grundlag for at ordne de to.
At lære studerende at læse og bruge feedback er ikke en forudsætning, De færdiggør, før engagementet begynder. De to bevæger sig sammen, så et kursus, der kun bygger det ene op, arbejder imod sig selv.
Til udviklere
Svære sager er der, hvor vejledere stadig fejler, og strategihentning hjælper mellemklassemodeller
TutorCaseBench omdannede kvalitative casestudier til 923 dialoger på seks ture fordelt på fem udfordringstyper og scorede 11 modeller op imod case-specifikke rubrikker. Den bedste model opfyldte en dokumenteret intervention i 55,8% af åbne cases, og det er det tal, De skal designe efter. Når caselitteraturens dokumenterede strategi blev leveret, løftede det 10 af 11 modeller med i gennemsnit 9,9 point, hvor Llama 4 Maverick gik fra 41,0% til 64,8%, mens den stærkeste model forblev uændret på 71,3%.
Det kan betale sig at bygge hentning af referencestrategier til de modeller, De har råd til. Det redder ikke en frontiermodel, der allerede har mønstret.
Validér mod udrullede samtaler, ikke mod laboratorieprompts
EduWild-datasættet parrer hver samtale med den systemprompt og de indstillinger, der ligger bag, og det er det, der gør fejlen analyserbar: 53,8% af slutbruger-samtalerne sprang et påkrævet trin over. Lærerforfattet konfiguration er en anden fejlflade end modellens formåen, og en promptbaseret harness genvandt hensigten uden at fjerne lærerens kontrol.
Hvis Deres produkt lader lærere skrive instruktionerne, skal Deres testsæt være deres instruktioner, indsamlet efter udrulningen.
Rubrikdimensionen af feedbackkvalitet er den, ingen måler
Yang undersøgte 68 studier af AI-genereret feedback. Evidensvaliditet optræder i 47 af dem, pædagogisk anvendelighed i 58 og rubrik- og opgavesammenhæng i 19. Sammenhæng er den dimension, et produkt lettest kan styre, og den er den mindst undersøgte.
Det er en åbning: byg op imod den rubrik, opgaven allerede bruger, og sig det, for den offentliggjorte evidens vil ikke fortælle købere, om nogen andre gør det.
Anvendelighed er et designmål, ikke en ekstra fin detalje
Tamme, Schilling og Hantel foreslår at erstatte det skriftlige spørgeskema ved semesterets afslutning med en telefoninterviewsamtale styret af en AI-agent, med argumentet at det skriftlige instrument fejler på svarprocent, dybde og anvendelighed. Det er et forslag, ikke en felttest. Designpåstandene er konkrete nok at låne: stil opfølgende spørgsmål, kræv en begrundelse, returnér noget, modtageren kan handle på.
Til forskere
Selvrapport og præstation når ofte frem til forskellige konklusioner
Fan og kolleger kortlagde målemetoder på tværs af 2.099 poster og undersøgte derefter 51 tilfælde, hvor et selvrapporteringsinstrument og en test, en bedømmelse eller et spor målte det samme konstrukt. Svaret på, om de to stemmer overens, er ofte nej. Hvor de divergerer, forklarer konstruktets observerbarhed det bedre end studiernes kvalitet.
At erstatte det ene med det andet er en målebeslutning med en retning, ikke en bekvemmelighed. Redegør for, hvilken af dem Deres påstand hviler på.
Artefakter skjuler udlicitering, så mål processen
Kontorovich og Wallach kodede de 429 prompts i 59 chatlogger som selvreguleringsspor og sammenlignede hvert af dem med det afleverede arbejde. Ti af de femten studerende, der gennemførte alle tre opgaver, ændrede hvilken rolle de gav modellen, efterhånden som opgaven ændrede sig, men 53 af 59 afleveringer gengav modellens produkt eller ændrede det kun i form.
En aflevering alene kan ikke skelne brug fra substitution. Procesdata kan, og kodningsskemaet her kan genbruges.
En valideret skala for afhængighed i åbne opgaver
De fleste mål for afhængighed udleder afhængigheden af, om en studerende fulgte korrekt råd, hvilket kræver et svar, der kan kontrolleres. Hou og kolleger byggede og validerede en skala med 16 items til problembaseret læring, hvor der ikke findes et sådant svar.
Detektorbenchmarks forældes, så rapportér modstanderen
Ren, Raghavan og Garg opdeler detektionsspørgsmålet i adskillelighed og bevægelse. Superviserede baselines adskiller menneskelig og maskinprosa næsten perfekt i fordelingen, mens den kommercielle detektor Pangram faldt til 63,5% balanceret nøjagtighed og 27% recall over for en prompt skrevet til at undgå den.
Tal, der rapporteres uden forsøget på at undgå detektion, beskriver en verden, der ikke findes længere. Og reviewlitteraturen er tynd, hvor det betyder noget: af 51 studier af GenAI-feedback på skrivning på et andet sprog kontrollerer 5, om feedbacken er nøjagtig.
Til administratorer
Mest AI-governance i uddannelse er vejledning, ikke lov
Elmahjub og kolleger læste 160 engelsksprogede governance-dokumenter tæt, ud fra 498 poster. Kun 4 har formel juridisk eller regulatorisk form, mens 92 er vejledning, rammer, værktøjssæt eller håndbøger. Ansvarlighed optræder i 146 dokumenter, men er parret med en navngivet tilsynsaktør i 100.
En politik uden en navngivet ejer og en mekanisme er en hensigtserklæring. Reviewet giver Dem de felter, De kan revidere Deres eget dokument imod.
Indkøb af detektorer kræver et tal for falske positive
Tretten detektorer, menneskeskrevet akademisk tekst som kontrol, falske positive fra 0% til 100%. Mindst én institution har allerede afskaffet sin detektor, fordi den markerede grammatiktjek. Hvis en leverandør ikke vil give Dem en sats for falske positive på menneskeligt arbejde i Deres eget fag, kan De ikke prissætte den disciplinære risiko.
Den dokumenterede retning i vurdering er proces, autenticitet og mundtligt arbejde
Crompton og Burke gennemgår 72 studier fra 24 lande og 20 fag og finder tre designresponser, der går igen: processorienteret, autentisk og mundtlig vurdering. Evidensbasen er bred og metodisk tynd, de fleste studier dækker et enkelt kursus, og intet af det ændrer retningen.
Ibrugtagningen er løbet fra forståelsen blandt lærere
Blandt 132 indonesiske K-12-lærere støtter 96,2% læreres brug af AI, og 84,6% støtter de studerendes brug, men 69,2% gav en vag eller forkert redegørelse for, hvad en chatbot gør med en instruktion.
Opbakning i en undersøgelse er ikke kompetence i et klasseværelse. Kompetencegabet her viser sig, før nogen værktøjsudrulning gør det, og instrumentet er kort nok til at genbruge som en behovsanalyse.
Erstat kun kursusundersøgelsen, hvis erstatningen er anvendelig
Forslaget om stemmeinterview rammer de fejltilstande, der gør spørgeskemaer ved semesterets afslutning ubrugelige: svarprocent, dybde, satisficing og svar, ingen kan handle på. Behandl det som en specifikation for det, De bruger i stedet, ikke som bevis for, at AI-versionen virker.
Fokus på begreber
Fire begrebssider bar ugens fund ind i synteselaget. Hver af dem er en fast side snarere end en engangsforeteelse, så den nye evidens står ved siden af det, siden allerede argumenterede for.
Sproglæring
Siden siger nu rent ud, at evidensen om chatbots talegevinster er ujævn fordelt på træk, og at fire af de ti syntetiserede studier rapporterede en enkelt holistisk score, hvilket er grunden til, at deres gevinster ikke kan tilskrives et træk. Læs siden om sproglæring, før De køber eller bygger mundtlig træning.
Intelligent vejledning
Dens nye fund er hentningsresultatet: at levere referencestrategier løfter svage vejledere og lader stærke blive, hvor de var. Det er en byggebeslutning, og siden om intelligent vejledning adskiller den fra de ældre påstande om hintkvalitet.
Selvrapporteringsmål
Det skarpeste nye eksempel på selvrapporteringsgabet er intention, hvor en enkelt score dækkede læringsorienteret, genvejsorienteret og blandet brug i den samme stikprøve på 340 studerende, med 68 gentagne items og otte interviews bag påstanden, alle registreret på siden om selvrapporteringsmål.
Governance
Siden indleder nu med fundet om instrumentform: 4 af 160 dokumenter bindende, 92 rådgivende, og ansvarlighed nævnt som en aktør i kun 100. Governance-siden omformulerer spørgsmålet fra, hvad en politik siger, til, om den kan handle.
Nye ressourcer
To ressourcer kom til ressourcebiblioteket denne uge, den ene skrevet for den institution, der skal beslutte, hvordan software bygges med AI, og den anden for den underviser, der skal afgøre, om en studerendes kode er den studerendes egen.
Campus AI Development
Campus AI Development er en gratis webvejledning skrevet fra institutionens side af spørgsmålet. Den beskriver de måder, en campus kan få bygget software med AI, fra vibe coding til styret arbejde med flere agenter, og parrer hver måde med den reviewrute, det dataloft og de kontroller, der passer til. Den ledsager Campus AI Framework, som afgør, om et AI-værktøj overhovedet må bruges; denne vejledning dækker, hvad man gør, når svaret er ja. Webstedet angiver ingen licens for sin tekst.
Code Viva
Code Viva er et gratis browserværktøj, der gør et mundtligt forsvar skalerbart: en skriftlig, tidsbestemt viva for hver studerende på et programmeringskursus, femten til tyve minutter hver, uden en underviser i lokalet. Det læser en studerendes afleverede kode og commit-historik, skriver fire til seks spørgsmål om den studerendes egne funktioner, navne og commits og giver hver studerende et personligt link at svare fra. Spørgsmålene kommer fra regler anvendt på afleveringen snarere end fra et modelkald, og underviseren får foreslåede scorer med den citerede evidens bag hver enkelt, til godkendelse eller tilsidesættelse. Webstedet angiver ingen licens og intet kildelager.
Også tilføjet denne uge
- Mapping generative AI in higher education teaching and learning: a scoping review
- Large language models for teaching and learning in higher education: opportunities, challenges, and future directions
- From insight to intervention: learning analytics and generative AI support for learning design and educational decision-making
- Governing Generative AI in Higher Education: A Cross-National Analysis of Policy Framing and Student Maneuvering
- Delegation Is Not Assistance: Agentic AI and Assessment Governance in Higher Education
- Artificial learning: how sessional academics view contract cheating and digital academic misconduct in assessment
- VIRA-Bench: Diagnosing Pedagogical Contingency Understanding in Online Tutoring Videos
- A Stratified Multi-Rater Evaluation of LLM-Based Virtual Standardized Patients with a Deployed Data-Generation Platform
- Bias and Reliability in Learning-Style Inference from Student-AI Dialogues: An Evaluation of GPT-4o and Gemini 2.0 Flash
- Addressing symbolic obstacles in undergraduate calculus through artificial intelligence scaffolding
- AI Security Literacy: Ecosystem-based Competency Framework and K-12 Learning Platform
- Shaping early childhood in the age of AI: holistic competencies, pedagogical practices, and ecological support
- Using Large Language Models to Detect Socially Shared Regulation of Collaborative Learning
- Prompt-based emotional scaffolding in generative AI: Effects on self-regulated learning and socio-emotional outcomes
- Personalizing Student-Agent Interactions Using Log-Contextualized Retrieval-Augmented Generation (RAG)
De øvrige studier, med metoder og abstracts, er opført dag for dag på journalsiden.
Noter om webstedet
To sider dukkede op denne uge. Nyhedsbrevsarkivet rummer hvert nummer, med sin egen feed ved siden af vidensbasens feed, og begrebsindekset samler alle 220 begrebssider på én side, i de samme sektioner som sidebjælken, så der nu er et sted at sende en læser, der vil have hele sættet.
Alt andet var arbejde på det, der allerede fandtes: begrebssiderne og FAQ'erne blev skrevet om, teksten strammet op, og oversættelserne bragt ajour i alle sprog.
Webstedet er et statisk build, og dets indhold, kode og værktøjer er offentlige på github.com/edtechdev/aied, hvor hver ændring beskrevet ovenfor kan læses.
Følg opdateringen
Få hvert nummer gennem nyhedsbrevets feed i en feedlæser, ved at indsætte den samme feed i Blogtrottr, så nye numre sendes til Dem på en tidsplan, De vælger, eller ved at følge den på LinkedIn, hvor hvert nummer udgives som et LinkedIn-nyhedsbrev.
Ugentlig forskningsopdatering om AI i uddannelse kommer fra vidensbasen om kunstig intelligens i uddannelse, som en AI-agent genererer. Dette nummer blev udarbejdet af den samme AI-agent med redaktionel vejledning fra webstedets udvikler, og hver påstand ovenfor linker til den side, den kom fra.
Vidensbasen er dedikeret til det offentlige domæne under en CC0 1.0-licens. Ingen rettigheder forbeholdt.
Har De fundet et problem med indholdet? Rapporter det på GitHub, eller kontakt webstedets udvikler, Doug Holton.