Tällä sivulla

Kaikki numerot

Viikoittainen AIEd-tutkimuskatsaus #1

Tämän englanninkielisen sivun automaattinen konekäännös, jota ei ole vielä tarkastanut äidinkielinen puhuja.

Viikoittainen katsaus Tekoäly koulutuksessa -tietopohjasta, siitä, mitä kuluneella viikolla julkaistu tutkimus merkitsee opettajille, kehittäjille, tutkijoille ja hallinnon edustajille.

Tällä viikolla tietopohjaan liittyi 71 uutta tutkimusta ja kaksi uutta resurssia, joten se sisältää nyt 1 805 artikkelitiivistelmää, 220 käsitesivua, 37 UKK:ta ja 33 resurssia. Hae tai käytä tekoälyä keskustellaksesi tietopohjan kanssa.

Sisältö

Keskeisimmät havainnot ja kysymykset

Molemmat tämän viikon pääotsikoista sanovat saman asian: pistemäärä ei ole lopputulos. Kolmen ryhmän koe nosti harjoitusten pistemäärät 29,85 prosentista avoimen verkon kanssa 71,84 prosenttiin rajoittamattoman ChatGPT:n kanssa, kun taas käsitteellinen oppiminen ei eronnut lainkaan, joten korkeampi arvosana tekoälyn käytön aikana ei ole todiste siitä, että opiskelijat oppivat enemmän. 13 tunnistinta merkitsi ihmisen kirjoittamia käsikirjoituksia 0–100 prosentin vaihteluvälillä yhden oikoluvun jälkeen, joten tunnistimen merkintä ei ole todiste väärinkäytöksestä.

Opettajille

Tutori voi nostaa kotitehtävät ja jättää tentin ennalleen

Chen ja kollegat satunnaistivat 153 todistusten kirjoittamisen opiskelijaa Carnegie Mellonissa saamaan todistustutorin joko aikaisin tai myöhään ja mittasivat sitten tentin, joka tehtiin ilman tekoälyä luokassa. Kotitehtävien pistemäärät nousivat 2,56 pistettä, kun työkalu oli saatavilla. Välitentin pistemäärät eivät eronneet. Kun kaikilla oli pääsy työkaluun ja he valitsivat oman annoksensa, jokaista 100 lisäviestiä chatbotille kohti seuraavan tentin pistemäärä oli 3,02 pistettä matalampi, ja opiskelijat, joiden lähtötason minäpystyvyys oli matalampi, käyttivät sitä eniten.

Mitä se muuttaa teidän kohdallanne: tutorin ollessa auki ansaittu arvosana ei ole todiste siitä, mitä opiskelija osaa ilman sitä, joten arvioinnin on perustuttava tehtävään, jonka opiskelija tekee ilman tukea. Se tarkoittaa myös, että opiskelijat, joilla on suurin riski nojata siihen, ovat niitä, joilla on vähiten itseluottamusta alussa, ja se näkyy käytössä ennen kuin se näkyy pistemäärissä.

Rajoittamaton chat paisuttaa pistemääriä enemmän kuin hyvin rakennettu tutori

Müncheniläisellä CS1-kurssilla tehdyssä kolmen ryhmän kokeessa 275 opiskelijaa käytti 90 minuuttia Java-harjoitukseen joko vihjeitä antavan tutorin, rajoittamattoman ChatGPT:n tai avoimen verkon kanssa. Harjoitusten pistemäärät olivat 71,84 %, 57,50 % ja 29,85 %. Käsitteellisen tiedon lisäykset olivat 0,83, 0,71 ja 0,85 pistettä, eikä ehtojen välinen ero ollut lähelläkään merkitsevää (p = 0,773). Molemmat tekoälyehdot vähensivät turhautumista; vain tutori nosti motivaatiota.

Pistemäärien hajonta kertoo enimmäkseen tuotoksesta, ei oppimisesta. Jos arvioitte harjoituksen, tekoälyehdoissa arvioidaan eri tehtävää.

Opettajien rakentamat chatbotit epäonnistuvat aikomuksessa, eivät faktoissa

EduWild keräsi 1 726 keskustelua 217 opettajan määrittämästä Playlab-botista, mukaan lukien 900 niiltä opiskelijoilta, joille botit otettiin käyttöön. Botit ohittivat vaadittuja työnkulun vaiheita 53,8 prosentissa loppukäyttäjien keskusteluista, eivät koskaan kertoneet rooliaan 33,4 prosentissa ja kuormittivat oppijoita liialla tiedolla tai kysymyksillä 37,1 prosentissa.

Ennen kuin otatte käyttöön botin, jonka olette rakentaneet tai perineet, lukekaa sen ensimmäinen vuoro ja tarkistakaa, että se kertoo, mikä se on ja mitä seuraavaksi tapahtuu. Tässä dokumentoidut virheet ovat ohjeissa, ja ne voi korjata kehotteessa mallia koskematta.

Tunnistimen tuomio ei ole todiste

Oikolukupalvelun aineisto antoi Parkille ja kollegoille 135 389 dokumenttiparia, joissa tekijä, aihe ja sisältö pysyvät samoina ja vain kieli muuttuu. 13 tunnistimen joukossa ihmisen kirjoittaman akateemisen tekstin väärät positiiviset vaihtelivat 0–100 prosentissa, ja samat muokkaukset liikuttivat tunnistimia vastakkaisiin suuntiin. Erillisessä tapauksessa joukko tuntiopettajia luopui tunnistimestaan kokonaan, koska se merkitsi kielioppitarkistimia, ja he lukevat nyt keksittyjä viitteitä ja irrallisuutta kurssimateriaaleista.

Jos olette näyttäneet tunnistimen pistemäärän opiskelijalle, erityisesti toisella kielellä kirjoittavalle, tällä viikolla on aika lopettaa tunnistimien käyttö. Toisen tutkimuksen lukemiseen perustuvat signaalit ovat käytännöllinen vaihtoehto.

Arvioinnin suunnittelu on valinta kolmen rajoitteen välillä, ei periaatteen etsintää

Pedlow, Fischer ja Williams väittävät, että ongelma ei ole suunnitteluperiaatteiden puute vaan se, ettei ole tapaa järkeillä niistä periaatteista, jotka vetävät eri suuntiin. Heidän kaksoistrilemmansa käsittelee autenttisuutta, havaittavuutta ja toteutettavuutta arvioinnissa sekä spesifisyyttä, oikea-aikaisuutta ja työkuormaa palautteessa rajoitteina, joita vaihdetaan tietoisesti.

Kun teitä pyydetään suunnittelemaan arviointi uudelleen tekoälyn aikakaudelle, tämä kehys muuttaa avoimen kysymyksen lyhyeksi perusteluksi, jonka voi kirjata ja puolustaa.

Chatbotien tuottamat puhumisen edistysaskeleet vaihtelevat piirteittäin

Soriano-Gonzalez ja Belda-Medina seuloivat 306 tietuetta kymmeneen tutkimukseen ja kysyivät, mikä puhutun kielen kuudesta CEFR-piirteestä todella muuttui. Vaihteluväli parani neljässä tutkimuksessa ja ymmärrettävyys neljässä, koherenssi yhdessä ja vuorovaikutus lähes ei yhdessäkään. Neljä kymmenestä raportoi yhden kokonaispistemäärän, joten niiden edistystä ei voi jäljittää mihinkään piirteeseen.

Toimittajan väite ”parantuneesta puhumisesta” sopii yhteen sellaisen muutoksen kanssa, jota tutkimus ei koskaan mitannut. Kuuntelemisen osalta Goh ja Aryadoust pitävät näyttöä paljon ohuempana.

Palautelukutaito ja sitoutuminen ruokkivat toisiaan

Kolmen aallon paneeli 399 perustutkinto-opiskelijasta osoitti, että tekoälypalautelukutaito ennusti myöhempää agenttista sitoutumista (β = 0,222) ja käänteinen polku oli yhtä vahva (β = 0,263), eikä kahden asettamiselle järjestykseen ollut tilastollista perustaa.

Opiskelijoiden opettaminen lukemaan ja käyttämään palautetta ei ole edellytys, joka saadaan valmiiksi ennen sitoutumisen alkamista. Ne liikkuvat yhdessä, joten kurssi, joka rakentaa vain toista, työskentelee itseään vastaan.

Kehittäjille

Vaikeat tapaukset ovat se, missä tutorit yhä epäonnistuvat, ja strategioiden haku auttaa keskiluokan malleja

TutorCaseBench muunsi laadulliset tapaustutkimukset 923 kuuden vuoron dialogiksi viiden haastetyypin yli ja pisteytti 11 mallia tapauskohtaisia arviointikriteerejä vasten. Paras malli täytti dokumentoidun intervention 55,8 prosentissa avoimista tapauksista, ja tämä on luku, jota vasten suunnitella. Tapauskirjallisuuden dokumentoidun strategian tarjoaminen nosti 10 mallia 11:stä keskimäärin 9,9 pistettä, ja Llama 4 Maverick nousi 41,0 prosentista 64,8 prosenttiin, kun taas vahvin malli pysyi ennallaan 71,3 prosentissa.

Vertailustrategioiden hakeminen kannattaa rakentaa malleille, joihin teillä on varaa. Se ei pelasta huippumallia, jolla kuvio on jo hallussa.

Validointi käyttöönotettuja keskusteluja vasten, ei laboratoriokehotteita

EduWild-aineisto yhdistää jokaiseen keskusteluun sen taustalla olevan järjestelmäkehoteen ja asetukset, mikä tekee epäonnistumisen analysoitavaksi: 53,8 prosenttia loppukäyttäjien keskusteluista ohitti vaaditun vaiheen. Opettajan kirjoittama määritys on oma erillinen epäonnistumispintansa mallin kyvykkyyteen nähden, ja kehotetason testikehys palautti aikomuksen poistamatta opettajan hallintaa.

Jos tuotteenne antaa opettajien kirjoittaa ohjeet, testiaineistonne on oltava heidän ohjeensa, kerättyinä käyttöönoton jälkeen.

Arviointikriteerin ulottuvuus palautteen laadussa on se, jota kukaan ei mittaa

Yang tarkasteli 68 tutkimusta tekoälyn tuottamasta palautteesta. Näytön validiteetti esiintyy 47:ssä niistä, pedagoginen hyödyllisyys 58:ssa ja arviointikriteerien ja tehtävän yhdenmukaisuus 19:ssä. Yhdenmukaisuus on ulottuvuus, jota tuote voi hallita suorimmin, ja sitä on tutkittu vähiten.

Siinä on avaus: rakentakaa tehtävässä jo käytössä olevaa arviointikriteeriä vasten ja kertokaa se, sillä julkaistu näyttö ei kerro ostajille, tekeekö joku muu samoin.

Toimittavuus on suunnittelutavoite, ei koriste

Tamme, Schilling ja Hantel ehdottavat lukukauden lopun kirjallisen kyselyn korvaamista tekoälyagentin tekemällä puhelinhaastattelulla sillä perusteella, että kirjallinen väline epäonnistuu vastausasteessa, syvyydessä ja toimittavuudessa. Kyse on ehdotuksesta, ei kenttäkokeesta. Suunnitteluväitteet ovat riittävän konkreettisia lainattaviksi: esittäkää jatkokysymyksiä, vaatikaa perustelu ja palauttakaa jotain, jonka vastaanottaja voi panna täytäntöön.

Tutkijoille

Itsearviointi ja suoritus päätyvät usein eri johtopäätöksiin

Fan ja kollegat kartoittivat mittausmenetelmiä 2 099 tietueen yli ja tarkastelivat sitten 51 tapausta, joissa itsearviointiväline ja testi, arvio tai jälki mittasivat samaa konstruktiota. Vastaus siihen, ovatko kaksi yhtä mieltä, on usein ei. Kun ne eroavat, konstruktion havaittavuus selittää sen paremmin kuin tutkimuksen laatu.

Toisen korvaaminen toisella on mittauspäätös, jolla on suunta, ei mukavuusratkaisu. Raportoikaa, kumpaan väitteenne nojaa.

Tuotokset kätkevät ulkoistamisen, joten mittaa prosessia

Kontorovich ja Wallach koodasivat 59 chatlogin 429 kehotetta itsesäätelyn jäljiksi ja vertasivat kutakin palautettuun työhön. Kymmenen viidestätoista opiskelijasta, jotka tekivät kaikki kolme tehtävää, vaihtoi mallille antamaansa roolia tehtävän muuttuessa, mutta 53 palautusta 59:stä toisti mallin tuotoksen tai muokkasi sitä vain muodollisesti.

Pelkkä palautus ei erota käyttöä korvaamisesta. Prosessidata erottaa, ja tässä käytetty koodauskehikko on uudelleenkäytettävä.

Validoitu asteikko tukeutumiselle avoimissa tehtävissä

Suurin osa tukeutumisen mittareista päättelee riippuvuuden siitä, noudattiko opiskelija oikeaa neuvoa, mikä edellyttää tarkistettavaa vastausta. Hou ja kollegat rakensivat ja validoivat 16 kohdan asteikon ongelmalähtöiseen oppimiseen, jossa tällaista vastausta ei ole.

Tunnistimien vertailuarvot vanhenevat, joten raportoi vastustaja

Ren, Raghavan ja Garg jakavat tunnistuskysymyksen kahteen osaan: erotettavuuteen ja liikkeeseen. Ohjatut perusmallit erottavat ihmisen ja koneen kirjoittaman tekstin lähes täydellisesti jakauman sisällä, kun taas kaupallinen tunnistin Pangram putosi 63,5 prosentin tasapainotettuun tarkkuuteen ja 27 prosentin herkkyyteen sitä kiertämään kirjoitettua kehotetta vasten.

Luvut, jotka raportoidaan ilman kiertoyritystä, kuvaavat maailmaa, jota ei enää ole. Ja katsauskirjallisuus on ohutta siellä, missä sillä on väliä: 51 tutkimuksesta, jotka käsittelevät GenAI-palautetta toisen kielen kirjoittamiseen, 5 tarkistaa, onko palaute täsmällistä.

Hallinnolle

Suurin osa koulutuksen tekoälyhallinnosta on ohjeistusta, ei lakia

Elmahjub ja kollegat lukivat läheltä 160 englanninkielistä hallintotapa-asiakirjaa 498 tietueesta. Vain 4 on muodoltaan oikeudellisia tai sääntelyyn kuuluvia, kun taas 92 on ohjeistuksia, viitekehyksiä, työkalupakkeja tai käsikirjoja. Vastuuvelvollisuus esiintyy 146 asiakirjassa, mutta se on yhdistetty nimettyyn valvovaan toimijaan 100:ssa.

Periaate ilman nimettyä omistajaa ja mekanismia on aikomuslausuma. Katsaus antaa kentät, joita vasten oman asiakirjanne voi auditoida.

Tunnistimien hankinta tarvitsee väärän positiivisen luvun

Kolmetoista tunnistinta, ihmisen kirjoittama akateeminen teksti kontrollina, väärät positiiviset 0–100 prosenttia. Ainakin yksi oppilaitos on jo luopunut tunnistimestaan, koska se merkitsi kielioppitarkistimia. Jos toimittaja ei anna teille väärän positiivisen astetta ihmisen työstä omalla alallanne, ette voi hinnoitella kurinpidollista riskiä.

Arvioinnin dokumentoitu suunta on prosessi, autenttisuus ja suullinen työ

Crompton ja Burke tarkastelevat 72 tutkimusta 24 maasta ja 20 alalta ja löytävät kolme toistuvaa suunnitteluvastetta: prosessilähtöinen, autenttinen ja suullinen arviointi. Näyttöpohja on laaja ja menetelmällisesti ohut, useimmat tutkimukset kattavat yhden kurssin, eikä mikään tästä muuta suuntaa.

Käyttöönotto on ohittanut ymmärryksen opettajien keskuudessa

132 indonesialaisen perus- ja toisen asteen opettajan joukossa 96,2 prosenttia tukee opettajien tekoälyn käyttöä ja 84,6 prosenttia opiskelijoiden käyttöä, mutta 69,2 prosenttia antoi epämääräisen tai virheellisen kuvauksen siitä, mitä chatbot tekee ohjeella.

Tuki kyselyssä ei ole kyvykkyyttä luokkahuoneessa. Täydennyskoulutuksen puute näkyy täällä ennen kuin mitään työkalua otetaan käyttöön, ja väline on riittävän lyhyt uudelleenkäytettäväksi tarvearviointina.

Korvaa kurssikysely vain, jos korvaava ratkaisu on toimittavissa

Äänihaastatteluehdotus kohdistuu epäonnistumistapoihin, jotka tekevät lukukauden lopun kyselyistä hyödyttömiä: vastausaste, syvyys, tyytyminen ja vastaukset, joiden kanssa kukaan ei voi toimia. Kohdelkaa sitä vaatimusmäärittelynä sille, mitä ikinä käytättekin sen sijaan, älkääkä pitäkö sitä näyttönä siitä, että tekoälyversio toimii.

Käsitteet valokeilassa

Neljä käsitesivua veivät tämän viikon havainnot synteesitasolle. Jokainen on pysyvä sivu eikä kertaluonteinen, joten uusi näyttö on samalla sivulla sen kanssa, mitä sivu jo väitti.

Kielten oppiminen

Sivu sanoo nyt suoraan, että näyttö chatbotien tuottamista puhumisen eduista vaihtelee piirteittäin ja että neljä kymmenestä syntetisoidusta tutkimuksesta raportoi yhden kokonaispistemäärän, minkä vuoksi niiden edistystä ei voi liittää mihinkään piirteeseen. Lukekaa kielten oppimisen sivu ennen kuin ostatte tai rakennatte suullisen harjoittelun ratkaisua.

Älykäs tutorointi

Sen uusi havainto on hakemisen tulos: vertailustrategioiden tarjoaminen nostaa heikkoja tutoreita ja jättää vahvat sille tasolle, missä ne olivat. Se on rakennuspäätös, ja älykkään tutoroinnin sivu erottaa sen vanhemmista väitteistä vihjeiden laadusta.

Itsearviointimittarit

Itsearvioinnin aukon terävin uusi tapaus on aikomus, jossa yksi pistemäärä kattoi oppimissuuntautuneen, oikopolkuun tähtäävän ja sekakäytön samassa 340 opiskelijan otoksessa, ja väitteen takana oli 68 uudelleen annettua väittämää ja kahdeksan haastattelua, kaikki kirjattuna itsearviointimittareiden sivulle.

Hallintotapa

Sivu johtaa nyt välineen muotoa koskevalla havainnolla: 4 asiakirjaa 160:stä sitovia, 92 neuvoa-antavia, ja vastuuvelvollisuus nimettynä toimijana vain 100:ssa. Hallintotapasivu kehystää kysymyksen uudelleen siitä, mitä periaate sanoo, siihen, voiko se toimia.

Uudet resurssit

Kaksi resurssia liittyi resurssikirjastoon tällä viikolla: toinen on kirjoitettu oppilaitokselle, jonka on päätettävä, miten ohjelmisto rakennetaan tekoälyllä, ja toinen opettajalle, jonka on päätettävä, onko opiskelijan koodi opiskelijan omaa.

Campus AI Development

Campus AI Development on ilmainen verkko-opas, joka on kirjoitettu kysymyksen oppilaitoksen puolelta. Se esittää tavat, joilla kampus voi rakennuttaa ohjelmistoa tekoälyllä vibe-koodauksesta hallinnoituun moniagenttityöhön, ja yhdistää kuhunkin tapaan tarkistusreitin, datan katon ja sitä vastaavat hallintakeinot. Se täydentää Campus AI Frameworkia, joka päättää, saako tekoälytyökalua käyttää lainkaan; tämä opas käsittelee sitä, mitä tehdään, kun vastaus on kyllä. Sivusto ei ilmoita tekstilleen lisenssiä.

Code Viva

Code Viva on ilmainen selaintyökalu, joka tekee suullisesta puolustuksesta mitattavan: kirjallinen ja ajoitettu viva jokaiselle ohjelmointikurssin opiskelijalle, viisitoista–kaksikymmentä minuuttia kullekin, ilman opettajaa huoneessa. Se lukee opiskelijan palauttaman koodin ja commit-historian, kirjoittaa neljästä kuuteen kysymystä kyseisen opiskelijan omista funktioista, nimistä ja commiteista ja antaa jokaiselle opiskelijalle henkilökohtaisen linkin, josta vastata. Kysymykset tulevat palautukseen sovellettavista säännöistä eivätkä mallikutsusta, ja opettaja saa ehdotetut pistemäärät ja kunkin takana olevan lainatun näytön hyväksyttäväksi tai ohitettavaksi. Sivusto ei ilmoita lisenssiä eikä lähdekoodivarastoa.

Muuta tällä viikolla lisättyä

Muut tutkimukset, menetelmineen ja tiivistelmineen, on lueteltu päivittäin aikakauslehtisivulla.

Sivuston muistiinpanot

Kaksi sivua ilmestyi tällä viikolla. Uutiskirjearkisto sisältää jokaisen numeron, ja sen rinnalla on oma syöte sekä tietopohjan syöte, ja käsitehakemisto kokoaa kaikki 220 käsitesivua yhdelle sivulle samoihin osioihin kuin sivupalkissa, joten nyt on paikka, johon lukijan voi ohjata, kun hän haluaa koko joukon.

Kaikki muu oli työtä sen parissa, mikä oli jo olemassa: käsitesivut ja UKK:t kirjoitettiin uudelleen, tekstiä tiivistettiin ja käännökset päivitettiin kieliversioittain.

Sivusto on staattinen kooste, ja sen sisältö, koodi ja työkalut ovat julkisia osoitteessa github.com/edtechdev/aied, jossa jokainen edellä kuvattu muutos on luettavissa.

Seuraa päivitystä

Saatte jokaisen numeron uutiskirjeen syötteestä syötelukijassa, liittämällä saman syötteen Blogtrottriin, jolloin uudet numerot lähetetään teille sähköpostitse valitsemallanne aikataululla, tai seuraamalla sitä LinkedInissä, jossa jokainen numero julkaistaan LinkedIn-uutiskirjeenä.


Viikoittainen AIEd-tutkimuskatsaus tulee Tekoäly koulutuksessa -tietopohjasta, jonka tuottaa tekoälyagentti. Tämän numeron on luonnostellut sama tekoälyagentti sivuston kehittäjän toimituksellisella ohjauksella, ja jokainen yllä oleva väite linkittää sivulle, josta se tuli.

Tietopohja on luovutettu julkiseen domainiin CC0 1.0-lisenssillä. Oikeuksia ei pidätetä.

Löysittekö sisällöstä ongelman? Ilmoita siitä GitHubissa, tai ottakaa yhteyttä sivuston kehittäjään, Doug Holton.

Upota tämä sivu

Kopioi alla oleva koodi upottaaksesi tämän sivun oppimisympäristöön tai muulle verkkosivustolle. Upotettu versio näyttää vain sivun sisällön — sivuston otsikko, navigointi ja alatunniste jäävät siitä pois.