Kako bi istraživanje umjetne inteligencije u obrazovanju trebalo uključiti pravičnost, pristupačnost, privatnost, etiku i pedagošku sigurnost?

Automatski strojni prijevod ove engleske stranice, koji još nije pregledao izvorni govornik.

Protokol treba predati u petak. Poglavlje 7, o etici, kaže da će se rizici pratiti. Regrutacija ide preko postojećeg kolegija prve godine, a odlomak o ograničenjima bilježi da se nalazi možda ne mogu generalizirati. Povjerenstvo za recenziju pitat će kome je vjerojatno da će imati koristi, mogu li se tim alatom služiti studenti s invaliditetom, što se događa s dnevnicima interakcije i kako u podacima izgleda štetan odgovor poučavatelja. Četiri pitanja, a nijedno još nema svoje poglavlje.

Odgovor koji treba dati povjerenstvu: pravičnost, pristupačnost, privatnost i pedagoška sigurnost pripadaju dizajnu i mjerama ishoda od prvog nacrta. Svaka od njih mijenja to koga regrutirate, što instrumentirate i o čemu izvješćujete, zato je vežite uz odluku dok je protokol još moguće mijenjati.

Kratka verzija

1. Imenujte usporedbu podskupina prije nego prikupite podatke i stavite je u plan analize.

2. Stavite učenike s invaliditetom u sesiju dizajna i testirajte stvarno sučelje.

3. Zapišite kompromis u privatnosti, uključujući tko je o njemu odlučio i tko ga može poništiti.

4. Testirajte sigurnost kroz cijele razgovore, u scenarijima vlastite discipline.

5. Kombinirajte podatke o ishodima s intervjuima i ostavite trag koji čitatelj može pregledati.

Pitajte kome pripada korist

Koncept digitalne podjele razdvaja podjelu pristupa, vještina i ishoda, što znači da uklanjanje prepreke u pristupu pomoću chatbota ne proizvodi pravičnu korist. Dizajnirajte za treću podjelu. Izvješćujte o ishodima po podskupinama i testirajte različitu djelotvornost, umjesto da se oslanjate na ukupni prosjek (različiti učinci među skupinama učenika).

Komparativna studija 45 nigerijskih sveučilišta (15 saveznih, 15 državnih, 15 privatnih) pokazuje kako se one međusobno pojačavaju. Ukupna integracija umjetne inteligencije bila je umjerena, M = 4,79 na ljestvici od 10 bodova, raspon 1,83-7,83. Tip upravljanja nije je predviđao (F(2,42) = 1,01, p = 0,372). Predviđali su je dob institucije (β = 0,43, p = 0,016) i smještaj na jugozapadu (β = 0,31, p = 0,029). Unutarnje sposobnosti jačale su jedna drugu (r = 0,79-0,80), a međunarodne suradnje i partnerstva s industrijom umnažala su se međusobno (r = 0,74), što autori sažimaju kao „veze rađaju veze“. Okviri politike bili su najslabiji (M = 4,09; samo 27% institucija imalo je 6 ili više), ostavljajući jaz između formalne strategije i operativne aktivnosti kurikula.

Iz toga slijede dvije dizajnerske implikacije. Ciljajte novije institucije i nedovoljno opslužene regije, jer kategorija ne određuje kapacitet. I uzmite u obzir kontekste globalnog juga koje šira dokazna osnova još izostavlja.

Stavite učenike s invaliditetom u sobu za dizajn

Uključite učenike s invaliditetom u dizajn i evaluaciju, testirajte stvarna sučelja prema zahtjevima pristupačnosti i osigurajte jednakovrijedne putove sudjelovanja i pokazivanja učenja. Tehnička usklađenost i inkluzivna nastava odvojeni su testovi, a pristupačnost pokriva oba.

Studija dizajna osjetljivog na vrijednosti sa studentima, nastavnicima i programerima više škole pokazuje taj rad u praksi. Proizvela je 16 značajki usklađenih s vrijednostima u području objašnjivosti (E1-E5), kontrole s čovjekom u petlji (H1-H9) i privatnosti (P1-P4) i iznijela napetosti, a ne uredne odgovore: transparentnost nasuprot interpretabilnosti, privatnost nasuprot nastavnom uvidu, agenciju učenika nasuprot postupnoj potpori koju vodi sustav. Očekujte da ćete te napetosti presuditi i zabilježite kojim ste putem krenuli.

Odlučite o kompromisu u privatnosti i imenujte tko odlučuje

Prikupite podatke koje obrazovna svrha treba, učinite upotrebu podataka i ograničenja sustava transparentnima i držite ljudsku odgovornost konkretnom. Pravičnost, privola, pristranost, objašnjivost, autonomija učenika i posljedice odluka posredovanih umjetnom inteligencijom temeljne su dimenzije etike i u praksi su u sukobu. Studenti su htjeli kontrolu nad analitikom učenja i afektivnim podacima; nastavnici su htjeli vidljivost radi potpore učenju. Obje su pozicije obranjive, zato odluka treba imenovanog vlasnika.

Kako sustavi preuzimaju agenciju, pitanje postaje strukturno. Kritički pregled upravljanja agentnom umjetnom inteligencijom tvrdi da autonomija ne bi smjela premašiti zrelost dokaza ni snagu odgovorne ljudske kontrole. Predlaže zajednički jezik izvješćivanja: razine autonomije A0-A4, razine nadzora O0-O4, stupnjeve zrelosti dokaza M0-M5. Upotrebe sa znatnim posljedicama (A4: upisi, ocjenjivanje, napredovanje) zahtijevaju repliciranu validaciju relevantnu za kontekst i trajni ljudski autoritet, a visok rezultat na mjerilu ne zamjenjuje ni jedno ni drugo.

Testirajte štete koje mjerila propuštaju

Pedagoška sigurnost znači mjeriti ono što mjerilo neće: pretjerano oslanjanje, prekomjerno otkrivanje odgovora, jačanje zabluda, gubitak agencije, potiskivanje metakognicije, nepravično postupanje, motivacijsku štetu i nastavnu neusklađenost. Testirajte višekratne interakcije u scenarijima specifičnima za pojedinu disciplinu. Sinteza o pedagoškoj sigurnosti i mjerilo SafeTutors pokazuju zašto sustav koji izgleda točan ipak može naškoditi učenju.

Praktičari se slažu oko kompatibilnog dizajna. U participativnoj studiji dizajna sa šest srednjoškolskih nastavnika nastavnici su neovisno osmislili „ograničene stručnjake“, a ne autonomne agente: uska domena, ljudski nadzor i tri zaštitna sloja u granicama domene, filtriranju sadržaja i mogućnosti da nastavnik preuzme kontrolu. Prihvatili su umjetnu inteligenciju za predstavljanje sadržaja, pružanje vježbe i davanje formativnih povratnih informacija, a odbili su delegirati postavljanje ciljeva ili sumativno ocjenjivanje. Nadzor su uokvirili kao profesionalnu odgovornost.

Kombinirajte metode i pokažite put od podataka do tvrdnje

Razdvojeni kvantitativni ishodi mogu otkriti različite učinke. Intervjui, promatranja, fokus-grupe i suradnički dizajn iznose na vidjelo prepreke, štete, kulturne pretpostavke i iskustvo učenika koje agregirani rezultati promašuju. Sinteza o istraživačkim metodama u AIED-u triangulaciju smatra nužnom jer nijedna pojedina kvalitativna ili kvantitativna metoda ne maksimizira istodobno kauzalno zaključivanje, ekološku valjanost, razumijevanje konteksta i generalizabilnost.

I vaša vlastita analiza treba istu disciplinu. Prijedlog provjerljivosti tvrdi da interpretacija potpomognuta umjetnom inteligencijom ostaje pregledna, osporiva i revidirajuća kad se isporuči s artefaktima poput tablica tema povezanih s izvorima, slojeva gledišta i rijeka dokaza. Tečan sažetak ne bi smio skrivati put koji ga je proizveo.

Držite i razine ishoda odvojenima. Pregled agentne umjetne inteligencije razdvaja ishode artefakta, poput točnosti i kvalitete povratne informacije, od koristi za učenika. Ishodi artefakta mogu biti nužni i nikada nisu dovoljni, a ishodi pravičnosti i institucije ono su gdje su dokazi najtanji.

U čemu ova publika griješi

Pravičnost znači pristup. Koncept digitalne podjele stavlja vještine i ishode na isti popis kao pristup, a Adeniranyina studija našla je da se kapacitet razlikuje po dobi institucije i regiji, dok tip upravljanja nije predviđao ništa.

Pristupačnost je kontrolni popis za sučelje. Studija dizajna osjetljivog na vrijednosti iznijela je napetosti između objašnjivosti i interpretabilnosti koje nijedan kontrolni popis ne rješava.

Privatnost je obrazac za privolu. Studija dizajna našla je da studenti i nastavnici žele suprotno od istih podataka, a pregled upravljanja veže autonomiju uz zrelost dokaza.

Sigurnost znači da model odbija štetne zahtjeve. Pedagoška sigurnost pokriva pretjerano oslanjanje, jačanje zabluda i izgubljenu agenciju, što test odbijanja ne dotiče.

Jedna metoda odgovara na pitanje. Sinteza metoda izričito kaže da te četiri osobine idu na račun jedna druge.

Što će vam se vratiti

„Pravičnost ćemo obraditi u raspravi.“ Onda je vaš plan analize ne može testirati. Imenujte usporedbu podskupina sada ili će nalaz stići nakon što su podaci zaključeni.

„Naš je uzorak premalen za analizu podskupina.“ Onda recite što podupire i izvijestite tko je u njemu bio. Nulti rezultat podskupine iz uzorka nedovoljne snage nije dokaz pravičnosti.

„Testiranje pristupačnosti posao je ureda za osobe s invaliditetom.“ Njihov pregled pokriva usklađenost. Može li učenik pokazati što zna unutar vaše aktivnosti, dizajnersko je pitanje, i gore opisana studija dizajna stavila je studente u prostoriju upravo zato.

„Podaci su deidentificirani, pa je privatnost riješena.“ Napetosti iz studije dizajna ticale su se kontrole i vidljivosti, a ne identifikatora. Studenti su htjeli znati tko vidi njihove afektivne podatke i zašto.

„Naš paket sigurnosnih provjera prolazi.“ Na kojim potezima? SafeTutors je našao da se modeli poučavanja pogoršavaju tijekom dugih razgovora, a to je duljina koju će vaši studenti doista rabiti.

Što učiniti ovog tjedna

1. Dodajte odlomak o podskupinama u plan analize, imenujući koje skupine i koji ishod.

2. Zakažite jednu sesiju dizajna s učenicima s invaliditetom ili osobljem koje ih podupire, prije nego sučelje bude konačno.

3. Napišite odluku o privatnosti kao rečenicu s vlasnikom: što se prikuplja, tko to vidi, tko to može zaustaviti.

4. Sastavite deset protivničkih poteza razgovora u svom predmetu i provedite ih kroz sustav.

5. Dodajte jedan pregledni artefakt, poput tablice povezane s izvorima ili skupa kodiranih izvadaka, u mapu analize.

Kamo dalje

Evaluacija intervencija s umjetnom inteligencijom: metode prateća je stranica o mjerama i dizajnu. Deset najvažnijih nalaza za nastavnike nosi ta ograničenja u nalazima 9 i 10, Suočavanje s uobičajenim zabludama o umjetnoj inteligenciji u obrazovanju bavi se prigovorima dionika, a Istraživačke praznine u AIED-u navodi gdje dokazi nedostaju.