Kako se pristranost i nepravednost AI-a pojavljuju u obrazovanju i što možemo učiniti u vezi s tim?

Automatski strojni prijevod ove engleske stranice, koji još nije pregledao izvorni govornik.

Pristranost i nepravednost u obrazovnoj umjetnoj inteligenciji nisu jedan problem. Istraživanja u ovoj bazi znanja dokumentiraju pristranost koja ulazi u gotovo svaku fazu života sustava — podatke za treniranje, ponašanje modela, upite, ocjenjivanje, povratnu informaciju, odluke o raspodjeli i infrastrukturu ispod njih — i različito pogađa nastavnike, programere, istraživače i administratore. Obrazac kroz sve to dovoljno je dosljedan da se kaže izravno: tražite brojeve po podskupinama, ne prosjeke; definirajte „uskraćenu” skupinu po ishodima, ne po veličini skupine; i tretirajte pravednost kao nešto što projektirate i revidirate, a ne kao nešto što naknadno pričvršćujete.

Gdje se pristranost i nepravednost pojavljuju

Ocjenjivanje i vrednovanje. AI ocjenjivanje može kazniti jezik na kojem student piše umjesto razumijevanja koje izražava: ocjenjivanje fizike sustavno podcjenjuje studente čija su objašnjenja manje tečna, kažnjavajući neizvorne govornike i manje sigurne pisce zbog onoga što znaju (jezična pristranost u automatiziranom ocjenjivanju). Automatizirano označavanje također sabija prema sredini distribucije, najviše izlažući najjače i najslabije studente, a njegovo neslaganje s ljudskim ocjenjivačima varira s razinom postignuća i s površinskim jezičnim značajkama poput raspona rječnika (OpRaise, 2026). Za cjelovitu sliku ocjenjivanja pogledajte FAQ o pravednosti i pouzdanosti ocjenjivanja.

Poučavanje, povratna informacija i prilagodljivi sustavi. Interni model prilagodljivog tutora može nevidljivo staviti cijele skupine u nepovoljan položaj: revizija pravednosti bayesovskog praćenja znanja na MATHia zapisima 8.549 studenata tijekom dvije školske godine pronašla je agregatnu statističku parnost od −0,077 koja je skrivala 36 od 50 vještina pristranih protiv čitatelja koji tek razvijaju čitanje, s pristranošću na razini vještine do −0,262 — tutor nije imao komponentu čitalačke vještine, pa su studenti koji su čitali manje tečno gubili tlo iz matematike (Stinar et al., 2026). Alati za povratnu informaciju imaju vlastiti dokumentirani otklon: četiri široko korištena LLM-a pomiču povratnu informaciju o pisanju na načine usklađene sa stereotipima kad im se da identitet studenta — više pohvale, manje kritike, pretpostavke ograničene sposobnosti — čak i za identične eseje (Tan et al., 2026). LLM tutori također variraju s demografskom oznakom učenika: u EduFair-Benchu odstupanja korektivnog tona premašila su 0,10 za svaki model u kemiji i fizici, sa stupnjevanom podrškom koja korelira do |r| = 0,144 s demografskim uvjetima u matematici, a ton je slijedio oznaku, a ne kvalitetu zaključivanja (EduFair-Bench). Čak i demografski kontekst nevidljivo prisutan u povijesti razgovora pomiče izlaze: implicitno uvjetovanje napuhalo je automatske ocjene eseja do 1,57 bodova za jedan model jer je kontekst, a ne navedeni atribut, nosio signal (Rooein, Benedetto and Hovy, 2026).

Nadzorne ploče i rano upozoravanje. McConvey et al. (2026) testirali su na izdržljivost šest naknadnih intervencija pravednosti na repliciranom sustavu ranog upozoravanja izgrađenom od 168.550 studentskih zapisa: nijedna nije dala dosljedne dobitke. Razlike su preraspodijeljene, a ne smanjene; dvije metode koristile su veličinu skupine da definiraju nepovoljan položaj i usmjerile sve 706 korekcija na međunarodne studente, koji su već imali višu predviđenu stopu uspjeha (0,916 prema 0,756); a jedna metoda zadovoljila je svoj cilj jednakih mogućnosti po spolu podigavši stopu lažno pozitivnih za žene s 0,561 na 0,837. Studenti svedeni na „Nepoznat spol” imali su najniže stope istinito pozitivnih pod svakom metodom.

Generativni izlaz: tekst, slike i avatari. Modeli reproduciraju dominantne norme ako se izričito ne provjere. Sustavni pregled 31 studije alata za tekst u sliku u obrazovanju pronašao je slike koje dosljedno stavljaju u središte bijele, muške, zapadne, mršave i neinvalidne figure, dok su raznolikost dobi, tijela i sposobnosti uglavnom izostajale (Alon et al., 2026). Pomoćnici za formiranje timova usmjeravaju studente u različita iskustva: tri LLM-a koja su rasporedila 11.200 zadataka softverskog inženjerstva slala su muškarce najmanje 80% rjeđe od žena na „Interface Design” umjesto na „Core Development”, a nacionalnost je pomicala rasporede neovisno o zaslugama (Entezami et al., 2026). Čak i identitetski znakovi avatara mijenjaju povjerenje: bijeli avatari ocijenjeni su kao uvjerljiviji i kompetentniji u dva eksperimenta (N = 396), dok su stariji crni ženski avatari kažnjeni, a učinak je pojačan u STEM zadacima (Anthis and Kyriakidou-Zacharoudiou, 2026). Alati za pisanje mogu prenijeti pristranost u vlastiti rad studenata: rodno pristran upit proizvodi rodno stereotipnije eseje, pa pristranost alata postaje učeničin izlaz (prijenos rodne pristranosti u pisanju uz LLM).

Podaci, oznake i infrastruktura. Pristranost je prisutna prije nego se ikakav model trenira. Gotovi alati za otkrivanje imena propuštali su afrička imena uz recall 0,7647 i azijska uz 0,8640 prema 0,9024 za europska i 0,9091 za američka imena, a praznine je uklonio fino podešen model (Ji et al., 2025). Korpusi za treniranje i tokenizacija strukturno stavljaju u nepovoljan položaj govornike nedovoljno zastupljenih jezika (Structural Silence), profili učenika koje generira LLM nose regionalne i rodno obojene prethodne pretpostavke koje se šire dalje niz tok (López-Pernas et al., 2026), a oznake istinske vrijednosti iza modela zaslužuju istu pozornost kao i sami modeli (pouzdanost istinske vrijednosti).

Alati za otkrivanje najteže pogađaju višejezične pisce. Budući da detektori klasificiraju prema predvidljivosti teksta, niska perplexity i formulaična gustoća pisanja na dodatnom jeziku pokreću lažne oznake „AI”: dokumentirane studije pogrešno su klasificirale velike udjele autentičnih TOEFL eseja neizvornih govornika (Angelier, 2026), a uređivanje rada neizvornog govornika pomaknulo je presude u oba smjera — 10,7 bodova manja vjerojatnost označavanja pod jednim detektorom, 5,8 bodova veća pod drugim (Park, Jeong and Kim, 2026).

Pristup i kvaliteta alata također su pitanja jednakosti. Digitalni jaz je temeljan (digitalni pristup), a jazovi u kvaliteti ga pogoršavaju: besplatna razina istog modela bila je netočna u 49 od 150 odgovora (32,7%) prema 18 od 150 (12%) na plaćenoj razini, zbog čega su ga nastavnici nazvali „na granici beskorisnim za matematiku” (Canonigo, 2026). Nastavnici u velikoj većini očekuju da će generativna umjetna inteligencija produbiti nejednakosti — 81% od 1.057 anketiranih nastavnika to je reklo, 58% „mnogo” (Watson and Rainie, 2026). A koristi od AI poučavanja ne raspodjeljuju se automatski: dobici se koncentriraju tamo gdje raspodjela slijedi potrebu, kao kad je proaktivno ljudsko poučavanje usmjereno na studente najdalje ispod praga proizvelo rubno viši rast (75%, p = 0,065) upravo u toj skupini (Gurung et al., 2026), ili kad su stručno provjereni AI materijali za učenje prenijeli najveći dio dobitka od 2,34 boda u najniži kvintil (Dang and Nguyen, 2026).

Što učiniti u vezi s tim — prema svojoj ulozi

Ako ste nastavnik: pitajte svaki alat koji usvojite kolike su bile njegove stope pogrešaka za podskupine koje doista predajete, a ne samo njegovu ukupnu točnost. Pažljivo provjerite rad višejezičnih pisaca prije nego prihvatite presudu detektora — ti alati pogrešno klasificiraju pisanje na dodatnom jeziku. Koristite neutralne upite kad generirate nastavne materijale (neutralan upit uvelike izbjegava izazivanje rodno diferenciranog jezika) i usporedite AI izlaz s vlastitim standardima umjesto da ga tretirate kao autoritet (Kako poučiti studente da provjere rezultate umjetne inteligencije?). Za ocjenjivanje zadržite čovjeka u petlji na graničnim slučajevima.

Ako ste programer: revidirajte kroz sve identitetske uvjete — jezik, rod, kulturu, invaliditet — koristeći ulaze koji mijenjaju samo kontekst studenta (rezultat implicitnog signala pokazuje da navedeni atributi nisu jedini kanal). Testirajte na izdvojenim ispitanicima, ne samo na izdvojenim česticama: dobici pravednosti koji su vrijedili na validacijskom split-u isparili su za stvarni model studentske pažnje u 4 od 10 pokretanja (Fragkiadakis et al., 2026). Preferirajte ublažavanje u modelu — fino podešavanje, trening neosjetljiv na dijalekt, ciljeve svjesne pravednosti poput GroupDRO — umjesto naknadnih prilagodbi izlaza (pristupi ublažavanju pristranosti). Nikada ne zaključujte o nepovoljnom položaju iz veličine skupine i izvijestite metrike podskupina, uključujući skupine koje ste morali isključiti jer je uzorak bio premalen (Ye et al., 2026 isključili su učenike engleskog i IEP studente upravo iz tog razloga — recite to kad to činite).

Ako ste istraživač: izvijestite metriku pravednosti, točka — scoping pregled 421 studije koje primjenjuju NLP na studentske evaluacije pronašao je formalnu metriku pravednosti u samo 8 (1,9%) (Eicher and da Silva, 2026), a od 12 studija ocjenjivanja AI prema čovjeku, deset je šutjelo o demografskoj, jezičnoj ili socijalnoj pristranosti (Xu, Lu and Abdi, 2026). Testirajte kroz demografske dimenzije, ne samo rod; izvijestite o isključenjima malih skupina; i procjenjujte jednakost uz točnost, a ne kao naknadnu misao. Kad revidirate modele kao tutore povijesti ili tutore u različitim kontekstima, koristite testiranje identitetskih uvjeta prije donošenja zaključaka (paternalistički filtar je primjer upozorenja).

Ako ste administrator: učinite izvještavanje po podskupinama i reviziju prije usvajanja ugovornim uvjetima kad nabavljate prediktivne ili generativne alate — autori studije ranog upozoravanja vide upravljanje nabavom, a ne optimizaciju metrika, kao primarnu zaštitu (McConvey et al., 2026). Pazite na jazove u razinama kvalitete koji ostavljaju nedovoljno financirane razrede s bitno lošijim radom alata i povežite pristup s podrškom i obukom umjesto da izdajete samo licence. Koristite poluge u institucionalnoj AI politici da zahtijevate otkrivanje i izvještavanje o jednakosti, a rasprave o istraživanju, razvoju i nadzoru usmjerite kroz konvencije istraživanja o pravičnosti, etici i sigurnosti.

Što ne radi

Tvrdnje o ukupnoj točnosti. Agregatna parnost od −0,077 koegzistirala je s 36 od 50 vještina pristranih protiv skupine; model koji je izgledao uravnoteženo gotovo je potpuno promašio studente koji se muče na neuravnoteženom split-u (Hooshyar et al., 2026 pronašli su 8%, 12% i 16% recall-a za slabije rezultate pri točnosti od 80%). Prosjeci su spojivi s koncentriranom štetom.

Naknadne paritetne popravke. Svaka intervencija u studiji ranog upozoravanja ili je preraspodijelila pogreške, ili je ispravila one koji su već bili u prednosti, ili je postigla parnost čineći skupinu manje vidljivom. Popravljanje cjevovoda nadmašuje krpanje izlaza.

Jedno ublažavanje učinjeno jednom. Pristranost se vraća kroz podatke, upite, ocjenjivanje i primjenu; istraživanje pokazuje komplementarne strategije (pošteni ciljevi treninga, dizajn upita, neosjetljivost na dijalekt, ocjenjivanje koje odvaja razumijevanje od jezika, objašnjivost, ljudski nadzor) upravo zato što nijedan pojedinačni popravak ne pokriva cjevovod (Bias Mitigation).

Kamo dalje

Stranica Bias Mitigation katalogizira izvore i pristupe ublažavanju kroz cjevovod; Equity pokriva dimenzije pristupa, zastupljenosti i ishoda s dokazima za svaku; Automation Bias pokriva kvar na strani čitatelja — pretjerano povjerenje u pristranu ili samo pogrešnu preporuku; a Differential Effects Across Learner Groups prikuplja studije koje prate kako isti alat različito pada na različite skupine.