Jak se zkreslení a nespravedlnost AI projevují ve vzdělávání a co s tím můžeme dělat?

Automatický strojový překlad této anglické stránky, který ještě nebyl zkontrolován rodilým mluvčím.

Zkreslení a nespravedlnost ve vzdělávací AI nejsou jediným problémem. Výzkum v této znalostní bázi dokumentuje, jak zkreslení vstupuje téměř v každé fázi života systému — trénovací data, chování modelu, prompty, skórování, zpětná vazba, rozhodnutí o rozdělení a infrastruktura pod nimi — a působí odlišně na vyučující, vývojáře, výzkumníky a administrátory. Vzorec je napříč tím vším dost konzistentní, abychom ho řekli přímo: ptejte se na čísla pro podskupiny, ne na průměry; definujte „znevýhodněného“ podle výsledků, ne podle velikosti skupiny; a berte férovost jako něco, co navrhujete a auditujete, ne co dodatečně přilepíte.

Kde se zkreslení a nespravedlnost projevují

Skórování a hodnocení. Skórování pomocí AI může trestat jazyk, kterým student píše, místo porozumění, které vyjadřuje: skórování ve fyzice systematicky podceňuje studenty, jejichž vysvětlení jsou méně plynulá, a trestá nerodilé a méně sebevědomé pisatele za to, co vědí (jazykové zkreslení v automatickém skórování). Automatické známkování se také stahuje ke středu rozdělení, čímž nejvíce vystavuje nejsilnější a nejslabší studenty, a jeho neshoda s lidskými hodnotiteli se mění podle úrovně prospěchu a podle povrchových jazykových rysů, jako je rozsah slovní zásoby (OpRaise, 2026). Celý obraz známkování najdete v otázkách o férovosti a spolehlivosti známkování.

Doučování, zpětná vazba a adaptivní systémy. Vnitřní model studenta v adaptivním tutoru může neviditelně znevýhodnit celé skupiny: audit férovosti bayesovského sledování znalostí na logech MATHia od 8 549 studentů za dva školní roky našel agregátní statistickou paritu −0,077, která skrývala 36 z 50 dovedností zatížených proti začínajícím čtenářům, s vychýlením na úrovni dovednosti až −0,262 — tutor neměl komponentu čtenářských dovedností, takže studenti, kteří čtou méně plynule, ztráceli půdu v matematice (Stinar et al., 2026). Nástroje zpětné vazby mají své vlastní doložené vychýlení: čtyři široce používané LLM posouvají zpětnou vazbu k psaní způsoby sladěnými se stereotypy, když dostanou identitu studenta — více chvály, méně kritiky, předpoklady omezených schopností — i u identických esejí (Tan et al., 2026). LLM tutoři se také mění podle demografického štítku studenta: v EduFair-Bench překročily výkyvy korektivního tónu 0,10 u každého modelu v chemii a fyzice, scaffolding kroků koreloval až do |r| = 0,144 s demografickými podmínkami v matematice a tón sledoval štítek, ne kvalitu uvažování (EduFair-Bench). Dokonce i demografický kontext neviditelně přítomný v historii konverzace posouvá výstupy: implicitní podmiňování nafouklo automatické skóre esejí až o 1,57 bodu u jednoho modelu, protože signál nesl kontext, nikoli uvedený atribut (Rooein, Benedetto a Hovy, 2026).

Dashboardy a včasné varování. McConvey et al. (2026) zatížili šest dodatečných intervencí za férovost na replikovaném systému včasného varování postaveném ze 168 550 studentských záznamů: žádná nepřinesla konzistentní zisky. Rozdíly se přerozdělily, ne snížily; dvě metody použily velikost skupiny k definici znevýhodnění a nasměrovaly všech 706 oprav na mezinárodní studenty, kteří už měli vyšší predikovanou míru úspěchu (0,916 vs. 0,756); a jedna metoda splnila svůj cíl rovných příležitostí podle pohlaví tím, že míru falešně pozitivních výsledků u žen vyhnala z 0,561 na 0,837. Studenti sloučení do „Neznámého pohlaví“ měli nejnižší míry skutečně pozitivních výsledků u každé metody.

Generativní výstup: text, obrazy a avataři. Modely reprodukují dominantní normy, pokud nejsou výslovně kontrolovány. Systematický přehled 31 studií nástrojů text-to-image ve vzdělávání zjistil, že obrazy důsledně stavěly do středu bílé, mužské, západní, hubené a nehandicapované postavy, přičemž rozmanitost věku, těla a schopností většinou chyběla (Alon et al., 2026). Asistenti pro tvorbu týmů směrují studenty k různým zkušenostem: tři LLM rozdělující 11 200 softwarově-inženýrských zadání posílaly muže nejméně o 80 % méně často než ženy do „Návrhu rozhraní“ místo do „Základního vývoje“ a národnost měnila zařazení nezávisle na zásluhách (Entezami et al., 2026). I identitní signály avatara mění důvěru: bílí avataři byli ve dvou experimentech hodnoceni jako důvěryhodnější a kompetentnější (N = 396), zatímco starší černošské ženské avatary byly penalizovány a efekt se zesiloval u úloh STEM (Anthis a Kyriakidou-Zacharoudiou, 2026). Nástroje pro psaní mohou přenést zkreslení do vlastní práce studentů: genderově zatížený prompt produkuje více genderově stereotypních esejí, takže zkreslení nástroje se stává výstupem studenta (přenos genderového zkreslení při psaní s LLM).

Data, štítky a infrastruktura. Zkreslení je přítomno dřív, než se jakýkoli model trénuje. Hotové nástroje pro detekci jmen dosáhly recall 0,7647 u afrických jmen a 0,8640 u asijských proti 0,9024 u evropských a 0,9091 u amerických jmen — mezery, které doladěný model odstranil (Ji et al., 2025). Trénovací korpusy a tokenizace strukturálně znevýhodňují mluvčí nedostatečně zastoupených jazyků (Structural Silence), LLM-generované profily studentů nesou regionální a genderové předsudky, které se šíří dál (López-Pernas et al., 2026), a štítky ground truth za modely si zaslouží stejnou kontrolu jako modely samotné (spolehlivost ground truth).

Detekční nástroje zasahují nejtvrději vícejazyčné pisatele. Protože detektory klasifikují podle textové předvídatelnosti, nízká perplexita a formulační hustota psaní v dalším jazyce spouštějí falešné vlajky „AI“: doložené studie chybně klasifikovaly velké podíly autentických esejí TOEFL od nerodilých mluvčích (Angelier, 2026) a editace textu nerodiče posunula verdikty oběma směry — o 10,7 bodu menší pravděpodobnost označení u jednoho detektoru, o 5,8 bodu větší u jiného (Park, Jeong a Kim, 2026).

Přístup a kvalita nástrojů jsou také otázkou férovosti. Digitální propast je základní (digitální přístup) a kvalitativní propasti ji násobí: bezplatná úroveň téhož modelu byla nepřesná u 49 ze 150 odpovědí (32,7 %) proti 18 ze 150 (12 %) u prémiové úrovně, což vedlo učitele k tomu, že ji nazvali „na hranici nepoužitelnosti pro matematiku“ (Canonigo, 2026). Akademičtí pracovníci drtivě očekávají, že generativní AI prohloubí nerovnosti — uvedlo to 81 % z 1 057 dotázaných a 58 % řeklo, že výrazně (Watson a Rainie, 2026). A přínosy doučování s AI se nerozdělují automaticky: koncentrují se tam, kde rozdělení sleduje potřebu, jako když proaktivní lidské doučování zaměřené na studenty nejdál pod prahem přineslo marginálně vyšší růst (75 %, p = 0,065) právě v této skupině (Gurung et al., 2026), nebo když experty ověřené studijní materiály s AI přesunuly největší podíl zisku 2,34 bodu do nejnižšího kvintilu (Dang a Nguyen, 2026).

Co s tím — podle vaší role

Pokud jste vyučující: ptejte se každého nástroje, který zavádíte, jaké byly jeho míry chyb pro podskupiny, které skutečně učíte, ne jen na celkovou přesnost. Pečlivě kontrolujte práci vícejazyčných pisatelů, než přijmete verdikt detektoru — tyto nástroje chybně klasifikují psaní v dalším jazyce. Při generování výukových materiálů používejte neutrální prompty (neutrální prompt se do značné míry vyhýbá vyvolání genderově diferencovaného jazyka) a výstup AI srovnávejte s vlastními standardy, místo abyste ho brali jako autoritu (ověření výstupu AI). Při známkování udržujte člověka ve smyčce u hraničních případů.

Pokud jste vývojář softwaru: auditujte napříč identitními podmínkami — jazyk, gender, kultura, postižení — s vstupy, které mění jen kontext studenta (výsledek implicitního signálu ukazuje, že uvedené atributy nejsou jediným kanálem). Testujte na oddělených účastnících, ne jen na oddělených položkách: zisky férovosti, které vydržely na validačním rozdělení, se u skutečného modelu odhadu pozornosti studentů vypařily ve 4 z 10 běhů (Fragkiadakis et al., 2026). Upřednostněte zmírnění v modelu — doladění, trénink invariantní vůči dialektu, cíle citlivé k férovosti jako GroupDRO — před dodatečnými úpravami výstupu (přístupy ke zmírnění zkreslení). Nikdy neodvozujte znevýhodnění z velikosti skupiny a reportujte metriky podskupin včetně skupin, které jste museli vyloučit, protože vzorek byl příliš malý (Ye et al., 2026 vyloučili studenty učící se anglicky a studenty s IEP právě z tohoto důvodu — když to uděláte, řekněte to).

Pokud jste výzkumník: reportujte metriku férovosti, tečka. Scoping review 421 studií aplikujících NLP na studentská hodnocení našel formální metriku férovosti jen v 8 (1,9 %) (Eicher a da Silva, 2026) a z 12 studií srovnávajících skórování AI a člověka bylo deset mlčenlivých o demografickém, jazykovém nebo sociálním zkreslení (Xu, Lu a Abdi, 2026). Testujte napříč demografickými dimenzemi, ne jen genderem; reportujte vyloučení malých skupin; a férovost hodnotte vedle přesnosti, ne jako dodatek. Když auditujete modely jako tutory dějepisu nebo tutory v různých kontextech, před vyvozováním závěrů použijte testování identitních podmínek (paternalistický filtr je varovný příklad).

Pokud jste administrátor: udělejte z reportování po podskupinách a auditu před zavedením smluvní podmínky, když nakupujete prediktivní nebo generativní nástroje — autoři studie včasného varování považují správu nákupu, ne optimalizaci metrik, za hlavní záruku (McConvey et al., 2026). Sledujte propasti v kvalitě, které nechávají školy s nedostatkem zdrojů s podstatně horším výkonem nástrojů, a spojujte přístup s podporou a školením, místo abyste jen vydávali licence. Použijte páky v institucionální politice AI k vyžadování zveřejnění a reportování férovosti a diskuse o výzkumu a dohledu veďte přes konvence výzkumu spravedlnosti, etiky a bezpečnosti.

Co nefunguje

Tvrzení o celkové přesnosti. Agregátní parita −0,077 koexistovala s 36 z 50 dovedností zatížených proti skupině; model, který vypadal vyváženě, málem úplně minul bojující studenty na nevyváženém rozdělení (Hooshyar et al., 2026 našli recall 8 %, 12 % a 16 % pro slabě výkonné při 80% preciznosti). Průměry jsou slučitelné s koncentrovanou újmou.

Dodatečné opravy parity. Každá intervence ve studii včasného varování buď přerozdělila chyby, nebo opravila už zvýhodněné, nebo dosáhla parity tím, že skupinu učinila méně viditelnou. Oprava pipeline je lepší než záplatování výstupu.

Jedno zmírnění provedené jednou. Zkreslení se vrací daty, prompty, skórováním a nasazením; výzkum ukazuje doplňkové strategie (férové trénovací cíle, návrh promptů, dialektová invariance, skórování oddělující porozumění od jazyka, vysvětlitelnost, lidský dohled) právě proto, že žádná jednotlivá oprava nepokrývá celou pipeline (Bias Mitigation).

Kde jít hlouběji

Stránka Bias Mitigation katalogizuje zdroje a přístupy ke zmírnění napříč pipeline; Equity pokrývá dimenze přístupu, zastoupení a výsledků s důkazy pro každou; Automation Bias pokrývá selhání na straně čtenáře — přehnanou důvěru ve zkreslené nebo jen chybné doporučení; a Differential Effects Across Learner Groups shromažďuje studie, které sledují, jak stejný nástroj dopadá na různé skupiny různě.