Як упередженість і несправедливість ШІ проявляються в освіті та що з цим можна зробити?

Автоматичний переклад цієї англійської сторінки, не перевірений носієм мови.

Упередженість і несправедливість в освітньому ШІ — не одна проблема. Дослідження в цій базі знань документують, що упередженість входить майже на кожному етапі життя системи — навчальні дані, поведінка моделі, промпти, оцінювання, зворотний зв’язок, рішення про розподіл і інфраструктура під ними — і по-різному впливає на викладачів, розробників, дослідників і адміністраторів. Загальна картина достатньо послідовна, щоб сказати прямо: питайте про цифри підгруп, а не про середні; визначайте «несприятливе становище» за результатами, а не за розміром групи; і ставтеся до справедливості як до того, що проєктують і перевіряють, а не прикручують постфактум.

Де проявляються упередженість і несправедливість

Оцінювання та атестація. Оцінювання ШІ може карати за мову, якою учень пише, а не за розуміння, яке вона виражає: оцінювання з фізики систематично занижує учнів, чиї пояснення менш плавні, караючи тих, для кого мова не рідна, і менш упевнених авторів за те, що вони знають (мовна упередженість в автоматичному оцінюванні). Автоматичне оцінювання робіт також стискає розподіл до середини, найбільше викриваючи найсильніших і найслабших учнів, а його розбіжність з людьми-оцінювачами змінюється залежно від рівня досягнень і поверхневих мовних ознак, як-от обсяг словника (OpRaise, 2026). Повну картину оцінювання дивіться в FAQ про справедливість оцінювання.

Репетиторство, зворотний зв’язок і адаптивні системи. Внутрішня модель учня адаптивного тьютора може непомітно ставити цілі групи в невигідне становище: аудит справедливості байєсівського відстеження знань за журналами MATHia від 8,549 учнів за два навчальні роки виявив сукупний статистичний паритет −0.077, який приховував упередженість у 36 із 50 навичок проти читачів, що тільки формуються, причому упередженість на рівні навички сягала −0.262 — у тьютора не було компонента читацьких навичок, тож учні, які читали менш плавно, втрачали ґрунт у математиці (Stinar et al., 2026). Інструменти зворотного зв’язку мають власний задокументований перекіс: чотири широко використовувані LLM змінюють відгуки про письмо у спосіб, узгоджений зі стереотипами, коли їм дають ідентичність учня — більше похвали, менше критики, припущення про обмежені здібності — навіть для однакових есе (Tan et al., 2026). LLM-тьютори також змінюються залежно від демографічного ярлика учня: в EduFair-Bench відхилення коригувального тону перевищували 0.10 для кожної моделі з хімії та фізики, а покрокове супроводження корелювало до |r| = 0.144 з демографічними умовами з математики, причому тон ішов за ярликом, а не за якістю міркування (EduFair-Bench). Навіть демографічний контекст, невидимо присутній в історії розмови, зміщує результати: неявне обумовлення завищувало автоматичні оцінки есе до 1.57 бала для однієї моделі, бо сигнал ніс контекст, а не заявлений атрибут (Rooein, Benedetto and Hovy, 2026).

Панелі моніторингу та раннє попередження. McConvey et al. (2026) піддали стрес-тесту шість постфактумних втручань зі справедливості на реплікованій системі раннього попередження, побудованій з 168,550 записів учнів: жодне не дало послідовного приросту. Нерівності перерозподілилися, а не зменшилися; два методи використали розмір групи для визначення невигідного становища й спрямували всі 706 виправлень на міжнародних студентів, які вже мали вищий прогнозований рівень успіху (0.916 проти 0.756); а один метод досяг цільової рівності можливостей за статтю, піднявши рівень хибнопозитивних результатів для жінок з 0.561 до 0.837. Студенти, віднесені до «Невідома стать», мали найнижчі показники істиннопозитивних результатів за кожного методу.

Генеративний вихід: текст, зображення та аватари. Моделі відтворюють домінантні норми, якщо їх явно не перевірити. Систематичний огляд 31 дослідження інструментів текст-у-зображення в освіті виявив, що зображення послідовно ставили в центр білих, чоловічих, західних, худих фігур без інвалідності, а різноманіття за віком, тілом і здібностями було здебільшого відсутнє (Alon et al., 2026). Помічники формування команд розподіляють учнів у різні досвіди: три LLM, розподіляючи 11,200 завдань з програмної інженерії, відправляли чоловіків до «Дизайну інтерфейсів» замість «Основної розробки» щонайменше на 80% рідше, ніж жінок, а національність змінювала розподіл незалежно від заслуг (Entezami et al., 2026). Навіть ідентичнісні сигнали аватара змінюють довіру: білих аватарів оцінювали як більш достовірних і компетентних у двох експериментах (N = 396), тоді як старших чорношкірих жіночих аватарів карали, і ефект посилювався в завданнях STEM (Anthis and Kyriakidou-Zacharoudiou, 2026). Інструменти письма можуть переносити упередженість у власні роботи учнів: промпт із гендерною упередженістю дає більше есе з гендерними стереотипами, тож упередженість інструмента стає результатом учня (перенесення гендерної упередженості в письмі за допомогою LLM).

Дані, ярлики та інфраструктура. Упередженість присутня ще до того, як тренується будь-яка модель. Готові інструменти виявлення імен пропускали африканські імена з повнотою 0.7647, а азійські — з 0.8640 проти 0.9024 для європейських і 0.9091 для американських імен; ці розриви усунула донавчена модель (Ji et al., 2025). Навчальні корпуси й токенізація структурно ставлять у невигідне становище носіїв недостатньо представлених мов (Structural Silence), згенеровані LLM профілі учнів несуть регіональні та гендерні пріори, що поширюються далі (López-Pernas et al., 2026), а ярлики істинних даних, на яких стоять моделі, заслуговують такої самої перевірки, як і самі моделі (надійність істинних даних).

Інструменти виявлення найбільше б’ють по багатомовних авторах. Оскільки детектори класифікують за текстовою передбачуваністю, низька перплексія й формульна щільність письма додатковою мовою спричиняють хибні позначки «ШІ»: задокументовані дослідження помилково класифікували великі частки справжніх есе TOEFL, написаних не носіями (Angelier, 2026), а редагування роботи не носія зміщувало вердикти в обидва боки — на 10.7 бала менша ймовірність позначки в одному детекторі, на 5.8 бала більша в іншому (Park, Jeong and Kim, 2026).

Доступ і якість інструментів — теж питання рівності. Цифровий розрив є фундаментальним (цифровий доступ), а розриви якості його підсилюють: безкоштовний рівень тієї самої моделі помилявся в 49 із 150 відповідей (32.7%) проти 18 із 150 (12%) на платному рівні, через що вчителі назвали його «на межі непридатності для математики» (Canonigo, 2026). Викладачі переважно очікують, що генеративний ШІ поглибить нерівність — 81% із 1,057 опитаних викладачів сказали так, 58% — що суттєво (Watson and Rainie, 2026). І переваги ШІ-тьюторингу не розподіляються автоматично: приріст концентрується там, де розподіл іде за потребою, як-от коли проактивне людське тьюторство, спрямоване на учнів найнижче за порогом, дало дещо вищий приріст (75%, p = .065) саме в цій групі (Gurung et al., 2026) або коли перевірені експертами навчальні матеріали ШІ перенесли найбільшу частку приросту в 2.34 бала на найнижчий квінтиль (Dang and Nguyen, 2026).

Що з цим робити — за вашою роллю

Якщо ви викладач: запитайте в будь-якого інструменту, який впроваджуєте, якими були його показники помилок для підгруп, які ви насправді навчаєте, а не лише загальну точність. Уважно перевіряйте роботи багатомовних авторів, перш ніж приймати вердикт детектора — ці інструменти помилково класифікують письмо додатковою мовою. Використовуйте нейтральні промпти, коли генеруєте навчальні матеріали (нейтральний промпт здебільшого не спричиняє гендерно диференційованої мови), і порівнюйте вихід ШІ зі своїми стандартами, а не ставтеся до нього як до авторитетного (Як навчити студентів перевіряти результати ШІ?). Для оцінювання тримайте людину в циклі на прикордонних випадках.

Якщо ви розробник програмного забезпечення: перевіряйте за умовами ідентичності — мова, стать, культура, інвалідність — використовуючи вхідні дані, які змінюють лише контекст учня (результат неявного сигналу показує, що заявлені атрибути не єдиний канал). Тестуйте на відокремлених суб’єктах, а не лише на відокремлених елементах: приріст справедливості, що тримався на валідаційному розділі, зник для реальної моделі уваги учня в 4 із 10 запусків (Fragkiadakis et al., 2026). Віддавайте перевагу пом’якшенню в моделі — донавчання, інваріантне до діалекту тренування, цілі з урахуванням справедливості, як-от GroupDRO — а не постфактумним коригуванням виходу (підходи до пом’якшення упередженості). Ніколи не виводьте невигідне становище з розміру групи й звітуйте метрики підгруп, включно з групами, які довелося виключити через замалу вибірку (Ye et al., 2026 виключили учнів, які вивчають англійську, та учнів з IEP саме з цієї причини — кажіть про це, коли робите так).

Якщо ви дослідник: звітуйте метрику справедливості, крапка — огляд 421 дослідження із застосуванням NLP до оцінювання студентів знайшов формальну метрику справедливості лише в 8 (1.9%) (Eicher and da Silva, 2026), а з 12 досліджень порівняння оцінювання ШІ й людини десять мовчали про демографічну, мовну чи соціальну упередженість (Xu, Lu and Abdi, 2026). Тестуйте за демографічними вимірами, а не лише за статтю; звітуйте про виключення малих груп; і оцінюйте рівність поряд із точністю, а не як запізнілу думку. Коли ви перевіряєте моделі як тьюторів з історії або тьюторів у різних контекстах, використовуйте тестування за умовами ідентичності, перш ніж робити висновки (патерналістський фільтр — застережний приклад).

Якщо ви адміністратор: зробіть звітування за підгрупами й аудит перед впровадженням умовами контракту, коли закуповуєте прогнозні чи генеративні інструменти — автори дослідження раннього попередження розглядають управління закупівлями, а не оптимізацію метрик, як основний запобіжник (McConvey et al., 2026). Стежте за розривами рівнів якості, що залишають класи з браком ресурсів із істотно гіршою роботою інструментів, і поєднуйте доступ із підтримкою та навчанням, а не лише з видаванням ліцензій. Використовуйте важелі в інституційній політиці ШІ, щоб вимагати розкриття і звітності про рівність, і проведіть дискусії про R&D та нагляд через конвенції досліджень рівності, етики й безпеки.

Що не працює

Заяви про загальну точність. Сукупний паритет −0.077 співіснував з упередженістю 36 із 50 навичок проти групи; модель, що виглядала збалансованою, майже повністю пропускала учнів, які борються, на незбалансованому розділі (Hooshyar et al., 2026 виявили повноту 8%, 12% і 16% для слабких учнів за точності 80%). Середні сумісні з концентрованою шкодою.

Постфактумні виправлення паритету. Кожне втручання в дослідженні раннього попередження або перерозподіляло помилки, або виправляло вже привілейованих, або досягало паритету, роблячи групу менш видимою. Виправити конвеєр краще, ніж латати вихід.

Одне пом’якшення, зроблене один раз. Упередженість повертається через дані, промпти, оцінювання та розгортання; дослідження показує взаємодоповнювальні стратегії (справедливі цілі тренування, дизайн промптів, інваріантність до діалекту, оцінювання, що відокремлює розуміння від мови, пояснюваність, людський нагляд) саме тому, що жодне окреме виправлення не покриває конвеєр (Пом’якшення упередженості).

Де заглибитися

Сторінка Пом’якшення упередженості каталогізує джерела й підходи до пом’якшення в усьому конвеєрі; Справедливість охоплює виміри доступу, представництва та результатів із доказами для кожного; Упередженість до автоматизації охоплює збій на боці читача — надмірну довіру до упередженої або просто хибної рекомендації; а Диференційовані ефекти в різних групах здобувачів збирає дослідження, що простежують, як той самий інструмент по-різному лягає на різні групи.