Концепції
Освітнє вимірювання
Автоматичний переклад цієї англійської сторінки, не перевірений носієм мови.
Освітнє вимірювання — психометрична теорія та методи кількісної оцінки й валідації навчання та його конструктів — пронизує сторінки Теорія відгуку завдань, Відстеження знань і Валідність оцінювання цієї бази знань. Епоха Великі мовні моделі (LLM) змушує вимірювання поєднувати класичну психометрику з новими потоками відповідей, генерованих ШІ: автоматичне оцінювання, передбачувана ШІ складність і Мультимодальний ШІ сліди мають валідуватися проти закорінених принципів вимірювання, щоб зберегти надійність і валідність.
Запитання для роздумів
- LLM передбачає, що елемент іспиту є легким, але емпіричні дані тесту кажуть, що студенти вважають його складним. Кому ви Довіра і що переконало б вас довіряти машинній оцінці?
- Освітнє вимірювання — це перетворення спостережень за навчанням на захищені кількісні твердження. Коли ШІ оцінює есе чи бал за відповідь, чи є «бал» автоматично вимірюванням — або щось має бути валідовано спочатку? Що саме?
- Деякі дослідження вказують, що інструменти оцінювання можуть вимірювати не те саме для людей, що й для LLM — латентна структура розходиться. Якщо конструкти справді відрізняються між людьми та ШІ, що це означає для генерованих ШІ балів або оцінок складності?
- ШІ може оцінювати, генерувати елементи та передбачати складність у безпрецедентному масштабі. Чи є «більше вимірювання» тим самим, що «краще вимірювання»? Що робить бал надійним і валідним, і чи можуть ці стандарти зберегтися, коли вимірювання виконує генеративна модель?
- Бенчмарки та оцінки, генеровані ШІ, тепер скрізь. Що ви мали б побачити, перш ніж розглядати оцінювання на основі ШІ як доказ про фактичне розуміння здобувача, а не просто як число?
Вступ
Освітнє вимірювання — це дисципліна перетворення спостережень за навчанням — відповідей, поведінок, балів — на захищені кількісні твердження. Воно охоплює визначення конструкту, дизайн елементів/тестів, шкалювання, надійність і валідність. У ШІ в освіті питання вимірювання є всюди: чи вимірює бенчмарк-бал те, що ми думаємо? Чи є генерований ШІ бал надійним і валідним? Чи узгоджуються передбачувані ШІ складності елементів із емпірично оціненими?
Як освітнє вимірювання з’являється в дослідженнях
-
Десятилітнє переосмислення галузі ШІ: Xiong and Li (2026) відображають вплив ШІ на три ери (формативна 2015–2018, розширення 2019–2022, генеративна 2023–дотепер) через рамку «ефективність–покращення–трансформація», охоплюючи ШІ в оцінюванні та генерації елементів, психометричне моделювання, інновації в оцінюванні та дані процесу, а також справедливість/етику/рівність. Вони стверджують на користь нової парадигми, що інтегрує теорію вимірювання з методами ШІ, і переосмислення конструктів у контексті взаємодії людини зі ШІ — тієї самої межі, яку порівняння латентної структури досліджує емпірично.
-
Передбачувана ШІ складність і калібрування: Калібрування складності за LLM і передбачення складності елементів використовують LLM для оцінювання складності елементів, що має валідуватися проти психометричних оцінок (див. Теорія відгуку завдань). Razavi and Powers (2026) додають масштабний тест цієї передумови для K-5: на 5 170 математичних елементах і елементах із читання, каліброваних за моделлю IRT Раша, zero-shot оцінки складності GPT-4o корелювали помірно-сильно зі справжніми складностями (r = 0,83 математика, r = 0,81 читання), але були нерівномірними за класами і не кращими за фіктивний регресор із середнім за класом для класів K і 1. Підхід на основі ознак — витягнуті LLM когнітивні та мовні ознаки, подані в дерево-базові моделі — досягав кореляцій до r = 0,87, причому клас і кількість слів були найкращими предикторами. Дослідження ілюструє і перспективність, і межі складності, передбачуваної ШІ, як вимірювального входу, і пропонує практичний семикроковий робочий процес для професіоналів із тестування.
-
Коли згенеровані мітки складності не вимірюють складність. Аудит конструктної валідності 311 розгорнутих згенерованих LLM питань виявив, що згенерована мітка складності корелювала зі своїм власним згенерованим рівнем Блума на ρ=0,90, але з емпіричною складністю (індекс класичної теорії тестів 1−p) — лише на ρ=0,06, тоді як довжина варіантів відповіді йшла у зворотному напрямі (ρ=−0,18) — результат «міток як поверхневої форми», що обмежує оптимістичні прочитання передбачуваної ШІ складності вище (An & Wang (2026)).
-
Таксономічна мітка не передбачає поведінку елемента. На 265 математичних елементах намічений рівень Блума пояснював менше 5% дисперсії складності (ε² = 0,043) і жодної з дискримінативності (Kruskal–Wallis H = 0,54, p = 0,77), тоді як класифікація LLM узгоджувалася з експертними кодувальниками лише посередньо (Cohen's κ = 0,22) і тяжіла елементи до смуги застосування/аналізу (Altaweel & Moussa (2026)).
-
Судіть згенеровані елементи за шляхом розв’язання, а не за формулюванням. Кодування перевіреного дерева міркування кожного елемента підвищило продуктивність над другим за якістю методом на 7,5% в оцінюванні понять, 6,3% в оцінюванні складності та 19,5% в оцінюванні компетентностей, де zero-shot базова лінія неправильно позначила елемент, що слідує шаблону, як «Міркування», а геометричний елемент — як «Знання» (Tong et al. (2026)).
-
Психометрична обізнаність у ШІ-Оцінювання: психометрично обізнаний ШІ — це стандарт, що оцінювання на основі ШІ має бути узгоджене з теорією вимірювання — каліброваним, обізнаним про невизначеність і зберігаючим валідність (див. Confidence Aware AI Assessment).
-
Мітки mastered є сконструйованими, а не спостережуваними. Там, де діагностика потребує істинної основи, Jia and Dong (2026) побудували її через процедуру контролю валідності — графи понять навчальної програми, переглянуті викладачами відображення точок знань і конвергентні докази оцінювання, — а не перетворюючи поведінкові сліди напряму, і їхні діагнози узгодилися з освітніми психологами на Cohen's kappa 0,78 проти 0,65 для IRT.
-
Автоматичне оцінювання та валідність: Оцінювання ШІ та мовний упередження і оцінювання параметрів елементів за мультимодальними даними розглядають, як автоматичне оцінювання та мультимодальні дані впливають на якість вимірювання.
-
Рамки валідності: Валідність оцінювання і Освітня NLP постачають стандарти та інструменти для валідації вимірювання на основі LLM.
-
Порівняння латентної структури: Strugatski et al. (2026) розширюють освітнє вимірювання на умови LLM, перевіряючи, чи демонструють інструменти оцінювання ту саму факторну структуру для людей і LLM. Використовуючи EFA, конгруентність факторів і повторну вибірку, вони показують, що латентні структури LLM і людини систематично розходяться на інструментах із хімії та кількісного міркування, що вказує на те, що вимірювані конструкти відрізняються між популяціями, — необхідна перевірка перед тим, як припускати перенесення людських доказів валідності на ШІ.
-
ШІ як оцінювач із вимірюваною похибкою: Cvengros & Kortemeyer розглядають призначені ШІ бали як придатні до помилки спостереження з кількома джерелами похибки (елементи, прогони, завдання) в межах теорії узагальнюваності та аргументаційної валідності Кейна. Аналіз надійності письмового іспиту з загальної хімії для 296 студентів показав високу стабільність сукупних балів за п’ять прогонів ШІ (ICC(A,1) = 0,967, Kendall's W = 0,959, коефіцієнт відтворюваності 95% — 5,33 із 60 балів) із нижчою стабільністю на рівні елементів (ICC(A,1) = 0,836) — несистематичні похибки частково взаємопогашуються при підсумовуванні (ефект агрегації Спірмена–Брауна, який підвищує узгодженість сукупних балів до R² = 0,91), тоді як малий позитивний перетин з нахилом < 1 виявив упередженість стискання балів «боязкого оцінювача». Це фреймує усереднення за прогонами та агрегацію як рішення дизайну вимірювання і мотивує фільтри впевненості, калібровані за ризиком IRT, як запобіжник валідності перед тим, як автоматичним мірам дадуть довіру.
-
Версія моделі є умовою вимірювання. Hao (2026) виявив, що схожість відповідей усередині моделі (0,715–0,795) послідовно перевершувала схожість між моделями (0,443–0,604) на чотирьох LLM, тому аргумент оцінювання, усталений для одного розгортання, не переноситься автоматично на його наступника.
-
Нульовий результат не є доказом еквівалентності, якщо він не обмежений. StudentBench перевірив, чи поєднане репетиторство зі ШІ узгодилося з експертним людським репетиторством, двома односторонніми тестами проти ±0,25 поєднаних стандартних відхилень, а не тестом на різницю, повідомивши скориговану різницю −0,58 процентних пунктів (90% CI [−2,18, 1,03]) — вибір, який перетворює недостатньо потужний нульовий результат на твердження про еквівалентність (Northcutt et al. (2026)).
-
Калібрування, що масштабується з новими даними, а не з усією історією: Jewsbury et al. (2026) протиставляють операційному наслідку генерації елементів ШІ — банкам, більшим, рідкіснішим і частіше оновлюваним, ніж звичайні, де повторне підігнання всіх накопичених даних відповідей на кожному оновленні є коштовним і може перевищити доступну пам’ять. Їхній консенсус-калібрування поєднує незалежно калібровані квартальні періоди, відображаючи апостеріорні вибірки кожного періоду на спільну метрику за надійним зв’язком Хебара на кожну вибірку (так що невизначеність зв’язування поширюється, а не розглядається як фіксоване перетворення), потім агрегуючи як добуток гаусових апостеріорів, із яких віднімається оцінений, ієрархічний пріор кожного періоду та відновлюється консенсус-пріор. На операційних даних Duolingo English Test за чотири періоди агрегат узгодився з поєднаним бенчмарком одного прогону за апостеріорними середніми (r = .998 для складності, .991 для логарифмічної дискримінативності) та стандартними відхиленнями (r = .970 і .920), із залишковою недодисперсією 0,91–0,98 у відношенні SD консенсусу/поєднаного за тертилями експозиції — зосередженою в найрідкіснішому тертилі елементів, де завищене врахування пріора кусає найсильніше. Урок вимірювання є двояким: оціненим пріором неможливо керувати за допомогою стандартних пристроїв підмножинного пріора паралельних байєсіанських обчислень, і апостеріорна *дисперсія» — та невизначеність, яку споживають адаптивний вибір і оцінювання, — є так само ціллю виправлення, як і апостеріорне середнє.
-
Визначення дисперсії системи з двох опублікованих чисел: Restrepo Morales et al. (2026) показують, що стандартне відхилення розподілу досягнень може бути відновлене лише з опублікованих підсумкових статистик — середнього та частки студентів на або вище фіксованої відсічки володіння, — оскільки за розподільним припущенням σ = (c − μ) / z(1 − p). Застосовано до PISA 2025 Сальвадору (математичне середнє 346, 12,28% на або вище відсічки рівня 2 з 420,07), виведене σ становить 63,8 (читання 76,8, природничі науки 63,8), значно нижче міжнародного орієнтира 100, як і очікується для розподілу, притиснутого до підлоги шкали; три оцінки були отримані з незалежних пар чисел і лежать у межах приблизно 13 пунктів одна від одної, — помірна перевірка внутрішньої узгодженості. Частка на рівні 2 повідомляється для кожної системи PISA і лежить в основі показника SDG 4.1.1, тому ідентифікації не потрібні мікродані, і та сама стаття демонструє проблему знаменника в розмірах ефекту, повідомляючи один математичний розрив трьома способами — 129 пунктів, 1,29 міжнародних стандартних відхилень або 2,02 стандартних відхилень самого сальвадорського розподілу, — на аргументі, що стандартизовані розміри ефекту, поділені на власну дисперсію своєї вибірки, не є легітимно порівняними між дослідженнями.
Вимірювальні інструменти в базі знань
Центральна функція освітнього вимірювання — розробка, валідація та використання інструментів, конкретних шкал, тестів і схем кодування, які операціоналізують конструкти. Статті бази знань документують широкий діапазон інструментів для конструктів ШІ в освіті, які можна категоризувати за тим, що вони вимірюють, і за їхнім підходом до вимірювання.
Інструменти ШІ- / GenAI-грамотності
ШІ-грамотність — це конструкт із найбагатшим висвітленням інструментів у базі знань. Існує дві широкі родини: тести на основі продуктивності (об’єктивні, менш сприйнятливі до упередження самоогляду) та шкали самоогляду (суб’єктивні, що захоплюють сприйняту компетентність). Компроміси цієї другої родини є предметом Засоби самооповідання: самоогляд дешево досягає ставлень і сприйнять, але не може нести твердження про компетентність чи поведінку, і база знань документує розрив у переоцінці на 40%, коли порівняно паралельні міри самоогляду та продуктивності.
- Міри на основі продуктивності (об’єктивні). Флагман — GLAT (Generative AI Literacy Assessment Test), інструмент із 20 елементів із вибором відповіді, побудований на зведенні з 25 понять за чотирма вимірами (Know & Understand, Use & Apply, Evaluate & Create, Етика) і валідований за CTT + 2PL IRT на 355 студентах (RMSEA = 0,03, CFI = 0,97, α = 0,80, ω = 0,81). Критично, бали GLAT передбачали продуктивність завдань із підтримкою ШІ там, де самоогляд — ні, — доказ, що вимірювання на основі продуктивності перевершує самоогляд для ШІ-грамотності. Пов’язана робота в How to Assess AI Literacy: Misalignment Between Self-Reported and Objective-Based Measures кількісно оцінює розрив між самооголошуваною та заснованою на продуктивності ШІ-грамотністю (викладачі переоцінюють на ~40%), а Tracing GenAI Literacy: Student-AI Interaction Patterns in Academic Writing відстежує фактичні закономірності взаємодії студентів зі ШІ, а не спирається на повідомлене використання.
- Вимірювання того, що роблять викладачі, а не лише того, що вони знають. Валідація на 486 викладачах дала шестивимірний інструмент для освітніх використань GenAI викладачами — управління, створення матеріалів, оцінювання, розширення повноважень, різноманіття та мотивація, — підтверджуючи, що використання є багатовимірним, хоч і самоогляди не можуть нести твердження про практику в класі (Pérez-Montesdeoca et al. (2026)).
- Шкали самоогляду. SAIL операціоналізує ШІ-грамотність за трьома доменами (концепції ШІ; застосування та технічні навички; цифрове громадянство ШІ) та чотирма скаффолдингованими рівнями; Гептагон ШІ-грамотності структурує сім вимірів (технічний, застосування, критичне мислення, етика, соціальний вплив, інтеграція, правовий/регуляторний) із чотирма рівнями володіння, узгодженими з Блумом. The GenAI Skill Bypass: Mapping Divergent Pathways of University Students and Staff AI Literacy відображає розбіжні шляхи ШІ-грамотності для студентів проти персоналу, а Towards AI literacy: A proposal of a framework based on the Episodes of Situated Learning обґрунтовує оцінювання грамотності в епізодах ситуативного навчання. Розробка інструментів для молодших здобувачів також просувається: анкета самооцінки ШІ-грамотності (AIL-SAQ) від Thianwan and Srikoon (2025) — це шкала самоогляду з 15 елементів для студентів 4–6 класів, організована навколо Learning About AI, Learning About How AI Works і Learning for Life with AI, валідована дослідницьким факторним аналізом на 335 студентах і конфірматорним факторним аналізом ще на 579, із загальним альфа Кронбаха .934.
- Специфічна для домену ШІ-грамотність. Teacher education for artificial intelligence literacy through a self-determination theory perspective розробляє міри ШІ-грамотності викладачів у межах рамки Теорія самодетермінації (382 викладачі, факторно валідовано); Conceptualizing pre-service teachers' readiness for AI integration into teaching practices: An intelligent-TPACK approach вимірює готовність доуніверситетських викладачів до ШІ через інтелектуальний Технологічні педагогічні знання змісту (TPACK); AI literacy alone is not enough: Student AI readiness and career adaptability in business and management education оцінює готовність студентів до ШІ та кар’єрну адаптивність у бізнес-освіті; а Can Large Language Models Foster Critical Thinking, Teamwork, and Problem-Solving Skills in Higher Education?: A Literature Review оглядає інструменти для результатів критичного мислення та командної роботи з підтримкою LLM. Розширюючись у вимірювання освітян, шкала ШІ-грамотності викладачів (TAILS) операціоналізує шість вимірів рамки ED-AI для вимірювання ШІ-грамотності саме в межах освіти викладачів мови (валідовано факторним аналізом), заповнюючи прогалину в оцінюваннях, спрямованих на студентів або загальних користувачів.
Інструменти ставлення, прийняття та мотивації
- Прийняття технологій. Інструменти, обґрунтовані на TAM/UTAUT, вимірюють сприйняту корисність, легкість використання та поведінковий намір використовувати ШІ. Див. Моделі прийняття технологій і його застосування в Acceptance of AI-Assisted English Language Learning Tools in Higher Education: Psychological Correlates Across Disciplinary and Proficiency Groups (інструменти англійської мови з підтримкою ШІ, психометрична валідація між дисциплінарними групами/групами володіння) і шляхах впровадження GenAI.
- Самоефективність і мотивація. Інструменти Самоефективність і шкали мотивації (наприклад, засновані на SDT міри автономії/компетентності/пов’язаності в Teacher education for artificial intelligence literacy through a self-determination theory perspective) захоплюють мотиваційні передумови та наслідки використання ШІ. Вони пов’язуються з вимірюванням Залученість здобувачів і Попередні знання.
- Сприйняття навчання на основі проєктів. Zhu and Kong (2026) розробляють і валідують обґрунтовану на контексті шкалу навчання на основі проєктів зі ШІ (AI-PBLS), що вимірює сприйняття студентами PBL під час використання ШІ для вирішення проблем на курсах ШІ-грамотності (EFA і CFA на 1 027 студентів середньої школи та університету, 446 повних), і їхнє застосування SEM демонструє, як розширення повноважень і етична обізнаність посередництво у зв’язках PBL–задоволеність, — надійний інструмент для оцінювання сприйнятого досвіду PBL у застосунках ШІ.
Інструменти якості оцінювання та валідності
- Автоматичне оцінювання та інструменти рубрик. HARMOGEN-R генерує рубрики оцінювання; AI-assisted, instructor-supervised grading and feedback in higher education: Design and evaluation of an end-to-end pipeline оцінює якість оцінювання ШІ проти критеріїв elaborated-Зворотний зв’язок; A bit of chaos and madness: The AI Assessment Scale and the work of assessment reform розглядає, як ШІ руйнує традиційні шкали оцінювання.
- Дизайни, що зміцнюють валідність. близнюки оцінювання поєднують вразливе до GenAI завдання з менш вразливим еквівалентом, що оцінює ті самі результати, відображаючи загрози за шістьма нитками доказів валідності Мессіка.
- Розбиття простору результатів за допомогою. Програма вимірювання визначає авторство моделі — наскільки здобувач, а не система, є походженням змісту артефакту на рівні домену, — як конструкт із чотирьох аспектів і чотирьох рівнів, і повідомляє, що з 24 аудитованих досліджень майже всі вимірювали продуктивність за наявності ШІ і жодне не вимірювало після відміни (Gousopoulos (2026)).
- Кодування дискурсу та залученості. Measuring Cognitive Engagement in Collaborative Discourse with an Extended ICAP Framework: Comparing Human Annotation, In-Context Learning, and Reflective LLM Agents розширює рамку ICAP у 7-бальну схему кодування когнітивної залученості, порівнюючи людську анотацію (κ = 0,906–0,998) із позначуванням на основі LLM (κ = 0,541–0,609) — дослідження вимірювального інструмента, що показує, що автоматичне кодування все щ відстає від навчених людей. Автоматичне кодування також просувається через контекстно обізнане підказування, яке моделює контекстуальні залежності й поєднує когнітивні та соціальні здібності, щоб кодувати навички спільного вирішення проблем із даних процесу за кращою продуктивністю, ніж сильні базові лінії, — уможливлюючи оцінювання в великому масштабі та в реальному часі, водночас відповідаючи на трудомісткість ручного кодування.
- Витягування навичок. Principal Trait Analysis: Towards Deriving 'Skills' in Human-AI Collaboration виводить «навички» у співпраці людини зі ШІ через аналіз основних рис — вимірювання на основі даних компетентності співпраці.
Підхід до вимірювання має значення
Докази бази знань повторювано показують, що як вимірюється конструкт, змінює висновки. Самооголошувана ШІ-грамотність різко розходиться з мірами на основі продуктивності (How to Assess AI Literacy: Misalignment Between Self-Reported and Objective-Based Measures); анотація LLM залученості розходиться з кодуванням навчених людей (Measuring Cognitive Engagement in Collaborative Discourse with an Extended ICAP Framework: Comparing Human Annotation, In-Context Learning, and Reflective LLM Agents); і латентні структури відрізняються між людьми та LLM (Do Assessment Instruments Measure the Same Thing for Humans and LLMs? A Latent Structure Analysis). Тому ретельна валідація інструмента — надійність, структурна валідність, зовнішня/предиктивна валідність — є не формальністю, а основою надійних доказів про ШІ в освіті, пов’язуючись із Валідність оцінювання і Психометрично обізнаний ШІ. Недавнє дослідження на матеріальному рівні показує, скільки роботи з валідації стоїть за простим твердженням про прийняття: Wang, Chuang and Wu (2026) використали дизайн із розбиттям навпіл (EFA на розвивальній вибірці, CFA на утриманій половині) для двох посібників із ШІ-грамотності, розділених за віком, повідомивши KMO = .820, 67,3% поясненої дисперсії, прийнятне узгодження для студентів (CFI = .943, RMSEA = .059, SRMR = .059), складену надійність від .84 до .90 і інваріантність вимірювання між виданнями, — потім документуючи, де інструмент напружується, зі значеннями HTMT до .950 і обмеженою кореляцією «грайливість–намір», яку довелося перевірити на одиницю. Їхні додаткові перевірки на диференційну функцію елементів є моделлю чесності, за яку виступає ця сторінка: інваріантність трималася, але закономірності відповідей із низькою варіацією серед молодших студентів означали, що одна групова різниця послабла, коли цих респондентів виключили, і стаття повідомляє це поряд із головним результатом, а не замість нього.
Oliveira et al. (2025) показують послідовність валідації для нової міри процесу: оцінювання журналів взаємодії студентів зі GenAI проти таксономії з 35 підкатегорій досягло лише помірної узгодженості між оцінювачами (Cohen's κ = 0,44), проте корелювало r = 0,54 із балами за есе, даючи новій мірі конвергентну підтримку.
- Коефіцієнти узгодженості є властивостями корпусу, а бали — спільними продуктами. Валідація автоматичного оцінювання 60 маркетингових публікацій повідомила абсолютну узгодженість ICC(2,1) .435 для LLM, .266 для гібриду «правила плюс LLM» і .091 для детермінованих правил, із невизначеністю, оціненою за 2 000 бутстрап-вибірок кластерів авторів, і MAE 6,28–17,22 балів; додавання прив’язок, створених дослідниками, перемістило узгодженість між оцінювачами з .338 на .902, показуючи, наскільки сильно ці оцінки залежать від референтного набору (Agreement and error in automated scoring of student marketing posts). Аудит повторного оцінювання експертами бенчмарків із фізики робить додатковий пункт на рівні інструмента: 95,20% аудитованих відкидань були похибками бенчмарку або оцінювача, а не провалами моделі, тому вимірюваний бал має повідомлятися як властивість банку елементів, рубрики та оцінювача разом (How Good Are Frontier Models at Physics? Expert Re-Grading Reveals Broken Evaluations and Near-Saturation of Leading Benchmarks).
Надійність частково відновлюється з самої моделі. Organisciak and Acar (2026) оцінюють три дешевих покращення оцінювання на основі LLM на понад 20 000 відповідей на Alternative Uses Test: зчитування власної впевненості моделі на рівні токенів, взяття зваженого за ймовірністю середнього за її top-n передбачених балів замість єдиної найкращої здогадки, а також ансамблювання між моделями. Кожне покращило узгодженість із людськими балами (кореляція росла з r = 0,781 до 0,823, а RMSE падав з 0,599 до 0,498 у найкращій конфігурації), і їхня діагностика локалізує специфічний провал оцінювання одним проходом: виражена моделью впевненість була негативно пов’язана з її точністю (β = −0,602). Це результат підходу до вимірювання, а не результат моделі — та сама модель, оцінена інакше, є надійнішим інструментом, — і він лежить поряд із наведеними вище доказами узгодженості на рівні корпусу.
Оцінка 2026 року 33 інструментів ШІ-грамотності викладачів показує, де розробка інструментів є зрілою, а де — ні. Zainal, Mohd Matore and Maat (2026) оцінили інструменти за матрицею рішень, адаптованою з COSMIN і Terwee et al. (2007), і виявили, що внутрішня узгодженість є найсильнішим доменом (28 із 33 на оцінці A, 84,8%), а справедливість — найслабшим, із лише п’ятьма інструментами (15,2%), що повідомляють докази інваріантності вимірювання або диференційної функції елементів. Структурна валідність була сильною, із 24 інструментами (72,7%) на оцінці A за CFA, PLS-SEM або моделювання IRT, проте валідність змісту спиралася здебільшого на якісний огляд, із 21 інструментом (63,6%) на оцінці B через відсутність кількісних статистик експертної узгодженості.
Автоматичний вибір елементів може скоротити інструмент, не переформуючи його: оптимізація мурашиною колонією на поєднаній двохвильовій вибірці (N = 305, 342) дала коротку форму з 12 елементів, що корелює r = 0,910–0,944 із повною шкалою на кожному вимірі, хоч і два елементи на вимір покривають вужчий діапазон змісту (Wang, Zhang and Zhang (2026)).
Проблеми та обмеження: що вимірювання може пропустити або зробити неправильно
Освітнє вимірювання є потужним, але придатним до помилок. Розуміння його режимів відмов є необхідним для критичного читання доказів про ШІ в освіті — і для впізнання того, де очевидний навчальний здобуток або твердження про конструкт може бути артефактом вимірювання, а не справжнім ефектом.
-
Межі надійності. Вимірювання ніколи не є досконало надійним; дисперсія помилки завжди присутня. Коли інструменти мають низьку внутрішню узгодженість або стабільність «тест–ретест», спостережувані різниці можуть бути шумом. У контекстах ШІ нові режими відмов поглиблюють це: згенеровані LLM відповіді можуть бути оцінені з високою машинною узгодженістю, проте розходитися з людським оцінюванням (Measuring Cognitive Engagement in Collaborative Discourse with an Extended ICAP Framework: Comparing Human Annotation, In-Context Learning, and Reflective LLM Agents), і автоматичне оцінювання може бути внутрішньо узгодженим, водночас будучи систематично неправильним — точність без валідності. Вимірювальні обмеження досліджень AIEd документують ненадійні інструменти як транcверзальну слабкість.
-
Невизначеність кодування як помилка зливає дві відмови. У тесті знань із психічного здоров’я з 30 тверджень оцінювання за точністю враховувало не знаю як неточне, проте 67,3% студентів обрали його за одного факту, тоді як 60,6% відповідей моделі були позитивно неправильними — примусовий формат «правильно/неправильно» не може відокремити невизначеність від неправильного вірування (Richter et al., 2026).
-
Узгодженість оцінювачів встановлює практичну стелю. Масштабна валідація на уругвайській Acredita EB виявила, що узгодженість людських оцінювачів сама встановлює практичну стелю для оцінювання ШІ: серед десяти експертів, що незалежно оцінювали 50 текстів, жоден елемент рубрики не досяг одностайної узгодженості з консенсусом, найбільш розбіжний оцінювач зазвичай падав нижче 80% узгодженості, тоді як найкращий перевершував 90%, і Cohen's Kappa був лише слабким або помірним для кількох перекошених елементів, які задовольняють майже всі відповіді. Тому автори судять автоматичні бали проти референтного стандарту, який сам є недосконалим — десять оцінювачів, єдиний операційний бал для більшості відповідей і кілька елементів у звичайній зоні прийнятності 70%, — застереження для будь-якого твердження про вимірювання, побудованого на операційних мітках одного оцінювача.
-
Валідність — вимірювання не того. Валідність запитує, чи інструмент вимірює конструкт, на який претендує. Звичайні відмови включають недостатнє представлення конструкту (тест ШІ-грамотності, який вибірково бере лише технічні знання, пропускаючи етику) і пов’язану з конструктом нерелевантну дисперсію (елемент, який винагороджує плавність читання, а не цільову навичку). Оцінювання ШІ та мовний упередження показує, як поверхневі ознаки — мова, формулювання, стиль — можуть керувати автоматичними балами способами, не пов’язаними з передбачуваним конструктом. Валідність оцінювання є запобіжником проти цих загроз.
-
Шкала може повертати передбачувану кількість факторів, не вимірюючи передбачуваних конструктів. Kang, Lee and Kang (2026) утримали шість факторів із шкали емпатії ШІ на 42 елементи, але елементи не відновили шість передбачуваних субфакторів — Prosocial Intention не сформував жодного фактора, — тому структура подається як попередня.
-
Прогалина самоогляду. Міри самоогляду захоплюють сприйняту компетентність, а не фактичну. База знань повторювано показує, що самооголошувана ШІ-грамотність різко розходиться з мірами на основі продуктивності (How to Assess AI Literacy: Misalignment Between Self-Reported and Objective-Based Measures, переоцінка викладачами на ~40%) і що самоогляд не передбачає справжню продуктивність із підтримкою ШІ там, де тести продуктивності досягають успіху (GLAT). Міри, які спираються на самоогляд, можуть систематично перебільшувати конструкти та приховувати справжні прогалини в навичках.
-
Поєднана оцінка є крихкою. Структурований огляд 2026 року, що поєднує лише кореляції суб’єктивної–об’єктивної ШІ-грамотності з тієї самої вибірки (N = 2 765), дає r = .055 (95% CI Хартунга–Кнаппа [−.047, .156]); при k = 3, із розбіжними оцінювачами гетерогенності й одним дослідженням, що несе 77,2% ваги, він не може встановити відсічку володіння (Verí (2026)).
-
Конструкти, які не переносяться між популяціями. Strugatski et al. показують, що інструменти оцінювання можуть мати іншу факторну структуру для людей і LLM — що означає, що ті самі елементи можуть не вимірювати того самого латентного конструкту між популяціями. Навіть у межах людей інструменти, валідовані на одній групі (наприклад, західній, забезпеченій Вища освіта), можуть не узагальнюватися на інших (Глобальний Південь), що є побоюванням щодо узагальнюваності мір ШІ в освіті.
-
Що вимірювання може пропустити. Деякі з конструктів, найбільш центральних для навчання в умовах ШІ в освіті, є найважчими для доброго вимірювання — і тому найлегше пропущеними або спотвореними інструментами:
- Процес і стратегія. Стандартні міри результатів захоплюють продукт навчання, а не процес. Вони можуть пропустити, як студенти фактично залучають ШІ — надмірну опору, нерефлексивне прийняття або критичну перевірку. Tracing GenAI Literacy: Student-AI Interaction Patterns in Academic Writing використовує сліди взаємодії саме тому, що самоогляд і тести результатів пропускають цю динаміку.
- Поздовжнє та тривале навчання. Єдиний пост-тест може показати завищену продуктивність від допомоги ШІ, водночас пропускаючи ерозію тривалих, неасистованих знань (прогалина між продуктивністю та навчанням). Вимірювання в одній часовій точці може бути активно оманливим щодо навчання.
- Справедливість і доступ. Інструменти, які припускають рівномірний доступ до пристроїв/зв’язку або які нормовані на привілейованих вибірках, можуть пропускати — або систематично недовимірювати — здібності незабезпечених Здобувачі, помилково приписуючи прогалини в доступі прогалинам у здібностях.
- Афективні та мотиваційні стани. Залученість, мотивацію та самоефективність часто вимірюють самооглядом, успадковуючи прогалину самоогляду вище; вони можуть не захоплювати ситуативну, моментну динаміку, яка веде навчання.
-
Автоматичне вимірювання може бути впевнено неправильним. Поєднання високої машинної впевненості та непрозорого оцінювання є характерним для ери ШІ ризиком: оцінювач або анотатор LLM може видавати високо самоконсистентні бали, які є систематично упередженими, і вигляд строгості (велике N, висока узгодженість між LLM) може маскувати невалідність. Рамки Оцінювання ШІ в освіті і Психометрично обізнаний ШІ є протиотрутою — вони вимагають калібрування, обізнаності про невизначеність і доказів валідності, перш ніж автоматичним мірам дадуть довіру.
Словом, освітнє вимірювання може пропустити те, що не відбирає вибірково (процес, тривалість, доступ, афект), і може зробити неправильно те, що відбирає погано (самосприйняття, поверхневі ознаки, міжпопуляційні конструкти). Тому читання висновків про ШІ в освіті вимагає запитувати не лише що було виміряно, але й як — і чого інструмент міг не захопити.
- Аудитовне кодування відокремлює визначувальну похибку від похибки моделі. EduBehaviors розкладає конструкт на окремо анотовані спостережувані поведінки плюс явне правило агрегації, так що рецензент може бачити, які докази дали мітку, і перевиводити мітки після зміни правила без нових викликів моделі; воно досягло macro-F1 0,673 на Teacher TalkMoves, конкурентно з прямим підказуванням LLM (Bernado et al., 2026).
Зв’язки
Освітнє вимірювання є основою для Теорія відгуку завдань, Валідність оцінювання, Відстеження знань і Моделювання здобувача та адаптивне навчання. Воно пов’язується з Аналітика навчання (вимірюванням даних навчання), Освітня NLP (вимірюванням мови) і Психометрично обізнаний ШІ (ШІ, узгодженим з теорією вимірювання). Його побоювання щодо валідності та надійності лежать в основі Оцінювання ШІ в освіті та вимірювальних обмежень галузі. Для конструктів, які він вимірює, воно перетинається з ШІ-грамотність, Моделі прийняття технологій, Самоефективність, Мотивація і Залученість здобувачів.
- Причинне моделювання втручань підтримки (2026): протокол структурного причинного моделювання переводить освітнє оцінювання за межі асоціативного оновлення вірувань на основі теорії відгуку елементів до інтервенційного та контрфактичного міркування (наприклад, ефекту підказок), із структурними рівняннями, виведеними від експертів за допомогою суто логічної інформації — проілюстровано на завданнях із алгоритмічних навичок обов’язкової школи (Causal Modelling of Support Interventions for Student Competency Assessment).
Пов’язані поняття
- Тлумачення та застосування досліджень AIEd
- Теорія відгуку завдань
- Валідність оцінювання
- Психометрично обізнаний ШІ
- Відстеження знань
- Моделювання здобувача та адаптивне навчання
- Освітня NLP
- Аналітика навчання
- Оцінювання ШІ в освіті
- Освітні дослідження з підтримкою ШІ — AI-Assisted Educational Research
- Автоматизоване оцінювання
- Обмеження досліджень AIEd
- ШІ-грамотність
- Моделі прийняття технологій
- Самоефективність
- Бенчмарк
- Засоби самооповідання
- Мотивація
- Залученість здобувачів
Пов’язані статті
-
A Human-in-the-Loop Framework for AI-Assisted Scoring in Large-Scale Writing Assessment — A Human-in-the-Loop Framework for AI-Assisted Scoring in Large-Scale Writing Assessment
-
Causal Modelling of Support Interventions for Student Competency Assessment — Causal Modeling of Support Interventions for Student Competency Assessment
-
Do Assessment Instruments Measure the Same Thing for Humans and LLMs? A Latent Structure Analysis — Do assessment instruments measure the same thing for humans and LLMs? (Strugatski et al. 2026)
-
GLAT: The Generative AI Literacy Assessment Test — GLAT: IRT-validated GenAI literacy test (Jin et al. 2025)
-
Measuring Cognitive Engagement in Collaborative Discourse with an Extended ICAP Framework: Comparing Human Annotation, In-Context Learning, and Reflective LLM Agents — Measuring cognitive engagement with an extended ICAP framework
-
Assessment twins: An approach for strengthening assessment validity in the age of generative AI — Assessment twins for strengthening assessment validity under GenAI
-
The AI Literacy Heptagon: A Structured Approach to AI Literacy in Higher Education — The AI Literacy Heptagon
-
How to Assess AI Literacy: Misalignment Between Self-Reported and Objective-Based Measures — Self-reported vs performance AI literacy misalignment
-
Teacher education for artificial intelligence literacy through a self-determination theory perspective — Teacher AI literacy through self-determination theory
-
Acceptance of AI-Assisted English Language Learning Tools in Higher Education: Psychological Correlates Across Disciplinary and Proficiency Groups — AI acceptance measures for English learning tools
-
From Evaluated Models to Evaluation Aids: A Multi-Evidence Study of LLM-Based Difficulty Calibration for Programming Examinations — From evaluated models to evaluation aids
-
Cognitive Episodes in LLM Reasoning Traces Enable Interpretable Human Item Difficulty Prediction — Cognitive evaluation of LLM item-difficulty prediction
-
Multimodal Item Parameter Estimation using Simulated Response Probabilities — Multimodal item-parameter estimation
-
AI-based scoring systematically underestimates conceptual understanding of linguistically weak students' explanations in physics — AI scoring and language bias in physics
-
The AI Writes the Code, the Student Writes the Model: A Theory and Measurement Programme for Learning by Construction with Generative AI — Model authorship: theory & measurement for learning-by-construction with GenAI
-
Assessing students' DRIVE: A framework to evaluate learning through interactions with generative AI — DRIVE: assessing learning through GenAI interaction (DRI + Visible Expertise)
-
A Decade of Reflection and Thematic Review on Artificial Intelligence's Impact on Educational Measurement — Decade thematic review of AI in educational measurement
-
Design and Validation of a Questionnaire on Teachers' Uses of Generative Artificial Intelligence — Questionnaire on teachers' uses of generative AI (Pérez-Montesdeoca et al. 2026)
-
Personalized neural cognitive architecture search — AutoML personalized neural cognitive architecture search for learner profiles
-
Estimating Item Difficulty Using Large Language Models and Tree-Based Machine Learning Algorithms — Estimating item difficulty using LLMs and tree-based ML
-
Assisting the grading of a handwritten general chemistry exam with artificial intelligence
-
Measuring Acceptance of Age-Tiered AI Literacy Guidebooks: A Developmentally Informed Study of K-12 Students and Teachers — Split-half EFA/CFA validation with invariance, HTMT and DIF checks, including an honest account of playfulness-intention construct overlap
-
ProIQA: A Process-Based Framework for Fine-Grained Math Item Quality Assessment — ProIQA: Process-Based Math Item Quality Assessment
-
Beyond AI Literacy: A Structured Review and Exploratory Meta-Analysis of Measures for Competent Generative-AI Use — Beyond AI Literacy: A Structured Review and Exploratory Meta-Analysis of Measures for Competent Generative-AI Use
-
Bayesian Consensus Calibration of Continuously Evolving IRT Item Banks — Bayesian consensus calibration: divide-and-conquer recalibration of a continuously evolving IRT item bank (Jewsbury et al. 2026)
-
How much selection would be enough? Bounding the learning claim of El Salvador's artificial intelligence tutoring pilot — Bounding the learning claim of El Salvador's AI tutoring pilot (Restrepo Morales et al. 2026)
-
Know When to Trust: Making AI Scoring More Reliable for Educational Assessment — Know When to Trust: model self-confidence, probabilistic scoring and ensembles as scoring reliability levers
-
Development of an AI literacy self-assessment questionnaire in upper primary school students — A validated 15-item self-assessment questionnaire for upper-primary AI literacy (Thianwan & Srikoon 2025)
-
Assessing teachers' AI literacy: a systematic review of measurement tools — Systematic appraisal of 33 teacher AI literacy instruments across COSMIN-style quality domains (Zainal et al. 2026)
-
Mental Health Literacy Across Psychology Students and Large Language Models — Mental Health Literacy Across Psychology Students and Large Language Models
-
StudentBench: AI and human tutoring yield equivalent GRE learning gains — StudentBench: AI and human tutoring yield equivalent GRE learning gains
-
Student Use of LLMs and the Limits of AI-Generated Question Difficulty in Data Science Courses — Student Use of LLMs and the Limits of AI-Generated Question Difficulty in Data Science Courses
-
EduBehaviors: Assertion-based Schemas for Auditable Coding of Educational Dialogues — EduBehaviors: Assertion-based Schemas for Auditable Coding of Educational Dialogues
-
What Fidelity Metrics Miss: A Structural Check on Synthetic Educational Data — What Fidelity Metrics Miss: A Structural Check on Synthetic Educational Data
-
AI Empathy as a Human Disposition in Generative AI Interaction: Development and Preliminary Psychometric Evaluation of a Cognitive–Affective–Motivational Scale — A 42-item AI empathy scale whose six factors did not recover the six intended subfactors
-
Generative artificial intelligence-supported self-regulated learning (GenAI-SRL) in L2 writing: scale development, validation, and short-form construction — A six-dimension GenAI-SRL scale for L2 writing; ant-colony-optimized 12-item short form tracks the full scale (r = 0.910–0.944) but narrows content coverage
-
Do Cognitive Classifications Predict Empirical Item Behaviour? Aligning Bloom's Taxonomy with the Psychometric Properties of National Centralized Mathematics Items across Grades 4–12 — Чи передбачають когнітивні класифікації емпіричну поведінку елементів? Узгодження таксономії Блума з психометричними властивостями національних централізованих математичних елементів 4–12 класів