На тази страница
Седмичен преглед на изследванията за AI в образованието #1
Автоматичен машинен превод на тази английска страница, който още не е проверен от носител на езика.
Седмичен бюлетин от Базата знания за AI в образованието, за това какво означават изследванията, публикувани през последната седмица, за преподавателите, разработчиците, изследователите и администраторите.
Тази седмица донесе 71 нови изследвания и два нови ресурса, с което базата знания достигна 1 805 резюмета на статии, 220 концептуални страници, 37 често задавани въпроса и 33 ресурса. Търсете или използвайте AI, за да разговаряте с базата знания.
Съдържание
- Основни акценти и въпроси
- За преподаватели
- За разработчици
- За изследователи
- За администратори
- Акцент върху концепции
- Нови ресурси
- Добавено също тази седмица
- Бележки за сайта
- Следвайте обновлението
Основни акценти и въпроси
И двата водещи резултата тази седмица казват едно и също: оценката не е резултатът. Тригрупово изпитване повиши оценките от упражненията от 29,85% с отворения уеб до 71,84% с неограничен ChatGPT, докато концептуалното учене не се различаваше изобщо, така че по-високата оценка при достъп до AI не е доказателство, че студентите са научили повече. Тринадесет детектора отбелязаха ръкописи, написани от хора, със стойности от 0% до 100% след една-единствена коректура, така че сигналът от детектор не е доказателство за нарушение.
- Повдига ли наставникът, който вдига оценката за домашното, и оценката от изпита? Рандомизирано изпитване постави наставник по доказателства пред студентите и след това измери изпит, решен без него.
- Когато една предадена работа изглежда добре, каква част от нея е на модела? Петдесет и девет чатлога, сравнени с работата, която същите студенти са предали.
- Колко често детектор за AI отбелязва текст, който човек действително е написал? Тринадесет детектора, 135 389 двойки документи, в които се променя само езикът.
- Подобрява ли практиката за говорене с AI самото говорене или един измерван негов аспект? Десет изследвания, шест характеристики по CEFR и четири изследвания, които съобщават една единна обща оценка.
- Изгражда ли обучението на студентите да използват обратна връзка тяхната ангажираност или обратното? Тривълнов панел, който не може да подреди двете посоки.
- Къде наставниците с AI все още се провалят, когато студент откаже, отдръпне се или ескалира? 923 диалога, изградени от казуси с реални студенти, оценени спрямо документираното от практиците.
- Управлението на AI в образованието закон ли е, насоки или стремеж? 160 документа, от които четири имат обвързваща форма.
За преподаватели
Наставник може да вдигне оценката за домашното и да остави изпита там, където си е бил
Chen и колеги рандомизираха 153 студенти, пишещи доказателства в Carnegie Mellon, да получат наставник по доказателства рано или късно, след което измериха изпит, решен без AI в стаята. Оценките за домашните се повишиха с 2,56 точки, докато инструментът беше наличен. Оценките от междинния изпит не се различаваха. След като всички получиха достъп и избраха сами дозата си, всеки 100 допълнителни съобщения до чатбота се свързваха с 3,02 точки по-ниска оценка на следващия изпит, а студентите с по-ниска изходна самоефективност бяха тези, които го използваха най-много.
Какво променя това за вас: оценка, получена с отворен наставник, не е доказателство за това какво може студентът без него, така че задачата без помощ трябва да носи тази тежест. Означава също, че студентите с най-голям риск да разчитат на него са тези с най-малка увереност в началото, което се вижда в използването, преди да се види в оценките.
Неограниченият чат завишава оценките повече, отколкото добре изграден наставник
В тригрупово изпитване в курс CS1 в Мюнхен 275 студенти прекараха 90 минути върху упражнение по Java с наставник, който дава подсказки, с неограничен ChatGPT или с отворения уеб. Оценките от упражнението излязоха 71,84%, 57,50% и 29,85%. Прирастът на концептуалните знания беше 0,83, 0,71 и 0,85 точки, а разликата между условията беше далеч от значима (p = 0,773). И двете условия с AI намалиха фрустрацията; само наставникът повиши мотивацията.
Разликата в оценките е предимно за продукта, а не за ученето. Ако оценявате упражнението, условията с AI се оценяват по друга задача.
Чатботите, създадени от учители, се провалят в намерението, а не във фактите
EduWild събра 1726 разговора от 217 чатбота на Playlab, конфигурирани от учители, включително 900 от студентите, при които са били разположени. Ботовете пропуснаха задължителни стъпки от работния процес в 53,8% от разговорите с крайни потребители, никога не установиха ролята си в 33,4% и претовариха обучаемите с информация или въпроси в 37,1%.
Преди да разположите бот, който сте създали или наследили, прочетете първия му ход и проверете дали заявява какъв е и какво следва. Описаните тук дефекти са в инструкциите и могат да бъдат поправени в промпта, без да се пипа моделът.
Присъдата на детектор не е доказателство
Набор от данни на услуга за редактиране даде на Park и колеги 135 389 двойки документи, в които авторът, темата и съдържанието са фиксирани, а се променя само езикът. При 13 детектора фалшивите положителни резултати за академичен текст, написан от човек, варираха от 0% до 100%, а едни и същи редакции движеха детекторите в противоположни посоки. Отделно група хонорувани проверяващи загубиха изцяло детектора си, защото той отбелязваше проверките за правопис, и сега четат за измислени препратки и откъсване от материалите на курса.
Ако сте поставяли оценка от детектор пред студент, особено студент, който пише на втори език, тази седмица е моментът да спрете да използвате детектори. Сигналите, базирани на четене, от второто изследване са практическата алтернатива.
Дизайнът на оценяването е избор между три ограничения, а не търсене на принцип
Pedlow, Fischer и Williams твърдят, че проблемът не е недостиг на принципи за дизайн, а липсата на начин да се разсъждава за тези, които си противоречат. Тяхната двойна трилема разглежда автентичността, наблюдаемостта и осъществимостта при оценяването, както и конкретността, навременността и натоварването при обратната връзка като ограничения, между които се прави съзнателен избор.
Попитани да преработите оценяване за AI, тази рамка превръща отворения въпрос в кратък аргумент, който можете да запишете и защитите.
Ползите за говоренето от чатботите са неравномерни по характеристики
Soriano-Gonzalez и Belda-Medina пресяха 306 записа до десет изследвания и попитаха коя от шестте характеристики на говоримия език по CEFR действително се е променила. Диапазонът и разбираемостта се подобриха в по четири изследвания, кохерентността — в едно, взаимодействието — почти в нито едно. Четири от десет съобщават една обща оценка, така че ползите им не могат да бъдат проследени до характеристика.
Твърдение на доставчик за „подобрено говорене“ е съвместимо с промяна, която изследването изобщо не е измервало. За слушането Goh и Aryadoust намират доказателствата за много по-слаби.
Грамотността за обратна връзка и ангажираността се подхранват взаимно
Тривълнов панел с 399 студенти от бакалавърски програми установи, че грамотността за обратна връзка с AI предсказва по-късна агентна ангажираност (β = 0,222), а обратната посока е също толкова силна (β = 0,263), без статистическа основа за подреждане на двете.
Обучението на студентите да четат и използват обратна връзка не е предварително условие, което се завършва, преди да започне ангажираността. Двете се движат заедно, така че курс, който изгражда само едното, работи срещу себе си.
За разработчици
Трудните случаи са там, където наставниците още се провалят, а извличането на стратегии помага на моделите от среден клас
TutorCaseBench превърна качествени казуси в 923 диалога по шест хода в пет типа предизвикателства и оцени 11 модела спрямо рубрики, специфични за случая. Най-добрият модел удовлетвори документирана интервенция в 55,8% от отворените случаи — числото, спрямо което да се проектира. Предоставянето на документираната в литературата стратегия повиши 10 от 11 модела средно с 9,9 точки, като Llama 4 Maverick се придвижи от 41,0% до 64,8%, докато най-силният модел остана на 71,3%.
Извличането на референтни стратегии си струва да се изгради за моделите, които можете да си позволите. То няма да спаси модел от най-висок клас, който вече владее този подход.
Валидирайте срещу разговори в реална експлоатация, а не срещу лабораторни промпти
Наборът данни EduWild свързва всеки разговор със системния промпт и настройките зад него, което прави провала анализируем: 53,8% от разговорите с крайни потребители пропуснаха задължителна стъпка. Конфигурацията, написана от учител, е отделна повърхност за провал от способността на модела, а обвивка на ниво промпт възстанови намерението, без да отнема контрола на учителя.
Ако продуктът ви позволява на учителите да пишат инструкциите, тестовият ви набор трябва да са техните инструкции, събрани след разгръщането.
Измерението на рубриката в качеството на обратната връзка е това, което никой не измерва
Yang разглежда 68 изследвания на обратна връзка, генерирана от AI. Валидността на доказателствата се появява в 47 от тях, педагогическата полезност — в 58, а съответствието с рубриката и задачата — в 19. Съответствието е измерението, което продуктът може най-пряко да контролира, и е най-слабо изследваното.
Това е възможност: изграждайте спрямо рубриката, която задачата вече използва, и го казвайте, защото публикуваните доказателства няма да кажат на купувачите дали някой друг го прави.
Приложимостта е цел на дизайна, а не украшение
Tamme, Schilling и Hantel предлагат да се замени писмената анкета в края на семестъра с телефонно интервю, водено от AI агент, с аргумента, че писменият инструмент се проваля по процент на отговор, дълбочина и приложимост. Това е предложение, а не полеви тест. Твърденията за дизайна са достатъчно конкретни, за да бъдат заимствани: задавайте допълнителни въпроси, изисквайте причина, връщайте нещо, по което получателят може да действа.
За изследователи
Самоотчетът и представянето често стигат до различни изводи
Fan и колеги картираха методите за измерване в 2099 записа, след което разгледаха 51 случая, в които инструмент за самоотчет и тест, оценка или проследяване измерват една и същ конструкт. Отговорът на въпроса дали двете съвпадат често е „не“. Когато се разминават, наблюдаемостта на конструкта обяснява това по-добре от качеството на изследването.
Заменянето на едното с другото е решение за измерване с посока, а не удобство. Съобщете на кое от двете почива твърдението ви.
Артефактите скриват изнасянето, затова измервайте процеса
Kontorovich и Wallach кодираха 429 промпта в 59 чатлога като следи от саморегулация и сравниха всеки с предадената работа. Десет от петнадесетте студенти, изпълнили и трите задачи, променяха ролята, която дават на модела, когато задачата се промени, но 53 от 59 предадени работи възпроизвеждаха продукта на модела или го променяха само по форма.
Само предадената работа не може да различи използване от заместване. Данните за процеса могат, а схемата за кодиране тук е преизползваема.
Валидирана скала за зависимост при отворени задачи
Повечето мерки за зависимост извеждат зависимостта от това дали студентът е последвал правилен съвет, което изисква проверим отговор. Hou и колеги изградиха и валидираха скала от 16 пункта за проблемно-базирано обучение, където такъв отговор не съществува.
Показателите на детекторите се разграждат, затова съобщавайте за противника
Ren, Raghavan и Garg разделят въпроса за откриването на отделимост и движение. Надзорните базови линии разделят човешката от машинната проза почти идеално в рамките на разпределението, докато комерсиалният детектор Pangram падна до 63,5% балансирана точност и 27% пълнота срещу промпт, написан да го заобиколи.
Числа, съобщени без опита за заобикаляне, описват свят, който вече не съществува. А литературата с прегледи е слаба там, където има значение: от 51 изследвания на обратна връзка от GenAI върху писане на втори език 5 проверяват дали обратната връзка е точна.
За администратори
Управлението на AI в образованието е предимно насоки, а не закон
Elmahjub и колеги прочетоха внимателно 160 документа за управление на английски език от 498 записа. Само 4 имат формална правна или регулаторна форма, докато 92 са насоки, рамки, инструментариуми или наръчници. Отчетност се появява в 146 документа, но е съчетана с посочен надзорен субект в 100.
Политика без посочен собственик и механизъм е изявление за намерение. Прегледът ви дава полетата, по които да одитирате собствения си документ.
Обществените поръчки за детектори изискват число за фалшиви положителни резултати
Тринадесет детектора, академичен текст, написан от човек, като контрола, фалшиви положителни резултати от 0% до 100%. Поне една институция вече се отказа от детектора си, защото той отбелязваше проверките за правопис. Ако доставчик не ви даде процент на фалшиви положителни резултати върху човешка работа във вашата дисциплина, не можете да оцените дисциплинарния риск.
Документираната посока в оценяването е процес, автентичност и устна работа
Crompton и Burke преглеждат 72 изследвания от 24 държави и 20 дисциплини и откриват три повтарящи се отговора в дизайна: ориентирано към процеса, автентично и устно оценяване. Доказателствената база е широка и методологично слаба, повечето изследвания обхващат един курс и нищо от това не променя посоката.
Възприемането е изпреварило разбирането сред учителите
Сред 132 индонезийски учители от K-12 96,2% подкрепят използването на AI от учители и 84,6% — от ученици, но 69,2% дадоха неясно или погрешно обяснение какво прави чатботът с инструкция.
Подкрепата в анкета не е способност в класната стая. Пропастта в професионалното развитие тук се вижда преди всяко разгръщане на инструмент, а инструментът е достатъчно кратък, за да се използва повторно като оценка на потребностите.
Заменете анкетата за курса само ако замяната е приложима
Предложението за гласово интервю е насочено към режимите на провал, които правят анкетите в края на семестъра безполезни: процент на отговор, дълбочина, задоволяване с минимално усилие и отговори, по които никой не може да действа. Отнасяйте се към него като към спецификация за каквото и да използвате вместо анкета, а не като доказателство, че версията с AI работи.
Акцент върху концепции
Четири концептуални страници поеха находките от тази седмица в слоя за синтез. Всяка е постоянна страница, а не еднократна, така че новите доказателства стоят редом с това, което страницата вече твърдеше.
Изучаване на езици
Страницата сега казва направо, че доказателствата за ползите от чатботите за говорене са неравномерни по характеристики и че четири от десетте синтезирани изследвания съобщават една обща оценка, поради което ползите им не могат да се припишат на характеристика. Прочетете страницата за изучаване на езици преди да купувате или изграждате устна практика.
Интелигентно наставничество
Новата й находка е резултатът от извличането: предоставянето на референтни стратегии повишава слабите наставници и оставя силните там, където бяха. Това е решение за изграждането и страницата за интелигентно наставничество го отделя от по-старите твърдения за качеството на подсказките.
Мерки за самоотчет
Най-острият нов случай на пропастта при самоотчета е намерението, където една оценка покриваше ориентирано към учене, ориентирано към преки пътища и смесено използване в същата извадка от 340 студенти, с 68 повторно приложени пункта и осем интервюта зад твърдението, всичко записано на страницата за мерки за самоотчет.
Управление
Страницата сега започва с находката за формата на инструментите: 4 от 160 документа обвързващи, 92 съвещателни, а отчетността е посочена като субект само в 100. Страницата за управление преформулира въпроса от това какво казва една политика към това дали тя може да действа.
Нови ресурси
Два ресурса се присъединиха към библиотеката с ресурси тази седмица: единият е написан за институцията, която трябва да реши как се изгражда софтуер с AI, а другият — за преподавателя, който трябва да реши дали кодът на студента е на самия студент.
Campus AI Development
Campus AI Development е безплатно уеб ръководство, написано от гледната точка на институцията. То описва начините, по които един кампус може да има софтуер, изграден с AI — от вайб кодиране до управлявана работа с множество агенти — и съчетава всеки начин с пътя за преглед, тавана за данни и контролите, които му съответстват. То придружава Campus AI Framework, който решава дали изобщо може да се използва даден AI инструмент; това ръководство обхваща какво да се прави, след като отговорът е „да“. Сайтът не публикува лиценз за текста си.
Code Viva
Code Viva е безплатен инструмент за браузър, който прави устната защита мащабируема: писмена, хронометрирана защита за всеки студент в курс по програмиране, по петнадесет до двадесет минути, без преподавател в стаята. Той чете предадения код на студента и историята на комитите, пише четири до шест въпроса за собствените функции, имена и комити на студента и дава на всеки студент лична връзка, от която да отговори. Въпросите идват от правила, приложени към предадената работа, а не от извикване на модел, и преподавателят получава предложени оценки с цитираните доказателства зад всяка, за да ги одобри или отмени. Сайтът не публикува лиценз и хранилище с изходен код.
Добавено също тази седмица
- Mapping generative AI in higher education teaching and learning: a scoping review
- Large language models for teaching and learning in higher education: opportunities, challenges, and future directions
- From insight to intervention: learning analytics and generative AI support for learning design and educational decision-making
- Governing Generative AI in Higher Education: A Cross-National Analysis of Policy Framing and Student Maneuvering
- Delegation Is Not Assistance: Agentic AI and Assessment Governance in Higher Education
- Artificial learning: how sessional academics view contract cheating and digital academic misconduct in assessment
- VIRA-Bench: Diagnosing Pedagogical Contingency Understanding in Online Tutoring Videos
- A Stratified Multi-Rater Evaluation of LLM-Based Virtual Standardized Patients with a Deployed Data-Generation Platform
- Bias and Reliability in Learning-Style Inference from Student-AI Dialogues: An Evaluation of GPT-4o and Gemini 2.0 Flash
- Addressing symbolic obstacles in undergraduate calculus through artificial intelligence scaffolding
- AI Security Literacy: Ecosystem-based Competency Framework and K-12 Learning Platform
- Shaping early childhood in the age of AI: holistic competencies, pedagogical practices, and ecological support
- Using Large Language Models to Detect Socially Shared Regulation of Collaborative Learning
- Prompt-based emotional scaffolding in generative AI: Effects on self-regulated learning and socio-emotional outcomes
- Personalizing Student-Agent Interactions Using Log-Contextualized Retrieval-Augmented Generation (RAG)
Останалите изследвания, с методи и резюмета, са изброени по дни на страницата на журнала.
Бележки за сайта
Тази седмица се появиха две страници. Архивът на бюлетина съдържа всеки брой, с собствена емисия до емисията на базата знания, а индексът на концепциите поставя всички 220 концептуални страници на една страница, в същите секции като страничната лента, така че вече има къде да изпратите читател, който иска целия набор.
Всичко останало беше работа по вече съществуващото: концептуалните страници и често задаваните въпроси бяха пренаписани, текстът — стегнат, а преводите — приведени в съответствие във всички локали.
Сайтът е статична сборка, а съдържанието, кодът и инструментите му са публични на github.com/edtechdev/aied, където всяка описана по-горе промяна може да бъде прочетена.
Следвайте обновлението
Получавайте всеки брой чрез емисията на бюлетина в четец за емисии, като поставите същата емисия в Blogtrottr, за да ви изпращат новите броеве по имейл по избран от вас график, или я следвайте в LinkedIn, където всеки брой се публикува като бюлетин в LinkedIn.
Седмичен преглед на изследванията за AI в образованието идва от Базата знания за AI в образованието, която се генерира от AI агент. Този брой е изготвен от същия този AI агент с редакционни насоки от разработчика на сайта и всяко твърдение по-горе съдържа връзка към страницата, от която произхожда.
Базата знания е посветена на обществено достояние под лиценз CC0 1.0. Никакви права не са запазени.
Открихте проблем със съдържанието? Съобщете за него в GitHub или се свържете с разработчика на сайта, Doug Holton.