Какви са добрите практики и съвети за проектиране на ефективен образователен AI софтуер?

Автоматичен машинен превод на тази английска страница, който още не е проверен от носител на езика.

Екипът ти има работещ прототип на преподавател и демонстрация пред училищен окръг в три седмици. Или партньорско училище те помоли да сложиш чат интерфейс върху своя четец на курсове, а някой казва, че е работа за две седмици. Или оценител по обществени поръчки е върнал раздела за безопасност с един ред: какво точно тествахте?

Отговорът е по-тесен, отколкото повечето продуктови спецификации предполагат. Образователният AI работи като ограничен експерт под човешки надзор: способност, сведена до определена област, основана на одобрено от преподавателя съдържание, а не на паметта на модела, съвместно проектирана с учителите и учащите, които я използват, и оценявана върху устойчиво взаимодействие в много ходове. Последното условие е онова, което повечето екипи пропускат. Педагогическа вреда се появи във всеки тестван модел в бенчмарка по-долу, а процентите на провал се вдигнаха от 17,7% при взаимодействия в един ход до 77,8% в разговори в много ходове.

Накратко

1. Запиши какво решава системата и какво решава учителят. Тази граница става архитектурата.

2. Оценявай взаимодействие в много ходове, съобразено с дисциплината, върху истинска учебна програма, а не отделни промпти срещу обща рубрика за безопасност.

3. Основавай отговорите на одобрено съдържание и дръж проверяващия компонент отделен от разговорния.

4. Третирай всяка подадена работа на студент като недоверен вход, включително когато системата я оценява.

5. Изгради прага за опит, пътя за ескалация и превземането от учителя преди пилота.

6. Сложи достъпността и тестването на справедливостта по разбивки в спецификацията, а не в списъка за по-късно.

Реши какво има право да бъде системата

Изследването на Reichert и колеги с партиципативен дизайн с шестима учители от средното образование коригира допускането, че образователният AI трябва да е автономен агент. Помолени да прототипират класни чатботове на хартия, всички учители описаха ограничен експерт по две измерения. Границите на правомощията държат учителите в контрол, защото отговорността за ученето и безопасността на студентите не може да се делегира. Границите на експертизата отразяват липсата на контекстуално знание у AI за отделните студенти, динамиката на класната стая и институционалните норми.

Архитектурата, която скицираха, имаше четири компонента (ограничаване на съдържанието, представяне на съдържанието, адаптация към студента, надзор от учителя) върху три защитни слоя: граници на областта, които ограничават обхвата, филтриране на съдържанието, което прави безопасна персонализацията, и превземане от учителя за двусмислени случаи. Делегирането беше избирателно. Съпоставено с деветте събития на обучението на Gagné, учителите приеха AI за представяне на съдържание, за даване на задачи за упражнение и за формираща обратна връзка, и го отказаха за поставяне на цели или провеждане на сумативно оценяване.

Две настройки по подразбиране принадлежат в същата спецификация: подравни системата с изрични учебни цели и я настрой към мили, но верни отговори, а не към съгласие с този, който пише. Преподавател, който се подмазва на грешен отговор, е научил студента, че отговорът е бил верен.

Един детайл е евтин сега и скъп по-късно: тези учители искаха поведенческа прозрачност, видими ограничения и сигнали за несигурност, повече отколкото обяснения на разсъждението на модела. И шестимата поискаха пълно записване на разговорите, известия в реално време и възможност за превземане, формулирани като професионална отговорност, а не като недоверие. Проектирай това в първия спринт, защото добавянето на записване след това към преподавател, построен да изглежда невидим, е преписване отначало.

Тествай го в разговор, а не в един ход

Синтезът за педагогическа безопасност защитава тезата, че конвенционалното тестване за безопасност е недостатъчно за образованието. Една система може да избягва токсично съдържание и пак да причини вреда, като разкрива прекалено отговорите, затвърждава погрешни схващания, потиска размисъла, насърчава зависимост или се отдалечава от учебните цели.

SafeTutors бенчмаркът слага числа върху това. Във всеки тестван модел, от отворени модели с 3,8B параметъра до GPT-5-mini, педагогическата вреда беше универсална, мащабът не подобри надеждно безопасността, а процентите на провал ескалираха от 17,7% при взаимодействия в един ход до 77,8% в разговори в много ходове. Моделите на нарушения варираха по предмет. Таксономията им от 11 измерения и 48 подриска покрива когнитивни, епистемични, метакогнитивни, мотивационно-афективни, развойни и справедливостни категории, както и категории за съответствие с обучението, и работи като контролен списък за дизайн, не по-малко отколкото като набор от тестове.

Чети цифрата за ескалацията като твърдение за твоя план за тестване. Преподавател, който минава хиляда едноходови проби, може да се провали в четири от пет разговора, щом студентът окаже натиск или попита трети път. Изгради многоходовата система за тестване преди демонстрацията.

Основи съдържанието и отдели проверяващия

Основаването на съдържание е архитектурно решение. EduGuard, безопасен преподавател с извличане, подсилено с търсене, за встъпително програмиране, сдвоява одобрено от преподавателя извличане от курса с архитектурно отделен проверяващ на твърдения, изричен контрол на прекомерната зависимост и съставен от преподавател бенчмарк от 600 заявки, обхващащ погрешни схващания, дебъгване, смесени по език заявки и състезателни промпти за директен отговор. Той се представи по-добре от базовите линии на GPT-4o-mini и на сократичния преподавател с Llama.

Преносимата част е разделянето: компонентите, които проверяват, не разговарят, а бенчмаркът включва промпти, написани да извлекат отговори, а не да проверят учтивостта. Рискът от халюцинации покрива режима на провал, който одобреното извличане трябва да ограничи.

Третирай работата на студента като недоверен вход

Моделът на заплахите, който повечето съвети за дизайн пропускат, стои вътре в оценявания артефакт. Състезателната оценка с червен екип на Humble (2026) тества дали студентите могат да манипулират оценяващ на база LLM чрез инжектиране на промпт в подадената си работа, и манипулацията работеше: инжекциите, които инструктират, преформулират или влизат в роля пред оценяващия, изместват оценката без промяна в работата.

Дръж рубриката и инструкциите извън контролирания от студента контекстов прозорец, премахвай или маркирай съдържание, което изглежда като инструкция, никога не позволявай на подадена работа да задава собствени критерии и дръж човешко решение за всяка оценка с последствия. Оценяващ, който чете инструкциите си от текста, който съди, е предал рубриката на кандидата.

Осигури скафолдинг за работата, вместо да я завършваш

Система, която отговаря, приключва мисленето, за чиято подкрепа е купена. Две неща принадлежат в тикета за разработка: праг за опит, така че да не се появява изход, преди студентът да е заел нещо, и път за ескалация към човек с посочена дестинация, което за продукт за класната стая значи учителя, във форма, с която учителят може да действа. Scaffolding и сократичният модел са продуктовите версии на онова, което планът на урока прави на ръка; Кои са добрите практики за разработване на ефективен AI учител? покрива диагнозата, стълбите от подсказки и обратната връзка подробно.

Сложи достъпността и справедливостта в спецификацията

Изискванията за достъпност са достатъчно конкретни за спринт: работа с клавиатура, съвместимост с екранни четци, субтитри и транскрипти, подходящ контраст, използваеми текстови алтернативи и съвместимост с асистивни технологии. Генерираните от AI функции за достъпност все още се нуждаят от проверка на качеството. Виж Accessibility.

Тестването на справедливостта трябва да разглежда целия поток и да разбива поведението по език, увреждане, култура и други релевантни характеристики на учащите, вместо да разчита на обща точност. Система, която има добър резултат средно и слаб за една група, е доставила провала на тази група. Виж Bias Mitigation и Equity.

Проектирай с хората, които ще го използват

Ko и Hughes приложиха дизайн, чувствителен към ценности, към интелигентна преподавателска система със студенти и преподаватели от общински колеж, група, исторически изключена от дизайна на учебни платформи. Те намериха напрежения между ценности, които се управляват, а не се решават: прозрачност срещу интерпретируемост, поверителност срещу педагогическа прозорливост и агентност на студента срещу воден от системата скафолдинг. Студентите предпочетеха съвместни, очовечени обяснения пред суровата прозрачност на модела, а прототипът кодираше 16 функции, подравнени с ценности, в обясним AI, човешки надзор и контроли за поверителност.

Прегледът на Wang, Liu и Islam на 28 емпирични изследвания добавя речник за избор на инструменти: генеративният AI се използва главно за планиране на уроци, генериране на промпти и творческа идеация, като AI действа като асистент или генератор на съдържание много по-често, отколкото като съпроектант, а прегледът извежда и четири възможности, ефективност, отзивчивост, творчество и справедливост, които учителите могат да използват, за да преценят кой инструмент пасва на кой проблем на дизайна.

И двете изследвания третират дизайна като работа с човек в цикъла и сътрудничество, а също и като изследване на използваемостта, а не като работа с общността. И двете намериха, че заинтересованите страни извадиха на повърхността изисквания, които никакъв бенчмарк за точност не би уловил, което е практичният аргумент да платиш за сесиите: изискванията, които иначе би срещнал на пилота.

Какво дизайн екипите разбират погрешно

Безопасността значи модериране на съдържание. Вредата в образователен продукт често пристига като полезен отговор в грешния момент. SafeTutors намери педагогическа вреда във всеки тестван модел и провал, растящ до 77,8% през разговор, което не е категория, за която филтрите за съдържание са построени.

По-голям модел ще поправи педагогиката. Мащабът не подобри надеждно безопасността в диапазона от отворени модели с 3,8B параметъра до GPT-5-mini.

Добър индекс за извличане значи, че съдържанието е овладяно. EduGuard сдвоява извличането с отделен проверяващ и тества състезателни промпти за директен отговор, защото основаното на съдържание извличане все още оставя път към прекалено разкриване.

Учителят е резервният вариант. И шестимата учители в изследването на дизайна поискаха записване, известия и превземане като условие за професионална отговорност. Тикет за поддръжка не е превземане.

Достъпността е задача за по-късно. Тя стои в спецификацията или става преписване отначало, а генерираните алтернативни текстове и субтитри все още се нуждаят от човешка проверка.

Какво ще ти се върне

„Не можем да изградим система за оценяване преди пускането.“ Изгради малка. Първото твърдение, което ти трябва, е какво се случва през пет хода. Вземи 40 истински въпроса от учебната програма, пусни всеки като разговор от пет хода със студент, който устоява на подсказката, и оцени по 11-те измерения. Това е защитим раздел за безопасност и се побира в един спринт.

„Учителите искат да редактират промпти, а не можем да гарантираме какво ще напишат.“ Тогава стесни повърхността, която редактират. Системният промпт остава твой; целите, одобреното съдържание, стълбата от подсказки и контактът за ескалация са техни. Архитектурата на ограничения експерт съществува, за да остане конфигурацията в обхват, който можеш да тестваш.

„Резултатите ни от бенчмарка са високи.“ Точността при едноходови отговори не предсказва поведението през разговор, а бенчмаркът, който измерва второто, намери 77,8% провал в многоходови условия във всеки тестван модел. Съобщи и двете числа, или първото ще бъде прочетено като второто.

„Пълното записване е проблем за поверителността.“ Да, и точно затова е нужно ограничение на целта, а не липса на записване. Записвай онова, върху което учителят трябва да действа, минимизирай останалото, ограничи достъпа и кажи в продукта какво се пази и за колко време.

Какво да направиш тази седмица

1. Напиши границата на правомощията на една страница: какво решава системата, какво решава учителят и кое би защитил в оценка по обществени поръчки.

2. Превърни таксономията от 11 измерения в план за тестване и го пусни в много ходове върху 40 истински въпроса от един курс.

3. Отдели проверяващия от генератора в документа за дизайн, дори първата сборка да ги пуска в един процес.

4. Добави прага за опит, дестинацията за ескалация и превземането от учителя в опашката, с прикачени имена.

5. Сложи списъка за достъпност и едно изискване за разбивка в критериите за приемане на това издание.

Накъде след това

Кои са добрите практики за разработване на ефективен AI учител? покрива изграждането, а Как трябва да се вгради AI в учебното преживяване? покрива педагогическите настройки по подразбиране около него. За това дали нещото работи след внедряване виж Как да разберем, че образователният AI работи правилно, а не просто получава добри оценки?; за концепциите за безопасност зад плана за тестване Pedagogical Safety и Hallucination Risk; за контекста на обществените поръчки Legal Issues and Risks.