Как улучшить способность ИИ поддерживать обучение в своём предмете?

Автоматический перевод данной английской страницы, не проверенный носителем языка.

Модель общего назначения с готовностью ответит на вопрос студента за него, при этом она ничего не знает ни о вашей учебной программе, ни о вашей рубрике, ни об ошибках, которые ваши студенты совершают на самом деле. Закрытие этого разрыва обычно подаётся как задача обучения модели. В данной базе знаний это преимущественно задача grounding (заземления) и промптинга, и доказательства такого порядка действий необычно прямые: исследование ассистента для курса показало, что решение первого порядка — это retrieval (поиск и извлечение), а не модель, и что общая модель без заземления показала результат хуже простой базовой линии на TF-IDF.

Обучение модели — реальный и иногда необходимый инструмент, но это третье или четвёртое, что стоит попробовать, а не первое. Ниже — «лестница» в том порядке, который позволяет не тратить вычислительные ресурсы зря.

Краткая версия

Существует пять рычагов в порядке возрастания стоимости и степени обязательств: промптинг, retrieval (поиск и извлечение) по вашим собственным материалам, parameter-efficient adaptation (параметрически эффективная адаптация — LoRA и подобные ей методы), полное дообучение и пост-обучение на сигналах предпочтений или вознаграждения. Каждая следующая ступень требует больше данных, больше вычислительных мощностей и большей дисциплины оценивания, чем предыдущая, и каждая является худшим первым выбором, если подъём не оправдан измерением.

Научная литература сообщает преимущественно о верхних ступенях этой лестницы, — именно поэтому так легко потянуться к обучению модели там, где было бы достаточно заземления.

Шаг 1: Получите базовую линию, которую действительно можете превзойти

Прежде чем что-либо менять, зафиксируйте результат, который даёт простой промпт. Затем зафиксируйте результат тривиального метода, — ведь это тот показатель, который не даст вам себя обмануть.

Исследование ассистента по базе знаний курса стоит того, чтобы прочитать его хотя бы ради этого. Локальная LLM без retrieval достигла точности 52,3%. Базовая линия на TF-IDF — лексический метод десятилетней давности — достигла 55,4%. Модель оказалась хуже классического метода.

Если пропустить этот шаг, вы не сможете сказать, помогло ли ваше дообучение, и рискуете выпустить продукт, который проигрывает поиску по ключевым словам.

Шаг 2: Обеспечьте заземление модели на ваших собственных материалах

Добавление генерации с дополненным поиском (retrieval-augmented generation) по материалам курса, без всякого дообучения, подняло ту же систему с 52,3% до 66,6%. Это наибольший единичный прирост за свои деньги из зафиксированных в данной базе знаний, и он обратим: когда ваши документы меняются, вы переиндексируете их, а не переобучаете модель.

Два других результата указывают в том же направлении. PRISMA-обзор 23 эмпирических исследований по адаптации ИИ под преподавание письменной речи обнаружил доминирование промпт-инжиниринга (N = 13) над дообучением (N = 7) (Customizing AI for writing pedagogy: a systematic review of pedagogical goals, theoretical principles, and technical design). И там, где база знаний должна оставаться актуальной, retrieval — единственный рычаг, который остаётся актуальным без повторного запуска обучения.

У retrieval есть и педагогическая форма. Заземление модели на ваших собственных разобранных примерах и рубриках — это то, как она остаётся внутри спроектированной вами опоры, вместо того чтобы уплыть в обобщённые советы.

Шаг 3: Проектируйте промпт под рубрику

Работа над промптами — это не подготовительный этап, который делают, пока ждут обучения. Два результата показывают, чего она достигает сама по себе:

• Промптинг, направляемый рубрикой и итеративно со-доработанный вместе с экспертом, повысил согласие между LLM и человеком на студенческих проектных работах с 54,75% до 81,25% (альфа Кронбаха 0,393 → 0,798), и это вообще без всякого дообучения (From evaluation to emulation: LLMs as agents of iterative pedagogical design).
• Специально составленный промпт, основанный на научной литературе, вызвал к жизни целевые математические Заблуждения об ИИ с частотой присутствия 0,98, против 0,40 у широкого промпта (Integrating ChatGPT in Mathematics Teacher Education: AI-Based Simulation Role-Playing to Support Practice-based Teaching).

Практический сигнал здесь — это плато. В исследовании генерации заданий итеративное уточнение промпта перестало давать улучшения, и дообучение GPT-4.1 на оптимизированном промпте затем добавило оставшийся прирост (How to Train Your Dragon: Evaluating Prompting and Fine-Tuning for GPT-Based Item Generation in L2 Listening Assessment). Плато после настоящей работы над промптами — это ваше доказательство того, что обучение может что-то добавить. Потянуться к обучению, не дойдя до плато, — это гадание.

Шаг 4: Адаптируйте модель, когда цель стабильна и конкретна

Адаптация оправдывает себя, когда нужно, чтобы модель надёжно удерживала некоторое свойство: уровень чтения, формат вывода, предметную область, которой у неё нет. Повторяющийся результат состоит в том, что точное нацеливание важнее размера.

• Три модели на 8 млрд параметров, дообученные на разработанной экспертами программе детского чтения, превзошли GPT-4o и Llama 3.3 70B в режиме zero-shot по метрикам, связанным со сложностью, при незначительных проблемах безопасности. Авторы формулируют это как управляемость вместо масштаба (Children's English Reading Story Generation via Supervised Fine-Tuning of Compact LLMs with Controllable Difficulty and Safety).
• Инструкционный датасет из 24 795 примеров, основанный на Indian Knowledge Systems, дал дообучение на 7 млрд параметров, набравшее 6,39 по пятисудейной внешней панели, — в пределах 0,15 от сильной общей референсной модели при доле от стоимости её развёртывания, — тогда как та же базовая модель без дообучения набирала почти ноль по профильным измерениям (IKS-Instruct: A 24,000-Example Multilingual Dataset for Teaching Language Models Indian Knowledge Systems). Этот разрыв между «компетентен в общем» и «компетентен здесь» и есть весь аргумент в пользу предметной адаптации.
• Один-единственный адаптер LoRA, обученный примерно на 3 900 объединённых размеченных примерах, довёл пять небольших открытых моделей (от 4 до 30 млрд параметров) до паритета с человеком-оценщиком или выше на двух экзаменах по информатике (Where LLM Graders Succeed and Break: Evidence from Two Computer-Science Exams). Один адаптер, один датасет, несколько базовых моделей: так выглядит развёртывание, которое небольшая команда действительно способна поддерживать.

Обратите внимание на слово стабильна в заголовке. Формат, рубрика, уровень чтения и предметная лексика — стабильные цели. Насыщенная суждениями проза — нет, и именно здесь адаптация терпит неудачу.

Шаг 5: Меняйте то, как модель ведёт себя, а не только то, что она выдаёт

Адаптация учит модель чему производить. Пост-обучение учит её как себя вести, и для обучения с тьютором именно в этом различии состоит вся проблема: общие модели пост-обучаются на человеческих предпочтениях в пользу полезности, а это означает отвечать быстро, тогда как преподавание требует воздерживаться от ответа.

Именно здесь живут сильнейшие образовательные результаты. Модель вознаграждения EduQwen явно поставила направляющие ответы выше прямых ответов, и её трёхступенчатый конвейер достиг 96,52% на бенчмарке CDPK против 90,55% у Gemini-3 Pro (Application-Driven Pedagogical Knowledge Optimization of Open-Source LLMs via Reinforcement Learning and Supervised Fine-Tuning). Симулятор письма SWIM прошёл путь от промптинга на основе рубрик (лучший QWK 0,577) через контролируемое дообучение (0,474 ± 0,023) к обучению с подкреплением (0,618 ± 0,005) по всем признакам и всем промптам (SWIM: Student Writing Simulation via Proficiency-Conditioned Generation).

Единственную находку в этой области легко пропустить и дорого проигнорировать: качество обучения-супервизии важнее её количества. Инструкционно-дообученные модели осваивали математические заблуждения только тогда, когда обучались на трассировках решений пошагово; обученные лишь на финальных ответах, они оставались на точности ниже 30% при любом объёме данных (Misconception Acquisition Dynamics in Large Language Models). Если ваши обучающие примеры — это пары «вопрос и правильный ответ», вы обучаете не тому.

Когда адаптация модели не помогает

Это та часть, которую обычно пропускает энтузиазм.

• Насыщенный суждениями текст. В WrAFT тот же проект, который успешно дообучался для выставления оценок за эссе (QWK 0,84), выдавал усечённые и неразбираемые результаты, когда дообучался для обратной связи, — при этом прямая промптинговая работа с Claude 3.7 дала обратную связь, которую преподаватели оценили лучше всех (WrAFT: a Modularized Automated Writing Evaluation System for Argumentative Essays). Дообучение научило модель попадать в оценку; оно не научило её писать.
• Масштаб не является надёжным предиктором итоговой производительности при адаптации методом LoRA, и одинаковые гиперпараметры давали качественно различное поведение на разных архитектурах (AiAWE: An Open-Source LLM Automated Writing Evaluation System Using LoRA-Adapted Instruction-Tuned Models). Рецепт, сработавший на одной модели, не является рецептом.
• Архитектура может значить больше, чем число параметров. Дообучение трёх открытых моделей «текст в изображение» на 1 000 подписанных кадров из ядерной инженерии существенно улучшило Stable Diffusion XL, дало ограниченный выигрыш для SD-v3.5-Medium и не дало никакого измеримого улучшения для Flux.1 (NuclearDiffusion: Text-to-Image Foundation Models for Learning Nuclear Energy Concepts).
• Иногда ответ — это валидация, а не обучение. Необучаемый GPT-4.1 передового уровня выдавал примерно 35% слишком общих, неверных или раскрывающих ответ подсказок при составлении обратной связи для обучения с тьютором, и его собственные автоматические проверки качества расходились с человеческим суждением (Generating In-Context, Personalized Feedback for Intelligent Tutors with Large Language Models).

Что требуется на практике

Для ступени адаптации планка ниже, чем предполагает большинство команд: от нескольких сотен до нескольких тысяч примеров и один GPU. LoRA обучает небольшое число добавляемых параметров и оставляет базовые веса замороженными, поэтому от одного адаптера можно обслуживать сразу несколько моделей.

Ранг — это компромисс, а не ручка, которую нужно выкручивать до предела: прирост на миллион параметров адаптера монотонно падал с ростом ранга, а согласованность на уровне курса была решением о масштабе и ранге, а не бесплатным улучшением (LoRA Fine-Tuned Models for Control Systems Course Q&A: A Multidimensional Evaluation of Model Scale and Rank Effects). Выбор того, какие слои адаптировать, — тоже настоящий выбор: обновление только последних четырёх слоев трансформера в анализаторе дискурса на базе BERT превзошло и адаптацию только верхнего слоя, и полное дообучение (Automatic discourse relation classification and feedback optimization in English teaching based on transformer BERT model).

Затрата, которую легко недооценить, — это оценивание, а не вычисления. См. Как понять, что образовательный ИИ работает правильно, а не просто хорошо набирает очки?

Калибруйте свои ожидания

Вместе выбор модели и выбор промпта объясняют лишь около 15% рассогласования между LLM и учебными результатами студентов, и в том же исследовании взвешивание по бенчмаркам и ансамбли на единогласном голосовании делали согласованность хуже (Knowledge without Wisdom: Measuring Misalignment between LLMs and Intended Impact). Данные предобучения — доминирующий рычаг поведения модели, и это тот рычаг, за который вы не можете ухватиться.

Это не аргумент против описанной выше работы. Это аргумент против ожидания, что дообучение исправит проблему проектирования. Если проблема в том, что ваш тьютор слишком охотно отвечает, обучение может её решить. Если проблема в том, что ваши учащиеся не взаимодействуют с ним, обучение не поможет.

Короткий порядок принятия решений

1. Зафиксируйте базовую линию с одним только промптом, включая тривиальную. 2. Добавьте retrieval по вашим собственным материалам. 3. Итеративно проектируйте промпт под вашу рубрику и следите за плато. 4. Адаптируйте модель с помощью LoRA, когда цель — стабильный формат, рубрика, уровень или предметная область. 5. Пост-обучайте только тогда, когда нужно изменить то, как она себя ведёт, и пишите вознаграждение против бенчмарка, потому что его будут обходить. 6. Осуществляйте супервизию на уровне шагов, а не на уровне ответов. 7. Оставьте человека в цикле там, где уверенность низка. 8. Проверяйте безопасность на целых диалогах, а не на отдельных репликах.

Связанные вопросы

• Как обучить ИИ-тьютора направлять студентов, а не отвечать за них? — подробно о пост-обучающей половине
• Как понять, что образовательный ИИ работает правильно, а не просто хорошо набирает очки? — как определить, сработало ли хоть что-то из этого
• Каковы лучшие практики разработки эффективного ИИ-тьютора? — сторона проектирования взаимодействия той же задачи
• Каковы лучшие практики и советы по проектированию эффективного образовательного программного обеспечения на ИИ?
• Обучение и дообучение LLM — полная концептуальная страница