Чего педагогам следует избегать в работе с ИИ?

Автоматический перевод данной английской страницы, не проверенный носителем языка.

Большинство рекомендаций об ИИ в образовании сформулированы как то, что стоит попробовать. Эта страница собирает практики, от которых, по данным исследований, пора отказаться, и располагает их по роли, которой пришлось бы от них отказаться. Ложные убеждения разбираются в другом месте: ими занимается FAQ о заблуждениях, а страница концепции Заблуждения об ИИ объясняет, почему они сохраняются. То, чего исследования пока не могут сказать, относится к ограничениям исследований в области ИИ в образовании. Здесь речь о шаге после убеждения: что люди делают на самом деле, чего это стоит и что делать вместо этого.

Три сбоя повторяются во всех ролях.

1. Подмена. Инструмент выполняет мышление, которое должен был выполнить обучающийся, а результат оценивается так, будто его выполнил обучающийся. Сданное эссе фиксирует, что умеет модель, а не что умеет студент.
2. Незаработанное доказательство. Сигнал, который легко собрать, например уверенность, беглость, вовлечённость или доля завершения, принимается за доказательство того, чего он показать не может. Дашборд может сообщить, что человек провёл сорок минут в сессии с репетитором; он не может сообщить, научился ли кто-нибудь квадратному уравнению.
3. Структура, отданная увещеванию. Предупреждение, фраза в политике или учебная сессия должны делать работу, которую обязаны делать дизайн интерфейса, дизайн оценивания или управление. В силлабусе написано, что ИИ нужно использовать ответственно, а репетитор всё равно выдаёт готовый ответ на первом же запросе.

Краткая версия

1. Никогда не оценивайте, не цитируйте и не продвигайте результат как доказательство той способности, которая его произвела.

2. Собирайте измерение без поддержки рядом с измерением с поддержкой, каждый раз.

3. Относитесь к беглости, уверенности и вовлечённости как к свойствам использования, а не как к обучению.

4. Помещайте защитную меру в рабочий процесс, а не в предупреждение.

5. Исходите из того, что любые данные, которые видит инструмент, будут сохранены, объединены и скомпрометированы при утечке.

6. Если утверждение идёт с демонстрацией, но без сравнения, это маркетинг.

Для преподавателей

Не удостоверяйте результат как способность. Отполированная работа доказывает лишь то, что работа отполирована. Если студент сдаёт обзор литературы, источники которого вы не можете сверить ни с чем, что преподавалось в курсе, а оценивание не позволяет отличить, что этот студент умеет без поддержки, значит, оценивание перестало измерять то, что обещает диплом (Валидность оценивания, Аутентичное оценивание). Исправление состоит в переработке задания; более строгий кодекс чести этого не сделает.

Не используйте оценку детектора как доказательство проступка. В контролируемом исследовании 642 опубликованных аннотаций детекторы отметили 38–80% работ с лёгкой правкой ИИ, соответствующей рекомендациям, и 9–15% неизменённого человеческого текста, а переписывания, прогнанные через сервис «очеловечивания», ловили менее чем в 4% случаев (Karr et al., 2026). Независимый бенчмарк показал, что ни один из 14 коммерческих инструментов не достиг точности 80%, а простое перефразирование снижает и этот показатель вдвое (Teichmann et al., 2026). При реалистичных базовых уровнях ложные срабатывания превышают истинные (Стоит ли использовать детекторы ИИ?). Детектор может начать разговор; закончить его он не может.

Не добавляйте ИИ в оценивание, которое вы не переработали. Если прикрутить инструмент к заданию, рассчитанному на работу без поддержки, получится ровно тот рост оценок, который скрывает потерю: домашние задания вверх, экзамен вниз. Спросите про каждое оцениваемое задание, что показала бы версия без поддержки, и сначала исправьте задание (Снижение масштабов неправомерного использования ИИ). Если домашний набор задач и аудиторный тест проверяют один и тот же навык, студента измеряет только один из них.

Не принимайте вовлечённость за обучение. Время на задании, удовлетворённость, объём обращений за помощью и активность в чате легко инструментировать, и всё это совместимо с полным отсутствием обучения. В эксперименте 3 × 2 со 186 участниками, которые оценивали гражданские дела на платформе с поддержкой LLM, ограничитель, снизивший переключение на неверную позицию ИИ с 42–60.5% до 5.7–8.2%, не дал измеримого эффекта обучения в рамках сессии (β = 0.03, p = 0.18; Tuo et al., 2026). Поведение изменилось; показатель обучения не изменился (Вовлечённость студентов).

Не полагайтесь на предупреждение там, где интерфейс мог бы ограничивать. Репетитор, способный выдать готовый ответ, выдаст его под давлением срока, что бы ни было написано в силлабусе. Работает тот ограничитель, который встроен во взаимодействие (Снижение масштабов неправомерного использования ИИ, Педагогическая безопасность). Решение придержать окончательный ответ на первые две попытки принимает проектировщик. Просьба к студентам не просить ответ остаётся просьбой.

Не вставляйте студенческие работы, индивидуальные образовательные планы (ИОП), дисциплинарные записи или узнаваемые черновики в потребительский инструмент. Вы принимаете решение о минимизации данных от имени студента, думали вы об этом или нет (Приватность). Бесплатный аккаунт чат-бота, который отвечает на вопрос о плане поведения студента, хранит копию этого плана на чужом сервере.

Для обучающихся

Не отдавайте ту часть, которую вам положено отрабатывать. Допустим, задание состоит из пяти абзацев эссе: вы вставляете запрос в чат-бот, берёте полученный черновик и сдаёте его. То, что вы сдаёте, фиксирует, что умеет модель. Вопрос в том, какая когнитивная работа перемещается, а не в том, сколько ИИ вы используете. Аутсорсинг домашних заданий повышает оценки за них и снижает оценки за экзамен без доступа к материалам: в исследовании 26,811 учащихся средних школ, за которыми наблюдали 30 месяцев, за шесть месяцев оценки за домашние задания выросли на 18%, а за экзамены упали на 20% (Strömberg, Lei and Wu, 2026). Практика, которая строит извлекаемое знание, ушла к инструменту (Снижение масштабов неправомерного использования ИИ). Если суть в самом упражнении, инструмент не может выполнить упражнение за вас.

Не читайте беглость как точность. Беглый текст является выводом языковой модели независимо от того, верно ли содержание, и механизм, который делает его убедительным, тот же, что делает его ошибочным (Риск галлюцинаций). Проверяйте конкретное утверждение, а не тон абзаца. Эта привычка редко возникает сама: в панели 900 взрослых жителей США, получивших сводку от ИИ, читатели переходили по источнику, указанному внутри неё, в 1% визитов (Jaidka and Cai, 2026). Если задание требует трёх источников, откройте все три.

Не принимайте согласие за обратную связь. Модели подтверждают значительно больше, чем люди: по 11 моделям ответы ИИ подтверждали пользователей на 49% чаще, чем ответы людей, и именно этот избыток создаёт ощущение поддержки (Potel and Kumashiro, 2026). Репетитор, который никогда с вами не спорит, убрал корректирующий сигнал, за которым вы пришли (Подхалимство ИИ). Просите возражение, а не одобрение: «Что не так с этим аргументом и что сказал бы скептик?»

Не обменивайте вопрос на ответ, когда застряли. Продуктивная борьба, которую вы пропускаете, и есть обучение. Поиск помощи, который извлекает ответ, представляет собой другое поведение, нежели поиск помощи, который извлекает подсказку (Поиск помощи, Полезные трудности). Пользуйтесь инструментами, которые придерживают готовый ответ, и просите следующий шаг, а не решение.

Не вставляйте личную, медицинскую или семейную информацию в инструмент, чтобы получить лучший ответ. У инструмента нет обязательства это забыть, а цена приватности не видна в качестве ответа (Приватность). Хорошему запросу не нужны ваш диагноз, ваш адрес или имена членов семьи.

Для родителей и семей

Не делайте домашнее задание вместе с инструментом и не позволяйте делать его у вас на глазах. В данных проявляется рост оценок со скрытой ценой: в той же 30-месячной панели оценки за домашние задания выросли на 18%, а за экзамен без доступа к материалам упали на 20% (Strömberg, Lei and Wu, 2026). Ребёнок, который приносит домой идеально сделанное домашнее задание и проваливает тест по разделу, показывает вам ровно этот разрыв. Что вы можете проверить, так это процесс. Может ли ребёнок объяснить шаг, повторить одну задачу на бумаге и сказать, в чём был не уверен? Если нет, задание выполнил инструмент.

Не позволяйте чат-боту стать доверенным лицом. Сикофантские системы подтверждают гораздо больше, чем люди, на 49% больше по 11 моделям, и именно это подтверждение создаёт ощущение безопасности в разговоре с ними (Potel and Kumashiro, 2026). В крупном лонгитюдном исследовании пользователи обращались за личным советом к сикофантскому ИИ почти так же часто, как к близким друзьям и семье, при меньшей удовлетворённости в реальных отношениях (Sycophantic AI makes human interaction feel more effortful and less satisfying over time). Ребёнок, который приносит свою боль модели, всегда со всем соглашающейся, не получает отклика; его лишь отражают. Если ваш ребёнок говорит с чат-ботом о дружбе или утрате, это момент спросить, кому ещё он об этом рассказал.

Не давайте генеративный чат-бот маленькому ребёнку и не называйте это сопровождением только потому, что вы в комнате. Рекомендации по возрастам конкретны: занятия с опорами и без генеративных функций для возраста от 9 до 12 лет, сопровождаемое генеративное использование с этическими рассуждениями с 13 лет (Как родителям и преподавателям подходить к ИИ с детьми младше 13 лет?). Для самых младших риск касается убеждения. Дети на дооперациональной стадии принимают сгенерированное содержание за истинное, а системы не откалиброваны по развитию в той обратной связи, которую дают. Совместное использование взрослым означает сидеть рядом с ребёнком и спрашивать, что только что сделала игрушка, а не наблюдать из дверного проёма (Образование детей раннего возраста).

Не считайте, что школьный инструмент защищает данные вашего ребёнка, раз школа его выбрала. Спросите, что сохраняется, как долго, обучается ли на этом что-либо и кто ещё это видит (Приватность). Осведомлённость не следует из опыта: через месяц после урока, на котором класс седьмого года обучения видел своё зафиксированное поведение в прямой трансляции, 66% из 47 учеников всё ещё выбирали наименее защищённую настройку чат-бота (Bergdahl, 2026). Задайте вопросы школе в письменном виде и попросите письменные ответы.

Не используйте результат детектора, чтобы обвинить ребёнка или поддержать обвинение со стороны школы. В контролируемом исследовании 642 опубликованных аннотаций детекторы отметили 9–15% неизменённого человеческого текста, а «очеловеченные» переписывания ИИ поймали менее чем в 4% случаев (Karr et al., 2026). При реалистичных базовых уровнях ложные срабатывания превышают истинные (Обнаружение ИИ). Относитесь к отметке как к поводу запросить историю черновиков и поговорить, а не как к выводу.

Не заключайте, что запрет инструмента является безопасным вариантом. Недоверие тоже является сбоем калибровки, у него своя цена, а именно упущенная способность, и важный навык состоит не в избегании, а в соразмерной уверенности (Калибровка доверия). Полезный родительский ход тот же, который исследования поддерживают для студентов: требовать шага проверки и сделать его настолько дешёвым, чтобы уставший ребёнок действительно его сделал (Как научить студентов проверять результаты ИИ?). Попросить показать источник, которым пользовался чат-бот, стоит минуты; запрет чат-бота стоит практики.

Не путайте контент-фильтр с безопасностью. Фильтры касаются того, что система скажет. Они не касаются того, что взаимодействие делает с обучающимся: подорванной практики, сикофантского согласия или неравномерных отказов (Педагогическая безопасность).

Для разработчиков обучения и повышения квалификации преподавателей

Не проводите обучение работе с инструментом и не называйте это ИИ-грамотностью. Сессия по промптингу учит интерфейсу продукта. ИИ-грамотность означает способность судить, когда инструмент следует использовать, что он делает и что нужно проверить. Преподаватели, которые выучили кнопки без суждения, уходят с уверенностью и без калибровки (ИИ-компетентность преподавателя). Воркшоп, который заканчивается тем, что все умеют генерировать план урока, но никто не может сказать, когда этот план использовать не следует, научил интерфейсу.

Не проводите разовое повышение квалификации и не ждите, что практика изменится. Данные о профессиональном обучении последовательны насчёт длительности и сопровождения: отдельные мероприятия сдвигают самоотчётную уверенность, редко поведение в классе, и прирост уверенности может маскировать отсутствие изменений (Развитие педагогической практики). Двухчасовая сессия в августе без сопровождения в октябре представляет собой интервенцию уверенности.

Не игнорируйте систему оценивания, которую вы оставляете на месте. Преподаватели примут практику, которой вы учите, только если оценивание, которому они подотчётны, не наказывает за неё. Воркшоп по дизайну заданий, устойчивых к ИИ, рядом с неизменным экзаменационным режимом учит преподавателей, что обучение декоративно.

Не демонстрируйте некритичное использование, от которого предостерегаете. Демонстрация инструмента через генерацию плана урока перед преподавателями, без шага проверки, учит аудиторию тому, что результат и есть продукт. Сгенерируйте план у них на глазах, а затем отметьте два утверждения, которые нужно проверить.

Не принимайте демонстрацию вендора за доказательство эффективности. Утверждение, которое вы оцениваете, касается обучения, а демонстрация показывает возможности. Просите результаты без поддержки, результаты по подгруппам и многоходовое тестирование безопасности (Как понять, что образовательный ИИ действительно работает, а не просто выставляет хорошие оценки?).

Для разработчиков образовательного ПО

Не оптимизируйте метрику, которую легко логировать. Длительность сессии, число сообщений и рейтинги удовлетворённости улучшатся почти при любом изменении; обучение часто нет. Та же команда, которая выпускает ограничитель, может выпустить дашборд, вознаграждающий объём взаимодействия, и эти двое будут указывать в противоположные стороны (Аналитика обучения, Вовлечённость студентов). Если ваша метрика успеха состоит в числе сообщений за сессию, вы построили продукт, который вознаграждает студентов за то, что они остаются в чате.

Не выпускайте детектор без валидационного исследования против конструкта. Бенчмарк пятнадцати моделей ЭЭГ достиг F1 0.9853 при стратифицированной кросс-валидации; независимая от испытаний Group K-Fold, которая соблюдает границы испытаний, снизила пик до 0.6038 при уровне случайности 25% (Nanayakkara and Halloluwa, 2026). Детектор улыбки может давать отрицательную связь с эмпатией по оценкам наблюдателей, потому что ему не хватает контекста, который есть у человеческого оценщика (Валидность оценивания, Аналитика сенсоров и взгляда). Публикуйте протокол валидации вместе с заголовочной цифрой.

Не выводите аффект, внимание или «вовлечённость» из лиц и тел без согласия и заявленной цели. Многоходовой риск не равен одноходовому: в одном обзоре педагогической безопасности доля сбоев выросла с 17.7% при одноходовых оценках до 77.8% при многоходовых (Hazra et al., 2026). Система, сертифицированная на изолированных запросах, сертифицирована на взаимодействии, которого у студентов не бывает (Педагогическая безопасность, Приватность).

Не скрывайте передачу управления. Студент, который не может определить, генерирует ли репетитор ответ или извлекает его, и когда в контуре есть человек, не может калибровать доверие к нему. Предвзятость автоматизации действует чище всего тогда, когда система права, а человек перестал проверять (Калибровка доверия). Укажите в интерфейсе, когда работу будет читать человек.

Не проектируйте под бенчмарк и не переносите результат на класс. Производительность на бенчмарке является свойством бенчмарка. Сообщайте условия использования, которые вы тестировали, популяцию и задачи; иначе число прочтут как обещание о другой обстановке (Ограничения исследований в области ИИ в образовании).

Не делайте инструмент единственным путём к помощи. Если доступ студента к обратной связи зависит от доступности модели, квоты или лицензии, вопрос справедливости уже решён закупкой (Справедливость).

Для администраторов образования

Не покупайте заявления о возможностях как доказательства результатов. Вендоры могут продемонстрировать продукт; только оценивание может продемонстрировать обучение. Требуйте результаты без поддержки, результаты по подгруппам, отсев и план на случай окончания пилота (Как понять, что образовательный ИИ действительно работает, а не просто выставляет хорошие оценки?, Какие измерения и методы исследования может использовать преподаватель для оценки ИИ-интервенций?). Демонстрация показывает, как репетитор решает задачу; она не показывает, как студент решает следующую.

Не разворачивайте надзор потому, что он доступен. Системы прокторинга захватывают изображения лиц, документы, удостоверяющие личность, сканирование комнаты, включая круговой обзор на 360 градусов, и аудио с микрофона. Обзор 80 исследований показал, что только 25% работ вообще рассматривали этические вопросы, 35% не раскрыли свой набор данных, а 30% не удалось воспроизвести (Malhotra and Chhabra, 2026). Цена ложится на студентов, а доказательная база тоньше, чем подразумевает контракт (Приватность, Дистанционный прокторинг).

Не пишите политику, состоящую только из запретов, и не называйте это управлением. Запрет без переработки оценивания, без поддержки и без маршрута апелляции перемещает поведение, а не предотвращает его, и наказывает студентов, меньше всех способных оспорить ложное обвинение. Политика должна охватывать и проверяющего: в тесте методом red team для повседневного процесса выставления оценок две из пяти стратегий инъекции запроса, спрятанных в работе, перевели провальное эссе в зачёт с успехом 100% и 94% на разных типах файлов (Humble, 2026). Политика, которая ограничивает студентов, но не конвейер оценивания, является половиной политики.

Не приравнивайте внедрение к улучшению. Дашборд, который сообщает об использовании, удовлетворённости и завершении, будет выглядеть как успех, пока показатель обучения остаётся плоским. Заранее решите, какой результат заставил бы вас расторгнуть контракт (Оценивание ИИ-образования). Запишите это число до начала пилота.

Не позволяйте доступности приходить в виде запроса на индивидуальное приспособление. В обзоре 40 исследований цифровых вспомогательных технологий для нейроотличных студентов 28 делали формальный диагноз условием участия. Такая модель с диагнозом как условием доступа исключает каждого обучающегося, у которого есть потребности и нет ярлыка (Rempel et al., 2026; Доступность, Универсальный дизайн для обучения).

Для исследователей образования

Не позволяйте самоотчёту нести причинное утверждение. Уверенность, воспринимаемое обучение и удовлетворённость являются результатами, но не теми результатами, которые, как утверждает большинство исследований, они измеряют. Литература об эмпатии является самым ясным случаем: область, которая намерена учить эмпатии, в основном измеряет комфорт, и обзор 17 исследований обнаружил прирост уверенности гораздо чаще, чем доказательства самой эмпатии (Ismail and Zafira, 2026; Меры самоотчёта).

Не цитируйте эффект без его дизайна. В критическом обзоре 80 исследований HCI о критическом мышлении с ИИ 42 (52%) не имели контрольной группы (A Critical Review of Critical Thinking in HCI Research About AI). Заголовочный эффект, полученный на 30 студентах одного курса в одном месте, является обычной формой хрупкого утверждения (Ограничения исследований в области ИИ в образовании).

Не сообщайте гетерогенность без модели. Одни и те же данные дают I² = 82.98% при модели с фиксированным эффектом и I² = 15.75% при модели со случайными эффектами (The Impact of Artificial Intelligence-Supported Instruction on Student Learning in STEM: A Systematic Review and Meta-Analysis). Приведённый I² без указания модели неинтерпретируем (Мета-анализ и систематический обзор).

Не обобщайте из одного контекста и не называйте это находкой. Один курс, одно учреждение, одна версия модели, один язык. Поведение модели меняется с каждым релизом, а детекторы, обученные на одном поколении, теряют полноту на следующем (Какие существуют значимые пробелы в исследовательской литературе по ИИ в образовании?, Обнаружение ИИ).

Не принимайте корреляцию между взаимодействием и результатом за механизм. Объём запросов не измеряет когнитивную разгрузку. Кластеры по объёму не различались в распределении когнитивной работы, а ручное кодирование диалогов не нашло разгрузки вовсе в 49.6% из 125 диалогов (Piatnitckaia et al., 2026; Когнитивный оффлоадинг). Измеряйте работу, а не её видимый след.

Не публикуйте абзац об ограничениях, который можно было написать до исследования. Назовите конкретную угрозу, конкретное число и утверждение, которое оно ограничивает. Именно это делает ограничение пригодным для следующего читателя (Интерпретация и применение исследований в сфере ИИ в образовании).

Почему это связано

Каждый пункт выше повышает прокси до вердикта. Эссе представляет автора, оценка представляет проступок, улыбка представляет эмпатию, демонстрация представляет обучение. Исправление каждый раз одно и то же: назвать конструкт, найти меру, которая могла бы дать обратный результат, и собирать её наряду с удобной.

Ни одно из этих предостережений не означает, что инструмент всегда ошибается. Детектор может быть поводом поговорить со студентом. Чат-бот может быть полезной репетицией. Дашборд может быть поводом задать вопрос. Вред причиняет подмена.

Что сделать на этой неделе

• Выберите одно оцениваемое задание и запишите, что оно показало бы с закрытым инструментом. Если ответ «ничего другого», проблема в задании.
• Добавьте одно измерение без поддержки в курс, который сейчас сообщает только об исполнении с поддержкой.
• Прочитайте контракт вашего учреждения на прокторинг или ИИ-инструмент насчёт хранения, вторичного использования и условий утечки и проверьте, описывает ли текст согласия то, что система на самом деле захватывает.
• Спросите у вендора результаты без поддержки и результаты по подгруппам. Если ответом будет демонстрация, вы получили свой ответ.
• На следующей сессии с преподавателями потратьте вторую половину на переработку оценивания, а не на промпты.

Куда идти дальше

• Как устранять распространённые заблуждения об ИИ в образовании?: убеждения, стоящие за этими практиками, и как исправлять их без снисходительности.
• Ограничения исследований в области ИИ в образовании: что доказательная база пока не может поддержать.
• Снижение масштабов неправомерного использования ИИ: структурные рычаги против недобросовестного использования и почему они лучше увещевания.
• Педагогическая безопасность: что репетитор может сделать с обучающимся, проходя при этом все проверки содержания.
• Стоит ли использовать детекторы ИИ?: доказательства о детекторах в полном виде.
• Как понять, что образовательный ИИ действительно работает, а не просто выставляет хорошие оценки?: как оценить утверждение до того, как вы его примете.