AIEd база знанийAIEd KB
На этой странице

Читать эту страницу на английском

Концепции

Злоупотребление ИИ и вред обучению

Создано 2026-10-13

Автоматический перевод данной английской страницы, не проверенный носителем языка.

Злоупотребление ИИ и вред обучению — причинная связь между тем, что студенты переносят когнитивную работу на генеративный ИИ, и снижением устойчивого обучения, даже когда непосредственная успешность по задаче возрастает. Определяющая черта — разрыв между производительностью и обучением: ИИ раздувает производительность с помощью, ухудшая при этом результаты без помощи, по закрытым книгам и результаты удержания.

Вопросы для размышления

  • Студент может показывать лучшие результаты в данный момент, обучаясь при этом меньше со временем — ИИ может повышать производительность с помощью, ухудшая последующую, без помощи, успешность. Когда вы чувствовали, что «выучили» что-то, что исчезло в тот момент, когда инструмент пропал?
  • Центральная находка — разрыв между производительностью и обучением: студенты, использовавшие тьютора ИИ без предохранителей, набрали на 48% выше на практике, но на 17% ниже на экзаменах по закрытым книгам. Как это меняет то, как вы интерпретировали бы высокую оценку, полученную с помощью ИИ?
  • Злоупотребление — это вопрос подмены — делегирования составления, воспроизведения или анализа, которые строят устойчивое понимание, — а не использования ИИ как дополнения. Где бы вы провели границу между тем, что ИИ помогает вам учиться, и тем, что ИИ учится за вас?
  • Студенты в пострадавшей группе не воспринимали, что они выучили меньше. Если учащиеся не могут сказать, что им вредят, за чем вместо доверия к самоотчётам студентов должен следить преподаватель?
  • Вред избирателен по типу оценивания: он проявляется на протоколируемых, по закрытым книгам мерах, но может быть скрыт, когда курсовая работа не может отличить работу с помощью ИИ от независимой работы. Какой тип оценивания реально выявил бы, выучили ли студенты?
  • ИИ с предохранителями «подсказка, а не ответ» устранил вред, сохранив выгоду. Что потребовалось бы для того, чтобы спроектировать помощь ИИ, которая поддерживает обучение, не становясь костылём?

Введение

Злоупотребление ИИ отличается от использования ИИ. Использование описывает применение ИИ как дополнения к обучению — Обратная связь, мозговой штурм или помощь в пересмотре, которые удерживают когнитивную работу учащегося в цикле. Злоупотребление описывает подмену: делегирование ИИ самих ментальных процессов (составление, воспроизведение, анализ, пересмотр), которые строят устойчивое понимание. Вред, документированный в базе свидетельств базы знаний, состоит не в том, что злоупотребление не помогает; он состоит в том, что злоупотребление активно ухудшает последующую, без помощи, успешность.

Разрыв между производительностью и обучением

Ключевая концепция, сформулированная в Distinguishing performance gains from learning when using generative AI, состоит в том, что генеративный ИИ легко повышает производительность — непосредственную эффективность и качество результата, — часто обходя при этом глубокую когнитивную и метакогнитивную обработку, необходимую для обучения. Следовательно, инструмент, который оптимизирует производительность, может подрывать обучение. Разрыв теперь причинно продемонстрирован в полевом масштабе: рандомизированное контролируемое испытание обнаружило, что помощь ИИ без предохранителей повышала производительность на практике, но снижала последующие баллы за экзамен без помощи.

Механизмы вреда

  • Когнитивная капитуляция — термин, который исследователи используют для обозначения переноса студентами мышления на ИИ как пассивной, нерефлексивной зависимости, в противоположность deliberate, стратегической форме Когнитивный оффлоадинг. Он производит измеримое снижение устойчивого знания на уровне популяции.
  • Копирование ответов как костыль — злоупотребление движимо в меньшей степени тем, что ошибки ИИ вводят студентов в заблуждение, чем тем, что студенты копируют ответы вместо обучения. Когда анализ вовлечённости показывает, что студенты по большей части «просят ответ», следует вред обучению.
  • Эрозия мотивации — воспринимаемая доступность бесполезного AI-сокращения пути снижает автономную мотивацию и настойчивость, согласно теории самоопределения. Поскольку настойчивость — это то, что производит глубокое обучение, её эрозия усугубляет прямой вред.
  • Вытеснение обучения — подмена результатов ИИ усилиями процессами (проработка, воспроизведение, самообъяснение), которые консолидируют знание, что согласуется с чрезмерной опорой.
  • Путаница, прочитанная как намерение. Когда преподаватели не называют предполагаемую роль ИИ в задании, студенты определяют её тем, что проще всего, и преподаватели читают возникшее несоответствие как обман, а не как границу, которая никогда не была установлена (Hanshaw et al., 2026).

База свидетельств

  • Причинное полевое РКИ (≈1 000 старшеклассников по математике): тьютор в стиле ChatGPT без предохранителей повысил производительность на практике с помощью +48%, но снизил баллы за экзамен по закрытым книгам без помощи −17% — студенты, у которых никогда не было доступа к ИИ, обгоняли тех, у кого он был. Тьютор с предохранителями «подсказка, а не ответ» устранил вред. Примечательно, что студенты в пострадавшей группе не воспринимали, что они выучили меньше.
  • Поведенческие данные в масштабе популяции (3,2 млн взаимодействий в ALEKS): время обучения на проблемах, подверженных влиянию ИИ, упало −26,9% кумулятивно для студентов колледжей (старшая школа −31,3%) после выхода ChatGPT, с снижением на 25% шансов правильного ответа на протоколируемых пунктах удержания. Эффект полностью исчезал при протоколировании, что закрепляет его на использовании ИИ вне платформы.
  • Крупный нулевой результат: использование сезонного падения использования ChatGPT в течение лета показало чистого изменения в средних стандартизированных тестовых баллах старшеклассников нет — вероятно, потому что вред злоупотребления компенсируется в агрегате продуктивным использованием ИИ. Это не противоречит причинному вреду устойчивому обучению; оно предостерегает от чрезмерного обобщения по агрегатным тестовым баллам.

Зависимость как путь к выгоранию

Злоупотребление вредит большему, чем успеваемость. Опрос 276 китайских студентов старших курсов (Huang et al., 2026) моделировал зависимость от ИИ как медиатора между защитными ресурсами учащегося и учебным выгоранием и обнаружил, что она несла весь эффект: академическая самоэффективность и, более слабо, поддержка преподавателя обе снижали зависимость от ИИ, которая в свою очередь предсказывала выгорание. Оба косвенных пути были значимы и полностью опосредующими — прямые эффекты становились незначимыми, как только зависимость входила в модель, — причём путь самоэффективности был более сильным из двух. В прочтении наряду с описанным выше разрывом между производительностью и обучением результат расширяет цену злоупотребления от ухудшенного устойчивого знания до истощения и отстранения учащегося и локализует механизм в самой зависимости, а не в использовании ИИ как таковом: ресурсы, которые защищают от злоупотребления, по-видимому, работают, предотвращая зависимость, а не противодействуя её эффектам после. Авторы отмечают оговорку измерения — их шкала зависимости от ИИ адаптирована из теста интернет-зависимости, и её содержательная валидность для ИИ не установлена, — так что к этому пути лучше относиться как к хорошо смоделированной гипотезе, чем к установленному размеру эффекта.

Зависящий от оценивания характер вреда

Самый важный практический нюанс состоит в том, что вред избирателен по типу оценивания. Он проявляется на протоколируемых, по закрытым книгам и без помощи мерах устойчивого знания. На обычной оцениваемой курсовой работе, которая не может отличить работу с помощью ИИ от независимой работы, злоупотребление может раздувать непосредственные оценки. Именно поэтому разрыв между воспринимаемым и фактическим опасен: студенты (а иногда и преподаватели) видят краткосрочные приросты производительности и упускают эрозию обучения, которая всплывает только тогда, когда инструмент убран.

Какая опора, а не сколько её. Опрос 118 студентов из 12 курсов, насыщенных ИИ (Manikonda et al. 2026), разделяет два поведения, которые сворачивают меры частоты использования. Когнитивная опора — использование GenAI для организации, оценивания, комбинирования и разложения — была самым сильным предиктором воспринимаемого положительного воздействия (β = .495, p < .001), и описываемая ею разгрузка не является однообразно вредной: организация и суммирование идей и обнаружение новых инсайтов входили в число функций, связанных с улучшенным воспринимаемым обучением. Ранняя опора — обращение к GenAI до независимой мысли, традиционного поиска или преподавателя — предсказывала академическую выгоду (β = .301, p < .001) и отрицательное воздействие (β = .402, p = .004) одновременно. Модерирование — это та часть, которая относится к описанному выше средству грамотности: ассоциация между ранней опорой и отрицательным воздействием отсутствовала при низкой грамотности оценивания (b = .025, p = .861) и была самой сильной среди студентов, которые лучше всего судят результаты ИИ (b = .688, p < .001), так что оценочный навык не защитил от цены обращения к ИИ первым — студенты, наилучшим образом расположенные заметить эту цену, были теми, кто о ней сообщал. Операциональное следствие состоит в том, что злоупотребление — это частично вопрос времени относительно собственной попытки учащегося, а не только объёма, и именно поэтому интервенции, нацеленные на то, когда обращаются к ИИ, находятся рядом со средствами дизайна оценивания, описанными ниже.

Следствия и средства

Разговорное отстранение в эпоху LLM

Литература об игре в систему (злоупотребление подсказками, систематическое угадывание) имеет диалоговый аналог: разговорное отстранение — насмешки над агентом, намеренно неверные ответы, игнорирование его, зеркалирование его текста или удержание ответов. Rho et al. (2026) дают этому феномену первое систематическое рассмотрение в диалоге студент–ИИ, и его центральный урок интерпретативный, а не тревожный. Отстранённый ход — это интеракционный ход, а не устойчивое состояние отстранения. Видимая ассоциация ложных ответов с баллами посттеста не пережила проверку чувствительности с человеческой аннотацией, и авторы читают её как зондирование внутри траекторий, которые часто возвращаются к вовлечению (кластер с самой высокой успешностью восстановился при p = 0,42). Поведение, которое действительно разделяло траектории, было удержание ответа — отказ отвечать, который сохранялся, а не разрешался. Для дизайнеров это переворачивает обычный приоритет: шумное, видимое отстранение часто самокорректируется, тогда как тихий уход сигнализирует, что взаимодействие разрушилось.

Связанные концепции

Связанные статьи

Связанные FAQ

Метаданные

Обучение и преподаваниеМетакогниция, Мотивация, Саморегулируемое обучение
Технологии и методыГенеративный ИИ
Оценивание и измерениеОценивание
Основы ИИ в образованииАкадемическая добросовестность, Когнитивный оффлоадинг
SourceHistoryEditChat

Встроить эту страницу

Скопируйте код ниже, чтобы встроить эту страницу в систему управления обучением или на другой сайт. Во встроенной версии отображается только содержимое страницы — заголовок сайта, навигация и нижний колонтитул скрыты.