FAQ
Как устранять распространённые заблуждения об ИИ в образовании?
Автоматический перевод данной английской страницы, не проверенный носителем языка.
Данный FAQ организован по группам заинтересованных сторон и использует подход опровержения: назвать заблуждение, объяснить, почему оно может казаться правдоподобным, прямо отвергнуть неточное убеждение и заменить его более полезной ментальной моделью. Он основан на базе знаний об ИИ в образовании, особенно на её синтезах «Заблуждения об ИИ», «ИИ-грамотность», «Когнитивное перекладывание» и «Текст опровержения».
Центральный тезис состоит не в том, что ИИ по своей природе полезен или вреден. Его образовательные эффекты зависят от того, кто его использует, для какой задачи, какую работу мышления выполняет ИИ, какая ответственность остаётся за человеком и как оценивается обучение.
FAQ для студентов и учащихся
«Если ответ ИИ звучит уверенно и подробно, почему я не должен ему доверять?»
Ответ: Потому что уверенность и беглость — свойства выдачи, а не доказательство того, что ответ был проверен. Генеративный ИИ предсказывает правдоподобный язык; он автоматически не сверяет каждое утверждение с надёжными данными. Он может выдумать источники, исказить факты, упустить контекст или уверенно повторить заблуждение.
Воспринимайте ответ ИИ как предварительный черновик или гипотезу, а не как авторитет. Определите утверждения, на которых опирается ответ, изучите первоисточники, проверьте вычисления и сопоставьте ответ с материалами курса или доверенными справочными источниками.
Полезный тест: Принял бы я это утверждение, если бы его без доказательств высказал незнакомый человек? Если нет, не снижайте планку только потому, что текст звучит отшлифованно.
См. «Заблуждения об ИИ», «Риск галлюцинаций» и «Калибровка доверия».
«Понимает ли ИИ меня и знает ли, что я имею в виду?»
Ответ: Не так, как понимает вас другой человек. ИИ может реагировать на ваш язык, использовать информацию из текущего разговора, а иногда и удерживать информацию через функции продукта. Это может создавать ощущение личного общения. Но модель не обладает человеческим намерением, живым опытом, заботой или контекстным пониманием.
Это различие важно, потому что ИИ может согласиться с вами просто потому, что ваш промпт предполагает предпочтительный ответ. Иногда это называют подхалимством (sycophancy): система отражает или подтверждает пользователя вместо того, чтобы дать необходимое исправление.
Попросите ИИ указать слабые места в ваших рассуждениях, предложить контраргументы и объяснить, что сделало бы его ответ неверным. Затем независимо проверьте ответ. Согласие ИИ не доказывает, что ваша позиция верна.
См. «Заблуждения об ИИ», «Подхалимство ИИ» и «ИИ-грамотность».
«Если ИИ помог мне создать хорошую работу, разве это не значит, что я усвоил материал?»
Ответ: Не обязательно. Хороший продукт показывает, что произвела система «человек + ИИ». Он автоматически не показывает, что вы можете объяснить, запомнить, адаптировать или сделать самостоятельно.
В одном полевом эксперименте с участием почти 1000 школьников, изучавших математику, неограниченный доступ к генеративному ИИ улучшал результаты при выполнении упражнений с поддержкой, но снижал результаты последующего экзамена без поддержки. Версия с защитными ограничениями, которая давала подсказки вместо готовых ответов, устранила наблюдаемый вред для обучения. Урок состоит не в том, что любое использование ИИ вредит обучению. Он состоит в том, что результаты при поддержке и устойчивое обучение — разные исходы.
После использования ИИ проверьте, можете ли вы:
- объяснить рассуждения, не подглядывая в ответ ИИ;
- самостоятельно решить аналогичную задачу;
- найти слабые места в сгенерированном ответе;
- перенести идею в новый контекст.
См. «Генеративный ИИ без защитных ограничений может вредить обучению» и «Когнитивное перекладывание».
«Если ИИ позволяет закончить быстрее, разве это не просто более эффективное обучение?»
Ответ: Более быстрое завершение — не всегда более быстрое обучение. ИИ может с пользой снять канцелярскую работу, путающее форматирование или ненужные повторы. Он может снять и извлечение, планирование, составление черновика, отладку и правку — то, через что развиваются знания и навыки.
Ключевое различие — между поддерживающим перекладыванием и подменяющим перекладыванием:
- Поддерживающее перекладывание освобождает внимание для более важного мышления.
- Подменяющее перекладывание позволяет ИИ выполнять то мышление, которому вы должны были научиться.
Полезная последовательность:
- Сделайте первую попытку.
- Обратитесь к ИИ за обратной связью, подсказками, примерами или сопоставлением.
- Пересмотрите работу, опираясь на собственное суждение.
- Дайте краткое объяснение или применение без посторонней помощи.
Цель — не максимизировать сложность. Цель — сохранить когнитивную работу, которая порождает намеченное обучение.
См. «Когнитивное перекладывание» и «Снижение злоупотреблений ИИ».
«Является ли любое использование ИИ списыванием?»
Ответ: Нет. Но и обратное утверждение — «использование ИИ не может быть списыванием, ведь я не копировал человека» — тоже неверно.
Академическая честность зависит от цели задания, правил преподавателя, степени участия ИИ, указания авторства и от того, заменил ли ИИ оцениваемую способность. ИИ может быть разрешён для мозгового штурма в одном задании, обязателен для критики в другом и запрещён при оценивании самостоятельного выполнения.
Прежде чем использовать ИИ, спросите:
- Что это задание должно показать о том, что я умею?
- Какие формы помощи разрешены?
- Остаюсь ли я автором и принимающим решения?
- Могу ли я объяснить и защитить представленную работу?
- Нужно ли мне раскрыть, как я использовал ИИ?
Когда ожидания неясны, раскрытие информации и уточнение по конкретному заданию безопаснее, чем предположение о том, что всё использование либо запрещено, либо допустимо.
См. «Академическая честность» и «Использование ИИ и заявления о раскрытии».
«Является ли частое использование ИИ главной проблемой?»
Ответ: Частота сама по себе не определяет, продуктивно ли использование ИИ в образовательном смысле. Студент может часто использовать ИИ, чтобы сопоставлять объяснения, генерировать практические задачи, оспаривать рассуждения и получать обратную связь, оставаясь при этом когнитивно активным. Другой студент может использовать его один раз, чтобы сгенерировать центральный аргумент или решение, которое задание призвано было оценить.
Более полезный вопрос:
Какой уровень мышления я делегировал, и могу ли я по-прежнему выполнять это мышление самостоятельно?
Делегирование исправления грамматики отличается от делегирования утверждений, доказательств, рассуждений и контраргументов эссе. Чем глубже делегированный когнитивный уровень, тем выше риск, что итоговый продукт преувеличит вашу собственную способность.
См. «Когнитивное перекладывание» и «ИИ-грамотность».
«Разве один хороший промпт не должен дать мне правильный ответ?»
Ответ: Нет. Выдача генеративного ИИ чувствительна к промпту и часто недетерминирована. Малые изменения в формулировках, контексте, примерах или допущениях могут дать существенно разные ответы.
Итерации могут улучшить ответ, но повторная генерация — это не верификация. Пять похожих ответов могут повторять одно и то же ошибочное допущение. Поэтому продуктивные итерации включают не только повторный запрос. Они включают:
- уточнение цели и ограничений;
- просьбу к модели раскрыть её допущения;
- запрос альтернативных интерпретаций;
- проверку ответа по данным;
- проверку того, остаётся ли ответ верным при изменении задачи.
Составление промптов — полезный навык, но он не устраняет потребности в предметных знаниях и критическом суждении. Демонстрация наивного студента, использующего чат-бота для вопроса домашнего экзамена показывает, сколько взаимодействия на самом деле требует хорошее использование: выдача по умолчанию оставалась «отшлифованной, но педагогически бедной» на мультиструктурном уровне таксономии SOLO, и для выхода на рабочий учебный цикл потребовалось восемь раундов вмешательства на мета-уровне — сигнализация о перегрузке, просьба об упрощении, сужение объёма. Авторы называют способность, которую это требует, ИИ-интерактивной грамотностью — управлением, оцениванием и обучением на основе итеративного взаимодействия с генеративным ИИ — и отмечают проблему справедливости: поскольку неорганизованное использование требует навыка управления взаимодействием, который распределён неравномерно, генеративный ИИ «может быть наиболее полезен уже преуспевающим студентам».
См. «Заблуждения об ИИ», «Промпт-инжиниринг» и ИИ-интерактивную грамотность». Что касается лежащих в основе требований к самоРегулирование ИИ в образовании, см. «Как разработать эффективный ИИ-репетитор?».
«Если детектор ИИ не выявил моё использование, есть ли реальный минус?»
Ответ: Самый важный вопрос — не обнаруживает ли программное обеспечение использование. Он состоит в том, можете ли вы продемонстрировать компетентность, которую, по замыслу, представляет представленная работа.
Необнаруженное перекладывание на ИИ всё равно может оставить вас неспособными объяснить работу, ответить на дополнительные вопросы, адаптировать её к новой задаче или выступить там, где ИИ недоступен. Оно может также создать растущий разрыв между вашими оценками и вашими реальными способностями.
Этот разрыв может оставаться скрытым до тех пор, пока более поздний курс, экзамен, стажировка, процедура лицензирования или рабочее задание не потребует самостоятельного выполнения. Поэтому академическая честность — это не только избегание наказания. Это ещё и обеспечение того, чтобы ваши достижения и впредь представляли то, что вы действительно можете делать.
См. «Академическая честность», «Валидность оценивания» и «Аутентичное оценивание».
Ключевой тезис для студентов
Используйте ИИ, чтобы расширить своё мышление, а не сделать его ненужным. Сильный продукт, созданный при участии ИИ, должен оставлять вас более способными объяснять, оценивать, переносить и воспроизводить лежащую в основе работу.
FAQ для преподавателей и профессорско-преподавательского состава
«Сделает ли ИИ со временем преподавателей ненужными?»
Ответ: ИИ может автоматизировать часть преподавательской работы, но автоматизация задач не равна замене образовательной функции преподавания.
ИИ может составлять примеры, создавать предварительные материалы, отвечать на типовые вопросы и помогать с обратной связью. Преподаватели остаются ответственными за интерпретацию потребностей учащихся, установление отношений, создание интеллектуально и эмоционально безопасной учебной среды, встраивание дисциплинарных знаний в контекст, осуществление этического суждения и принятие решений о том, когда ответ, сгенерированный ИИ, неуместен.
Роль преподавателя может сместиться с позиции единственного источника информации к позиции организатора, конструктора обучения, дисциплинарного наставника и подотчётного человека, принимающего решения. Это трансформация профессиональной работы, а не её исчезновение.
См. «Преподавание», «Конструирование обучения» и «ИИ-компетентность преподавателя».
«Могут ли опытные преподаватели надёжно распознавать работу студентов, созданную ИИ?»
Ответ: Недостаточно надёжно, чтобы считать интуицию доказательством. Сгенерированное ИИ письмо может быть отредактировано, совмещено с человеческим, переведено, перефразировано или создано множеством разных систем. На человеческие суждения также могут влиять стиль письма, языковая среда, инвалидность или ожидания относительно того, как «должен» звучать конкретный студент.
Инструменты выявления ИИ сталкиваются с аналогичными ограничениями и могут давать как ложные срабатывания, так и пропуски. Результат детектора может иногда подтолкнуть к более внимательному рассмотрению, но он не должен подменять справедливый процесс сбора доказательств.
Более защитимой реакцией является верификация обучения: попросить студентов объяснить свои рассуждения, обсудить источники, переработать фрагмент, применить идею к новому случаю или представить доказательства процесса. Это напрямую оценивает то, что важно — понимание студента.
См. «Академическая честность» и «Выявление ИИ».
«Является ли тотальный запрет ИИ самой безопасной и справедливой политикой для моего курса?»
Ответ: Не автоматически. Условия без ИИ уместны, когда оценивается способность к самостоятельному выполнению — например, на определённых экзаменах, при базовой практике или при проверках профессиональной компетентности. Но всеобщий запрет может увести использование в подполье, затруднить последовательное применение правил и помешать студентам развивать ИИ-грамотность, которая может им понадобиться за пределами курса.
Более ясная модель — определить условия по конкретным заданиям:
- ИИ обязателен: студенты должны использовать ИИ и критически его оценивать.
- ИИ разрешён с раскрытием: ИИ может поддерживать обозначенные этапы.
- ИИ ограничен: разрешены только указанные функции.
- ИИ запрещён: помощь сделала бы недействительным заявленный учебный результат.
Студенты с большей вероятностью будут соблюдать границы, когда преподаватель объясняет, почему каждое условие существует, и применяет его последовательно в программе курса, инструкциях к заданиям, обратной связи и оценивании.
См. «Как формулировать для студентов правила использования ИИ», «Академическая честность» и «Политика образовательного ИИ».
«Если я дам студентам доступ к мощному ИИ-репетитору, разве обучение не улучшится?»
Ответ: Сам доступ — это не дизайн обучения. Одна и та же базовая модель может поддерживать или подрывать обучение в зависимости от того, как структурировано взаимодействие.
ИИ-репетитор может поддерживать обучение, когда он:
- требует начальной попытки студента;
- даёт подсказки вместо готовых решений;
- просит студентов объяснить свои рассуждения;
- адаптирует поддержку, не снимая ответственности;
- аккуратно исправляет заблуждения;
- постепенно снимает помощь со временем;
- включает проверку без помощи.
Та же система может подрывать обучение, когда она немедленно выдаёт отшлифованные ответы, выполняет планирование или поощряет поиск ответа вместо понимания.
Образовательная ценность заключается не только в модели, но и в педагогической оболочке вокруг неё.
См. «Конструирование обучения», Скаффолдинг и «Снижение злоупотреблений ИИ».
«Если студентам нравится обратная связь, сгенерированная ИИ, разве это не показывает, что она эффективна?»
Ответ: Удовлетворённость — полезное свидетельство о приемлемости, но недостаточное свидетельство эффективности обучения.
Студенты могут предпочитать обратную связь, которая немедленна, ободряюща, подробна или легка для восприятия. При этом обратная связь ИИ всё равно может быть неточной, шаблонной, чрезмерно положительной, плохо приоритизированной, нечувствительной к контексту или несогласованной с учебными целями задания.
Оценивайте обратную связь ИИ через несколько вопросов:
- Точна ли она?
- Диагностирует ли она действительную проблему?
- Конкретна ли она и применима ли?
- Соответствует ли она уровню учащегося?
- Использует ли студент её продуктивно?
- Улучшается ли переработка?
- Улучшается ли последующее самостоятельное выполнение?
Студентам также необходима грамотность в обратной связи: способность интерпретировать, оценивать и избирательно применять обратную связь, а не принимать её автоматически.
См. «Качество обратной связи ИИ» и «Грамотность в обратной связи».
«Достаточно ли преподавателям научиться составлять эффективные промпты?»
Ответ: Составление промптов — один операционный навык, а не полный объём ИИ-компетентности преподавателя.
Педагогам также необходимо понимать:
- что системы ИИ могут и чего не могут надёжно делать;
- как оценивать точность и смещённость выдачи;
- как ИИ влияет на валидность оценивания;
- когда перекладывание студентом становится вытеснением обучения;
- требования к приватности, доступности и управлению данными;
- как согласовывать использование ИИ с дисциплинарной педагогикой;
- когда не следует использовать ИИ.
Исследование, обобщённое в вики, показало, что преподаватели существенно переоценивали свою ИИ-компетентность при сопоставлении самоотчётов с мерами, основанными на выполнении. Продемонстрированная компетентность была гораздо сильнее связана с интеграцией в учебный процесс, чем одна уверенность.
См. «Оценивание ИИ-грамотности: рассогласование самоотчёта и выполнения», «ИИ-компетентность преподавателя» и «Образовательное развитие».
«Разрушает ли ИИ критическое мышление?»
Ответ: Нет. ИИ может либо заменить критическое мышление, либо стать объектом и партнёром для критического мышления.
Задание с большей вероятностью ослабляет вовлечённость, когда студенты просят у ИИ готовую интерпретацию, аргумент или решение, а затем принимают его. Задание может укрепить оценивание и метакогницию, когда студенты должны:
- предсказать результат до обращения к ИИ;
- сопоставить свои рассуждения с ответом ИИ;
- найти ошибки или неподтверждённые утверждения;
- улучшить слабый ответ, сгенерированный ИИ;
- выбрать среди альтернатив и обосновать выбор;
- объяснить, почему они отклонили рекомендацию ИИ.
Уместное различие — не просто ИИ против отсутствия ИИ. Оно состоит в том, функционирует ли ИИ как тренер, вызов или источник для оценивания, а не как замена рассуждениям учащегося.
См. «Критическое мышление», «Когнитивное перекладывание» и «Конструирование обучения».
Ключевой тезис для преподавателей
Не спрашивайте только: «Могут ли студенты использовать ИИ?» Спрашивайте: «Какое мышление студенты должны сохранить, какую поддержку может дать ИИ и какие свидетельства покажут, что обучение произошло?»
FAQ для администраторов, руководителей учреждений и политиков
«Преобразит ли закупка продвинутой ИИ-платформы преподавание и обучение?»
Ответ: Платформа даёт возможности, а не образовательную трансформацию.
Осмысленные изменения требуют согласованности учебной программы, оценивания, развития преподавателей, технической поддержки, доступности, приватности, управления, нагрузки и локального оценивания. Без этих условий учреждения могут приобрести изощрённую систему, которая используется непоследовательно, дублирует существующую работу, увеличивает нагрузку на преподавателей или даёт впечатляющие демонстрации без измеримого прироста в обучении.
Перед закупкой руководители должны определить:
- решаемую образовательную проблему;
- предполагаемых пользователей и сценарии использования;
- исходы, которые будут считаться успехом;
- данные, которые будет собирать система;
- требуемый человеческий надзор;
- условия, при которых учреждение изменит или прекратит использование.
См. «ИИ с точки зрения администратора», «Управление ИИ» и «Оценивание ИИ в образовании».
«Доказывает ли высокий результат на бенчмарке, что ИИ-система образовательно эффективна?»
Ответ: Нет. Бенчмарк демонстрирует результат при специфических условиях бенчмарка. Он автоматически не демонстрирует, что студенты будут больше учиться в реальных курсах.
Модель может решать трудные задачи, давать беглые объяснения или хорошо набирать баллы по рубрике репетиторства, не улучшая при этом удержание, перенос, саморегуляцию или равные исходы. Поэтому результат на бенчмарке следует отделять от:
- технической надёжности;
- педагогического качества;
- безопасности;
- юзабилити;
- нагрузки на внедрение;
- внедрения в аудитории;
- результатов обучения без помощи.
Эффективность в аудитории требует полевых испытаний с реальными учащимися, релевантных условий сравнения, надлежащих мер исхода и внимания к внедрению.
См. «Оценивание ИИ в образовании», Бенчмарк и «Прирост в обучении».
«Поскольку ИИ работает на данных, разве он не будет принимать решения объективнее людей?»
Ответ: Работа на данных не означает отсутствие ценностей или беспристрастность. Смещение может проникать через обучающие данные, разметку, определения исходов, промпты, языковые допущения, выбор доступности, пороги решений и то, как персонал интерпретирует выдачу.
Люди тоже подвержены смещениям, но это не доказательство того, что автоматизированные решения нейтральны. Автоматизация может скрывать смещение за техническим интерфейсом и применять его в большем масштабе.
Для значимых образовательных решений учреждения должны требовать:
- анализы результативности по подгруппам;
- документирование условий обучения и валидации;
- отчётность о неопределённости;
- содержательный человеческий пересмотр;
- процесс обжалования для студентов;
- мониторинг после внедрения;
- расследование дифференцированного вреда.
См. «Заблуждения об ИИ», «Снижение смещения» и «Управление ИИ».
«Если каждый студент получает одинаковый ИИ-аккаунт, разве мы не решили проблему справедливости?»
Ответ: Одинаковые аккаунты не гарантируют равных возможностей или равных исходов.
Студенты различаются по предшествующим предметным знаниям, опыту с ИИ, языку, доступу при инвалидности, качеству устройств, доступному времени, уверенности и способности оценивать выдачу ИИ. Более опытные студенты могут использовать ИИ, чтобы расширить своё обучение, тогда как студенты со слабыми предшествующими знаниями или метакогнитивными навыками с большей вероятностью примут неверную выдачу или делегируют практику, в которой они больше всего нуждаются.
Поэтому планирование справедливости должно охватывать по меньшей мере три уровня:
- Доступ: Кто может надёжно использовать систему?
- Навыки: Кто знает, как её использовать и оценивать?
- Исходы: Кто действительно получает пользу и кто сталкивается с новым вредом?
См. «Справедливость в образовании с ИИ», «Цифровое неравенство» и «ИИ-грамотность».
«Устранит ли одна общеучредительская политика ИИ неопределённость?»
Ответ: Политика необходима, но один текст политики не создаёт общего понимания.
Студенты и сотрудники интерпретируют ожидания в отношении ИИ через несколько источников: институциональное руководство, нормы программ, учебные программы, инструкции к заданиям, комментарии преподавателей, поведение сверстников и прежние меры по применению правил. Когда эти источники противоречат друг другу, люди создают собственные объяснения того, что является допустимым.
Поэтому эффективная архитектура политики связывает:
- общеучредительские принципы;
- ожидания на уровне программ или дисциплин;
- политики курсов;
- указания по конкретным заданиям;
- примеры и сценарии;
- прозрачные процедуры раскрытия и рассмотрения.
Политика должна также объяснять образовательное обоснование ограничений или разрешений. Правила, которые лишь констатируют «разрешено» или «запрещено», с меньшей вероятностью приведут к информированному суждению.
См. «Управление ИИ», «Политика образовательного ИИ» и «Как формулировать для студентов правила использования ИИ».
«Могут ли выявление ИИ и удалённый прокторинг решить проблему академической честности?»
Ответ: Сами по себе они не могут её решить. Выявление оценивает, похож ли артефакт на работу, созданную машиной. Образованию нужны свидетельства того, что учащийся обладает заявленной способностью.
Инструменты выявления могут давать ложные срабатывания и пропуски, а их результативность меняется в зависимости от моделей, языков, задач и практики редактирования. Прокторинг может добавлять проблемы приватности, доступности, тревожности и справедливости, не устанавливая при этом, чему научился студент.
Свидетельства теперь достаточно конкретны, чтобы изложить их численно. Анализ процессуальной справедливости сообщает, что ни один из четырнадцати ранних инструментов выявления не достиг точности 80%, что перефразирование или лёгкое редактирование примерно вдвое снижают и так скромную точность и что детекторы систематически неверно классифицируют авторов, для которых английский не родной, потому что признаки, принимаемые за сигналы ИИ, характерны также для компетентного письма на втором языке. В скрытом полевом исследовании 94% полностью сгенерированных ИИ работ, подброшенных в действующие онлайн-экзамены на пяти модулях психологии, не были выявлены — и работа ИИ в среднем набирала больше баллов, чем реальные студенты. Университет Вандербильта отключил лицензированный детектор, не сумев подтвердить заявленный уровень ложных срабатываний 1%, что подразумевало около 750 ошибочно помеченных студентов среди 75 000 ежегодных работ, перенаправив сотрудников к прозрачным ожиданиям и пересмотру оценивания.
Более устойчивая институциональная стратегия сочетает:
- ясно объяснённые ожидания;
- надлежащие условия оценивания без ИИ;
- свидетельства процесса и поэтапную работу;
- устную или письменную верификацию обучения;
- раскрытие по конкретным заданиям;
- пересмотр оценивания;
- соразмерные процедуры с человеческим пересмотром.
Цель — не просто обнаруживать помощь. Цель — сохранить валидность образовательных суждений.
См. «Академическая честность», «Выявление ИИ», «Удалённый прокторинг» и невыявляемые нарушения». О конструктивном отклике см. «Как следует пересмотреть оценивание в эпоху ИИ?» и «Как снизить списывание с помощью ИИ?».
«Является ли нежелание преподавателей главным образом проблемой недостатка обучения?»
Ответ: Иногда, но готовность преподавателей шире технического навыка.
Нежелание может отражать нагрузку, профессиональную идентичность, дисциплинарные ценности, обеспокоенность валидностью оценивания, отсутствие институциональной поддержки, неопределённость приватности или обоснованное суждение, что конкретное применение ИИ не служит студентам.
Поэтому развитие преподавателей должно охватывать:
- знания и практическую компетентность;
- педагогическую интеграцию;
- профессиональную идентичность и предназначение;
- время и нагрузку;
- политику и управление;
- дисциплинарно-специфичное использование;
- возможности для принципиального непринятия.
Единоразовая демонстрация функций ИИ вряд ли решит социотехническую и профессиональную проблему изменений.
См. «Образовательное развитие», «ИИ-компетентность преподавателя» и «Преподавание».
Ключевой тезис для руководителей учреждений
Не покупайте «результат ИИ». Создавайте институциональные условия, при которых конкретная возможность ИИ может использоваться ответственно, оцениваться локально, улучшаться при необходимости и прекращаться, когда она не служит обучению.
FAQ для конструкторов обучения, разработчиков образовательных технологий и поставщиков
«Если ИИ-репетитор даёт правильный ответ, разве он не хороший репетитор?»
Ответ: Система, которая решает задачу, не обязательно учит учащегося.
Технически верный ответ может поступить слишком рано, раскрыть слишком много, обойти желательные трудности или помешать учащемуся потренироваться в объяснении и извлечении. Репетитор следует оценивать по тому, что он побуждает студента заметить, попробовать, объяснить, пересмотреть и в итоге сделать самостоятельно.
Более сильный в педагогическом отношении репетитор может:
- диагностировать до вмешательства;
- задавать вопросы вместо немедленного ответа;
- давать наименьшую полезную подсказку;
- требовать объяснения;
- реагировать на заблуждения;
- постепенно снимать поддержку;
- проверять последующее выполнение без помощи.
Правильность остаётся необходимой, но образовательное качество касается также своевременности, скаффолдинга, когнитивного вовлечения и переноса обучения.
См. «Конструирование обучения», «Интеллектуальные репетиторские системы» и «Педагогическая безопасность».
«Всегда ли большая автоматизация и персонализация лучше?»
Ответ: Нет. Персонализация может поддерживать обучение, но она может стать и чрезмерным приспособлением.
Когда система выполняет планирование, отслеживает прогресс, решает, что важно, и завершает трудные шаги, учащийся может становиться эффективнее, развивая при этом меньше самостоятельности и саморегуляции. Задача дизайна — не минимизировать любую трудность. Она состоит в том, чтобы убрать ненужные барьеры, сохранив усилия, связанные с целью обучения.
Полезные элементы дизайна включают:
- обязательные попытки учащегося;
- подсказки к объяснению;
- отсроченные подсказки;
- регулируемые уровни помощи;
- постепенное снятие опоры;
- размышление о рекомендациях ИИ;
- периодическую практику без помощи;
- понятные возможности переопределить систему.
См. «Агентный ИИ», Автономность учащегося и «Когнитивное перекладывание».
«Достаточно ли однораундового тестирования, чтобы установить, что образовательный чат-бот безопасен?»
Ответ: Нет. Образовательный вред может накапливаться по ходу взаимодействия.
Система может адекватно реагировать на один изолированный промпт, но постепенно начать выдавать ответы, закреплять заблуждение, поощрять зависимость или отклоняться от задуманной роли репетитора. Обобщённый в вики бенчмарк SafeTutors показал, что случаи педагогического вреда резко возрастают, когда системы оцениваются на протяжении нескольких раундов, а не в одном обмене репликами.
Свидетельства бенчмарка не равны оценке эффекта обучения в аудитории, но они показывают, почему образовательное тестирование должно включать:
- длительные разговоры;
- повторяющиеся ошибки студентов;
- попытки получить прямые ответы;
- эмоциональные и межличностные сценарии;
- состязательные промпты;
- изменения зависимости учащегося со временем.
См. «Педагогическая безопасность» и «Безопасность ИИ-репетитора и педагогический вред».
«Сделает ли модель большего размера или большей мощности автоматически репетитора более безопасным?»
Ответ: Нет. Общая мощь модели — не то же самое, что педагогическое качество.
Модель большего размера может решать более трудные задачи, оставаясь при этом неспособной:
- выбрать надлежащую стратегию обучения;
- распознать, когда следует воздержаться от ответа;
- адаптироваться к уровню развития;
- сохранять продуктивную неудачу;
- сообщать о неопределённости;
- избегать неуместного эмоционального влияния;
- согласовываться с учебными целями преподавателя.
Педагогическое поведение следует явно конструировать, основывать на теории обучения, тестировать на разных группах учащихся и отслеживать при длительном использовании. Выбор модели важен, но слой дизайна обучения остаётся существенным. Исследование совместного проектирования с шестью преподавателями средней школы предполагает, что безопасность исходит из объёма и надзора, а не из масштаба: преподаватели независимо спроектировали «ограниченных экспертов» — специализированную возможность, заключённую в строго определённую область под человеческим надзором — проведя две пограничные линии (границы авторитета, потому что ответственность за обучение и безопасность студентов нельзя делегировать, и границы экспертизы, потому что ИИ не обладает контекстным знанием отдельных студентов и норм аудитории) и три защитных слоя (границы области, фильтрация контента со стандартизированными отказами и право преподавателя на отмену). Они просили полное протоколирование разговоров и оповещения в реальном времени, а не лучшие объяснения модели.
См. «Конструирование обучения», «Обучение и дообучение LLM», «Педагогическая безопасность» и дизайн чат-бота с ограниченным экспертом».
«Всегда ли больше обратной связи, сгенерированной ИИ, лучше?»
Ответ: Нет. Обратная связь может стать чрезмерной, шаблонной, несвоевременной, неточной или когнитивно подавляющей.
Эффективная обратная связь должна помогать учащемуся определить наиболее важный следующий шаг. Длинный ответ, комментирующий все возможные проблемы, может быть менее полезен, чем сфокусированное вмешательство. Системы должны приоритизировать обратную связь на основе цели обучения, готовности учащегося и вероятного влияния.
Оценивайте больше, чем количество и скорость обратной связи. Измеряйте:
- понимают ли студенты обратную связь;
- могут ли они судить о её качестве;
- улучшается ли переработка;
- уменьшаются ли заблуждения;
- улучшается ли последующее самостоятельное выполнение.
См. «Качество обратной связи ИИ», Обратная связь и «Грамотность в обратной связи».
«Является ли человеческий пересмотр лишь временным требованием до улучшения моделей?»
Ответ: Человеческий надзор — не просто заплатка для исправления ошибок. Это также функция подотчётности, встраивания в контекст и управления.
Педагоги решают, уместна ли выдача для конкретного учащегося, курса, культуры или значимого решения. Они интерпретируют исключения, учитывают информацию, которой модель не обладает, и принимают ответственность за действия, затрагивающие студентов.
Содержательный дизайн с человеком в контуре должен определять:
- кто пересматривает выдачу;
- какие свидетельства видит пересматривающий;
- когда происходит пересмотр;
- сколько времени имеется;
- может ли пересматривающий отменить решение системы;
- кто отвечает за итоговое действие;
- как учащийся может обжаловать.
Номинальный человеческий пересматривающий, у которого нет времени, полномочий или релевантной информации, не является содержательным надзором.
См. «ИИ с человеком в контуре» и «Управление ИИ».
«Можно ли добавить доступность, приватность и справедливость после того, как основной продукт заработает?»
Ответ: Их следует рассматривать как базовые требования дизайна, а не как дополнения после запуска.
Способ ввода, уровень чтения, языковые допущения, требования к устройствам, хранение данных, персонализация и смещение модели — всё это определяет, кто может использовать систему и кому она может навредить. Доработка задним числом может улучшить интерфейс, оставив неизменными базовый рабочий процесс, модель данных и логику решений.
Командам дизайна следует вовлекать затрагиваемых учащихся и педагогов на раннем этапе, тестировать с разнообразными пользователями, минимизировать сбор данных, предоставлять доступные альтернативы и изучать дифференцированные исходы. Систему нельзя считать образовательно эффективной, если её польза недоступна или её вред распределён неравномерно.
См. Доступность, «Универсальный дизайн для обучения», Приватность и «Справедливость в образовании с ИИ».
Ключевой тезис для конструкторов и разработчиков
Оптимизируйте рост способности учащегося, а не просто успешное выполнение задания. Репетиторская система образовательно успешна, когда учащиеся становятся более способными, а не постоянно более зависимыми от системы.
FAQ для образовательных исследователей и оценивающих
«Если студенты лучше выступают при использовании ИИ, разве это не демонстрирует обучение?»
Ответ: Нет. Это демонстрирует выполнение при поддержке. Обучение требует свидетельств, что способность учащегося изменилась.
Исследования должны различать:
- выполнение при доступном ИИ;
- немедленное выполнение без помощи;
- отсроченное удержание;
- перенос на новые задачи;
- объяснение и использование стратегий;
- зависимость от продолжающейся помощи.
Без меры без помощи исследователи могут ошибочно приписать учащемуся вклад ИИ-системы. Это особенно важно, когда инструмент может генерировать решение, рассуждение или текст, которые вознаграждает мера исхода.
См. «Прирост в обучении», «Валидность оценивания» и «Когнитивное перекладывание».
«Являются ли самооценённая ИИ-грамотность, уверенность и обучение адекватными исходами?»
Ответ: Они полезны для понимания восприятия, принятия, тревожности и Самоэффективность, но не являются адекватными мерами продемонстрированной компетентности.
Люди могут быть уверенными и ошибаться или умелыми и недостаточно уверенными. Дополняйте самоотчёты мерами, основанными на выполнении, такими как:
- нахождение ошибок в выдаче ИИ;
- проверка источника;
- выбор надлежащей стратегии использования;
- распознавание смещения или подхалимства;
- переработка ошибочного ответа;
- объяснение, когда ИИ не следует использовать;
- калибровка уверенности относительно точности.
Синтез исследований об ИИ-грамотности преподавателей в вики сообщает о существенном разрыве между самооценкой и измеренным выполнением, что усиливает необходимость оценивать оба.
См. «Оценивание ИИ-грамотности: рассогласование самоотчёта и выполнения» и «ИИ-грамотность».
«Можно ли рассматривать результат на бенчмарке как свидетельство эффективности в аудитории?»
Ответ: Не без дополнительных свидетельств. Бенчмарки устанавливают ограниченное техническое или поведенческое выполнение. Обучение в аудитории зависит от студентов, преподавателей, стимулов, согласованности учебной программы, качества внедрения, восприятия и конкурирующих ресурсов.
Ответственный путь свидетельств может идти от:
- технического и бенчмарк-тестирования;
- исследований юзабилити и безопасности;
- маломасштабных пилотов в аудитории;
- контролируемых исследований эффективности;
- исследования внедрения;
- долгосрочного и многосайтового оценивания.
Исследователям следует ясно указывать, какому звену этой цепи посвящено исследование, а не обобщать результат бенчмарка в утверждение об обучении.
См. Бенчмарк, «Оценивание ИИ в образовании» и «Ограничения доказательной базы AIED».
«Если система оценивания ИИ надёжна, разве это не значит, что она валидна?»
Ответ: Нет. Надёжность касается согласованности. Валидность касается того, обоснованы ли интерпретация и использование результата.
Система может последовательно измерять не тот конструкт, опускать важные измерения, ставить подгруппу в невыгодное положение или давать результат, который люди используют неверно. Валидация должна изучать:
- представленность конструкта;
- сопоставление с релевантными человеческими суждениями;
- результативность по подгруппам;
- структуры ошибок;
- неопределённость;
- последствия использования;
- меняет ли выдача ИИ человеческие решения;
- процедуры обжалования и пересмотра.
Высокое согласие — одна форма свидетельств. Это не полный аргумент валидности. Крупный британский бенчмарк показывает это рассогласование напрямую: на 761 аутентичном студенческом эссе по психологии оценки ИИ и людей совпадали по диапазону степени лишь в 35–65% случаев (63% в одном учреждении, 53% во втором, 35% в третьем), при почти идеальной надёжности (внутриклассовые корреляции при повторном оценивании до 1,00). Системы согласовывались друг с другом гораздо теснее, чем с людьми (ICC для трёх моделей = 0,91), совпадая по диапазону лишь для 56% работ, когда все три модели должны были согласиться, и оценки сжимались к середине (показатель сжатия 0,47–0,82) — так что ИИ был наименее точен именно на границах, отделяющих First от Upper Second или проходной балл от непроходного. Обратная связь ИИ была также в три-восемь раз длиннее среднего человеческого значения в 100–200 слов: объём — не качество.
См. «Валидность оценивания», «Образовательное измерение», «Автоматизированное оценивание» и автоматическую оценку университетских эссе».
«Могут ли сгенерированные LLM или имитируемые студенты заменить реальных учащихся в образовательных исследованиях?»
Ответ: Они могут быть полезны для прототипирования, стресс-тестирования, генерации сценариев или проверки гипотез. Их не следует считать воспроизводящими человеческие процессы обучения без валидации.
Модель может имитировать язык замешательства или заблуждения, не проявляя настойчивости, мотивации, предшествующих знаний, эмоций или траектории развития реального учащегося. Исследование, обобщённое в вики, показало, что имитируемые студенты часто отказывались от заданного заблуждения после минимального исправления, что вызывает сомнения, верно ли они представляли человеческое концептуальное изменение.
Поэтому утверждения, основанные на имитируемых учащихся, следует валидировать по человеческому поведению, прежде чем использовать их для поддержки выводов об обучении или политике.
См. «Имитирование студентов» и «Имитирование студентов или подхалимное решение задач?».
«Означает ли положительный средний эффект, что вмешательство полезно студентам в целом?»
Ответ: Нет. Средние эффекты могут скрывать значимые различия по предшествующим знаниям, возрасту, дисциплине, языку, инвалидности, метакогнитивному навыку, доступу, реализации преподавателем или типу использования ИИ.
Исследователям следует изучать:
- гетерогенность эффекта вмешательства;
- неопределённость по подгруппам, а не только точечные оценки по подгруппам;
- точность реализации;
- фактические структуры взаимодействия с ИИ;
- различия в пропусках данных и выбывании;
- сохраняются ли выгоды без ИИ;
- получают ли некоторые учащиеся пользу, тогда как другие становятся более зависимыми.
Малый средний прирост может скрывать ценный эффект для одной группы и вред для другой. Большой средний прирост может зависеть от условий, которые другие учреждения не могут воспроизвести.
См. «Ограничения доказательной базы AIED», «Методы исследования в AIED» и «Справедливость в образовании с ИИ».
Ключевой тезис для исследователей
Измеряйте учащегося после того, как ИИ перестал помогать, и сообщайте условия реализации, различия учащихся и ограничения валидности, которые определяют, что на самом деле означает результат.
FAQ для родителей, семей, широкой публики и медиа-коммуникаторов
«Революционизирует ли ИИ образование — или разрушит его?»
Ответ: Оба утверждения преувеличивают мощь технологии, действующей сама по себе.
ИИ может расширять доступ к объяснению, переводу, практике, обратной связи и ассистивной поддержке. Он может также принести дезинформацию, риски приватности, смещение, чрезмерную опору и новые проблемы честности. Последствия зависят от того, как спроектирована система, что предлагается делать с ней преподавателям и студентам и как учреждения управляют её использованием.
Более полезный публичный вопрос:
Для каких учащихся, задач и исходов — и при каких условиях — данное использование ИИ приносит больше образовательной пользы, чем вреда?
Этот вопрос поощряет оценивание, а не шумиху или панику.
См. «ИИ в образовании» и «Заблуждения об ИИ».
«Разве молодые люди уже ИИ-грамотны, потому что они цифровые аборигены?»
Ответ: Знакомство с цифровыми продуктами — не то же самое, что способность понимать и критически оценивать ИИ.
Студенты могут быть уверенно открывать чат-бот, генерировать изображение или просить ответ, оставаясь при этом неспособными:
- проверить утверждение;
- распознать сфабрикованные свидетельства;
- обнаружить смещение или подхалимство;
- защитить личную информацию;
- решить, какое мышление не следует делегировать;
- объяснить, как ИИ повлиял на их работу.
Вики обобщает исследование, в котором уверенность в обращении с повседневными технологиями не превратилась в сопоставимую компетентность в алгоритмических рассуждениях, технологическом творчестве или критическом оценивании ИИ.
ИИ-грамотность нужно преподавать и демонстрировать; её не следует выводить из возраста или частоты использования технологий.
См. «ИИ-грамотность» и «Иллюзия компетентности».
«Являются ли студенты, использующие ИИ, просто ленивыми или нечестными?»
Ответ: Некоторые студенты злоупотребляют ИИ, но моральные ярлыки не объясняют и не предотвращают это поведение адекватно.
Решения студентов формируются ценностью задания, нехваткой времени, уверенностью, нормами сверстников, ясностью политики, страхом неудачи, прежним доступом и тем, кажется ли работа связанной со осмысленным обучением. Студенты также по-разному рассуждают о мозговом штурме, редактировании, объяснении и генерации полного текста.
Эффективная реакция сочетает:
- ясные и последовательные ожидания;
- осмысленное оценивание;
- обучение ответственному использованию;
- возможности для раскрытия;
- верификацию обучения;
- соразмерную подотчётность.
Отношение ко всему использованию ИИ как к свидетельству слабого характера может увести использование в тайну и сделать честное обсуждение менее вероятным.
См. «Академическая честность» и «Как формулировать для студентов правила использования ИИ».
«Является ли ИИ по сути просто ещё одним калькулятором?»
Ответ: Сравнение полезно в одном отношении: и то и другое может снимать работу. Но генеративный ИИ может снимать гораздо более широкий спектр когнитивной деятельности.
Калькулятор обычно выполняет определённую математическую операцию. Генеративный ИИ может производить объяснения, аргументы, планы, сводки источников, код, обратную связь и целые работы. Его работа также менее прозрачна, а его выдача может быть убедительной и при этом неверной.
Это означает, что педагоги должны принимать более нюансированные решения о том, что студенты могут делегировать. Перекладывание рутинных вычислений может позволить учащимся сосредоточиться на интерпретации. Перекладывание самой интерпретации может убрать намеченное обучение.
См. «Когнитивное перекладывание» и «Генеративный ИИ».
«Безопасен ли чат-бот для детей, если он блокирует токсичный или откровенный контент?»
Ответ: Модерация контента необходима, но она не покрывает все образовательные риски.
Система может оставаться вежливой, при этом:
- слишком быстро давая ответы;
- закрепляя заблуждения;
- поощряя эмоциональную зависимость;
- собирая неуместные данные;
- предлагая советы, неподходящие по уровню развития;
- делая недоступные допущения;
- вытесняя человеческую поддержку;
- снижая продуктивное усилие.
ИИ, предназначенный для детей, следует оценивать по безопасности контента, педагогической безопасности, приватности, доступности, отношенческому влиянию и эффектам повторяющегося взаимодействия, а не только по запрещённым словам или темам.
См. «ИИ в образовании K–12», «Педагогическая безопасность» и Приватность.
«Действительно ли сопереживающий ИИ заботится о студенте?»
Ответ: ИИ может генерировать язык, который звучит внимательным, поддерживающим или эмоционально отзывчивым. Это иногда может помочь учащемуся сформулировать проблему или продолжить малозначимую задачу. Но видимость сопереживания не должна смешиваться с человеческой заботой, ответственностью или обязанностью проявлять заботу.
ИИ не может самостоятельно взять на себя обязанности преподавателя, консультанта, родителя или опекуна. Он может неверно понять ситуацию, усилить рамку пользователя или отреагировать неуместно, звуча при этом сочувственно.
Студенты должны знать, когда они взаимодействуют с ИИ, какие данные могут сохраняться и когда система должна направить их к квалифицированному человеку.
См. «Заблуждения об ИИ», «Разговорный ИИ» и «Управление ИИ».
Ключевой тезис для семей и публики
ИИ — не автономная образовательная сила. Его последствия формируются дизайном, преподаванием, институциональными решениями, поддержкой семьи и ответственностью, которую сохраняют учащиеся.
FAQ для работодателей и партнёров по рабочей силе
«Означает ли ИИ-грамотность главным образом умение составлять хорошие промпты?»
Ответ: Составление промптов полезно, но устойчивая ИИ-грамотность гораздо шире.
Способный сотрудник должен уметь:
- надлежащим образом формулировать проблему;
- решать, что следует и что не следует делегировать;
- предоставлять релевантный контекст, не раскрывая чувствительные данные;
- оценивать свидетельства и неопределённость;
- находить смещение и сбои;
- перерабатывать или отклонять выдачу;
- документировать значимое использование;
- сохранять подотчётность за итоговое решение.
Приёмы составления промптов будут меняться по мере развития продуктов. Суждение, верификация, предметное понимание, этические рассуждения и ответственность — более переносимые способности.
См. «ИИ-грамотность» и «Сотрудничество человека и ИИ».
«Демонстрирует ли отшлифованный продукт, созданный при участии ИИ, профессиональную компетентность?»
Ответ: Он демонстрирует выполнение системы «человек + ИИ», но может не показывать, что может индивидуум.
Чтобы оценить профессиональную компетентность, работодателям и педагогам следует изучать, способен ли человек:
- формулировать лежащую в основе проблему;
- объяснять допущения;
- проверять свидетельства;
- обнаруживать тонкие ошибки;
- адаптироваться при изменении условий;
- защищать итоговую рекомендацию;
- выполнять существенное суждение без неуместной помощи.
Во многих профессиях ответственное использование ИИ само по себе является законной компетентностью. Но оценивание должно различать эффективное использование инструмента и видимость экспертизы, созданную инструментом.
См. «Аутентичное оценивание», «Валидность оценивания» и «Развитие карьеры и готовность».
«Становятся ли базовые дисциплинарные знания устаревшими, потому что ИИ может их извлекать или генерировать?»
Ответ: Нет. Способность надзирать за ИИ зависит от экспертизы, которую чрезмерная автоматизация может помешать людям развить.
Без достаточных предметных знаний пользователь может не распознать:
- правдоподобный, но неверный вывод;
- недостающее ограничение;
- опасную рекомендацию;
- недействительное сопоставление;
- сфабрикованное цитирование;
- смещённое допущение;
- ситуацию, в которой ИИ нельзя доверять.
Учебные программы, возможно, должны пересмотреть, какие знания следует заучивать и какие инструменты должны быть доступны. Но они не должны устранять базовое понимание только потому, что ИИ может дать ответ. Экспертный надзор требует внутренней основы для суждения.
См. «Когнитивное перекладывание», «Предшествующие знания» и «Калибровка доверия».
«Конфликтует ли преподавание критического и этического использования ИИ с производительностью труда на рабочем месте?»
Ответ: Ответственное оценивание — часть устойчивой производительности.
Непроверенная автоматизация может создавать переделки, инциденты безопасности, дискриминационные решения, правовую уязвимость, репутационный ущерб и ложную уверенность. Критическая ИИ-грамотность не означает отказа от автоматизации. Она означает знание того, когда автоматизация добавляет ценность, когда требуется надзор и когда выдачу следует отклонить.
Сильнейший выпускник или сотрудник — не обязательно человек, который использует ИИ для наибольшего числа задач. Это человек, способный разумно распределять работу между людьми и ИИ, сохраняя качество, конфиденциальность, подотчётность и профессиональное суждение.
См. «ИИ-грамотность», «Управление ИИ» и «Сотрудничество человека и ИИ».
Ключевой тезис для работодателей
Оценивайте, способны ли люди использовать ИИ с суждением, верификацией и подотчётностью, а не просто способны ли они быстро производить отшлифованную работу.
FAQ для любого, кто коммуницирует о заблуждениях относительно ИИ
«Почему недостаточно сказать людям правильные факты об ИИ?»
Ответ: Заблуждения — не всегда пробелы в знаниях. Они часто являются устойчивыми и правдоподобными ментальными моделями. Человек может неоднократно наблюдать, что ИИ звучит уверенно, производит качественную работу или экономит время. Этот опыт кажется подтверждающим убеждения вроде «ИИ понимает», «ИИ точен» или «завершение задачи означает, что я её усвоил».
Поэтому эффективное исправление должно делать больше, чем констатировать факт. Оно должно:
- назвать заблуждение;
- признать, почему оно кажется правдоподобным;
- ясно его отвергнуть;
- объяснить, почему оно не работает;
- предоставить модель-замену;
- дать человеку способ применить замену.
См. «Заблуждения об ИИ» и «Текст опровержения».
«Как звучит эффективное опровержение?»
Ответ: Оно должно быть прямым, не будучи пренебрежительным.
Например:
Заблуждение: «Хорошая работа, сгенерированная ИИ, показывает, что студент её усвоил.» Опровержение: «Это не обязательно так. Продукт показывает, что студент и ИИ произвели совместно, но не раскрывает, какие рассуждения выполнил студент.» Замена: «Обучение лучше демонстрируется, когда студент может объяснить, перенести, адаптировать и воспроизвести способность.» Применение: «После работы при участии ИИ следуют объяснение, устная защита, запись процесса или применение без помощи.»
Модель-замена существенна. Если коммуникаторы только устранят заблуждение, люди могут к нему вернуться, потому что у них нет лучшего объяснения.
См. «Текст опровержения».
«Как педагоги могут исправлять заблуждения, не пристыжая людей?»
Ответ: Обращайтесь к убеждению и его последствиям, а не к ярлыкам на человеке.
Избегайте сообщений вроде «Только ленивые студенты используют ИИ» или «Всякий, кто доверяет чат-боту, глуп». Эти утверждения угрожают идентичности и поощряют защитную реакцию или сокрытие.
Более продуктивный подход:
- признать, почему убеждение кажется разумным;
- продемонстрировать расхождение, например уверенную ошибку ИИ;
- предложить предсказание до раскрытия исправления;
- позволить участникам сопоставить выполнение при поддержке и без;
- дать им стратегию для будущих ситуаций;
- закреплять новую модель через множество занятий.
Заблуждения легче пересмотреть, когда люди могут изменить своё мышление, не будучи при этом воспринятыми как неинтеллигентные или неэтичные.
См. «Как формулировать для студентов правила использования ИИ», «ИИ-грамотность» и «Текст опровержения».
«Какой опыт с наибольшей вероятностью изменит неточное убеждение об ИИ?»
Ответ: Опыт, который делает провал заблуждения наглядным.
Примеры включают:
- просьбу к учащимся найти уверенно сфабрикованное цитирование;
- сопоставление нескольких противоречивых ответов на один и тот же промпт;
- выполнение задачи без помощи после практики при поддержке ИИ;
- изучение того, как ИИ отражает неверное допущение;
- сопоставление репетитора с прямыми ответами и репетитора с подсказками;
- аудит выдачи на смещение по именам, диалектам или сценариям;
- просьбу к участникам защитить сгенерированную ИИ рекомендацию, используя первоисточники.
Эти занятия превращают абстрактные предупреждения в наблюдаемые свидетельства. Они также позволяют участникам практиковать верификацию, калибровку доверия и решения о когнитивном перекладывании.
См. «ИИ-грамотность», «Калибровка доверия» и «Когнитивное перекладывание».
«Какую одну идею следует запомнить заинтересованным сторонам?»
Ответ:
ИИ — подверженный ошибкам когнитивный ресурс, а не авторитет, человеческий разум или свидетельство того, что обучение произошло. Ответственное образовательное использование сохраняет подотчётность людей, сохраняет мышление, необходимое для обучения, проверяет значимые результаты и судит об успехе через устойчивую и равную способность, а не через одну беглость, скорость, вовлечённость или завершение задачи.