AIEd база знанийAIEd KB
На этой странице

Читать эту страницу на английском

Концепции

Обнаружение ИИ

Создано 2026-10-13

Автоматический перевод данной английской страницы, не проверенный носителем языка.

Обнаружение ИИ — technologies и методы, используемые для выявления контента, созданного ИИ, в академических работах, а также более широкий вопрос о том, как учреждениям следует реагировать на риск того, что студенты используют большие языковые модели (LLM) для производства работы, не являющейся их собственной. Оно охватывает подходы на основе классификаторов, методы скрытого промпта и правдоподобия, водяные знаки и стилистический анализ — и, во всё большей степени, споры о границах обнаружения и о ценности перепроектирования оценивания вместо полицейского контроля над ним.

Вопросы для размышления

  • Если детектор ИИ помечает сочинение студента как созданное ИИ, насколько вы были бы уверены в правильности этой пометки — и какие свидетельства вы захотели бы увидеть, прежде чем действовать на её основании?
  • Один из аргументов состоит в том, что обнаружение ИИ не просто ненадёжно, но и концептуально несостоятельно: бинарное деление «человек против ИИ» игнорирует, что студенческая работа обычно создаётся с помощью ИИ, а не им. Если работа гибридна, что вообще значит «обнаруживать ИИ»?
  • Инструменты обнаружения могут быть предвзяты против неносителей языка, производя ложные срабатывания, несправедливо наказывающие студентов. Как вы бы взвесили риск false accusation против ценности выявления подлинного недобросовестного использования?
  • Обнаружение может подрывать честность, а не защищать её, взращивая климат подозрительности, размывающий доверие. Как изменяет наблюдение поведение вас или студента при оценивании?
  • Исследования предполагают, что обнаружение должно быть ограниченным, ситуативным инструментом, а не стратегией первого выбора, и что дизайн оценивания должен признавать роль ИИ. Какие альтернативы обнаружению могли бы лучше верифицировать, что студент действительно выучил?
  • Детекторы ИИ не могут быть независимо верифицированы на реальных работах — нет эталонных данных о том, был ли помеченный текст действительно создан ИИ. Насколько вам комфортно действовать на основе непроверяемой вероятности в расследовании о нарушении честности?

Введение

Обнаружение ИИ находится на пересечении Академическая добросовестность, Генеративный ИИ, large language models и Оценивание. Оно возникло, когда учреждения столкнулись с тем, что студенты используют LLM для составления сочинений, кода и коротких ответов. У области две переплетённые нити: техническое обнаружение (насколько надёжно может быть выявлен созданный ИИ контент?) и институциональная реакция (к чему должно приводить обнаружение с учётом его границ и проблем справедливости?).

Подходы к обнаружению

Исследования базы знаний иллюстрируют основные технические семейства:

  • Методы правдоподобия без обучения / скрытого промпта: EchoPrompt — детектор без обучения без примеров, использующий зависимость от скрытого промпта, присущую созданному машиной тексту. Восстанавливая универсальный префикс ответа ассистента и измеряя разницы прироста правдоподобия между моделями с дообучением на инструкциях и базовыми моделями, он достигает наилучшего на сегодня обнаружения без обучения, оставаясь устойчивым к сдвигу предметной области и атакам перефразированием. Это контрастирует с чисто вероятностными статистическими детекторами, которые игнорируют механизм генерации.
  • Самообнаружение LLM: Leinonen & Denny (2026) проверяют, могут ли LLM надёжно обнаруживать собственный созданный контент в задачах на программирование, рефлексивное письмо и короткие ответы. Обнаружение оказывается сильно зависящим от задачи: надёжным для программирования и более длинных рефлексивных ответов, но слабым для коротких ответов, где LLM часто оценивают собственный результат как более человеко-подобный, чем аутентичная работа студента. Незначительные вариации промпта резко снижают точность.
  • Подходы на основе классификаторов и водяных знаков: статистические классификаторы и водяные знаки широко развёрнуты в коммерческих инструментах, хотя их надёжность оспаривается по мере того, как результаты LLM становятся всё более изощрёнными.
  • Происхождение идей, а не происхождение прозы: IdeaLens подаёт классификатору план дискурсивных ролей и перефразированный контент вместо прозы, чтобы тот предсказывал, чьи идеи несёт документ. Его частота пометок ИИ падала с 94,9% до 6,8% по мере того, как человеческий план за созданным ИИ текстом становился более детальным, тогда как Pangram 4 оставался около 92%, и он отмечал 94,7% отполированных ИИ человеческих документов как человеческие. Авторы заявляют, что их предсказания являются статистическими оценками и не должны использоваться в одиночку как убедительное свидетельство использования ИИ.

Границы и риски обнаружения

Исследования последовательно предостерегают против самостоятельной опоры на обнаружение:

  • Провалы валидности и справедливости: инструменты обнаружения могут быть предвзяты против неносителей языка, производя ложные срабатывания, несправедливо наказывающие студентов, — озабоченность, связанная с Снижение перекосов (bias mitigation) и Справедливость.
  • Значимые частоты ошибок и размывание доверия: ненадёжное обнаружение подрывает Доверие студента и целостность процесса оценивания.
  • Зависимость от задачи: как показывает исследование самообнаружения, точность резко варьируется по типу задачи, поэтому ни один детектор не надёжен для всех оцениваний.
  • Даже верифицированный детектор опирается на исторический базовый уровень: шестилетнее исследование CS2 верифицировало свой детектор против базового уровня до эпохи LLM: H-показатели были близки к нулю до того, как LLM стали общедоступны, и выросли до среднего 11,9 к 2026 году (Racovan et al. (2026)).
  • Капкан честности в цифрах. A controlled study of 642 published abstracts (Karr et al. 2026) показывает, что провал policy не просто концептуален, но и измерен: согласованное с рекомендациями лёгкое редактирование с помощью ИИ помечается в 38–80%, немодифицированные недавние оригиналы — в 9–15% (не-STEM значительно выше STEM), а текст с помощью ИИ и гуманизаторов избегает обнаружения в >96% случаев. Поскольку детекторы опираются на поверхностный стиль (плотность длинных токенов и академических слов), а не на авторское намерение, честная помощь ИИ привлекает санкцию, тогда как намеренное уклонение через гуманизатора уходит от наказания, — авторы утверждают, что оценки детекторов никогда не должны быть самостоятельным свидетельством нарушения. Наиболее свежие эмпирические оценки делают эти частоты ошибок конкретными, а не общими. Hadra, Cambridge and Mesbah (2026) прогнали Turnitin и Originality по сбалансированному корпусу из 192 текстов — подлинных учебных работ EFL, профессионального письма, результатов ИИ и гибридов 50/50: макроточность достигала лишь 0,69 и 0,61, обе падали ниже макро-F1 в 0,55, и обе были практически бесполезны на гибридных текстах (чувствительность Originality 0,02), с точностью, значительно падавшей по мере удлинения текстов и вновь на научном письме, плюс погранично значимая тенденция ошибочно классифицировать законную работу студентов EFL. Van Vlasselaer, Van Droogenbroeck and Spruyt (2026) протестировали четыре коммерческих инструмента на корпусе из 160 магистерских диссертаций с контролируемым эталоном: три из них (Turnitin, GPTZero, Copyleaks) проваливались почти полностью на полностью созданных ИИ работах, тогда как только Pangram работал убедительно, — и при применении к 1163 подлинно сданным диссертациям он пометил 45,5% из них, цифра, которую авторы настаивают считать не частотой распространённости, поскольку у живых работ нет эталона. Оба исследования приходят к одному и тому же процедурному выводу: оценка детектора может побудить к более пристальному рассмотрению, но она не является установленным фактом. Вопрос калибровки режет и в другую сторону: поскольку метка высокой уверенности GPTZero несла частоты ложных срабатываний на уровне заявителей 0,7%, 0,5% и 1,4% в 2020–2022 годах, Isley, Gaebler and Goel (2026) читают его пометки как консервативный ряд распространённости по шести циклам приёма в одной программе магистратуры по государственной политике в США — доля заявителей, сдавших как минимум одно помеченное сочинение, выросла с 21,8% в 2023 году до 45,1% в 2024 году и 56,1% в 2025 году против подписанного запрета, достигая 69,3% у иностранных заявителей против 38,6% у местных. Люди-читатели были снова более слабым инструментом: пять сотрудников приёмной комиссии, разделявших 50 человеческих и 50 созданных ИИ сочинений, достигли AUC 0,70 (95% ДИ [0,65, 0,75]), выше случайного, но значительно ниже коммерческих детекторов.

На казахском корпусе, человеческие фрагменты которого доказуемо предшествуют ChatGPT, пять детекторов, обученных на английском, пометили до 81,4% человеческих фрагментов и 79,6% опубликованных студенческих эссе, а после перенастройки на частоту ложных срабатываний 1% они выявляли не более 1,3% машинного текста (Ozaman (2026)).

Даже хорошо работающий интерпретируемый детектор сохраняет свои ошибки на уровне документов. Kumar, Siddiqui and Fuchsberger (2026) обучили классификаторы на уровне окон на девяти интерпретируемых стилометрических признаках — отношение тип/токен, отношение гапаксов, энтропия слов, отношение не-стоп-слов, отношения частей речи и вариабельность длины предложений, — причём 90 участников независимо писали по одним и тем же промптам, а затем перефразируя результаты GPT, сохраняя каждое окно от участника в одном фолде и тестируясь на 18 невиданных авторах. Random Forest достиг ROC-AUC 0,870 и F1 0,842 на 36 отложенных документах, но всё же пометил 4 из 18 независимо написанных документов как созданные с помощью GPT, что даёт частоту ложных срабатываний 22,2% (95% ДИ 9,0–45,2%); атрибуция SHAP отдала наибольший вес отношению гапаксов. Авторы формулируют модель как поддержку решений, которая должна побуждать к контекстуальному рассмотрению, а не как автоматический экран нарушений, и та точность, которую она достигает, не снижает ставку её ошибок — каждое ложное срабатывание есть независимо написанный документ, обвинённый в помощи GPT, что является проблемой валидности, а не проблемой настройки.

Определительные и процедурные проблемы соседствуют со статистическими. Wright (2026) утверждает, что повсеместные запреты на «использование ИИ» составлены вокруг идентичности платформы, а не функции, поэтому они захватывают негенеративное преобразование формата — транскрипцию из речи в текст, OCR, простой текст в LATEX, — наряду с генеративным составлением, которое они намереваются запретить; поскольку детекторы читают письмо с низкой перплексией как машинное авторство, возникающие ложные срабатывания тяжелее всего падают на студентов с инвалидностью и equity неравенства. Sharma (2026) приходит к проектной версии того же вывода, позиционируя обнаружение как дополнительный слой инфраструктуры честности в лучшем случае, поскольку оно спрашивает, использовался ли GenAI, а не как принимались решения.

Исследования по обнаружению несут также аргумент валидности, который переживает вопросы точности. Weidlich (2026) трактует результат детектора как условный, вероятностный сигнал, который может побудить к дальнейшему расследованию, но не может сам по себе установить нарушение или компетентность, что делает управление, центрированное на обнаружении, недостаточным основанием для поддержания assessment validity. Производительность классификации систематически варьируется между инструментами, типами задач, дисциплинами, версиями моделей и практиками человеко-ИИ редактирования, причём формульное письмо в STEM особенно подвержено алгоритмической предвзятости. Попытки восстановить безопасность оценивания через обнаружение тогда рискуют внести нерелевантную конструкции вариабельность, угрожая справедливости и интерпретации оценок.

Почему не следует (или пытаться) использовать детекторы ИИ

Bassett et al. (2026) утверждают, что обнаружение генеративного ИИ не следует использовать в образовании вовсе, на основаниях, выходящих за пределы «будьте осторожны» к «это концептуально несостоятельно». Их аргумент консолидирует причины против опоры на детекторы ИИ:

  1. Непроверяемые вероятностные оценки. Детекторы ИИ выдают вероятность того, что текст был создан ИИ, на основе лингвистических маркеров (перплексия, «вспышечность»). В отличие от других вероятностных инструментов (фильтры спама, медицинская диагностика), их результаты не могут быть независимо верифицированы: в реальных условиях не существует эталона того, был ли помеченный текст действительно создан ИИ, поэтому верификация сводится к круговому рассуждению. Метрики теории обнаружения сигнала (частоты ложных срабатываний/ложных пропусков) применимы только в контролируемых тестах, а не в реальных работах.
  2. Сомнительные обучающие и тестовые данные. Детекторы обучаются и верифицируются на человеческом письме до эпохи генеративного ИИ (например, Turnitin тестировался на 700 000 статьях до 2019 года). Допущение о том, что такой текст отражает современное студенческое письмо, — которое студенты теперь производят, будучи сформированными ИИ, — не верифицировано, а производительность сдвигается вместе с моделью, промптом и платформой.
  3. Взаимоисключающие лингвистические маркеры — изъяное допущение. Нет принципиальной причины, по которой человек не может писать с лингвистическими признаками, приписываемыми ИИ (или ИИ — с человеческими), поэтому сам фундамент маркеров шаток.
  4. Ложная дихотомия. Классификация текста как созданного человеком против созданного ИИ игнорирует реальность того, что работа студентов часто создаётся с помощью ИИ, а не им, — гибридный континуум. Бинарное деление не просто неадекватно, но бессмысленно, что делает обнаружение концептуально изъяным изначально.
  5. Процедуальная несправедливость и недостаточность доказательств. Расследования академической честности должны соответствовать стандарту баланса вероятностей; оценки детекторов ИИ — сами по себе или в сочетании с лингвистическими маркерами, сравнениями стиля, заявлениями LLM или молчанием студента, — до него не доходят. Студенты под расследованием также сохраняют право на молчание, которое управляемые обнаружением процессы размывают.
  6. Риски безопасности и приватности. Детекторы хранят работу студентов на серверах (иногда за рубежом, с более слабой защитой Приватность), создавая риски утечки, недобросовестного использования и коммерческой эксплуатации.
  7. Обнаружение подрывает честность, а не защищает её. Опора на детекторы и наблюдение взращивает климат подозрительности, размывая Доверие студента и целостность самого оценивания.

Bassett et al. заключают, что обнаружение ИИ — неработающее решение проблемы, которую нельзя решить через наблюдение и наказание: фокус должен сместиться к assessment design, который признаёт роль ИИ в обучении и реальность того, что оценивания без наблюдения не могут быть защищены. Это консолидирует позицию beyond-detection базы знаний с прямым, основанным на свидетельствах аргументом в пользу отказа от инструментов обнаружения.

Из 40 оцениваний по психологии, охватывающих 16 типов, 36 (90%) производили результаты ChatGPT, признанные достаточными для сдачи, а четырьмя неудачами были задачи, требующие присутствия, визуального артефакта или собственного набора данных студента, — свидетельство того, что граница сдачи, а не обнаружение, решала, считалась ли работа ИИ достижением (Ivory et al. (2026)).

Предвзятость детекторов и механизм гонки вооружений

Обнаружение не просто неточно; его ошибки имеют характер. Teichmann (2026) собирает накопленный аргумент против трактовки оценки детектора как свидетельства: ни один инструмент в наиболее полном раннем Бенчмарк не достиг 80% точности; простое перефразирование или «очеловечивание» примерно вдвое снижает даже эту величину; ложные срабатывания при реальных базовых частотах превышают истинные; и носители неродного английского систематически классифицируются ошибочно, поскольку признаки, которые детекторы трактуют как сигналы ИИ, характеризуют также компетентное письмо на втором языке. Суждение людьми не заполняет пробел — и экспертные, и новичковые оценщики одинаково неспособны отличить ИИ от студенческой прозы и уверены, когда ошибаются, — и асимметрия ошибок означает, что небрежные, но честные оказываются пойманы, тогда как намеренно нечестные уходят от наказания; поскольку детекторы также непрозрачны (нет порогов, нет обучающих данных, нет независимого воспроизведения), на них нельзя ответить или провести перекрёстный допрос на слушании.

Два дальнейших момента обостряют практическую ставку. Во-первых, лежащий в основе статистический сигнал сокращается по мере того, как модели оптимизируются к человеческой прозе, поэтому гонка вооружений — та, которую учреждение не может выиграть. Во-вторых, эмпирический предельный случай показателен: в скрытом полевом исследовании 94% полностью созданных ИИ работ незамеченными проходили через живую систему examination в пяти модулях психологии, а работа ИИ в среднем обгоняла реальных студентов. Mohamed and Temimi (2026) добавляют контринтуитивное следствие, определяющее, когда мониторинг вообще окупается: поскольку чувствительность повышает ложные срабатывания наряду с истинными, рациональным сдерживающим средством является различение — разрыв между пометкой скрытого использования и пометкой законной работы. Там, где дополнительная чувствительность создаёт больше новых ложных срабатываний, чем новых истинных, больший мониторинг делает сокрытие относительно более привлекательным, наказывая честных студентов быстрее, чем выявляет скрытых пользователей. Следствие для проектирования состоит в том, что детекторы, правила и процедуры раскрытия не следует строить по отдельности.

  • Пять инструментов, одна рукопись, несовместимые ответы — и учреждения, прекратившие их использовать. Angelier (2026) подал одну созданную человеком рукопись пяти коммерческим детекторам в один и тот же день и получил классификации в диапазоне от «0% человек» (Winston AI) до «Создано человеком» (категориальная метка GPTZero, напечатанная рядом с его цифрой 42% ИИ), причём Copyleaks — 80,4% ИИ, Originality.ai — «81% вероятно ИИ», а пятый инструмент — 34% ИИ / 66% человек, — три результата в сторону ИИ и два в сторону человека на идентичном тексте, без верифицированного основания для трактовки голосования большинства по проприетарным системам как свидетельства происхождения. Та же статья документирует институциональное отступление: Vanderbilt отключила детектор ИИ Turnitin в августе 2023 года, произведя расчёт с частотой ложных срабатываний 1% на примерно 75 000 статей; Curtin University объявила о подобном отключении в 2025 году; Уотерлуский университет прекратил функцию обнаружения ИИ в Turnitin в сентябре 2025 года после внутреннего аудита, в котором написанная человеком работа была классифицирована как на 100% созданная ИИ; Кейптаунский университет отключил оценку ИИ с октября 2025 года; Университет Свободного штата последовал за ним в июле 2026 года; Витватерсрандский университет сообщил, что никогда не внедрял таких инструментов; а суд Нью-Йорка аннулировал заключение о нарушении, опиравшееся на оценку детектора. Два процедурных результата завершают аргумент: сильно повреждённое извлечение из PDF всё ещё давало классификацию в пяти процентных пунктах от результата по чистому тексту, а архивированный результат детектора устанавливает, что сообщал интерфейс, но не может воссоздать состояние проприетарной модели, которое его произвело.
  • Результат детектора — самое слабое свидетельство в деле, и качество свидетельств не решает дела. Кодирование 1162 обвинений в нарушении с использованием генеративного ИИ показало, что результат детектора получал самые низкие оценки доказательной силы и падал до 0,5% элементов к 2025 году. Качество свидетельств не показывало связи с исходами, поскольку конвейер не устанавливал порога доказательности (Munoz et al., 2026).
  • Студенты меняют свою работу, чтобы выжить при обнаружении, а не только свои ответы. Отчёт документирует, что студенты притупляют собственные ответы, чтобы избежать ложного обвинения, а преподаватели отступают на неформальное суждение — то, что он называет AI-DAR, — как только продаваемые детекторы оказываются ненадёжными (Tench, Weinstein & James, 2026).

За пределами обнаружения: перепроектирование оценивания

Ключевая тема базы знаний состоит в том, что обнаружение должно быть ограниченным, ситуативным инструментом, а не стратегией первого выбора. Kickbusch et al. (2025) утверждают, что наблюдение и обнаружение неправильно диагностируют проблему: в мире, опосредованном ИИ, аутентичность нельзя ввести полицейскими мерами; её необходимо перепроектировать. Они реконцептуализируют аутентичность как конструируемую там, где ИИ ожидается, заявляется и подвергается проверке, и предлагают независимые от дисциплины шаблоны проектирования для обучения, которые позиционируют ИИ как соучастника, а не как приложение для обмана. Это связывает обнаружение с Аутентичное оценивание, Валидность оценивания, responsible assessment и coauthorship integrity.

Конструктивный вопрос смещается от «как нам помешать студентам использовать ИИ?» к «как нам позволить им использовать его вдумчиво, ответственно и эффективно в контекстах, отражающих их будущую работу?» Поэтому обнаружение связывается с ИИ-грамотность (помогая студентам use AI responsibly), с Over-Reliance (пониманием того, когда использование ИИ подрывает обучение) и с более широкой целью поддержки подлинного обучения, а не полицейского контроля над работами. Оно также связывается со студенческими феноменами, такими как student rationalization of AI writing и вызов обнаружения идентичности в Socially fluent AI decouples conversational signals from source identity in online interaction.

  • Обнаружимость — свойство дизайна задания, а не только детектора. Ye et al. (2026) обнаружили согласие между моделями на уровне 87,79–88,14% на сгенерированном коде, но лишь 1–14 различных абстрактных синтаксических деревьев на 1000 файлов на жёстко ограниченных функциях против 151–804 среди студенческих работ 2021 года.

Следствия для ИИ в образовании

  • Обнаружение ситуативно: учреждения должны использовать инструменты обнаружения скупо и с осознанием их частот ошибок, границ справедливости и зависимости от задачи, — а не как автоматический, самостоятельный шлюз.

  • Дизайн оценивания важнее полицейских мер: инвестиции в authentic и process-based assessment, где использование ИИ ожидается и заявляется, решают проблему честности эффективнее, чем одно только обнаружение.

  • Справедливость и равный доступ: инструменты обнаружения, которые наказывают неносителей языка или производят ложные срабатывания, рискуют усиливать существующее неравенство.

  • ИИ-грамотность дополняет: помогать студентам понимать допустимое использование ИИ против harmful AI use продуктивнее, чем опираться на наблюдение.

  • Предостережение о надёжности обнаружения. systematic review об ИИ и академической честности заключает, что на инструменты обнаружения плагиата/ИИ нельзя опираться для работы, созданной ИИ, и что их следует сочетать с множественными методами оценивания и ручным рассмотрением, — что усиливает тезис о том, что обнаружение является ограниченным, ситуативным инструментом. (Reassessing Academic Integrity in the Age of AI: A Systematic Literature Review on AI and Academic Integrity)

  • За пределами обнаружения: диалог вместо наблюдения. Практический отчёт о рамке верификации обучения Университета Гранд-Каньон (Mandernach 2026) утверждает, что лучший ответ на student AI use — диалог, а не обнаружение. Поскольку детекторы ненадёжны (и предвзяты против неносителей языка), GCU перестала спрашивать «использовал ли студент ИИ?» и вместо этого просит студентов продемонстрировать понимание в коротком разговоре, — расширение assessment redesign, которое трактует обнаружение как тупик, а верификацию как хорошее преподавание.

  • Опора опережает уверенность ценой преподавания. В опросе 20 специалистов высшего образования 15 сообщили о тяжёлой институциональной опоре на программное обеспечение обнаружения ИИ, тогда как только 4 выразили уверенность в нём, а респонденты описывали «педагогическое выгорание» от полицейского контроля, вытеснявшего проектирование обучения и наставничество студентов (Chowdhury & Khan (2026)).

Связанные концепции

Связанные статьи

Связанные FAQ

Связанные ресурсы

Метаданные

УровеньHigher Ed
Целевая аудиторияLearners
Технологии и методыГенеративный ИИ, Большие языковые модели (LLM)
Оценивание и измерениеОбнаружение ИИ, Оценивание, Валидность оценивания, Оценивание, ориентированное на процесс
Учреждения и политикаПолитика в области образовательного ИИ (Educational AI Policy)
Справедливость, этика и ответственное использованиеСправедливость
Основы ИИ в образованииАкадемическая добросовестность, ИИ-грамотность, Когнитивный оффлоадинг
SourceHistoryEditChat

Встроить эту страницу

Скопируйте код ниже, чтобы встроить эту страницу в систему управления обучением или на другой сайт. Во встроенной версии отображается только содержимое страницы — заголовок сайта, навигация и нижний колонтитул скрыты.