Стоит ли использовать детекторы ИИ?

Автоматический перевод данной английской страницы, не проверенный носителем языка.

Не как доказательство в деле о нарушении академической дисциплины и не как первая линия обороны учебного заведения. Оценку детектора нельзя проверить по объективному эталону, нельзя провести перекрёстный допрос по ней, и она не удовлетворяет стандарту баланса вероятностей, который требуется для выводов о академической добросовестности. Хуже того, её ошибки носят систематический, а не случайный характер: самое строгое контролируемое исследование в базе знаний показало, что детекторы выявляют честное, соответствующее правилам ИИ-редактирование гораздо чаще, чем неизменённую студенческую прозу, тогда как намеренный обход проходит практически без замечаний — а студенты, которых чаще всего помечают, — это авторы, для которых английский не родной язык (Why AI Detection Fails for Academic Integrity, Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI) — ещё одно место, где частота ошибок ИИ-системы распределена среди учащихся неравномерно, как документирует Differential Effects Across Learner Groups. Bassett et al. (2026) идут дальше и утверждают, что обнаружение вообще не следует использовать в образовании, поскольку технология не может отличить «работу, созданную с помощью ИИ» от «работы, созданной самим ИИ». Эта страница предназначена для тех, кому приходится принимать решения: преподавателей, сотрудников по академической добросовестности и администраторов. Практическое руководство по проектированию курса находится в How Can I Reduce AI Cheating in My Course?.

1. Показатели точности не поддерживают вывод

Три независимых направления доказательств сходятся к одному и тому же заключению.

Доля ложных срабатываний на добросовестных работах высока, и она наказывает открытость. Контролируемое исследование 642 опубликованных аннотаций на английском языке из четырёх предметных областей и двух временных периодов обнаружило, что при пороге 0,50 два коммерческих детектора выявляли соответствующее правилам лёгкое ИИ-редактирование в 38–80%, выявляли неизменённые оригиналы 2023–25 гг. в 9–15% (вне сферы STEM — значительно выше, чем в сфере STEM, p<0,001), а после прогонки текста через гуманизирующий сервис — улавливали менее 4% переписанных текстов с меткой ИИ, что соответствует доле ложных пропусков выше 96%. Авторы описывают это как уловку-22 в вопросах добросовестности: студентов, которые раскрывают использование ИИ и редактируют текст слегка, инструмент именно и выявляет, а студентов, которые намеренно обходят его, — нет. Их рекомендация однозначна — оценки детекторов никогда не должны служить самостоятельным доказательством нарушения.(Why AI Detection Fails for Academic Integrity)

Лучший независимый бенчмарк не достигает пригодной для работы точности. В самом comprehensive раннем Бенчмарк ни один из четырнадцати инструментов не достиг 80% точности, а простой парафраз, незначительное редактирование или гуманизирующие сервисы примерно вдвое снижают даже этот результат. При реалистичных базовых частотах ложные срабатывания превышают число истинных.(Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI)

И при этом оно полностью пропускает масштабное использование ИИ именно тогда, когда это важно. В скрытом полевом исследовании исследователи внедрили полностью сгенерированные ИИ работы в действующую онлайн-систему экзаменов на пяти психологических модулях: 94% остались незамеченными, при этом работы ИИ в среднем набрали больше баллов, чем реальные студенты. Проблема заказа работ на стороне («contract cheating») уже демонстрировала ту же структурную проблему — она не оставляет надёжного следа, который можно было бы найти.(Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI)

Точность также варьируется в зависимости от задания способами, которых политика не может предусмотреть. Когда исследователи проверяли, может ли генеративный ИИ надёжно обнаруживать собственный результат, обнаружение было надёжным для программирования и более длительных рефлексивных текстов, но плохим для коротких ответов, где модель часто оценивала собственный текст как более человеко-подобный, чем аутентичная студенческая работа, — а незначительные вариации промпта резко снижали точность.(Distinguishing Artificial from Authentic: Evaluating LLMs for Detecting LLM-Generated Content) Любой установленный вами порог будет работать для одних заданий и не работать для других.

Обнаружение никогда не было явно лучше, чем внимательный человек, и дело не в величине разрыва. Leaton Gray, Edsall and Parapadakis (2025) сообщают о машинном обнаружении ИИ- или парафразированного текста примерно в 80% случаев против 78,4% для проверяющих людей и приводят данные о том, что сгенерированный ИИ текст проходил как созданный человеком до 80% случаев, — что они рассматривают как запас, слишком узкий для обоснования вывода о нарушении, поскольку преимущество машины растворяется в том же диапазоне ошибок, который привносит человек. Их обзор также подрывает предположение, что обнаружение сдерживает способных: метаанализ Krou et al. показывает, что самоэффективность коррелирует со списыванием отрицательно, тогда как реальные способности не коррелируют с ним обратной связью вовсе, поэтому студенты, которые могли бы выполнить работу сами, могут списывать, если считают оценивание несправедливым. Таким образом, обнаружение не является ни надёжным инструментом, ни очевидным средством сдерживания.

2. Ошибки систематичны, и они обрушиваются не на тех студентов

Именно эта часть должна решить вопрос для каждого, кто отвечает за справедливость.

Признаки, которые детекторы трактуют как сигналы ИИ — плотность длинных токенов, частота академической лексики, единообразие стиля, — являются также признаками грамотного письма на втором языке, поэтому детекторы систематически, а не случайно, неверно классифицируют авторов, для которых английский не родной. Поэтому вред от неверной классификации обрушивается на студентов, которые и без того находятся в невыгодном положении.(Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI) Тот же перекос проявляется и по дисциплинам: аннотации вне сферы STEM помечались значительно чаще, чем аннотации из сферы STEM, в исследовании аннотаций, что является свойством письменных конвенций этих областей, а не поведения их авторов.(Why AI Detection Fails for Academic Integrity) Фактически детектор представляет собой тест на стиль, и стиль, который он наказывает, коррелирует с языковым фоном, дисциплиной и регистром, а не с тем, использовал ли студент ИИ.

Это проблема справедливости прежде, чем она является технической проблемой, и это также проблема Доверие. Поскольку детекторы ненадёжны, а формальные процессы требуют доказательств качества, пригодного для установления факта, которое фактически недоступно, преподаватели остаются с тем, что один практик называет «подозрением без средства правовой защиты», тогда как студенты рационализируют собственное использование, а материалы дел буксуют.(The Best Response to Student AI Use Is Not Detection, It Is Dialog)

3. Почему оценка не может вынести дело о добросовестности

Если вы участвуете в слушании, то важен именно этот раздел.

• Доказательственный стандарт не выполнен. Выводы о нарушении академических правил требуют доказательств, отвечающих критерию баланса вероятностей. Оценки детекторов — сами по себе или в сочетании с лингвистическими маркерами, сравнением стилей, суждениями Большие языковые модели (LLM) или молчанием студента — этому стандарту не удовлетворяют.(Heads We Win, Tails You Lose: AI Detectors in Education)
• И молчание, и речь используются не по назначению. Студенты сохраняют право на молчание; отказ отвечать не смещает чашу весов против них. Законный вопрос состоит не в том, «использовали ли вы ИИ?», а в том, может ли студент продемонстрировать результаты обучения, которые Оценивание заявляет измерять, и на это может ответить устное выступление.(Heads We Win, Tails You Lose: AI Detectors in Education)
• Вероятность непроверяема. В отличие от спам-фильтра или медицинского теста результат работы детектора нельзя проверить независимо: в реальных работах не существует объективного эталона о том, как текст был создан, поэтому проверка становится замкнутой по кругу, а метрики ложных срабатываний/ложных пропусков применимы только в контролируемых тестах.(Heads We Win, Tails You Lose: AI Detectors in Education)
• Эталонные данные устарели по своей природе. Детекторы обучаются и тестируются на человеческих текстах, созданных до генеративного ИИ, — собственная проверка Turnitin использовала 700 000 статей до 2019 года, — что предполагает, будто этот корпус отражает современную студенческую прозу. Это предположение не проверено, и оно меняется с каждым выходом новой модели.(Heads We Win, Tails You Lose: AI Detectors in Education)
• Инструмент невозможно допросить. Детекторы не публикуют ни порогов, ни обучающих данных и не допускают независимого воспроизведения, поэтому помеченный студент не может ответить или провести перекрёстный допрос по обвинению. Вы не можете защитить вывод, который не можете объяснить.(Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI)
• Бинарный выбор — это неверный вопрос. Работы студентов часто создаются с помощью, а не самим ИИ, на протяжении гибридного континуума, и политики, которые говорят «в оценивании», редко определяют, когда начинается оценивание, — оставляя правоприменение субъективному суждению, а не принципиальным критериям.(Heads We Win, Tails You Lose: AI Detectors in Education)
• Вы берёте на себя риск в отношении данных. Детекторы хранят студенческие работы на сторонних серверах, иногда за рубежом при более слабой защите Приватность, создавая риски утечки, хранения и коммерческого использования, ответственность за которые лежит на вашем учебном заведении.(Heads We Win, Tails You Lose: AI Detectors in Education)
• Усиление контроля может дать обратный эффект. Сдерживание работает через различение детектором скрытого использования и добросовестной работы, а не через его общую долю выявлений. Когда повышенная чувствительность даёт больше новых ложных срабатываний, чем новых истинных, более строгий контроль делает сокрытие относительно более привлекательным — вы тратите доверие на студентов, которые не сделали ничего плохого, быстрее, чем выявляете тех, кто сделал.(Assessment Design Under Imperfect Information: Generative AI, Disclosure, and Student Response in Higher Education)

4. Что делать вместо этого

Просить проверку, а не установление происхождения. Университет Гранд-Каньон перешёл от вопроса «Использовал ли этот студент ИИ?» к вопросу «Может ли этот студент продемонстрировать понимание того, что он сдал?», используя короткие беседы, ранние черновики и записанные объяснения, внедрив это в масштабах всего учебного заведения осенью 2025 года. Аргумент практический: преподаватели уже обладают квалификацией, чтобы оценивать понимание, и этот переход восстанавливает их авторитет, вместо того чтобы оставлять их ждать доказательства, которое никогда не придёт.(The Best Response to Student AI Use Is Not Detection, It Is Dialog)

Сделать хотя бы одно задание с высокими ставками выполняемым без посторонней помощи. Асинхронные устные оценивания — промпты «точно в срок» с краткими, ограниченными по времени записанными ответами, оцениваемыми по встроенным рубрикам — показали сопоставимые результаты с очными экзаменами с выбором ответа в одном исследовании и значительно лучшие — в другом, при этом студенты сообщали о более активной подготовке и более высокой воспринимаемой профессиональной значимости. Для Администраторы важное свойство заключается в том, что это масштабируемо без прокторинга.(Asynchronous Oral Assessments: Enhancing Integrity, Engagement, and Communication in the AI Era)

Перепроектировать задания так, чтобы ИИ-ярлыки стали менее привлекательными. Тематическое исследование студентов-экономистов бакалавриата обнаружило, что лишь около трети сообщили о каком-либо использовании ИИ, а раскрытие информации было ещё более редким — и нераскрытие трактовалось как рациональная осторожность при неоднозначной политике, а не как нечестность. Эти же студенты в качестве исправления выступали за задания, основанные на реальных данных.(Beyond Detection: How Students Use—and Hide—AI in Online Assessments and What Authentic Tasks Can Do About It) Ожидание, декларирование и внимательное рассмотрение использования ИИ превосходит полицейский надзор за ним, потому что аутентичность должна быть спроектирована, а не обеспечена принуждением.(Beyond Detection: Redesigning Authentic Assessment in an AI-Mediated World)

Сделать честное раскрытие информации безопасным вариантом. Расплывчатые или карательные политики провоцируют сокрытие; конкретные рамки декларирования, привязанные к когнитивным этапам, в сочетании с заверением, что правдивое раскрытие не наказывается, дают больше информации от студентов, чем наблюдение.(Addressing student non-compliance in AI use declarations: implications for academic integrity and assessment in higher)("Should I Tell My Teacher?" Student AI Disclosure Practices, Stigma, and Self-Regulated Learning in Higher Education)

5. Возражения, которые вы услышите

• «Наш поставщик заявляет 1% ложных срабатываний». Лицензированный детектор Vanderbilt заявлял именно это, и когда университет попытался проверить эту цифру, он не смог — 1% из 75 000 ежегодных работ подразумевал примерно 750 ошибочно помеченных студентов, — поэтому университет отключил инструмент. Независимые бенчмарки не ставят ни один инструмент выше 80% точности.(Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI)
• «Мы используем его только как один из элементов доказательства». Стандарт — это не «какое-то доказательство», а доказательство, отвечающее критерию баланса вероятностей, и оценки детекторов в сочетании с маркерами, сравнением стилей, суждениями LLM или молчанием всё равно ему не удовлетворяют. Если бы вы не произнесли эту аргументацию вслух на слушании, это не доказательство.(Heads We Win, Tails You Lose: AI Detectors in Education)
• «Если мы прекратим обнаружение, списывание победит». Обнаружение не останавливает решительных: 94% внедрённых ИИ-работ прошли живой онлайн-экзамен незамеченными, гуманизация побеждает обнаружение более чем в 96% случаев, а заказ работ на стороне уже не оставлял надёжного следа.(Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI) То, что детекторы действительно выявляют — с измеренной надёжностью, — это честное лёгкое редактирование и прозу не носителей языка.(Why AI Detection Fails for Academic Integrity)
• «Мы используем его только приватно, чтобы начать разговор». Это наименее вредное применение, и оно всё равно чего-то стоит: студенты, которых с наибольшей вероятностью помечают, с наименьшей вероятностью злоупотребляют ИИ, поэтому подозрение непропорционально падает не на тех людей.(Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI) Ответом Гранд-Каньона было вообще не начинать с подозрения.(The Best Response to Student AI Use Is Not Detection, It Is Dialog)

6. Если вы пишете или пересматриваете политику, включите в неё это

• Результат работы детектора никогда не является самостоятельным доказательством, никогда не вызывает автоматического последствия и никогда не служит основанием для вывода. Укажите это в самой политике, а не в служебной записке.(Why AI Detection Fails for Academic Integrity)
• Студенты должны иметь возможность увидеть обвинение и ответить на него, с сохранением права на молчание и наличием устного пути проверки для любого утверждения, которое опирается только на стиль.(Heads We Win, Tails You Lose: AI Detectors in Education)
• Условия закупки должны охватывать хранение данных, использование для обучения моделей, место хранения, уведомление об утечках и права на апелляцию — риск лежит на вашем учебном заведении, а не на поставщике.(Heads We Win, Tails You Lose: AI Detectors in Education)
• Профинансируйте альтернативу. Задокументированная жалоба преподавателей — «подозрение без средства правовой защиты», поэтому значимая бюджетная статья — это возможности для проверки и методические указания, а не лицензия на детектор.(The Best Response to Student AI Use Is Not Detection, It Is Dialog)
• Потребуйте показатели частоты ошибок в письменном виде, а затем попытайтесь проверить их локально. Если заявленный показатель невозможно воспроизвести на ваших собственных работах — как обнаружил Vanderbilt, — это и есть ваш ответ.(Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI)

7. Правовой риск при ошибочном обвинении студента

Оценка детектора, которая превращается в обвинение, — это то место, где вопрос перестаёт быть вопросом преподавания. Учебные заведения не подвергаются риску потому, что кого-то обвинили, а из-за того, как обвинение было построено и обработано, и этот риск обычно проявляется сначала как внутренняя апелляция или жалоба регулирующему органу, а не как иск, поданный в суд.

• Первым проверяют процедуру. Принципы естественной справедливости требуют, чтобы студента уведомили об обвинении и дали возможность ответить до вынесения любого определения, и эти обязанности закреплены в нормативных стандартах, а также в разумной политике академической добросовестности; возможность ответить обычно представляет собой следственную встречу или собеседование с комиссией, и всё, что говорит студент, становится частью доказательственной записи. Вывод, достигнутый без этого шага, уязвим независимо от того, было ли исходное подозрение обоснованным.(How strong is the evidence in generative AI-related academic misconduct allegations? A mixed-methods analysis)
• Вторым проверяют доказательственный стандарт. Выводы о нарушении требуют доказательств, отвечающих критерию баланса вероятностей, и результат работы детектора сам по себе этого уровня не достигает: оценки нельзя проверить по объективному эталону в реальных работах, инструменты невозможно допросить о том, как был достигнут тот или иной вердикт, а студент не может провести перекрёстный допрос числа. Если ваше дело невозможно изложить без оценки детектора, дело слабо по своей сути.(Heads We Win, Tails You Lose: AI Detectors in Education)
• Систематическая ошибка превращает технический дефект в проблему справедливости и равенства. Ошибка детектора не случайна: самые сильные доказательства в базе знаний показывают, что пометки концентрируются на письме не носителей английского и на письменных конвенциях одной дисциплины по сравнению с другой, с измеренной точностью 0,69 и 0,61 для двух широко используемых коммерческих инструментов, причём оба не справляются с гибридными текстами человека и ИИ. Вывод, построенный на инструменте, который ошибочно классифицирует по языковому фону, — это вывод, который провоцирует аргумент о дискриминации.(Evaluating the accuracy and reliability of AI content detectors in academic contexts)(Who wrote this? Evaluating the reliability of AI detection tools in higher education)
• Повсеместные запреты «использования ИИ» могут лишить средств доступности. Правила, которые не отделяют транскрипцию и OCR от генеративного составления текста, могут криминализовать вспомогательные инструменты, на которые опираются студенты с состояниями, затрагивающими контроль моторики, разборчивость почерка или точность набора текста, и некоторые из них уже прекратили производство, при этом пробел заполняет транскрипция на основе ИИ. Чрезмерно широкая политика — это правовой риск, а не просто неточность.(Transcription is not generation: Distinguishing non-generative AI tool use from academic misconduct in higher education assessment)
• Данные — это ваша ответственность. Детекторы хранят студенческие работы на сторонних серверах, иногда за рубежом при более слабой защите Приватность, что переносит риски утечки, хранения и последующего коммерческого использования в реестр рисков вашего учебного заведения, а не в маркетинговые материалы поставщика.(Heads We Win, Tails You Lose: AI Detectors in Education)
• Заявления поставщика вас не защитят. Лицензированный детектор, заявляющий 1% ложных срабатываний, не прошёл проверку, когда университет попытался воспроизвести его, что подразумевало примерно 750 ошибочно помеченных студентов среди 75 000 ежегодных работ; это учебное заведение отключило инструмент. Заявление в договоре не переносит риск на слушании.(Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI)

То, что снижает риск, является процедурным, а не техническим: никогда не рассматривать результат работы детектора как самостоятельное доказательство или автоматический триггер; документировать доказательственный стандарт, который применяет ваш процесс; давать уведомление и подлинную возможность ответить, зафиксированную в записи; предлагать устный путь проверки, когда дело опирается только на стиль; включать условия хранения, использования для обучения моделей и утечек в закупочные процедуры; формулировать область действия политики так, чтобы вспомогательные и транскрипционные инструменты были явно оговорены; и вести журнал аудита, показывающий, что всё это произошло. Изложение самого правового риска в базе знаний находится в Правовые вопросы и риски, и оно честно в отношении своих пределов: оно документирует процедуры, категории доказательств и надёжность инструментов, а не исходы судебных разбирательств.

Чем эта страница отличается от соседних FAQ

• How Can I Reduce AI Cheating in My Course? — это практическое руководство для преподавателя по проектированию: инструменты с ограждениями, перепроектирование оценивания, проверка, декларирование, ИИ-грамотность. Эта страница отвечает на более узкий предварительный вопрос о том, можно ли вообще использовать результат работы детектора.
• Как переработать оценивание так, чтобы оценка по-прежнему говорила мне нечто защитимое о том, что студент знает или умеет? подробно освещает перепроектирование оценивания; эта страница лишь указывает на те шаги перепроектирования, которые конкретно заменяют обнаружение.
• Как написать политику использования ИИ в курсе и донести её до студентов? освещает написание и сообщение политики курса; раздел 6 здесь охватывает положения, специфичные для обнаружения, которые нужны институциональной политике.
• Правовые вопросы и риски — это концептуальная страница, лежащая в основе раздела 7, которая в совокупности охватывает ошибочное обвинение, наблюдение, доступность и риски в сфере защиты данных.

Итог

Не стройте вывод на оценке детектора и не покупайте его в ожидании, что он обезопасит ваше оценивание. Измеренное поведение этих инструментов противоположно их маркетингу: они выявляют честную, раскрытую, слегка отредактированную работу и грамотное письмо на втором языке, тогда как намеренный обход проходит в 96% случаев, а полностью сгенерированные работы проходили действующую систему экзаменов в 94% случаев.(Why AI Detection Fails for Academic Integrity)(Detecting the Undetectable? Reassessing Academic Misconduct Procedures in the Era of Generative AI) Вопрос добросовестности, на который вы действительно можете ответить, — это может ли студент продемонстрировать понимание того, что он сдал, — и это педагогическая возможность, которую стоит финансировать.