AIEd база знанийAIEd KB
На этой странице

Читать эту страницу на английском

Концепции

Управление ИИ

Создано 2026-10-13

Автоматический перевод данной английской страницы, не проверенный носителем языка.

Управление ИИ — совокупность рамок, политик, институциональных структур и норм, которые направляют ответственное проектирование, внедрение и использование искусственного интеллекта в образовании. Управление охватывает как формальные институциональные механизмы (группы по управлению ИИ, политики в отношении академической добросовестности и допустимого использования, этическую экспертизу), так и неформальные нормы (рекомендации для профессорско-преподавательского состава, повышение квалификации, культуру ответственного использования ИИ). В эпоху ИИ эффективное управление является необходимой предпосылкой этичного, справедливого и устойчивого внедрения GenAI — именно оно определяет, будет ли ИИ интегрироваться прозрачно и с подотчётностью или будет внедряться реактивно, углубляя неравенство.

Вопросы для размышления

  • Если у вашего учебного заведения есть политика в отношении ИИ на бумаге, но нет чёткого процесса её применения, обновления и донесения до людей, является ли это управлением? Что отличает правило, которое существует, от правила, которым действительно управляют?
  • В одном исследовании студенты сообщили, что в их университете нет чёткой политики в отношении ИИ, и это влияло на то, как они использовали ИИ. Как неопределённость политики может влиять на то, что студенты считают «допустимым использованием», — и должны ли учебные заведения беспокоиться о том, что этот выбор они оставляют на усмотрение отдельных людей?
  • На странице различается управление, основанное на обнаружении (полицейский контроль за использованием ИИ), и управление, основанное на проектировании (переработка оценивания так, чтобы использование ИИ предполагалось и декларировалось). К какому из этих подходов тяготеет ваша собственная практика оценивания, и каковы компромиссы каждого из них?
  • Управление, как оно описано на странице, действует на национальном, институциональном и аудиторном уровнях. Подумайте о любом правиле в отношении ИИ в вашем контексте: кто его установил, как оно доводится до людей и применяется, и насколько хорошо согласованы эти уровсы?
  • Одна из рамок переосмысливает управление ИИ как проблему коллективных действий по поддержанию общего экспертного знания — «когнитивное общее достояние» (cognitive commons). Как защита общего пула знаний профессии меняет ваше представление об управлении ИИ по сравнению с простым регулированием инструмента?
  • На странице предупреждается, что обязательные декларации использования ИИ перестают работать, когда они воспринимаются как карательные или неоднозначные. Когда вы видели, что правило соблюдения давало обратный эффект, потому что люди его не понимали или не доверяли ему, — и чему это научило вас в отношении управления?

Введение

Управление ИИ в образовании становится всё более актуальной задачей, поскольку генеративный ИИ (генеративные модели искусственного интеллекта, GenAI) порождает новые эпистемические, этические и организационные вызовы: он дестабилизирует представления о производстве знаний, активности учащихся, достоверности Оценивание и роли преподавателей как эпистемических авторитетов. Управление занимается вопросами академической добросовестности (что считать допустимым использованием ИИ), приватности данных и безопасности, алгоритмической предвзятости и справедливости, прозрачности и подотчётности, а также согласования внедрения ИИ с миссией и ценностями учебного заведения. Повторяющийся вывод, встречающийся в исследованиях базы знаний, состоит в том, что институциональное управление часто отстаёт — во многих учебных заведениях отсутствуют чёткие, единые политики в отношении ИИ, что вынуждает студентов и преподавателей самостоятельно договариваться о допустимом использовании.

  • Zero-shot governance как структурное условие платформизации. Перротта (2026) развивает концепцию zero-shot governance — доменно-независимого генеративного ИИ, вмешивающегося в принятие политических решений, — посредством анализа на уровне кода Redbox, прекращённого британского прототипа для государственной службы, построенного на готовых LLM. Читая его архитектуру (невидимый системный промпт + тонкая обёртка на Python поверх конвейера RAG (генерация с дополненным поиском) поиск→форматирование→генерация и облачный стек, не зависящий от поставщика), автор утверждает, что универсальный характер фундаментальных моделей является структурной особенностью платформизации, которую можно смягчить, но никогда не исключить: агентный ИИ не прерывает монополистическую, рентную логику платформ, а тот же вероятностный механизм, который порождает новизну, порождает и галлюцинации. Для управления следствие состоит в том, что надзор за универсальным ИИ должен рассматривать отклоняющийся вывод как неприводимый, лишь поддающийся смягчению риск, а не как исправимую ошибку — предостережение, которое в равной степени относится и к образовательной политике ИИ.
  • Baroudi обзор по методу скаутинга рассматривает управление ИИ в высшем образовании через призму упреждающего управления и лидерства.
  • Соучаствующее проектирование политики: Hingle & Johri показывают, как деятельность по направляемому исследованию, в рамках которой студенты совместно проектировали политику курса в отношении GenAI, выявила ценности студентов — приоритет обучения, стандартизированных процедур декларирования, более сильной институциональной поддержки и большего участия в принятии решений. Это позиционирует студентов как партнёров в управлении, а не как пассивных субъектов, дополняя политику институционального уровня инициативами снизу.
  • Ловушка техно-солюционизма и дефицит политики: систематический обзор 65 исследований на стыке ИИ и социально-эмоционального обучения (Tran, Liu & Nguyen 2026) обнаруживает, что исследования часто выдвигают на первый план технический потенциал, недостаточно конкретизируя институциональные условия ответственного внедрения, — ловушку «техно-солюционизма». Авторы связывают вовлечённость политики с местом публикации и предлагают рамку «WH-вопросов», чтобы сделать следствия для управления специфичными для каждого участника, что перекликается с более широким выводом базы знаний о том, что институциональное управление отстаёт от внедрения ИИ.

Как управление ИИ проявляется в исследованиях

  • Институциональное внедрение в масштабе: Исследование AIDA в Открытом университете показывает, как учебное заведение спроектировало, внедрило и оценило ассистент GenAI, установив, что ответственное внедрение на системном уровне требует структур управления (группы по управлению ИИ), спонсорства со стороны высшего руководства и согласования со стратегией учебного заведения, а не только технических возможностей.
  • Лидерство и системные изменения: SPARK рассматривает управление в рамках теории лидерства в сложных системах, утверждая, что лидеры должны уравновешивать административную стабильность с возникающими инновациями, встраивая механизмы управления (политики, режимы оценивания, рамки подотчётности), чтобы инновации адаптивного пространства могли поддерживаться и масштабироваться.
  • Неопределённость политики и опыт студентов: Вовлечённость студентов в работу с GenAI — 12 из 23 студентов отметили отсутствие явных институциональных политик в отношении ИИ («в университете пока нет чёткой и единой политики»), утверждая, что неоднозначность управления формирует практики, нормы и саморегуляцию студентов, что поддерживает переход к прозрачному институциональному руководству.
  • ИИ-грамотность как управленческая способность («18-я ЦУР»): Islam, Morshed, and Islam (2026) переосмысливают ИИ-грамотность как системный механизм управления, а не как навык, осваиваемый в аудитории, предлагая шестиуровневую таксономию AIRE (Recognize → Comprehend → Apply → Analyze → Integrate → Govern), которая расширяет иерархию Блума этическим синтезом и стратегическим предвидением, и карту AI–SDG Nexus, отображающую компетенции ИИ-грамотности на все семнадцать целей устойчивого развития. Позиционируя ИИ-грамотность как эвристику «18-й ЦУР» — сквозную способность, которая направляет обучение в управление и устойчивое развитие, — авторы по результатам опроса 300 специалистов обнаружили, что управленческая грамотность является strongest predictor осведомлённости о взаимосвязи ИИ и ЦУР (β = 0.64, r = 0.67 с осведомлённостью о взаимосвязи), и определили, что strongest predictors доверия к ИИ — этическое рассуждение и рефлективное мышление. Это связывает институциональное управление с развитием публичной ИИ-грамотность, перекликаясь с выводом базы знаний о том, что ответственное согласование с ИИ требует разработчиков политики и граждан, способных критически интерпретировать алгоритмические системы, а не просто ориентированного на соблюдение технического контроля.
  • Академическая добросовестность и оценивание: управление является центральным для того, как учебные заведения решают связанные с ИИ вопросы Академическая добросовестность и перерабатывают Оценивание — переходя от запрета и полицейского контроля к руководству, ИИ-грамотности и процессуально-ориентированным конструкциям, как видно из исследований рационализации использования ИИ в письменных работах студентами и переработки аутентичного оценивания.
  • Переработка опирается на три измерения одновременно. Laidlaw (2026) рассматривает переработку оценивания в эпоху ИИ через культурно-дискурсивное (язык и допущения), материально-экономическое (ресурсы) и социально-политическое (управление и власть) измерения и называет пересечение ресурсов и власти одновременно и главной точкой приложения рычагов, и главным риском: ресурсы, текущие через существующие структуры власти, усиливают неравенство.
  • Инструментальный набор закреплённого в документах управления: Eldredge et al. (2026) провели аудит связанных с ИИ документов всех 48 аккредитованных CAHIIM магистерских программ по информатике здравоохранения и управлению медицинской информацией в США. В 40 из 48 (83%) имелся как минимум один публично доступный документ, и среди 40 проанализированных документов управление реализовывалось преимущественно как руководство, а не как обязательная норма: 21 руководство (53%), 9 информационных документов (23%) и всего 7 формальных политик (18%). Большинство документов адресовались преподавателям и студентам вместе (20, 51%), а не только студентам (6, 15%), и ни тип политики, ни аудитория не варьировались в зависимости от формата обучения (точный критерий Фишера P = .85 и P = .71), что позволяет предположить, что инструментальный набор отражает институциональную привычку, а не требования очных, кампусных или гибридных программ. Содержание концентрировалось на академической добросовестности, ответственном использовании ИИ и поведении студентов, при этом мало руководств охватывало использование ИИ в прикладном обучении, исследованиях и симулированных средах, — то есть именно там, где пересекаются учебные вопросы и вопросы управления данными. Авторы также сообщают, что основную часть корпуса поставили региональные аккредитаторы (Higher Learning Commission n = 14 и SACSCOC n = 13, вместе около 60%, при полном отсутствии документов из региона WASC), и утверждают, что аккредитация является внешним рычагом, лучше всего подходящим для снижения вариаций между программами.
  • Управление как распределённая экосистема поддержки: Qian (2026) закодировал руководства по ИИ 50 американских университетов, признанных наиболее инновационными, и обнаружил, что управление реализуется не столько как норма, сколько как интерпретация и поддержка: только 6 из 50 оформили свою главную страницу как «политику», 33 из 50 позиционировали преподавателей как основных переводчиков институциональных ожиданий в правила курса, а поддержка этой деятельности концентрировалась в четырёх взаимосвязанных подразделениях — центры преподавания и обучения, поставляющие формулировки для учебных планов и меню политик курса; библиотеки, задающие стандарты цитирования и происхождения данных; ИТ-подразделения и управления корпоративного управления, поддерживающие правила классификации данных и проверенные наборы инструментов; и подразделения академической добросовестности, обеспечивающие надлежащую правовую процедуру и исправительные меры, ориентированные прежде всего на обучение. Qian утверждает, что именно Скаффолдинг (опора, постепенно снимаемая поддержка), а не выбранная позиция, снижает неоднозначность, и сообщает, что он распределён неравномерно: 33 из 50 учебных заведений публиковали материалы для учебных планов или политик курса, тогда как только 4 выдвигали на первый план руководства, ориентированные на студентов. Это тот же вывод об инструментальном наборе, что и выше, но в организационной форме — управленческая способность располагается в подразделениях, а не в документах.
  • Этика, приватность и предвзятость: механизмы управления операционализируют этические принципы (Этика, Приватность, Снижение перекосов (bias mitigation)), которые часто признаются, но не соблюдаются, связываясь с ответственным ИИ и регуляторными дискуссиями в образовании.
  • Матрица ценностей и норм для управления. Agarwal et al. (2026), систематический обзор 25 статей, консолидируют этику AIED в шесть основных этических ценностей (недискриминация, ответственное обращение с данными, человеческий надзор, добрая воля, объяснимость, соответствие образовательным задачам) и отображают извлечённые из литературы этические нормы на матрицу «участник × ценность». Это отображение превращает нормы в применимые правила реализации конкретных ценностей и служит основой для построения детальных этических рамок и регулирования AIED, давая образовательным учреждениям, разработчикам и регуляторам конкретные нормы для внедрения. Нормы человеческого надзора концентрируются на образовательных учреждениях и конечных пользователях, соответствие образовательным задачам — на образовательных учреждениях и регуляторах, а нормы доброй воли, адресованные регуляторам, значительно многочисленнее (девять), чем нормы любого другого набора, что сигнализирует о роли регуляторов в обеспечении пользы AIED для учащихся посредством политики и законодательства.

Образование в области управления

Управление ИИ действует на двух уровнях, которые база знаний рассматривает совместно: институциональные правила, регулирующие использование ИИ (политики, рамки допустимого использования, требования к Оценивание и декларированию), и образование об этих правилах (подготовка людей к тому, чтобы ориентироваться в них). Управление без образования рискует оказаться неприменяемым или непрозрачным; образование без управления лишено действенности. Исследования в этом направлении включают анализ институциональных политик в отношении GenAI, рамки декларирования ИИ, управление оцениванием, политику Великобритании в сфере ИИ и высшего образования и комплексные обзоры AIED, которые помещают управление в более широкий ландшафт политики.

Управление оцениванием

Центральной ареной управления ИИ является то, как учебные заведения управляют оцениванием, — правила, определяющие, что считается допустимым использованием ИИ, как декларируется работа с помощью ИИ и как защищаются суммирующие меры. Это включает разработку и обеспечение соблюдения заявлений об использовании ИИ и его декларировании: исследования показывают, что обязательные декларации не работают, когда они воспринимаются как карательные или неоднозначные (Gonsalves 2025, Vetter et al. 2026), и что именно чёткая, последовательная политика, основанная на доверии, способствует декларированию. Исследования базы знаний различают управление, основанное на обнаружении (полицейский контроль за использованием ИИ, например, с помощью Обнаружение ИИ), и управление, основанное на проектировании (переработка суммирующего и аутентичного оценивания так, чтобы использование ИИ предполагалось, декларировалось и подвергалось проверке). Управление генеративным ИИ в оценивании, ориентированное на доказательства и Beyond Detection утверждают, что управление должно сочетать любое обнаружение с переработкой оценивания, при этом сам выбор устойчивых к ИИ форматов суммирующего оценивания (устные экзамены, меры под наблюдением или в закрытом виде, собеседования по ревью кода — см. Итоговое оценивание) является решением в области управления. Крупномасштабные данные (Strömberg, Lei, & Wu 2026) подчёркивают важность управления суммирующими мерами, поскольку неуправляемые домашние задания могут быть завышены с помощью ИИ, в то время как фактическое обучение снижается. Сфера запрета сама по себе является решением в области управления: Wright (2026) показывает, что правила, запрещающие «генеративный ИИ», без различения генерации и преобразования формата, охватывают вспомогательные инструменты транскрипции и превращают ошибочное применение политики в обвинения в нарушении норм, ложась бременем на студентов с ограниченными возможностями и студентов, подверженных риску неравенства, — что является провалом управления, и правовые вопросы и риски трактуют его не меньше как вопрос равенства, чем как вопрос добросовестности.

Данные, которые Zagami (2026) собирает в сферах с высокой ставкой, указывают на неравномерное управление, а не на простой отказ: частичное внедрение и неполная политика в оценивании, приёме и дисциплинарных процессах, при этом институциональная задержка выступает как позиция в области управления, а не как провал. Задача учебного заведения — интерпретировать отказ достаточно хорошо, чтобы улучшить управление, спрашивая: какие решения требуют проверки человеком, какие системы требуют аудита, какие виды использования требуют декларирования и какие решения о закупках требуют публичного обоснования. Weidlich (2026) добавляет следствие, специфичное для оценивания: показания детекторов являются условными вероятностными сигналами, которые сами по себе не могут установить нарушение, поэтому управление, центрированное на обнаружении, является недостаточной основой для защиты утверждений об оценивании.

Управление на разных уровнях

Управление ИИ действует на множестве уровней — от национального/регуляторного (государственная политика, рамки ОЭСР, государственные руководства по ИИ) до институционального (политики университетов, группы по управлению ИИ, советы по этической экспертизе) и аудиторного (рекомендации для преподавателей, положения учебных программ, дизайн заданий). Эффективное управление согласует эти уровни: национальные рамки задают ожидания, учебные заведения переводят их в политики и структуры поддержки, а преподаватели реализуют их таким образом, чтобы развивать ИИ-грамотность и активность студентов. Исследования базы знаний подчёркивают, что управление заключается не просто в ограничении, а в создании условий для ответственной, справедливой и поддерживающей обучение интеграции ИИ — включая развитие профессорско-преподавательского состава, прозрачное руководство и непрерывную оценку.

Одинаковое поведение — разные вердикты. Poudyal (2026) применил 15 стандартизированных вигнет об использовании ИИ студентами к публичным политическим средам 20 австралийских университетов, получив 300 классификаций: 40,0% явно запрещено, 32,3% потенциальные нарушения политики, 9,0% разрешено с оговорками и 18,7% неопределённых — ни одна из них не достигла порога явно разрешённого. Обязательные инструменты умалчивали о генеративном ИИ в 100 комбинациях, тогда как руководства давали разрешение в 88 случаях, а раскрытое переписывание текста и абзац, написанный ИИ, порождали наибольшее расхождение между университетами — в противовес единодушию в отношении явного запрета использования ИИ в оценивании. Там, где описанные выше уровсы предполагаются согласованными, это исследование измеряет, насколько они расходятся, и локализует операционную границу в руководствах, а не в обязательных нормах.

Управление профессорско-преподавательским составом и аргумент в пользу осознанной ревизии. Там, где уровни, описанные выше, согласуются через политику, некоторые сферы достигают их вместо этого через совместное управление. Gutowski и Hurley (2025) описывают юридические факультеты как трудный случай именно по этой причине: профессорско-преподавательский состав юридических школ в США обладает необычной индивидуальной властью над стандартами курса, поэтому политику приходится выстраивать вместе с ними, а не объявлять им, и большинство школ, писавших запретительные правила, также оставляли усмотрение отдельным преподавателям и обязывались к пересмотру по мере развития технологий. Их рекомендации — гибкость по замыслу, периодическая ревизия, упреждающее обучение и саморегулирование через обмен информацией, а не ожидание диктата аккредитатора, — описывают управление как продолжающийся процесс, а не как документ, — тот же тезис, который Дельфийский консенсус отстаивает, рекомендуя запланированные циклы ревизии и постоянно действующий междисциплинарный комитет.

В масштабе всего учебного заведения рамки AIGEM (Tan et al. 2026) позиционируют ответственный ИИ как стратегическую организационную способность для образовательного менеджмента, интегрируя стратегическое лидерство в сфере ИИ, ответственное управление, интеллект принятия решений, коллаборативный интеллект человека и ИИ, развитие компетенций и создание устойчивой ценности, — и связывают ответственное внедрение с ЦУР. Это подчёркивает, что управление является не просто слоем соответствия над преподаванием, а исполнительной функцией образовательных учреждений.

Связи с родственными концепциями

Управление ИИ связано с Этика (принципами, которые оно операционализирует), Высшее образование (институциональный контекст), Приватность и Снижение перекосов (bias mitigation) (конкретные вопросы управления), а также Академическая добросовестность (главная арена управления). Оно занимает центральное место в институциональных изменениях и ответственном ИИ и пересекается с ИИ-грамотность (управление поддерживает развитие критического, информированного использования). Оно также связано с Аналитика обучения (управление данными) и Опыт студентов (управление формирует то, как студенты ориентируются в допустимом использовании).

Управление когнитивным общим достоянием. Рамки Cognitive Commons (Lovett 2026) рассматривают регенерацию экспертизы как проблему коллективных действий на уровне профессии, требующую управления в стиле Остром (определение границ, мониторинг, градуированные санкции, коллективный выбор). Таким образом, управление ИИ касается не только регулирования инструмента, но и поддержания общего пула экспертизы, в котором нуждаются профессии, — на организационном, профессионально-ассоциативном и политическом уровнях.

Соотношение с образовательной политикой

Управление отличается от — но неотделимо от — образовательной политики в сфере ИИ. Политика — это содержание: формальные правила и положения (какое использование ИИ разрешено, что должно декларироваться, какое оценивание допустимо). Управление — это механизм, который производит, внедряет, обеспечивает соблюдение и пересматривает эти правила: кто их устанавливает, как они обеспечиваются ресурсами и доносятся до людей, как обрабатываются соблюдение и апелляции и как они адаптируются по мере развития ИИ. Там, где страница политики каталогизирует сами правила и их пробелы в зрелости, эта страница сосредоточена на структурах и практиках, которые делают правила реальными, — группах по управлению, этической экспертизе, управлении оцениванием и подотчётности на всех уровнях. Правило на бумаге — это политика; правило, которым владеют, за которым следят и которое соблюдают, — это управление. Эти два понятия взаимозависимы: политика без управления не соблюдается, а управление без политики лишено направления.

Язык подотчётности может оставлять ответственного участника безымянным. Poudyal (2026) извлёк 166 выражений обязательства или отчётности из 366 аннотаций исследований по GenAI в высшем образовании и обнаружил, что ни одно из них не приписывало ответственность системе, в то время как 33 оставляли носителя неуказанным; «управление необходимо» не называет никого, кто созывает, решает или обеспечивает соблюдение. Учебные заведения и политические акторы несли 37 обязательств, метонимии «учебное заведение/преподаватель» — 30, преподаватели — 20, исследователи — 18, а студенты — всего шесть.

Svetec, Divjak & Kadoić (2026) выделяют этику и управление данными как один из семи факторов, способствующих доверию к образовательным интервенциям на основе аналитики обучения, — политики этичного использования аналитики обучения и ИИ, приватности данных, безопасности и подотчётности, — и позиционируют доверие (включая лидерство и управление, поддерживающие внедрение) как предпосылку значимых интервенций, опирающихся на данные.

  • Управление может быть встроено в инструмент. Профиль управления из шести измерений — педагогическая обоснованность, власть в обучении, человеческая подотчётность и контроль, активность и когнитивное вовлечение учащихся, контекстуальная специфичность и видимость оценки, — помещает управление в модель взаимодействия учебного инструмента, его промпты, рубрики, барьеры согласования и панели мониторинга и задаёт вопрос, соответствуют ли механизмы учебной функции, а не о том, насколько строгим или разрешительным является инструмент (Dickey, 2026).

Связанные концепции

Связанные статьи

Связанные FAQ

Связанные ресурсы

  • The Institutional AI Readiness Pack
    A university-wide AI readiness assessment and implementation toolkit: maturity self-assessment, researcher and supervisor surveys, gap analysis, role briefings and model policy.
  • Campus AI Framework
    Операционная модель для высшего образования в области стратегии и управления ИИ: восемь институциональных опор, четыре области применения и Стратегический компас для выбора инициатив, с диаграммой, связывающей родственные сайты.

Метаданные

УровеньHigher Ed
Учреждения и политикаУправление изменениями, Политика в области образовательного ИИ (Educational AI Policy), Регулирование ИИ в образовании
Справедливость, этика и ответственное использованиеЭтика, Приватность
Основы ИИ в образованииИИ в образовании
SourceHistoryEditChat

Встроить эту страницу

Скопируйте код ниже, чтобы встроить эту страницу в систему управления обучением или на другой сайт. Во встроенной версии отображается только содержимое страницы — заголовок сайта, навигация и нижний колонтитул скрыты.