Приватность

Автоматический перевод данной английской страницы, не проверенный носителем языка.

Приватность — защита данных студентов, их идентичности и autonomy в средах обучения с ИИ. Опасения по поводу приватности усиливаются, поскольку системы ИИ собирают всё более детальные поведенческие данные для personalization, analytics и adaptive instruction. Это ключевое этическое и нормативное ограничение на AI in education: практически каждый инструмент ИИ, который персонализирует, прогнозирует или оценивает, зависит от данных учащегося, что делает минимизацию данных, согласие, прозрачность и безопасность базовыми требованиями проектирования, а не второстепенными добавками.

Вопросы для размышления

• Какие данные о себе вам было бы неприятно видеть собранными — даже если бы это улучшило ваше обучение? Где персонализация превращается в слежку?
• У многих студентов нет «осмысленного выбора», кроме как использовать обязательную платформу, что делает согласие номинальным. Соглашались ли вы когда-нибудь на что-то, не понимая по-настоящему, что именно собирается и зачем? Чего на самом деле потребовало бы информированное согласие?
• Те же данные учащегося, которые питают адаптивное, персонализированное обучение, создают и риск ненадлежащего использования и вреда. Можете ли вы назвать выгоду персонализации, на которую вы согласились бы обменять часть приватности, — и границу, которую вы не переступите?
• Страница предупреждает, что меры защиты приватности могут «по умолчанию защищать лишь некоторых учащихся». Какие студенты могут быть наиболее незащищены и как приватность связана со справедливостью и fairness?
• Постоянный мониторинг со стороны ИИ — даже благонамеренный — может формировать поведение и тревожность. Когда за вами следили, и как это меняло ваше поведение, и что это говорит о восприятии среды со стороны ИИ в аудитории?
• Для детей приватность выходит за пределы защиты данных и включает безопасность. Почему универсальные инструменты безопасности могут не улавливать связанные с образованием риски со стороны несовершеннолетних, и кто должен участвовать в этой цепочке?

Введение

Приватность — предпосылка заслуживающего доверия ИИ в образовании. Поскольку системы ИИ улучшаются с данными — personalization требует детальных профилей учащегося, learning analytics требует детальных журналов взаимодействий, а fine-tuned tutoring models требуют аутентичных расшифровок диалогов между учащимися и тьюторами, — те же данные, которые делают возможным адаптивное, масштабируемое образование, создают и риск слежки, ненадлежащего использования и вреда. База знаний рассматривает приватность как неотделимую от Этика (нормативной рамки), Регулирование ИИ в образовании (правовых требований), Управление ИИ (институциональной ответственности) и equity (кто защищён и кто подвержен риску). Её статьи о приватности группируются вокруг четырёх повторяющихся проблем: сбор в масштабе, согласие и прозрачность, безопасность и анонимизация, а также особые меры защиты, причитающиеся детям.

Основные вызовы приватности

• Сбор данных в масштабе. Аналитика обучения и educational platforms собирают данные о кликах, письменных работах, нажатиях клавиш и взаимодействиях. Центральный вопрос, который изучает research приватности, — пропорционально ли такое собирание образовательной выгоде, — и trustworthy-LA research рассматривают приватность и управление данными как предпосылку, а не добавку: именно этическое соответствие, безопасность данных и прозрачные алгоритмы делают основанные на данных образовательные изменения осмысленными вообще.
• Согласие и прозрачность. Студенты и families редко понимают, какие данные собирает инструмент ИИ, как они используются и где хранятся. Этот дисбаланс власти между учебными заведениями и Учащиеся — повторяющаяся тема: у студентов может не быть осмысленного выбора, кроме как использовать обязательную платформу, что делает «согласие» номинальным, а не информированным. База знаний связывает это с trust и disclosure: и использование ИИ учащимися, и использование данных учащегося учебными заведениями зависят от прозрачности относительно того, что собирается и зачем.
• Делегирование как механизм приватности, а не просто раскрытие. Nama (2026) утверждает, что автономные агенты наследуют разрешения между сессиями и редко их отзывают, поэтому каждое непрозрачное делегирование приучает пользователей выдавать доступ без проверки, — что делает информированное согласие относительно того, когда действует агент, а не человек, частью проектирования приватности.
• Безопасность, анонимизация и источники данных. Даже законно собранные данные могут навредить при утечке или ненадлежащем обращении. Методы, сохраняющие приватность, встречаются по всей базе знаний: TeachLM демонстрирует строгий конвейер согласия для каждой сессии, удаления персональных данных (PII) на внутренних серверах и конфиденциальности корпоративного уровня для дообучения тьюторских моделей на аутентичных данных, показывая, что этично полученные данные учащегося и возможны, и являются предпосылкой для высококачественного тьюторства. Federated and edge-AI architectures сохраняют данные локально, сокращая централизованный сбор. Detection добавляют параллельный случай обращения с данными: Bassett et al. (2026) отмечают, что поставщики детекторов хранят работы студентов на сторонних серверах, иногда за рубежом, где стандарты приватности слабее, наряду с риском утечки и потенциальной коммерческой эксплуатацией студенческих письменных работ.
• Слежка и напряжение «слежка — приватность». Постоянный мониторинг со стороны ИИ — даже благонамеренный — может восприниматься как вторжение. Исследования AI fatigue, remote proctoring и over-reliance связывают приватность с Благополучие студентов: когда ИИ непрерывно наблюдает и отслеживает, он формирует поведение и тревожность, а не только потоки данных. Harerimana et al. (2026) каталогизировали, что системы proctoring действительно фиксируют — изображения лиц, документы, удостоверяющие личность, сканирования помещения, включая круговые обзоры на 360 градусов, звук с микрофона, распознавание лиц, записи экрана, события блокировки и отслеживание нажатий клавиш и движений мыши, при этом мобильное наблюдение добавляет проверки GPS и селфи, — и обнаружили, что приватность и алгоритмическая подотчётность практически отсутствуют в шести исследованиях, удовлетворявших их критериям включения, а сведения поступают из смежных работ: 83% респондентов в одном процитированном опросе выражали опасения по поводу слежки, 58% — дискомфорт, а 72% — обеспокоенность защитой данных, тогда как трансграничные контракты с поставщиками оставляли такие инструменты, как GDPR и южноафриканский POPIA, с ограниченными возможностями контроля. Юридический риск, вытекающий из хранения и обработки этих данных, — кто является контролёром, как долго они хранятся, кто может получить к ним доступ, было ли согласие подлинно добровольным, — отображён на странице Правовые вопросы и риски.
• Компромисс «персонализация — приватность». Персонализированное обучение требует детальных данных учащегося для функционирования, создавая структурное напряжение с приватностью. База знаний исследует подходы, уравновешивающие персонализацию и минимизацию данных — достаточно данных для адаптации, но не столько, чтобы учащийся был полностью раскрыт. Это практическая форма вопроса «сколько пропорционально?».
• Заботливое обращение с данными как базовая этическая ценность. Agarwal et al. (2026) в systematic review 25 статей выделяют заботливое обращение с данными (definitions using data/information) как одну из шести основных этических ценностей для AI in education — наряду с недискриминацией, человеческим надзором, доброжелательностью, объяснимостью и соответствием образовательным задачам. Обзор обнаруживает, что ценности тесно связаны и могут конфликтовать — например, объяснимость vs. точность/приватность и недискриминация vs. заботливое обращение с данными, — порождая этические дилеммы, и что ни одна норма о заботливом обращении с данными не адресована непосредственно конечным пользователям, оставляя учащихся в значительной мере пассивными в этической литературе.
• Приватность откладывается, а не решается. Двенадцать интервью с профессионалами в сфере образовательных технологий и аудит 48 политик приватности платформ показывают, что приватность признаётся важной, а затем откладывается на протяжении жизненного цикла продукта, при этом ответственность делегируется облачным провайдерам, политическим документам и школам на нижнем уровне цепочки — паттерн, который слабая обратная связь по приватности сохраняет невидимой, поскольку молчание выглядит как доказательство безопасности (Nair & Greenstadt, 2026).
• Доказательная база по прокторингу бедна в вопросах этики. Обзор 80 исследований обнаружил, что 35% не раскрывали свой набор данных, 40% оценивали единственную модель, 30% не поддавались воспроизведению и лишь 25% затрагивали этические вопросы; ложные срабатывания — маркировка нормального поведения — остаются ключевым риском для надёжности (Malhotra & Chhabra (2026)).

Безопасность детей и защита в K-12

Условия K-12 требуют более сильных мер защиты приватности, потому что учащиеся — несовершеннолетние. Это выводит приватность за пределы защиты данных в область Педагогическая безопасность: инструменты, которыми пользуются дети, должны не просто защищать их данные, но и защищать их самих от вреда. Child safety research показывают, что универсальные классификаторы безопасности часто не обнаруживают небезопасные промпты, связанные с образованием, поступающие от детей, предупреждая, что школы не могут предполагать, что стандартные меры защиты моделей защищают младших пользователей, — им нужна оценка, специфичная для детей, тестирование на основе инцидентов и human oversight. Эта рамка связывает приватность с equity: то, кто защищён практиками безопасности и приватности по умолчанию, отражает то, чью безопасность и автономию система считает неоспоримой.

Приватность на практике

• Аудит того, кто защищён. Меры защиты приватности не должны по умолчанию защищать только некоторых учащихся; справедливость требует, чтобы та же забота применялась по возрастным, языковым, инвалидностным и социально-экономическим линиям.
• Рассматривайте приватность как требование проектирования, а не как второстепенную политическую деталь. Пример TeachLM показывает, что согласие, анонимизация и безопасное обращение с данными могут быть встроены в сам конвейер обработки данных — это модель для этичного получения аутентичных данных, которые делают AI tutors эффективными.
• Проектируйте под минимизацию данных. Отдавайте предпочтение подходам, которые собирают только то, что требуется для адаптации (периферийный/федеративный ИИ, обработка на устройстве), вместо того чтобы накапливать данные взаимодействий по умолчанию. Boyapati et al. (2026) демонстрируют конкретную федеративную форму этого для Когнитивная диагностика: несколько коммерческих API на базе Большие языковые модели (LLM) сотрудничают в диагностике, добавляя ε-локальный шум дифференциальной приватности локально к прогнозу каждой модели перед агрегацией, поэтому ни один провайдер не видит исходных данных студента, — архитектура, сохраняющая приватность, которая оставляет AI tutoring работающим без централизации чувствительных траекторий учащихся. Федеративное обучение также делает возможной межинституциональную аналитику без обмена данными: Villegas-Ch et al. (2026) обучают многозадачную модель академического риска в нескольких учебных заведениях через федеративную агрегацию, поэтому исходные данные учащихся остаются локальными, и обмениваются только параметрами модели, — это коллаборативная, сохраняющая приватность альтернатива централизованной Аналитика обучения, которая сохраняет суверенитет над данными, улавливая при этом межинституциональные паттерны.
• Обеспечивайте явное, информированное согласие. Там, где данные учащихся финансируют разработку или улучшение ИИ, учебные заведения должны быть прозрачны относительно сбора, хранения и использования, — и у студентов должны быть реальные варианты, а не обязательные платформы.
• Проводите аудит того, кто защищён. Меры защиты приватности не должны по умолчанию защищать лишь некоторых учащихся; equity требует, чтобы та же забота применялась вне зависимости от возраста, языка, инвалидности и социально-экономического положения.

Связи

Приватность связана с Аналитика обучения (собирателем данных), Персонализированное обучение (потребителем данных), K-12 (усиленные меры защиты), Этика (нормативной рамкой), Регулирование ИИ в образовании (правовыми требованиями), Управление ИИ (институциональной ответственностью), Справедливость (кто защищён), Педагогическая безопасность (защитой детей) и Политика в области образовательного ИИ (Educational AI Policy) (ответными мерами политики). Это одно из базовых ограничений, которое должно быть выполнено любым ответственным развёртыванием ИИ в образовании, — причина, по которой, в рамках формулировки базы знаний, заслуживающий доверия ИИ начинается с заслуживающих доверия данных.

Связанные концепции

• Дистанционный прокторинг
• Аналитика обучения
• Персонализированное обучение
• K-12
• Этика
• Регулирование ИИ в образовании
• Справедливость
• Управление ИИ
• Политика в области образовательного ИИ (Educational AI Policy)
• Педагогическая безопасность
• Правовые вопросы и риски
• Опыт студентов
• Поддержка студентов и их успех — академические записи, обмен данными между подразделениями и федеративное моделирование риска

Связанные статьи

• Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions — Федеративная и объяснимая аналитика обучения для моделирования академического риска с сохранением приватности (Villegas-Ch et al. 2026)
• From Learning Analytics to Educational Interventions: Enhancing Decision-Making and Learning Design — От аналитики обучения к образовательным вмешательствам: факторы, делающие возможными основанные на АО вмешательства (Svetec, Divjak & Kadoić 2026)
• Ensuring Academic Integrity through Automated Online Exam Proctoring: A Decade-Long Systematic Review
• Agentic Literacy Debt: A Structural Problem the AI Literacy Field Has Not Yet Named — Долг агентной грамотности: структурный разрыв в ИИ-грамотности, порождённый автономными агентами (Nama 2026)
• Defining AI Fatigue in Academic Contexts: Dimensions, Indicators, and a Stage-Based Model Using Grounded Theory
• AI-Integrated Learning Management System for Middle School: A Longitudinal Study of Learning Outcomes Through High
• Child Safety in Generative AI: An Expert-Guided and Incident-Grounded Evaluation Framework
• EduZone: A Framework for Evaluating LLM Safety for K-12 Students and Teachers
• Exploring AI-Supported Disciplinary Mediation in Student Project Teams' Text-Based Communication
• TeachLM: Post-Training LLMs for Education Using Authentic Learning Data — TeachLM: анонимизация и согласие для аутентичных данных обучения
• Heads We Win, Tails You Lose: AI Detectors in Education — Heads we win, tails you lose: AI detectors in education (Bassett et al. 2026)
• Privacy-Preserving Heterogeneous Multi-LLM Federated Inference for Cognitive Diagnosis — Федеративная когнитивная диагностика на базе LLM с сохранением приватности
• Identifying the ethical values and norms for artificial intelligence in education: A systematic literature review — Этические ценности и нормы для ИИ в образовании
• Under surveillance: Mapping remote proctoring practices in the assessment of nursing students — a scoping review — Что фиксируют системы прокторинга и отсутствие литературы по приватности в доказательной базе
• "We'll Fix It Later": Education, AI, and the Deferral of Student Privacy in EdTech — «Мы исправим это позже»: образование, ИИ и откладывание приватности студентов в сфере образовательных технологий
• Browser-Sized Agents: Small Language Models and WebLLM for Tool-Augmented AI-Assisted Programming Education — Browser-Sized Agents: SLM и WebLLM для обучения программированию с инструментальными агентами — приватность через обработку на устройстве