Как исследования ИИ в образовании должны учитывать справедливость, доступность, конфиденциальность, этику и педагогическую безопасность?

Автоматический перевод данной английской страницы, не проверенный носителем языка.

Их следует рассматривать как требования к проектированию и результаты оценивания с самого начала — а не как ограничения, добавляемые в раздел обсуждения после завершения исследования эффективности.

Справедливость

В части справедливости изучайте не только то, у кого есть доступ к ИИ, но и то, у кого есть навыки эффективно его использовать и кто в конечном счёте получает его выгоды. Концепция базы знаний Digital Divide различает разрывы в доступе, навыках и результатах, а это означает, что равный доступ к chatbot не эквивалентен equitable образовательной выгоде. Поэтому исследователи должны сообщать о значимых результатах по подгруппам и изучать дифференциальную эффективность, не полагаясь только на общие средние значения (см. Differential Effects Across Learner Groups).

Недавно добавленные исследования показывают, как накапливаются структурные неравенства. comparative study of 45 Nigerian universities (15 федеральных, 15 государственных, 15 частных) обнаружило лишь умеренную интеграцию AI (M = 4.79 по 10-балльной шкале, диапазон 1.83–7.83), и тип Управление ИИ её не предсказывал (F(2,42) = 1.01, p = 0.372); возраст учреждения (β = 0.43, p = 0.016) и расположение на юго-западе (β = 0.31, p = 0.029) предсказывали. Внутренние возможности взаимно усиливали друг друга (r = 0.79–0.80), а международные коллаборации и партнёрства с индустрией накладывались друг на друга (r = 0.74) — «связи порождают связи». Политические рамки оказались слабейшим измерением (M = 4.09; только 27% учреждений набрали 6 и выше), обнажая разрыв между формальной стратегией и операционной деятельностью в curriculum плане. Поэтому меры по обеспечению справедливости должны быть направлены на более новые учреждения и недостаточно обслуживаемые регионы, а не исходить из предположения, что категория учреждения определяет возможности, и должны учитывать контексты Global South, откуда значительная часть доказательной базы всё ещё отсутствует.

Доступность

В части доступности включайте учащихся с инвалидностью в проектирование и оценивание, тестируйте фактические интерфейсы на соответствие требованиям доступности, предоставляйте эквивалентные способы участия и демонстрации обучения и различайте техническую доступность и подлинно инклюзивную педагогику. См. Accessibility. value-sensitive design study со студентами, преподавателями и разработчиками коммунальных колледжей показывает, как это выглядит на практике: оно дало 16 согласованных с ценностями функций, охватывающих explainability (E1–E5), контроль с human-in-the-loop (H1–H9) и Приватность (P1–P4), — и выявило ценностные напряжения, а не аккуратные решения, включая прозрачность в противовес интерпретируемости, конфиденциальность в противовес учебной осведомлённости и Автономность учащегося в противовес управляемому системой Скаффолдинг.

Конфиденциальность и этика

В части конфиденциальности и этики собирайте только данные, необходимые для образовательной цели, делайте прозрачными использование данных и ограничения системы, сохраняйте значимую подотчётность человека и изучайте справедливость, согласие, смещения, объяснимость, автономию учащегося и последствия принимаемых при посредничестве ИИ решений. Это ключевые измерения Ethics. Описанное выше исследование проектирования показывает, что это компромиссы, которыми нужно управлять, а не независимые требования, которые можно отметить галочкой: студенты хотели контроля над learning analytics и аффективными данными, тогда как преподаватели хотели видимости для поддержки обучения. По мере того как системы обретают собственную Автономность учащегося, вопрос управления обостряется. A critical review of agentic AI governance утверждает, что автономия не должна превышать зрелость доказательств или силу подотчётного человеческого контроля, и предлагает общий язык отчётности — уровни автономии A0–A4, уровни контроля O0–O4 и стадии зрелости доказательств M0–M5, — чтобы значимые применения (A4: приём, оценивание, продвижение) требовали воспроизведённой, контекстно-релевантной валидации и непрерывной человеческой власти, а не высокого балла в бенчмарке.

Педагогическая безопасность

В части pedagogical безопасности измеряйте вред, который упускают обычные benchmarks ИИ: overreliance, избыточное раскрытие ответов, закрепление misconception, потерю активности, подавление Метакогниция, несправедливое обращение, motivational вред и рассогласование с инструкцией. Тестирование безопасности должно включать реалистичные многоходовые взаимодействия и discipline-specific сценарии, а не только одиночные промпты. Синтез Pedagogical Safety и бенчмарк SafeTutors показывают, почему технически «полезные» или точные системы всё же могут подрывать обучение. Практики сходятся в совместимом проектном ответе: в participatory design study with six secondary teachers преподаватели независимо проектировали «ограниченных экспертов», а не autonomous agents, — системы с узко очерченной областью, работающие под контролем человека, с границами области, фильтрацией контента и возможностью отмены решений teacher, образующими три защитных слоя. Они приветствовали ИИ для представления контента, предоставления практики и дачи formative Обратная связь, но отказались делегировать постановку целей или summative assessment, трактуя контроль как профессиональную ответственность, а не как недоверие к технологии.

Методологическая триангуляция

Наконец, сочетайте quantitative и qualitative доказательства. Дезагрегированные количественные результаты могут выявить differential effects; интервью, наблюдения, фокус-группы и партисипаторные методы или методы совместного проектирования могут выявить барьеры, вреды, культурные допущения и опыт учащихся, которые упускают агрегированные показатели. Синтез Research Methods in AIED явно рассматривает методологическую триангуляцию как важную, поскольку ни один отдельный метод не максимизирует одновременно причинный вывод, экологическую валидность, контекстное понимание и обобщаемость.

Прозрачность относительно того, как сам анализ с помощью ИИ получил свои результаты, является частью этого обязательства. The warrantability proposal утверждает, что интерпретация с помощью ИИ должна оставаться инспектируемой, оспоримой и пересматриваемой, поддерживаемой артефактами, такими как связанные с источниками тематические таблицы, стеки линз и реки доказательств, — чтобы беглое резюме не могло скрыть аналитический путь, который его породил. agentic-AI review добавляет дисциплину разделения уровней результатов: результаты на уровне артефакта (точность, feedback quality) могут быть необходимы для выгоды учащегося, но никогда не являются достаточным доказательством её, а результаты в части справедливости и институциональные результаты — это именно то место, где доказательств меньше всего.

Где это находится в базе знаний

Эти требования напрямую связаны с флагманской страницей Top 10 Findings for Instructors (выводы 9 и 10), с опровержениями заблуждений заинтересованными сторонами на странице Addressing Common Misconceptions About AI in Education?, и с повесткой недостающих доказательств на странице Research Gaps in AIED. О методах, которые серьёзно учитывают эти ограничения, см. Evaluating AI Interventions: Methods.