AIEd база знанийAIEd KB
На этой странице

Читать эту страницу на английском

Концепции

Доверие

Создано 2026-10-13

Автоматический перевод данной английской страницы, не проверенный носителем языка.

Доверие — готовность учащихся, преподавателей и институтов полагаться на человека или ИИ-систему в вопросах обучения, суждения и принятия решений. В AI in education доверие охватывает две связанные, но различные области: доверие к ИИ (уверенность в компетентности, прозрачности, надёжности и благорасположенности ИИ-системы или агента) и межличностное доверие (реляционное доверие между студентами и преподавателями, между учащимися и сверстниками, а также внутри института). Оба имеют две стороны: надлежащее доверие делает продуктивным engagement, тогда как чрезмерное доверие влечёт over-reliance, а недостаточное блокирует полезное использование. Центральная задача — калибровка: согласование доверия с фактической надёжностью, независимо от того, принадлежит ли эта надёжность модели или человеку.

Вопросы для размышления

  • Когда вы говорите, что «доверяете» инструменту ИИ, по сравнению с доверием преподавателю или коллеге, описываете ли вы одно и то же? Что схоже, а что фундаментально отличается в том, чтобы оказывать доверие системе в противовес человеку?
  • Документирован «разрыв между доверием и полезностью»: очевидная компетентность инструмента часто превосходит его фактическую надёжность. Вспомните инструмент, который выглядел впечатляюще, но подвёл вас, или тот, что казался ограниченным, но оказался надёжным. Что формировало разрыв между тем, как он выглядел, и тем, что он действительно мог делать?
  • Представьте ИИ, который всегда с вами согласен и никогда не оспаривает ваши идеи. Это может ощущаться удобно и вызывать доверие, но есть ли согласие то же самое, что надёжность? Чем вы можете пожертвовать, если инструмент, на который вы опираетесь, никогда не возражает?
  • Страница утверждает, что доверие преподавателя к ИИ формирует то, как студенты доверяют этому ИИ, — эти две области взаимодействуют. На хорошо знакомом вам курсе как энтузиазм или скептицизм преподавателя относительно ИИ повлиял бы на то, принимали ли студенты инструмент или ставили его под вопрос?
  • Студенты часто решают, раскрывать ли своё использование ИИ, исходя из комфорта с преподавателем в большей степени, чем из политики. Если бы вы были (или являетесь) студентом, что побудило бы вас быть честным в отношении использования ИИ — а что побудило бы скрыть это? Что это говорит о том, как доверие в действительности строится в аудитории?
  • Один результат: ИИ-репетитор, который предупреждает «я могу допускать ошибки», побуждал студентов искать больше помощи, а не меньше. Что это говорит о том, подрывает ли признание ограничений или усиливает доверие, поддерживающее настоящее обучение?

Введение

Доверие к ИИ формируется воспринимаемой компетентностью, прозрачностью, последовательностью и тем, кажется ли система согласованной с целями учащегося; оно тесно связано с ИИ-грамотность (знание того, чему доверять), Критическое мышление (оцениванием выдачи) и проектированием ответственного ИИ. Межличностное доверие, напротив, строится через отношения, раскрытие, обратную связь и pedagogical заботу — качества, на которые опираются студенты, решая, является ли преподаватель или ИИ надёжным источником руководства. Эти две области всё сильнее взаимодействуют: ИИ вплетён в отношения преподавателя и студента, поэтому то, как студенты доверяют своему преподавателю, формирует то, как они доверяют (или ставят под вопрос) инструментам ИИ, которые этот преподаватель одобряет.

Доверие к ИИ-системам

Research в этой базе знаний изучают, когда учащиеся надлежащим образом доверяют порождённой ИИ ориентировке. Warnings about AI fallibility могут улучшить калибровку: простая интервенция прозрачности, сообщающая студентам, что ИИ-репетитор может допускать ошибки, повысила Поиск помощи в математическом ITS, что предполагает, что честное указание ограничений способствует надлежащей опоре, а не подрывает её. Co-designing trustworthiness metrics с инженерами обучения показывает, что доверие лучше всего строится на наблюдаемых, согласованных критериях, а не на предполагаемой способности. Исследования Physics и image-generation выявляют устойчивый разрыв между доверием и полезностью — пользователи должны взвешивать очевидную компетентность инструмента против его фактической надёжности в задаче. Среди самых юных пользователей Vahedian Movahed & Martin (2025) обнаружили, что 52% детей (в возрасте 6–14) в целом доверяли адаптированному по возрасту чат-боту и 35% доверяли ему как учителю или другу, при этом около трети были готовы доверить ему личное; дети также активно проверяли его достоверность вопросами с известными ответами, а доверие не показало статистически значимых различий по уровню класса — что иллюстрирует, как раннее доверие может формироваться раньше критической оценки.

Прозрачность о том, чем система является, — а не только о том, что она умеет, — также формирует калибровку: прототип сопровождения Amico сделал свою идентичность и ограничения явными, и его пилот в Италии–Китае обнаружил, что учащиеся воспринимали его как инструмент поддержки с границами, а не как автономного репетитора или замену отношений, избегая антропоморфного чрезмерного доверия (Benedetti (2026)).

В институтах высшего образования рычагом может быть скорее полезность, чем правила: опрос 2 121 студентов, преподавателей и сотрудников одного университета обнаружил, что воспринимаемая полезность является сильнейшей коррелятой доверия к ИИ (β = 0,402), при этом воспринимаемая ясность политики положительна, но слабее (β = 0,223) (Braun & Khafizov, 2026).

Недоверие к точности может сосуществовать с уверенностью в управлении инструментом. В опросе 8 021 студента четырёх австралийских университетов 51% не доверяли фактической точности GenAI, тогда как 76% были уверены в своей способности получать желаемую выдачу, и их использование определялось скорее полезностью, чем доверием или соблюдением правил (Chung et al., 2026).

modeling of AI overreliance as a complex adaptive system переопределяет доверие как процесс на уровне популяции: доверяют ли люди ассистенту, когда он прав, и проверяют ли его, когда он ошибается, зависит от социальной динамики и петель обратной связи, а не только от индивидуального суждения. Сикофантство угрожает калибровке с другой стороны — an AI that always agrees, может ощущаться надёжным именно потому, что никогда не оспаривает пользователя, провоцируя некритическое принятие (contextual sycophancy и sycophantic AI in social interaction). В embodied контекстах, таких как Роботы в образовании (Robots in Education), доверие формируется больше тем, что робот делает, чем тем, как он выглядит (task context and trust in educational HRI), а avatar identity формирует эпистемическое доверие, которое учащиеся оказывают содержанию ИИ. Доверие к инструментам analytics также зависит от контекста. Mejia-Domenzain et al. (2026) обнаружили, что опасения преподавателей и барьеры внедрения резко расходились по контексту обучения: преподаватели перевёрнутой аудитории (университет) больше всего беспокоились об анонимизации данных и возможности студентов отказаться, тогда как преподаватели рефлексивного письма (профессиональное обучение) опасались злоупотребления инструментом со стороны коллег-преподавателей и подчёркивали необходимость контекстуализировать данные, — хотя обе группы сообщали о схожей Самоэффективность и воспринимаемых выгодах в опросе доверия к ИИ. Тот факт, что доверие к инструменту отвязано от доверия к управлению его данными и его социальному использованию, подчёркивает, что построение надлежащего доверия к аналитике требует внимания к специфичным для контекста опасениям, а не только к очевидной компетентности системы.

То, насколько система объяснима — и в каких терминах, — также формирует, доверяют ли преподаватели её рекомендациям. В внутрисубъектном эксперименте с 41 действующим преподавателем chemistry, использовавшим инструмент рекомендаций по группировке GrouPer, Feldman-Maggor et al. (2025) обнаружили, что explainable AI строит доверие косвенно, повышая понятность работы системы, и что объяснения, управляемые предметной областью и сформулированные на curricular/педагогическом языке, способствовали значительно большей понятности и выученному доверию, чем чисто управляемые данными (по важности признаков) объяснения. Примечательно, что одной понятности было недостаточно для некоторых преподавателей — они сообщали, что им нужен реальный опыт работы с инструментом в аудитории, прежде чем полностью на него опираться, — что усиливает тезис, что доверие к ИИ динамично и подтверждается через situated использование, а не даруется одним объяснением.

Восприятие риска и доверие — не противоположности. Исследование восприятия у 130 студентов agentic GenAI в higher education обнаружило, что воспринимаемый риск умеренно повышен (M = 3,33, SD 0,89) наряду с более благоприятным доверием и намерением внедрения (M = 3,62, SD 0,81), и — вопреки простому ожиданию сдерживания, — положительную связь между воспринимаемым риском и намерением продолжать использование (ρ Спирмена = 0,317, p < 0,001) (Ilieva et al. 2026). Авторы читают это как информированное внедрение, а не безразличие: вовлечённые или опытные пользователи осознают и ценность, и пределы технологии, и только 45,4% заявили, что доверяют агентам под руководством преподавателя. Для Калибровка доверия следствие состоит в том, что осознание риска — не отсутствие доверия: оно может быть его компонентом, — тогда как поперечный дизайн оставляет осознание, воздействие и самоотбор неразличимыми.

Доверие к ИИ ведёт себя как путь от оценки к опоре, а не как единая установка: воспринимаемое расширение возможностей от ИИ и воспринимаемая угроза со стороны ИИ были почти независимы (r=0,030), но двигали доверие в противоположных направлениях (β=0,576 и β=−0,328), а доверие несло значимые косвенные ассоциации с зависимостью от GenAI в обоих направлениях (Zhu et al. (2026)).

AlGhamdi (2026) поддерживает описание доверия к алгоритмам как функционально-специфичное, а не глобальное: ни отвращение к алгоритмам, ни предпочтение алгоритмов не описывали этих 13 студентов, которые одновременно доверяли ChatGPT для поверхностной обратной связи и не доверяли ему как оценщику. Их доверие было обусловлено надзором со стороны преподавателя, а их скептицизм проистекал из контекстуальных пределов ИИ — неверного чтения отсканированного почерка («он неправильно написал мою фамилию и считает, что я допустил ошибки в правописании, хотя я не допускал»), незнания системы оценок преподавателя и хронической позитивности, — а не из технофобии, что предполагает: меры доверия следует разложить по функции, которую выполняет ИИ, и по связанным с ней ставкам.

Три измерения «Достоверности источника» могут диссоциировать: семнадцать студентов бакалавриата EFL наделили ИИ-ассистента по письму широкой экспертизой, сомневались в его надёжности главным образом относительно того, что платформа сохраняет, и оценили его благорасположение ниже всего — предел их опоры лежал в заботе, а не в компетентности (Serpil & Mor, 2026).

Доверие к ИИ отслеживает психологическое состояние, а не демографическую категорию

Kumar et al. (2026) кластеризовали 107 студентов государственного HBCU по резильентности, воспринимаемому стрессу и доверию к ИИ и обнаружили три профиля, в которых доверие к ИИ диссоциировало с уверенностью в себе: группу с высокой резильентностью и низким стрессом с благоприятным доверием к ИИ, умеренно стрессованную группу с наибольшим доверием к ИИ из трёх, несмотря на напряжение, и психологически резильентную группу, почти столь же резильентную, как и принимающие, но заметно ниже по доверию к ИИ. Стресс и доверие к ИИ разделяли кластеры сильнее всего (частная эта-квадрат 0,528 и 0,521 против 0,315 для резильентности), и пол был единственной демографической переменной, значимо ассоциированной с принадлежностью, при этом принадлежность к STEM, уровень обучения, статус занятости и возрастная группа были незначимы. Два следствия важны для этой страницы: во-первых, низкое доверие к ИИ — не суррогат низкой уверенности или низкого технического знакомства, поскольку скептики были самой резильентной и самой насыщенной STEM группой, что авторы читают как калиброванный скептицизм, а не сопротивление; во-вторых, поскольку кластеры были лишь слабо разделены (силуэт 0,288, при этом индекс Калински–Харабаса предпочитает два кластера), их следует рассматривать как перекрывающиеся профили, а не как различные типы студентов. Результаты получены в одном институте и на поперечном опросе self-report, поэтому они устанавливают, что доверие варьирует с психологическим состоянием, но не почему.

Межличностное доверие в образовании

Доверие также фундаментально реляционно. Разрыв доверия в аудитории документирован в teacher-student views on control and agency in K-12 AI: студенты хотят большей autonomy и гибкости, тогда как преподаватели ставят в приоритет надзор и мониторинг — рассогласование, которое обе стороны должны преодолевать, чтобы внедрение ИИ удалось. Why students disclose or conceal their AI use показывает, что раскрытие движется меньше политикой, чем реляционными факторами — воспринимаемые нормы сверстников и комфорт с преподавателями являются сильнейшими предикторами, что указывает на низкое интерпретационное доверие в institutional условиях. The hidden costs of disclosure добавляют нюансы о том, когда честность социально затратна. Ответ, ориентированный в первую очередь на обнаружение, работает в обратную сторону: ненадёжные детекторы, непропорционально часто помечающие неносителей языка, останавливают дела о нарушениях из-за отсутствия доказательств, порождая «подозрение без средств правовой защиты», тогда как верификационные разговоры длиной пять-десять минут, объявленные как педагогика, а не как наблюдение, восстановили авторитет преподавательского состава и вызвали более открытое раскрытие использования ИИ (Mandernach, 2026). Опора на детекторы и наблюдение, утверждают Bassett et al. (2026), способствует климату подозрительности, разрушающему доверие студентов к оцениванию и институту — то есть противоположному тому доверию, которое призваны защищать процессы обеспечения целостности.

Обратная связь — ключевое место межличностного доверия. Students' perceptions of GenAI versus teacher feedback показывает, что они служат разным потребностям — взаимодополняющи, но не взаимозаменяемы, — при этом студенты доверяют обратной связи преподавателя для реляционного, персонализированного суждения, а GenAI — за скорость и Доступность. A "care-full" account of feedback утверждает, что надёжная обратная связь — это ethical, реляционная практика: она строит воспитательные отношения и уважается как профессиональное ремесло, ценности, которые ИИ не может просто воспроизвести. Именно поэтому доверие между преподавателем и студентом — построенное на заботе и профессиональном суждении — остаётся центральным даже по мере того, как ИИ входит в контур обратной связи.

Доверие сверстников идёт по другому каналу: среди 406 студентов университета, оценивавших вспоминаемого однокурсника, использование GenAI этим однокурсником ассоциировалось с более низким межличностным доверием, что проявлялось через воспринимаемую теплоту и компетентность, а отрицательная ассоциация сохранялась только при низкой воспринимаемой AI literacy — она была незначимой при высокой (Zhang et al. (2026)).

Калибровка и две области вместе

Объединяющая задача — калибровка: согласование доверия с фактической надёжностью, независимо от того, является ли доверенная сторона моделью или человеком. Калибровка доверия — это metacognitive способность знать, когда доверять, а когда подвергать сомнению. Исследования Обратная связь ИИ и Интеллектуальное тьюторство изучают, когда учащиеся надлежащим образом опираются на ориентировку ИИ или оспаривают её, тогда как межличностная литература показывает, что доверие студентов к преподавателю зависит от реляционного доверия, построенного со временем. По мере того как ИИ встраивается в teaching, эти области сходятся: преподаватель, который прозрачно объясняет, что инструмент ИИ может и чего не может делать, и который демонстрирует надёжность собственного суждения, строит тот род доверия, который переносится на одобряемые им инструменты. Построение надлежащего доверия — и к ИИ, и друг к другу — является основной целью ответственного проектирования ИИ в образовании.

Калибровку также испытывают стимулы самой доверенной системы. Когда сотрудники, скептически настроенные к внедрению ИИ, консультируются с conversational AI — созданным организациями, имеющими коммерческую заинтересованность во внедрении, — существует риск, что система предрасположена поощрять его. Аудит десяти фронтир-моделей обнаружил, что большинство признали опасения сотрудника сельской школы K-12 (угроза рабочему месту, «это не для таких, как я»), прежде чем перенаправить разговор в сторону вовлечения. Это бросает вызов наивной опоре на доверие и подчёркивает важность human oversight и независимого evaluation of AI.

Связанные концепты

Связанные статьи

Метаданные

Технологии и методыРоботы в образовании (Robots in Education), Интеллектуальное тьюторство
Справедливость, этика и ответственное использованиеДоверие
Основы ИИ в образованииИИ-грамотность, Критическое мышление, Коллаборация человека и ИИ
SourceHistoryEditChat

Встроить эту страницу

Скопируйте код ниже, чтобы встроить эту страницу в систему управления обучением или на другой сайт. Во встроенной версии отображается только содержимое страницы — заголовок сайта, навигация и нижний колонтитул скрыты.