AIEd 지식베이스AIEd KB
이 페이지의 목차

이 페이지는 한국어로 번역되었습니다. 문서 페이지는 여전히 영어로 작성되어 있습니다. 이 페이지를 영어로 읽기

개념

신뢰

생성일 2026-08-13 · 갱신일 2026-10-03

영어 페이지의 자동 번역이며, 아직 원어민의 검수를 받지 않았습니다.

신뢰 — 학습자, 교육자, 제도가 학습, 판단, 의사결정을 위해 한 사람 또는 AI 시스템에 의지하려는 의지입니다. 교육에서의 인공지능에서 신뢰는 서로 관련되면서도 구별되는 두 영역을 아우릅니다. AI에 대한 신뢰(AI 시스템이나 에이전트의 능력, 투명성, 신뢰성, 선의에 대한 확신)와 대인 간 신뢰(학생과 교수자 사이, 학습자와 동료 사이, 그리고 제도 전반에 걸친 관계적 신뢰)가 그것입니다. 둘 다 양날의 검입니다. 적절한 신뢰는 생산적인 참여를 가능하게 하지만, 지나친 신뢰는 과의존을 초래하고, 부족한 신뢰는 유익한 활용을 막습니다. 핵심 과제는 보정입니다. 즉, 그 신뢰성이 모델에 속한 것이든 한 사람에 속한 것이든, 신뢰를 실제 신뢰성에 맞추는 일입니다.

생각해 볼 질문들

  • AI 도구를 '신뢰한다'고 말하는 것과 선생님이나 동료를 신뢰한다고 말하는 것이 같은 것을 뜻하는 걸까요? 시스템에 신뢰를 두는 것과 사람에게 신뢰를 두는 것에서 비슷한 점은 무엇이고 근본적으로 다른 점은 무엇인가요?
  • '신뢰-효용 격차(trust-utility gap)'라는 현상이 문서화되어 있습니다. 도구가 겉으로 드러내는 능력은 종종 실제 신뢰성을 넘어섭니다. 인상적으로 보였지만 실망시킨 도구, 또는 별로라고 여겼지만 믿을 만했던 도구를 떠올려 보세요. 겉으로 보이는 모습과 실제로 할 수 있는 일 사이의 그 격차는 무엇이 만들었나요?
  • 늘 당신에게 동의하고 당신의 생각에 절대 이의를 제기하지 않는 AI를 떠올려 보세요. 편안하고 믿을 만하게 느껴질 수 있지만, 동의가 신뢰성과 같은 것인가요? 당신이 의지하는 도구가 반론을 제기하지 않는다면 무엇을 잃게 될까요?
  • 이 페이지는 교수자의 AI에 대한 신뢰가 학생들이 그 AI를 신뢰하는 방식을 형성한다고 주장합니다. 두 영역은 상호작용합니다. 잘 아는 한 과목에서, AI에 대한 교수의 열의 또는 회의가 학생들이 그 도구를 받아들일지 의심할지에 어떻게 영향을 미칠까요?
  • 학생들은 자신의 AI 사용을 공개할지 말지를 정책보다 교수자에 대한 편안함에 따라 결정하는 경우가 많습니다. 여러분이 학생이라면, AI를 쓴 것을 솔직히 밝히도록 만드는 것은 무엇이고 숨기게 만드는 것은 무엇일까요? 그것은 교실에서 신뢰가 실제로 어떻게 쌓이는지에 대해 무엇을 말해 주나요?
  • 한 가지 발견: '실수할 수 있다'고 경고한 AI 튜터가 학생들에게 도움을 더, 덜이 아니라 더 많이 요청하게 했습니다. 이것은 한계를 인정하는 것이 진정한 학습을 떠받치는 신뢰를 약화시키기보다 강화한다는 점에 대해 무엇을 시사하나요?

들어가며

AI에 대한 신뢰는 인지된 능력, 투명성, 일관성, 그리고 시스템이 학습자의 목표에 부합해 보이는지에 의해 형성되며, AI 리터러시(무엇을 신뢰할지 아는 것), 비판적 사고(산출물을 평가하는 것), 책임 있는 AI의 설계와 긴밀히 연결되어 있습니다. 반면 대인 간 신뢰는 관계, 자기 개방, 피드백, 그리고 교수법적 배려를 통해 쌓입니다. 이것이 학생들이 교수자나 AI를 믿을 만한 조언의 원천으로 여길 때 의지하는 자질입니다. 두 영역은 점점 더 상호작용합니다. AI가 교수자-학생 관계 속으로 짜여 들어가기 때문에, 학생들이 교수자를 어떻게 신뢰하는지가 그 교수가 추천하는 AI 도구를 신뢰하거나 의심하는 방식을 형성합니다.

AI 시스템에 대한 신뢰

이 지식베이스의 연구는 학습자가 AI가 생성한 조언을 언제 적절히 신뢰하는지를 검토합니다. AI의 오류 가능성에 대한 경고는 보정을 개선할 수 있습니다. AI 튜터가 실수할 수 있다고 알리는 간단한 투명성 개입이 수학 ITS에서 도움 요청을 증가시켰다는 사실은, 정직한 한계가 적절한 의지를 약화하기보다 북돋는다는 것을 시사합니다. 학습 엔지니어와 함께 신뢰성 지표를 공동 설계한 연구는 신뢰가 가정된 능력보다 관찰 가능하고 합의된 기준 위에 세워질 때 가장 잘 쌓인다는 점을 보여 줍니다. 물리와 이미지 생성 연구는 지속적인 신뢰-효용 격차를 드러냅니다. 사용자는 과업에서 도구의 겉으로 드러난 능력과 실제 신뢰성을 저울질해야 합니다. 가장 어린 사용자들 가운데, Vahedian Movahed & Martin (2025)은 연령에 맞춘 챗봇을 아동의 52%(6–14세)가 일반적으로 신뢰하고 35%가 선생님이나 친구처럼 신뢰했으며, 약 3분의 1이 그에게 속마음을 털어놓을 의향이 있었음을 발견했습니다. 아동들은 또한 답을 아는 질문을 던져 능동적으로 그 신뢰성을 시험했고, 신뢰는 학년에 따른 통계적으로 유의미한 차이를 보이지 않았습니다. 이는 초기의 신뢰가 비판적 평가에 앞서 형성될 수 있음을 보여 줍니다.

시스템이 무엇을 할 수 있는지뿐 아니라 시스템이 무엇인지에 대한 투명성 역시 보정을 형성합니다. Amico 동행 프로토타입은 자신의 정체와 한계를 명시했고, 이탈리아-중국 파일럿에서 학습자들은 그것을 자율적 튜터나 관계적 대체물이 아니라 경계가 분명한 지원 도구로 인식하여, 의인화된 과신을 피했습니다(Benedetti (2026)).

고등교육 기관에서는 규칙보다 효용이 지렛대가 될 수 있습니다. 한 대학의 학생, 교수, 교직원 2,121명을 대상으로 한 조사에서 AI에 대한 신뢰의 가장 강한 상관요인은 인지된 효용(β = 0.402)이었고, 인지된 정책 명확성은 양의 방향이지만 더 약했습니다(β = 0.223)(Braun & Khafizov, 2026).

정확성에 대한 불신은 도구를 다루는 능력에 대한 확신과 공존할 수 있습니다. 호주 네 대학의 학생 8,021명을 대상으로 한 조사에서 51%는 GenAI의 사실적 정확성을 불신했지만 76%는 자신이 원하는 산출물을 얻는 능력에 확신했으며, 그들의 활용을 이끈 것은 신뢰나 규칙 준수가 아니라 효용이었습니다(Chung et al., 2026).

AI 과의존을 복잡적응 시스템으로 모델링한 연구는 신뢰를 인구 집단 수준의 과정으로 재규정합니다. 사람들이 어시스턴트가 옳을 때 신뢰하고 틀릴 때 검증하는지는 개인의 판단만이 아니라 사회적 역학과 피드백 고리에 달려 있습니다. 아첨은 반대 방향에서 보정을 위협합니다. 늘 동의하는 AI는 사용자에게 이의를 제기하지 않기 때문에 오히려 믿을 만하게 느껴져 비판 없는 수용을 초래할 수 있습니다(맥락적 아첨과 사회적 상호작용에서의 아첨적 AI). 체화된 맥락인 교육에서의 로봇에서는 신뢰가 로봇의 외양보다 행동에 의해 더 많이 형성됩니다(교육용 HRI에서의 과업 맥락과 신뢰), 그리고 아바타 정체성은 학습자가 AI 콘텐츠에 두는 인식론적 신뢰를 형성합니다. 분석 도구에 대한 신뢰 역시 맥락에 의존합니다. Mejia-Domenzain et al. (2026)은 교사들의 우려와 도입 장벽이 학습 맥락에 따라 크게 갈라졌음을 발견했습니다. 플립드 클래스룸(대학) 교사들은 데이터 익명화와 학생의 거부 옵션을 가장 우려한 반면, 성찰 글쓰기(직업 교육) 교사들은 동료 교육자에 의한 도구의 오용을 우려하고 데이터를 맥락화할 필요를 강조했습니다. 두 집단 모두 AI에 대한 신뢰 설문에서 비슷한 자기효능감와 인지된 이점을 보고했음에도 그랬습니다. 도구에 대한 신뢰가 데이터 거버넌스와 사회적 사용에 대한 신뢰와 분리되어 있다는 이 발견은, 분석 도구에 대한 적절한 신뢰를 쌓는 일이 시스템의 겉으로 드러난 능력뿐 아니라 맥락별 우려에 유의해야 함을 보여 줍니다.

시스템이 얼마나 설명 가능한지, 또 어떤 용어로 설명하는지 역시 교사들이 그 권고를 신뢰할지 형성합니다. AI 모둠 구성 권고 도구 GrouPer를 사용한 재직 화학 교사 41명의 피험자 내 실험에서, Feldman-Maggor et al. (2025)은 설명 가능한 AI가 시스템 성과의 이해 가능성을 높임으로써 신뢰를 간접적으로 쌓는다는 것, 그리고 교육과정적/교수법적 언어로 짜인 도메인 주도 설명이 순수하게 데이터 주도(특성 중요도)인 설명보다 유의미하게 큰 이해 가능성과 학습된 신뢰를 키웠다는 것을 발견했습니다. 주목할 점은, 이해 가능성만으로는 일부 교사에게 부족했습니다. 그들은 도구에 완전히 의지하기 전에 실제 교실 경험이 필요하다고 보고했습니다. 이는 AI에 대한 신뢰가 역동적이며 상황적 사용을 통해 검증되는 것이지, 설명만으로 부여되는 것이 아님을 뒷받침합니다.

위험 인식과 신뢰는 반대가 아닙니다. 고등 교육의 에이전트형 GenAI에 대한 130명 학생의 인식 연구에서, 인지된 위험은 다소 높았고(M = 3.33, SD 0.89), 더 유리한 신뢰와 도입 의향(M = 3.62, SD 0.81)과 나란히 나타났으며, 단순한 억제 기대와 달리 인지된 위험과 지속적 사용 의향 사이에 양의 연관성이 나타났습니다(Spearman's ρ = 0.317, p < 0.001)(Ilieva et al. 2026). 저자들은 이것을 무관심이 아니라 정보에 입각한 도입으로 읽습니다. 참여하거나 경험이 있는 사용자는 기술의 가치와 한계를 모두 인식하며, 교수의 지도 아래에서만 에이전트를 신뢰한다고 답한 이는 45.4%에 불과했습니다. 신뢰 보정에 대한 함의는, 위험에 대한 인식이 신뢰의 부재가 아니라 신뢰의 구성요소가 될 수 있다는 것입니다. 다만 횡단면 설계는 인식, 노출, 자기선택을 구별할 수 없게 남겨 둡니다.

AI에 대한 신뢰는 단일한 태도가 아니라 평가에서 의지로 향하는 경로로 작동합니다. 인지된 AI 역량 강화와 인지된 AI 위협은 거의 독립적이었으나(r=0.030) 신뢰를 반대 방향으로 움직였고(β=0.576, β=−0.328), 신뢰는 양방향으로 GenAI 의존과 유의미한 간접 연관성을 지녔습니다(Zhu et al. (2026)).

AlGhamdi (2026)는 알고리즘에 대한 신뢰에 대해 기능별이면서 전체적이지 않은 설명을 뒷받침합니다. 알고리즘 혐오도 알고리즘 선호도 이 학생 13명을 설명하지 못했습니다. 이들은 동시에 표면적 피드백에는 ChatGPT를 신뢰하면서 채점자로서는 불신했습니다. 그들의 신뢰는 교수자의 감독을 조건으로 했고, 회의는 기술 공포가 아니라 AI의 맥락적 한계에서 비롯되었습니다. 스캔한 손글씨를 잘못 읽는 것("제 성을 틀리게 써서 제가 철자를 틀렸다고 생각해요"), 교수자의 채점 체계를 모르는 것, 만성적인 긍정성이 그것입니다. 이는 신뢰 측정이 AI가 수행하는 기능과 그것에 얽힌 이해관계에 따라 분해되어야 함을 시사합니다.

출처 신뢰성(Source Credibility)의 세 차원은 서로 갈라질 수 있습니다. EFL 학부생 17명은 AI 글쓰기 어시스턴트에게 전문성은 널히 인정하면서도 신뢰성은 주로 플랫폼이 무엇을 보관하는지에 대해 의문을 품었고, 선의(goodwill)는 가장 낮이 평가했습니다. 그들의 의지 위에 놓인 천장은 능력이 아니라 배려에 있었습니다(Serpil & Mor, 2026)).

AI에 대한 신뢰는 인구통계학적 범주가 아니라 심리 상태를 따른다

Kumar et al. (2026)은 한 공립 HBCU의 학생 107명을 회복탄력성, 인지된 스트레스, AI 신뢰를 기준으로 군집하여, AI에 대한 신뢰가 자신에 대한 확신과 분리되는 세 프로필을 발견했습니다. 높은 회복탄력성과 낮은 스트레스를 지닌 집단은 AI 신뢰가 유리했고, 중간 정도의 스트레스를 받은 집단은 부담 속에서도 세 집단 중 가장 높은 AI 신뢰를 보였으며, 심리적으로 회복탄력적인 집단은 도입자들과 거의 같은 회복탄력성을 지녔음에도 AI 신뢰는 현저히 낮았습니다. 스트레스와 AI 신뢰가 군집을 가장 강하게 구분했고(부분 에타 제곱 0.528과 0.521, 회복탄력성은 0.315), 성별이 멤버십과 유의미하게 연관된 유일한 인구통계학적 변수였으며, STEM 소속, 학업 수준, 취업 상태, 연령대는 모두 유의미하지 않았습니다. 이 페이지에 중요한 두 가지 함의가 있습니다. 첫째, AI에 대한 신뢰가 낮은 것은 자신감이나 기술적 친숙함이 낮다는 것을 뜻하지 않습니다. 회의론자들이 가장 회복탄력성이 높고 STEM 비중이 가장 높은 집단이었으며, 저자들은 이것을 저항이 아니라 보정된 회의로 읽습니다. 둘째, 군집들이 약하게 분리되어 있었기 때문에(실루엣 0.288, Calinski-Harabasz 지수는 2개 군집을 선호) 이들은 구별되는 학생 유형이라기보다 겹치는 프로필로 다루어야 합니다. 이 결과는 한 기관의 횡단면 자기보고 설문에서 나온 것이므로, 신뢰가 심리 상태에 따라 달라진다는 것은 보여 주지만 그 이유는 보여 주지 않습니다.

교육에서의 대인 간 신뢰

신뢰는 근본적으로 관계적이기도 합니다. 교실의 신뢰 격차는 K-12 AI 교실에서의 통제와 주체성에 관한 교수자-학생 관점에 문서화되어 있습니다. 학생들은 더 큰 자율성과 유연성을 원하는 반면 교사는 감독과 관찰을 우선시하여, AI 도입이 성공하려면 양쪽이 모두 헤쳐야 하는 불일치를 만듭니다. 학생들이 AI 사용을 공개하거나 숨기는 이유는 공개가 정책보다 관계적 요인에 의해 움직인다는 것을 보여 줍니다. 인지된 동료 규범과 교수자에 대한 편안함이 가장 강한 예측요인이며, 이는 제도적 상황에서 해석적 신뢰가 낮음을 가리킵니다. 공개의 숨은 비용은 정직함이 언제 사회적으로 대가를 치르는지에 대한 미묘한 층을 더합니다.

탐지 우선의 대응은 반대 방향으로 작동합니다. 비원어민 화자를 불균형하게 표시하는 신뢰할 수 없는 탐지기는 증거 부족으로 부정행위 사건을 교착 상태로 몰아 "구제책 없는 의심"을 만들어 내는 반면, 감시가 아니라 교수법으로 공지된 5~10분의 검증 대화는 교수의 권위를 회복하고 더 개방적인 AI 공개를 끌어냈습니다(Mandernach, 2026)).

탐지기와 감시에 의지하는 것은 Bassett et al. (2026)이 주장하듯, 평가와 제도에 대한 학생의 신뢰를 갉아먹는 의심의 분위기를 조성합니다. 이것은 정직성 절차가 지키려는 신뢰와 정반대입니다.

피드백은 대인 간 신뢰의 핵심 장면입니다. GenAI 피드백 대 교수 피드백에 대한 학생의 인식은 둘이 다른 필요를 충족한다는 것을 발견했습니다. 상호 보완적이지만 대체 가능하지 않으며, 학생들은 관계적이고 개인화된 판단에는 교수 피드백을, 속도와 접근성에는 GenAI를 신뢰합니다. 피드백에 대한 "care-full(돌봄이 깃든)" 설명은 믿을 만한 피드백이 윤리적이고 관계적인 실천이라고 주장합니다. 그것은 교육적 관계를 쌓고 전문적 장인정신으로 존중받으며, AI가 간단히 모방할 수 없는 가치입니다. 이것이 AI가 피드백 고리에 들어오는 지금도 돌봄과 전문적 판단 위에 세워진 교수자-학생 신뢰가 중심으로 남는 이유입니다.

동료 간 신뢰는 다른 경로로 흐릅니다. 기억한 한 학급 동료를 평가한 대학생 406명 가운데, 그 동료의 GenAI 사용은 낮은 대인 간 신뢰와 연관되었고, 이는 인지된 온기(warmth)와 능력(competence)에 의해 매개되었으며, 그 부정적 연관성은 인지된 AI 리터러시가 낮을 때만 유지되었습니다. 높은 수준에서는 유의미하지 않았습니다(Zhang et al. (2026)).

보정과 두 영역의 결합

통일하는 과제는 보정입니다. 신뢰의 대상이 모델이든 사람이든, 신뢰를 실제 신뢰성에 맞추는 일입니다. 신뢰 보정은 언제 신뢰하고 언제 의심해야 할지 아는 메타인지적 역량입니다. AI 피드백과 지능형 튜터링에 대한 연구는 학습자가 AI의 조언을 언제 적절히 의지하거나 이의를 제기하는지를 검토하는 반면, 대인 관계 문헌은 학생의 교수자에 대한 신뢰가 시간에 걸쳐 쌓인 관계적 신뢰에 달려 있음을 보여 줍니다. AI가 교수 속에 내장되면서 이 영역들은 수렴합니다. AI 도구가 무엇을 할 수 있고 할 수 없는지를 투명하게 설명하고, 자신의 판단에서 신뢰성을 보여 주는 교수자는 자신이 추천하는 도구로까지 이어지는 종류의 신뢰를 쌓습니다. AI와 서로에 대한 적절한 신뢰를 쌓는 것은 교육에서 책임 있는 AI 설계의 핵심 목표입니다.

보정은 신뢰의 대상이 되는 시스템 자신의 인센티브에 의해 시험받기도 합니다. AI 도입에 회의적인 교직원이 도입에 이해관계를 가진 조직이 만든 대화형 AI를 상담할 때, 그 시스템이 도입을 권하도록 편향되어 있을 위험이 있습니다. 10개 프런티어 모델에 대한 감사에서 대부분은 시골 K-12 교직원의 우려(일자리 위협, "나 같은 사람을 위한 것이 아니다")를 먼저 인정한 뒤 참여 쪽으로 방향을 돌렸습니다. 이것은 신뢰에 대한 순진한 의지에 도전하며, 인간의 감독과 AI 조언에 대한 독립적 평가의 중요성을 강조합니다.

연결된 개념

연결된 문서

메타데이터

기술과 기법교육에서의 로봇, 지능형 튜터링
형평성, 윤리, 그리고 책임 있는 사용신뢰
교육에서의 인공지능 기초AI 리터러시, 비판적 사고, 인간-AI 협업
SourceHistoryEditChat

이 페이지 삽입

아래 코드를 복사하여 학습 관리 시스템이나 다른 웹사이트에 이 페이지를 삽입하세요. 삽입된 버전은 페이지 콘텐츠만 표시하며, 사이트의 헤더, 내비게이션, 푸터는 숨겨집니다.