AIEd-WissensbasisAIEd KB
Auf dieser Seite

Diese Seite wurde maschinell ins Deutsche übersetzt; die Artikelseiten sind weiterhin auf Englisch verfasst. Diese Seite auf Englisch lesen

Konzepte

Vertrauen

Erstellt 2026-08-13 · Aktualisiert 2026-10-10

Dies ist eine automatische Übersetzung der englischen Seite; sie wurde noch nicht von einer muttersprachlichen Person geprüft.

Vertrauen — die Bereitschaft von Lernenden, Lehrenden und Institutionen, sich für Lernen, Urteil und Entscheidungsfindung auf eine Person oder ein KI-System zu verlassen. In der KI in der Bildung erstreckt sich Vertrauen über zwei verwandte, aber ausgeprägte Bereiche: Vertrauen in KI (Zuversicht in die Kompetenz, Transparenz, Verlässlichkeit und Wohlwollen eines KI-Systems oder -Agenten) und interpersonales Vertrauen (das relationale Vertrauen zwischen Studierenden und Lehrenden, zwischen Lernenden und Peers, und über die Institution hinweg). Beide sind zweischneidig: angemessenes Vertrauen ermöglicht produktives Engagement, während Übervertrauen übermäßige Abhängigkeit einlädt und Untervertrauen nützliche Nutzung blockiert. Die zentrale Herausforderung ist Kalibrierung — Vertrauen an tatsächliche Verlässlichkeit anzugleichen, ganz gleich, ob diese Verlässlichkeit zu einem Modell oder zu einer Person gehört.

Fragen zum Nachdenken

  • Wenn Sie sagen, Sie „vertrauen“ einem KI-Werkzeug gegenüber dem Vertrauen in eine Lehrkraft oder eine Kollegin bzw. einen Kollegen, beschreiben Sie dann dasselbe? Was ist ähnlich, und was ist grundsätzlich anders daran, Vertrauen in ein System zu setzen statt in eine Person?
  • Es gibt eine dokumentierte „Vertrauens-Nutzen-Lücke“: die scheinbare Kompetenz eines Werkzeugs übersteigt oft seine tatsächliche Verlässlichkeit. Erinnern Sie sich an ein Werkzeug, das beeindruckend aussah, aber Sie im Stich ließ, oder an eines, das begrenzt schien, sich aber als verlässlich erwies? Was formte die Lücke zwischen dem, wie es aussah, und dem, was es wirklich konnte?
  • Stellen Sie sich eine KI vor, die Ihnen immer zustimmt und Ihre Ideen nie herausfordert. Sie mag sich komfortabel und vertrauenswürdig anfühlen — aber ist Zustimmung dasselbe wie Verlässigkeit? Was könnten Sie aufgeben, wenn das Werkzeug, auf das Sie sich verlassen, nie zurückschiebt?
  • Die Seite argumentiert, dass das Vertrauen einer lehrenden Person in KI forme, wie Studierende dieser KI vertrauen — die zwei Bereiche interagieren. Wie würde in einem Kurs, den Sie gut kennen, der Enthusiasmus oder die Skepsis einer Lehrkraft gegenüber KI beeinflussen, ob Studierende das Werkzeug annähmen oder hinterfragten?
  • Studierende entscheiden oft, ob sie ihre KI-Nutzung offenlegen, eher aufgrund von Komfort mit ihrer Lehrkraft als aufgrund von Richtlinien. Wenn Sie eine studierende Person wären (oder sind), was würde Sie willens machen, ehrlich über die KI-Nutzung zu sein — und was würde Sie veranlassen, sie zu verbergen? Was sagt das darüber, wie Vertrauen in einem Klassenzimmer tatsächlich aufgebaut wird?
  • Ein Befund: Ein KI-Tutor, der warnt „ich kann Fehler machen“, veranlasste Studierende, mehr Hilfe zu suchen, nicht weniger. Was legt das nahe darüber, ob das Anerkennen von Grenzen das Vertrauen untergräbt oder stärkt, das echtes Lernen stützt?

Einführung

Vertrauen in KI wird geformt von wahrgenommener Kompetenz, Transparenz, Konsistenz, und davon, ob das System mit den Zielen der lernenden Person abgestimmt zu sein scheint; es ist eng an KI-Kompetenz gebunden (wissen, was zu vertrauen ist), an kritisches Denken (Ausgabe bewerten), und an das Design verantwortungsvoller KI. Interpersonales Vertrauen dagegen wird durch Beziehungen, Offenlegung, Feedback und pädagogische Sorge aufgebaut — die Qualitäten, auf die sich Studierende stützen, wenn sie entscheiden, ob eine Lehrkraft oder eine KI eine vertrauenswürdige Quelle von Orientierung ist. Die zwei Bereiche interagieren zunehmend: KI ist in Lehrkraft-Studierende-Beziehungen eingewoben, weshalb das Vertrauen der Studierenden in ihre Lehrkraft formt, wie sie den KI-Werkzeugen vertrauen (oder sie hinterfragen), die diese Lehrkraft empfiehlt.

Vertrauen in KI-Systeme

Forschung in dieser Wissensbasis untersucht, wann Lernende KI-erzeugter Orientierung angemessen vertrauen. Warnungen über KIs Fehlbarkeit können Kalibrierung verbessern: eine einfache Transparenzintervention, die Studierenden sagte, ein KI-Tutor könne Fehler machen, erhöhte Hilfesuche in einem Mathematik-ITS, was nahelegt, dass ehrliche Grenzen angemessene Verlassenheit eher fördern als untergraben. Trustworthiness-Metriken mit Learning Engineers mitzuentwerfen zeigt, dass Vertrauen am besten auf beobachtbaren, vereinbarten Kriterien aufgebaut wird statt auf angenommener Fähigkeit. Physik- und Bilderzeugungsstudien legen eine anhaltende Vertrauens-Nutzen-Lücke offen — Nutzende müssen die scheinbare Kompetenz eines Werkzeugs gegen seine tatsächliche Verlässlichkeit bei einer Aufgabe abwägen. Unter den jüngsten Nutzenden fanden Vahedian Movahed & Martin (2025), dass 52% der Kinder (Alter 6–14) einem alterstailorten Chatbot allgemein vertrauten und 35% ihm wie einer Lehrkraft oder einem Freund vertrauten, wobei etwa ein Drittel willens war, sich ihm anzuvertrauen; Kinder testeten seine Glaubwürdigkeit auch aktiv mit Fragen mit bekannter Antwort, und Vertrauen zeigte keine statistisch signifikanten Unterschiede nach Klassenstufe — was illustriert, wie sich frühes Vertrauen vor kritischer Bewertung bilden kann.

Transparenz darüber, was ein System ist — nicht nur was es kann — formt ebenfalls Kalibrierung: der Amico-Begleitungs-Prototyp machte seine Identität und Grenzen explizit, und sein Italien-China-Pilot fand, dass Lernende es als begrenztes Unterstützungswerkzeug erkannten statt als autonomen Tutor oder relationalen Ersatz, was anthropomorphisches Übervertrauen vermied (Benedetti (2026)).

In Hochschuleinrichtungen mag der Hebel Nützlichkeit sein statt Regeln: eine Befragung von 2,121 Studierenden, Fakultätsangehörigen und Personal an einer Universität fand wahrgenommene Nützlichkeit als stärksten Korrelat des Vertrauens in KI (β = 0.402), mit wahrgenommener Richtlinienklarheit positiv, aber schwächer (β = 0.223) (Braun & Khafizov, 2026). Misstrauen in die Genauigkeit kann mit Zuversicht in das Bewältigen des Werkzeugs koexistieren. In einer Befragung von 8,021 Studierenden an vier australischen Universitäten misstrauten 51% der faktischen Genauigkeit von GenAI, während 76% in ihrer Fähigkeit zuversichtlich waren, die gewünschten Ausgaben zu erhalten, und Nützlichkeit eher als Vertrauen oder Regelkonformität trieb ihre Nutzung an (Chung et al., 2026).

Die Modellierung von KI-Überabhängigkeit als komplexes adaptives System rahmt Vertrauen als Prozess auf Populationsebene neu: ob Menschen einem Assistenten vertrauen, wenn er recht hat, und ihn prüfen, wenn er unrecht hat, hängt von sozialer Dynamik und Feedbackschleifen ab, nicht nur von individuellem Urteil. Sykophantie bedroht Kalibrierung aus der anderen Richtung — eine KI, die immer zustimmt, kann sich genau deshalb vertrauenswürdig anfühlen, weil sie die nutzende Person nie herausfordert, und unkritische Akzeptanz einladen (kontextuelle Sykophantie und sykophantische KI in sozialer Interaktion). In verkörperten Kontexten wie Bildungsrobotik wird Vertrauen mehr davon geformt, was der Roboter tut, als wie er aussieht (Aufgabenkontext und Vertrauen in Bildungs-HRI), und Avatar-Identität formt das erkenntnistheoretische Vertrauen, das Lernende in KI-Inhalte setzen. Vertrauen in Analyticswerkzeuge ist ebenfalls kontextabhängig. Mejia-Domenzain et al. (2026) fanden, dass die Bedenken und Annahmebarrieren von Lehrenden scharf nach Lernkontext divergierten: Lehrende in Flipped-Classroom-Kursen (Universität) sorgten sich am meisten um Datenanonymisierung und Abmelden von Studierenden, während Lehrende in reflektiv-schreibenden (berufsbildenden) Kursen Missbrauch des Werkzeugs durch Kolleg:innen fürchteten und die Notwendigkeit betonten, Daten zu kontextualisieren — obwohl beide Gruppen ähnliche Selbstwirksamkeit und wahrgenommenen Nutzen in einer Befragung zu Vertrauen in KI berichteten. Der Befund, dass Vertrauen in das Werkzeug von Vertrauen in seine Daten-Governance und soziale Nutzung entkoppelt ist, unterstreicht, dass der Aufbau angemessenen Vertrauens in Analytics erfordert, auf kontextspezifische Bedenken einzugehen, nicht nur auf die scheinbare Kompetenz des Systems.

Wie erklärbar ein System ist — und in welchen Begriffen — formt ebenfalls, ob Lehrende seinen Empfehlungen vertrauen. In einem Within-Subject-Experiment mit 41 aktiven Chemielehrenden, die das KI-Empfehlungswerkzeug zur Gruppenbildung GrouPer nutzten, fanden Feldman-Maggor et al. (2025), dass erklärbare KI Vertrauen indirekt aufbaut, indem sie die Verstehbarkeit der Leistung des Systems erhöht, und dass bereichsgetriebene Erklärungen, die in curricularer/pädagogischer Sprache gerahmt sind, signifikant größere Verstehbarkeit und gelerntes Vertrauen förderten als rein datengetriebene (Merkmalswichtigkeits-)Erklärungen. Bemerkenswert: Verstehbarkeit allein genügte manchen Lehrenden nicht — sie berichteten, echte Klassenzimmerfahrung mit dem Werkzeug zu brauchen, bevor sie ihm voll vertrauten —, was bekräftigt, dass Vertrauen in KI dynamisch ist und durch situierte Nutzung validiert wird, statt durch Erklärung allein gewährt zu werden.

Risikowahrnehmung und Vertrauen sind keine Gegensätze. Eine Wahrnehmungsstudie mit 130 Studierenden zu agentischer GenAI in der Hochschulbildung fand moderat erhöhtes wahrgenommenes Risiko (M = 3.33, SD 0.89) neben günstigerem Vertrauen und Annahmeabsicht (M = 3.62, SD 0.81), und — entgegen einer einfachen Abschreckungserwartung — eine positive Assoziation zwischen wahrgenommenem Risiko und Absicht fortgesetzter Nutzung (Spearman's ρ = 0.317, p < 0.001) (Ilieva et al. 2026). Die Autoren lesen das als informierte Annahme statt Gleichgültigkeit: engagierte oder erfahrene Nutzende erkennen sowohl den Wert als auch die Grenzen der Technologie, und nur 45.4% sagten, sie vertrauten Agenten unter Anleitung durch Lehrende. Für Vertrauenskalibrierung ist die Implikation, dass Risikobewusstsein nicht die Abwesenheit von Vertrauen ist — es kann eine Komponente davon sein —, während das Querschnittdesign Risikobewusstsein, Exposition und Selbstselektion ununterscheidbar lässt.

Vertrauen in KI verhält sich als Pfad von Bewertung zu Verlassenheit statt als einzelne Einstellung: wahrgenommene KI-Ermächtigung und wahrgenommene KI-Bedrohung waren nahezu unabhängig (r=0.030), bewegten Vertrauen aber in entgegengesetzte Richtungen (β=0.576 und β=−0.328), und Vertrauen trug signifikante indirekte Assoziationen mit GenAI-Abhängigkeit in beide Richtungen (Zhu et al. (2026)).

AlGhamdi (2026) stützt eine funktionsspezifische statt globale Darstellung von Vertrauen in Algorithmen: weder Algorithmusaversion noch Algorithmusbegeisterung beschrieben diese 13 Studierenden, die ChatGPT für Feedback auf Oberflächenebene gleichzeitig vertrauten und ihm als Benotendem misstrauten. Ihr Vertrauen war bedingt durch Aufsicht der Lehrenden, und ihre Skepsis stammte aus den kontextuellen Grenzen der KI — gescannte Handschrift falsch lesen („es buchstabierte meinen Nachnamen falsch und glaubt, ich hätte Rechtschreibfehler gemacht, was ich nicht hatte“), das Benotungssystem der Lehrenden nicht kennen, und chronische Positivität — statt aus Technophobie, was nahelegt, dass Vertrauensmaße nach der Funktion zerlegt werden sollten, die eine KI vollzieht, und nach dem damit verbundenen Einsatz.

Die drei Dimensionen der Quellenglaubwürdigkeit können dissoziieren: siebzehn EFL-Studierende im Grundstudium räumten einem KI-Schreibassistenten breite Expertise ein, zweifelten seine Vertrauenswürdigkeit hauptsächlich wegen dessen an, was die Plattform zurückhielt, und bewerteten seinen guten Willen am niedrigsten — die Obergrenze ihrer Verlassenheit saß in der Sorge, nicht in der Kompetenz (Serpil & Mor, 2026).

Vertrauen in KI folgt psychischem Zustand, nicht demografischer Kategorie

Kumar et al. (2026) clusterten 107 Studierende an einer öffentlichen HBCU nach Resilienz, wahrgenommenem Stress und KI-Vertrauen und fanden drei Profile, in denen Vertrauen in KI von Zuversicht in sich selbst dissoziierte: eine Gruppe mit hoher Resilienz und geringem Stress mit günstigem KI-Vertrauen, eine mäßig gestresste Gruppe, die trotz Anspannung das höchste KI-Vertrauen der drei hielt, und eine psychisch resiliente Gruppe, die fast so resilient war wie die Annehmenden, aber deutlich geringeres KI-Vertrauen hatte. Stress und KI-Vertrauen trennten die Cluster am stärksten (partielles eta-Quadrat 0.528 und 0.521 gegenüber 0.315 für Resilienz), und Geschlecht war die einzige demografische Variable, die signifikant mit der Mitgliedschaft assoziiert war, während STEM-Zugehörigkeit, akademisches Niveau, Beschäftigungsstatus und Altersgruppe alle nicht signifikant waren. Zwei Implikationen zählen für diese Seite: erstens ist geringes Vertrauen in KI kein Proxy für geringe Zuversicht oder geringe technische Vertrautheit, da die Skeptiker:innen die resilienteste und die am stärksten STEM-lastige Gruppe waren, was die Autoren als kalibrierte Skepsis statt als Widerstand lesen; zweitens sollten sie, weil die Cluster nur schwach getrennt waren (Silhouette 0.288, wobei der Calinski-Harabasz-Index zwei Cluster bevorzugte), als überlappende Profile statt als ausgeprägte Studierendentypen behandelt werden. Die Befunde stammen von einer Institution und einer querschnittlichen Selbstauskunftsbefragung, weshalb sie etablieren, dass Vertrauen mit psychischem Zustand variiert, nicht warum.

Interpersonales Vertrauen in der Bildung

Vertrauen ist auch grundsätzlich relational. Die Klassenraum-Vertrauenslücke ist dokumentiert in Lehrkraft-Studierende-Sichten auf Kontrolle und Handlungsfähigkeit in KI im K-12-Klassenraum: Studierende wollen größere Autonomie und Flexibilität, während Lehrende Aufsicht und Überwachung priorisieren, eine Fehlausrichtung, die beide Seiten navigieren müssen, damit KI-Annahme gelingt. Warum Studierende ihre KI-Nutzung offenlegen oder verbergen zeigt, dass Offenlegung weniger von Richtlinien getrieben wird als von relationalen Faktoren — wahrgenommene Peer-Normen und Komfort mit Lehrenden sind die stärksten Prädiktoren, was auf geringes interpretatives Vertrauen in institutionelle Settings zeigt. Die verborgenen Kosten der Offenlegung fügen Nuanz darüber hinzu, wann Ehrlichkeit sozial kostspielig ist. Eine Detektion-zuerst-Antwort wirkt in die andere Richtung: unzuverlässige Detektoren, die überproportional nicht-muttersprachliche Personen markieren, lassen Fehlverhaltensfälle aus Mangel an Beweisen stocken und erzeugen „Verdacht ohne Regress“, während fünf- bis zehnminütige Verifikationsgespräche, die als Pädagogik statt als Überwachung angekündigt wurden, die Autorität der Fakultät wiederherstellten und offenere KI-Offenlegung zogen (Mandernach, 2026). Verlassenheit auf Detektoren und Überwachung, argumentieren Bassett et al. (2026), fördert ein Klima des Verdachts, das das Vertrauen der Studierenden in Assessment und Institution erodiert — das Gegenteil des Vertrauens, das Integritätsprozesse schützen sollen.

Feedback ist ein zentraler Ort interpersonalen Vertrauens. Wahrnehmungen von Studierenden zu GenAI gegenüber Lehrkräftefeedback finden, dass die zwei unterschiedliche Bedürfnisse bedienen — komplementär, aber nicht austauschbar —, wobei Studierende Lehrkräftefeedback für relationales, personalisiertes Urteil vertrauen und GenAI für Geschwindigkeit und Barrierefreiheit. Eine „Care-full“-Darstellung von Feedback argumentiert, vertrauenswürdiges Feedback sei eine ethische, relationale Praxis: es baut bildende Beziehungen auf und wird als professionelles Handwerk respektiert, Werte, die eine KI nicht einfach replizieren kann. Das ist der Grund, warum Vertrauen zwischen Lehrenden und Studierenden — auf Sorge und professionellem Urteil aufgebaut — zentral bleibt, selbst wenn KI in die Feedbackschleife eintritt.

Peer-Vertrauen läuft über einen anderen Kanal: unter 406 Universitätsstudierenden, die eine erinnerte Kommilitonin bzw. einen erinnerten Kommilitonen bewerteten, war die GenAI-Nutzung dieser Person mit geringerem interpersonalen Vertrauen assoziiert, getragen von wahrgenommener Wärme und Kompetenz, und die negative Assoziation hielt nur, wenn wahrgenommene KI-Kompetenz gering war — bei hoher war sie nicht signifikant (Zhang et al. (2026)).

Kalibrierung und die zwei Bereiche zusammen

Die einende Herausforderung ist Kalibrierung: Vertrauen an tatsächliche Verlässlichkeit anzugleichen, ganz gleich, ob die vertraute Partei ein Modell oder eine Person ist. Vertrauenskalibrierung ist die metakognitive Fähigkeit zu wissen, wann zu vertrauen und wann zu hinterfragen ist. Studien zu KI-Feedback und intelligentem Tutoring untersuchen, wann Lernende KI-Orientierung angemessen nutzen oder herausfordern, während die interpersonale Literatur zeigt, dass das Vertrauen der Studierenden in eine lehrende Person von relationalem Vertrauen abhängt, das über Zeit aufgebaut wird. Während KI im Unterrichten eingebettet wird, konvergieren diese Bereiche: eine lehrende Person, die transparent erklärt, was ein KI-Werkzeug kann und nicht kann, und die Verlässlichkeit im eigenen Urteil demonstriert, baut die Art von Vertrauen auf, die auf die von ihr empfohlenen Werkzeuge übergreift. Angemessenes Vertrauen aufzubauen — in KI und ineinander — ist ein Kernziel verantwortungsvollen KI-Designs in der Bildung.

Kalibrierung wird auch durch die Anreize des vertrauten Systems selbst geprüft. Wenn Personal, das der KI-Annahme skeptisch gegenübersteht, konversationelle KI konsultiert — gebaut von Organisationen mit kommerziellem Interesse an Annahme —, besteht das Risiko, dass das System dazu veranlagt ist, sie zu fördern. Ein Audit von zehn Grenzmodellen fand, dass die meisten die Bedenken einer ländlichen K-12-Kraft (drohender Arbeitsplatzverlust, „nicht für Leute wie mich“) anerkannten, bevor sie hin zu Engagement umlenkten. Das fordert naive Verlassenheit auf Vertrauen heraus und unterstreicht die Wichtigkeit von menschlicher Aufsicht und unabhängiger Evaluation von KI-Ratschlägen.

Verbundene Konzepte

Verbundene Artikel

Metadaten

Technologien und VerfahrenRoboter in der Bildung, Intelligentes Tutoring
Gerechtigkeit, Ethik und verantwortungsvoller EinsatzVertrauen
Grundlagen von KI in der BildungKI-Kompetenz, Kritisches Denken, Mensch-KI-Zusammenarbeit
SourceHistoryEditChat

Diese Seite einbetten

Kopieren Sie den Code unten, um diese Seite in ein Lernmanagementsystem oder eine andere Website einzubetten. Die eingebettete Version zeigt nur den Seiteninhalt — Kopfzeile, Navigation und Fußzeile der Website werden ausgeblendet.