AIEd Bilgi TabanıAIEd KB
Bu sayfada

Bu sayfayı İngilizce okuyun

Kavramlar

Açıklanabilir YZ

Oluşturuldu 2026-10-14

Bu İngilizce sayfanın bir ana dili konuşanı tarafından gözden geçirilmemiş otomatik çevirisidir.

Eğitimde Açıklanabilir YZ (XAI), bir YZ sisteminin kararlarını eğitim paydaşlarına — Öğrenenler, öğretmenlere, yöneticilere, ebeveynlere, araştırmacılara ve politika yapıcılara — anlaşılır kılmanın tasarımı ve incelenmesidir. Alanın ısrarla vurguladığı temel ayrım şudur: konunun açıklanması (bir olgunun neden doğru olduğu), bir YZ sisteminin kararının açıklanması (bu öğrenene neden bu etkinlik atandığı, bu yanıt neden yanlış işaretlendiği, bir risk tahminini hangi kanıtların desteklediği) ile aynı şey değildir. Eğitim, kendine özgü açıklanabilirlik ihtiyaçları getirir — gürültülü öğrenme verileri, doğrudan Metabiliş ve Öz Düzenlemeli Öğrenme destekleyebilen açıklamalar ve temelde farklı açıklama türlerine gereksinim duyan paydaşlar. Belirleyici tasarım sorusu, salt açıklama varlığı değil, açıklama niteliğidir: teknik olarak mevcut olan ama okunamaz, yanıltıcı veya hedef kitleyle uyumsuz bir açıklama, hiç açıklama olmamasından daha fazla zarar verebilir.

Dikkate Alınması Gereken Sorular

  • Bir YZ özel dersçisi size bir ipucunun neden verildiğini söylediğinde, bu konuyu mu açıklıyor yoksa sistemin kararını mi? Eğitim YZ’sini kullanımınızda her birinden üçer örnek adlandırabilir misiniz?
  • Eğitimde kimin açıklamaya ihtiyacı vardır — ve öğrenenler, öğretmenler ve politika yapıcılar aynı türden mi ihtiyaç duyar? Her biri bir açıklamayı ne için kullanırdı?
  • Bir YZ, bir öğrenciyi okulu bırakma riski taşıyor olarak işaretliyor. Buna göre hareket etmek için bir öğretmenin ne bilmesi gerekir, öğrencinin ne bilmesi gerekir? Aynı açıklama her ikisi için de uygun mudur?
  • Sayfa, açıklama niteliğinin açıklama varlığından daha önemli olduğunu savunuyor. Teknik olarak mevcut bir açıklamayı başarısız kılan nedir — bir açıklamanın orada olduğunu ama işe yaramadığını ya da daha kötüsü yanıltıcı olduğunu gördüğünüz bir zamanı düşünebilir misiniz?
  • Güven ve açıklama bağlantılıdır ama özdeş değildir. Özgüven dolu, akıcı bir açıklama neden kusurlu bir sistemde yanlış güven yaratabilir — ve bunun olup olmadığını nasıl tespit ederdiniz?

Giriş

Açıklanabilir eğitimde YZ, sınıflardaki YZ sistemlerinin kara kutu olmaması gerektiğine ilişkin artan beklentiyi adlandırır. Eğitimde YZ, sonuçları olan kararları etkilediğinden — notlar, risk işaretleri, öğrenme yolları, kaynak önerileri — paydaşlar giderek daha fazla, sistemin ne sonuca vardığını değil neden vardığını bilmeyi talep etmektedir. Eğitim bunu iki ayrı soruya dönüştürür: öğrenilen konunun açıklanması ve YZ sisteminin kendi karar alma sürecinin açıklanması. Bunları birbirine karıştırmak, pratik sonuçları olan bir kategori hatasıdır: bir fizik yanıtını kusursuz biçimde açıklayan bir YZ, öğrenciye ve öğretmene sistemin neden onları riskli olarak sıraladığı, belirli bir etkinliği neden önerdiği veya bir yanıtı neden yanlış işaretlediği konusunda hiçbir içgörü vermeyebilir.

Konunun açıklanması ile sistem kararının açıklanması karşılaştırması

Alanın temel katkısı — XAI-ED çerçevesi (Khosravi ve ark., 2022) — eğitimin genel amaçlı XAI’nin ötesinde kendine özgü açıklanabilirlik ihtiyaçlarına sahip olduğunu savunur. Bunların başında iki açıklama hedefi arasındaki ayrım gelir:

  • Konu açıklamaları içeriği açıklar: neden bir ipucu bir yanlış kanıyı ele aldığını, neden bir yanıtın yanlış olduğunu, bir fizik sonucunun ilkelerden nasıl izlendiğini. Bunlar, İskeleleme (Scaffolding), Geri Bildirim ve Metabiliş destekleyen pedagojik açıklamalardır.
  • Sistem kararı açıklamaları modeli açıklar: bu öğrenene neden bu etkinliğin atandığını, sistemin neden bu öğrencinin risk altında olduğunu öngördüğünü, bir bilgi izleme veya Öğrenme Analitiği tahminini hangi kanıtların desteklediğini. Bunlar, Güven Kalibrasyonu, Önyargı Azaltma ve hesap verebilirliği destekleyen şeffaflık açıklamalarıdır.

Ayrım, bunların farklı paydaşlara ve farklı amaçlara hizmet etmesi nedeniyle önemlidir. “Bu neden yanlış işaretlendi?” sorusuna yanıt veren bir öğrenci, çoğunlukla konu açıklamasına ihtiyaç duyar; bir risk işaretine göre hareket edip etmeyeceğine karar veren bir öğretmen veya önyargıyı denetleyen bir politika yapıcı ise sistem kararı açıklamasına ihtiyaç duyar. Her ikisine hizmet eden tek bir açıklama tasarlamak nadiren mümkündür — bu nedenle çok paydaşlı tasarım, XAI-ED’nin temel bir temasıdır.

Kimin açıklamaya ihtiyacı vardır: çok paydaşlı tasarım

  • Öğrenenler, kendi öğrenmelerini ve öz-düzenlemelerini destekleyen açıklamalara ihtiyaç duyarlar — bir ipucunun neden verildiği, yanıtlarının neden yanlış işaretlendiği, bu kaynağın neden önerildiği (Öz Düzenlemeli Öğrenme destekler). Öğrenci bakış açısı kanıtı, öğrenenlerin YZ geri bildirimini kabul etmek (revizyon için yararlı) ile not verme yetkisini devretmek (insan öğretmene saklı) arasında keskin bir çizgi çektiklerini göstermektedir — YZ’nin dahliğine ilişkin şeffaflık tarafından etkinleştirilen, kalibre edilmiş ve işleve uygun bir duruş. Topluluk kolejli öğrencilerle yapılan değere duyarlı tasarım çalışması noktayı keskinleştirir: öğrenciler, ham model güveni veya teknik şeffaflık yerine işbirlikçi, insanileştirilmiş açıklamaları (örneğin “YZ burada belirsiz olabilir, bunu birlikte kontrol edelim”) tercih etmişlerdir; çünkü şeffaflığın tek başına, doğrudan öğrenmelerini desteklemediği sürece pek az değeri vardır. Çalışma, açıklama tasarımını özellik önem düzeyi çıktısı yerine öğrenene yönelik anlamlamaya doğru iten bir şeffaflık-yorumlanabilirlik gerginliği ortaya çıkarmıştır.
  • Öğretmenler, müdahaleyi bilgilendiren açıklamalara ihtiyaç duyarlar — hangi öğrencilerin risk altında olduğu ve neden, hangi kanıta dayanarak. Öğretmenlerle yapılan açıklanabilirlik çalışmaları, alana özgü, müfredat dili açıklamaların jenerik özellik önem düzeyi açıklamalarına göre kabulü ve kalibre edilmiş güveni daha etkin biçimde inşa ettiğini göstermekte; ancak öğretmenler tam bağımlılıktan önce gerçek sınıf deneyimi yaşamak istemektedir — açıklama tek başına kalibrasyon kazandırmaz.
  • Geliştiriciler ve araştırmacılar, model davranışında hata ayıklamak ve önyargıyı tespit etmek için açıklamalara ihtiyaç duyarlar — tahminleri yönlendiren özellikleri görünür kılarlar.
  • Yöneticiler ve politika yapıcılar, hesap verebilirlik, Gizlilik ve Eğitimde YZ Regülasyonu uyumu (örneğin açıklama hakkı) ve YZ kaynaklı kararların adil ve eşitlikçi olup olmadığını denetlemek için açıklamalara ihtiyaç duyarlar.

Yaklaşımlar ve biçimler

XAI-ED çerçevesi, başlıca açıklama kiplerini kataloglar: görsel (ısı haritaları, karar ağaçları), metinsel (doğal dil gerekçelendirmeleri), örneğe dayalı (karşıolgusal, en yakın komşular), özellik önem düzeyi sıralamaları, kural çıkarımı ve model basitleştirme. Ayrıca yaklaşımları model sınıflarına eşler:

  • Beyaz kutu modeller (karar ağaçları, doğrusal modeller, kural temelli) doğası gereği yorumlanabilirdir.
  • Kara kutu modeller (sinir ağları, topluluklar) sonradan açıklama yöntemleri gerektirir.
  • Cam kutu yaklaşımlar, doğruluğu şeffaflıkla dengelemeye çalışır.

Somut AIED kanıt tabanı bunların tamamını kapsar. Yorumlanabilir bilgi izleme, öğrenen bilgisi modellerini doğrudan incelenebilir kılar (Interpretable Knowledge Tracing, Explainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning, Neural-Symbolic Knowledge Tracing: Injecting Educational Knowledge into Deep Learning for Responsible Learner Modelling). Kendini açıklayan vekiller, kara kutu bir modeli Öğrenme Analitiği için küçük, yorumlanabilir bir dil modeline damıtır (Distilling Black-Box Machine Learning into a Small, Self-Explaining Language Model for Learning Analytics). Karşıolgusal açıklamalar — “farklı bir sonuç için neyin değişmesi gerekirdi” — eğitim karar desteğini ve başvuru hakkını destekler (From Student Risk Prediction to SC2R: Semantics-Constrained Counterfactual Recourse for Educational Decision Support). Federasyonlu ve açıklanabilir öğrenme analitiği, açıklama niteliğinin (kalibrasyonun bozulduğu) sıralama kararlılığı korunduğunda bile kayabileceğini göstererek açıklamaların sabit bir özellik değil, ölçülmesi gereken bir sistem çıktısı olduğunu vurgular (Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions). Ve yorumlanabilir duygusal ITS, açıklamaları duygu farkında özel derslerde gösterir (An Interpretable Closed-Loop Intelligent Tutoring System for Multimodal Affective Feedback in Asynchronous Presentation Training).

Açıklama niteliği, varlık değil

Kanıtlar boyunca yinelenen bir ders: bir açıklamaya sahip olmak yeterli değildir; açıklama hedef kitlesine uygun, doğru ve risklere göre kalibre edilmiş olmalıdır. XAI-ED çerçevesi tuzakları açıkça adlandırır:

  • Açıklama aşırı yüklenmesi — çok fazla bilgi kullanıcıyı bunaltır ve faydayı ortadan kaldırır.
  • Yanıltıcı açıklamalar — sonradan üretilen açıklamalar modelin fiili akıl yürütmesini yansıtmayabilir ve yanlış güven verir.
  • Doğrulama yanlılığı — kullanıcılar, mevcut inançlarını doğrulayan açıklamalara seçici biçimde dikkat eder.
  • Aşırı güven — akıcı açıklamalar, kusurlu sistemlerde yanlış güven yaratarak aşırı bağımlılığı besler (Güven Kalibrasyonu tersi).
  • Sistemi atlatma — öğrenciler, gerçek öğrenmeyi aşmak için açıklamaları istismar edebilir.

Açıklama niteliğinin ayrıca bir eşitlik boyutu vardır: teknik olarak mevcut ama belirli bir paydaş için okunamaz olan — veya bir tahmindeki önyargıyı gizleyen — bir açıklama amacını yerine getiremez. Bu nedenle tasarım sorusu nitelik ve uyumdur ve bu nedenle insan merkezli, paydaşa özgü açıklama tasarımı, açıklamaların teknik olarak üretilmesinden ayrılamaz. Etkin XAI, yalnızca teknik bir nesne değil, alıcının bilişsel ihtiyaçları için tasarlanmış bir iletişim eylemidir.

Açıklama her zaman eşitleyici değildir. 250 yedinci sınıf öğrencisiyle yapılan 2 × 2 vinet deneyinde, bir matematik puanı için yazılı bir gerekçe her iki koşulda da kabulü ve algılanan adaleti yükseltmiş ama öğretmen kaynaklı ve YZ kaynaklı kararlar arasındaki boşluğu kapatmak yerine genişletmiştir (Zhang ve ark. (2026)).

Konuyu daha da keskinleştiren iki uyarı vardır ve ikisi de wiki’nin konu üzerine yeni katkısını merkezî kılar. Birincisi, açıklama makinesi kendisi tarafsız değildir: LIME ve SHAP gibi sonradan yöntemler, modelin fiili davranışına sadık olmayabilir, bu nedenle teknik olarak mevcut bir açıklama bilgilendirmek yerine yanıltabilir (Lund ve ark. 2026, Chuan ve ark. 2024’e dayanarak). İkincisi, açıklama hesap verebilirlik değildir. Hangi özelliklerin bir tahmini yönlendirdiğine ilişkin bir hesap, bu özelliklerin kullanılmasının uygun olup olmadığını, eğitim verisinin temsilci olup olmadığını veya sistem tasarımının sağlam bir yargıyı yansıtıp yansıtmadığını göstermez; açıklamalar, bir kararı üreten yapısal koşullara dokunmadan şeffaflık görünümü yaratabilir (Mittelstadt ve ark. 2019). Eğitim için bunun anlamı, sürekli sorulması gereken sorunun bir açıklamanın üretilip üretilmediği değil, onu alan kişinin — bir öğrencinin, bir öğretmenin, bir danışmanın — onu anlayıp anlamadığı, ona göre hareket edip edemediği veya ardındaki karara itiraz edip edemediğidir. Aynı okunabilirlik başarısızlığı, otomatik değerlendirmenin güvenlik tarafında da görülür: Humble’ın (2026) bir YZ notlandırma aracı üzerine yaptığı kırmızı takım çalışması, aracın bir istek metni enjeksiyonunu engelledikten sonra sohbeti sessizce devre dışı bıraktığını ve — yerleştirilmiş talimatları asla izlemeyeceğini duyurduktan sonra — aynı dosya üzerinde altı ek koşuda bunları izlediğini bulmuş; bu da kullanıcıya güvenini dayandırabileceği güvenilir bir sinyal bırakmamıştır.

Tasarım gereği açıklanabilir, sonradan sadakatin önüne geçmenin bir yanıtıdır. Li, Yang ve Fang (2025), bir açıklama çözücüsünü Değerlendirmeyi karara bağlayan aynı birleştirilmiş gösterim ve tahmin edilen puanla parametreler; böylece biçimlendirici sorgulamada düşük bir puan, yetersiz derinlemesine soru sayısını adlandıran bir gerekçe verir ve buna müfredat standartlarına ve alana özgü rubrik hamlelerine çift mercekli dikkat eşlik eder. Rubriğe dikkat hizalaması, GPT-4 sıfır atımlık koşulun %41,7’sine ve BERT’in %32,1’ine karşılık %78,0’a ulaşır ve sadakat, rubrik açısından kritik bölümlerin karşıolgusal silinmesiyle birlikte rubrik temelli bir kontrol listesi üzerindeki insan puanlarıyla sorgulanır; bu da 0,78’lik bir açıklama güvenilirlik puanı verir — BERT-base’e göre 0,31’lik bir artış. Denetim ayrıca mimari iddianın zayıfladığı yeri gösterir: duygusal ipuçlarında model, uzmanın %15,2’sine karşı dikkat ağırlığının %28,4’ünü ayırır (hizalama 0,53); burada bir başarısızlık vakası “sinirli” belirtecine %28 ayırır ve yazarlar bunu pedagojiden çok duyguya aşırı uyum olarak okuyup iyileştirme alanı olarak adlandırır. Açıklamaları karar yoluna gömmek, onları sonradan üretilen gerekçelerden daha sadık kılar; doğru kılmaz.

Açıklanabilirliği hesap verebilirlik uygulaması olarak öğretmek

Açıklama niteliği XAI’nin yararlı olup olmadığına karar veriyorsa, açıklama üretmek bir yetkinlik olarak gösterilmek yerine mesleki bir alışkanlık olarak öğretilmelidir. Lund ve meslektaşları (2026), bunu dört sütun boyunca yapmayı önermektedir — yanıt verebilirlik (etkilenenlere gerekçe sunma yükümlülüğü), sorumluluk (yaşam döngüsü boyunca öngörülen zarar, olaydan sonra savunulandan farklı), yaptırım (ders içinde sonuçlar) ve düşünsel duruş (kişinin kendi varsayımlarının belgelenmiş olarak incelenmesi) — her biri kendi ödevleri ve kendi sınıf maliyetiyle.

Açıklanabilirlik için özellikle önemli olan ödevler, açıklamayı not defterinin dışına çıkaranlardır: doğruluk ölçütleriyle yan yana ağırlıklandırılan, notlandırılmış model kartları ve öğrencilerin yorumlanabilirlik araçlarını kendi modellerine uygulayıp sonuçları paylaşılan teknik geçmişi olmayan bir kitleye sundukları yapılandırılmış açıklama denetimleri. Yaptırım, etik komşusu derslerde en sık eksik olan ve geri kalanı simgesel olmaktan çok daha fazlası yapan sütundur — sorumlu belgeleme ödüllendiren rubrikler, etik gerekçelerle revizyon için geri verilebilen projeler ve yalnızca teknik olanlardan ziyade hesap verebilirlik ölçütlerine karşı yürütülen akran değerlendirmesi. Makale, araçların maliyet açısından keskin biçimde farklılaştığını açıkça kabul eder: model kartları ve duruş ifadeleri yeni yazılım gerektirmez ve yalnızca yüzeysel uyum riski taşır; akran panelleri ve paydaş etkileşimi ise koordinasyon ve kurumsal destek gerektirir, bu nedenle ya hep ya hiç bağlılığı yerine aşamalı benimseme önerir. Bunların bir programda nereye oturduğunu görmek için bkz. Müfredat Tasarımı.

Bağlı Kavramlar

Bağlı Makaleler

Kaynak

Khosravi, H., Buckingham Shum, S., Chen, G., Conati, C., Tsai, Y.-S., Kay, J., Knight, S., Martinez-Maldonado, R., Sadiq, S., & Gašević, D. (2022). Explainable Artificial Intelligence in education. Computers and Education: Artificial Intelligence, 100074.

Üst veri

Hedef kitleLearners, Researchers, Instructional Designers, Instructors
Öğrenme ve öğretimMetabiliş
Teknolojiler ve tekniklerİnsan-Denetiminde Yapay Zeka, Akıllı Özel Öğretim, Öğrenme Analitiği, Öğrenen Modellemesi ve Uyarlanabilir Öğretim
Değerlendirme ve ölçmeOtomatik Değerlendirme
Eşitlik, etik ve sorumlu kullanımÖnyargı Azaltma, Güven Kalibrasyonu, Pedagojik Güvenlik
Eğitimde YZ’nin temelleriYZ Okuryazarlığı
SourceHistoryEditChat

Bu sayfayı göm

Bu sayfayı bir öğrenme yönetim sistemine veya başka bir web sitesine gömmek için aşağıdaki kodu kopyalayın. Gömülü sürüm yalnızca sayfa içeriğini gösterir — site başlığını, gezintiyi ve alt bilgiyi gizler.