व्याख्यायोग्य कृत्रिम बुद्धिमत्ता

यह अंग्रेज़ी पेज का ऑटोमैटिक अनुवाद है और इसकी अभी तक किसी मूल भाषी ने समीक्षा नहीं की है।

शिक्षा में व्याख्यायोग्य कृत्रिम बुद्धिमत्ता (XAI) का अर्थ है एक एआई प्रणाली के निर्णयों को उसके शैक्षिक हितधारकों — शिक्षार्थी, शिक्षकों, प्रशासकों, अभिभावकों, शोधकर्ताओं और नीति-निर्माताओं — के लिए पठनीय बनाने का डिज़ाइन और अध्ययन। इस क्षेत्र की केंद्रीय पृथक्करण यह है: विषय-वस्तु की व्याख्या (किसी तथ्य के सही होने का कारण) करना, एआई प्रणाली के निर्णय की व्याख्या (इस शिक्षार्थी को यह गतिविधि क्यों सौंपी गई, इस उत्तर को गलत क्यों मार्का गया, जोखिम पूर्वानुमान का समर्थन कौन-सा प्रमाण करता है) करने के समान नहीं है। शिक्षा विशिष्ट व्याख्यात्मक आवश्यकताएँ लाती है — शोरयुक्त शिक्षण डेटा, ऐसी व्याख्याएँ जो सीधे मेटाकॉग्निशन और स्व-नियंत्रित अधिगम का समर्थन कर सकती हैं, और ऐसे हितधारक जिन्हें मौलिक रूप से भिन्न प्रकार की व्याख्याओं की आवश्यकता होती है। सक्रिय डिज़ाइन-प्रश्न व्याख्या की गुणवत्ता है, केवल व्याख्या की उपलब्धता नहीं: एक व्याख्या जो तकनीकी रूप से मौजूद है लेकिन अपठनीय, भ्रामक, या अपने दर्शकों के अनुकूल नहीं है, वह किसी व्याख्या के न होने से भी अधिक हानि कर सकती है।

विचार के लिए प्रश्न

• जब कोई एआई ट्यूटर आपको बताता है कि संकेत क्यों दिया गया, तो क्या वह विषय-वस्तु की व्याख्या कर रहा है या प्रणाली के निर्णय की? क्या आप शैक्षिक एआई के अपने उपयोग में प्रत्येक के तीन उदाहरण बता सकते हैं?
• शिक्षा में किसे व्याख्याओं की आवश्यकता है — और क्या शिक्षार्थियों, शिक्षकों और नीति-निर्माताओं को वही प्रकार की आवश्यकता है? प्रत्येक व्याख्या का उपयोग किस लिए करेगा?
• कोई एआई किसी विद्यार्थी को पढ़ाई छोड़ने के जोखिम में रहने के लिए चिह्नित करता है। उस पर कार्रवाई करने के लिए एक शिक्षक को क्या जानना चाहिए, बनाम विद्यार्थी को क्या जानना चाहिए? क्या दोनों के लिए वही व्याख्या उचित है?
• यह पेज तर्क देता है कि व्याख्या की उपलब्धता से अधिक व्याख्या की गुणवत्ता मायने रखती है। तकनीकी रूप से मौजूद व्याख्या विफल क्यों होती है — क्या आप कोई ऐसा समय याद कर सकते हैं जब व्याख्या मौजूद थी लेकिन बेकार थी, या उससे भी बदतर, भ्रामक?
• विश्वास और व्याख्या जुड़े हुए हैं लेकिन समान नहीं। एक त्रुटिपूर्ण प्रणाली में आत्मविश्वासी, सुचारु व्याख्या झूठे विश्वास क्यों पैदा कर सकती है — और आप ऐसा होते कैसे पहचानेंगे?

परिचय

व्याख्यायोग्य शिक्षा में एआई इस बढ़ती अपेक्षा को नाम देती है कि कक्षाओं की एआई प्रणालियाँ ब्लैक बॉक्स नहीं होनी चाहिए। क्योंकि शिक्षा में एआई परिणामकारी निर्णयों को प्रभावित करती है — ग्रेड, जोखिम-चिह्न, अध्ययन पथ, संसाधन-सिफ़ारिशें — हितधारक तेज़ी से यह जानना चाहते हैं कि प्रणाली ने न केवल क्या निष्कर्ष निकाला बल्कि क्यों। शिक्षा इसे दो अलग प्रश्नों में तीखी करती है: सीखी जा रही विषय-वस्तु की व्याख्या, और एआई प्रणाली की अपनी निर्णय-प्रक्रिया की व्याख्या। इन्हें एक मानना एक श्रेणीगत त्रुटि है जिसके व्यावहारिक परिणाम होते हैं: एक एआई जो भौतिकी के उत्तर को पूरी तरह समझाती है, वह भी विद्यार्थी और शिक्षक को यह कोई अंतर्दृष्टि नहीं देती कि प्रणाली ने उन्हें जोखिम में क्यों रखा, कोई विशिष्ट गतिविधि क्यों सुझाई, या किसी उत्तर को गलत क्यों मार्का।

विषय-वस्तु बनाम प्रणाली के निर्णय की व्याख्या

इस क्षेत्र की स्थापना करने वाला योगदान — XAI-ED ढाँचा (ख़ोसरावी एवं सहयोगी, 2022) — यह दावा करता है कि शिक्षा में सामान्य-उद्देश्यीय XAI से परे विशिष्ट व्याख्यात्मक आवश्यकताएँ हैं। इनमें सबसे महत्वपूर्ण दो व्याख्या-लक्ष्यों के बीच का विभाजन है:

• विषय-वस्तु व्याख्याएँ सामग्री को स्पष्ट करती हैं: कोई संकेत भ्रम को क्यों संबोधित करता है, कोई उत्तर गलत क्यों है, कोई भौतिकी-परिणाम सिद्धांतों से कैसे निकलता है। ये शैक्षणिक व्याख्याएँ हैं जो मड्गद, प्रतिपुष्टि और मेटाकॉग्निशन का समर्थन करती हैं।
• प्रणाली-निर्णय व्याख्याएँ मॉडल को स्पष्ट करती हैं: इस शिक्षार्थी को यह गतिविधि क्यों सौंपी गई, प्रणाली यह विद्यार्थी जोखिम में क्यों अनुमानित करती है, किसी ज्ञान-ट्रैकिंग या लर्निंग एनालिटिक्स पूर्वानुमान का समर्थन कौन-सा प्रमाण करता है। ये पारदर्शिता व्याख्याएँ हैं जो विश्वास कैलिब्रेशन, पूर्वाग्रह शमन और जवाबदेही का समर्थन करती हैं।

यह पृथक्करण मायने रखती है क्योंकि ये भिन्न हितधारकों और भिन्न उद्देश्यों की सेवा करती हैं। "यह गलत क्यों मार्का हुआ?" का उत्तर देने वाला शिक्षार्थी मुख्यतः विषय-वस्तु व्याख्या चाहता है; जबकि यह तय करने वाला शिक्षक कि जोखिम-चिह्न पर कार्रवाई करनी है या नहीं, या पूर्वाग्रह के लिए ऑडिट करने वाला नीति-निर्माता, प्रणाली-निर्णय व्याख्या चाहता है। ऐसी एकल व्याख्या बनाना जो दोनों की सेवा करे, दुर्लभ संभव है — और यही कारण है कि बहु-हितधारकी डिज़ाइन XAI-ED का एक मूल विषय है।

किसे व्याख्याएँ चाहिए: बहु-हितधारकी डिज़ाइन

• शिक्षार्थियों को ऐसी व्याख्याएँ चाहिए जो उनकी अपनी सीख और आत्म-नियमन का समर्थन करें — संकेत क्यों दिया गया, उनका उत्तर गलत क्यों मार्का हुआ, यह संसाधन क्यों सुझाया गया (स्व-नियंत्रित अधिगम का समर्थन)। शिक्षार्थी-दृष्टिकोण प्रमाण दिखाता है कि शिक्षार्थी एआई प्रतिपुष्टि स्वीकार करने (संशोधन के लिए उपयोगी) और ग्रेडिंग अधिकार सौंपने (मानव प्रशिक्षक के लिए आरक्षित) के बीच तीखी रेखा खींचते हैं — एआई की भागीदारी की पारदर्शिता से सक्रिय एक अंशांकित, कार्य-अनुकूलित रुख। सामुदायिक कॉलेज के विद्यार्थियों के साथ संवेदन-संवेदी डिज़ाइन कार्य इस बिंदु को तीखा करती है: विद्यार्थियों ने कच्चे मॉडल-विश्वास या तकनीकी पारदर्शिता के मुकाबले सहयोगात्मक, मानवीकृत व्याख्याएँ (जैसे, "एआई यहाँ अनिश्चित हो सकता है, तो चलिए इसे एक साथ जाँचें") पसंद कीं, क्योंकि पारदर्शिता के अपने में कोई बड़ा मूल्य नहीं है जब तक वह सीधे उनकी सीख का समर्थन न करे। इस अध्ययन ने एक पारदर्शिता-बनाम-व्याख्यात्मकता तनाव सामने लाया जो व्याख्या-डिज़ाइन को शिक्षार्थी-उन्मुख अर्थ-विज्ञान की ओर धकेलता है, फ़ीचर-महत्व आउटपुट की ओर नहीं।
• शिक्षकों को ऐसी व्याख्याएँ चाहिए जो हस्तक्षेप को सूचित करें — कौन-से विद्यार्थी जोखिम में हैं और क्यों, किस प्रमाण पर। शिक्षकों के साथ व्याख्यात्मकता अध्ययन दिखाते हैं कि विषय-विशिष्ट, पाठ्यक्रम-भाषा की व्याख्याएँ सामान्य फ़ीचर-महत्व वालियों की तुलना में स्वीकृति और अंशांकित विश्वास को अधिक प्रभावी ढंग से बनाती हैं, फिर भी शिक्षक पूर्ण निर्भरता से पहले वास्तविक कक्षा-अनुभव चाहते हैं — केवल व्याख्या अंशांकन प्रदान नहीं करती।
• डेवलपर और शोधकर्ता को मॉडल-व्यवहार को डिबग करने और पूर्वाग्रह का पता लगाने के लिए व्याख्याएँ चाहिए — यह सामने लाना कि कौन-से फ़ीचर पूर्वानुमानों को चलाते हैं।
• प्रशासकों और नीति-निर्माताओं को जवाबदेही, निजता और शिक्षा में AI विनियमन अनुपालन (जैसे, व्याख्या का अधिकार) के लिए, तथा यह ऑडिट करने के लिए व्याख्याएँ चाहिए कि एआई-चालित निर्णय निष्पक्ष और समतामूलक हैं या नहीं।

दृष्टिकोण और प्रारूप

XAI-ED ढाँचा मुख्य व्याख्या-पद्धतियों की सूची बनाता है: दृश्य (हीटमैप, निर्णय-वृक्ष), पाठ्य (स्वाभाविक-भाषा औचित्य), उदाहरण-आधारित (प्रतिविपरीत तथ्य, निकटतम पड़ोसी), फ़ीचर-महत्व क्रमबद्धता, नियम-निष्कर्षण, और मॉडल-सरलीकरण। यह दृष्टिकोणों को मॉडल-श्रेणियों से भी मैप करता है:

• श्वेत-बॉक्स मॉडल (निर्णय-वृक्ष, रैखिक मॉडल, नियम-आधारित) स्वभाव से व्याख्यायोग्य होते हैं।
• कृष्ण-बॉक्स मॉडल (तंत्रिका जाल, संयुक्त) को बाद-सेवा व्याख्या विधियों की आवश्यकता होती है।
• कांच-बॉक्स दृष्टिकोण शुद्धता को पारदर्शिता के साथ संतुलित करने का प्रयास करते हैं।

ठोस AIED प्रमाण-आधार इन सभी को फैलाता है। व्याख्यायोग्य ज्ञान-ट्रैकिंग शिक्षार्थी-ज्ञान मॉडलों को सीधे निरीक्षण-योग्य बनाता है (Interpretable Knowledge Tracing, Explainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning, Neural-Symbolic Knowledge Tracing: Injecting Educational Knowledge into Deep Learning for Responsible Learner Modelling)। स्व-व्याख्या करने वाले सरोगेट कृष्ण-बॉक्स मॉडल को एक छोटे, व्याख्यायोग्य भाषा मॉडल में सघन करते हैं लर्निंग एनालिटिक्स के लिए (Distilling Black-Box Machine Learning into a Small, Self-Explaining Language Model for Learning Analytics)। प्रतिविपरीत व्याख्याएँ — "भिन्न परिणाम के लिए क्या बदलना पड़ेगा" — शैक्षिक निर्णय-समर्थन और प्रतिकार का समर्थन करती हैं (From Student Risk Prediction to SC2R: Semantics-Constrained Counterfactual Recourse for Educational Decision Support)। संघीय + व्याख्यायोग्य अध्ययन-विश्लेषण दिखाता है कि क्रम-स्थिरता बनी रहने पर भी व्याख्या की गुणवत्ता विचलित हो सकती है (अंशांकन घटता है), यह रेखांकित करते हुए कि व्याख्याएँ निश्चित गुण नहीं बल्कि मापा जाने वाला प्रणाली-आउटपुट हैं (Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions)। और व्याख्यायोग्य भावनात्मक ITS भावना-जागरूक शिक्षण में व्याख्याएँ प्रदर्शित करता है (An Interpretable Closed-Loop Intelligent Tutoring System for Multimodal Affective Feedback in Asynchronous Presentation Training)।

व्याख्या की गुणवत्ता, उपलब्धता नहीं

प्रमाण में एक बार-बार सीख: व्याख्या रखना पर्याप्त नहीं; व्याख्या अपने दर्शकों के लिए सही, सटीक और दाँव के अनुकूल अंशांकित होनी चाहिए। XAI-ED ढाँचा गर्तियों को स्पष्ट रूप से नाम देता है:

• व्याख्या-अधिभार — बहुत अधिक जानकारी उपयोगकर्ता को बहुत ज़्यादा लादती है और लाभ रद्द कर देती है।
• भ्रामक व्याख्याएँ — बाद-सेवा व्याख्याएँ मॉडल के वास्तविक तर्क को प्रतिबिंबित नहीं कर सकतीं, झूठा विश्वास देती हैं।
• पुष्टि-पूर्वाग्रह — उपयोगकर्ता उन व्याख्याओं पर चुनकर ध्यान देते हैं जो मौजूदा मान्यताओं की पुष्टि करती हैं।
• अति-विश्वास — सुचारु व्याख्याएँ त्रुटिपूर्ण प्रणालियों में झूठा विश्वास पैदा कर सकती हैं, अति-निर्भरता को बढ़ावा देती हैं (विश्वास कैलिब्रेशन का विलोम)।
• प्रणाली को धोखा देना — विद्यार्थी व्याख्याओं का उपयोग वास्तविक सीख को दरकिनार करने के लिए कर सकते हैं।

व्याख्या की गुणवत्ता में एक समतामूलकता आयाम भी है: एक व्याख्या जो तकनीकी रूप से मौजूद है लेकिन किसी दिए हितधारक के लिए अपठनीय है — या जो किसी पूर्वानुमान में पूर्वाग्रह को ढकती है — अपने उद्देश्य में विफल होती है। इसीलिए डिज़ाइन-प्रश्न गुणवत्ता और उपयुक्तता है, और इसीलिए मानव-केंद्रित, हितधारकी-विशिष्ट व्याख्या-डिज़ाइन व्याख्याओं के तकनीकी निर्माण से अवियोज्य है। प्रभावी XAI एक संप्रेषण कार्य है जो प्राप्तकर्ता की संज्ञानात्मक आवश्यकताओं के लिए डिज़ाइन किया गया है, केवल एक तकनीकी कलाकृतिच नहीं।

व्याख्या हमेशा समताकारक नहीं होती। 250 सातवीं-कक्षा के विद्यार्थियों के साथ एक 2 × 2 विनेट प्रयोग में, गणित के अंक के लिए एक लिखित औचित्य ने दोनों स्थितियों में स्वीकृति और अनुभूत निष्पक्षता बढ़ाई लेकिन शिक्षक और एआई-निर्मित निर्णयों के बीच की खाई को बंद करने के बजाय चौड़ा किया (झांग एवं सहयोगी (2026)।

दो सतर्कताएँ इसे और तीखी करती हैं, जिनमें से दोनों को विषय पर विकि के नवीनतम योगदान को केंद्रीय बनाता है। पहली, व्याख्या-यंत्र स्वयं तटस्थ नहीं है: LIME और SHAP जैसी बाद-सेवा विधियाँ मॉडल के वास्तविक व्यवहार के प्रति अविश्वसनीय हो सकती हैं, इसलिए तकनीकी रूप से मौजूद व्याख्या सूचित नहीं बल्कि भ्रमित कर सकती है (लुंड एवं सहयोगी 2026, चुआन एवं सहयोगी 2024 पर आधारित)। दूसरी, व्याख्या जवाबदेही नहीं है। यह वर्णन कि कौन-से फ़ीचर पूर्वानुमान को चलाए, यह प्रकट नहीं करता कि उन फ़ीचरों का उपयोग करना उचित था या नहीं, प्रशिक्षण डेटा प्रतिनिधि था या नहीं, या प्रणाली के डिज़ाइन में सुसंगत विवेक था या नहीं; व्याख्याएँ पारदर्शिता के बाहरी रूप पैदा कर सकती हैं और उन संरचनात्मक परिस्थितियों को जैसी हैं छोड़ सकती हैं जिन्होंने निर्णय उत्पन्न किया (मिटेलस्टैड एवं सहयोगी 2019)। शिक्षा के लिए इसका अर्थ है कि लगातार पूछा जाने वाला प्रश्न यह नहीं है कि व्याख्या उत्पन्न हुई या नहीं, बल्कि यह है कि उसे प्राप्त करने वाला व्यक्ति — कोई विद्यार्थी, कोई शिक्षक, कोई सलाहकार — उसे समझ सकता था, उस पर कार्रवाई कर सकता था, या उसके पीछे के निर्णय को चुनौती दे सकता था। पठनीयता की यही विफलता स्वचालित मूल्यांकन की सुरक्षा-पक्ष पर भी दिखती है: हंबल (2026) का एआई ग्रेडिंग उपकरण का रेड-टीम ने पाया कि वह प्रॉम्प्ट-इंजेक्शन को रोकने के बाद चैट को चुपचाप निष्क्रिय कर देता है, और — घोषित करने के बाद कि वह एम्बेडेड निर्देशों को कभी नहीं मानेगा — उसी फ़ाइल पर छह और रन में उन्हें मान लेता है, जिससे उपयोगकर्ता के पास कोई भरोसेमंद संकेत नहीं बचता जिस पर निर्भर रह सके।

डिज़ाइन-से-व्याख्यायोग्य बाद-सेवा विश्वसनीयता समस्या का एक उत्तर है। ली, यांग और फ़ांग (2025) एक व्याख्या-डिकोडर को उसी संलग्न प्रतिनिधित्व और पूर्वानुमानित अंक से पैरामीट्र करते हैं जो मूल्यांकन को तय करते हैं, जिससे रूपरेखांकन प्रश्नों पर कम अंक से एक औचित्य मिलता है जो अपर्याप्त संज्ञान-बोधक प्रश्नों का नाम लेता है, और इसे पाठ्यक्रम मानकों और विषय-विशिष्ट रूब्रिक चालों पर द्वि-लेंस ध्यान के साथ जोड़ते हैं। रूब्रिक-अनुकूल संरेखण GPT-4 ज़ीरो-शॉट के 41.7% और BERT के 32.1% के मुकाबले 78.0% तक पहुँचता है, और विश्वसनीयता की जाँच रूब्रिक-महत्वपूर्ण अंशों के प्रतिविपरीत विलोपन के साथ-साथ रूब्रिक-आधारित जाँच-सूची पर मानव रेटिंग से होती है, जिससे व्याख्या-विश्वसनीयता अंक 0.78 मिलता है — BERT-बेस पर 0.31 की वृद्धि। यह ऑडिट यह भी दिखाता है कि वास्तुकला-दावा कहाँ पतला होता है: भावनात्मक संकेतों पर मॉडल विशेषज्ञ के 15.2% (संरेखण 0.53) के मुकाबले ध्यान-भार का 28.4% आवंटित करता है, एक विफल मामले में "frustrated" टोकन को 28% दिया गया, जिसे लेखक भावना के लिए अति-अनुरूपता के रूप में पढ़ते हैं और परिष्कार का क्षेत्र बताते हैं। निर्णय-पथ में एम्बेड की गई व्याख्याएँ बाद-सेवा औचित्यों से अधिक विश्वसनीय होती हैं; यह उन्हें सही नहीं बनाती।

जवाबदेही-अभ्यास के रूप में व्याख्यायोग्यता पढ़ाना

यदि व्याख्या की गुणवत्ता यह तय करती है कि XAI उपयोगी है या नहीं, तो व्याख्याएँ उत्पन्न करना क्षमता के रूप में प्रदर्शित होने के बजाय एक व्यावसायिक आदत के रूप में पढ़ाया जाना चाहिए। लुंड एवं सहयोगी (2026) इसे चार स्तंभों पर करने का प्रस्ताव रखते हैं — उत्तरदेयता (प्रभावित लोगों को कारण देने का दायित्व), उत्तरदायित्व (जीवनचक्र में अनुमानित हानि, तथ्य-पश्चात बचाव नहीं), प्रवर्तन (पाठ्यक्रम के भीतर परिणाम) और प्रतिवर्तन (अपनी ही मान्यताओं का दर्ज परीक्षण) — प्रत्येक अपने असाइनमेंट और अपनी कक्षा-लागत के साथ।

व्याख्यायोग्यता के लिए विशेष रूप से, महत्वपूर्ण असाइनमेंट वे हैं जो व्याख्या को नोटबुक से बाहर खींचें: शुद्धता-मापों के साथ-साथ भारित ग्रेडेड मॉडल-कार्ड, और संरचित व्याख्या-ऑडिट जिनमें विद्यार्थी व्याख्यात्मकता उपकरणों को अपने ही मॉडलों पर लागू करते हैं और फिर परिणाम किसी ऐसे दर्शक-समूह के सामने प्रस्तुत करते हैं जिसका तकनीकी पृष्ठभूमि साझा न हो। प्रवर्तन वह स्तंभ है जो नीति-निकट पाठ्यक्रमों में सबसे अधिक गुम रहता है और जो बाकी को प्रतीकात्मक से अधिक बनाता है — जवाबदेही दस्तावेज़ीकरण को पुरस्कृत करने वाले रूब्रिक, ऐसी परियोजनाएँ जिन्हें नैतिक आधारों पर संशोधन के लिए लौटाया जा सकता है, और सहकर्मी समीक्षा जो केवल तकनीकी मानदंडों के बजाय जवाबदेही मानदंडों के विरुद्ध आयोजित हो। यह प्रलेखन इस बात पर खुला है कि उपकरणों की लागत में तीखा अंतर है: मॉडल-कार्ड और स्थिति-वक्तव्यों के लिए नए सॉफ़्टवेयर की आवश्यकता नहीं है और उनका जोखिम केवल सतही अनुपालन का है, जबकि सहकर्मी पैनल और हितधारक संलग्नता के लिए समन्वय और संस्थागत खरीद की आवश्यकता होती है, और इसीलिए यह चरणबद्ध अपनाने की सिफ़ारिश करता है, सब-कुछ-या-कुछ-नहीं प्रतिबद्धता के बजाय। कार्यक्रम में ये कहाँ फिट होते हैं, यह पाठ्यचर्या डिज़ाइन देखें।

संबंधित अवधारणाएँ

• विश्वास कैलिब्रेशन
• भरोसा
• AI साक्षरता
• लर्निंग एनालिटिक्स
• स्वचालित मूल्यांकन
• शिक्षार्थी मॉडलिंग और अनुकूली शिक्षण
• इंटेलिजेंट ट्यूटरिंग
• ज्ञान अनुरेखण
• पूर्वाग्रह शमन
• मानव-लूप-में
• पाठ्य-सुरक्षा: शिक्षा में पेडागॉजिकल सेफ्टी
• मेटाकॉग्निशन
• स्व-नियंत्रित अधिगम
• संज्ञानात्मक ऑफलोडिंग
• निजता
• शिक्षा में AI विनियमन
• अनुशंसा प्रणालियाँ और सीखने के पथ

संबंधित लेख

• Toward Socially Accountable Data Science Education: A Conceptual Framework for Integrating Explainable AI and Accountability Principles — एक चार-स्तंभ ढाँचा (उत्तरदेयता, उत्तरदायित्व, प्रवर्तन, प्रतिवर्तन) जवाबदेही-अभ्यास के रूप में XAI पढ़ाने के लिए (लुंड एवं सहयोगी 2026)

• Value-Sensitive Design in Action: Designing Student-Centered Intelligent Tutoring Systems with Community College Students and Instructors — शिक्षार्थी-केंद्रित ITS का संवेदन-संवेदी डिज़ाइन (सहयोगात्मक बनाम कच्ची व्याख्याएँ)

• Explainable Artificial Intelligence in Education (XAI-ED) — XAI-ED: शिक्षा में व्याख्यायोग्य एआई के लिए आधारभूत ढाँचा (ख़ोसरावी एवं सहयोगी 2022)

• The Impact of Explainable AI on Teachers' Trust and Acceptance of AI EdTech Recommendations: The Power of Domain-specific Explanations — विषय-विशिष्ट व्याख्याएँ शिक्षकों के विश्वास और स्वीकृति बनाती हैं (फ़ेल्डमैन-मैग्गोर एवं सहयोगी 2025)

• Who Should Grade My Work? Student Perspectives on Transparent AI-Assisted Writing Assessment in Higher Education — पारदर्शी एआई-सहायित मूल्यांकन पर शिक्षार्थी-दृष्टिकोण (अलग़मदी 2026)

• Interpretable Knowledge Tracing — व्याख्यायोग्य ज्ञान-ट्रैकिंग

• Explainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning — संभाव्यता-एम्बेडिंग के माध्यम से व्याख्यायोग्य ज्ञान-ट्रैकिंग

• Neural-Symbolic Knowledge Tracing: Injecting Educational Knowledge into Deep Learning for Responsible Learner Modelling — तंत्रिका-प्रतीक ज्ञान-ट्रैकिंग

• Distilling Black-Box Machine Learning into a Small, Self-Explaining Language Model for Learning Analytics — अध्ययन-विश्लेषण के लिए कृष्ण-बॉक्स मॉडलों को स्व-व्याख्या करने वाले LM में सघन करना

• Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions — गोपनीयता-संरक्षी जोखिम-मॉडलिंग के लिए संघीय और व्याख्यायोग्य अध्ययन-विश्लेषण

• From Student Risk Prediction to SC2R: Semantics-Constrained Counterfactual Recourse for Educational Decision Support — शैक्षिक निर्णय-समर्थन के लिए अर्थ-अभिबद्ध प्रतिविपरीत प्रतिकार

• Fair and explainable educational recommendations with a hybrid Graph-GRU framework — निष्पक्ष और व्याख्यायोग्य शैक्षिक सिफ़ारिशें

• An Interpretable Closed-Loop Intelligent Tutoring System for Multimodal Affective Feedback in Asynchronous Presentation Training — बहु-माध्यम भावनात्मक प्रतिपुष्टि के लिए व्याख्यायोग्य बंद-लूप ITS

• Explaining ChatGPT Adoption in Higher Education: Insights for AI Literacy, Educational Practice, and Responsible AI — उच्च शिक्षा में ChatGPT अपनाने की व्याख्या

• Towards trustworthy and explainable-by-design large language models for automated teacher assessment — डिज़ाइन-से-व्याख्यायोग्य LLM ढाँचा: स्वचालित शिक्षक मूल्यांकन के लिए द्वि-लेंस ध्यान और अंक-पैरामीट्रित व्याख्याएँ (ली एवं सहयोगी 2025)

• Ethical implications of prompt injection in AI-mediated grading: An adversarial red-team evaluation — एआई-माध्यमित ग्रेडिंग में प्रॉम्प्ट-इंजेक्शन, जहाँ पहचान उपयोगकर्ता को कभी रिपोर्ट नहीं की गई (हंबल 2026)

• Evaluation of pre-trained models for pedagogical assessment of novel AI-assisted educational questions — नए एआई-सहायित शैक्षिक प्रश्नों के शैक्षणिक मूल्यांकन के लिए पूर्व-प्रशिक्षित मॉडलों का मूल्यांकन

• Teacher or Artificial Intelligence? The Effect of Decision-Making Agent on Junior High School Students’ Decision Acceptance: A Moderated Mediation Model — शिक्षक- बनाम एआई-निर्मित ग्रेडिंग निर्णय: एक लिखित औचित्य ने निष्पक्षता-खाई चौड़ी की

संदर्भ

ख़ोसरावी, एच., बकिंघम शम, एस., चेन, जी., कोनाती, सी., त्साई, वाई.-एस., के, जे., नाइट, एस., मार्टिनेज़-माल्डोनाडो, आर., सादिक, एस., एवं गाशेविच, डी. (2022). Explainable Artificial Intelligence in education. Computers and Education: Artificial Intelligence, 100074.