ব্যাখ্যাযোগ্য এআই

ইংরেজি পাতার এই স্বয়ংক্রিয় অনুবাদ, এখনও মাতৃভাষিক বক্তার দ্বারা পর্যালোচনা করা হয়নি।

শিক্ষায় ব্যাখ্যাযোগ্য এআই (XAI) হলো একটি এআই ব্যবস্থার সিদ্ধান্তগুলোকে তার শিক্ষামূলক অংশীজনদের কাছে পাঠযোগ্য করে তোলার নকশা ও অধ্যয়ন — শিক্ষার্থী, শিক্ষক, প্রশাসক, অভিভাবক, গবেষক এবং নীতিনির্ধারক। ক্ষেত্রটি যে কেন্দ্রীয় পার্থক্যে জোর দেয়: বিষয়বস্তু ব্যাখ্যা করা (কেন একটি তথ্য সত্য) আর একটি এআই ব্যবস্থার সিদ্ধান্ত ব্যাখ্যা করা (কেন এই শিক্ষার্থীকে এই কার্যকলাপ দেওয়া হলো, কেন এই উত্তরটি ভুল হিসেবে চিহ্নিত হলো, কোন প্রমাণ একটি ঝুঁকি-পূর্বাভাসকে সমর্থন করে) এক নয়। শিক্ষা ব্যাখ্যাযোগ্যতার স্বতন্ত্র চাহিদা নিয়ে আসে — কোলাহলপূর্ণ শিখন উপাত্ত, এমন ব্যাখ্যা যা সরাসরি অধিজ্ঞান ও স্ব-নিয়ন্ত্রিত শেখাকে সমর্থন করতে পারে, এবং এমন অংশীজন যাদের মৌলিকভাবে ভিন্ন ধরনের ব্যাখ্যা প্রয়োজন। কার্যকর নকশা-প্রশ্ন হলো ব্যাখ্যার গুণ, কেবল ব্যাখ্যার উপস্থিতি নয়: যে ব্যাখ্যা কারিগরিভাবে উপস্থিত কিন্তু অপাঠ্য, বিভ্রান্তিকর, বা তার শ্রোতার সঙ্গে বেমানান, তা কোনো ব্যাখ্যা না থাকার চেয়ে বেশি ক্ষতি করতে পারে।

বিবেচনার প্রশ্ন

• যখন একটি এআই টিউটর আপনাকে বলে কেন একটি ইঙ্গিত দেওয়া হলো, তা কি বিষয়বস্তু ব্যাখ্যা করছে, নাকি ব্যবস্থার সিদ্ধান্ত ব্যাখ্যা করছে? শিক্ষামূলক এআই ব্যবহারে নিজের অভিজ্ঞতা থেকে প্রতিটির তিনটি উদাহরণ বলতে পারবেন?
• শিক্ষায় কার ব্যাখ্যা প্রয়োজন — এবং শিক্ষার্থী, শিক্ষক ও নীতিনির্ধারকদের কি একই ধরনের ব্যাখ্যা দরকার? প্রত্যেকে একটি ব্যাখ্যা দিয়ে কী করবে?
• একটি এআই একজন শিক্ষার্থীকে ঝরে পড়ার ঝুঁকিতে চিহ্নিত করল। তা নিয়ে কাজ করতে একজন শিক্ষকের কী জানা দরকার, বনাম শিক্ষার্থীর কী জানা দরকার? দুজনের জন্য কি একই ব্যাখ্যা উপযুক্ত?
• পাতাটি যুক্তি দেয় ব্যাখ্যার গুণ ব্যাখ্যার উপস্থিতির চেয়ে গুরুত্বপূর্ণ। কী কারণে কারিগরিভাবে উপস্থিত একটি ব্যাখ্যা ব্যর্থ হয় — এমন কোনো সময়ের কথা ভাবতে পারেন যখন ব্যাখ্যা ছিল কিন্তু অকেজো, বা আরও খারাপ, বিভ্রান্তিকর?
• আস্থা ও ব্যাখ্যা পরস্পর যুক্ত কিন্তু অভিন্ন নয়। কেন একটি আত্মবিশ্বাসী, সাবলীল ব্যাখ্যা একটি ত্রুটিপূর্ণ ব্যবস্থার প্রতি মিথ্যা আস্থা তৈরি করতে পারে — এবং তা ঘটছে আপনি কীভাবে ধরবেন?

ভূমিকা

ব্যাখ্যাযোগ্য এআই-ভিত্তিক শিক্ষা সেই ক্রমবর্ধমান প্রত্যাশার নাম যে শ্রেণিকক্ষের এআই ব্যবস্থাগুলো কালো বাক্স হওয়া উচিত নয়। যেহেতু এআই-ভিত্তিক শিক্ষা গুরুত্বপূর্ণ সিদ্ধান্তে প্রভাব ফেলে — নম্বর, ঝুঁকি-চিহ্ন, শিখন-পথ, সম্পদ-সুপারিশ — অংশীজনরা ক্রমশ জানতে চায় কেবল ব্যবস্থা কী সিদ্ধান্তে পৌঁছেছে তা নয়, কেন। শিক্ষা এটিকে দুটি আলাদা প্রশ্নে তীক্ষ্ণ করে: যে বিষয়বস্তু শেখা হচ্ছে তা ব্যাখ্যা করা, এবং এআই ব্যবস্থার নিজের সিদ্ধান্ত-গ্রহণ ব্যাখ্যা করা। এদের মিলিয়ে ফেলা একটি শ্রেণি-ত্রুটি, যার ব্যবহারিক পরিণতি আছে: যে এআই একটি পদার্থবিজ্ঞান উত্তর নিখুঁতভাবে ব্যাখ্যা করে, সে শিক্ষার্থী ও শিক্ষককে কোনো ধারণাই দেয় না কেন ব্যবস্থাটি তাকে ঝুঁকিতে রাখল, একটি নির্দিষ্ট কার্যকলাপ সুপারিশ করল, বা একটি উত্তর ভুল হিসেবে চিহ্নিত করল।

বিষয়বস্তু ব্যাখ্যা বনাম ব্যবস্থার সিদ্ধান্ত ব্যাখ্যা

ক্ষেত্রটির প্রতিষ্ঠাকালীন অবদান — XAI-ED কাঠামো (Khosravi প্রমুখ, 2022) — জোর দেয় শিক্ষার সাধারণ-উদ্দেশ্যের XAI-এর বাইরে স্বতন্ত্র ব্যাখ্যাযোগ্যতার চাহিদা আছে। তাদের মধ্যে প্রধান হলো দুটি ব্যাখ্যা-লক্ষ্যের বিভাজন:

• বিষয়বস্তু-ব্যাখ্যা কনটেন্ট স্পষ্ট করে: কেন একটি ইঙ্গিত একটি ভুল ধারণাকে সম্বোধন করে, কেন একটি উত্তর ভুল, কীভাবে একটি পদার্থবিজ্ঞানের ফলাফল নীতি থেকে অনুসরণ করে। এগুলো শিক্ষাবিজ্ঞানিক ব্যাখ্যা যা স্ক্যাফোল্ডিং, প্রতিক্রিয়া ও অধিজ্ঞানকে সমর্থন করে।
• ব্যবস্থা-সিদ্ধান্ত ব্যাখ্যা মডেলটি স্পষ্ট করে: কেন এই শিক্ষার্থীকে এই কার্যকলাপ দেওয়া হলো, কেন ব্যবস্থা পূর্বাভাস দেয় এই শিক্ষার্থী ঝুঁকিতে, কোন প্রমাণ একটি নলেজ-ট্রেসিং বা শিখন বিশ্লেষণের পূর্বাভাসকে সমর্থন করে। এগুলো স্বচ্ছতা-ব্যাখ্যা যা বিশ্বাস ক্রমাঙ্কন, পক্ষপাত প্রশমন ও জবাবদিহিতা সমর্থন করে।

পার্থক্যটি গুরুত্বপূর্ণ কারণ তারা ভিন্ন অংশীজন ও ভিন্ন উদ্দেশ্যে সেবা করে। "এটি কেন ভুল চিহ্নিত?" জিজ্ঞাসারত একজন শিক্ষার্থীর মূলত বিষয়বস্তু-ব্যাখ্যা দরকার; ঝুঁকি-চিহ্ন নিয়ে কাজ করবেন কি না ভাবছেন এমন শিক্ষক, বা পক্ষপাতের জন্য নিরীক্ষা করছেন এমন নীতিনির্ধারকের দরকার ব্যবস্থা-সিদ্ধান্ত-ব্যাখ্যা। উভয়কে সেবা দেয় এমন একক ব্যাখ্যা নকশা করা বিরলভাবে সম্ভব — এজন্যই বহু-অংশীজন নকশা XAI-ED-এর একটি মূল প্রতিপাদ্য।

কার ব্যাখ্যা দরকার: বহু-অংশীজন নকশা

• শিক্ষার্থীদের দরকার এমন ব্যাখ্যা যা তাদের নিজের শেখা ও স্ব-নিয়ন্ত্রণকে সমর্থন করে — কেন একটি ইঙ্গিত দেওয়া হলো, কেন তাদের উত্তর ভুল চিহ্নিত হলো, কেন এই সম্পদ সুপারিশ করা হলো (স্ব-নিয়ন্ত্রিত শেখাকে সমর্থন করে)। শিক্ষার্থী-দৃষ্টিকোণ প্রমাণ দেখায় শিক্ষার্থীরা এআই প্রতিক্রিয়া গ্রহণ (সংশোধনের জন্য উপযোগী) এবং গ্রেডিং কর্তৃত্ব ছেড়ে দেওয়ার (মানব প্রশিক্ষকের জন্য সংরক্ষিত) মধ্যে তীক্ষ্ণ রেখা টানে — এআই সম্পৃক্ততা সম্পর্কে স্বচ্ছতা দ্বারা সক্রিয় একটি ক্রমাঙ্কিত, কার্য-সামঞ্জস্যপূর্ণ অবস্থান। কমিউনিটি কলেজ শিক্ষার্থীদের সঙ্গে মূল্য-সংবেদনশীল নকশা কাজ বিষয়টি আরও তীক্ষ্ণ করে: শিক্ষার্থীরা কাঁচা মডেল-আত্মবিশ্বাস বা প্রযুক্তিগত স্বচ্ছতার চেয়ে সহযোগী, মানবিক ব্যাখ্যা (যেমন, "এখানে এআই অনিশ্চিত হতে পারে, চলুন একসঙ্গে যাচাই করি") পছন্দ করেছে, কারণ স্বচ্ছতা একা তাদের শেখাকে সরাসরি সমর্থন না করলে খুব কম মূল্য রাখে। গবেষণাটি একটি স্বচ্ছতা-বনাম-ব্যাখ্যাযোগ্যতা টানাপোড়েন তুলে ধরে, যা ব্যাখ্যা-নকশাকে বৈশিষ্ট্য-গুরুত্ব আউটপুটের বদলে শিক্ষার্থী-মুখী অর্থের দিকে ঠেলে দেয়।
• শিক্ষকদের দরকার এমন ব্যাখ্যা যা হস্তক্ষেপে দিশা দেয় — কোন শিক্ষার্থীরা ঝুঁকিতে এবং কেন, কোন প্রমাণে। শিক্ষকদের সঙ্গে ব্যাখ্যাযোগ্যতা গবেষণা দেখায় ক্ষেত্র-নির্দিষ্ট, পাঠ্যক্রমিক ভাষার ব্যাখ্যা সাধারণ বৈশিষ্ট্য-গুরুত্বের চেয়ে বেশি কার্যকরভাবে গ্রহণযোগ্যতা ও ক্রমাঙ্কিত আস্থা গড়ে, তবুও শিক্ষকরা পূর্ণ নির্ভরতার আগে বাস্তব শ্রেণিকক্ষ-অভিজ্ঞতা চান — একা ব্যাখ্যা ক্রমাঙ্কন দেয় না।
• ডেভেলপার ও গবেষকদের দরকার মডেল-আচরণ ডিবাগ করতে এবং পক্ষপাত ধরতে ব্যাখ্যা — কোন বৈশিষ্ট্যগুলো পূর্বাভাস চালায় তা সামনে আনা।
• প্রশাসক ও নীতিনির্ধারকদের দরকার জবাবদিহিতা, গোপনীয়তা ও নিয়ন্ত্রণ অনুপালনের (যেমন ব্যাখ্যার অধিকার) জন্য ব্যাখ্যা, এবং এআই-চালিত সিদ্ধান্ত ন্যায্য ও সমতাভিত্তিক কি না তা নিরীক্ষার জন্য।

পদ্ধতি ও ধরন

XAI-ED কাঠামো ব্যাখ্যার প্রধান মাধ্যমগুলো তালিকাভুক্ত করে: দৃশ্যমান (হিটম্যাপ, সিদ্ধান্ত-বৃক্ষ), পাঠগত (স্বাভাবিক-ভাষার যুক্তিসমর্থন), উদাহরণ-ভিত্তিক (প্রতিফলিত-তথ্য, নিকটতম প্রতিবেশী), বৈশিষ্ট্য-গুরুত্ব ক্রমবিন্যাস, নিয়ম-নিষ্কাশন, এবং মডেল সরলীকরণ। এটি পদ্ধতিগুলোকে মডেল-শ্রেণির সঙ্গে মানচিত্রায়িতও করে:

• শ্বেত-বাক্স মডেল (সিদ্ধান্ত-বৃক্ষ, রৈখিক মডেল, নিয়ম-ভিত্তিক) সহজাতভাবে ব্যাখ্যাযোগ্য।
• কালো-বাক্স মডেল (নিউরাল নেটওয়ার্ক, সমন্বয়) পশ্চাৎ-ঘটিত ব্যাখ্যা পদ্ধতি প্রয়োজন।
• কাচ-বাক্স পদ্ধতি স্বচ্ছতার সঙ্গে নির্ভুলতার ভারসাম্য রাখতে চায়।

নির্দিষ্ট এআইইডি প্রমাণভিত্তি এদের সবই জুড়ে বিস্তৃত। ব্যাখ্যাযোগ্য নলেজ ট্রেসিং শিক্ষার্থীর-জ্ঞান মডেলকে সরাসরি নিরীক্ষণযোগ্য করে (Interpretable Knowledge Tracing, Explainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning, Neural-Symbolic Knowledge Tracing: Injecting Educational Knowledge into Deep Learning for Responsible Learner Modelling)। স্ব-ব্যাখ্যাকারী সারোগেট একটি কালো-বাক্স মডেলকে ছোট, ব্যাখ্যাযোগ্য ভাষা মডেলে শিখন বিশ্লেষণের জন্য পাতন করে (Distilling Black-Box Machine Learning into a Small, Self-Explaining Language Model for Learning Analytics)। প্রতিফলিত-তথ্য ব্যাখ্যা — "ভিন্ন ফলাফলের জন্য কী বদলাতে হতো" — শিক্ষামূলক সিদ্ধান্ত-সহায়তা ও প্রতিকার সমর্থন করে (From Student Risk Prediction to SC2R: Semantics-Constrained Counterfactual Recourse for Educational Decision Support)। ফেডারেটেড + ব্যাখ্যাযোগ্য শিখন বিশ্লেষণ দেখায় ক্রমবিন্যাস-স্থিতিশীলতা থাকলেও ব্যাখ্যার গুণ সরে যেতে পারে (ক্রমাঙ্কন অবনমিত হয়), যা জোর দেয় ব্যাখ্যা কোনো স্থির ধর্ম নয়, মাপার মতো একটি ব্যবস্থা-আউটপুট (Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions)। আর ব্যাখ্যাযোগ্য আবেগভিত্তিক আইটিএস আবেগ-সচেতন টিউটরিংয়ে ব্যাখ্যা প্রদর্শন করে (An Interpretable Closed-Loop Intelligent Tutoring System for Multimodal Affective Feedback in Asynchronous Presentation Training)।

• বাহ্যিক পরিমাপ অবিশ্বস্ত-বিবরণ সমস্যাটি এড়িয়ে যায়। ফিল্টারড ডিসিশন লগ সরঞ্জাম-চিহ্নকে একটি উৎস-বৃক্ষে পুনর্গঠন করে এবং চারটি নির্ধারক সংকেত দিয়ে প্রমাণ ক্রমবিন্যাস করে, তাই প্রভাব-স্কোর সুপারিশ থেকে স্বাধীনভাবে যাচাইযোগ্য, এবং প্রতিফলিত-তথ্য সরঞ্জাম-অপসারণ নিশ্চিত করে ক্রমবিন্যাস নির্ভরতা অনুসরণ করেছিল (Anbalagan প্রমুখ (2026))।

ব্যাখ্যার গুণ, উপস্থিতি নয়

প্রমাণজুড়ে বারবার ফিরে আসা শিক্ষা: ব্যাখ্যা থাকাই যথেষ্ট নয়; ব্যাখ্যাটি তার শ্রোতার জন্য সঠিক, নির্ভুল এবং ঝুঁকির সঙ্গে ক্রমাঙ্কিত হতে হবে। XAI-ED কাঠামো বিপদগুলো স্পষ্টভাবে নাম দেয়:

• ব্যাখ্যার অতিরিক্ত বোঝা — অতিরিক্ত তথ্য ব্যবহারকারীকে অভিভূত করে এবং সুবিধা নষ্ট করে।
• বিভ্রান্তিকর ব্যাখ্যা — পশ্চাৎ-ঘটিত ব্যাখ্যা মডেলের প্রকৃত যুক্তির প্রতিফলন না হতে পারে, মিথ্যা আত্মবিশ্বাস দেয়।
• নিশ্চিতকরণ পক্ষপাত — ব্যবহারকারীরা বাছাই করে এমন ব্যাখ্যায় মনোযোগ দেন যা বিদ্যমান বিশ্বাস নিশ্চিত করে।
• অতিরিক্ত আস্থা — সাবলীল ব্যাখ্যা ত্রুটিপূর্ণ ব্যবস্থার প্রতি মিথ্যা আত্মবিশ্বাস তৈরি করতে পারে, যা অতিরিক্ত নির্ভরতাকে পুষ্ট করে (ক্রমাঙ্কনের বিপরীত দিক)।
• ব্যবস্থাকে ফাঁকি দেওয়া — শিক্ষার্থীরা প্রকৃত শেখা এড়াতে ব্যাখ্যা কাজে লাগাতে পারে।

ব্যাখ্যার গুণের একটি সমতা-মাত্রাও আছে: যে ব্যাখ্যা কারিগরিভাবে উপস্থিত কিন্তু নির্দিষ্ট কোনো অংশীজনের কাছে অপাঠ্য — বা যা একটি পূর্বাভাসের পক্ষপাতকে আড়াল করে — সে তার উদ্দেশ্যেই ব্যর্থ হয়। এজন্যই নকশা-প্রশ্নটি গুণ ও সামঞ্জস্য, এবং এজন্যই মানব-কেন্দ্রিক, অংশীজন-নির্দিষ্ট ব্যাখ্যা-নকশা ব্যাখ্যার প্রযুক্তিগত উৎপাদন থেকে অবিচ্ছেদ্য। কার্যকর XAI হলো প্রাপকের জ্ঞানীয় চাহিদার জন্য নকশা করা একটি যোগাযোগ-কর্ম, কেবল একটি প্রযুক্তিগত উপাদান নয়।

ব্যাখ্যা সবসময় সমতাকারী নয়। ২৫০ সপ্তম-শ্রেণির শিক্ষার্থীর সঙ্গে একটি ২ × ২ ভিনিয়েট পরীক্ষায় একটি গণিত-স্কোরের লিখিত যুক্তি উভয় অবস্থাতেই গ্রহণযোগ্যতা ও অনুভূত ন্যায্যতা বাড়িয়েছে, কিন্তু শিক্ষক ও এআই-নির্মিত সিদ্ধান্তের মধ্যে ব্যবধান বন্ধ না করে প্রশস্ত করেছে (Zhang প্রমুখ (2026))।

উদ্ধৃতি নির্ভুলতার প্রমাণ হিসেবে নয়, বরং বিশ্বাসযোগ্যতার সংকেত হিসেবে আচরণ করে: একটি বিতর্ক-ইন্টারফেসে উদ্ধৃতি ও কর্তৃত্ব-সংকেত যুক্ত করলে এআইয়ের অবস্থানের পক্ষে সঠিক বিচার পরিত্যাগ 15.0% থেকে 31.8%-এ উঠেছে, এবং উদ্ধৃত কেসগুলো কখনও কখনও ভুল আরোপিত বা কাল্পনিক ছিল (Tuo প্রমুখ, 2026)।

দুটি সতর্কতা এটিকে আরও তীক্ষ্ণ করে, যার দুটিকেই এই বিষয়ে উইকির সর্বশেষ অবদান কেন্দ্রীয় করে তোলে। প্রথমত, ব্যাখ্যা-যন্ত্র নিজেই নিরপেক্ষ নয়: LIME ও SHAP-এর মতো পশ্চাৎ-ঘটিত পদ্ধতি মডেলের প্রকৃত আচরণের প্রতি অবিশ্বস্ত হতে পারে, তাই কারিগরিভাবে উপস্থিত একটি ব্যাখ্যা তথ্য দেওয়ার বদলে বিভ্রান্ত করতে পারে (Lund প্রমুখ 2026, Chuan প্রমুখ 2024 অবলম্বনে)। দ্বিতীয়ত, ব্যাখ্যা জবাবদিহিতা নয়। কোন বৈশিষ্ট্যগুলো একটি পূর্বাভাস চালিয়েছে তার বিবরণ প্রকাশ করে না সেই বৈশিষ্ট্যগুলো ব্যবহার করা উপযুক্ত ছিল কি না, প্রশিক্ষণ উপাত্ত প্রতিনিধিত্বমূলক ছিল কি না, বা ব্যবস্থার নকশা সুস্থ বিচারের প্রতিফলন ছিল কি না; ব্যাখ্যা স্বচ্ছতার চেহারা তৈরি করতে পারে অথচ যে কাঠামোগত অবস্থা একটি সিদ্ধান্ত তৈরি করেছে তা অক্ষত রাখে (Mittelstadt প্রমুখ 2019)। শিক্ষার জন্য এর অর্থ হলো যে প্রশ্নটি বারবার করতে হবে তা নয় — ব্যাখ্যা উৎপন্ন হয়েছিল কি না, বরং তা গ্রহণকারী ব্যক্তি — একজন শিক্ষার্থী, একজন শিক্ষক, একজন উপদেষ্টা — তা বুঝতে, তার ভিত্তিতে কাজ করতে বা তার পেছনের সিদ্ধান্তকে চ্যালেঞ্জ করতে পেরেছিলেন কি না। পাঠযোগ্যতার একই ব্যর্থতা স্বয়ংক্রিয় মূল্যায়নের নিরাপত্তা দিকে দেখা যায়: Humble-এর (2026) একটি এআই গ্রেডিং সরঞ্জামের রেড-টিম দেখেছে তা একটি প্রম্পট ইনজেকশন আটকানোর পর নীরবে চ্যাট নিষ্ক্রিয় করে দেয়, এবং — ঘোষণা করার পরেও যে এটি কখনও এমবেড করা নির্দেশনা অনুসরণ করবে না — একই ফাইলে আরও ছয়টি রানে তা অনুসরণ করে, ব্যবহারকারীর নির্ভরতার ভিত্তি হিসেবে কোনো নির্ভরযোগ্য সংকেত রেখে যায়নি।

নকশা-দ্বারা-ব্যাখ্যাযোগ্য পশ্চাৎ-ঘটিত বিশ্বস্ততা সমস্যার একটি উত্তর। Li, Yang ও Fang (2025) একটি ব্যাখ্যা-ডিকোডারকে সেই একই মিশ্র প্রতিনিধিত্ব ও পূর্বাভাসিত স্কোর দিয়ে প্যারামিটারাইজ করেন যা মূল্যায়ন নির্ধারণ করে, যাতে গঠনমূলক প্রশ্নকরণে একটি নিম্ন স্কোর অপর্যাপ্ত অনুসন্ধানী প্রশ্নের নাম উল্লেখ করে একটি যুক্তি দেয়, এবং এর সঙ্গে পাঠ্যক্রম-মান ও বিষয়-নির্দিষ্ট রুব্রিক-পদক্ষেপের উপর দ্বৈত-লেন্স মনোযোগ জোড়া দেন। রুব্রিকের সঙ্গে মনোযোগের সামঞ্জস্য 78.0%-এ পৌঁছায়, যেখানে GPT-4 জিরো-শটে 41.7% এবং BERT-এ 32.1%; আর বিশ্বস্ততা যাচাই করা হয় রুব্রিক-সংকটপূর্ণ অংশের প্রতিফলিত-তথ্য অপসারণ এবং রুব্রিক-নোঙর চেকলিস্টে মানব রেটিংসের পাশাপাশি, যার ফলে ব্যাখ্যা-বিশ্বাসযোগ্যতা স্কোর 0.78 — BERT-base-এর তুলনায় 0.31 বৃদ্ধি। নিরীক্ষাটি আরও দেখায় কোথায় স্থাপত্য-দাবিটি পাতলা হয়: আবেগের সংকেতে মডেল 28.4% মনোযোগ-ভার বরাদ্দ করে, যেখানে বিশেষজ্ঞের 15.2% (সামঞ্জস্য 0.53), এবং একটি ব্যর্থতার ঘটনায় "frustrated" টোকেনে 28% বরাদ্দ হয়, যা লেখকেরা শিক্ষাবিজ্ঞানের বদলে আবেগে অতিসামঞ্জস্য হিসেবে পড়েন এবং উন্নতির ক্ষেত্র হিসেবে নাম দেন। সিদ্ধান্ত-পথে ব্যাখ্যা এম্বেড করা সেগুলোকে পশ্চাৎ-ঘটিত যুক্তির চেয়ে বেশি বিশ্বস্ত করে; সেগুলোকে সঠিক করে না।

একটি মডেল কী ব্যবহার করেছে বলে দাবি করে তা উপাত্তের মতোই পরিবার-নির্ভর। একই কোহোর্টে সাতটি মডেল জুড়ে Hooshyar প্রমুখ (2026) দেখেন প্রতীকী পদ্ধতিগুলো জ্ঞানীয় ও প্রেরণামূলক উপাদানে ঝুঁকে থাকে, উপ-প্রতীকী মডেল জ্ঞানীয় দিক, শিখিত জ্ঞান ও লিঙ্গে, আর উভয়ই মূলত অধিজ্ঞানিক উপাদান উপেক্ষা করে, অথচ নিউরাল-প্রতীকী মডেল আরও সমন্বিত একটি সেট ব্যবহার করে। একই শিক্ষার্থী ও একই সূচক কী গুরুত্বপূর্ণ ছিল তার ভিন্ন বিবরণ তৈরি করেছে, তাই শিখন তত্ত্বের সঙ্গে সামঞ্জস্য নির্ভুলতা নয়, আরোপণ সম্পর্কে একটি দাবি হয়ে দাঁড়ায়।

জবাবদিহিতা-চর্চা হিসেবে ব্যাখ্যাযোগ্যতা শেখানো

যদি ব্যাখ্যার গুণই ঠিক করে XAI উপযোগী কি না, তাহলে ব্যাখ্যা উৎপাদনকে একটি সামর্থ্য হিসেবে প্রদর্শন না করে পেশাগত অভ্যাস হিসেবে শেখাতে হবে। Lund ও সহকর্মীরা (2026) এটি চারটি স্তম্ভজুড়ে করার প্রস্তাব দেন — উত্তরযোগ্যতা (ক্ষতিগ্রস্তদের কারণ দেওয়ার বাধ্যবাধকতা), দায়িত্ব (জীবনচক্রজুড়ে ক্ষতি পূর্বানুমান, ঘটনার পরে আত্মপক্ষ সমর্থন নয়), প্রয়োগ (কোর্সের ভেতরে পরিণতি) এবং প্রতিফলনশীলতা (নিজের অনুমানের নথিভুক্ত পরীক্ষা) — প্রতিটির নিজস্ব অ্যাসাইনমেন্ট ও নিজস্ব শ্রেণিকক্ষ-ব্যয়সহ।

ব্যাখ্যাযোগ্যতার জন্য বিশেষভাবে, যে অ্যাসাইনমেন্টগুলো গুরুত্বপূর্ণ তারা ব্যাখ্যাকে নোটবুকের বাইরে বের করতে বাধ্য করে: নির্ভুলতা-মাপকাঠির পাশাপাশি ওজনযুক্ত গ্রেডেড মডেল কার্ড, এবং কাঠামোবদ্ধ ব্যাখ্যা-নিরীক্ষা যেখানে শিক্ষার্থীরা নিজেদের মডেলে ব্যাখ্যাযোগ্যতা সরঞ্জাম প্রয়োগ করে এবং তারপর ফলাফল এমন শ্রোতার সামনে উপস্থাপন করে যাদের সমঝোরা প্রযুক্তিগত পটভূমি নেই। প্রয়োগ হলো সেই স্তম্ভ যা নৈতিকতা-সংলগ্ন কোর্সগুলোতে সবচেয়ে বেশি অনুপস্থিত থাকে এবং যা বাকিগুলোকে প্রতীকী না হয়ে বাস্তব করে তোলে — এমন রুব্রিক যা দায়িত্বশীল নথিকরণকে পুরস্কৃত করে, এমন প্রকল্প যা নৈতিক কারণে সংশোধনের জন্য ফেরত দেওয়া যায়, এবং সহকর্মী-পর্যালোচনা যা কেবল প্রযুক্তিগত নয়, জবাবদিহিতার মানদণ্ডের বিপরীতে পরিচালিত হয়। গবেষণাপত্রটি স্পষ্টভাবে স্বীকার করে সরঞ্জামগুলোর ব্যয়ে তীক্ষ্ণ পার্থক্য আছে: মডেল কার্ড ও অবস্থান-বিবৃতিতে নতুন সফটওয়্যার লাগে না এবং কেবল উপরিতলের অনুপালনের ঝুঁকি থাকে, অন্যদিকে সহকর্মী-প্যানেল ও অংশীজন-সম্পৃক্ততায় সমন্বয় ও প্রাতিষ্ঠানিক সমর্থন প্রয়োজন, এজন্যই এটি সব-অথবা-কিছু না, বরং ধাপে ধাপে গ্রহণের সুপারিশ করে। এগুলো একটি কর্মসূচিতে কোথায় বসে তা দেখুন পাঠ্যক্রম নকশা-এ।

সাধারণ ভুল ধারণা

• "উদ্ধৃতি কোনো ব্যাখ্যাকে বিশ্বাসযোগ্য করে।" উদ্ধৃতি নির্ভুলতার প্রমাণ নয়, বিশ্বাসযোগ্যতার সংকেত হিসেবে আচরণ করে: একটি বিতর্ক-ইন্টারফেসে উদ্ধৃতি ও কর্তৃত্ব-সংকেত যুক্ত করলে এআইয়ের অবস্থানের পক্ষে সঠিক বিচার পরিত্যাগ 15.0% থেকে 31.8%-এ উঠেছে। উৎস-উল্লেখ ভুল উত্তরকে আরও প্ররোচক করে তুলেছে, যা অভীষ্ট প্রভাবের বিপরীত।
• "ব্যবহারকারীকে সন্তুষ্ট করা ব্যাখ্যা ব্যবস্থাটি ব্যাখ্যা করেছে।" পাঠযোগ্যতার একই ব্যর্থতা স্বয়ংক্রিয় মূল্যায়নের নিরাপত্তা দিকে দেখা যায়: Humble-এর (2026) রেড-টিম দেখেছে একটি দৈনন্দিন গ্রেডিং কর্মপ্রবাহ ইনজেক্ট করা নির্দেশনায় কারসাজি করা যায়। বিশ্বাসযোগ্য আখ্যান আর নিরীক্ষণযোগ্য আখ্যান ভিন্ন উপাদান।
• "সাধারণ XAI চর্চা শিক্ষায় স্থানান্তরযোগ্য।" XAI-ED কাঠামো (Khosravi প্রমুখ, 2022) জোর দেয় শিক্ষার সাধারণ XAI-এর বাইরে স্বতন্ত্র ব্যাখ্যাযোগ্যতার চাহিদা আছে, কারণ শ্রোতার মধ্যে শিক্ষার্থীরা আছে যাদের ব্যাখ্যার ভিত্তিতে কাজ করতে হয়, এমন নিরীক্ষক নয় যাদের তা প্রত্যয়ন করতে হয়।
• "বিশ্বস্ততা এমন ধর্ম যা যাচাই ছাড়াই দাবি করা যায়।" মাপা বিশ্বস্ততার জন্য প্রয়োজন রুব্রিক-সংকটপূর্ণ অংশের প্রতিফলিত-তথ্য অপসারণ এবং মানব রেটিংস। রুব্রিকে মনোযোগের সামঞ্জস্য GPT-4 জিরো-শটে 41.7% ও BERT-এ 32.1%-এর বিপরীতে 78.0%-এ পৌঁছানো সেই ধরনের যাচাই থেকে প্রাপ্ত তুলনামূলক ফল, ব্যাখ্যাযোগ্যতা সম্পর্কে কোনো দাবি থেকে নয়।

উদ্ধৃতি

Khosravi, H., Buckingham Shum, S., Chen, G., Conati, C., Tsai, Y.-S., Kay, J., Knight, S., Martinez-Maldonado, R., Sadiq, S., & Gašević, D. (2022). Explainable Artificial Intelligence in education. Computers and Education: Artificial Intelligence, 100074.

সংযুক্ত ধারণা

• বিশ্বাস ক্রমাঙ্কন
• বিশ্বাস
• এআই সাক্ষরতা
• লার্নিং অ্যানালিটিক্স
• স্বয়ংক্রিয় মূল্যায়ন
• শিক্ষার্থী-মডেলিং ও অভিযোজিত শিক্ষণ
• বুদ্ধিদীপ্ত টিউটরিং
• জ্ঞান ট্রেসিং
• পক্ষপাত প্রশমন
• মানুষ-চক্রে
• শিক্ষাতাত্ত্বিক নিরাপত্তা
• মেটাকগনিশন
• স্ব-নিয়ন্ত্রিত শিখন
• সংজ্ঞানাত্মক অফলোডিং
• গোপনীয়তা
• শিক্ষায় এআই নিয়ন্ত্রণ
• সুপারিশকারী ব্যবস্থা ও শিখন-পথ

সংযুক্ত নিবন্ধ

• Toward Socially Accountable Data Science Education: A Conceptual Framework for Integrating Explainable AI and Accountability Principles — XAI-কে জবাবদিহিতা-চর্চা হিসেবে শেখানোর চার-স্তম্ভ কাঠামো (উত্তরযোগ্যতা, দায়িত্ব, প্রয়োগ, প্রতিফলনশীলতা) (Lund প্রমুখ 2026)

• Value-Sensitive Design in Action: Designing Student-Centered Intelligent Tutoring Systems with Community College Students and Instructors — শিক্ষার্থী-কেন্দ্রিক আইটিএস-এর মূল্য-সংবেদনশীল নকশা (সহযোগী বনাম কাঁচা ব্যাখ্যা)

• Explainable Artificial Intelligence in Education (XAI-ED) — XAI-ED: শিক্ষায় ব্যাখ্যাযোগ্য এআইয়ের ভিত্তি-কাঠামো (Khosravi প্রমুখ 2022)

• The Impact of Explainable AI on Teachers' Trust and Acceptance of AI EdTech Recommendations: The Power of Domain-specific Explanations — ক্ষেত্র-নির্দিষ্ট ব্যাখ্যা শিক্ষকদের আস্থা ও গ্রহণযোগ্যতা গড়ে (Feldman-Maggor প্রমুখ 2025)

• Who Should Grade My Work? Student Perspectives on Transparent AI-Assisted Writing Assessment in Higher Education — স্বচ্ছ এআই-সহায়ক মূল্যায়ন নিয়ে শিক্ষার্থী-দৃষ্টিকোণ (AlGhamdi 2026)

• Interpretable Knowledge Tracing — ব্যাখ্যাযোগ্য নলেজ ট্রেসিং

• Explainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning — সম্ভাব্যতাভিত্তিক এমবেডিং দিয়ে ব্যাখ্যাযোগ্য নলেজ ট্রেসিং

• Neural-Symbolic Knowledge Tracing: Injecting Educational Knowledge into Deep Learning for Responsible Learner Modelling — নিউরাল-প্রতীকী নলেজ ট্রেসিং

• Distilling Black-Box Machine Learning into a Small, Self-Explaining Language Model for Learning Analytics — শিখন বিশ্লেষণের জন্য কালো-বাক্স মডেলকে স্ব-ব্যাখ্যাকারী এলএম-এ পাতন

• Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions — গোপনীয়তা-সংরক্ষণকারী ঝুঁকি মডেলিংয়ের জন্য ফেডারেটেড ও ব্যাখ্যাযোগ্য শিখন বিশ্লেষণ

• From Student Risk Prediction to SC2R: Semantics-Constrained Counterfactual Recourse for Educational Decision Support — শিক্ষামূলক সিদ্ধান্ত-সহায়তার জন্য অর্থ-সীমাবদ্ধ প্রতিফলিত-তথ্য প্রতিকার

• Fair and explainable educational recommendations with a hybrid Graph-GRU framework — ন্যায্য ও ব্যাখ্যাযোগ্য শিক্ষামূলক সুপারিশ

• An Interpretable Closed-Loop Intelligent Tutoring System for Multimodal Affective Feedback in Asynchronous Presentation Training — বহু-ধরনের আবেগভিত্তিক প্রতিক্রিয়ার জন্য ব্যাখ্যাযোগ্য বদ্ধ-চক্র আইটিএস

• Explaining ChatGPT Adoption in Higher Education: Insights for AI Literacy, Educational Practice, and Responsible AI — উচ্চশিক্ষায় ChatGPT গ্রহণের ব্যাখ্যা

• Towards trustworthy and explainable-by-design large language models for automated teacher assessment — নকশা-দ্বারা-ব্যাখ্যাযোগ্য এলএলএম কাঠামো: স্বয়ংক্রিয় শিক্ষক-মূল্যায়নের জন্য দ্বৈত-লেন্স মনোযোগ ও স্কোর-প্যারামিটারাইজড ব্যাখ্যা (Li প্রমুখ 2025)

• Ethical implications of prompt injection in AI-mediated grading: An adversarial red-team evaluation — এআই-মধ্যস্থ গ্রেডিংয়ে প্রম্পট ইনজেকশন, যেখানে সনাক্তকরণ ব্যবহারকারীকে কখনও জানানো হয়নি (Humble 2026)

• Evaluation of pre-trained models for pedagogical assessment of novel AI-assisted educational questions — নতুন এআই-সহায়ক শিক্ষামূলক প্রশ্নের শিক্ষাবিজ্ঞানিক মূল্যায়নের জন্য পূর্ব-প্রশিক্ষিত মডেলের মূল্যায়ন

• Teacher or Artificial Intelligence? The Effect of Decision-Making Agent on Junior High School Students’ Decision Acceptance: A Moderated Mediation Model — শিক্ষক বনাম এআই-নির্মিত গ্রেডিং সিদ্ধান্ত: লিখিত যুক্তি ন্যায্যতার ব্যবধান প্রশস্ত করেছে

• Countering the Risks of AI Overreliance: Leveraging Multi-Agent Debate for Complementary Human–AI Decision-Making in Legal Contexts — উদ্ধৃতি ও কর্তৃত্ব-সংকেত ভুল আউটপুটের প্রতি বশ্যতা বাড়িয়েছে, কিছু তথ্যসূত্র ভুল আরোপিত বা কাল্পনিক

• Towards Responsible and Trustworthy Educational Data Mining: Comparing Symbolic, Sub-Symbolic, and Neural-Symbolic AI Methods - একই কোহোর্টে প্রতীকী, উপ-প্রতীকী ও নিউরাল-প্রতীকী মডেল তাদের পূর্বাভাস ভিন্ন উপাদানে আরোপ করেছে