হ্যালুসিনেশন ঝুঁকি

ইংরেজি পাতার এই স্বয়ংক্রিয় অনুবাদ, এখনও মাতৃভাষিক বক্তার দ্বারা পর্যালোচনা করা হয়নি।

হ্যালুসিনেশন ঝুঁকি — সেই বিপদ যে এআই ব্যবস্থা শিক্ষামূলক প্রেক্ষিতে বিশ্বাসযোগ্য কিন্তু তথ্যগতভাবে ভুল বা বানানো বিষয়বস্তু উৎপন্ন করে, যেখানে এমন ত্রুটি শিক্ষার্থীদের বিভ্রান্ত করতে, আস্থা ক্ষুণ্ণ করতে এবং অবৈধ মূল্যায়ন তৈরি করতে পারে। শিক্ষায় হ্যালুসিনেশন বিশেষভাবে গুরুতর, কারণ শিক্ষার্থীদের এআই-ত্রুটি ধরার ডোমেইন-জ্ঞান নাও থাকতে পারে, আর শিক্ষকেরা এআই-উৎপন্ন রোগনির্ণয় বা প্রতিক্রিয়ার উপর নির্ভর করতে পারেন যা কর্তৃত্বপূর্ণ দেখায় কিন্তু ভিত্তিহীন।

বিবেচনার প্রশ্ন

• শিক্ষার্থীদের প্রায়ই এআই-এর ত্রুটি চিহ্নিত করার ডোমেইন-জ্ঞান থাকে না, আর শিক্ষকেরা কর্তৃত্বপূর্ণ শোনানো এআই রোগনির্ণয়ে ভরসা করতে পারেন। এআই ও শিক্ষার্থীর মধ্যে জ্ঞানের এই অসমতা কীভাবে শিক্ষায় হ্যালুসিনেশনকে বিশেষভাবে বিপজ্জনক করে?
• একটি গবেষণায় দেখা গেছে শিক্ষার্থীদের হাতে লেখা গণিতের রোগনির্ণয় করা একটি এআই এমন প্রমাণ-উদ্ধৃতি বানাতে পারে যা ছিলই না, অথচ আত্মবিশ্বাসের দাবি করে। যখন এআই নিশ্চিত শোনায় ও 'প্রমাণ' উদ্ধৃত করে, তখন কী আপনাকে থামিয়ে যাচাই করতে বাধ্য করবে?
• যদি একটি এআই টিউটর ভুল সমাধানকে অতিরিক্ত বৈধতা দেয় এবং বৈধ কিন্তু দুর্বল যুক্তিকে অতিরিক্ত প্রত্যাখ্যান করে, তবে তার উপর ভরসা করা শিক্ষার্থী ও শিক্ষকদের উপর দীর্ঘমেয়াদি প্রভাব কী হবে?
• পাতাটি প্রশমন হিসেবে human-in-the-loop পর্যালোচনা, প্রমাণ-সচেতন আত্মবিশ্বাস-ক্রমাঙ্কন এবং যাচাইকৃত উৎসে প্রতিষ্ঠা প্রস্তাব করে। আপনার নিজের প্রেক্ষিতে এর মধ্যে কোনটি সবচেয়ে সম্ভবপর মনে হয়, আর তবু তা কী ধরতে ব্যর্থ হতে পারে?
• হ্যালুসিনেশন অতিরিক্ত-নির্ভরশীলতার সঙ্গে কীভাবে মিথস্ক্রিয়া করতে পারে: ব্যবহারকারীরা যখন সমালোচনাহীনভাবে আউটপুটে বিশ্বাস করেন তখনই এআই-ত্রুটি সবচেয়ে বিপজ্জনক কেন, সন্দেহবাদী থাকলে নয়?
• আপনার শিক্ষার্থীদের জন্য একটি এআই প্রতিক্রিয়া সরঞ্জাম নকশা করলে, বিশ্বাসযোগ্য-কিন্তু-ভুল আউটপুট থেকে রক্ষা পেতে কোন নির্দিষ্ট সুরক্ষা আপনি দাবি করবেন — আর তারা কাজ করছে তা আপনি কীভাবে জানবেন?

ভূমিকা

শিক্ষামূলক এআই-এ হ্যালুসিনেশন এই জ্ঞানভাণ্ডারের নিবন্ধে নথিভুক্ত কয়েকটি রূপ নেয়: শিক্ষার্থী-মূল্যায়নে বানানো প্রমাণ, শিক্ষার্থীর জ্ঞানের অতিরিক্ত-আত্মবিশ্বাসী ভুল রোগনির্ণয়, এবং বিশ্বাসযোগ্য শোনানো কিন্তু ভুল ব্যাখ্যা যা শিক্ষার্থীরা সত্য হিসেবে গ্রহণ করে। শিক্ষায় ঝুঁকি বাড়ে কারণ এআই ও শিক্ষার্থীর মধ্যে জ্ঞানের অসমতা মানে শিক্ষার্থী এআই-আউটপুট যাচাইয়ের জন্য দুর্বল অবস্থানে। আরেকটি প্রেক্ষিত হলো পাঠ্যবইয়ের প্রতিনিধি হিসেবে এআই-উৎপন্ন কোর্স-পাঠ: একটি স্নাতকোত্তর কোর্সে এভাবে বাণিজ্যিক পাঠ্য প্রতিস্থাপিত হলে 4,487 লগ-করা পাতার মাত্র প্রায় 0.80%-এ APA-ধাঁচের অন্তর্নিহিত সাইটেশন ছিল আর DOI স্ট্রিং প্রায় অনুপস্থিত, তাই অধিকাংশ দাবি নিদর্শনের ভেতর থেকে নিরীক্ষা করা যেত না (Sidorkin, 2026)। এই অনুসরণযোগ্যতার শূন্যতা ভুল উত্তরের থেকে আলাদা, কারণ পাঠটি কর্তৃত্বপূর্ণ পড়া যায় অথচ নিশ্চিতকরণের সীমিত অন্তর্নিহিত উপায় দেয়।

একটি 125-গবেষণার পর্যালোচনা প্রচলন ও শনাক্তকরণ-ব্যবধানে একটি পরিসর দেয়: হ্যালুসিনেশনের হার 10-40%, যেখানে চিকিৎসা-শিক্ষার্থীরা কেবল 44-55% সময়ে এআই-ত্রুটি ধরে (Rathnayake (2026)).

মূল্যায়ন-হ্যালুসিনেশন বিশেষভাবে ক্ষতিকর। MathCog দেখে LLM জ্ঞানীয় দক্ষতা নির্ণয়ের সময় শিক্ষার্থীর হাতের লেখায় উপস্থিত নয় এমন প্রমাণ-উদ্ধৃতি বানায়, 58.5% ভুল রোগনির্ণয়ের সঙ্গে প্রমাণগত আত্মবিশ্বাসের মিথ্যা দাবি থাকল। The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows বৃহৎ ভাষা মডেল (এলএলএম) যুক্তিতে প্রমাণের পদ্ধতিগত অতিরিক্ত-আরোপণ নথিভুক্ত করে — মডেলরা প্রমাণ-সমর্থন দাবি করে যেখানে তা নেই। দুটোই এআই শিক্ষা মূল্যায়ন ও জ্ঞান ট্রেসিং-এর সঙ্গে মূল্যায়নের বৈধতা নিয়ে উদ্বেগে যুক্ত। Ivory প্রমুখ (2026) আরও দুটি ব্যর্থতার ধরন যোগ করেন যা এআই-আউটপুট পরিদর্শন না করে নম্বর দিলে দেখা যায়: বানানো সূক্ষ্ম তথ্য যা গ্রেডিং পার হয় — একটি পর্যালোচিত প্রবন্ধ যা অস্তিত্বহীন, অমীমাংসিত DOI সহ, আর একটি নমুনা-আকার 378 হিসেবে প্রতিবেদিত যেখানে উৎসে ছিল 329 — এবং একক প্রতিক্রিয়ার ভেতরে আত্মবিরোধ, যেখানে মডেল সঠিক বিকল্পে যুক্তি করে পৌঁছে শেষ সারসংক্ষেপে অন্য একটি জানায়। যেহেতু তথ্যসূত্র-তালিকা বর্তমানে নির্ভুলতার বদলে বিন্যাসের জন্য গ্রেড করা হয়, এই শ্রেণির ত্রুটি পাসিং গ্রেডে পৌঁছায় অথচ যে শিক্ষার্থী একই সরঞ্জাম দিয়ে সংশোধন করে তাকে বিভ্রান্ত করে।

একটি মূল্যায়ন-নকশা পাইলটে Paula প্রমুখ (2026) বারবার প্রম্পট দেওয়ার পরেও টিকে থাকা বানানো তথ্যসূত্র ও অবাস্তব সময়-অনুমান পান, যার জন্য যথেষ্ট একাডেমিক সংশোধন দরকার হয় — শিক্ষার্থীর কাজে নয়, শিক্ষক-মুখী খসড়া-সরঞ্জামে হ্যালুসিনেশন।

কৌশলী ভ্রান্ত ধারণা প্রকাশ্য হ্যালুসিনেশনের সূক্ষ্মতর আত্মীয়। Miličević প্রমুখ (2026) সাতটি মুক্ত-ওজন মডেলকে 35টি মূল কম্পিউটার-বিজ্ঞান ধারণার জন্য একটি "সক্রেটিক ফাঁদ" তৈরি করতে প্রম্পট দেন — এমন ব্যাখ্যা যা সাবলীল ও কর্তৃত্বপূর্ণ অথচ একটি সূক্ষ্ম, ডোমেইন-নির্দিষ্ট ভুলের উপর দাঁড়ানো — আর তিনজন ডোমেইন-বিশেষজ্ঞ 241টি প্রম্পটেড অংশের 221টি (91.7%) কৌশলী ভ্রান্ত ধারণা হিসেবে নিশ্চিত করেন, CS ডোমেইনের মধ্যে কোনো তাৎপর্যপূর্ণ পার্থক্য ছাড়াই। ত্রুটিগুলো প্রধানত ধারণাগত, তথ্যগত নয় (66.5% বনাম 33.5%) এবং কোনোটিই বিশুদ্ধ যৌক্তিক ছিল না, আর সেগুলো মধ্যম থেকে উচ্চ মাত্রায় প্ররোচনামূলক রেট করা হয়েছে (পাঁচ-দফা স্কেলে M = 3.71), মডেল-পরিচয় ভেদাভেদের 43% ব্যাখ্যা করে। কারণ পৃথক বিবৃতি সঠিক হতে পারে অথচ তাদের মধ্যকার সম্পর্ক ভুল, তথ্য-যাচাই অপর্যাপ্ত; লেখকেরা যুক্তি দেন শিক্ষার্থীদের ধারণাগত যাচাই ও মানসিক-মডেল বৈধতা দরকার। তারা এও সতর্ক করেন যে হারটি প্রতিকূল প্রম্পটিংয়ের অধীনে সক্ষমতা মাপে, সাধারণ ব্যবহারে এমন ত্রুটির প্রচলন নয়, আর কোনো শিক্ষার্থী পরীক্ষিত হয়নি, তাই কোনো প্রতারণা বা শিখনফল মাপা হয়নি।

বানানো নয়, হেরফের করা প্রমাণ। স্বয়ংক্রিয় গ্রেডিংয়ে সম্পর্কিত একটি ব্যর্থতার ধরন হলো বাইরে থেকে সরানো আউটপুট। Humble (2026) একটি রুটিন এআই গ্রেডিং কর্মপ্রবাহে রেড-টিম চালান এবং দেখেন জমা দেওয়া ফাইলের ভেতরে লুকানো নির্দেশ একটি ফেল করা প্রবন্ধের গ্রেড বাড়িয়েছে কোনো দৃশ্যমান সতর্কতা ছাড়াই, একটি কৌশলে 9-এর মধ্যে 9 পুনরাবৃত্তিতে এবং অন্যটিতে 18-এর মধ্যে 17-এ। দুটি বিবরণ আস্থার সঙ্গে প্রাসঙ্গিক: শনাক্ত একটি ইনজেকশন চ্যাট চুপচাপ নিষ্ক্রিয় করে ব্লক করা হয়েছিল এবং ব্যবহারকারীকে কখনও জানানো হয়নি, আর একটি চালনায় সরঞ্জামটি ঘোষণা করেছিল যে এটি কেবল সরকারি অ্যাসাইনমেন্ট-নির্দেশনা অনুসরণ করবে, তবু একই ফাইলের ছয়টি পুনরায় চালনায় গ্রেড বেড়েছে। এভাবে পাওয়া নম্বর কোনো বৈধতার দাবি বহন করে না, আর কারণ হেরফের কোনো টেকসই চিহ্ন রাখে না, প্রশিক্ষকই থেকে যান এমন আউটপুটের একমাত্র প্রকৃত নিয়ন্ত্রক যা দৃশ্যমান না হওয়ার জন্য নকশাকৃত।

এমন হেরফেরের বিরুদ্ধে প্রতিরক্ষার নিজস্ব বাণিজ্য আছে: একটি বহু-স্তর গার্ডরেল পাইপলাইন 46.34% ইনজেকশন সফল রাখে এবং Prompt Guard 38.48%, অথচ NeMo Guardrails প্রতিটি আক্রমণ ব্লক করে কিন্তু 16.22% নিরীহ শিক্ষার্থী-প্রশ্ন ফ্ল্যাগ করে — এমন মিথ্যা-ধনাত্মক হার যা টিউটরে নিজেই শিক্ষাদানমূলক ক্ষতি (Maiorano (2026)).

টিউটরিং-হ্যালুসিনেশন শেখাকে সরাসরি প্রভাবিত করে। Confirming Correct, Missing the Rest: LLM Tutoring Agents Struggle Where Feedback Matters Most দেখে LLM ভুল সমাধানকে অতিরিক্ত বৈধতা দেয় অথচ বৈধ-কিন্তু-দুর্বল যুক্তিকে অতিরিক্ত প্রত্যাখ্যান করে — পদ্ধতিগত ব্যর্থতা যা শিক্ষার্থী ও শিক্ষক উভয়কেই বিভ্রান্ত করবে। Sycophancy is an Educational Safety Risk: Why LLM Tutors Need Sycophancy Benchmarks ও EduGuard: A Safe RAG-Based LLM Tutor for Programming Education শিক্ষামূলক LLM-এর নিরাপত্তা-ব্যবস্থা নিয়ে কাজ করে। এই ঝুঁকিগুলো শিক্ষাতাত্ত্বিক নিরাপত্তা ও মানুষ-চক্রে চাহিদার সঙ্গে যুক্ত।

প্রশমন পদ্ধতির মধ্যে পড়ে মানুষ-চক্রে নকশা যেখানে এআই শিক্ষকের বিচারকে সমর্থন করে, প্রতিস্থাপন নয়; প্রমাণ-সচেতন স্থাপত্য যা প্রমাণের গুণমানের ভিত্তিতে আত্মবিশ্বাস ক্রমাঙ্কিত করে (MathCog যেভাবে প্রস্তাব করে); এবং RAG (রিট্রিভাল-অগমেন্টেড জেনারেশন)-ভিত্তিক প্রতিষ্ঠা যা LLM-আউটপুটকে যাচাইকৃত উৎসে সীমাবদ্ধ করে। অতিরিক্ত-নির্ভরশীলতার ধারণা ঘনিষ্ঠভাবে সম্পর্কিত — হ্যালুসিনেশন সবচেয়ে বিপজ্জনক যখন ব্যবহারকারীরা এআই-আউটপুটে সমালোচনাহীনভাবে বিশ্বাস করেন। Sidorkin (2026) আরেকটি ব্যর্থতার ধরন যোগ করেন যা প্রশমন-স্তূপ পুরোপুরি ঢাকে না: অতিরিক্ত-নির্দিষ্ট প্রাতিষ্ঠানিক দাবি, লগ-করা পাতার প্রায় 1.03% "Sacramento State"-এর মতো নামকরা ক্যাম্পাসকে সংশোধিত ধারণক্ষমতা, tenure ও promotion নিয়ম বা CSU Executive Order নিয়ে দৃঢ় নীতিমূলক ক্রিয়াপদের সঙ্গে জোড়ে, যার কোনোটিই পাঠ থেকে যাচাইযোগ্য নয়। নির্দিষ্টতাই এটিকে ব্যয়বহুল করে, কারণ বানানো স্থানীয় বিবরণ এত নির্ভুল দেখায় যে পাঠকের বিশ্বাসযোগ্যতা-যাচাই পার হয়, আর গবেষণাটি যে প্রতিকার প্রস্তাব করে তা কারিগরি নয়, পদ্ধতিগত: উৎপাদনকে প্রশিক্ষক-পর্যালোচনার অধীনে খসড়া-উৎপাদন হিসেবে ধরুন, তারপর উৎস সংগ্রহ করে retrieval-augmented নকশায় নিন।

লেবেলকৃত অনির্ভরযোগ্যতা প্রতিবেদিত নির্ভরতা বাড়ায়নি, কমিয়েছে। যখন 546 অংশগ্রহণকারী একই GAI সংলাপ পড়েন যা হয় বানানো তথ্য ধারণকারী নয় যাচাইকৃত নির্ভুল হিসেবে লেবেলকৃত, বানানো লেবেল কম আস্থা ও অনুভূত নিয়ন্ত্রণযোগ্যতা এবং বেশি জ্ঞানীয় অসঙ্গতি ও হতাশা তৈরি করে, সঙ্গে কম নির্ভরতা-স্কোর (M = 2.935 বনাম 3.254) (Liu প্রমুখ (2026))। ফলটি পাতার অতিরিক্ত-নির্ভরশীলতা-যুক্তিকে সীমিত করে: আউটপুট বানানো হতে পারে তা দেখা আর তার উপর ভর করা চালিয়ে যাওয়া এক নয়।

বিশ্বাসযোগ্যতার সংকেত বরং বশ্যতা বাড়াতে পারে। বিপরীত নড়াচড়া দেখা যায় যখন অনির্ভরযোগ্য আউটপুট সাজিয়ে দেওয়া হয়: ARMADA বিতর্ক-ইন্টারফেসে সাইটেশন ও বিশ্বাসযোগ্যতা-সংকেত যোগ করলে সঠিক প্রাথমিক বিচার থেকে ভুল এআই অবস্থানে সরে যাওয়া অংশগ্রহণকারীর অনুপাত 112% বাড়ে (31.8% বনাম 15.0%), আর হাতে যাচাইয়ে দেখা যায় কিছু উদ্ধৃত কেস অপ্রাসঙ্গিক বা কাল্পনিক তথ্যসূত্রে ভুলভাবে আরোপিত (Tuo প্রমুখ, 2026)।

সাধারণ ভুল ধারণা

• "শিক্ষার্থীরা ত্রুটি খেয়াল করবে।" একটি 125-গবেষণার পর্যালোচনা হ্যালুসিনেশনের হার 10-40% রাখে, যেখানে চিকিৎসা-শিক্ষার্থীরা — উচ্চশিক্ষার সবচেয়ে যত্নে বাছাই করা শিক্ষার্থীদের একজন — এআই-ত্রুটি কেবল 44-55% সময়ে ধরে। সম্ভাব্যতা-স্তরের নির্ভরযোগ্যতার অনেক নিচে শনাক্তকরণ-হার মানে বোঝাটা পাঠকের উপর রাখা যায় না।
• "ত্রুটি দেখা দিলেই স্পষ্ট।" হাতে লেখা গণিতের রোগনির্ণয় করা একটি এআই প্রমাণ-উদ্ধৃতি বানাতে পারে যা ছিলই না, অথচ আত্মবিশ্বাসের দাবি করে। ব্যর্থতা বিশ্বাসযোগ্য-কিন্তু-ভুল উত্তর ছিল না; ছিল নিশ্চয়তার সঙ্গে উপস্থাপিত বানানো সমর্থন, যা ধরাই সবচেয়ে কঠিন কারণ তা ঠিক সেই প্রমাণের মতো পড়া যায় যা একজন সতর্ক পাঠক চাইতেন।
• "সাইটেশনহীন আউটপুট একটি বিন্যাস-সমস্যা।" একটি স্নাতকোত্তর কোর্সে বাণিজ্যিক পাঠ্যবই এআই-উৎপন্ন পাঠ দিয়ে প্রতিস্থাপিত হলে 4,487 লগ-করা পাতার মাত্র প্রায় 0.80%-এ APA-ধাঁচের অন্তর্নিহিত সাইটেশন ছিল। এটি মাঝেমধ্যে বাদ পড়া নয়, কর্পাস-স্তরের উৎস-শূন্যতা, আর তা মানে যাচাইয়ের কোনো সূচনাবিন্দু নেই।
• "হ্যালুসিনেশন একটি মডেল-উৎপাদন সমস্যা যা নতুন মডেল সমাধান করে।" হার-পরিসর 125 গবেষণা জুড়ে 10-40%, যা মডেলের মতোই কাজ ও স্থাপনারও বৈশিষ্ট্য। হার কমানো প্রকৃত অগ্রগতি এবং তা বদলায় না যে পাঠককে যাচাই করতে পারতেই হবে।

সংযুক্ত ধারণা

• সংজ্ঞানাত্মক অফলোডিং
• মানুষ-চক্রে
• এআই শিক্ষা মূল্যায়ন
• শিক্ষাতাত্ত্বিক নিরাপত্তা
• জ্ঞান ট্রেসিং
• RAG (রিট্রিভাল-অগমেন্টেড জেনারেশন)
• একাডেমিক সততা
• শিক্ষাদান
• মাল্টিমোডাল এআই
• উৎপাদক এআই
• বৃহৎ ভাষা মডেল (এলএলএম)
• উৎপাদনশীল ব্যর্থতা

সংযুক্ত নিবন্ধ

• GAI hallucinations and user dependence: cognitive-affective responses and individual differences — একটি GAI সংলাপ বানানো হিসেবে লেবেল করা আস্থা ও নির্ভরতা একসঙ্গে কমিয়েছে

• Countering the Risks of AI Overreliance: Leveraging Multi-Agent Debate for Complementary Human–AI Decision-Making in Legal Contexts — বিশ্বাসযোগ্যতা-সংকেত এআই-আউটপুটে বশ্যতা বাড়িয়েছে, কিছু উদ্ধৃত কেস ভুলভাবে আরোপিত বা কাল্পনিক

• The Integrity of Psychology Assessments in the AI Age: A Critical Examination — পাসযোগ্য শিক্ষার্থী-কাজের ভেতরে বানানো তথ্যসূত্র ও আত্মবিরোধী আউটপুট (Ivory প্রমুখ 2026)

• Benchmarking Large Language Models for Diagnosing Students' Cognitive Skills from Handwritten Math Work

• The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows

• Confirming Correct, Missing the Rest: LLM Tutoring Agents Struggle Where Feedback Matters Most

• Sycophancy is an Educational Safety Risk: Why LLM Tutors Need Sycophancy Benchmarks

• EduGuard: A Safe RAG-Based LLM Tutor for Programming Education

• Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs

• VeriForge: Mitigating Latent Knowledge Gaps in Narrative Drafting via Mixed-Initiative Scaffolding

• Generative AI in Higher Education: A Systematic Review of Opportunities, Challenges, and Pedagogical Innovations (2022–2025)

• From One-Size Texts to Tailored Readings: Student Experiences with AI-Generated Course Materials

• The Socratic trap: Benchmarking the capacity of large language models to generate strategic misconceptions in computer science education — SocraticTrap-CS: ধারণাগত স্তরে ভুল অথচ সাবলীলভাবে বিশ্বাসযোগ্য ব্যাখ্যা (Miličević প্রমুখ 2026)

• Ethical implications of prompt injection in AI-mediated grading: An adversarial red-team evaluation — লুকানো প্রম্পট ইনজেকশন শনাক্ত না হয়েই এআই-গ্রেড নম্বর বাড়ায়, আর শনাক্ত আক্রমণ প্রতিবেদিত হয় না (Humble 2026)

• Designing Authentic Assessments with Generative AI: A Pilot Study of Assessment Authentifire in Higher Education — Designing Authentic Assessments with Generative AI: A Pilot Study of Assessment Authentifire in Higher Education