ہیلوسینیشن کا خطرہ

انگریزی صفحے کا خودکار ترجمہ، جو ابھی تک کسی مقامی بولنے والے کے ذریعے جانچا نہیں گیا۔

ہیلوسینیشن کا خطرہ — یہ خطرہ کہ AI نظام تعلیمی سیاق و سباق میں قابلِ یقین مگر حقیقتاً غلط یا من گھڑت مواد پیدا کریں، جہاں ایسی غلطیاں سیکھنے والوں کو گمراہ کر سکتی ہیں، اعتماد کو نقصان پہنچا سکتی ہیں اور بے بنیاد جانچ پیدا کر سکتی ہیں۔ تعلیم میں ہیلوسینیشن خاص طور پر سنگین ہے کیونکہ طلبہ کے پاس AI کی غلطیاں پکڑنے کا شعبہ جاتی علم کم ہو سکتا ہے، اور اساتذہ AI کے تیار کردہ ایسے تشخیصی نتائج یا فیڈبیک پر بھروسا کر سکتے ہیں جو مستند معلوم ہوتے ہیں مگر بے بنیاد ہیں۔

غور کرنے کے لیے سوالات

• طلبہ کے پاس اکثر وہ شعبہ جاتی علم نہیں ہوتا جس سے AI کی غلطی پہچانی جائے، اور اساتذہ مستند لہجے والے AI تشخیصی نتائج پر بھروسا کر سکتے ہیں۔ AI اور سیکھنے والے کے درمیان علم کی یہ عدم مساوات تعلیم میں ہیلوسینیشن کو خاص طور پر خطرناک کیسے بناتی ہے؟
• ایک مطالعے نے پایا کہ طلبہ کی ہاتھ سے لکھی ریاضی کی تشخیص کرتے ہوئے AI ایسے شہادتی اقتباسات گھڑ سکتا ہے جو موجود ہی نہیں تھے، اور ساتھ ہی اپنے اعتماد کا دعویٰ کرتا ہے۔ جب AI پراعتماد لہجے میں بات کرے اور 'شہادت' پیش کرے، تو کیا چیز آپ کو رکنے اور تصدیق کرنے پر مجبور کرنی چاہیے؟
• اگر کوئی AI ٹیوٹر غلط حلوں کو حد سے زیادہ درست قرار دے اور جائز مگر غیر بہترین استدلال کو مسترد کر دے، تو اُس پر بھروسا کرنے والے طلبہ اور اساتذہ پر طویل مدتی اثر کیا ہوگا؟
• صفحہ تخفیف کے طور پر انسانی نگرانی، شہادت سے واقف اعتماد کیلیبریشن، اور تصدیق شدہ ماخذوں میں بنیاد فراہم کرنے کی تجویز دیتا ہے۔ آپ کے اپنے سیاق و سباق میں اِن میں سے کون سی سب سے زیادہ قابلِ عمل لگتی ہے، اور وہ بھی کیا پکڑنے میں ناکام رہ سکتی ہے؟
• ہیلوسینیشن حد سے زیادہ انحصار کے ساتھ کیسے تعامل کرتی ہے: AI کی غلطی سب سے زیادہ خطرناک اُس وقت کیوں ہوتی ہے جب صارف اخراج پر بغیر تنقید بھروسا کرے، نہ کہ جب وہ شک میں ہو؟
• اگر آپ اپنے طلبہ کے لیے AI فیڈبیک کا کوئی اوزار ڈیزائن کر رہے ہوتے، تو قابلِ یقین مگر غلط اخراج سے بچانے کے لیے کن مخصوص حفاظتی انتظامات پر اصرار کرتے — اور آپ کیسے جانچتے کہ وہ کام کر رہے ہیں؟

تعارف

تعلیمی AI میں ہیلوسینیشن کئی شکلیں لیتی ہے جنہیں اِس علمی ذخیرے کے مضامین دستاویزی شکل دیتے ہیں: طلبہ کی جانچ میں گھڑی ہوئی شہادت، سیکھنے والے کے علم کی حد سے زیادہ پراعتماد غلط تشخیص، اور قابلِ یقین مگر غلط وضاحتیں جنہیں طلبہ حقیقت سمجھ لیتے ہیں۔ تعلیم میں خطرہ اِس لیے بڑھ جاتا ہے کہ AI اور سیکھنے والے کے درمیان علم کی عدم مساوات کا مطلب ہے کہ سیکھنے والا AI کے اخراج کی تصدیق کے لیے کمزور مقام پر ہے۔ ایک اور صورت AI کے تیار کردہ وہ کورس ریڈنگز ہیں جو نصابی کتاب کی جگہ لے لیتے ہیں: ایک گریجویٹ کورس میں جس نے اپنی تجارتی کتاب کی جگہ اِس طریقے سے مواد لیا، 4,487 لاگ شدہ صفحات میں سے صرف تقریباً 0.80% کے پاس APA طرز کا متنی حوالہ تھا اور DOI کے سٹرنگ تقریباً غائب تھے، چنانچہ بیشتر دعووں کی خود اُس دستاویز کے اندر سے جانچ نہیں کی جا سکتی تھی (Sidorkin، 2026)۔ یہ سراغ لگانے کا خلا غلط جواب سے مختلف ہے، کیونکہ متن مستند پڑھا جاتا ہے جبکہ تصدیق کے اندرونی ذرائع محدود رکھتا ہے۔

125 مطالعات کا جائزہ پھیلاؤ اور پکڑنے کے خلا کو ایک حد میں رکھتا ہے: ہیلوسینیشن کی شرح 10–40%، جبکہ میڈیکل کے طلبہ AI کی غلطیاں صرف 44–55% مواقع پر پکڑتے ہیں (Rathnayake (2026))۔

جانچ کی ہیلوسینیشن خاص طور پر نقصان دہ ہے۔ MathCog نے پایا کہ LLM علمی مہارتوں کی تشخیص کرتے ہوئے ایسے شہادتی اقتباسات گھڑ لیتے ہیں جو طلبہ کی لکھائی میں موجود نہیں، اور 58.5% غلط تشخیصوں کے ساتھ شہادتی اعتماد کے جھوٹے دعوے شامل تھے۔ The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows نے بڑے لینگویج ماڈلز (LLMs) استدلال میں شہادت کی منظم حد سے زیادہ نسبت کی دستاویز کی — ماڈل وہاں شہادتی حمایت کا دعویٰ کرتے ہیں جہاں وہ موجود نہیں۔ دونوں تعلیم میں AI کی تشخیص اور نالج ٹریسنگ کے جانچ کا اعتبار سے متعلق تحفظات سے جڑے ہیں۔ Ivory وغیرہ (2026) دو ناکامی کی صورتیں شامل کرتے ہیں جو اُس وقت نظر آتی ہیں جب AI کے اخراج کو معائنے کے بجائے نمبر دیا جائے: گھڑی ہوئی تفصیلات جو درجہ بندی سے گزر جاتی ہیں — ایک جائزہ شدہ مقالہ جو وجود ہی نہیں رکھتا، مکمل غیر حل شدہ DOI کے ساتھ، اور نمونہ حجم 378 بتایا گیا جہاں ماخذ نے 329 کہا تھا — اور ایک ہی جواب کے اندر خود تضاد، جہاں ماڈل سوچ کر درست آپشن تک پہنچا اور پھر اپنے اختتامی خلاصے میں کوئی اور آپشن بتا دیا۔ چونکہ حوالہ جات کی فہرستوں پر فی الحال درستگی کے بجائے فارمیٹنگ کی جانچ ہوتی ہے، اِس قسم کی غلطی پاس ہونے والا درجہ حاصل کر لیتی ہے اور اُس طالب علم کو گمراہ کرتی ہے جو وہی اوزار نظرثانی کے لیے استعمال کرتا ہے۔

جانچ کے ڈیزائن کے ایک پائلٹ میں Paula وغیرہ (2026) نے گھڑے ہوئے حوالہ جات اور غیر حقیقی وقت کے اندازے پائے جو بار بار پرامپٹنگ کے بعد بھی برقرار رہے اور جنہیں کافی علمی نظرثانی درکار تھی — یعنی ہیلوسینیشن طلبہ کے کام میں نہیں بلکہ معلم کے سامنے آنے والے مسودہ سازی کے اوزار میں۔

اسٹریٹجک غلط فہمیاں کھلی ہیلوسینیشن کی نسبت زیادہ باریک رشتہ دار ہیں۔ Miličević وغیرہ (2026) نے سات اوپن ویٹ ماڈلز کو 35 بنیادی کمپیوٹر سائنس تصورات کے لیے "سقراطی جال" بنانے کا پرامپٹ دیا — ایسی وضاحت جو رواں اور مستند ہو مگر کسی باریک، شعبے سے مخصوص غلطی پر کھڑی ہو — اور تین شعبے کے ماہرین نے 241 پرامپٹ شدہ حصوں میں سے 221 (91.7%) کو اسٹریٹجک غلط فہمی قرار دیا، اور CS کے شعبوں کے درمیان کوئی نمایاں فرق نہیں ملا۔ غلطیاں بڑی حد تک تصوراتی تھیں نہ کہ حقائقی (66.5% بمقابلہ 33.5%) اور کوئی بھی محض منطقی نہیں تھی، اور اُنہیں درمیانے سے زیادہ قائل کرنے والا درجہ دیا گیا (M = 3.71، پانچ نکاتی پیمانے پر)، جبکہ ماڈل کی شناخت 43% فرق کی وضاحت کرتی تھی۔ چونکہ انفرادی جملے درست ہو سکتے ہیں جبکہ اُن کے درمیان تعلق غلط ہو، حقائق کی جانچ ناکافی ہے؛ مصنفین دلیل دیتے ہیں کہ سیکھنے والوں کو تصوراتی تصدیق اور ذہنی ماڈل کی جانچ درکار ہے۔ وہ یہ بھی خبردار کرتے ہیں کہ یہ شرح مقابلہ جاتی پرامپٹنگ کے تحت قابلیت ناپتی ہے، عام استعمال میں ایسی غلطیوں کے پھیلاؤ کو نہیں، اور کسی طالب علم کا امتحان نہیں لیا گیا، چنانچہ نہ فریب ناپا گیا نہ سیکھنے کا نتیجہ۔

گھڑی ہوئی نہیں بلکہ ہیرا پھیری شدہ شہادت۔ خودکار درجہ بندی میں ایک متعلقہ ناکامی کی صورت وہ اخراج ہے جسے باہر سے حرکت دی جائے۔ Humble (2026) نے AI درجہ بندی کے ایک معمول کے ورک فلو پر ریڈ ٹیم حملہ کیا اور پایا کہ جمع کرائی گئی فائل کے اندر چھپائی گئی ہدایات نے فیل ہونے والے مضمون کا درجہ بغیر کسی نظر آنے والی تنبیہ کے بڑھا دیا — ایک حکمتِ عملی کے لیے 9 میں سے 9 تکراروں میں اور دوسری کے لیے 18 میں سے 17 میں۔ دو تفصیلیں اعتماد سے متعلق ہیں: پکڑی گئی انجیکشن کو چیٹ خاموشی سے بند کر کے روکا گیا اور صارف کو کبھی نہ بتایا گیا، اور ایک مرتبہ جب اوزار نے اعلان کیا کہ وہ صرف سرکاری اسائنمنٹ ہدایات کی پیروی کرے گا، اُسی فائل کی چھ دوبارہ کوششوں میں پھر بھی درجہ بڑھ گیا۔ اِس طرح حاصل کردہ نمبر کوئی جواز کا دعویٰ نہیں رکھتا، اور چونکہ ہیرا پھیری کوئی پائیدار نشان نہیں چھوڑتی، مدرس ہی ایسے اخراج پر واحد حقیقی جانچ رہتا ہے جو نظر نہ آنے کے لیے ڈیزائن کیا گیا ہو۔

ایسی ہیرا پھیری کے خلاف دفاعوں کی اپنی قیمت ہے: کئی تہوں والی گارڈ ریل پائپ لائن نے 46.34% انجیکشن کامیاب رہنے دیے اور Prompt Guard نے 38.48%، جبکہ NeMo Guardrails نے ہر حملہ روکا مگر 16.22% بے ضرر طلبہ استفسارات کو بھی جھنڈا لگا دیا — یہ جھوٹے مثبت کی شرح بذاتِ خود ٹیوٹر میں تدریسی نقصان ہے (Maiorano (2026))۔

ٹیوٹرنگ کی ہیلوسینیشن سیکھنے پر براہِ راست اثر ڈالتی ہے۔ Confirming Correct, Missing the Rest: LLM Tutoring Agents Struggle Where Feedback Matters Most نے پایا کہ LLM غلط حلوں کو حد سے زیادہ درست قرار دیتے ہیں جبکہ جائز مگر غیر بہترین استدلال کو حد سے زیادہ مسترد کرتے ہیں — ایسی نظامی ناکامیاں جو طلبہ اور اساتذہ دونوں کو گمراہ کریں گی۔ Sycophancy is an Educational Safety Risk: Why LLM Tutors Need Sycophancy Benchmarks اور EduGuard: A Safe RAG-Based LLM Tutor for Programming Education تعلیمی LLM کے حفاظتی طریقہ کار سے نمٹتے ہیں۔ یہ خطرات تدریسی حفاظت اور انسان-در-حلقہ کی ضروریات سے جڑے ہیں۔

تخفیف کے طریقوں میں انسان-در-حلقہ ایسے ڈیزائن شامل ہیں جہاں AI استاد کی رائے کی حمایت کرتا ہے، اُس کا متبادل نہیں بنتا، شہادت سے واقف ایسے معماریں جو شہادت کے معیار کی بنیاد پر اعتماد کیلیبریٹ کرتی ہیں (جیسا MathCog تجویز کرتا ہے)، اور RAG (ریٹریول سے افزودہ تخلیق) پر مبنی بنیاد جو LLM کے اخراج کو تصدیق شدہ ماخذوں تک محدود کرتی ہے۔ حد سے زیادہ انحصار کا تصور قریب سے جڑا ہوا ہے — ہیلوسینیشن سب سے زیادہ خطرناک اُس وقت ہوتی ہے جب صارف AI کے اخراج پر بغیر تنقید بھروسا کریں۔ Sidorkin (2026) ایک ایسی ناکامی کی صورت شامل کرتے ہیں جسے تخفیف کا ڈھانچہ مکمل طور پر نہیں ڈھکتا: حد سے زیادہ مخصوص ادارہ جاتی دعوے، جہاں تقریباً 1.03% لاگ شدہ صفحات کسی نامزد کیمپس جیسے "Sacramento State" کو نظرثانی شدہ برقراری، ٹینور اور ترقی کے قواعد یا CSU ایگزیکٹو آرڈرز کے بارے میں قطعی پالیسی فعلوں کے ساتھ جوڑتے ہیں، جن میں سے کوئی بھی متن سے تصدیق کے قابل نہیں۔ مخصوصیت ہی اِسے مہنگا بناتی ہے، کیونکہ گھڑی ہوئی مقامی تفصیل اتنی درست لگتی ہے کہ قاری کی معقولیت کی جانچ سے گزر جائے، اور مطالعہ جو حل تجویز کرتا ہے وہ تکنیکی نہیں بلکہ طریقہ کار کا ہے: پیداوار کو استاد کی نگرانی میں مسودہ سازی سمجھیں، پھر ماخذوں کو ریٹریول سے تقویت یافتہ ڈیزائن میں ترتیب دیں۔

لیبل لگا عدم اعتماد نے رپورٹ شدہ انحصار کو بڑھانے کے بجائے گھٹا دیا۔ جب 546 شرکاء نے وہی GAI مکالمہ پڑھا جس پر یا تو من گھڑت معلومات کا لیبل لگا تھا یا تصدیق شدہ درست ہونے کا، تو من گھڑت لیبل نے کم اعتماد اور کم سمجھی جانے والی قابو پذیری پیدا کی اور زیادہ علمی تضاد اور مایوسی کے ساتھ ساتھ کم انحصار کے اسکور دیے (M = 2.935 بمقابلہ 3.254) (Liu وغیرہ (2026))۔ یہ نتیجہ اِس صفحے کی حد سے زیادہ انحصار والی منطق کو مشروط کرتا ہے: یہ دیکھنا کہ کوئی اخراج من گھڑت ہو سکتا ہے، اُس پر جھکے رہنے کے برابر نہیں۔

اعتبار کے اشارے اُلٹا اطاعت بڑھا سکتے ہیں۔ مخالف حرکت اُس وقت ظاہر ہوتی ہے جب غیر معتبر اخراج کو سجایا جائے: ARMADA بحث کے انٹرفیس میں حوالے اور اعتبار کے اشارے شامل کرنے سے اُن شرکاء کا تناسب 112% بڑھ گیا (31.8% بمقابلہ 15.0%) جو درست ابتدائی رائے سے ہٹ کر AI کے غلط موقف کی طرف چلے گئے، اور دستی جانچ نے پایا کہ بعض حوالہ شدہ مقدمات غیر متعلقہ یا فرضی حوالوں سے منسوب تھے (Tuo وغیرہ، 2026)۔

عام غلط فہمیاں

• "طلبہ غلطیاں نوٹ کر لیں گے۔" 125 مطالعات کا جائزہ ہیلوسینیشن کی شرح 10-40% بتاتا ہے، جبکہ میڈیکل کے طلبہ — اعلیٰ تعلیم کے سب سے احتیاط سے منتخب سیکھنے والوں میں سے — AI کی غلطیاں صرف 44-55% مواقع پر پکڑتے ہیں۔ اتفاقی سطح سے کہیں کم پکڑ کی شرح کا مطلب ہے کہ بوجھ قاری پر نہیں ڈالا جا سکتا۔
• "غلطیاں ظاہر ہوتے ہی عیاں ہوتی ہیں۔" ہاتھ سے لکھی ریاضی کی تشخیص کرنے والا AI ایسے شہادتی اقتباسات گھڑ سکتا تھا جو موجود نہیں تھے، اور ساتھ اعتماد کا دعویٰ کرتا تھا۔ ناکامی قابلِ یقین مگر غلط جواب نہیں تھی؛ وہ یقین کے ساتھ پیش کی گئی من گھڑت حمایت تھی، جو پکڑنے میں سب سے مشکل قسم ہے کیونکہ وہ عین وہی شہادت لگتی ہے جو ایک محتاط قاری چاہتا ہے۔
• "حوالے کے بغیر اخراج فارمیٹنگ کا مسئلہ ہے۔" ایک گریجویٹ کورس میں جس نے اپنی تجارتی نصابی کتاب کی جگہ AI کے تیار کردہ ریڈنگز رکھیں، صرف تقریباً 0.80% از 4,487 لاگ شدہ صفحات کے پاس APA طرز کا متنی حوالہ تھا۔ یہ ماخذ کی سطح پر عدم موجودگی ہے، کبھی کبھار کی کوتاہی نہیں، اور اِس کا مطلب ہے کہ تصدیق کے پاس کوئی نقطۂ آغاز نہیں۔
• "ہیلوسینیشن ماڈل کی پیداوار کا مسئلہ ہے جسے نئے ماڈل حل کر لیتے ہیں۔" شرح کی حد 125 مطالعات میں 10-40% پھیلی ہوئی ہے، جو کام اور تعیناتی کی خصوصیت ہے، ماڈل کی بھی۔ شرح میں کمی واقعی ترقی ہے مگر اِس حقیقت کو نہیں بدلتی کہ قاری کو جانچنے کے قابل ہونا چاہیے۔

منسلک تصورات

• علمی بوجھ اتارنا
• انسان-در-حلقہ
• تعلیم میں AI کی تشخیص
• تدریسی حفاظت
• نالج ٹریسنگ
• RAG (ریٹریول سے افزودہ تخلیق)
• علمی سالمیت
• تدریس
• کثیرالوسیط AI
• جنریٹو AI
• بڑے لینگویج ماڈلز (LLMs)
• پیداواری ناکامی

منسلک مضامین

• GAI hallucinations and user dependence: cognitive-affective responses and individual differences — GAI مکالمے کو من گھڑت لیبل دینے سے اعتماد اور انحصار دونوں گھٹے

• Countering the Risks of AI Overreliance: Leveraging Multi-Agent Debate for Complementary Human–AI Decision-Making in Legal Contexts — اعتبار کے اشاروں نے AI اخراج کے سامنے اطاعت بڑھائی، اور بعض حوالہ شدہ مقدمات غلط منسوب یا فرضی تھے

• The Integrity of Psychology Assessments in the AI Age: A Critical Examination — پاس ہو جانے والے طلبہ کام کے اندر گھڑے حوالے اور خود سے متصادم اخراج (Ivory وغیرہ 2026)

• Benchmarking Large Language Models for Diagnosing Students' Cognitive Skills from Handwritten Math Work

• The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows

• Confirming Correct, Missing the Rest: LLM Tutoring Agents Struggle Where Feedback Matters Most

• Sycophancy is an Educational Safety Risk: Why LLM Tutors Need Sycophancy Benchmarks

• EduGuard: A Safe RAG-Based LLM Tutor for Programming Education

• Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs

• VeriForge: Mitigating Latent Knowledge Gaps in Narrative Drafting via Mixed-Initiative Scaffolding

• Generative AI in Higher Education: A Systematic Review of Opportunities, Challenges, and Pedagogical Innovations (2022–2025)

• From One-Size Texts to Tailored Readings: Student Experiences with AI-Generated Course Materials

• The Socratic trap: Benchmarking the capacity of large language models to generate strategic misconceptions in computer science education — SocraticTrap-CS: رواں اور قابلِ یقین وضاحتیں جو تصوراتی سطح پر غلط ہیں (Miličević وغیرہ 2026)

• Ethical implications of prompt injection in AI-mediated grading: An adversarial red-team evaluation — چھپے پرامپٹ انجیکشن AI کے دیے گئے نمبر بغیر پکڑے بڑھا دیتے ہیں، اور پکڑے گئے حملے رپورٹ نہیں ہوتے (Humble 2026)

• Designing Authentic Assessments with Generative AI: A Pilot Study of Assessment Authentifire in Higher Education — جنریٹیو AI کے ساتھ مستند جانچ ڈیزائن کرنا: اعلیٰ تعلیم میں Assessment Authentifire کا پائلٹ مطالعہ