قاعدة المعارف AIEdAIEd KB
في هذه الصفحة

هذه الصفحة مترجمة إلى العربية. أما صفحات المقالات فهي لا تزال مكتوبة بالإنجليزية. اقرأ هذه الصفحة بالإنجليزية

المفاهيم

خطر الهلوسة

تاريخ الإنشاء 2026-10-12

ترجمة آلية للصفحة الإنجليزية، لم يراجعها بعد متحدث أصلي.

خطر الهلوسة — الخطر المتمثّل في أن تُنتج أنظمة الذكاء الاصطناعي محتوى معقول الظهور لكنه غير صحيح واقعيًا أو موضوعةً في سياقات تعليمية، حيث تستطيع مثل هذه الأخطاء أن تُضلّ المتعلّمين، وتُضعف الثقة، وتُنتج تقييماتٍ غير صادقة. والهلوسة ذات تتبّعٍ خاص في التعليم لأن الطلاب قد يفتقرون إلى معرفة المجال لكشف أخطاء الذكاء الاصطناعي، وقد يعتمد المعلّمون على تشخيصات أو تغذية راجعة مولَّدة بالذكاء الاصطناعي تبدو ذات سلطة وهي بلا أساس.

أسئلة للتفكير

  • كثيرًا ما يفتقر الطلاب إلى معرفة المجال لكشف خطأ الذكاء الاصطناعي، وقد يثق المعلّمون في تشخيصات تبدو ذات سلطة. فكيف يجعل هذا اللاتناظر في المعرفة بين الذكاء الاصطناعي والمتعلّم الهلوسةَ شديدةَ الخطر في التعليم بشكل خاص؟
  • فوجدت دراسة أن ذكاءً اصطناعيًا يُشخّص كتابة الرياضيات اليدوية للطلاب قد يُلفّق اقتباسات دليلية لم تكن موجودة، وهو يدّعي الثقة. فحين يبدو الذكاء الاصطناعي واثقًا ويستشهد «بدليل»، فما الذي ينبغي أن يجعلك تتوقّف وتتحقّق؟
  • فإذا أفاد مدرّس خصوصي بالذكاء الاصطناعي حلولًا خاطئة بالصحة أكثر من اللازم ورفض استدلالًا صحيحًا لكنه دون الأمثل أكثر من اللازم، فما الذي سيكون الأثرَ طويل المدى على الطلاب والمعلّمين الذين يثقون به؟
  • وتقترح الصفحة المراجعةَ بمشاركة الإنسان ومعايرةَ الثقة الواعية بالدليل والتأسيسَ على مصادر متحقَّق منها كتخفيفاتٍ. فأيّها يبدو أكثر جدوًى في سياقك أنت، وما الذي قد يبقى عاجزًا عن إمساكه؟
  • فكيف قد تتفاعل الهلوسة مع الاعتماد المفرط: ولماذا يكون خطأ الذكاء الاصطناعي أشدّ خطرًا عندما يثق المستخدمون في المخرَج بغير نقد، لا عندما يكونون متشكّكين؟
  • ولو كنت تصمّم أداة تغذية راجعة بالذكاء الاصطناعي لطلابك، فما الضمانات المحدَّدة التي كنت ستُصرّ عليها للحماية من المخرَج المعقول والخطأ — وكيف كنت ستعلم أنها تعمل؟

مقدّمة

تأخذ الهلوسة في الذكاء الاصطناعي التعليمي عدة صور موثَّقة في مقالات قاعدة المعارف هذه: دليل موضوعة في تقييم الطالب، وتشخيص خاطئ ثقيٍ لمعرفة المتعلّم، وشروحٌ معقولة الصوت وغير صحيحة يقبلها الطلاب حقًّا. ويتضخّم الخطر في التعليم لأن لاتناظر المعرفة بين الذكاء الاصطناعي والمتعلّم يجعل المتعلّم في موضع سيّئ للتحقّق من مخرجات الذكاء الاصطناعي. ووسطٌ آخر هو قراءات المقرّرات المولَّدة بالذكاء الاصطناعي التي تقوم مقام كتاب دراسي: ففي مقرّر للدراسات العليا استبدل نصّه التجاري بهذه الطريقة، حمل نحو 0.80% فقط من 4,487 صفحة مُسجَّلة استشهادًا نصيًا على نمط APA وكانت نصوص DOI غائبةً فعليًا، وبذلك لم يكن يمكن تدقيق معظم الدعاوى من داخل الأثر نفسه (Sidorkin, 2026). وفجوة قابلية التتبّع هذه متمايزة عن الجواب الخطأ، لأن النصّ يُقرأ وهو ذو سلطة مع أنه يُقدّم وسائل داخلية محدودة للتأكيد.

وتضع مراجعة لـ125 دراسة نطاقًا لشيوع الخطر وفجوة كشفه: فمعدّلات الهلوسة تتراوح بين 10% و40%، مع كشف طلاب الطب أخطاء الذكاء الاصطناعي في 44–55% من المرات فقط (Rathnayake (2026)).

والهلوسة في التقييم ضارّة بشكل خاص. فقد وجد MathCog أن النماذج اللغوية الكبيرة تُلفّق اقتباسات دليلية غير موجودة في كتابة الطالب اليدوية عند تشخيصها المهارات المعرفية، مع 58.5% من التشخيصات الخاطئة مصحوبةً بدعاوى كاذبة بثقة دليلية. ووثّق The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows الإفراطَ المنهجي في إسناد الدليل في استدلال النماذج اللغوية الكبيرة (LLMs) — فالنماذج تدّعي سندًا دليقيًا حيث لا يوجد سند. وكلاهما يرتبط باهتمامات تقييم الذكاء الاصطناعي في التعليم (AI Ed Evaluation) وتتبّع المعرفة بشأن صدق التقييم. ويُضيف Ivory et al. (2026) نمطي فشل يظهران عندما يُصحَّح مخرَج الذكاء الاصطناعي لا عندما يُفحص: تفاصيل موضوعة تنجو من التصحيح — ورقةٌ مُراجَعة غير موجودة، كاملةً بمعرّف DOI غير قابل للحلّ، وحجم عيّنة مُبلَّغ عنه بـ378 حيث قالت المصدر 329 — وتناقضٌ داخلي في رد واحد، حيث استدلّ النموذج إلى الخيار الصحيح ثم أبلغ عن خيار مختلف في ملخّصه الختامي. ولأن قوائم المراجع تُصحَّح حاليًا من أجل التنسيق لا من أجل الدقة، فإن هذه الفئة من الخطأ تبلغ درجةَ نجاح وهي تُضلّل الطالب الذي يستخدم الأداةَ نفسها للمراجعة.

وفي نموذج تجريبي لتصميم التقييم، وجد Paula et al. (2026) مراجعَ موضوعة وتقديراتٍ وقتٍ غير واقعية نجمت عن مطالبات متكرّرة وطلبت مراجعةً أكاديميةً معتبرة — أي هلوسة في أداة صياغة موجّهة للمربّين لا في عمل الطالب.

و**المفاهيم الخاطئة الاستراتيجية** قريبٌ أدقّ من الهلوسة الصريحة. فقد طلب Miličević et al. (2026) من سبعة نماذج مفتوحة الأوزان أن تُنتج «فخًا سقراطيًا» لـ35 مفهومًا جوهريًا في علوم الحاسوب — أي شرحًا طلقًا ذا سلطة يستقرّ على خطأ خفي خاص بالمجال — وأكّد ثلاثة خبراء في المجال 221 من 241 مقطعًا مطلوبًا (91.7%) بوصفها مفاهيم خاطئةً استراتيجية، بلا فروق معتبرة بين مجالات علوم الحاسوب. وكانت الأخطاء مفاهيميةً في الأغلب لا واقعية (66.5% مقابل 33.5%)) ولم يكن أيها منطقيًا خالصًا، وقُدِّرت باعتدال إلى إقناع عالٍ (M = 3.71 على سلّم من خمس درجات)، مع تفسير هوية النموذج لـ43% من التباين. ولأن العبارات الفردية قد تكون صحيحة بينما تكون العلاقة بينها خاطئة، فإن التحقّق الواقعي غير كافٍ؛ ويُجادل المؤلفون بأن المتعلّمين يحتاجون تحقّقًا مفاهيميًا وتصديقًا للنماذج الذهنية. كما يحذّرون من أن المعدّل يقيس القدرةَ تحت صياغة مطالبات خصومية لا شيوعَ مثل هذه الأخطاء في الاستخدام العادي، وأنه لم يُختبر أي طلاب، فلم يُقَس أي خداع أو مخرَج تعلّم.

الدليل المُتلاعَب به لا الموضوع. ونمط فشل ذو صلة في التصحيح المؤتمت هو المخرَج المتحرَّك من الخارج. فقد اختبر Humble (2026) فريقَ أحمر سيرَ عمل روتيني في تصحيح الذكاء الاصطناعي، فوجد أن تعليمات مخبّأة داخل الملف المُقدَّم رفعت درجة مقال راسب بلا تحذير مرئي في 9 من 9 تكرارات لاستراتيجية و17 من 18 لأخرى. وتفصيلان يحملان على الثقة: فقد حُجِب حقنٌ مكتشَف بإيقاف المحادثة بصمت ولم يُبلَّغ عنه للمستخدم أبدًا، وفي تشغيل واحد أعلنت فيه الأداة أنها ستتبع تعليمات المهمة الرسمية فقط، ما زالت ستة تشغيلات جديدة للملف نفسه ترفع الدرجة. فدرجةٌ مُحصَّلة بهذه الطريقة لا تحمل أي دعوى صدق، ولأن التلاعب لا يترك أثرًا دائمًا، يبقى المعلّم الفحصَ الحقيقي الوحيد على مخرَج صُمِّم ألاّ يكون مرئيًا.

وتحمل دفاعاتٌ عن مثل هذا التلاعب مقايضتَها الخاصة: فقد تركت قناةُ ضوابط متعددة الطبقات 46.34% من الحقن ناجحةً وPrompt Guard 38.48%، في حين حجب NeMo Guardrails كل هجوم لكنه أشار إلى 16.22% من استعلامات الطلاب الحميدة — وهو معدّل إيجابية كاذبة هو في ذاته ضررٌ تربوي في مدرّس خصوصي (Maiorano (2026)).

والهلوسة في التدريس الخصوصي تؤثّر في التعلّم مباشرةً. فقد وجد Confirming Correct, Missing the Rest: LLM Tutoring Agents Struggle Where Feedback Matters Most أن النماذج اللغوية الكبيرة تُثبِت صحة الحلول الخاطئة أكثر من اللازم وترفض الاستدلال الصحيح لكنه دون الأمثل أكثر من اللازم — وهي إخفاقات منظومية تُضلّ الطلاب والمعلّمين معًا. ويتناول Sycophancy is an Educational Safety Risk: Why LLM Tutors Need Sycophancy Benchmarks و**EduGuard: A Safe RAG-Based LLM Tutor for Programming Education** آليات السلامة للنماذج اللغوية الكبيرة التعليمية. وترتبط هذه المخاطر بمتطلّبات الأمان البيداغوجي والذكاء الاصطناعي بمشاركة الإنسان.

وتشمل مقاربات التخفيف تصاميم الذكاء الاصطناعي بمشاركة الإنسان التي يسند فيها الذكاء الاصطناعي حكمَ المعلّم لا أن يحلّ محلّه، وبنىً واعيةً بالدليل تُعايِر الثقة على أساس الجودة الدليلية (كما دعت MathCog)، وتأسيسًا على RAG (التوليد المعزَّز بالاسترجاع) يُقيِّد مخرجات النماذج اللغوية الكبيرة بمصادر متحقَّق منها. ومفهوم الاعتماد المفرط ذو صلة وثيقة — فالهلوسة أشدّ خطرًا عندما يثق المستخدمون في مخرجات الذكاء الاصطناعي بغير نقد. ويُضيف Sidorkin (2026) نمطَ فشل لا تغطيه كومةُ التخفيف تغطيةً كاملةً: دعاوى مؤسسية ذات تخصيصٍ زائد، مع نحو 1.03% من الصفحات المُسجَّلة تُقارن حرمًا جامعيًا مُسمًّى مثل «Sacramento State» بأفعال تأكيدية بشأن قواعد البقاء والترقية والتثبيت المنقَّحة أو أوامر CSU التنفيذية، ولا شيء منها قابل للتحقّق من النصّ. والتخصيص هو ما يجعل هذا مكلفًا، إذ إن تفصيلًا محليًا موضوعًا يبدو دقيقًا بالقدر الذي يجعله ينجو من فحص معقولية القارئ، والعلاج الذي تقترحه الدراسة إجرائي لا تقني: فعامِل التوليد كإنتاج مسوّدات تحت مراجعة المعلّم، ثم انتقِ المصادر في تصميم معزَّز بالاستدعاء.

وعدم الموثوقية المُعلَّم خفّض الاعتمادَ المُبلَّغ به لا أن رفعه. فحين قرأ 546 مشاركًا الحوار نفسه لـGAI مُعلَّمًا إما بأنه يحتوي معلومات موضوعةً إما بأنه متحقَّق منه ودقيق، أنتجت السمةُ «الموضوعة» ثقة وقابليةً متصوَّرةً للتحكّم أقلّ وتناقضًا معرفيًا وإحباطًا أعلى إلى جانب درجات اعتماد أقلّ (M = 2.935 مقابل 3.254) (Liu et al. (2026)). وتُقيِّد النتيجةُ منطقَ الاعتماد المفرط في هذه الصفحة: فرؤيةُ أن مخرَجًا قد يكون موضوعًا ليست هي نفسها الاستمرارَ في الاتكال عليه.

المفاهيم المتصلة

المقالات المتصلة

الأسئلة الشائعة المرتبطة

البيانات الوصفية

التقنيات والأساليبالذكاء الاصطناعي التوليدي, الذكاء الاصطناعي بمشاركة الإنسان, النماذج اللغوية الكبيرة (LLMs)
مناهج البحث والتقييمتقييم الذكاء الاصطناعي في التعليم (AI Ed Evaluation)
الإنصاف والأخلاق والاستخدام المسؤولخطر الهلوسة, الأمان البيداغوجي
أساسيات الذكاء الاصطناعي في التعليمالتفريغ المعرفي
نوع الصفحةEvaluation
SourceHistoryEditChat

ضمّن هذه الصفحة

انسخ الشيفرة أدناه لتضمين هذه الصفحة في نظام إدارة التعلم أو أي موقع آخر. الإصدار المُضمَّن يعرض محتوى الصفحة فقط — فهو يُخفي ترويسة الموقع وقائمة التنقل وتذييله.