قاعدة المعارف AIEdAIEd KB
في هذه الصفحة

هذه الصفحة مترجمة إلى العربية. أما صفحات المقالات فهي لا تزال مكتوبة بالإنجليزية. اقرأ هذه الصفحة بالإنجليزية

المفاهيم

الذكاء الاصطناعي القابل للتفسير

تاريخ الإنشاء 2026-10-12

ترجمة آلية للصفحة الإنجليزية، لم يراجعها بعد متحدث أصلي.

الذكاء الاصطناعي القابل للتفسير (XAI) في التعليم هو تصميم ودراسة جعل قرارات نظام الذكاء الاصطناعي مقروءةً لأصحاب المصلحة التربويين فيه — المتعلّمون والمعلّمين والإداريين وأولياء الأمور والباحثين وصانعي السياسة. والتمييز المركزي الذي يُصرّ عليه المجال: تفسير المادة الدراسية (لماذا الحقيقة صحيحة) ليس هو تفسير قرار نظام الذكاء الاصطناعي (لماذا أُسند هذا النشاط لهذا المتعلّم، ولماذا صُحّحت هذه الإجابة بالخطأ، وما الأدلة التي تدعم تنبؤ المخاطرة). ويجلب التعليم حاجات تفسير متميزة — بيانات تعلّم مشوشة، وتفسيرات يمكنها دعم ما وراء المعرفة والتعلّم موجّه الذات دعمًا مباشرًا، وأصحاب مصلحة يطلبون أنواع تفسير مختلفة اختلافًا جوهريًا. والسؤال التصميمي الفعّال هو جودة التفسير، لا مجرد توفره: فالتفسير الموجود تقنيًا لكنه غير مقروء أو مُضلِّل أو غير محاذٍ لجمهوره يمكن أن يفعل أذى أكثر من لا تفسير على الإطلاق.

أسئلة للنظر فيها

  • عندما يخبرك مدرّس ذكاء اصطناعي لماذا أُعطي التلميح، فهل يفسّر ذلك المادة الدراسية أم يفسّر قرار النظام؟ هل تستطيع تسمية ثلاثة أمثلة لكلٍّ منهما في استخدامك الخاص للذكاء الاصطناعي التعليمي؟
  • من يحتاج التفسيرات في التعليم — وهل يحتاج المتعلّمون والمعلّمون وصانعو السياسة النوع نفسه؟ ما الذي سيستخدمه كلٌّ منهم التفسير فيه؟
  • يرفع نظام ذكاء اصطناعي علمًا بأن طالبًا معرّض لخطر التسرب. ما الذي يحتاج المعلّم معرفته للتصرّف على أساس ذلك، مقابل ما يحتاج الطالب معرفته؟ هل التفسير نفسه مناسب لكلٍّ منهما؟
  • تجادل الصفحة بأن جودة التفسير أهم من توفره. ما الذي يجعل تفسيرًا موجودًا تقنيًا يفشل — هل تستطيع تذكر مرة كان فيها التفسير موجودًا لكنه عديم الجدوى، أو أسوأ، مُضلِّل؟
  • الثقة والتفسير مترابطان لكنهما ليسا متطابقين. لماذا قد يُنشئ تفسير واثق سلس ثقةً كاذبة في نظام معيب — وكيف ستكشف حدوث ذلك؟

المقدمة

يسمّي الذكاء الاصطناعي القابل للتفسير للذكاء الاصطناعي في التعليم التوقّع المتزايد بأن أنظمة الذكاء الاصطناعي في الصفوف لا ينبغي أن تكون صناديق سوداء. ولأن الذكاء الاصطناعي في التعليم يؤثر في قرارات مترتبة — الدرجات وأعلام المخاطرة ومسارات التعلّم وتوصيات الموارد — يطالب أصحاب المصلحة بمعرفة ما لا كيف استنتجه النظام فحسب بل لماذا. ويشحذ التعليم هذا في سؤالين متميزين: تفسير المادة الدراسية التي تُتعلَّم، وتفسير عملية صناعة القرار الخاصة بنظام الذكاء الاصطناعي. والخلط بينهما خطأ في التصنيف له تبعات عملية: فالذكاء الاصطناعي الذي يفسّر إجابة فيزيائية بإتقان لا يزال لا يعطي الطالب والمعلّم أي بصيرة في سبب تصنيف النظام للنظام له على أنه معرّض للخطر، أو توصيته بنشاط معين، أو تصحيحه إجابة بالخطأ.

تفسير المادة الدراسية مقابل تفسير قرار النظام

المساهمة التأسيسية للمجال — إطار XAI-ED (خسروي وزملاءه، 2022) — تُصرّ بأن للتعليم حاجات تفسير متميزة تتجاوز XAI ذا الأغراض العامة. وأهمها الانقسام بين هدفَي تفسير:

والتمييز مهم لأنهما يخدمان أصحاب مصلحة وأغراضًا مختلفة. والمتعلّم الذي يسأل "لماذا صُحّح هذا بالخطأ؟" يحتاج في الأغلب إلى تفسير المادة الدراسية؛ أما المعلّم الذي يقرر ما إذا كان سيتصرّف على أساس علم مخاطرة، أو صانع السياسة الذي يدقّق في التحيز، فيحتاج إلى تفسير قرار النظام. وتصميم تفسير واحد يخدم الاثنين نادرًا ما يكون ممكنًا — وهو ما يجعل التصميم متعدد أصحاب المصلحة موضوعًا محوريًا في XAI-ED.

من يحتاج التفسيرات: التصميم متعدد أصحاب المصلحة

  • المتعلّمون يحتاجون تفسيرات تدعم تعلّمهم وتنظيمهم الذاتي — لماذا أُعطي التلميح، ولماذا صُحّحت إجابتهم بالخطأ، ولماذا يُوصى بهذا المورد (تدعمًا لـ التعلّم موجّه الذات). ويُظهر دليل وجهة نظر الطلاب أن المتعلّمين يرسمون خطًا حادًا بين قبول تغذية راجعة من الذكاء الاصطناعي (مفيدة للمراجعة) والتنازل عن سلطة التقدير (محفوظة للمدرّس البشري) — موقف معايَر ومطابق للوظيفة يُنشَّط بالشفافية عن انخراط الذكاء الاصطناعي. ويشحذ عمل التصميم الحسّاس للقيم مع طلاب كليات المجتمع النقطة: فضّل الطلاب تفسيرات تعاونية مؤنسنة (مثل "قد يكون الذكاء الاصطناعي غير واثق هنا، فلنتحقق من هذا معًا") على ثقة النموذج الخام أو الشفافية التقنية، لأن الشفافية وحدها ذات قيمة قليلة إلا إذا دعمت تعلّمهم دعمًا مباشرًا. وكشفت الدراسة توترًا بين الشفافية والقابلية للتفسير يدفع تصميم التفسير نحو دلالات موجّهة للمتعلّم لا نحو مخرجات أهمية السمات.
  • المعلّمون يحتاجون تفسيرات تُعلم التدخل — أي الطلاب معرّضون للخطر ولماذا، وعلى أي أدلة. تُظهر دراسات القابلية للتفسير مع المعلّمين أن التفسيرات الخاصة بالمجال الدراسي بلغة المناهج تبني القبول والثقة المعايَرة أكثر من تفسيرات أهمية السمات العامة، ومع ذلك يريد المعلّمون تجربة صفية حقيقية قبل الاعتماد الكامل — التفسير وحده لا يمنح المعايرة.
  • المطوّرون والباحثون يحتاجون تفسيرات لتصحيح سلوك النموذج وكشف التحيز — بظهور السمات التي تدفع التنبؤات.
  • الإداريون وصانعو السياسة يحتاجون تفسيرات للمساءلة والخصوصية والامتثال لـ تنظيم الذكاء الاصطناعي في التعليم (مثل حق التفسير)، وللدقّق في ما إذا كانت القرارات المدفوعة بالذكاء الاصطناعي عادلة ومنصفة.

المقاربات والصيغ

يفهرس إطار XAI-ED صيغ التفسير الرئيسية: المرئية (الخرائط الحرارية وأشجار القرار)، والنصية (التبريرات بلغة طبيعية)، والقائمة على الأمثلة (المضادات وأقرب الجيران)، وترتيبات أهمية السمات، واستخراج القواعد، وتبسيط النموذج. كما يربط المقاربات بأصناف النماذج:

  • النماذج الصندوق الأبيض (أشجار القرار والنماذج الخطية والقائمة على القواعد) قابلة للتفسير بطبيعتها.
  • النماذج الصندوق الأسود (الشبكات العصبية والتجميعات) تتطلب طرق تفسير لاحقة.
  • مقاربات الصندوق الزجاجي تحاول موازنة الدقة بالشفافية.

وتمتد قاعدة أدلة AIED الملموسة على هذه جميعها. يجعل تتبّع المعرفة القابل للتفسير نماذج معرفة المتعلّم قابلة للفحص مباشرةً (Interpretable Knowledge Tracing وExplainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning وNeural-Symbolic Knowledge Tracing: Injecting Educational Knowledge into Deep Learning for Responsible Learner Modelling). وتُقطّر النواب الواضحون لأنفسهم نموذجًا صندوقًا أسود إلى نموذج لغوي صغير قابل للتفسير لـ تحليلات التعلّم (Distilling Black-Box Machine Learning into a Small, Self-Explaining Language Model for Learning Analytics). وتدعم التفسيرات المضادة — "ما الذي يجب أن يتغير لناتج مختلف" — دعم القرار التعليمي واللجوء (From Student Risk Prediction to SC2R: Semantics-Constrained Counterfactual Recourse for Educational Decision Support). وتُظهر تحليلات التعلّم المتحدة فيدراليًا والقابلة للتفسير أن جودة التفسير يمكن أن تنجرف (تتدهور المعايرة) حتى عندما يثبت استقرار الترتيب، مُنبّهةً إلى أن التفسيرات ليست خاصية ثابتة بل مخرجًا للنظام يُقاس (Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions). وتُبيّن أنظمة التدريس الذكي الوجدانية القابلة للتفسير تفسيرات في التدريس الواعي بالعواطف (An Interpretable Closed-Loop Intelligent Tutoring System for Multimodal Affective Feedback in Asynchronous Presentation Training).

جودة التفسير، لا توفره

درس متكرر عبر الأدلة: وجود تفسير ليس كافيًا؛ يجب أن يكون التفسير مناسبًا لجمهوره، ودقيقًا، ومعايَرًا للرهانات. ويسمّي إطار XAI-ED المزالق صراحةً:

  • ال overload التفسيري — المعلومات الكثيرة تغمر المستخدم وتُبطل الفائدة.
  • التفسيرات المُضلِّلة — التفسيرات اللاحقة قد لا تعكس استدلال النموذج الفعلي، مانحةً ثقة كاذبة.
  • تحيز التأكيد — ينتبه المستخدمون انتقائيًا إلى التفسيرات التي تؤكّد اعتقاداتهم القائمة.
  • الثقة المفرطة — التفسيرات السلسة يمكن أن تُنشئ ثقة كاذبة في أنظمة معيبة، مُغذّيةً الاعتماد المفرط (المقابل لـ معايرة الثقة).
  • التحايل على النظام — قد يستغل الطلاب التفسيرات للتحايل على التعلّم الفعلي.

ولجودة التفسير بعدٌ في الإنصاف أيضًا: فالتفسير الموجود تقنيًا لكنه غير مقروء لصاحب مصلحة معين — أو الذي يحجب التحيز في تنبؤ — يفشل في غرضه. ولهذا يكون السؤال التصميمي هو الجودة والملاءمة، ولذلك لا ينفصل تصميم التفسير المؤنسن والخاص بصاحب المصلحة عن التوليد التقني للتفسيرات. وXAI الفعّال فعل تواصل مصمم للحاجات المعرفية للمتلقّي، لا مجرد أثر تقني.

التفسير لا يُمهّد دائمًا. وفي تجربة سيناريو 2 × 2 على 250 تلميذًا في الصف السابع، رفع التبرير المكتوب لدرجة رياضيات القبول والإنصاف المُدرك في الشرطين لكنه وسّع الفجوة بين القرارات التي اتخذها المعلّم والتي اتخذها الذكاء الاصطناعي بدلًا من إغلاقها (تشانغ وزملاءه (2026)).

ويشحذ تحذيران هذا أكثر، وكلاهما جعلته أحدث مساهمة في الويكي في الموضوع مركزيًا. أولًا، آلة التفسير ليست محايدة بذاتها: الطرق اللاحقة كـ LIME وSHAP يمكن أن تكون غير وفية لسلوك النموذج الفعلي، فقد يُضلّل تفسير موجود تقنيًا بدلًا من أن يُعلم (لوند وزملاءه 2026، مستندةً إلى تشوان وزملاءه 2024). وثانيًا، التفسير ليس مساءلة. فحساب السمات التي دفعت تنبؤًا لا يكشف ما إذا كانت تلك السمات مناسبةً للاستخدام، أو ما إذا كانت بيانات التدريب ممثلة، أو ما إذا كان تصميم النظام قد انطوى على حكم رصين؛ والتفسيرات يمكن أن تُنشئ مظهر الشفافية مع تركها الشروط البنيوية التي أنتجت القرار بلا مساس (Mittelstadt et al. 2019). ولهذا في التعليم، فالسؤال الذي ينبغي الاستمرار في طرحه ليس هل أُنتج تفسير بل هل الشخص الذي يتلقاه — طالب أو معلّم أو مرشد — كان قادرًا على فهمه، أو التصرّف على أساسه، أو منازعة القرار الذي يقف وراءه. ونفس إخفاق القابلية للقراءة يظهر في الجانب الأمني من التقويم الآلي: وجد الفريق الأحمر لهامبل (2026) على أداة تصحيح بالذكاء الاصطناعي أنها تعطّل المحادثة بصمت بعد حجبها حقن تلقين، و— بعد أن أعلنت أنها لن تتبع التعليمات المدمجة أبدًا — تبعتها في ست تشغيلات أخرى على الملف نفسه، تاركةً المستخدم بلا إشارة موثوقة يبني عليها اعتماده.

القابل للتفسير بتصميمه جوابٌ واحد على مشكلة الأمانة اللاحقة. يُعاير لي ويانغ وفانغ (2025) مُفكّك تفسير بالتمثيل المُنصهر نفسه والدرجة المُتنبأ بها التي تقرر التقويم، بحيث تُنتج درجة منخفضة في استجواب بنّاء تبريرًا يسمّي أسئلة استجواب غير كافية، ويقترنانه بانتباه بعدستين على معايير المناهج وحركات معايير التقييم الخاصة بالموضوع. وتصل محاذاة الانتباه بمعيار التقييم إلى 78.0% مقابل 41.7% لنموذج GPT-4 zero-shot و32.1% لـ BERT، وتُختبر الأمانة بالحذف المضاد لمقاطع حرجة بمعيار التقييم جنبًا إلى جنب مع تقييمات بشرية على قائمة تحقق مرتكزة على معايير التقييم، مانحةً درجة مصداقية تفسير 0.78 — زيادة 0.31 على BERT-base. ويُظهر التدقيق أيضًا حيث يرقّ ادعاء البنية: على الإشارات الوجدانية يخصّص النموذج 28.4% من وزن الانتباه مقابل 15.2% لخبير (محاذاة 0.53)، مع حالة فشل واحدة تخصّص 28% للرمز "محبط"، وهو ما يقرؤه المؤلفون كإفراط في ملاءمة العاطفة لا البيداغوجيا ويسمّونه مجالًا للتحسين. فإدماج التفسيرات في مسار القرار يجعلها أوفى من التبريرات اللاحقة؛ ولا يجعلها صحيحة.

تعليم القابلية للتفسير كممارسة مساءلة

إذا كانت جودة التفسير هي التي تقرر نفع XAI، فإن إنتاج التفسيرات يجب أن يُعلَّم كعادة مهنية لا أن يُستدلّ به كقدرة. ويقترح لوند وزملاءه (2026) فعل هذا عبر أربع ركائز — قابلية المساءلة (الالتزام بإعطاء الأسباب للمتأثرين)، والمسؤولية (الأذى المتوقّع عبر دورة الحياة، لا المدافع عنه بعد الواقعة)، والإنفاذ (التبعات داخل المقرر) والانعكاسية (الفحص الموثّق لافتراضات المرء) — كلٌّ منها بتكاليبها وكلفتها الصفية الخاصة.

وللقابلية للتفسير تحديدًا، التكاليب التي تهم هي التي تُجبر التفسير على الخروج من الدفتر: بطاقات نموذج مُقدَّرة بثقل جنبًا إلى جنب مع مقاييس الدقة، وتدقيقات تفسير مهيكلة يطبّق فيها الطلاب أدوات القابلية للتفسير على نماذجهم الخاصة ثم يعرضون النتائج على جمهور بلا خلفية تقنية مشتركة. والإنفاذ هو الركيزة الأكثر غيابًا في المقررات الملاصقة للأخلاقيات وهي التي تجعل البقية أكثر من رمزية — معايير تقييم تكافئ التوثيق المسؤول، ومشاريع يمكن إعادتها للمراجعة على أسس أخلاقية، ومراجعة أقران تُجرى وفق معايير مساءلة لا معايير تقنية وحدها. والورقة صريحة بأن الأدوات تختلف اختلافًا حادًا في الكلفة: بطاقات النموذج وبيانات التمركز لا تحتاج برمجيات جديدة ولا تخاطر إلا بالامتثال السطحي، بينما تتطلب لوحات الأقران وإشراك أصحاب المصلحة تنسيقًا وشراءً مؤسسيًا، وهو ما يجعلها توصي بتبنٍّ متدرّج لا بالتزام الكل أو لا شيء. انظر تصميم المنهج الدراسي لموضع هذه في برنامج.

المفاهيم المترابطة

المقالات المترابطة

الاقتباس

خسروي، H.، باكنغهام شوم، S.، تشن، G.، كوناتي، C.، تساي، Y.-S.، كاي، J.، نايت، S.، مارتينيز-مالدونادو، R.، صادق، S.، وغاسيفيتش، D. (2022). Explainable Artificial Intelligence in education. Computers and Education: Artificial Intelligence, 100074.

البيانات الوصفية

الجمهور المستهدفLearners, Researchers, Instructional Designers, Instructors
التعلم والتعليمما وراء المعرفة
التقنيات والأساليبالذكاء الاصطناعي بمشاركة الإنسان, التدريس الذكي, تحليلات التعلّم, نمذجة المتعلّم والتعليم التكيّفي
التقييم والقياسالتقويم الآلي
الإنصاف والأخلاق والاستخدام المسؤولتخفيف الانحياز, معايرة الثقة, الأمان البيداغوجي
أساسيات الذكاء الاصطناعي في التعليمثقافة الذكاء الاصطناعي
SourceHistoryEditChat

ضمّن هذه الصفحة

انسخ الشيفرة أدناه لتضمين هذه الصفحة في نظام إدارة التعلم أو أي موقع آخر. الإصدار المُضمَّن يعرض محتوى الصفحة فقط — فهو يُخفي ترويسة الموقع وقائمة التنقل وتذييله.