בינה מלאכותית מוסברת

תרגום אוטומטי של העמוד באנגלית, שטרם נבדק בידי דובר/ת שפת אם.

בינה מלאכותית מוסברת (XAI) בחינוך היא התכנון והמחקר של הפיכת ההחלטות של מערכת בינה מלאכותית לקריאות לבעלי-העניין החינוכיים שלה — לומדים, מורים, מנהלים, הורים, חוקרים וקובעי מדיניות. ההבחנה המרכזית שהשדה מתעקש עליה: הסברת נושא הלימודים (מדוע עובדה נכונה) אינה זהה להסברת החלטה של מערכת בינה מלאכותית (מדוע הלומד הזה קיבל את הפעילות הזו, מדוע התשובה הזו סומנה כשגויה, איזו ראיה תומכת בחיזוי סיכון). החינוך מביא צרכי הסבר ייחודיים — נתוני למידה רועשים, הסברים שיכולים לתמוך ישירות במטאקוגניציה ולמידה עצמית מוסדרת, ובעלי-עניין שדורשים סוגי הסברים שונים מהותית. שאלת התכנון המבצעית היא איכות ההסבר, לא זמינות הסבר בלבד: הסבר שנוכח טכנית אך בלתי-קריא, מטעה או לא-מיושר לקהל שלו יכול לעשות יותר נזק מאשר אין הסבר כלל.

שאלות לשימור לב

• כאשר יועץ חכם מבוסס-בינה מלאכותית מספר לכם מדוע ניתן רמז, האם זה מסביר את נושא הלימודים או את החלטת המערכת? אתם יכולים לציין שלושה דוגמאות מכל אחד בשימוש שלכם בבינה מלאכותית חינוכית?
• מי זקוק להסברים בחינוך — והאם לומדים, מורים וקובעי מדיניות צריכים את אותו הסוג? למה כל אחד ישתמש בהסבר?
• בינה מלאכותית מסמנת סטודנט כבסיכון לנשירה. מה מורה צריך לדעת כדי לפעול על פי זה, לעומת מה שהסטודנט צריך לדעת? האם אותו הסבר מתאים לשניהם?
• העמוד טוען שאיכות ההסבר חשובה יותר מזמינות ההסבר. מה גורם להסבר שנוכח טכנית להיכשל — אתם יכולים לחשוב על זמן שבו הסבר היה שם אך חסר-תועלת, או גרוע מכך, מטעה?
• אמון והסבר מקושרים אך אינם זהים. מדוע הסבר בטוח ושוטף יכול ליצור ביטחון שקרי במערכת פגומה — וכיצד הייתם מזהים שזה קורה?

מבוא

בינה מלאכותית מוסברת בחינוך קוראת לציפיה הגדלה שמערכות בינה מלאכותית בכיתות לא אמורות להיות קופסאות שחורות. מכיוון שבינה מלאכותית בחינוך משפיעה על החלטות בעלות-השלכות — ציונים, סימני סיכון, מסלולי למידה, המלצות משאבים — בעלי-עניין דורשים יותר ויותר לדעת לא רק מה המערכת מסיקה אלא מדוע. החינוך מחדד זאת לשתי שאלות נפרדות: הסברת נושא הלימודים הנלמד, והסברת קבלת-ההחלטות של מערכת הבינה המלאכותית עצמה. ערבוב ביניהן הוא שגיאת קטגוריה עם השלכות פרקטיות: בינה מלאכותית שמסבירה תשובת פיזיקה בצורה מושלמת עדיין אינה נותנת לסטודנט ולמורה שום תובנה לגבי מדוע המערכת דירגה אותם בסיכון, המליצה על פעילות מסוימת, או סימנה תשובה כשגויה.

הסברת נושא הלימודים לעומת הסברת החלטת המערכת

התרומה המייסדת של השדה — מסגרת הXAI-ED (Khosravi ואח'., 2022) — מתעקשת שלחינוך יש צרכי הסבר ייחודיים מעבר ל-XAI כללי. ראשית בהם היא הפיצול בין שני יעדי הסבר:

• הסברות נושא-לימודים מבהירים תוכן: מדוע רמז מתייחס לתפישה מוטעית, מדוע תשובה שגויה, כיצד תוצאת פיזיקה נובעת מעיקרונות. אלה הסברים פדגוגיים שתומכים בפיגום, במשוב ובמטאקוגניציה.
• הסברות החלטת-מערכת מבהירים את המודל: מדוע הלומד הזה קיבל את הפעילות הזו, מדוע המערכת חוזה שהסטודנט הזה בסיכון, איזו ראיה תומכת בחיזוי עקיבה-אחר-ידע או של אנליטיקת למידה. אלה הסברות שקיפות שתומכים בכיול אמון, בצמצום הטיה ובאחריות.

ההבחנה חשובה מכיוון שהן משרתות בעלי-עניין שונים ומטרות שונות. לומד שעונה "מדוע זה מסומן כשגוי?" צריך בעיקר את ההסבר נושא-הלימודים; מורה שמחליט האם לפעול על סימן סיכון, או קובע מדיניות הבודק הטיה, צריך את ההסבר החלטת-המערכת. תכנון הסבר יחוד שמשרת את שניהם הוא נדיר — וזו הסבה שעיצוב מרובה-בעלי-עניין הוא נושא ליבה ב-XAI-ED.

מי זקוק להסברים: עיצוב מרובה-בעלי-עניין

• לומדים זקוקים להסברים שתומכים בלמידה ובמוסדרות-העצמית שלהם — מדוע ניתן רמז, מדוע התשובה שלהם סומנה כשגויה, מדוע המשאב הזה מומלץ (תומך בלמידה עצמית מוסדרת). הראיה מנקודת-מבט-הסטודנט מראה שלומדים מציירים קו חדה בין קבלת משוב בינה מלאכותית (מועיל לתיקון) לבין ויתור סמכות ציון (שמורה למורה האנושי) — עמדה מכוילת ומותאמת-פונקציה המופעלת על ידי שקיפות לגבי מעורבות בינה מלאכותית. עבודת עיצוב רגיש-ערך עם סטודנטים ממכללת קהילה מחדדת את הנקודה: סטודנטים העדיפו הסברים שיתופיים, אנושיים (למשל, "הבינה המלאכותית עלולה להיות לא-ודאה כאן, אז בואו נבדוק זאת יחד") על פני ביטחון מודל גלמי או שקיפות טכנית, מכיוון שלשקיפות לבדה יש ערך מועט אלא אם כן היא תומכת ישירות בלמידה שלהם. המחקר חשף מתיחות שקיפות-לעומת-פרשנות שדוחפת עיצוב הסבר לכיוון סמנטיקה פניית-לומד ולא פלט חשיבות-מאפיין.
• מורים זקוקים להסברים שמיידעים התערבות — אילו סטודנטים בסיכון ומדוע, על איזו ראיה. מחקרי הסברות עם מורים מראים שהסברים ספציפיים-תחום בשפה קוריקולרית בונים קבלה ואמון מכויל ביעילות רבה יותר מאשר הסברי חשיבות-מאפיין גנריים, אך מורים עדיין רוצים ניסיון כיתתי אמיתי לפני הסתמכות מלאה — הסבר לבדו אינו מעניק כיול.
• מפתחים וחוקרים זקוקים להסברים כדי לנפות התנהגות מודל ולזהות הטיה — לחשוף אילו מאפיינים מניעים חיזויים.
• מנהלים וקובעי מדיניות זקוקים להסברים לצורך אחריות, פרטיות ותאימות רגולציה של בינה מלאכותית בחינוך (למשל, הזכות להסבר), ולבקר האם החלטות מונעות-בינה מלאכותית הוגנות ושוויוניות.

גישות ותבניות

מסגרת XAI-ED מקטלגת את המודליות העיקריות של ההסבר: חזותי (מפות חום, עצי החלטה), טקסטואלי (הצדקות בשפה טבעית), מבוסס-דוגמאות (קונטר-פקטואלים, שכנים קרובים), דירוגי חשיבות-מאפיין, חילוץ כללים, ופישוט מודל. היא גם ממפה גישות למחלקות מודל:

• מודלים בעלי-קופסה-לבנה (עצי החלטה, מודלים לינאריים, מבוססי-כללים) הם פרשניים מטבעם.
• מודלים בעלי-קופסה-שחורה (רשתות נוירונים, אנסמבלים) דורשים שיטות הסבר post-hoc.
• גישות בעלות-קופסה-זכוכית מנסות לאזן דיוק עם שקיפות.

בסיס הראיה הקונקרטי של AIED עוטה על כולם. עקיבה-אחר-ידע פרשנית הופכת מודלי ידע-לומד לניתני-בדיקה ישירות (Interpretable Knowledge Tracing, Explainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning, Neural-Symbolic Knowledge Tracing: Injecting Educational Knowledge into Deep Learning for Responsible Learner Modelling). תחליפים מסבירים-עצמית מזקקים מודל בעל-קופסה-שחורה למודל שפה קטן ופרשני עבור אנליטיקת למידה (Distilling Black-Box Machine Learning into a Small, Self-Explaining Language Model for Learning Analytics). הסברים קונטר-פקטואליים — "מה היה צריך להשתנות כדי לקבל תוצאה שונה" — תומכים בתמיכת החלטה חינוכית ובתקנת-מצב (From Student Risk Prediction to SC2R: Semantics-Constrained Counterfactual Recourse for Educational Decision Support). אנליטיקת למידה פדרטיבית + מוסברת מראה שאיכות הסבר יכולה להידרדר (הכיול נפגע) גם כאשר יציבות הדירוג נשמרת, ומדגישה שהסברים אינם מאפיין קבוע אלא פלט מערכת שיש למדוד (Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions). וITS אפקטיבי פרשני מדגים הסברים בהוראה מודעת-רגש (An Interpretable Closed-Loop Intelligent Tutoring System for Multimodal Affective Feedback in Asynchronous Presentation Training).

איכות הסבר, לא זמינות

שיעור חוזר ברחבי הראיות: קיום הסבר אינו מספיק; ההסבר חייב להיות מתאים לקהל שלו, מדויק ומכויל לגובה-המיתג. מסגרת XAI-ED קוראת למלכודות במפורש:

• עומס הסבר — יותר מדי מידע מציף את המשתמש ומבטל את היתרון.
• הסברים מטעים — הסברים post-hoc עשויים לא לשקף את החשיבה האמיתית של המודל, וליצור ביטחון שקרי.
• הטיית אישור — משתמשים מתייחסים באופן סלקטיבי להסברים שמאשרים אמונות קיימות.
• יתר-אמון — הסברים שוטפים יכולים ליצור ביטחון שקרי במערכות פגומות, ולהזין הסתמכות יתרה (ההופכי של כיול אמון).
• משחק במערכת — סטודנטים עשויים לנצל הסברים כדי לעקוף למידה אמיתית.

לאיכות הסבר יש גם ממד שוויון: הסבר שנוכח טכנית אך בלתי-קריא לבעל-עניין מסוים — או שמסתיר את ההטיה בחיזוי — נכשל במטרתו. זו הסבה ששאלת התכנון היא איכות והתאמה, וזו הסבה שעיצוב הסבר ממ-מרכז-אדם וספציפי-בעל-עניין הוא בלתי-נפרד מהייצור הטכני של הסברים. XAI יעיל הוא פעולת תקשורת שתוכננה לצרכים הקוגניטיביים של המקבל, לא ארטיפקט טכני בלבד.

הסבר אינו תמיד מאפשר-השוואה. בניסוי ויניוט 2 × 2 עם 250 סטודנטים לכיתה ז', נימוק בכתב לציון במתמטיקה הרים קבלה והוגנות נתפסת בשני התנאים אך הרחיב במקום לסגור את הפער בין החלטות שנעשו על ידי מורה לבין החלטות שנעשו על ידי בינה מלאכותית (Zhang ואח'. (2026)).

שני אזהרות מחדדות זאת עוד יותר, שתיהן שהתרומה החדשה ביותר של הוויקי בנושא הופכות למרכזיות. ראשית, המכונת ההסבר אינה ניטרלית בעצמה: שיטות post-hoc כמו LIME ו-SHAP יכולות להיות לא-נאמנות להתנהגות האמיתית של המודל, ולכן הסבר שנוכח טכנית עשוי להטעות במקום ליידע (Lund ואח'. 2026, תוך הסתמכות על Chuan ואח'., 2024). שנית, הסבר אינו אחריות. חשבון של אילו מאפיינים הניעו חיזוי אינו חושף האם המאפיינים האלה היו מתאימים לשימוש, האם נתוני ההדרכה היו ייצוגיים, או האם תכנון המערכת שיקף שיפוט נכון; הסברים יכולים ליצור חזות של שקיפות תוך השארת התנאים המבניים שייצרו את ההחלטה ללא שינוי (Mittelstadt ואח'., 2019). עבור חינוך זה אומר שהשאלה שיש להמשיך לשאול היא לא האם הופק הסבר אלא האם האדם שמקבלו — סטודנט, מורה, יועץ — יכול היה להבין אותו, לפעול לפיו, או לערער את ההחלטה שמאחוריו. אותה כשל קריאות מופיע בצד הביטחוני של הערכה אוטומטית: צוות-האדום של Humble (2026) על כלי ציון בינה מלאכותית מצאו אותו משבית את הצ'אט בשקט לאחר חסימת הזרקת פרומפט, ו — לאחר שהודיע שהוא לעולם לא יעקוב אחר הוראות משובצות — עוקב אחריהן בשישה ריצות נוספות על אותו קובץ, ומשאיר את המשתמש ללא סיגנל מהימן שביסס עליו הסתמכות.

מוסבר-על-ידי-תכנון היא תשובה אחת לבעיית הנאמנות של post-hoc. Li, Yang and Fang (2025) פרמטרים את מפענח ההסבר על ידי אותה ייצוג ממוזג וציון חזוי שקובעים את ההערכה, כך שציון נמוך על שאלות עיצוביות מייצר נימוק המציין שאלות בדיקה חסרות, ומשולב עם תשומת-לב בעלת-עדשה-כפולה על תקני תכנית הלימודים ותנועות רובריקה ספציפיות-נושא. יישור תשומת-לב-לרובריקה מגיע ל-78.0% לעומת 41.7% ל-GPT-4 zero-shot ו-32.1% ל-BERT, ונאמנות נבדקת על ידי מחיקה קונטר-פקטואלית של קטעים קריטיים-לרובריקה לצד דירוגי אנוש על רשימת-בדיקה מעוגנת-רובריקה, ומעניקה ציון אמינות-הסבר של 0.78 — עלייה של 0.31 על פני BERT-base. הביקורת מראה גם היכן הטענה הארכיטקטונית נדללת: על רמזים רגשיים המודל מקצה 28.4% ממשקל התשומת-לב לעומת מומחה 15.2% (יישור 0.53), עם מקרה-כשל אחד שמקצה 28% לטוקן "מתוסכל", שהמחברים קוראים כ-overfitting לרגש ולא לפדגוגיה וקוראים לו כשטח לעדנה. הטמעת הסברים בנתיב ההחלטה הופכת אותם לנאמנים יותר מנימוקים post-hoc; זה לא הופך אותם לנכונים.

הוראת הסבריות כפרקטיקת אחריות

אם איכות ההסבר קובעת האם XAI מועיל, אז ייצור הסברים צריך להיות נלמד כהרגל מקצועי ולא מודג כיכולת. Lund ועמיתיו (2026) מציעים לעשות זאת על פני ארבעה עמודים — אכיפיות-תשובה (החובה לתת נימוקים לאלו שנפגעים), אחריות (נזק שצפוי לאורך מחזור החיים, לא מוגן לאחר מעשה), אכיפה (השלכות בתוך הקורס) ורפלקסיביות (בדיקה מתועדת של הנחותיו של אדם) — כל אחד עם המשימות שלו ועלות הכיתה שלו.

להסבריות ספציפית, המשימות שחשובות הן אלה שמאלצות הסבר לצאת מהמחברת: כרטיסי מודל מדורגים המשוקללים לצד מדדי דיוק, וביקורות הסבר מובנות שבהן סטודנטים מחילים כלי פרשנות על המודלים שלהם ואז מציגים את התוצאות לקהל ללא רקע טכני משותף. אכיפה היא העמוד שנעדר לרוב מקורסים סמוכי-אתיקה וזה שהופך את השאר ליותר מסימבולי — רובריקות שמתגמלות תיעוד אחראי, פרויקטים שיכולים להיות מוחזרים לתיקון על בסיסים אתיים, וסקירת עמיתים שמנהלת מול קריטריוני אחריות ולא מול קריטריונים טכניים בלבד. המאמר הגון שהכלים נבדלים חדות בעלות: כרטיסי מודל והצהרות מיקום אינם דורשים תוכנה חדשה ומסוכנים רק מתאימות שטחית, בעוד פאנלים של עמיתים ומעורבות בעלי-עניין דורשים תיאום ותמיכה מוסדית, וזו הסבה שהוא ממליץ על התקבלות מדורגת ולא על מחויבות הכול-או-כלום. ראו עיצוב תוכנית לימודים להיכן אלה מתאימים בתכנית.

מושגים מקושרים

• כיול אמון
• אמון
• אוריינות AI
• אנליטיקת למידה
• הערכה אוטומטית
• מידול הלומד והוראה אדפטיבית
• חונך אינטליגנטי
• עקיבה אחר ידע
• צמצום הטיה
• בינה מלאכותית עם אדם בלולאה
• בטיחות פדגוגית
• מטאקוגניציה
• למידה עצמית מוסדרת
• פריקת עומס קוגניטיבי
• פרטיות
• רגולציה של בינה מלאכותית בחינוך
• מערכות המלצה ומסלולי למידה

מאמרים מקושרים

• Toward Socially Accountable Data Science Education: A Conceptual Framework for Integrating Explainable AI and Accountability Principles — מסגרת בת ארבעה עמודים (אכיפיות-תשובה, אחריות, אכיפה, רפלקסיביות) להוראת XAI כפרקטיקת אחריות (Lund ואח'. 2026)

• Value-Sensitive Design in Action: Designing Student-Centered Intelligent Tutoring Systems with Community College Students and Instructors — עיצוב רגיש-ערך של ITS ממוקד-סטודנט (הסברים שיתופיים מול גלמיים)

• Explainable Artificial Intelligence in Education (XAI-ED) — XAI-ED: המסגרת המייסדת לבינה מלאכותית מוסברת בחינוך (Khosravi ואח'. 2022)

• The Impact of Explainable AI on Teachers' Trust and Acceptance of AI EdTech Recommendations: The Power of Domain-specific Explanations — הסברים ספציפיים-תחום בונים אמון וקבלה של מורים (Feldman-Maggor ואח'. 2025)

• Who Should Grade My Work? Student Perspectives on Transparent AI-Assisted Writing Assessment in Higher Education — נקודות-מבט סטודנטיאלית על הערכה שקופה בסיוע בינה מלאכותית (AlGhamdi 2026)

• Interpretable Knowledge Tracing — עקיבה-אחר-ידע פרשנית

• Explainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning — עקיבה-אחר-ידע מוסברת באמצעות הטמעות הסתברותיות

• Neural-Symbolic Knowledge Tracing: Injecting Educational Knowledge into Deep Learning for Responsible Learner Modelling — עקיבה-אחר-ידע נוירו-סימבולית

• Distilling Black-Box Machine Learning into a Small, Self-Explaining Language Model for Learning Analytics — זיקוק מודלים בעלי-קופסה-שחורה למודלי שפה מסבירים-עצמית עבור אנליטיקת למידה

• Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions — אנליטיקת למידה פדרטיבית ומוסברת למידול סיכון משמר-פרטיות

• From Student Risk Prediction to SC2R: Semantics-Constrained Counterfactual Recourse for Educational Decision Support — תקנת-מצב קונטר-פקטואלית מוגבלת-סמנטיקה לתמיכת החלטה חינוכית

• Fair and explainable educational recommendations with a hybrid Graph-GRU framework — המלצות חינוכיות הוגנות ומוסברות

• An Interpretable Closed-Loop Intelligent Tutoring System for Multimodal Affective Feedback in Asynchronous Presentation Training — ITS בעל-לולה-סגורה פרשני למשוב אפקטיבי מולטימודלי

• Explaining ChatGPT Adoption in Higher Education: Insights for AI Literacy, Educational Practice, and Responsible AI — הסברת אימוץ ChatGPT בהשכלה גבוהה

• Towards trustworthy and explainable-by-design large language models for automated teacher assessment — מסגרת LLM מוסברת-על-ידי-תכנון: תשומת-לב בעלת-עדשה-כפולה והסברים מפורמטרי-ציון להערכת מורים אוטומטית (Li ואח'. 2025)

• Ethical implications of prompt injection in AI-mediated grading: An adversarial red-team evaluation — הזרקת פרומפט בציון מתווך-בינה מלאכותית, שבו גילוי מעולם לא דווח למשתמש (Humble 2026)

• Evaluation of pre-trained models for pedagogical assessment of novel AI-assisted educational questions — הערכת מודלים מאומנים מראש להערכה פדגוגית של שאלות חינוכיות חדשות בסיוע בינה מלאכותית

• Teacher or Artificial Intelligence? The Effect of Decision-Making Agent on Junior High School Students’ Decision Acceptance: A Moderated Mediation Model — החלטות ציון שנעשו על ידי מורה לעומת בינה מלאכותית: נימוק בכתב הרחיב את פער ההוגנות

ציטוט

Khosravi, H., Buckingham Shum, S., Chen, G., Conati, C., Tsai, Y.-S., Kay, J., Knight, S., Martinez-Maldonado, R., Sadiq, S., & Gašević, D. (2022). Explainable Artificial Intelligence in education. Computers and Education: Artificial Intelligence, 100074.