סיכון להזיה

תרגום אוטומטי של העמוד באנגלית, שטרם נבדק בידי דובר/ת שפת אם.

סיכון להזיה — הסכנה שמערכות בינה מלאכותית מפיקות תוכן סביר אך שגוי עובדתית או מומצא בהקשרים חינוכיים, היכן שהטעויות כאלה עשויות להטעות את לומדים, לפגוע באמון, ולייצר הערכות לא-תקפות. הזיה היא בעלת-השלכות במיוחד בחינוך מכיוון שסטודנטים עלולים לחלוק בידע התחום כדי לזהות טעויות בינה מלאכותית, ומורים עלולים להסתמך על אבחונים או משוב שנוצרו על ידי בינה מלאכותית ונשמעים סמכותיים אך אינם מבוססים.

שאלות למחשבה

• סטודנטים לרוב חסרי ידע התחום כדי לזהות שגיאה של בינה מלאכותית, ומורים עלולים לבטוח באבחונים הנשמעים סמכותיים. כיצד אי-הסימטריה הזו של ידע בין בינה מלאכותית ללומד הופכת הזיה למסוכנת במיוחד בחינוך?
• מחקר אחד מצא שבינה מלאכותית המאבחנת מתמטיקה בכתב-יד של סטודנטים יכולה לייצר ציטוטי ראיות שלא היו שם, תוך טעינת ביטחון. כאשר בינה מלאכותית נשמאת בטוחה ומצטטת 'ראיות', מה צריך לגרום לכם לעצור ולאימות?
• אם חונך בינה מלאכותית מאמת-יתר פתרונות שגויים ודוחה-יתר חשיבה תקפה-אך-תת-אופטימלית, מה הייתה ההשפעה ארוכת-הטווח על הסטודנטים והמורים שמסתמכים עליו?
• העמוד מציע סקירה עם-אדם-בתוך-הלולאה, כיול ביטחון מודע-ראיות, ועיגון במקורות מאומתים כמנגנוני מיתון. איזה מהם נאפשר ביותר בהקשר שלכם, ומה הוא עדיין עלול לא לתפוס?
• כיצד הזיה עשויה להתאים עם הסתמכות-יתר: מדוע טעות בינה מלאכותית היא מסוכנת ביותר כאשר משתמשים בוטחים בפלט באופן לא-ביקורתי, ולא כאשר הם סקפטיים?
• אם הייתם מעצבים כלי משוב בינה מלאכותית לסטודנטים שלכם, אילו הגנות ספציפיות הייתם מתעקשים עליהן כדי להגן מפני פלט סביר-אך-שגוי — וכיצד הייתם יודעים שהן עובדות?

מבוא

הזיה בבינה מלאכותית חינוכית נוטלת כמה צורות המתועדות במאמרי מאגר הידע הזה: ראיות מומצאות בהערכת סטודנטים, אבחון מוטעה ביטחון-יתר של ידע הלומד, והסברים סבירי-נשמע אך שגויים שהסטודנטים מקבלים כאמת. הסיכון מוגבר בחינוך מכיוון שאי-הסימטריה של ידע בין בינה מלאכותית ללומד הופכת את הלומד לממוקם גרוע כדי לאמת פלטי בינה מלאכותית. הגדרה נוספת היא קריאות קורס שנוצרו על ידי בינה מלאכותית ועומדות במקום ספר-לימוד: בקורס בוגרי לימודים שהחליף את הטקסט המסחרי שלו כך, רק כ-0.80% מתוך 4,487 עמודים שנרשמו נשאו ציטטון-בתוך-טקסט בסגנון APA ומחרוזות DOI היו נעדרות בעיקרו, כך שרוב הטענות לא ניתנו לביקורת מתוך הארטיפקט (Sidorkin, 2026). פער היכולות-הבקורתי הזה נבדל מתשובה שגואה, מכיוון שהטקסט נקרא כסמכותי בעוד שהוא מצעד אמצעי אישור פנימי מוגבלים.

סקירה של 125 מחקרים ממקמת טווח על שכיחות ועל פער הגילוי: שיעורי הזיה של 10–40%, עם סטודנטים לרפואה המזהים טעויות בינה מלאכותית רק ב-44–55% מהמקרים (Rathnayake (2026)).

הזיית הערכה היא מזיקה במיוחד. MathCog מצא שמודלים לשוניים מייצרים ציטוטי ראיות שאינם נוכחים בכתב-היד של הסטודנט כאשר הם מאבחנים מיומנויות קוגניטיביות, עם 58.5% מהאבחונים השגויים מלווים בטענות שקריות של ביטחון ראייתי. The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows תיעד ייחוס-יתר שיטתי של ראיות בחשיבה של מודלי שפה גדולים (LLM) — מודלים טוענים תמיכה ראייתית היכן שאין. שניהם מתחברים לדאגות של הערכת מערכות בינה מלאכותית בחינוך ועקיבה אחר ידע על תוקף ההערכה. Ivory et al. (2026) מוסיפים שני מצבי כשל גלויים כאשר פלט בינה מלאכותית מסומן ולא נבדק: פרטים מומצאים ששורדים ניקוד — נייר שנבדק שאינו קיים, עם DOI בלתי-פתיר, וגודל מדגם שדווח כ-378 בעוד שהמקור אמר 329 — וסתירה עצמית בתוך תגובה בודדת, שבה המודל חישב את הדרך לאפשרות הנכונה ואז דיווח על אפשרות שונה בסיכום הסוגר שלו. מכיוון שרשימות הפניות נבדקות כעת לעיצוב ולא לדיוקות, מחלקת שגיאות זו מגיעה לציון עובר בעוד שהיא מטעה את הסטודנט שמשתמש באותו הכלי לחזרה.

בפיילוט עיצוב-הערכה, Paula et al. (2026) מצאו הפניות מומצאות והערכות זמן לא-מציאותיות ששרדו הנחיה חוזרת ודרשו תיקון אקדמי משמעותי — הזיה בכלי ניסוח הפונה-למחנך ולא בעבודת סטודנט.

תפיסות שגויות אסטרטגיות הם קרובים משניים עדינים של הזיה גלויה. Miličević et al. (2026) הנחו שבעה מודלים בעלי-משקל-פתוח לייצר "מלכודת סוקרטית" עבור 35 מושגי מדעי-המחשב יסודיים — הסבר ששוטף וסמכותי בעודו נשען על שגיאה עדינה, ספציפית-תחום — ושלושה מומחי תחום אישרו 221 מתוך 241 קטעים מונחים (91.7%) כתפיסות שגויות אסטרטגיות, ללא הבדלים משמעותיים בין תחומי מדעי-המחשב. השגיאות היו בעיקר קונספטואליות ולא עובדתיות (66.5% מול 33.5%) ואף אחת לא הייתה לוגית בלבד, והן נדרגו כמשכנעות במידה מתונה עד גבוהה (M = 3.71 בסולם חמש-נקודות), עם זהות המודל מסבירה 43% מהשונות. מכיוון שהצעות בודדות יכולות להיות נכונות בעוד שהיחס ביניהן שגוי, בדיקת-עובדות אינה מספיקה; המחברים טוענים שלומדים זקוקים לאימות קונספטואלי ולאימות מודל-מנטלי. הם מזהירים גם שהשיעוי מודד יכולת תחת הנחיה התנגדותית ולא את שכיחותן של טעויות כאלה בשימוש רגיל, ושלא נבדקו סטודנטים, ולכן לא נמדדו הטעיה או תוצאת למידה.

ראיות מנופלות ולא מומצאות. מצב כשל קשור בניקוד אוטומטי הוא פלט שהועבר מבחוץ. Humble (2026) ערך מבחן-אדום על זרימת ניקוד בינה מלאכותית שגרתית, ומצא שהוראות שהוסתרו בתוך הקובץ המוגש הגבילו ציון חיבור נכשל ללא אזהרה גלויה ב-9 מתוך 9 חוזרות לאסטרטגיה אחת וב-17 מתוך 18 לאחרת. שני פרטים נוגעים לאמון: הזרקה שזוהתה נחסמה על ידי השבתת הצ'אט בשקט ומעולם לא דווחה למשתמש, ובמריצה אחת שבה הכלי הכריז שיעקוב רק אחר הוראות המשימה הרשמיות, שישה ריצות חוזרות של אותו קובץ עדיין הגבילו את הציון. ציון שהושג כך אינו נושא טענת תוקף, ומכיוון שהמניפולציה לא משאירה עקבות עמידים, המרצה נשאר הבדיקה היחידה האמיתית על פלט שמתוכנן לא להיות גלוי.

הגנות מפני מניפולציה כזו נושאות פשרה משלהן: צינור מעקות-בטיחות רב-שכבתי השאיר 46.34% מההזרקות מוצלחות ו-Prompt Guard 38.48%, בעוד ש-NeMo Guardrails חסם כל התקפה אך סימן 16.22% משאילתות סטודנטים בטוחות — שיעור חיובי-שווא שהוא עצמו נזק פדגוגי בחונך (Maiorano (2026)).

הזיית חונכות פוגעת בלמידה ישירות. Confirming Correct, Missing the Rest: LLM Tutoring Agents Struggle Where Feedback Matters Most מצא שמודלים לשוניים אישרו-יתר פתרונות שגויים בעוד שדחו-יתר חשיבה תקפה-אך-תת-אופטימלית — כשלים מערכתיים שהיו מטעים הן סטודנטים והן מורים. Sycophancy is an Educational Safety Risk: Why LLM Tutors Need Sycophancy Benchmarks ו**EduGuard: A Safe RAG-Based LLM Tutor for Programming Education** מתייחסים למנגנוני בטיחות עבור מודלים לשוניים חינוכיים. הסיכונים האלה מתחברים לבטיחות פדגוגית ולדרישות של בינה מלאכותית עם אדם בלולאה.

גישות מיתון כוללות עיצובים של בינה מלאכותית עם אדם בלולאה שבהם בינה מלאכותית מסייעת ולא מחליפה שיפוט מורה, ארכיטקטורות מודעות-ראיות שמכוילות ביטחון על בסיס איכות ראייתית (כפי שמוצע על ידי MathCog), ועיגון מבוסס-RAG (יצירה מוגברת-אחזור) שמגביל פלטי מודלים לשוניים למקורות מאומתים. המושג הסתמכות-יתר קשור מקרוב — הזיה היא מסוכנת ביותר כאשר משתמשים בוטחים בפלטי בינה מלאכותית באופן לא-ביקורתי. Sidorkin (2026) מוסיף מצב כשל שמחסנית המיתון אינה מכסה במלואה: טענות מוסדיות סופר-ספציפיות, עם כ-1.03% מהעמודים שנרשמו משווקים קמפוס שנקרא בשמו כמו "Sacramento State" עם פעלי מדיניות אסרטיביים על כללי שימור, קתדרה וקידום מתוקנים או על צווי הנהלה של CSU, ואף אחד מהם אינו ניתן לאימות מהטקסט. ספציפיות היא מה שהופך את זה ליקר, מכיון שפרט מקומי מומצא נראה מדויק דיין כדי לשרוד את בדיקת הסבירות של הקורא, והתרופה שהמחקר מציע היא פרוצדורלית ולא טכנית: התייחסו לייצור כייצור טיוטה תחת סקירת מרצה, ואז צברו מקורות לעיצוב מוגבר-אחזור.

חוסר-אמינות המסומן הוריד תלות מדווחת במקום להעלותה. כאשר 546 משתתפים קראו את אותו דו-שיח GAI המסומן או כמכיל מידע מומצא או כמאומת מדויק, התווית המומצאה הפיקה אמון נמוך יותר ותחושת שליטה נמוכה יותר ודיסוננס קוגניטיבי ותסכול גבוהים יותר לצד ציוני תלות נמוכים יותר (M = 2.935 מול 3.254) (Liu et al. (2026)). התוצאה ממתנת את לוגיקת ההסתמכות-יתר של העמוד הזה: לראות שפלט עשוי להיות מומצא אינו זהה להמשיך להישען עליו.

מושגים מחוברים

• פריקת עומס קוגניטיבי
• בינה מלאכותית עם אדם בלולאה
• הערכת מערכות בינה מלאכותית בחינוך
• בטיחות פדגוגית
• עקיבה אחר ידע
• RAG (יצירה מוגברת-אחזור)
• יושרה אקדמית
• הוראה
• בינה מלאכותית רב-מודאלית
• בינה מלאכותית יוצרת
• מודלי שפה גדולים (LLM)
• כישלון פרודוקטיבי

מאמרים מחוברים

• GAI hallucinations and user dependence: cognitive-affective responses and individual differences — תווית דו-שיח GAI כמומצא הורידה אמון ותלות יחד

• The Integrity of Psychology Assessments in the AI Age: A Critical Examination — ציטטונים מומצאים ופלטים סותרים-עצמית בתוך עבודת סטודנט עוברת (Ivory et al. 2026)

• Benchmarking Large Language Models for Diagnosing Students' Cognitive Skills from Handwritten Math Work

• The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows

• Confirming Correct, Missing the Rest: LLM Tutoring Agents Struggle Where Feedback Matters Most

• Sycophancy is an Educational Safety Risk: Why LLM Tutors Need Sycophancy Benchmarks

• EduGuard: A Safe RAG-Based LLM Tutor for Programming Education

• Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs

• VeriForge: Mitigating Latent Knowledge Gaps in Narrative Drafting via Mixed-Initiative Scaffolding

• Generative AI in Higher Education: A Systematic Review of Opportunities, Challenges, and Pedagogical Innovations (2022–2025)

• From One-Size Texts to Tailored Readings: Student Experiences with AI-Generated Course Materials

• The Socratic trap: Benchmarking the capacity of large language models to generate strategic misconceptions in computer science education — SocraticTrap-CS: הסברים סבירי-שטף שגויים ברמה הקונספטואלית (Miličević et al. 2026)

• Ethical implications of prompt injection in AI-mediated grading: An adversarial red-team evaluation — הזרקות הנחיה מוסתרות מגבילות ציונים שנבדקו בבינה מלאכותית ללא זיהוי, והתקפות שזוהו לא מדווחות (Humble 2026)

• Designing Authentic Assessments with Generative AI: A Pilot Study of Assessment Authentifire in Higher Education — עיצוב הערכות אותנטיות עם בינה מלאכותית יוצרת: מחקר פיילוט של הערכת Assessment Authentifire בהשכלה גבוהה