מושגים
ניסוי מבוקר אקראי (RCT)
תרגום אוטומטי של העמוד באנגלית, שטרם נבדק בידי דובר/ת שפת אם.
ניסוי מבוקר אקראי (RCT) — תכנון מחקר שבו משתתפים מוקצים באופן אקראי לתנאי טיפול או ביקורת כדי להעריך את האפקט הסיבתי של התערבות על תוצאה. בבינה מלאכותית בחינוך, RCTs הם תקן הזהב לקביעת האם כלי AI או גישה פדגוגית גורמים לרווחי למידה, לשינויי מעורבות, או לתוצאות אחרות, ולא רק מתאמים איתן.
שאלות למחשבה
- אם בית ספר אומר לכם 'תלמידים שהשתמשו בכלי ה-AI צברו יותר', מדוע זה עשוי בכל זאת להיכשל להוכיח שהכלי גרם לרווח — גם אם ההבדל גדול?
- רנדומליזציה מאזנת מתווכים ידועים ולא ידועים בין קבוצות. לפני שאתם קוראים, מה רנדומליזציה משיגה שהשוואה של שתי כיתות שלמות אינה משיגה, לא משנה כמה הן נראות מאוזנות?
- העמוד מכנה את ה-RCT תקן הזהב אך מפרט עלויות ממשיות: סביבות מלאכותיות, AI שמשתנה במהירות ומתיישן את הניסויים, מדגמים קטנים חסרי-כוח, ואילוצים אתיים על מניעת כלים מועילים. אילו מהפשרות האלה לדעתכם נשכחות ביותר בכותרות מחקר חינוכי?
- RCT עם 1,174 משתתפים מצא שGenAI סגר כשלושת-רבעיים מפער פרודוקטיביות מבוסס-חינוך. אך RCT שגרתי יכול עדיין להתנהל על משימה צרה בסביבה מלאכותית. מה כדאי לבדוק במדד התוצאה לפני לסמוך על הטענה הסיבתית?
- שקלו את הבעיה האתית ישירות: אם הייתה לכם סיבה ממשית להאמין שחונך AI עוזר לתלמידים ללמוד, האם הגיוני לשלול אותו באופן אקראי מחצי מכיתה למשך סמסטר? כיצד הייתם מעצבים מחקר אתית-תקין שעדיין מבודד את הסיבה?
מבוא
רנדומליזציה היא מה שמבדיל RCT מעיצובים אחרים: על ידי הקצאת לומדים לתנאים באופן אקראי, RCT מאזן מתווכים ידועים ולא ידועים בין קבוצות, כך שכל הבדל שנצפה בתוצאות יכול להיות מיוחס להתערבות עם תוקף פנימי גבוה.
כיצד RCTs מופיעים במחקר
-
מיקרו-RCTs כתגובה לטכנולוגיה משתנה במהירות: Harrison et al. (2026) טוענים שניסויים בקנה מידה גדול קונבנציונליים אינם יכולים לעמוד בקצב של פלטפורמות חונכות על פלטפורמות שמשתנות באופן מהותי במהלך מחקר, ומשתמשים בניסויים מבוקרים-אקראיים מיקרו-מונעים על ידי מורים בבתי ספר תיכון באנגלית (644 מתוך 929 סטודנטים שהשלימו מבחן סופי, g = 0.33) כדי לשמור על הערכת סיבתיות כשחזורית. הפשרות מוצהרות בתכנון שלהם עצמו: 30.7% נשירה, תוצאות מיושרות-תוכנית-לימודים ולא תוצאות מתוקננות באופן עצמאי, וארבעה שבועות בלבד של מעקב.
-
טענות יעילות סיבתית: RCTs ב-AIED בודקים אם חונך AI, כלי, או טיפול פדגוגי משפרים תוצאות. ניסוי רנדומלי על בינה מלאכותית יוצרת עם 1,174 משתתפים מצא ש-GenAI מצמצם באופן מהותי פערי פרודוקטיביות מבוססי-חינוך, וסוגר כשלושת-רבעיים מההבדל הביצועי הראשוני — הערכה סיבתית ברורה של אפקט ה-AI.
-
השוואה לתקן הזהב: עמוד שיטות המחקר ממקם RCTs כעיצוב החזק ביותר לתוקף פנימי תוך ציון הפשרות שלהם — עלות, תנאים מלאכותיים, AI משתנה במהירות, מדגמים קטנים חסרי-כוח, ואילוצים אתיים על מניעת AI שעשוי להיות מועיל מקבוצת ביקורת.
-
ניסוי שתוכנן לשוויון, לא להבדל. Northcutt et al. (2026) רנדומלו 2,383 מבוגרים לחונכות AI, חונכות אנושית חיה, או ביקורת וידאו, כתבו פריטי GRE חדשים עם מפתחי מבחנים לשעבר של ETS ו-Kaplan כדי לשמור על זיהום מבחן-מפורסם מחוץ, איזנו את שתי הצורות, ובחנו שוויון עם שני מבחנים חד-צדדיים מול ±0.25 SD במקום הבדל — בחירות התכנון שהופכות "אין הבדל מובהק" לתוצאה ניתנת-לפרשנות.
-
רנדומליזציה קבוצתית, הצטברות נמוכה, ומה שהערכת כוונה-לטיפול אומרת אז. Liu et al. (2026) רנדומלו 2,379 סטודנטים לתואר ראשון על פני 13 בלוקים על ידי הקצאת מרצים במקום סטודנטים, כך שכל סטודנט במקצוע ירש את תנאי המרצה שלו — התכנון שהופך ניסוי הטמעה רב-מקצועי לאפשרי, וזה היוצר את בעיות ההסקה שהמחקר מתעד אחר כך. רק כ-15% מהסטודנטים במקצועות מטופלים השתמשו בכלי אי-פעם, ולכן האפקטים המדווחים מעריכים הצעת גישה ולא שימוש בה; המחברים קוראים את ההתערבות כשימוש ה-AI הרחב יותר שההצגה שלה גרמה, ומתייחסים למפגשים אינדיבידואליים כשאלה נפרדת. מכיוון שהטיפול הוקצה ברמת המרצה, ההסקה נשענת על 34 אשכולות — סביבה שבה שגיאות תקן עמידות-אשכול מוגזמות בדיוק — ולכן המאמר מדווח הסקת רנדומליזציה לצידן ומוצא שהמסקנות שלו עמידות. שני האפקטים הבולטים, ירידה של 0.37 SD בציונים הסופיים במדגם ההתאמה-המדויקת וירידה של 0.90 SD בהשתתפות בפלטפורמה המוקלטת בשני המדגמים, הם תוצאות ברמת-המקצוע שרנדומליזציה פר-סטודנט של אותו כלי לא היתה מבודדת ללא זיהום בין חברי כיטה מטופלים ובקורת.
-
הצטברות מגבילה מה שניסוי יכול לבדוק, ותמיכת מעורבות אינה מנה. Robinson et al. (2026) הריצו שני RCTs של פלטפורמת קריאה שבהם רק 60.7% ו-53.3% מסטודנטי הביקורת השתמשו בפלטפורמה אי-פעם; חונך מעורבות העלה סיפורים שנקראו ב-71–80% אך לא הפיק רווח הישגים, בהתאם ל-2–5 דקות בשבוע שהושגו.
-
קנה מידה שהופך אפסים לראיות. Mata et al. (2026) עקבו אחר 8,708 סטודנטים על פני שמונה סמסטרים עם כוח לגלות אפקטים של 0.05 SD ומצאו תנועה גדולה ומיידית במשימות בינאריות מתוארכות — 34 נקודות אחוז יותר רישום עד 16 באוגוסט לאחר תזכורת בודדת — בעוד ביצועים אקדמיים, התמדה והשכלה לא הראו אפקט בר-גילוי. קנה המידה הוא לקחת העיצוב: ב-N הזה האפסים האקדמיים הם תוצאות מדויקות ולא כשלים בגילוי, וזה מה שמתיר את המסקנה שכלי תקשורת מזיז את מה שהוא יכול לפנות ולא תוצאות למידה מצטברות.
-
ממוצע אפס יכול להסתיר שונות מקזזות. RCT שנרשם מראש שרנדומל 538 מורים ב-24 בתי ספר טורקיים ברמת-מחלקת-בית-ספר מצא שהישגים ירדו 0.129 SD בקרב מורים מתחת-לחציון בעוד עלו 0.054 בקרב מורים מעל-החציון, והמוטיבציה ירדה 0.111 SD, כאשר בחינה דחוסת-תקרה (ממוצע ביקורת 89.2/100) הגבילה את הכוח.(Sungu, Lira & Duckworth (2026))
-
רישום מראש שמוציא את השאלה ואת האפקט הבר-גילוי. Meyer et al. (2026) רשמו מראש את שני ניסויי הקורס עם Registry of Efficacy and Effectiveness Studies, והתחייבו מראש להערכת כוונה-לטיפול ולגודל אפקט מינימלי בר-גילוי של כ-0.157, ורנדומלו סטודנטים מסכימים בכל מועד עם גל שני ב-add/drop כך שנכנסים מאוחרים נכנסו לתכנון ולא לדגם הניתוח המוגדר-כברירת-מחדל. צבירה של 2,483 סטודנטים על פני שני קורסים, האפקט יושב על סף ה-A/B (ארבע נקודות אחוז) בעוד השינוי בציון הנומרי המשותף אינו שורד תיקון השוואות-מרובות — תזכורת שתוצאת-מקור ראשית שנרשמה מנטילה את איזה מתוך כמה תוצאות מתאמות נרכשת.
-
רנדומליזציה בתוך מקצועות שלמים, עם קו בסיס טרום-טיפול. Thoeni & Fryer (2026) רנדומלו 454 סטודנטים לתואר ראשון בתוך שלושה מקצועי שיווק שלמים לאחר drop/add ומדדו את כל ארבע התוצאות ב-T1, לפני שלכל סטודנט הייתה גישה לצ'אטבוט, כך שההשוואה לאורך המועד נשענת על קו בסיס שנמדד ולא על קו בסיס מונח. התוצאה השטוחה (שום אינטראקציה קבוצה×זמן לא הגיעה למשמעות; האפקט המדווח הגדול ביותר היה d = 0.050, על עניין) מדווחת לצד אימוץ — 0.89 כניסות לשבוע מול מוקצה פעם בשבוע — מה ששומר על אפס אודות טיפול בשימוש חלש מלהיקרא אפס אודות הכלי.
-
צלילה תוך-נושאי, וקבוצת ביקורת במיטב הפרקטיקה. Kestin et al. (2025) גרמו לכל אחד מ-194 סטודנטים למדעי החיים בהרווארד לעבוד שני שיעורי פיזיקה — פעם במפגש למידה פעילה בכיתה ופעם עם חונך ה-AI של הקורס, בסדר מאוזן עם מבחני טרום-ואחרי סביב כל אחד — כך שכל סטודנט משמש כבקורת עצמית שלו וההשוואה של אופני המסירה אינה מסובכת במי הוקצה לאיזה. הבחירה השנייה של התכנון חשובה לא פחות: המשווה היה למידה פעילה מבוססת-מחקר ולא הרצאה, כך שהיתרון (חציון מבחן-אחרי 4.5 מול 3.5) נמדד מול מיטב-הפרקטיקה הנוכחי ולא ניתן להיקרא "AI מנצח הוראה".
חוזקות ומגבלות
- חוזקות: הסקה סיבתית חזקה ביותר; מדידת תוצאות נקייה; תמיכה בהערכת גודל-אפקט; איזון מתווכים באמצעות רנדומליזציה.
- מגבלות: יקר ואיטי; סביבות מלאכותיות יכולות להפחית תוקף אקולוגי; כלי AI משתנים מהר יותר משניסויים יכולים לרוץ; מדגמים קטנים לרוב חסרי-כוח לגילוי אפקטים משמעותיים; אילוצים אתיים על מניעת AI שעשוי להיות מועיל מקבוצת ביקורת. שתיים מן המגבלות האלה משנות צורה כאשר ההקצאה היא אשכולית: המדגם האפקטיבי הופך למספר האשכולות ולא למספר הסטודנטים, כך שניסוי יכול להיות גדול במספר-ראשים ודליל במידה זו — 2,379 הסטודנטים של Liu et al. נשענים על 34 אשכולות ברמת-מרצה — וכאשר ההצטברות היא מרצונית ונמוכה, הערכת כוונה-לטיפול עונה על שאלה אם הצעת הכלי שינתה תוצאות, לא אם שימוש בו שינה.
לטיפול המלא יותר בעיצוב ניסויי בבינה מלאכותית בחינוך — כולל מתי RCT מתאים מול כמעט-ניסויי, סקר, או עיצובים חישוביים — ראו שיטות מחקר ב-AIED.
מושגים מחוברים
- שיטות מחקר ב-AIED
- הערכת מערכות בינה מלאכותית בחינוך
- מדידה חינוכית
- בינה מלאכותית יוצרת
- השכלה גבוהה
- בינה מלאכותית בחינוך
- תמיכה והצלחת סטודנטים — התכנון שמאחורי הראיות החזקות ביותר לתמיכת סטודנטים
מאמרים מחוברים
- Does generative AI narrow education-based productivity gaps? Evidence from a randomized experiment — Does generative AI narrow education-based productivity gaps? Evidence from a randomized experiment
- Generative AI Can Harm Teaching — Generative AI can harm teaching: an RCT
- Access is Not Enough: Human Support Improves Engagement with AI Tutoring — Access is not enough: human support improves engagement with AI tutoring
- Evaluating AI Tutoring at the Speed of Innovation: Practitioner-Led Micro-Randomised Trials of an AI Tutoring Platform in GCSE Science — Evaluating AI Tutoring at the Speed of Innovation: Practitioner-Led Micro-Randomized Trials of an AI Tutoring Platform in GCSE Science
- StudentBench: AI and human tutoring yield equivalent GRE learning gains — StudentBench: AI and human tutoring yield equivalent GRE learning gains
- The Effects of Course-Integrated AI Tutoring on Student Performance and Engagement: A Randomized University Trial — Group randomization by instructor: a 0.37 SD fall in final grades and a 0.90 SD fall in platform participation, with 15% uptake and inference on 34 clusters (Liu et al. 2026)