शिक्षा में AI पूर्वाग्रह और अनिष्पक्षता कैसे दिखती है, और हम इसके बारे में क्या कर सकते हैं?

यह अंग्रेज़ी पेज का ऑटोमैटिक अनुवाद है और इसकी अभी तक किसी मूल भाषी ने समीक्षा नहीं की है।

शैक्षिक AI में पूर्वाग्रह और अनिष्पक्षता एक ही समस्या नहीं हैं। इस ज्ञानकोश का शोध दस्तावेज़ करता है कि पूर्वाग्रह किसी प्रणाली के जीवन के लगभग हर चरण में प्रवेश करता है — प्रशिक्षण-डेटा, मॉडल-व्यवहार, प्रॉम्प्ट, अंकन, प्रतिक्रिया, आवंटन-निर्णय, और उनके नीचे की अवसंरचना — और यह शिक्षकों, विकासकर्ताओं, शोधकर्ताओं और प्रशासकों को अलग-अलग तरह से प्रभावित करता है। इस सब में पैटर्न इतना सुसंगत है कि सीधे कहा जा सके: औसत नहीं, उपसमूह-संख्याएँ माँगें; "वंचित" को समूह-आकार से नहीं, परिणामों से परिभाषित करें; और निष्पक्षता को ऐसी चीज़ मानें जिसे आप डिज़ाइन और ऑडिट करते हैं, न कि बाद में जोड़ी जाने वाली वस्तु।

पूर्वाग्रह और अनिष्पक्षता कहाँ दिखते हैं

अंकन और आकलन। AI अंकन उस भाषा को दंडित कर सकता है जिसमें विद्यार्थी लिखता है, न कि उस समझ को जो वह व्यक्त करता है: भौतिकी का अंकन उन विद्यार्थियों को व्यवस्थित रूप से कम आँकता है जिनकी व्याख्याएँ कम प्रवाहशील हैं, और गैर-देशी तथा कम आत्मविश्वास वाले लेखकों को उनके ज्ञान के लिए दंडित करता है (स्वचालित अंकन में भाषा-पूर्वाग्रह)। स्वचालित अंकन वितरण के मध्य की ओर भी सिकुड़ता है, जिससे सबसे मज़बूत और सबसे कमज़ोर विद्यार्थियों को सबसे अधिक उजागर किया जाता है, और मानव अंकनकर्ताओं के साथ इसकी असहमति उपलब्धि-स्तर तथा शब्दावली-विस्तार जैसे सतही भाषा-लक्षणों के साथ बदलती है (OpRaise, 2026)। पूरी अंकन-तस्वीर के लिए, अंकन-निष्पक्षता का FAQ देखें।

ट्यूटरिंग, प्रतिक्रिया और अनुकूली प्रणालियाँ। एक अनुकूली ट्यूटर का आंतरिक विद्यार्थी-मॉडल पूरे समूहों को अदृश्य रूप से वंचित कर सकता है: MATHia के लॉग पर 8,549 विद्यार्थियों और दो स्कूल-वर्षों के बायेसियन नॉलेज ट्रेसिंग निष्पक्षता-ऑडिट ने −0.077 की समग्र सांख्यिकीय समता पाई जो उभरते पाठकों के विरुद्ध पक्षपाती 50 में से 36 कौशलों को छिपा रही थी, जिसमें कौशल-स्तरीय पूर्वाग्रह −0.262 तक था — ट्यूटर में कोई पठन-कौशल घटक नहीं था, इसलिए कम प्रवाह से पढ़ने वाले विद्यार्थी गणित में पीछे रह गए (Stinar et al., 2026)। प्रतिक्रिया-उपकरणों का अपना दस्तावेज़ित झुकाव है: चार व्यापक रूप से उपयोग किए जाने वाले LLM विद्यार्थी की पहचान दिए जाने पर लेखन-प्रतिक्रिया को रूढ़ि-संरेखित तरीकों से बदल देते हैं — अधिक प्रशंसा, कम आलोचना, सीमित क्षमता की धारणाएँ — एक जैसे निबंधों पर भी (Tan et al., 2026)। LLM ट्यूटर शिक्षार्थी के जनसांख्यिकीय लेबल के साथ भी बदलते हैं: EduFair-Bench में, रसायन और भौतिकी में हर मॉडल के लिए सुधारात्मक लहजे के उतार-चढ़ाव 0.10 से अधिक थे, गणित में चरण-मचान जनसांख्यिकीय शर्तों के साथ |r| = 0.144 तक सहसंबद्ध था, और लहजा तर्क की गुणवत्ता के बजाय लेबल का अनुसरण करता था (EduFair-Bench)। बातचीत-इतिहास में अदृश्य रूप से मौजूद जनसांख्यिकीय संदर्भ भी आउटपुट बदल देता है: अंतर्निहित कंडीशनिंग ने एक मॉडल के लिए स्वचालित निबंध-अंक 1.57 अंक तक बढ़ा दिए, क्योंकि संकेत वर्णित विशेषता नहीं बल्कि संदर्भ ले जा रहा था (Rooein, Benedetto और Hovy, 2026)।

डैशबोर्ड और प्रारंभिक चेतावनी। McConvey et al. (2026) ने 168,550 विद्यार्थी-अभिलेखों से बनी प्रतिकृति प्रारंभिक-चेतावनी प्रणाली पर छह पश्चात-निष्पक्षता हस्तक्षेपों का दबाव-परीक्षण किया: किसी ने भी सुसंगत लाभ नहीं दिया। असमानताएँ घटीं नहीं, पुनर्वितरित हुईं; दो विधियों ने वंचना को परिभाषित करने के लिए समूह-आकार का उपयोग किया और सभी 706 सुधार अंतरराष्ट्रीय विद्यार्थियों की ओर निर्देशित किए, जिनकी पूर्वानुमानित सफलता-दर पहले से ऊँची थी (0.916 बनाम 0.756); और एक विधि ने महिला झूठी-सकारात्मक दर को 0.561 से 0.837 तक बढ़ाकर अपना लैंगिक समान-अवसर लक्ष्य पूरा किया। "अज्ञात लिंग" में समाहित विद्यार्थियों की हर विधि के तहत सच्ची-सकारात्मक दर सबसे कम थी।

जनरेटिव आउटपुट: पाठ, चित्र और अवतार। मॉडल प्रभावी मानदंडों को दोहराते हैं जब तक स्पष्ट रूप से जाँच न की जाए। शिक्षा में टेक्स्ट-टू-इमेज उपकरणों के 31 अध्ययनों की व्यवस्थित समीक्षा ने पाया कि चित्र लगातार श्वेत, पुरुष, पश्चिमी, पतले और गैर-विकलांग आकृतियों को केंद्र में रखते थे, जबकि आयु, शरीर और क्षमता की विविधता बड़े भाग में अनुपस्थित थी (Alon et al., 2026)। टीम-गठन सहायक विद्यार्थियों को अलग-अलग अनुभवों में भेजते हैं: 11,200 सॉफ़्टवेयर-इंजीनियरिंग असाइनमेंट रखने वाले तीन LLM ने पुरुषों को महिलाओं की तुलना में Interface Design की ओर Core Development के बजाय कम से कम 80% कम बार भेजा, और राष्ट्रीयता ने योग्यता से स्वतंत्र रूप से स्थान बदले (Entezami et al., 2026)। अवतार के पहचान-संकेत भी विश्वास बदलते हैं: दो प्रयोगों (N = 396) में श्वेत अवतार अधिक विश्वसनीय और सक्षम आँके गए, जबकि वृद्ध काली महिला अवतारों को दंड मिला, और यह प्रभाव STEM कार्यों में और बढ़ा (Anthis और Kyriakidou-Zacharoudiou, 2026)। लेखन-उपकरण पूर्वाग्रह को विद्यार्थियों के अपने काम में स्थानांतरित कर सकते हैं: लैंगिक-पूर्वाग्रही प्रॉम्प्ट अधिक लैंगिक-रूढ़िवादी निबंध उत्पन्न करता है, इसलिए उपकरण का पूर्वाग्रह शिक्षार्थी का आउटपुट बन जाता है (LLM-सहायित लेखन में लैंगिक पूर्वाग्रह का स्थानांतरण)।

डेटा, लेबल और अवसंरचना। पूर्वाग्रह किसी मॉडल के प्रशिक्षण से पहले ही मौजूद होता है। ऑफ़-द-शेल्फ़ नाम-पहचान उपकरणों ने अफ़्रीकी नामों को 0.7647 रिकॉल और एशियाई नामों को 0.8640 पर छोड़ा, जबकि यूरोपीय के लिए 0.9024 और अमेरिकी के लिए 0.9091 था; एक फ़ाइन-ट्यून किए गए मॉडल ने ये अंतराल समाप्त कर दिए (Ji et al., 2025)। प्रशिक्षण-संग्रह और टोकनाइज़ेशन संरचनात्मक रूप से कम-प्रतिनिधित्व वाली भाषाओं के वक्ताओं को वंचित करते हैं (Structural Silence), LLM-उत्पन्न शिक्षार्थी-प्रोफ़ाइल क्षेत्रीय और लैंगिक पूर्व-धारणाएँ ले जाती हैं जो आगे प्रसारित होती हैं (López-Pernas et al., 2026), और मॉडलों के पीछे के ग्राउंड-ट्रुथ लेबल भी उतनी ही जाँच के योग्य हैं जितने मॉडल स्वयं (ग्राउंड-ट्रुथ विश्वसनीयता)।

पहचान-उपकरण बहुभाषी लेखकों को सबसे अधिक चोट पहुँचाते हैं। चूँकि पहचानकर्ता पाठ्य-पूर्वानुमेयता पर वर्गीकृत करते हैं, अतिरिक्त-भाषा लेखन की कम परप्लेक्सिटी और सूत्रबद्ध घनत्व झूठे "AI" झंडे बजाते हैं: दस्तावेज़ित अध्ययनों ने गैर-देशी वक्ताओं के प्रामाणिक TOEFL निबंधों के बड़े हिस्सों को गलत वर्गीकृत किया (Angelier, 2026), और गैर-देशी पेपर संपादित करने से निर्णय दोनों दिशाओं में बदले — एक पहचानकर्ता के तहत झंडे बजने की संभावना 10.7 अंक कम, दूसरे के तहत 5.8 अंक अधिक (Park, Jeong और Kim, 2026)।

पहुँच और उपकरण-गुणवत्ता भी समानता के प्रश्न हैं। डिजिटल विभाजन मूलभूत है (डिजिटल पहुँच), और गुणवत्ता-विभाजन उसे बढ़ाते हैं: एक ही मॉडल का मुफ़्त स्तर 150 में से 49 उत्तरों (32.7%) में अशुद्ध था, जबकि प्रीमियम स्तर 150 में से 18 (12%) में, जिससे शिक्षकों ने इसे "गणित के लिए सीमा-रेखा पर बेकार" कहा (Canonigo, 2026)। संकाय बड़े पैमाने पर अपेक्षा करते हैं कि जनरेटिव AI असमानताएँ बढ़ाएगा — सर्वेक्षित 1,057 संकाय में 81% ने यह कहा, 58% ने "बहुत अधिक" (Watson और Rainie, 2026)। और AI ट्यूटरिंग के लाभ अपने आप वितरित नहीं होते: लाभ वहाँ केंद्रित होते हैं जहाँ आवंटन आवश्यकता का अनुसरण करता है, जैसे जब कट-ऑफ़ से सबसे नीचे वाले विद्यार्थियों के लिए लक्षित सक्रिय मानव ट्यूटरिंग ने ठीक उसी समूह में थोड़ा अधिक विकास उत्पन्न किया (75%, p = .065) (Gurung et al., 2026), या जब विशेषज्ञ-सत्यापित AI अध्ययन सामग्री ने 2.34-अंक लाभ का सबसे बड़ा हिस्सा निचले पंचमक को दिया (Dang और Nguyen, 2026)।

इसके बारे में क्या करें — अपनी भूमिका के अनुसार

यदि आप शिक्षक हैं: जिस भी उपकरण को अपनाएँ, उससे पूछें कि जिन उपसमूहों को आप वास्तव में पढ़ाते हैं उनके लिए उसकी त्रुटि-दरें क्या थीं, केवल उसकी समग्र सटीकता नहीं। बहुभाषी लेखकों के काम को पहचानकर्ता के निर्णय स्वीकार करने से पहले ध्यान से जाँचें — वे उपकरण अतिरिक्त-भाषा लेखन को गलत वर्गीकृत करते हैं। शिक्षण सामग्री बनाते समय तटस्थ प्रॉम्प्ट उपयोग करें (तटस्थ प्रॉम्प्ट लैंगिक-विभेदित भाषा को बड़े भाग में टालता है), और AI आउटपुट की तुलना अपने मानकों से करें, उसे प्रामाणिक मानकर न चलें (मैं छात्रों को AI आउटपुट सत्यापित करना कैसे सिखाऊँ?)। अंकन के लिए, सीमा-रेखा वाले मामलों पर लूप में एक मानव रखें।

यदि आप सॉफ़्टवेयर विकासकर्ता हैं: पहचान-शर्तों — भाषा, लिंग, संस्कृति, विकलांगता — के पार ऑडिट करें, ऐसे इनपुट से जो केवल विद्यार्थी का संदर्भ बदलते हैं (अंतर्निहित-संकेत परिणाम दिखाता है कि वर्णित विशेषताएँ ही एकमात्र चैनल नहीं हैं)। रोके गए विषयों पर परीक्षण करें, केवल रोके गए मदों पर नहीं: सत्यापन-विभाजन पर टिकने वाले निष्पक्षता-लाभ वास्तविक विद्यार्थी-ध्यान मॉडल के लिए 10 में से 4 रन में लुप्त हो गए (Fragkiadakis et al., 2026)। पश्चात-आउटपुट समायोजनों के बजाय मॉडल में शमन को वरीयता दें — फ़ाइन-ट्यूनिंग, बोली-अपरिवर्तनीय प्रशिक्षण, GroupDRO जैसे निष्पक्षता-जागरूक उद्देश्य (पूर्वाग्रह-शमन दृष्टिकोण)। समूह-आकार से वंचना का अनुमान कभी न लगाएँ, और उपसमूह-मापदंड बताएँ, उन समूहों सहित जिन्हें नमूना बहुत छोटा होने के कारण बाहर रखना पड़ा (Ye et al., 2026 ने ठीक इसी कारण अंग्रेज़ी शिक्षार्थियों और IEP विद्यार्थियों को बाहर रखा — जब आप ऐसा करें तो बताएँ)।

यदि आप शोधकर्ता हैं: निष्पक्षता-मापदंड बताएँ, बस — विद्यार्थी-मूल्यांकनों पर NLP लागू करने वाले 421 अध्ययनों की स्कोपिंग समीक्षा में केवल 8 (1.9%) में औपचारिक निष्पक्षता-मापदंड मिला (Eicher और da Silva, 2026), और AI-बनाम-मानव अंकन के 12 अध्ययनों में से दस जनसांख्यिकीय, भाषिक या सामाजिक पूर्वाग्रह पर चुप थे (Xu, Lu और Abdi, 2026)। केवल लिंग नहीं, जनसांख्यिकीय आयामों के पार परीक्षण करें; छोटे-समूह बहिष्करण बताएँ; और समानता का मूल्यांकन सटीकता के साथ करें, बाद की सोच के रूप में नहीं। जब आप मॉडलों को इतिहास ट्यूटर या अलग संदर्भों के ट्यूटर के रूप में ऑडिट करें, तो निष्कर्ष निकालने से पहले पहचान-शर्त परीक्षण उपयोग करें (पितृसत्तात्मक फ़िल्टर चेतावनी का उदाहरण है)।

यदि आप प्रशासक हैं: पूर्वानुमानित या जनरेटिव उपकरण खरीदते समय उपसमूह-रिपोर्टिंग और अपनाने-से-पहले-ऑडिट को अनुबंध-शर्तें बनाएँ — प्रारंभिक-चेतावनी अध्ययन के लेखक मापदंड-अनुकूलन नहीं, खरीद-शासन को प्राथमिक सुरक्षा-उपाय मानते हैं (McConvey et al., 2026)। गुणवत्ता-स्तर विभाजनों पर नज़र रखें जो कम-संसाधन वाली कक्षाओं को स्पष्ट रूप से खराब उपकरण-प्रदर्शन के साथ छोड़ देते हैं, और केवल लाइसेंस बाँटने के बजाय पहुँच को सहायता और प्रशिक्षण से जोड़ें। संस्थागत AI नीति के लीवरों का उपयोग प्रकटीकरण और समानता-रिपोर्टिंग अनिवार्य करने के लिए करें, और R&D तथा निगरानी की चर्चाएँ समानता, नैतिकता और सुरक्षा शोध परंपराओं के माध्यम से ले जाएँ।

जो काम नहीं करता

समग्र सटीकता के दावे। −0.077 की समग्र समता एक समूह के विरुद्ध पक्षपाती 50 में से 36 कौशलों के साथ सह-अस्तित्व में थी; एक संतुलित दिखने वाला मॉडल असंतुलित विभाजन पर संघर्षरत विद्यार्थियों को लगभग पूरी तरह चूक गया (Hooshyar et al., 2026 ने 80% परिशुद्धता पर कम प्रदर्शन करने वालों के लिए 8%, 12% और 16% रिकॉल पाया)। औसत ऐसी केंद्रित हानि के साथ संगत होते हैं।

पश्चात समता-सुधार। प्रारंभिक-चेतावनी अध्ययन में हर हस्तक्षेप ने या तो त्रुटियाँ पुनर्वितरित कीं, या पहले से लाभान्वित लोगों को सुधारा, या किसी समूह को कम दृश्यमान बनाकर समता पाई। पाइपलाइन ठीक करना आउटपुट पर पैबंद लगाने से बेहतर है।

एक बार किया गया एक शमन। पूर्वाग्रह डेटा, प्रॉम्प्ट, अंकन और तैनाती के माध्यम से फिर प्रवेश करता है; शोध पूरक रणनीतियाँ दिखाता है (निष्पक्ष प्रशिक्षण-उद्देश्य, प्रॉम्प्ट डिज़ाइन, बोली-अपरिवर्तनीयता, समझ को भाषा से अलग करने वाला अंकन, व्याख्येयता, मानव निगरानी) ठीक इसलिए कि कोई एक उपाय पूरी पाइपलाइन को कवर नहीं करता (पूर्वाग्रह शमन)।

आगे कहाँ जाएँ

पूर्वाग्रह शमन पेज पूरी पाइपलाइन में स्रोत और शमन-दृष्टिकोण सूचीबद्ध करता है; समानता पहुँच, प्रतिनिधित्व और परिणाम के आयामों को हर एक के साक्ष्य के साथ कवर करता है; स्वचालन पूर्वाग्रह पाठक-पक्ष की विफलता कवर करता है — किसी पूर्वाग्रही या केवल गलत सिफ़ारिश पर अत्यधिक भरोसा; और अध्येताओं के वर्गों में असमान प्रभाव उन अध्ययनों को इकट्ठा करता है जो बताते हैं कि एक ही उपकरण अलग-अलग समूहों पर अलग कैसे पड़ता है।