تعلیم میں AI کا تعصب اور ناانصافی کیسے ظاہر ہوتی ہے، اور ہم اس کے بارے میں کیا کر سکتے ہیں؟

انگریزی صفحے کا خودکار ترجمہ، جو ابھی تک کسی مقامی بولنے والے کے ذریعے جانچا نہیں گیا۔

تعلیمی AI میں تعصب اور ناانصافی ایک ہی مسئلہ نہیں۔ اس علمی ذخیرے کی تحقیق دستاویز کرتی ہے کہ تعصب نظام کی زندگی کے تقریباً ہر مرحلے میں داخل ہوتا ہے — تربیتی ڈیٹا، ماڈل کا رویہ، پرامپٹس، اسکورنگ، فیڈبیک، تقسیم کے فیصلے، اور اُن کے نیچے کا بنیادی ڈھانچہ — اور یہ اساتذہ، ڈویلپرز، محققین اور منتظمین کو مختلف طریقوں سے متاثر کرتا ہے۔ اِس سب میں نمونہ اِتنا مستقل ہے کہ صاف کہا جا سکے: اوسط کے بجائے ذیلی گروہوں کے اعداد مانگیں؛ "پسماندہ" کی تعریف نتائج سے کریں، گروہ کے حجم سے نہیں؛ اور انصاف کو ایسی چیز سمجھیں جسے آپ ڈیزائن اور جانچتے ہیں، نہ کہ بعد میں لگائی جانے والی چیز۔

تعصب اور ناانصافی کہاں ظاہر ہوتی ہے

اسکورنگ اور جائزہ۔ AI اسکورنگ طالب علم کی سمجھ کے بجائے اُس زبان کو سزا دے سکتی ہے جس میں وہ لکھتا ہے: فزکس کی اسکورنگ اُن طلبہ کو منظم طور پر کم آنکتی ہے جن کی وضاحتیں کم روان ہوں، غیر مقامی اور کم اعتماد والے لکھنے والوں کو اُن کی دانست پر سزا دیتی ہے (خودکار اسکورنگ میں زبان کا تعصب)۔ خودکار نشاندہی بھی تقسیم کے وسط کی طرف دباتی ہے، سب سے مضبوط اور سب سے کمزور طلبہ کو سب سے زیادہ بے نقاب کرتی ہے، اور انسانی نشاندہی کرنے والوں سے اُس کا اختلاف کامیابی کی سطح اور الفاظ کے ذخیرے کی وسعت جیسی سطحی زبان کی خصوصیات کے ساتھ بدلتا ہے (OpRaise, 2026)۔ نشاندہی کی پوری تصویر کے لیے نشاندہی میں انصاف کا FAQ دیکھیں۔

ٹیوٹرنگ، فیڈبیک اور انکولی نظام۔ انکولی ٹیوٹر کا اندرونی طالب علم ماڈل پورے گروہوں کو نظر نہ آنے والے طریقے سے نقصان پہنچا سکتا ہے: MATHia کے دو تعلیمی سالوں میں 8,549 طلبہ کے لاگز کا بےزیئن نالج ٹریسنگ انصاف کا جائزہ −0.077 کی مجموعی شماریاتی برابری پایا جو 50 مہارتوں میں سے 36 میں ابھرتے پڑھنے والوں کے خلاف تعصب چھپا رہا تھا، اور مہارت کی سطح پر تعصب −0.262 تک تھا — ٹیوٹر میں پڑھنے کی مہارت کا کوئی جزو نہیں تھا، چنانچہ کم روانی سے پڑھنے والے طلبہ ریاضی میں پیچھے رہ گئے (Stinar وغیرہ، 2026)۔ فیڈبیک ٹولز کا اپنا دستاویزی جھکاؤ ہے: چار وسیع پیمانے پر استعمال ہونے والے LLM طالب علم کی شناخت دیے جانے پر تحریری فیڈبیک کو دقیانوسی تصورات کے مطابق بدلتے ہیں — زیادہ تعریف، کم تنقید، محدود صلاحیت کے مفروضے — حتیٰ کہ یکساں مضامین پر بھی (Tan وغیرہ، 2026)۔ LLM ٹیوٹر طالب علم کے آبادیاتی لیبل کے ساتھ بھی بدلتے ہیں: EduFair-Bench میں اصلاحی لہجے کے اتار چڑھاؤ کیمیا اور فزکس میں ہر ماڈل کے لیے 0.10 سے تجاوز کر گئے، ریاضی میں قدم بہ قدم سہارا آبادیاتی حالات کے ساتھ |r| = 0.144 تک متعلق رہا، اور لہجے نے استدلال کے معیار کے بجائے لیبل کی پیروی کی (EduFair-Bench)۔ گفتگو کی تاریخ میں پوشیدہ طور پر موجود آبادیاتی سیاق بھی نتائج بدلتا ہے: مضمر کنڈیشننگ نے ایک ماڈل کے لیے خودکار مضمون کے اسکور 1.57 پوائنٹس تک بڑھا دیے کیونکہ سگنل بیان کردہ خصوصیت کے بجائے سیاق نے اٹھایا تھا (Rooein، Benedetto اور Hovy، 2026)۔

ڈیش بورڈز اور ابتدائی انتباہ۔ McConvey وغیرہ (2026) نے 168,550 طالب علم ریکارڈز سے بنائے گئے نقل شدہ ابتدائی انتباہ کے نظام پر چھ بعد از وقت انصاف کی مداخلتوں کا دباؤ ٹیسٹ کیا: کسی نے بھی مستقل فائدہ نہیں دیا۔ تفاوتیں کم نہیں ہوئیں، دوبارہ تقسیم ہوئیں؛ دو طریقوں نے نقصان کی تعریف گروہ کے حجم سے کی اور تمام 706 اصلاحات بین الاقوامی طلبہ کی طرف بھیجیں، جن کی کامیابی کی پیش گوئی کی شرح پہلے ہی زیادہ تھی (0.916 بمقابلہ 0.756)؛ اور ایک طریقے نے خواتین کی جھوٹی مثبت شرح 0.561 سے 0.837 کر کے صنفی مساوی مواقع کا ہدف پورا کیا۔ ہر طریقے میں "نامعلوم جنس" میں گرنے والے طلبہ کی سچی مثبت شرح سب سے کم تھی۔

جنریٹو آؤٹ پٹ: متن، تصاویر اور اوتار۔ ماڈل غالب معیارات کو دہراتے ہیں جب تک واضح طور پر جانچا نہ جائے۔ تعلیم میں متن سے تصویر بنانے والے ٹولز کے 31 مطالعات کے منظم جائزے نے پایا کہ تصاویر مستقل طور پر سفید، مرد، مغربی، دبلے اور بغیر معذوری والی شخصیات کو مرکز میں رکھتی ہیں، جبکہ عمر، جسم اور صلاحیت کا تنوع زیادہ تر غائب تھا (Alon وغیرہ، 2026)۔ ٹیم بنانے والے معاون طلبہ کو مختلف تجربات کی طرف بھیجتے ہیں: تین LLM نے 11,200 سافٹ ویئر انجینئرنگ اسائنمنٹس رکھتے ہوئے مردوں کو خواتین کے مقابلے کم از کم 80% کم بار انٹرفیس ڈیزائن میں بھیجا بجائے بنیادی ڈویلپمنٹ کے، اور قومیت نے قابلیت سے آزادانہ جگہیں بدلیں (Entezami وغیرہ، 2026)۔ اوتار کی شناخت کے اشارے بھی اعتماد بدلتے ہیں: دو تجربات (N = 396) میں سفید اوتار زیادہ قابلِ اعتماد اور قابل سمجھے گئے، جبکہ عمر رسیدہ سیاہ فام خواتین اوتار کو نقصان پہنچا، اور STEM کاموں میں اثر مزید بڑھ گیا (Anthis اور Kyriakidou-Zacharoudiou، 2026)۔ تحریری ٹولز تعصب کو طلبہ کے اپنے کام میں منتقل کر سکتے ہیں: صنفی تعصب والا پرامپٹ زیادہ صنفی دقیانوسی مضامین پیدا کرتا ہے، چنانچہ ٹول کا تعصب طالب علم کی پیداوار بن جاتا ہے (LLM کی مدد سے لکھائی میں صنفی تعصب کی منتقلی)۔

ڈیٹا، لیبل اور بنیادی ڈھانچہ۔ تعصب کسی بھی ماڈل کی تربیت سے پہلے موجود ہوتا ہے۔ تیار نام شناخت کرنے والے ٹولز افریقی ناموں کو 0.7647 ری کال اور ایشیائی ناموں کو 0.8640 پر چھوڑ گئے، جبکہ یورپی ناموں کے لیے 0.9024 اور امریکی ناموں کے لیے 0.9091 تھا؛ یہ خلا ایک فائن ٹیونڈ ماڈل نے ختم کیا (Ji وغیرہ، 2025)۔ تربیتی ذخیرے اور ٹوکنائزیشن کم نمائندگی والی زبانوں بولنے والوں کو ساختی طور پر نقصان پہنچاتے ہیں (Structural Silence)، LLM سے بنائے گئے طالب علم پروفائلز علاقائی اور صنفی تعصبات لے کر آگے پھیلتے ہیں (López-Pernas وغیرہ، 2026)، اور ماڈلز کے پیچھے موجود سچے لیبل بھی ماڈلز جیسی جانچ کے مستحق ہیں (سچے ڈیٹا کی قابلِ اعتمادی)۔

شناخت کے ٹولز کثیر لسانی لکھنے والوں کو سب سے زیادہ مارتے ہیں۔ چونکہ ڈیٹیکٹرز متنی پیش گوئی کی بنیاد پر درجہ بندی کرتے ہیں، اضافی زبان کی تحریر کی کم پیچیدگی اور فارمولا کثافت جھوٹے "AI" جھنڈے لگاتی ہے: دستاویزی مطالعات نے غیر مقامی بولنے والوں کے اصل TOEFL مضامین کا بڑا حصہ غلط درجہ بندی کیا (Angelier، 2026)، اور غیر مقامی مقالے میں ترمیم نے فیصلے دونوں طرف بدلے — ایک ڈیٹیکٹر میں جھنڈے لگنے کا امکان 10.7 پوائنٹس کم، دوسرے میں 5.8 پوائنٹس زیادہ (Park، Jeong اور Kim، 2026)۔

رسائی اور ٹول کا معیار بھی مساوات کے مسائل ہیں۔ ڈیجیٹل تقسیم بنیادی ہے (ڈیجیٹل رسائی)، اور معیار کی تقسیمیں اُسے بڑھاتی ہیں: اسی ماڈل کی مفت سطح 150 جوابات میں سے 49 (32.7%) میں غلط تھی، جبکہ پریمیم سطح میں 150 میں سے 18 (12%)، جس کی وجہ سے اساتذہ نے اُسے "ریاضی کے لیے سرحدی طور پر بیکار" کہا (Canonigo، 2026)۔ فیکلٹی بھاری اکثریت میں توقع کرتی ہے کہ جنریٹو AI عدم مساوات بڑھائے گی — سروے میں شامل 1,057 میں سے 81% نے ایسا کہا، 58% نے کہا کہ بہت زیادہ (Watson اور Rainie، 2026)۔ اور AI ٹیوٹرنگ کے فوائد خودبخود تقسیم نہیں ہوتے: فائدے وہاں مرکوز ہوتے ہیں جہاں تقسیم ضرورت کے مطابق ہو، جیسے جب حد سے سب سے نیچے والے طلبہ کے لیے فعال انسانی ٹیوٹرنگ نے بالکل اسی گروہ میں معمولی زیادہ ترقی پیدا کی (75%, p = .065) (Gurung وغیرہ، 2026)، یا جب ماہرین سے تصدیق شدہ AI مطالعی مواد نے 2.34 نمبر کے اضافے کا سب سے بڑا حصہ نچلے کوِنٹائل کو منتقل کیا (Dang اور Nguyen، 2026)۔

اس کے بارے میں کیا کریں — اپنے کردار کے مطابق

اگر آپ استاد ہیں: جو بھی ٹول اپنائیں اُس سے پوچھیں کہ اُن ذیلی گروہوں کے لیے اُس کی غلطی کی شرح کیا تھی جنہیں آپ واقعی پڑھاتے ہیں، صرف مجموعی درستگی نہیں۔ ڈیٹیکٹر کے فیصلے قبول کرنے سے پہلے کثیر لسانی لکھنے والوں کے کام کو غور سے جانچیں — یہ ٹولز اضافی زبان کی تحریر کو غلط درجہ بندی کرتے ہیں۔ تدریسی مواد بناتے وقت غیر جانبدار پرامپٹ استعمال کریں (غیر جانبدار پرامپٹ صنفی طور پر مختلف زبان پیدا کرنے سے بڑی حد تک بچتا ہے)، اور AI کے آؤٹ پٹ کو بااختیار سمجھنے کے بجائے اپنے معیارات سے موازنہ کریں (طلبہ کو AI کی پیداوار کی تصدیق کیسے سکھائیں؟)۔ نشاندہی کے لیے سرحدی معاملات پر انسان کو چکر میں رکھیں۔

اگر آپ سافٹ ویئر ڈویلپر ہیں: شناخت کے حالات میں جانچ کریں — زبان، جنس، ثقافت، معذوری — ایسے ان پٹ استعمال کرتے ہوئے جو صرف طالب علم کا سیاق بدلیں (مضمر سگنل کا نتیجہ دکھاتا ہے کہ بیان کردہ خصوصیات واحد ذریعہ نہیں)۔ صرف الگ رکھی گئی اشیاء پر نہیں، الگ رکھے گئے مضامین پر ٹیسٹ کریں: توثیقی تقسیم پر قائم رہنے والے انصاف کے فوائد حقیقی طالب علم توجہ ماڈل کے لیے 10 میں سے 4 رنز میں غائب ہو گئے (Fragkiadakis وغیرہ، 2026)۔ بعد از وقت آؤٹ پٹ ایڈجسٹمنٹ کے بجائے ماڈل کے اندر تخفیف کو ترجیح دیں — فائن ٹیوننگ، بولی سے غیر متغیر تربیت، GroupDRO جیسے انصاف آگاہ اہداف (تعصب کم کرنے کے طریقے)۔ گروہ کے حجم سے کبھی نقصان کا اندازہ نہ لگائیں، اور ذیلی گروہ کے میٹرکس رپورٹ کریں، اُن گروہوں سمیت جو آپ کو نمونہ بہت چھوٹا ہونے کی وجہ سے خارج کرنا پڑے (Ye وغیرہ، 2026 نے بالکل اسی وجہ سے انگریزی سیکھنے والوں اور IEP طلبہ کو خارج کیا — جب ایسا کریں تو بتائیں)۔

اگر آپ محقق ہیں: انصاف کا میٹرک رپورٹ کریں، بس — طالب علم جائزوں پر NLP لاگو کرنے والے 421 مطالعات کے اسکوپنگ جائزے نے صرف 8 (1.9%) میں رسمی انصاف کا میٹرک پایا (Eicher اور da Silva، 2026)، اور AI بمقابلہ انسانی اسکورنگ کے 12 مطالعات میں سے دس آبادیاتی، لسانی یا سماجی تعصب پر خاموش تھے (Xu، Lu اور Abdi، 2026)۔ صرف جنس پر نہیں، آبادیاتی جہتوں پر ٹیسٹ کریں؛ چھوٹے گروہوں کے اخراج کی رپورٹ دیں؛ اور مساوات کو بعد کی سوچ کے بجائے درستگی کے ساتھ جانچیں۔ جب آپ ماڈلز کو تاریخ کے ٹیوٹر یا مختلف سیاق میں ٹیوٹر کے طور پر جانچیں، تو نتیجہ اخذ کرنے سے پہلے شناخت کے حالات کی جانچ استعمال کریں (پدرانہ فلٹر خبردار کرنے والی مثال ہے)۔

اگر آپ منتظم ہیں: پیش گوئی یا جنریٹو ٹولز خریدنے وقت ذیلی گروہ کی رپورٹنگ اور اپنانے سے پہلے جانچ کو معاہدے کی شرط بنائیں — ابتدائی انتباہ کے مطالعے کے مصنفین میٹرک کی بہتری کے بجائے خریداری کی حکمرانی کو بنیادی تحفظ قرار دیتے ہیں (McConvey وغیرہ، 2026)۔ معیار کی سطحوں کی اُن تقسیموں پر نظر رکھیں جو کم وسائل والی کلاسوں کو نمایاں طور پر بدتر ٹول کارکردگی کے ساتھ چھوڑ دیتی ہیں، اور رسائی کو صرف لائسنس جاری کرنے کے بجائے معاونت اور تربیت کے ساتھ جوڑیں۔ ادارتی AI پالیسی میں موجود اہم کو استعمال کریں تاکہ افشا اور مساوات کی رپورٹنگ لازم کی جائے، اور R&D اور نگرانی کی بحثیں مساوات، اخلاقیات اور تحفظ کی تحقیق کے اصولوں سے گزاریں۔

کیا کام نہیں کرتا

مجموعی درستگی کے دعوے۔ −0.077 کی مجموعی برابری 50 میں سے 36 مہارتوں کے کسی گروہ کے خلاف تعصب کے ساتھ موجود تھی؛ متوازن دکھنے والا ماڈل غیر متوازن تقسیم پر جدوجہد کرنے والے طلبہ کو تقریباً مکمل طور پر چھوڑ گیا (Hooshyar وغیرہ، 2026 نے 80% درستگی پر کم کارکردگی والوں کے لیے 8%، 12% اور 16% ری کال پائی)۔ اوسط مرکوز نقصان کے ساتھ ہم آہنگ ہوتی ہے۔

بعد از وقت برابری کی اصلاحات۔ ابتدائی انتباہ کے مطالعے میں ہر مداخلت نے یا غلطیاں دوبارہ تقسیم کیں، یا پہلے سے فائدہ اٹھانے والوں کی اصلاح کی، یا کسی گروہ کو کم نظر آنے والا بنا کر برابری حاصل کی۔ پائپ لائن ٹھیک کرنا آؤٹ پٹ کو پیوند لگانے سے بہتر ہے۔

ایک بار کی گئی ایک تخفیف۔ تعصب ڈیٹا، پرامپٹ، اسکورنگ اور تعیناتی کے ذریعے دوبارہ داخل ہوتا ہے؛ تحقیق تکمیلی حکمت عملیاں دکھاتی ہے (منصفانہ تربیتی اہداف، پرامپٹ ڈیزائن، بولی سے غیر متغیری، سمجھ کو زبان سے الگ کرنے والی اسکورنگ، وضاحت پذیری، انسانی نگرانی) بالکل اسی لیے کہ کوئی اکیلی اصلاح پوری پائپ لائن کا احاطہ نہیں کرتی (تعصب کا ازالہ)۔

مزید گہرائی میں کہاں جائیں

تعصب کا ازالہ صفحہ پوری پائپ لائن میں ذرائع اور تخفیف کے طریقے فہرست کرتا ہے؛ مساوات رسائی، نمائندگی اور نتائج کی جہتوں کو ہر ایک کے ثبوت کے ساتھ پیش کرتا ہے؛ آٹومیشن تعصب قاری کی طرف کی ناکامی — متعصب یا محض غلط تجویز پر حد سے زیادہ اعتماد — کا احاطہ کرتا ہے؛ اور طلبہ کے مختلف گروہوں میں تفریقی اثرات اُن مطالعات کو جمع کرتا ہے جو یہ دکھاتی ہیں کہ ایک ہی ٹول مختلف گروہوں پر کیسے مختلف پڑتا ہے۔