Önyargı Azaltma

Bu İngilizce sayfanın bir ana dili konuşanı tarafından gözden geçirilmemiş otomatik çevirisidir.

Eğitimde önyargı azaltma — YZ öğretmenlerinde, puanlayıcılarda, öneri sistemlerinde ve eğitim sistemlerinde haksız ve kimliğe göre örüntülenen davranışın belirlenmesi, ölçülmesi ve azaltılması. Önyargı YZ hattının her aşamasında girebilir — eğitim verisi, model davranışı, istek metinleri, puanlama ve konuşlandırma — ve dil, cinsiyet, ırk, kültür veya diğer kimlik niteliklerine göre öğrenenlerin farklı muamele görmesi biçiminde ortaya çıkar. Azaltma; veri seçkisi, önyargı giderimi algoritmaları, istek metni tasarımı, adil puanlama yöntemleri, açıklanabilirlik ve değerlendirmeyi kapsar. Eşitlik’in teknik karşılığıdır ve eğitimde yapay zekâda Etik’in temel bir kaygısıdır.

Düşünülmesi Gerekenler

• Önyargı, YZ hattının her aşamasında girebilir — eğitim verisi, model davranışı, istek metinleri, puanlama ve konuşlandırma. Okumadan önce: o zincirde önyargının nerede yaşadığını bekliyordunuz? Bu sayfa neredeyse her yerde görünebileceğini öne sürüyor. Düşünmediğiniz bir yer neresi?
• Araştırma, YZ’nin fizik puanlamasının metin temelli açıklamaları dilbilgisel kalitesi daha düşük olan öğrencilerin kavramsal anlayışını sistematik biçimde olduğundan düşük değerlendirdiğini gösteriyor — YZ anlayışı değil dili puanlıyor. İnsan puanlayıcılarla genel olarak iyi uyum sağlayan bir sistem, neden ana dili konuşanı olmayan veya daha az akıcı yazanları istikrarlı biçimde cezalandırmaya devam eder?
• Bir çalışma, cinsiyete dayalı önyargılı bir istek metninin öğrenci kompozisyonlarında daha geniş bir “etkenlik açığı” ve daha fazla cinsiyet stereotipi içerik görünmesine yol açtığını buldu — önyargı araçtan öğrenenin kendi çalışmasına aktarıldı. Bu durum, önyargının yalnızca haksız bir puan değil aynı zamanda öğrencilerin ne ürettiğini ve kendilerini kim olarak gördüğünü yeniden şekillendirebilen bir güç olması hakkında ne söylüyor?
• Başka bir çalışma, LLM’lerin öğrenci nitelikleriyle kişiselleştirildiğinde geri bildirimi stereotiple uyumlu biçimde değiştirdiğini gösterdi — özdeş kompozisyonlarda bile “işaretlenmiş” öğrenciler için övgüyü aşırı kullanmak ve eleştiriyi esirgemek. “Kibar” biçimde yanlı bir geri bildirim, tespit edilmesi daha zor olduğu için, açıkça yanlış bir puandan neden daha zararlı olabilir?
• Azaltma; veri seçkisi, önyargı giderimi algoritmaları, tarafsız istek metni tasarımı, adil puanlama yöntemleri, açıklanabilirlik ve insan gözetimini kapsar. Güvendiğiniz bir YZ sisteminde en büyük farkı yaratacağını düşündüğünüz tek azaltma kolu hangisi ve işe yarayıp yaramadığını bilmek için neyi denetlemeniz gerekir?
• Tarafsız bir istek metni, cinsiyete göre farklılaşan dili oluşturmayı büyük ölçüde önler — bu da istek metni tasarımının pratik bir azaltma yolu olduğunu düşündürür. Ancak önyargı veri, puanlama veya konuşlandırma yoluyla yeniden girebiliyorsa, yalnızca istek metnini düzeltmek neden eksik bir yanıt olabilir?

Giriş

Önyargı azaltma önemlidir, çünkü eğitimde yapay zeka tarafsız değildir: baskın dil ve kültür verisi üzerinde eğitilmiş sistemler, ana dili konuşanı olmayan yazarları cezalandıran YZ temelli puanlamadan farklı gruplara farklı yanıt veren LLM öğretmenlerine kadar marjinalleştirilmiş öğrenenleri sistematik biçimde dezavantajlı konuma getirebilir. Önyargı, Otomatik Puanlama’da, Otomatik Kompozisyon Puanlama’de, Bilgi İzleme’de, öneri sistemlerinde ve konuşma tabanlı YZ öğretmenlerinde görülen yatay bir kaygıdır.

Önyargı kaynakları

Bilgi tabanının araştırması, önyargının hattın birden fazla noktasında girdiğini belgeler:

• Dil ve puanlama önyargısı: YZ temelli fizik puanlaması, metin temelli açıklamaları dilbilgisel kalitesi daha düşük olan öğrencilerin kavramsal anlayışını sistematik biçimde olduğundan düşük değerlendirir — YZ anlayışı değil dili puanlar ve ana dili konuşanı olmayan veya daha az akıcı yazanları cezalandırır. Bu, Otomatik Puanlama’da doğrudan bir geçerlilik ve adillik başarısızlığıdır.

• LLM destekli yazmada cinsiyet önyargısı aktarımı: Kontamine İşbirliği, öğrenciler cinsiyete dayalı önyargılı bir LLM istek metniyle yazdığında kompozisyonlarının belirgin biçimde daha geniş bir etkenlik açığı ve daha fazla cinsiyet stereotipi meslek önerisi gösterdiğini ortaya koyar (N=123); önyargı aktarımı asimetriktir ve kadın hedefli kompozisyonlarda etkenliği baskılar. Bir doğrulama çalışması (N=1.600 LLM kompozisyonu, R²=.399), cinsiyete dayalı önyargılı bir istek metninin cinsiyete göre farklılaşan dili oluşturduğunu doğrular.

• Farklı retler ve epistemik adaletsizlik: Ataerkil Süzgeç, dört LLM’yi tarih öğretmeni olarak denetler (1.800 yanıt) ve bir “ataerkil süzgeç” ortaya çıkarır: modeller farklı öğrenciler için hassas içeriği farklı biçimde reddeder, yumuşatır veya yeniden çerçeveler — doğrudan eşitlik çıkarımları olan bir epistemik adaletsizlik.

• Öğrenme analitiğinde seçki önyargısı: Önyargısı giderilmiş bilgi izleme, rastgele olmayan alıştırma önerilerinden doğan seçki önyargısını ele alır: gözlemlenen kayıtlar üzerinde standart ampirik riskle eğitim, ustalık tahminlerinde önyargıya yol açar ve uyarlanabilir öneri döngülerinde hataları büyütür.

• Veri ve açıklama önyargısı: veri açıklamaları ve zemin gerçeği güvenilirliği araştırmaları, YZ modellerinin dayandığı etiketlerin ve puanlayıcılar arası güvenilirliğin önyargı taşıdığını inceleyerek κ > 0,8 değerini ikili bir onay damgası olarak ele almanın karşısında bir argüman sunar.

• Marjinalleştirilmiş bilgiler: Üretici YZ ve azınlıkta kalmış bilgiler, eğitim verisi ve model davranışının baskın olmayan bilgi sistemlerini ve engellilik bakış açılarını nasıl marjinalleştirdiğini belgeler.

• Stereotiple uyumlu otomatik geri bildirim (İşaretlenmiş Pedagojiler): Tan vd. (2026), yaygın kullanılan dört LLM’nin, geri bildirim öğrenci nitelikleriyle — ırk, etnik köken, ELL belirlemesi, öğrenme güçlüğü, başarı veya motivasyon — kişiselleştirildiğinde yazma geri bildirimini stereotiple uyumlu biçimde sistematik olarak değiştirdiğini gösterirler; özdeş kompozisyonlarda bile işaretlenmiş öğrenciler için olumlu geri bildirim önyargısı ve geri bildirim esirgeme önyargısı üretirler (övgünün aşırı kullanımı, daha az özsel eleştiri, sınırlı yetenek varsayımları). “Marked Words” yoğunlaşma ölçütü, otomatik geri bildirimdeki bu tür önyargıları denetlemeye yönelik somut bir yöntem sunar.

• Metinden görsele araçlarda görsel önyargı: Alon, Hadar Shoval ve Levkovich (2026), YZ tarafından üretilen metinden görsele dönüştürmenin eğitimsel kullanımlarındaki önyargı ve temsili sistematik biçimde inceleyerek 2023–2025 yıllarına ait 31 hakemli dergi çalışmasını gözden geçirir. Altı bölümlü bir analitik çerçeve (cinsiyet; ırk, etnik köken ve SES; kültür ve din; yaş; beden ve (en)gellilik; içerik) kullanarak önyargılı temsilin yaygın olduğunu bulurlar — görseller sık sık beyaz, erkek, Batılı, zayıf ve engelli olmayan figürleri merkeze alırken yaş, beden ve yetenekle ilgili çeşitlilik büyük ölçüde göz ardı edilmiştir. Çalışmaların çoğu görsel denetimlerine ve nitel yöntemlere dayanmış; az sayıda deneysel veya müdahale temelli tasarım bulunmuş ve bu durum, eğitim araştırmasının görsel önyargıyı nasıl ölçtüğüne ve yanıtladığına dair önemli kör noktaları ortaya koymuştur.

• Avatar kimliği ipuçları çevrimdışı önyargıyı yeniden üretir. İki deney boyunca (N = 396), beyaz avatarlar — ve STEM bağlamlarında Asyalı erkek avatarlar — daha inandırıcı ve yetkin bulunurken yaşlı siyahi kadın avatarlar cezalandırıldı; STEM ve prosedürel görevler önyargıyı yükseltirken yansıtıcı ve kişilerarası görevler onu azalttı (Anthis & Kyriakidou-Zacharoudiou (2026)).

• Ayrımcılık yapmama temel bir etik değer olarak. Agarwal vd. (2026), 25 makalenin bir sistematik derlemesi olarak, ayrımcılık yapmamayı (önyargı/ayrımcılık/çeşitlilik tanımlarını kullanan tanımlar), veri yönetişimi, insan gözetimi, iyi niyet, açıklanabilirlik ve eğitim uygunluğuyla birlikte eğitimde yapay zeka için altı temel etik değerden biri olarak belirler. Derleme, değerlerin sıkı biçimde birbiriyle bağlı olduğunu ve çatışabileceğini — örneğin ayrımcılık yapmama ile veri yönetişimi arasında — ve bu durumun etik ikilemler ürettiğini, ayrıca ayrımcılık yapmama konusunda hiçbir normun son kullanıcıları doğrudan hedef almadığını ve bunun öğrenenleri etik literatürde büyük ölçüde pasif bıraktığını not eder.

• YZ destekli takım oluşturmada paylaştırma önyargısı. Entezami vd. (2026), önyargının puanlama ve geri bildirim dışındaki bir görev sınıfına girdiğini gösterir: üç LLM, 28 öğrencilik yazılım mühendisliği sınıflarını dört takıma atarken erkekleri Arayüz Tasarımı yerine Çekirdek Geliştirme’ye yönlendirmeyi kadınlardan en az yüzde 80 daha az sıklıkta yaptı (GPT-5.2 OR < 0,01) ve uygunluktan bağımsız olarak uyruk yerleşimleri değiştirdi. Becerilerin sağlanması bunu azalttı ama ortadan kaldırmadı — beceri temelli atamaların yüzde 99,2’si iki zemin gerçeği takımından biriyle eşleşti, yine de cinsiyet eşit biçimde geçerli seçenekler arasında karar verdi (OR 2,53 GPT-4.1, 2,81 GPT-5.2, 1,43 DeepSeek) — ve paralel görsel üretimi, tek kişilik görselleri erkek ve açık tenli yönde çarpıttı (cinsiyet V = 0,64 ve 0,65; ten tonu V = 0,57 ve 0,61), çok kişilik görseller ise nispeten dengeli kaldı.

Azaltma yaklaşımları

Bilgi tabanının araştırması birkaç birbirini tamamlayan stratejiyi gözler:

• Adillik duyarlı modelleme: Hibrit HKG-GRU çerçevesi, açıklanabilirlik ve karşı-olgusal kararlılıkla birlikte adillik için Group Distributionally Robust Optimization (GroupDRO) yöntemini bütünleştirir; Moodle kayıtları üzerinde (152 öğrenci, ~150k etkileşim) değerlendirilir. Öneri sistemlerinin yalnızca doğru değil aynı zamanda adil ve şeffaf olacak biçimde eğitilebileceğini gösterir.
• Önyargı giderimi tahminleyicileri: Temporal Smoothness Doubly Robust (TSDR) öğrenmesi, eğilim modelini bir hata-üzerleme modeliyle birleştirerek — ikisinden biri doğruysa yansızlığı koruyarak — bilgi izleme ustalık tahminlerinden seçki önyargısını ortadan kaldırır.
• İstek metni düzeyinde azaltma: cinsiyet önyargısı çalışması, tarafsız bir istek metninin cinsiyete göre farklılaşan dili büyük ölçüde oluşturmaktan kaçındığını gösterir; böylece istek metni tasarımı pratik bir azaltma koludur.
• Lehçeye değişmez eğitim: Fang ve Liu (2026), lehçeye değişmezliği sonradan yamalamaya tercih etmenin üstün olduğunu gösterir: biçim aktarımı karşıtlık teriminin düşürülmesi karşı-olgusal çevirme oranını neredeyse üçe katladı (yüzde 4,3’ten yüzde 11,8’e) ve standart olmayan lehçede yanlış negatif açığını on puan genişletti, oysa yalnızca 0,8 Makro-F1’e mal oldu ve African American Vernacular English yanlış negatiflerini 18,4 puan azalttı.
• Doğrulanmış, dilden bağımsız puanlama: puanlama önyargısını ele almak, kavramsal anlayışı dilbilgisel kaliteden ayıran bir puanlama ve puanların dil önyargısı yönünden denetlenmesini gerektirir.
• Açıklanabilirlik: Eğitimde XAI, bir sistemin belirli bir puanı veya öneriyi neden ürettiğine ilişkin şeffaflık sağlayarak önyargılı davranışın saptanmasını ve düzeltilmesini olanaklı kılar ve Güven’ı destekler.
• Hattı boyunca denetim: persona-becerileri denetimi ve ataerkil süzgeç çalışmasına benzer sistematik denetimler, modellerin konuşlandırmadan önce kimlik koşulları boyunca denetlenmesinin değerini gösterir.
• Adillik ölçümü, analizin ölçeklendiği yerlerde büyük ölçüde yoktur. Öğretimin öğrenci değerlendirmesinde NLP uygulayan 421 çalışmanın PRISMA-ScR kapsam derlemesi, yalnızca 8 çalışmada (yüzde 1,9) biçimsel bir adillik ölçütü, 18 çalışmada kurumsal kullanım riski bulurken; çalışma sınırlamaları yüzde 70,5’te ve gizlilik korumaları yüzde 42,3’te görüldü; yazarlar bu eş zamanlı varlığı, LLM benimsemesinin doğrulama veya sorumlu kullanım bildiriminde orantılı kazanımlar sağlamadan teknik repertuarı genişlettiği biçiminde okurlar (Eicher & da Silva (2026)).
• Grup büyüklüğü dezavantajın vekili değildir: altı sonradan uygulanan adillik yönteminden ikisi, dezavantajı tanımlarken grup büyüklüğünü kullandıkları için düzelticileri hâlihazırda avantajlı gruplara yönlendirdi; dezavantajın gözlenen eşitsizliğe göre yeniden atanması yöntemlerden birini başka yöne çevirdi, diğeri ise hiçbir tahmini çevirmeden bıraktı — bu, sonradan uygulanan azaltmanın iddia edebileceği konuda bir sınırlılıktır (McConvey vd. (2026)).

YZ hattı boyunca azaltma

Önyargı azaltma tek bir düzeltme değil, hattı kapsayan süregelen bir süreçtir:

1. Veri seçkisi — eğitim verisini çeşitlendirmek ve etiketleri kimliğe dayalı boşluklar ile haksız açıklamalar açısından denetlemek.
2. Model eğitimi — önyargı giderimi ve adillik duyarlı amaçlar uygulamak (örneğin GroupDRO, iki yönlü sağlam tahminleyiciler).
3. İstek metni ve sistem tasarımı — öğrenen kimliğine farklı biçimde yanıt vermeyen tarafsız istek metinleri ve sistemler tasarlamak.
4. Puanlama ve değerlendirme — otomatik puanlamanın anlayışı ölçtüğünü, dili veya demografik vekilleri ölçmediğini doğrulamak.
5. Değerlendirme ve denetim — modelleri kimlik koşulları (dil, cinsiyet, kültür) boyunca denetlemek ve önyargıyı gün yüzüne çıkarmak için açıklanabilirlik gerektirmek.
6. İnsan gözetimi — özellikle düşük güvenli veya yüksek riskli durumlarda insan-çalışmalı incelemeyi sürdürmek.

İlgili kavramlarla ilişki

Önyargı azaltma, Eşitlik’in işlevsel hale getirildiği teknik mekanizmadır ve Etik ile sorumlu YZ tasarımının temel bir gereğidir. AIEd Değerlendirmesi ile (değerlendirme ölçütü olarak önyargı), Eğitimde Ölçme ve Değerlendirme Geçerliliği ile (puanlamada adillik) ve Gizlilik ile (ilişkili bir sorumlu-YZ kaygısı olarak) bağlantılıdır. Ayrıca Aşırı Bağımlılık ile (önyargılı sistemler aşırı güvenildiğinde özellikle zararlı olduğundan) ve YZ Okuryazarlığı ile (kullanıcıların önyargılı YZ’yi tanımasına ve sorgulamasına yardımcı olmak) bağlantılıdır.

Eğitimde yapay zeka için çıkarımlar

• Tüm hattı denetleyin: önyargı veri, model, istek metni, puanlama ve konuşlandırma aşamalarında girebilir — hepsinde azaltma yapın.
• Kimlik koşulları boyunca test edin: YZ öğretmenlerini, puanlayıcıları ve öneri sistemlerini dil, cinsiyet, kültür ve engellilik boyunca farklı davranış açısından değerlendirin.
• Puanlamada anlayışı dilden ayırın: otomatik puanlama, ana dili konuşanı olmayan veya daha az akıcı yazanları gösterdikleri kavramsal anlayış nedeniyle cezalandırmamalıdır.
• Sistemleri açıklanabilir kılın: YZ kararlarına ilişkin şeffaflık, önyargının saptanması ve düzeltilmesi için esastır.
• Teknik ve insan azaltmasını birleştirin: önyargı giderimi algoritmalarını insan-çalışmalı gözetimle eşleştirin, özellikle yüksek riskli veya düşük güvenli durumlarda.

Bağlı kavramlar

• Öğrenen Grupları Arasındaki Farklı Etkiler
• Açıklanabilir YZ
• Güvenlik Rayları
• Eşitlik
• Etik
• AIEd Değerlendirmesi
• Otomatik Değerlendirme
• Otomatik Kompozisyon Puanlama
• Eğitimde Ölçme
• Bilgi İzleme
• Büyük Dil Modelleri (LLM)
• Üretici YZ
• Gizlilik
• İnsan-Denetiminde Yapay Zeka
• Güven
• Bilişsel Yükü Dışarı Aktarma
• YZ Okuryazarlığı
• Öğrenci Deneyimi
• Eğitimde Yapay Zeka
• Öneri Sistemleri ve Öğrenme Yolları

Bağlı makaleler

• Face value: How avatar identity shapes epistemic trust in AI-mediated learning

• Neuro-symbolic pedagogical alignment (NSPA) for long-horizon classroom discourse analysis: Mitigating dialect bias via counterfactual preference optimization — Sinir-sembolik pedagojik hizalama (NSPA)

• AI-based scoring systematically underestimates conceptual understanding of linguistically weak students' explanations in physics — YZ temelli puanlamada dil önyargısı

• Contaminated Collaboration: Measuring Gender Bias Transfer in LLM-Assisted Student Writing — LLM destekli yazmada cinsiyet önyargısı aktarımı

• The Paternalistic Filter: Epistemic Injustice and Differential Refusal in LLM-Mediated History Education for Marginalized Romanian Students — Ataerkil süzgeç ve farklı retler

• Fair and explainable educational recommendations with a hybrid Graph-GRU framework — Adil ve açıklanabilir eğitim önerileri

• Temporal Smoothness Doubly Robust Learning for Debiased Knowledge Tracing — Önyargısı giderilmiş bilgi izleme

• Modernizing Ground Truth: Four Shifts Toward Improving Reliability and Validity in AI in Education — YZ güvenilirliği için zemin gerçeğinin modernleştirilmesi

• Data Annotations as Pedagogical Hints: From Subjective Labels to Critical Thinking — Pedagojik ipucu olarak veri açıklamaları

• Explainable Artificial Intelligence in Education (XAI-ED) — Eğitimde açıklanabilir YZ

• When Agents Learn to Be You: Benchmarking Privacy Leakage, Impersonation Risk, and Defenses in Persona Skills — Persona-becerileri gizliliği ve önyargı denetimi

• Generative artificial intelligence and the marginalization of minoritized knowledges in higher education — Üretici YZ ve azınlıkta kalmış bilgilerin marjinalleştirilmesi

• Marked Pedagogies: Examining Linguistic Biases in Personalized Automated Writing Feedback — İşaretlenmiş Pedagojiler: otomatik yazma geri bildiriminde stereotiple uyumlu önyargılar

• Can AI deliver appropriate support for diverse student profiles? A large-scale evaluation — Can AI deliver appropriate support for diverse student profiles? A large-scale evaluation

• Bias and Representation in AI-Generated Text-to-Image in Education: A Systematic Review — Bias and representation in AI-generated text-to-image: systematic review (Alon et al. 2026)

• Identifying the ethical values and norms for artificial intelligence in education: A systematic literature review — Eğitimde yapay zeka için etik değerler ve normlar

• From Sentiment Classification to Actionable and Responsible Feedback: A Scoping Review and Evidence Map of NLP in Student Evaluation of Teaching, 2015–2026 — From Sentiment Classification to Actionable and Responsible Feedback: A Scoping Review and Evidence Map of NLP in Student Evaluation of Teaching, 2015–2026

• Generative AI May Reinforce Social Biases in Software Engineering Education — Generative AI May Reinforce Social Biases in Software Engineering Education

• Fairness Theatre: Evaluating Post-Hoc Fairness Interventions in Vendor-Controlled Early Warning Systems — Fairness Theatre: Evaluating Post-Hoc Fairness Interventions in Vendor-Controlled Early Warning Systems