Bagaimana Bias dan Ketidakadilan AI Muncul dalam Pendidikan, dan Apa yang Dapat Kita Lakukan?

Terjemahan mesin otomatis halaman berbahasa Inggris ini, yang belum ditinjau oleh penutur asli.

Bias dan ketidakadilan dalam AI pendidikan bukan satu masalah. Penelitian dalam basis pengetahuan ini mendokumentasikan bias yang masuk pada hampir setiap tahap kehidupan sebuah sistem — data pelatihan, perilaku model, prompt, penskoran, umpan balik, keputusan alokasi, dan infrastruktur di bawahnya — dan dampaknya berbeda bagi pengajar, pengembang, peneliti, dan administrator. Pola di seluruhnya cukup konsisten untuk dinyatakan secara langsung: mintalah angka per subkelompok, bukan rata-rata; definisikan "tidak beruntung" berdasarkan hasil, bukan berdasarkan ukuran kelompok; dan perlakukan keadilan sebagai sesuatu yang Anda rancang dan audit, bukan sesuatu yang Anda tambalkan setelahnya.

Di mana bias dan ketidakadilan muncul

Penskoran dan penilaian. Penskoran AI dapat menghukum bahasa yang digunakan siswa alih-alih pemahaman yang diungkapkannya: penskoran fisika secara sistematis meremehkan siswa yang penjelasannya kurang lancar, menghukum penutur non-asli dan penulis yang kurang percaya diri atas apa yang mereka ketahui (bias bahasa dalam penskoran otomatis). Penandaan otomatis juga memampatkan ke arah tengah distribusi, paling banyak mengekspos siswa terkuat dan terlemah, dan ketidaksepakatannya dengan penanda manusia bervariasi menurut tingkat pencapaian dan fitur bahasa permukaan seperti rentang kosakata (OpRaise, 2026). Untuk gambaran penilaian yang lengkap, lihat FAQ keadilan penilaian.

Tutoring, umpan balik, dan sistem adaptif. Model internal tutor adaptif dapat merugikan seluruh kelompok secara tak terlihat: audit keadilan penelusuran pengetahuan Bayesian atas log MATHia dari 8.549 siswa selama dua tahun ajaran menemukan paritas statistik agregat sebesar −0,077 yang menyembunyikan 36 dari 50 keterampilan yang bias terhadap pembaca awal, dengan bias tingkat keterampilan sebesar −0,262 — tutor itu tidak memiliki komponen keterampilan membaca, sehingga siswa yang membaca kurang lancar kehilangan pijakan dalam matematika (Stinar dkk., 2026). Alat umpan balik memiliki kemiringan yang terdokumentasi sendiri: empat LLM yang banyak digunakan menggeser umpan balik menulis dengan cara yang selaras stereotip ketika diberi identitas siswa — lebih banyak pujian, lebih sedikit kritik, asumsi kemampuan terbatas — bahkan untuk esai yang identik (Tan dkk., 2026). Tutor LLM juga bervariasi menurut label demografis pembelajar: dalam EduFair-Bench, lonjakan nada korektif melebihi 0,10 untuk setiap model dalam kimia dan fisika, dengan perancah langkah berkorelasi hingga |r| = 0,144 dengan kondisi demografis dalam matematika, dan nadanya mengikuti label alih-alih kualitas penalaran (EduFair-Bench). Bahkan konteks demografis yang hadir secara tak terlihat dalam riwayat percakapan menggeser keluaran: pengondisian implisit menggelembungkan skor esai otomatis hingga 1,57 poin untuk satu model karena konteksnya, bukan atribut yang dinyatakan, yang membawa sinyal itu (Rooein, Benedetto dan Hovy, 2026).

Dasbor dan peringatan dini. McConvey dkk. (2026) menguji tekanan enam intervensi keadilan pasca-hoc pada sistem peringatan dini yang direplikasi dan dibangun dari 168.550 catatan siswa: tidak ada yang memberikan perbaikan yang konsisten. Disparitas didistribusikan ulang, bukan dikurangi; dua metode menggunakan ukuran kelompok untuk mendefinisikan ketidakberuntungan dan mengarahkan seluruh 706 koreksi ke siswa internasional, yang sudah memiliki tingkat keberhasilan prediksi lebih tinggi (0,916 vs 0,756); dan satu metode memenuhi target kesempatan setara gender dengan mendorong tingkat positif palsu perempuan dari 0,561 menjadi 0,837. Siswa yang dikolapskan ke "Gender Tidak Diketahui" memiliki tingkat positif sejati terendah di bawah setiap metode.

Keluaran generatif: teks, gambar, dan avatar. Model mereproduksi norma dominan kecuali diperiksa secara eksplisit. Tinjauan sistematis atas 31 studi tentang alat teks-ke-gambar dalam pendidikan menemukan gambar secara konsisten memusatkan sosok kulit putih, laki-laki, Barat, kurus, dan non-disabel, dengan keragaman usia, tubuh, dan kemampuan sebagian besar absen (Alon dkk., 2026). Asisten pembentukan tim mengarahkan siswa ke pengalaman yang berbeda: tiga LLM yang menempatkan 11.200 penugasan teknik perangkat lunak mengirim laki-laki setidaknya 80% lebih jarang daripada perempuan ke Desain Antarmuka alih-alih Pengembangan Inti, dan kebangsaan menggeser penempatan secara independen dari prestasi (Entezami dkk., 2026). Bahkan isyarat identitas avatar mengubah kepercayaan: avatar kulit putih dinilai lebih kredibel dan kompeten dalam dua eksperimen (N = 396), sementara avatar perempuan kulit hitam yang lebih tua dihukum, dengan efeknya diperbesar dalam tugas STEM (Anthis dan Kyriakidou-Zacharoudiou, 2026). Alat menulis dapat memindahkan bias ke dalam karya siswa sendiri: prompt yang bias gender menghasilkan esai yang lebih stereotipikal gender, sehingga bias alat itu menjadi keluaran pembelajar (transfer bias gender dalam penulisan berbantuan LLM).

Data, label, dan infrastruktur. Bias hadir sebelum model mana pun dilatih. Alat deteksi nama siap pakai melewatkan nama Afrika pada recall 0,7647 dan nama Asia pada 0,8640 dibandingkan 0,9024 untuk nama Eropa dan 0,9091 untuk nama Amerika, celah yang dihilangkan oleh model yang disetel halus (Ji dkk., 2025). Korpus pelatihan dan tokenisasi secara struktural merugikan penutur bahasa yang kurang terwakili (Structural Silence), profil pembelajar yang dihasilkan LLM membawa prior regional dan gender yang merambat ke hilir (López-Pernas dkk., 2026), dan label kebenaran dasar di balik model layak mendapat pengawasan yang sama seperti modelnya sendiri (keandalan kebenaran dasar).

Alat deteksi paling menghantam penulis multibahasa. Karena detektor mengklasifikasikan berdasarkan keterprediksian tekstual, perplexity rendah dan kepadatan formulaik tulisan bahasa tambahan memicu tanda "AI" palsu: studi terdokumentasi salah mengklasifikasikan sebagian besar esai TOEFL otentik oleh penutur non-asli (Angelier, 2026), dan menyunting makalah non-asli menggeser putusan ke dua arah — 10,7 poin lebih kecil kemungkinannya ditandai di bawah satu detektor, 5,8 poin lebih besar kemungkinannya di bawah detektor lain (Park, Jeong dan Kim, 2026).

Akses dan kualitas alat juga merupakan isu ekuitas. Kesenjangan digital bersifat mendasar (akses digital), dan kesenjangan kualitas memperburuknya: tingkat gratis model yang sama tidak akurat dalam 49 dari 150 respons (32,7%) dibandingkan 18 dari 150 (12%) untuk tingkat premium, membuat guru menyebutnya "nyaris tidak berguna untuk matematika" (Canonigo, 2026). Fakultas sangat mengharapkan AI generatif memperlebar ketidaksetaraan — 81% dari 1.057 fakultas yang disurvei mengatakan demikian, 58% mengatakan sangat (Watson dan Rainie, 2026). Dan manfaat tutoring AI tidak otomatis terdistribusi: perolehan terkonsentrasi ketika alokasi mengikuti kebutuhan, seperti ketika tutoring manusia proaktif yang diarahkan pada siswa paling jauh di bawah ambang menghasilkan pertumbuhan yang sedikit lebih tinggi (75%, p = 0,065) tepat pada kelompok itu (Gurung dkk., 2026), atau ketika materi belajar AI yang diverifikasi ahli memindahkan bagian terbesar dari perolehan 2,34 poin ke kuintil terbawah (Dang dan Nguyen, 2026).

Apa yang harus dilakukan — menurut peran Anda

Jika Anda seorang pengajar: tanyakan kepada alat mana pun yang Anda adopsi berapa tingkat kesalahannya untuk subkelompok yang benar-benar Anda ajar, bukan hanya akurasi keseluruhannya. Periksa karya penulis multibahasa dengan cermat sebelum menerima putusan detektor — alat itu salah mengklasifikasikan tulisan bahasa tambahan. Gunakan prompt netral ketika Anda menghasilkan materi pengajaran (prompt netral sebagian besar menghindari pemicu bahasa yang terdiferensiasi gender), dan bandingkan keluaran AI dengan standar Anda sendiri alih-alih memperlakukannya sebagai otoritatif (Bagaimana Cara Mengajari Siswa Memverifikasi Keluaran AI?). Untuk penilaian, pertahankan manusia dalam lingkar proses pada kasus batas.

Jika Anda seorang pengembang perangkat lunak: audit lintas kondisi identitas — bahasa, gender, budaya, disabilitas — menggunakan input yang hanya memvariasikan konteks siswa (hasil sinyal implisit menunjukkan atribut yang dinyatakan bukan satu-satunya saluran). Uji pada subjek yang disisihkan, bukan hanya butir yang disisihkan: perolehan keadilan yang bertahan pada pemisahan validasi menguap untuk model perhatian siswa nyata dalam 4 dari 10 percobaan (Fragkiadakis dkk., 2026). Utamakan mitigasi di dalam model — penyetelan halus, pelatihan invarian dialek, tujuan yang sadar keadilan seperti GroupDRO — daripada penyesuaian keluaran pasca-hoc (pendekatan mitigasi bias). Jangan pernah menyimpulkan ketidakberuntungan dari ukuran kelompok, dan laporkan metrik subkelompok termasuk kelompok yang harus Anda kecualikan karena sampelnya terlalu kecil (Ye dkk., 2026 mengecualikan pembelajar bahasa Inggris dan siswa IEP justru karena alasan ini — katakan demikian ketika Anda melakukannya).

Jika Anda seorang peneliti: laporkan metrik keadilan, titik — tinjauan lingkup atas 421 studi yang menerapkan NLP pada evaluasi siswa menemukan metrik keadilan formal hanya pada 8 studi (1,9%) (Eicher dan da Silva, 2026), dan dari 12 studi penskoran AI versus manusia, sepuluh bungkam tentang bias demografis, linguistik, atau sosial (Xu, Lu dan Abdi, 2026). Uji lintas dimensi demografis, bukan hanya gender; laporkan pengecualian kelompok kecil; dan evaluasi ekuitas bersama akurasi, bukan sebagai renungan belakangan. Ketika Anda mengaudit model sebagai tutor sejarah atau tutor dalam konteks berbeda, gunakan pengujian kondisi identitas sebelum menarik kesimpulan (filter paternalistik adalah contoh peringatannya).

Jika Anda seorang administrator: jadikan pelaporan subkelompok dan audit-sebelum-adopsi sebagai syarat kontrak ketika Anda mengadakan alat prediktif atau generatif — penulis studi peringatan dini membingkai tata kelola pengadaan, bukan optimalisasi metrik, sebagai pengaman utama (McConvey dkk., 2026). Waspadai kesenjangan tingkat kualitas yang meninggalkan kelas dengan sumber daya kurang memiliki kinerja alat yang jauh lebih buruk, dan pasangkan akses dengan dukungan dan pelatihan alih-alih hanya menerbitkan lisensi. Gunakan tuas dalam kebijakan AI institusional untuk mewajibkan pengungkapan dan pelaporan ekuitas, dan arahkan diskusi R&D serta pengawasan melalui konvensi penelitian ekuitas, etika, dan keselamatan.

Apa yang tidak berhasil

Klaim akurasi keseluruhan. Paritas agregat sebesar −0,077 hidup berdampingan dengan 36 dari 50 keterampilan yang bias terhadap suatu kelompok; model yang tampak seimbang hampir sepenuhnya melewatkan siswa yang kesulitan pada pemisahan yang tidak seimbang (Hooshyar dkk., 2026 menemukan recall 8%, 12%, dan 16% untuk siswa berkinerja rendah pada presisi 80%). Rata-rata kompatibel dengan bahaya yang terkonsentrasi.

Perbaikan paritas pasca-hoc. Setiap intervensi dalam studi peringatan dini entah mendistribusikan ulang kesalahan, mengoreksi kelompok yang sudah diuntungkan, atau mencapai paritas dengan membuat suatu kelompok kurang terlihat. Memperbaiki pipa lebih baik daripada menambal keluarannya.

Satu mitigasi yang dilakukan sekali. Bias masuk kembali melalui data, prompt, penskoran, dan penerapan; penelitian menunjukkan strategi yang saling melengkapi (tujuan pelatihan yang adil, rancangan prompt, invariansi dialek, penskoran yang memisahkan pemahaman dari bahasa, keterjelasan, pengawasan manusia) justru karena tidak ada satu perbaikan pun yang mencakup seluruh pipa (Mitigasi Bias).

Ke mana menggali lebih dalam

Halaman Mitigasi Bias mengatalogkan sumber dan pendekatan mitigasi di seluruh pipa; Keadilan mencakup dimensi akses, representasi, dan hasil dengan bukti untuk masing-masingnya; Bias Otomasi mencakup kegagalan di sisi pembaca — terlalu memercayai rekomendasi yang bias atau sekadar salah; dan Efek Diferensial Antar Kelompok Siswa mengumpulkan studi yang melacak bagaimana alat yang sama mendarat secara berbeda pada kelompok yang berbeda.