Thiên lệch và bất công của AI thể hiện thế nào trong giáo dục, và chúng ta có thể làm gì?

Bản dịch máy tự động của trang tiếng Anh này, chưa được người bản ngữ xem xét.

Thiên lệch và bất công trong AI giáo dục không phải một vấn đề duy nhất. Nghiên cứu trong cơ sở tri thức này ghi nhận thiên lệch xâm nhập vào gần như mọi giai đoạn trong vòng đời của một hệ thống — dữ liệu huấn luyện, hành vi mô hình, câu lệnh, chấm điểm, phản hồi, quyết định phân bổ và hạ tầng bên dưới chúng — và nó ảnh hưởng đến giảng viên, nhà phát triển, nhà nghiên cứu và quản trị viên theo những cách khác nhau. Mẫu hình xuyên suốt đủ nhất quán để nói thẳng: hãy hỏi các con số theo nhóm con, không phải số trung bình; định nghĩa “bị thiệt thòi” bằng kết quả, không bằng quy mô nhóm; và coi công bằng là thứ bạn thiết kế và kiểm toán, không phải thứ gắn thêm sau đó.

Thiên lệch và bất công xuất hiện ở đâu

Chấm điểm và đánh giá. Chấm điểm bằng AI có thể phạt ngôn ngữ mà sinh viên viết thay vì sự hiểu biết mà nó thể hiện: chấm điểm môn vật lý đánh giá thấp một cách hệ thống những sinh viên có lời giải thích kém trôi chảy, phạt những người viết không phải bản ngữ và kém tự tin vì điều họ biết (thiên lệch ngôn ngữ trong chấm điểm tự động). Chấm bài tự động cũng nén phân bố về phía giữa, phơi bày nhiều nhất những sinh viên mạnh nhất và yếu nhất, và mức bất đồng của nó với người chấm thay đổi theo trình độ đạt được và các đặc điểm ngôn ngữ bề mặt như độ rộng vốn từ (OpRaise, 2026). Về bức tranh chấm điểm đầy đủ, xem FAQ về công bằng trong chấm điểm.

Gia sư, phản hồi và hệ thống thích ứng. Mô hình sinh viên bên trong của một gia sư thích ứng có thể đặt toàn bộ nhóm vào thế bất lợi một cách vô hình: một cuộc kiểm toán công bằng theo dõi kiến thức Bayes trên nhật ký MATHia của 8,549 sinh viên trong hai năm học phát hiện mức tương đương thống kê tổng thể là −0.077, che giấu việc 36 trong 50 kỹ năng bị thiên lệch chống lại những người đang tập đọc, với thiên lệch ở cấp kỹ năng lên tới −0.262 — gia sư không có thành phần kỹ năng đọc, nên những sinh viên đọc kém trôi chảy hơn bị mất nền tảng môn toán (Stinar và cộng sự, 2026). Các công cụ phản hồi có độ lệch được ghi nhận riêng: bốn LLM được dùng rộng rãi thay đổi phản hồi viết theo hướng khớp với định kiến khi được cung cấp danh tính của sinh viên — khen nhiều hơn, phê bình ít hơn, giả định năng lực hạn chế — ngay cả với những bài luận giống hệt nhau (Tan và cộng sự, 2026). Gia sư LLM cũng thay đổi theo nhãn nhân khẩu học của người học: trong EduFair-Bench, độ lệch giọng điệu điều chỉnh vượt 0.10 với mọi mô hình ở môn hóa học và vật lý, mức giàn giáo từng bước tương quan tới |r| = 0.144 với các điều kiện nhân khẩu học ở môn toán, và giọng điệu bám theo nhãn chứ không theo chất lượng lập luận (EduFair-Bench). Ngay cả bối cảnh nhân khẩu học hiện diện vô hình trong lịch sử hội thoại cũng làm lệch đầu ra: điều kiện hóa ngầm làm tăng điểm luận tự động tới 1.57 điểm với một mô hình vì tín hiệu được mang bởi bối cảnh, không phải một thuộc tính được nêu (Rooein, Benedetto và Hovy, 2026).

Bảng điều khiển và cảnh báo sớm. McConvey và cộng sự (2026) kiểm tra áp lực sáu can thiệp công bằng hậu nghiệm trên một hệ thống cảnh báo sớm được nhân bản từ 168,550 hồ sơ sinh viên: không can thiệp nào mang lại lợi ích nhất quán. Chênh lệch bị phân phối lại chứ không giảm; hai phương pháp dùng quy mô nhóm để định nghĩa thiệt thòi và dồn toàn bộ 706 chỉnh sửa vào sinh viên quốc tế, những người vốn đã có tỷ lệ thành công dự đoán cao hơn (0.916 so với 0.756); và một phương pháp đạt mục tiêu cơ hội bình đẳng theo giới bằng cách đẩy tỷ lệ dương tính giả của nữ từ 0.561 lên 0.837. Sinh viên bị gộp vào “Giới tính không xác định” có tỷ lệ dương tính thật thấp nhất dưới mọi phương pháp.

Đầu ra tạo sinh: văn bản, hình ảnh và avatar. Mô hình tái tạo các chuẩn mực chiếm ưu thế trừ khi được kiểm tra rõ ràng. Một tổng quan hệ thống 31 nghiên cứu về công cụ văn bản-thành-hình ảnh trong giáo dục phát hiện hình ảnh luôn đặt vào trung tâm những nhân vật da trắng, nam, phương Tây, gầy và không khuyết tật, trong khi sự đa dạng về tuổi tác, cơ thể và khả năng gần như vắng mặt (Alon và cộng sự, 2026). Trợ lý lập đội phân luồng sinh viên vào những trải nghiệm khác nhau: ba LLM khi xếp 11,200 bài tập kỹ thuật phần mềm đã gửi nam giới tới Thiết kế giao diện thay vì Phát triển cốt lõi ít hơn nữ giới ít nhất 80%, và quốc tịch làm thay đổi vị trí độc lập với năng lực (Entezami và cộng sự, 2026). Ngay cả tín hiệu danh tính của avatar cũng thay đổi niềm tin: avatar da trắng được đánh giá đáng tin cậy và có năng lực hơn trong hai thí nghiệm (N = 396), trong khi avatar nữ da đen lớn tuổi bị trừng phạt, và hiệu ứng mạnh hơn trong các nhiệm vụ STEM (Anthis và Kyriakidou-Zacharoudiou, 2026). Công cụ viết có thể chuyển thiên lệch vào chính bài làm của sinh viên: một câu lệnh mang thiên lệch giới tạo ra nhiều bài luận rập khuôn giới hơn, nên thiên lệch của công cụ trở thành đầu ra của người học (chuyển thiên lệch giới trong viết có LLM hỗ trợ).

Dữ liệu, nhãn và hạ tầng. Thiên lệch hiện diện trước khi bất kỳ mô hình nào được huấn luyện. Các công cụ phát hiện tên sẵn có bỏ sót tên châu Phi với recall 0.7647 và tên châu Á với 0.8640, so với 0.9024 cho tên châu Âu và 0.9091 cho tên Mỹ; một mô hình được tinh chỉnh đã xóa bỏ các khoảng cách này (Ji và cộng sự, 2025). Kho ngữ liệu huấn luyện và việc token hóa gây bất lợi về mặt cấu trúc cho người nói các ngôn ngữ ít được đại diện (Structural Silence), hồ sơ người học do LLM tạo mang định kiến vùng miền và giới lan truyền xuống hạ nguồn (López-Pernas và cộng sự, 2026), và các nhãn chân lý nền đằng sau mô hình cũng đáng được soi xét như chính mô hình (độ tin cậy của chân lý nền).

Công cụ phát hiện giáng đòn mạnh nhất vào người viết đa ngữ. Vì công cụ phát hiện phân loại dựa trên tính dự đoán được của văn bản, độ rối thấp và mật độ công thức của bài viết bằng ngôn ngữ bổ sung kích hoạt cờ “AI” sai: các nghiên cứu được ghi nhận đã phân loại sai phần lớn bài luận TOEFL thật của người không phải bản ngữ (Angelier, 2026), và việc chỉnh sửa một bài của người không phải bản ngữ làm dịch chuyển phán quyết theo cả hai hướng — giảm 10.7 điểm khả năng bị gắn cờ dưới một công cụ, tăng 5.8 điểm dưới công cụ khác (Park, Jeong và Kim, 2026).

Tiếp cận và chất lượng công cụ cũng là vấn đề công bằng. Khoảng cách số là nền tảng (tiếp cận số), và khoảng cách chất lượng làm nó trầm trọng thêm: gói miễn phí của cùng một mô hình trả lời không chính xác 49 trong 150 phản hồi (32.7%) so với 18 trong 150 (12%) ở gói trả phí, khiến giáo viên gọi nó là “gần như vô dụng với môn toán” (Canonigo, 2026). Giảng viên áp đảo dự đoán AI tạo sinh sẽ mở rộng bất bình đẳng — 81% trong 1,057 giảng viên được khảo sát nói vậy, 58% nói là rất nhiều (Watson và Rainie, 2026). Và lợi ích của gia sư AI không tự động được phân phối: thành quả tập trung ở nơi phân bổ đi theo nhu cầu, như khi gia sư con người chủ động nhắm vào những sinh viên ở xa dưới ngưỡng nhất tạo ra mức tăng cao hơn một chút (75%, p = .065) đúng ở nhóm đó (Gurung và cộng sự, 2026), hoặc khi tài liệu học tập bằng AI được chuyên gia xác minh chuyển phần lớn nhất của mức tăng 2.34 điểm cho nhóm ngũ phân vị thấp nhất (Dang và Nguyen, 2026).

Cần làm gì — theo vai trò của bạn

Nếu bạn là giảng viên: hãy hỏi bất kỳ công cụ nào bạn tiếp nhận xem tỷ lệ lỗi của nó là bao nhiêu với những nhóm con bạn thực sự giảng dạy, không chỉ độ chính xác tổng thể. Kiểm tra kỹ bài làm của người viết đa ngữ trước khi chấp nhận phán quyết của công cụ phát hiện — những công cụ đó phân loại sai bài viết bằng ngôn ngữ bổ sung. Dùng câu lệnh trung tính khi tạo tài liệu giảng dạy (một câu lệnh trung tính phần lớn tránh tạo ra ngôn ngữ phân biệt giới), và so sánh đầu ra của AI với tiêu chuẩn của chính bạn thay vì coi nó là có thẩm quyền (Làm thế nào để dạy sinh viên kiểm chứng đầu ra của AI?). Với việc chấm điểm, hãy giữ con người trong vòng lặp ở các trường hợp ranh giới.

Nếu bạn là nhà phát triển phần mềm: hãy kiểm toán theo các điều kiện danh tính — ngôn ngữ, giới, văn hóa, khuyết tật — dùng đầu vào chỉ thay đổi bối cảnh của sinh viên (kết quả tín hiệu ngầm cho thấy các thuộc tính được nêu không phải kênh duy nhất). Kiểm thử trên các đối tượng được giữ riêng, không chỉ các mục được giữ riêng: lợi ích công bằng giữ được trên một tập xác thực đã biến mất với một mô hình chú ý sinh viên thực tế trong 4 trên 10 lần chạy (Fragkiadakis và cộng sự, 2026). Ưu tiên giảm thiểu trong mô hình — tinh chỉnh, huấn luyện bất biến theo phương ngữ, mục tiêu có ý thức công bằng như GroupDRO — hơn là điều chỉnh đầu ra sau đó (các cách giảm thiểu thiên lệch). Đừng bao giờ suy ra thiệt thòi từ quy mô nhóm, và báo cáo các chỉ số nhóm con bao gồm cả những nhóm bạn phải loại trừ vì mẫu quá nhỏ (Ye và cộng sự, 2026 loại trừ người học tiếng Anh và sinh viên IEP đúng vì lý do này — hãy nói ra khi bạn làm vậy).

Nếu bạn là nhà nghiên cứu: hãy báo cáo một chỉ số công bằng, hết — một tổng quan phạm vi 421 nghiên cứu áp dụng NLP cho đánh giá sinh viên chỉ tìm thấy chỉ số công bằng chính thức ở 8 nghiên cứu (1.9%) (Eicher và da Silva, 2026), và trong 12 nghiên cứu so sánh chấm điểm bằng AI với con người, mười nghiên cứu im lặng về thiên lệch nhân khẩu học, ngôn ngữ hoặc xã hội (Xu, Lu và Abdi, 2026). Kiểm thử trên các chiều nhân khẩu học, không chỉ giới tính; báo cáo các trường hợp loại trừ nhóm nhỏ; và đánh giá công bằng song song với độ chính xác thay vì như một suy nghĩ thêm vào. Khi bạn kiểm toán mô hình với vai trò gia sư lịch sử hoặc gia sư trong các bối cảnh khác, hãy dùng kiểm thử theo điều kiện danh tính trước khi kết luận (bộ lọc gia trưởng là ví dụ cảnh báo).

Nếu bạn là quản trị viên: hãy biến báo cáo theo nhóm con và kiểm toán trước khi tiếp nhận thành điều khoản hợp đồng khi mua công cụ dự đoán hoặc tạo sinh — các tác giả nghiên cứu cảnh báo sớm coi quản trị mua sắm, không phải tối ưu chỉ số, là biện pháp bảo vệ chính (McConvey và cộng sự, 2026). Hãy để ý những khoảng cách tầng chất lượng khiến các lớp thiếu nguồn lực có hiệu suất công cụ kém hơn rõ rệt, và gắn tiếp cận với hỗ trợ và đào tạo thay vì chỉ cấp giấy phép. Dùng các đòn bẩy trong chính sách AI của tổ chức để yêu cầu công bố và báo cáo công bằng, và đưa các cuộc thảo luận R&D và giám sát qua các quy ước nghiên cứu công bằng, đạo đức và an toàn.

Điều gì không hiệu quả

Các tuyên bố về độ chính xác tổng thể. Mức tương đương tổng thể −0.077 cùng tồn tại với việc 36 trong 50 kỹ năng bị thiên lệch chống lại một nhóm; một mô hình trông cân bằng bỏ sót gần như hoàn toàn những sinh viên đang gặp khó khăn trên một phân chia không cân bằng (Hooshyar và cộng sự, 2026 tìm thấy recall 8%, 12% và 16% cho người có hiệu suất thấp ở độ chính xác 80%). Số trung bình tương thích với tổn hại tập trung.

Các bản vá công bằng hậu nghiệm. Mọi can thiệp trong nghiên cứu cảnh báo sớm hoặc phân phối lại lỗi, hoặc chỉnh sửa nhóm vốn đã được ưu đãi, hoặc đạt tương đương bằng cách làm một nhóm ít hiện diện hơn. Sửa đường ống tốt hơn vá đầu ra.

Một biện pháp giảm thiểu làm một lần. Thiên lệch quay trở lại qua dữ liệu, câu lệnh, chấm điểm và triển khai; nghiên cứu cho thấy các chiến lược bổ trợ (mục tiêu huấn luyện công bằng, thiết kế câu lệnh, bất biến phương ngữ, chấm điểm tách sự hiểu biết khỏi ngôn ngữ, khả năng giải thích, giám sát của con người) chính vì không có bản sửa duy nhất nào bao phủ toàn bộ đường ống (Bias Mitigation).

Đi sâu hơn ở đâu

Trang Bias Mitigation lập danh mục các nguồn và cách giảm thiểu trên toàn đường ống; Equity bao quát các chiều tiếp cận, đại diện và kết quả với bằng chứng cho từng chiều; Automation Bias bao quát thất bại phía người đọc — quá tin vào một khuyến nghị thiên lệch hoặc chỉ đơn giản là sai; và Differential Effects Across Learner Groups tập hợp các nghiên cứu theo dõi cách cùng một công cụ tác động khác nhau lên các nhóm khác nhau.