- Tác giả
- Ban Biên tập IESDTD tổng hợp
- Lĩnh vực
- Trí tuệ nhân tạo, Khoa học dữ liệu & Công nghệ số
- Từ khóa
- thiên lệch thuật toán, công bằng, dự đoán bỏ học, chấm điểm tự động, OECD
Tóm tắt
Thuật toán dự đoán bỏ học, chấm bài luận hay tính điểm thi có thể hoạt động kém chính xác hơn với một số nhóm học sinh. Bài tổng hợp nghiên cứu của Baker và cộng sự cho OECD, hai vụ việc ở Anh và Mỹ, cùng các khuyến nghị chính sách.
Thuật toán ngày càng tham gia vào các quyết định trong giáo dục: dự đoán học sinh có nguy cơ bỏ học, chấm bài luận, gợi ý lộ trình học, thậm chí tính điểm thi. Khi một thuật toán hoạt động kém chính xác hơn một cách có hệ thống đối với một nhóm người học so với nhóm khác, ta gọi đó là thiên lệch thuật toán (algorithmic bias). Vấn đề không nằm ở chỗ máy tính "có định kiến", mà ở dữ liệu huấn luyện, cách chọn biến số, cách đặt ngưỡng và cách con người dùng kết quả.
Thiên lệch thuật toán là gì
Trong chương viết cho báo cáo OECD Digital Education Outlook 2023, Ryan Baker, Aaron Hawn và Seiyon Lee dùng định nghĩa hẹp: thiên lệch là khi hiệu năng hoặc hành vi của mô hình khác biệt có hệ thống giữa các nhóm. Sự khác biệt này có thể dẫn đến hai loại tác hại:
- Tác hại phân bổ: một nhóm bị từ chối cơ hội hoặc nguồn lực, ví dụ không được hỗ trợ khi cần, hoặc bị xếp vào chương trình thấp hơn.
- Tác hại đại diện: một nhóm bị mô tả, gán nhãn theo cách tiêu cực hoặc rập khuôn.
Bằng chứng nghiên cứu
Bài tổng quan của Baker và Hawn (International Journal of Artificial Intelligence in Education, 2022) cùng chương sách cho OECD cho thấy:
- Phần lớn nghiên cứu tập trung vào chủng tộc/dân tộc, quốc tịch và giới tính, chủ yếu thực hiện ở Mỹ. Ở Mỹ, trên các thuật toán dự đoán bỏ học, dự đoán trượt môn và chấm bài luận tự động, thuật toán thường kém chính xác hơn với học sinh da đen và gốc Mỹ Latinh.
- Về giới tính, kết quả không nhất quán: có nghiên cứu thấy thiên lệch bất lợi cho nữ, có nghiên cứu thấy bất lợi cho nam.
- Các nghiên cứu theo quốc tịch đã ghi nhận thiên lệch ảnh hưởng tới người học từ Trung Quốc, Hàn Quốc, Ấn Độ, Việt Nam, Philippines, Costa Rica và các nước nói tiếng Ả Rập, trong các ứng dụng như chấm bài luận, đánh giá phát âm, dự đoán kết quả học tập.
- Ngoài ra còn có bằng chứng (ít hơn) về thiên lệch theo vùng nông thôn – thành thị, điều kiện kinh tế, người học không phải bản ngữ, khuyết tật. Ví dụ, một hệ thống đánh giá khả năng nói tiếng Anh kém chính xác hơn với học sinh có khiếm khuyết về lời nói; mô hình nhận diện cảm xúc người học được xây dựng từ dữ liệu học sinh thành thị hoạt động kém hơn với học sinh nông thôn.
Một ví dụ cụ thể: hệ thống chấm bài luận tự động trong kỳ thi TOEFL – được dùng để thay một trong hai người chấm – cho điểm bài của người nói tiếng Ả Rập, tiếng Hindi và tiếng Tây Ban Nha thấp hơn so với người chấm. Đơn vị tổ chức thi đã thay đổi quy trình: một người chấm và máy cùng chấm; nếu chênh lệch lớn thì người chấm thứ hai vào cuộc, và nếu hai người chấm thống nhất thì điểm của máy bị loại bỏ.
Các tác giả nhấn mạnh: thế giới giáo dục hiện nay phần lớn đang ở trạng thái "thiên lệch chưa được biết đến" – vì nhiều nhóm người học và nhiều quốc gia chưa từng được nghiên cứu. Một thuật toán được kiểm chứng ở Mỹ chưa chắc công bằng khi đem dùng cho học sinh Việt Nam.
Hai vụ việc điển hình
Thuật toán tính điểm A-level ở Anh năm 2020
Khi kỳ thi A-level bị hủy vì COVID-19, cơ quan quản lý thi cử Ofqual dùng một thuật toán điều chỉnh điểm do giáo viên dự kiến, dựa trên thứ hạng của học sinh trong trường và phân bố điểm của chính trường đó trong các năm trước. Với các lớp dưới 15 học sinh, điểm của giáo viên được giữ nguyên. Theo phân tích của Anthony Kelly trên blog của Hiệp hội Nghiên cứu Giáo dục Anh (BERA), khoảng 39% điểm do giáo viên dự kiến bị hạ; học sinh ở các trường nhỏ – phổ biến hơn trong khu vực tư thục – được lợi, trong khi học sinh trường công bị hạ điểm nhiều. Kết quả công bố ngày 13/8/2020; sau phản ứng của dư luận, ngày 17/8 Chính phủ quyết định dùng lại điểm giáo viên dự kiến.
Bài học: một thuật toán có thể "chính xác" ở cấp độ toàn hệ thống (giữ phân bố điểm ổn định so với các năm trước) nhưng bất công với từng cá nhân – một học sinh giỏi ở trường có thành tích lịch sử thấp bị hạ điểm vì điều không phải do em gây ra.
Hệ thống cảnh báo sớm bỏ học ở bang Wisconsin (Mỹ)
Điều tra của tổ chức báo chí The Markup (2023) về Hệ thống cảnh báo sớm bỏ học (DEWS) của bang Wisconsin cho thấy: hệ thống dùng các biến như điểm thi, chuyên cần, kỷ luật, và cả chủng tộc, diện được hỗ trợ bữa trưa (đại diện cho thu nhập gia đình). Theo hồ sơ của bang, khi dự đoán một học sinh sẽ không tốt nghiệp, hệ thống sai gần ba phần tư số lần; tỉ lệ báo động sai với học sinh da đen và gốc Mỹ Latinh cao hơn đáng kể so với học sinh da trắng. Một nghiên cứu của Đại học California, Berkeley được dẫn trong bài điều tra không thấy hệ thống làm thay đổi tỉ lệ tốt nghiệp của những học sinh bị gắn nhãn "nguy cơ cao". Nhiều học sinh được phỏng vấn không biết hệ thống tồn tại; cán bộ quản lý cho biết họ hầu như không được hướng dẫn cách diễn giải kết quả.
Lưu ý: đây là kết quả điều tra báo chí dựa trên hồ sơ của cơ quan nhà nước, không phải nghiên cứu bình duyệt; tuy vậy nó minh họa rõ rủi ro khi dự đoán trở thành nhãn dán.
Sáu khuyến nghị chính sách
Baker, Hawn và Lee đề xuất cho các nhà hoạch định chính sách:
- Khi xây dựng quy định về quyền riêng tư, tính đến nhu cầu phát hiện thiên lệch – nếu cấm hoàn toàn việc thu thập dữ liệu về đặc điểm nhân khẩu học, nhà phát triển sẽ không thể biết thuật toán đang bất lợi cho nhóm nào.
- Yêu cầu phân tích thiên lệch thuật toán, kèm việc thu thập dữ liệu cần thiết dưới các biện pháp bảo vệ phù hợp.
- Hướng dẫn phân tích thiên lệch dựa trên bối cảnh và mối quan tâm về công bằng của từng địa phương, quy định một bộ đặc điểm tối thiểu cần báo cáo để tránh việc chỉ báo cáo những nhóm "có lợi".
- Tài trợ nghiên cứu về các thiên lệch chưa được biết đến trên khắp thế giới.
- Tài trợ phát triển bộ công cụ phát hiện và khắc phục thiên lệch.
- Thiết kế lại các cơ sở dữ liệu tổng hợp bằng chứng hiệu quả để xem xét hiệu quả theo từng nhóm người học, thay vì một con số chung.
Gợi ý cho nhà trường, cơ quan quản lý Việt Nam
- Khi mua hoặc triển khai một hệ thống dự đoán, chấm điểm, đề nghị nhà cung cấp báo cáo độ chính xác tách theo nhóm: nam/nữ, thành thị/nông thôn, dân tộc, học sinh khuyết tật – không chỉ một con số trung bình.
- Thử nghiệm trên dữ liệu học sinh Việt Nam trước khi dùng rộng rãi; đặc biệt với công cụ chấm tiếng Anh, nhận dạng giọng nói, vốn có bằng chứng thiên lệch theo quốc tịch.
- Không dùng kết quả dự đoán để ra quyết định bất lợi cho học sinh; dùng để mở ra sự hỗ trợ, và luôn có giáo viên xem xét.
- Thận trọng với việc đưa vào mô hình các biến số học sinh không thể thay đổi (hoàn cảnh gia đình, dân tộc, trường đang học) khi kết quả được dùng để đánh giá cá nhân.
- Tập huấn cho cán bộ, giáo viên về cách đọc và giới hạn của các chỉ số dự đoán.
Nguồn tham khảo
- Baker, R. S. & Hawn, A. (2022). Algorithmic bias in education. International Journal of Artificial Intelligence in Education, 32(4), 1052–1092. https://link.springer.com/article/10.1007/s40593-021-00285-9
- Baker, R. S., Hawn, M. A. & Lee, S. (2023). Algorithmic bias: the state of the situation and policy recommendations. Trong OECD Digital Education Outlook 2023. Bản tiền ấn phẩm: https://learninganalytics.upenn.edu/ryanbaker/Algorithmic%20Bias%20in%20Education_%20OECD%20Edition_%20preprint.pdf
- Kelly, A. (2021). The great algorithm fiasco. BERA Blog. https://www.bera.ac.uk/blog/the-great-algorithm-fiasco
- The Markup (2023). Takeaways from our investigation into Wisconsin's racially inequitable dropout algorithm. https://themarkup.org/the-breakdown/2023/04/27/takeaways-from-our-investigation-into-wisconsins-racially-inequitable-dropout-algorithm
Trích dẫn bài viết
Ban Biên tập IESDTD tổng hợp (2026). Thiên lệch thuật toán trong giáo dục: bằng chứng, các vụ việc điển hình và khuyến nghị chính sách. Viện Khoa học giáo dục và phát triển Công nghệ số. https://iesdtd.edu.vn/nghien-cuu/thien-lech-thuat-toan-trong-giao-duc