Thiên kiến thuật toán trong tuyển dụng là khi một hệ thống tự động, như bộ xếp hạng CV, bài đánh giá trực tuyến hay công cụ chấm phỏng vấn, cho kết quả bất lợi có hệ thống với một nhóm người (theo giới tính, tuổi, vùng miền, khuyết tật…) mà sự chênh lệch đó không giải thích được bằng năng lực làm việc. Điều quan trọng cần hiểu: thuật toán có thể phân biệt đối xử ngay cả khi không hề được cung cấp giới tính hay tuổi, vì nó suy ra chúng từ các biến khác.
Cách đo phổ biến nhất trong thực hành là quy tắc bốn phần năm: nếu tỷ lệ được chọn của một nhóm thấp hơn 80% tỷ lệ của nhóm được chọn nhiều nhất, đó là dấu hiệu cần điều tra. Quy tắc này đến từ Bộ hướng dẫn thống nhất về thủ tục tuyển chọn nhân sự của các cơ quan liên bang Mỹ năm 1978, ra đời trước AI rất lâu, và vẫn là điểm khởi đầu của nhiều cuộc kiểm toán thuật toán ngày nay.
Năm con đường thiên kiến đi vào thuật toán
Dữ liệu huấn luyện lệch lịch sử. Mô hình học từ quyết định tuyển dụng trong quá khứ. Nếu quá khứ ưu tiên một nhóm, mô hình học cách ưu tiên nhóm đó và gọi nó là "phù hợp". Trường hợp công cụ thử nghiệm của Amazon (Reuters đưa tin năm 2018) là ví dụ kinh điển: học từ hồ sơ mười năm chủ yếu của nam giới, mô hình hạ điểm CV có dấu hiệu liên quan tới phụ nữ.
Nhãn sai. Muốn dự báo "nhân viên giỏi", ta cần một nhãn đo cái giỏi. Thường nhãn là điểm đánh giá của quản lý, vốn có thiên kiến riêng, hoặc thời gian gắn bó, vốn bất lợi cho người phải nghỉ sinh con. Nghiên cứu của Obermeyer và cộng sự trên tạp chí Science năm 2019 về một thuật toán y tế cho thấy rõ cơ chế này: dùng chi phí chữa bệnh làm đại diện cho nhu cầu chăm sóc đã khiến bệnh nhân da đen bị đánh giá thấp nhu cầu.
Biến đại diện (proxy). Bỏ trường giới tính khỏi dữ liệu không đủ. Tên, trường học, câu lạc bộ, môn thể thao, khoảng trống trong lý lịch, địa chỉ nhà đều có thể tương quan mạnh với giới tính, vùng miền hay hoàn cảnh kinh tế.
Mẫu không đại diện. Mô hình nhận dạng giọng nói hoặc hình ảnh được huấn luyện chủ yếu trên một nhóm sẽ kém chính xác với nhóm khác. Trong bối cảnh Việt Nam, giọng địa phương hay cách diễn đạt vùng miền là rủi ro thật với công cụ chấm phỏng vấn.
Vòng lặp phản hồi. Hệ thống chỉ biết kết quả của những người nó đã cho qua. Người bị loại không bao giờ có cơ hội chứng minh mô hình sai, nên lỗi tự củng cố qua thời gian.
Con người cũng thiên kiến, vậy thuật toán tệ hơn hay tốt hơn?
Lập luận bênh vực phổ biến là con người còn thiên kiến hơn. Điều này có bằng chứng: thí nghiệm gửi CV giả của Bertrand và Mullainathan (công bố năm 2004 trên American Economic Review) cho thấy CV mang tên nghe như của người da trắng nhận nhiều cuộc gọi phỏng vấn hơn rõ rệt so với CV giống hệt mang tên nghe như của người da đen. Nhiều nghiên cứu tương tự ở các nước khác cho kết quả cùng hướng với giới tính, tuổi, nguồn gốc.
Nhưng so sánh "thuật toán với con người" bỏ qua ba khác biệt. Thứ nhất là quy mô: một người phỏng vấn thiên kiến ảnh hưởng vài chục ứng viên; một mô hình thiên kiến áp lên hàng chục nghìn, nhất quán và không mệt. Thứ hai là vẻ khách quan: con số do máy chấm khiến người dùng ít chất vấn hơn, hiện tượng gọi là thiên kiến tự động hoá. Thứ ba là khả năng đo: đây lại là điểm có lợi cho thuật toán, vì một mô hình có thể được kiểm tra có hệ thống với dữ liệu thử, còn tâm trí người phỏng vấn thì không.
Kết luận thực tế không phải "dùng" hay "không dùng" thuật toán, mà là: thuật toán chỉ nên được dùng khi có cơ chế đo và sửa thiên kiến, và quy trình có người chịu trách nhiệm. Không đo được thì không nên tự động hoá.
Đo thiên kiến: quy tắc bốn phần năm qua ví dụ
Ví dụ giả định: một công cụ sàng lọc xử lý 1.000 hồ sơ cho vị trí nhân viên kinh doanh, chia theo giới tính.
| Nhóm | Số hồ sơ | Số qua vòng sàng lọc | Tỷ lệ chọn | Tỷ lệ so với nhóm cao nhất |
|---|---|---|---|---|
| Nam | 600 | 180 | 30% | 100% (nhóm tham chiếu) |
| Nữ | 400 | 84 | 21% | 21 ÷ 30 = 70% |
| Tổng | 1.000 | 264 | 26,4% | — |
Tỷ lệ của nhóm nữ bằng 70% nhóm nam, dưới ngưỡng 80%, nên theo quy tắc này có dấu hiệu tác động bất lợi cần điều tra. Lưu ý chữ "dấu hiệu": quy tắc bốn phần năm là ngưỡng sàng lọc thô, không phải bằng chứng phân biệt đối xử. Với mẫu nhỏ, chênh lệch có thể do ngẫu nhiên; với mẫu rất lớn, chênh lệch nhỏ cũng có ý nghĩa thống kê dù tỷ lệ trên 80%. Vì vậy người kiểm toán thường kết hợp thêm kiểm định thống kê (như kiểm định chính xác Fisher hay kiểm định hai tỷ lệ).
Bước tiếp theo khi thấy dấu hiệu là tìm nguyên nhân: tiêu chí nào trong công cụ đóng góp nhiều nhất vào chênh lệch, tiêu chí đó có liên quan tới công việc không, và có cách khác đạt cùng mục tiêu với tác động bất lợi thấp hơn không.
Các định nghĩa "công bằng" mâu thuẫn nhau
Giới nghiên cứu học máy đã đề xuất nhiều định nghĩa công bằng có thể tính được. Cân bằng tỷ lệ chọn (demographic parity) đòi tỷ lệ được chọn bằng nhau giữa các nhóm, gần với tinh thần quy tắc bốn phần năm. Cân bằng sai số (equalized odds) đòi tỷ lệ chọn đúng người giỏi và tỷ lệ chọn nhầm người không phù hợp bằng nhau giữa các nhóm. Hiệu chuẩn (calibration) đòi cùng một điểm số mang cùng ý nghĩa dự báo với mọi nhóm.
Điểm then chốt mà nhiều người dùng công cụ không biết: các nghiên cứu lý thuyết (tiêu biểu là các công trình của Kleinberg và cộng sự, và của Chouldechova, cùng khoảng năm 2016–2017) đã chỉ ra rằng khi tỷ lệ nền giữa các nhóm khác nhau, không thể đồng thời thoả mãn hiệu chuẩn và cân bằng sai số, trừ những trường hợp đặc biệt. Nghĩa là "làm cho thuật toán công bằng" luôn đòi một lựa chọn giá trị: bạn ưu tiên loại công bằng nào.
Lựa chọn đó không phải việc của kỹ sư một mình. Nó cần nhân sự, pháp chế và lãnh đạo cùng quyết định, ghi lại lý do, và xem lại khi bối cảnh đổi. Một nhà cung cấp tuyên bố công cụ của họ "đã được kiểm chứng không thiên kiến" mà không nói theo định nghĩa nào, trên dữ liệu nào, là một tuyên bố chưa đủ thông tin để tin.
Khung pháp lý đang hình thành trên thế giới và ở Việt Nam
Trên thế giới, công cụ AI dùng trong tuyển dụng đang bị quản lý chặt hơn. Đạo luật AI của Liên minh châu Âu (thông qua năm 2024) xếp hệ thống AI dùng để tuyển chọn, sàng lọc, đánh giá ứng viên vào nhóm rủi ro cao, kèm nghĩa vụ về quản trị dữ liệu, tài liệu kỹ thuật, giám sát của con người và minh bạch; đạo luật cũng cấm nhận diện cảm xúc ở nơi làm việc trừ lý do y tế hoặc an toàn. Thành phố New York áp dụng quy định yêu cầu kiểm toán thiên kiến độc lập hằng năm và thông báo cho ứng viên khi dùng công cụ tự động ra quyết định tuyển dụng, có hiệu lực thi hành từ năm 2023.
Ở Việt Nam, pháp luật lao động cấm phân biệt đối xử trong lao động, bao gồm tuyển dụng, dựa trên các đặc điểm như giới tính, dân tộc, tuổi, tình trạng hôn nhân, khuyết tật. Nguyên tắc này áp dụng bất kể quyết định do người hay máy đưa ra: doanh nghiệp không thể đẩy trách nhiệm cho phần mềm. Quy định bảo vệ dữ liệu cá nhân cũng đặt ra yêu cầu về thông báo, mục đích và đánh giá tác động khi xử lý dữ liệu ứng viên.
Khung pháp lý về AI ở Việt Nam đang trong quá trình xây dựng, nên trước khi triển khai công cụ đánh giá ứng viên tự động, bạn cần kiểm văn bản hiện hành và tham khảo ý kiến pháp chế. Thực hành theo các chuẩn quốc tế nêu trên là cách giảm rủi ro khi luật trong nước được bổ sung.
Quy trình kiểm toán thiên kiến cho doanh nghiệp dùng công cụ AI tuyển dụng
Bảy bước dưới đây áp dụng được dù công cụ do doanh nghiệp tự xây hay mua của nhà cung cấp.
- Lập danh mục: liệt kê mọi điểm trong quy trình tuyển có máy xếp hạng, chấm điểm hoặc loại tự động, kể cả bộ lọc cứng tự cấu hình.
- Xác định nhóm cần so sánh và cách thu thập thông tin nhóm một cách hợp pháp, tự nguyện, tách khỏi hồ sơ đánh giá, chỉ dùng cho mục đích thống kê.
- Đo tỷ lệ qua từng vòng theo nhóm, áp dụng quy tắc bốn phần năm và kiểm định thống kê, lặp lại mỗi quý hoặc mỗi đợt tuyển lớn.
- Truy nguyên nhân khi có dấu hiệu: tiêu chí nào gây chênh lệch, tiêu chí đó có gắn với yêu cầu công việc được phân tích bằng văn bản không.
- Tìm phương án thay thế đạt mục tiêu tuyển chọn với tác động bất lợi thấp hơn, ví dụ thay "năm năm kinh nghiệm" bằng bài thử việc mẫu.
- Yêu cầu nhà cung cấp cung cấp báo cáo kiểm toán, mô tả dữ liệu huấn luyện, định nghĩa công bằng được dùng; đưa nghĩa vụ này vào hợp đồng.
- Lưu hồ sơ và giao người chịu trách nhiệm: mỗi công cụ có một người làm chủ, có nhật ký thay đổi cấu hình và kết quả kiểm toán.
Bước hai thường là chỗ vướng: muốn đo chênh lệch theo giới tính thì phải biết giới tính, nhưng chính dữ liệu này lại cần bảo vệ. Cách làm phổ biến là thu thập tự nguyện qua biểu mẫu riêng, lưu tách biệt, người chấm hồ sơ không thấy, và chỉ đội kiểm toán truy cập ở dạng tổng hợp.
Câu hỏi thường gặp
Bỏ hết thông tin nhạy cảm khỏi dữ liệu có làm thuật toán công bằng không?
Không đủ. Cách làm này gọi là công bằng nhờ không biết, và thường thất bại vì các biến khác như tên, trường, khoảng trống lý lịch đóng vai đại diện. Hơn nữa, bỏ biến nhạy cảm khiến bạn không đo được chênh lệch. Thường cần giữ dữ liệu nhóm ở kho riêng để kiểm toán.
Quy tắc bốn phần năm có áp dụng pháp lý ở Việt Nam không?
Đây là hướng dẫn của cơ quan Mỹ, không phải quy định pháp luật Việt Nam. Doanh nghiệp vẫn có thể dùng nó như một ngưỡng thực hành để phát hiện sớm vấn đề, kết hợp kiểm định thống kê. Nghĩa vụ không phân biệt đối xử theo luật Việt Nam vẫn áp dụng độc lập với cách đo.
Nếu phát hiện công cụ có tác động bất lợi thì nên dừng ngay không?
Nên tạm chuyển sang để người xem xét lại toàn bộ nhóm bị ảnh hưởng trong lúc điều tra, thay vì tiếp tục để máy loại tự động. Nếu xác định nguyên nhân nằm ở tiêu chí không liên quan công việc, cần sửa và xem lại những hồ sơ đã bị loại trong đợt đó khi còn có thể.
Mô hình ngôn ngữ lớn có ít thiên kiến hơn mô hình học máy truyền thống không?
Không có bằng chứng chung cho điều đó. Mô hình ngôn ngữ học từ lượng văn bản khổng lồ trên internet, vốn chứa định kiến xã hội, và các thử nghiệm độc lập đã ghi nhận chúng xếp hạng CV khác nhau khi chỉ đổi tên ứng viên. Chúng cần được kiểm toán như mọi công cụ khác.
Ai chịu trách nhiệm pháp lý khi công cụ mua ngoài gây phân biệt đối xử?
Về nguyên tắc, doanh nghiệp ra quyết định tuyển dụng là bên chịu trách nhiệm với ứng viên; trách nhiệm giữa doanh nghiệp và nhà cung cấp do hợp đồng phân chia. Vì vậy hợp đồng nên có điều khoản về kiểm toán, cung cấp thông tin và bồi hoàn. Trường hợp cụ thể cần ý kiến luật sư.
