AI xác định nhầm cuộc trò chuyện về các quân cờ “đen và trắng” là phân biệt chủng tộc

22/03/2021 03:00

Những vấn đề xoay quanh công nghệ kiểm duyệt nội dung bằng trí tuệ nhân tạo một lần nữa nổi lên sau khi kênh YouTube về cờ vua nổi tiếng nhất thế giới bị gán nhãn “độc hại và nguy hiểm”.

Theo một nghiên cứu gần đây, những cuộc thảo luận trực tuyến về các quân cờ vua đen và trắng đang gây nhầm lẫn cho các thuật toán trí tuệ nhân tạo (AI) vốn được huấn luyện để phát hiện tình trạng phân biệt chủng tộc và những phát ngôn mang tính tiêu cực khác.

Cụ thể, các nhà khoa học máy tính tại Đại học Carnegie Mellon đã bắt đầu điều tra về lỗi AI này sau khi một kênh cờ vua phổ biến trên YouTube bị chặn vì có nội dung "độc hại và nguy hiểm" vào tháng 6 năm ngoái.

Kỳ thủ người Croatia, Antonio Radic (biệt danh Agadmator), là chủ nhân của kênh YouTube về cờ vua nổi tiếng nhất thế giới với hơn 1 triệu người đăng ký.

Vào ngày 28/6/2020, Radic đã bị chặn khỏi YouTube khi đang phát sóng một trận cờ với đại kỳ thủ Hikaru Nakamura, tuy nhiên nền tảng video thuộc sở hữu của Google không đưa ra bất kỳ lý do cụ thể nào.

Kênh của Radic đã được "tha bổng" sau 24 giờ, khiến nhà vô địch cờ vua đoán rằng anh đã bị cấm tạm thời vì nhắc đến việc "đen chống lại trắng", dù hàm ý của câu nói đó là về những quân cờ vua.

AI xác định nhầm cuộc trò chuyện về các quân cờ “đen và trắng” là phân biệt chủng tộc - Ảnh 1.

Hệ thống kiểm duyệt của YouTube hoạt động dựa vào cả con người và các thuật toán AI, có nghĩa là bất kỳ hệ thống AI nào cũng có thể hiểu nhầm các bình luận nếu không được huấn luyện để hiểu đúng ngữ cảnh.

"Nếu họ dựa vào trí tuệ nhân tạo để phát hiện ngôn từ phân biệt chủng tộc, những biến cố như thế này có thể xảy ra" - theo nhận định của Ashiqur KhudaBukhsh, một nhà khoa học tại Viện Công nghệ Ngôn ngữ CMU.

KhudaBukhsh đã kiểm nghiệm giả thuyết này bằng cách sử dụng một hệ thống phân loại phát ngôn tiên tiến để kiểm duyệt hơn 680.000 bình luận thu thập từ 5 kênh YouTube chuyên về cờ vua phổ biến nhất.

Sau khi tự tay đánh giá lại 1.000 bình luận bị AI phân loại là "phát ngôn tiêu cực", các nhà khoa học đã phát hiện ra 82% trong số chúng đã bị phân loại nhầm vì sử dụng những từ như "đen", "trắng", "tấn công", và "đe doạ" - tất cả đều là những từ được sử dụng khá phổ biến trong bình luận cờ vua.

Tham khảo: Independent

Bạn đang đọc bài viết "AI xác định nhầm cuộc trò chuyện về các quân cờ “đen và trắng” là phân biệt chủng tộc" tại chuyên mục Công nghệ. Mọi bài vở cộng tác xin gọi hotline (0977.027.925hoặc gửi về địa chỉ email (mr.tranchitinh@gmail.com)