Trí tuệ Nhân tạo (AI), đặc biệt là Trí tuệ Nhân tạo Tạo ra, tiếp tục vượt xa sự kỳ vọng với khả năng của nó trong việc hiểu và bắt chước trí tuệ và suy nghĩ con người. Tuy nhiên, trong nhiều trường hợp, các kết quả hoặc dự đoán của các hệ thống AI có thể phản ánh nhiều loại thiên hướng của AI, chẳng hạn như về văn hóa và sắc tộc.
Blog “Barbies của Thế giới” của Buzzfeed (nay đã bị xóa) rõ ràng thể hiện những thiên hướng và sai sót về văn hóa này. Các ‘barbie’ này được tạo ra bằng cách sử dụng Midjourney – một trình tạo hình ảnh AI hàng đầu, để tìm hiểu xem barbie sẽ trông như thế nào ở mọi nơi trên thế giới. Chúng ta sẽ nói thêm về điều này sau.
Nhưng đây không phải là lần đầu tiên AI đã “phân biệt chủng tộc” hoặc tạo ra các kết quả không chính xác. Ví dụ, vào năm 2022, Apple đã bị kiện về các cáo buộc rằng bộ cảm biến oxy máu của Apple Watch thiên hướng chống lại người da màu. Trong một trường hợp khác được báo cáo, người dùng Twitter đã phát hiện ra rằng trí tuệ Nhân tạo tự động cắt ảnh của Twitter thiên hướng ưa thích khuôn mặt của người da trắng hơn so với người da đen và phụ nữ hơn so với nam giới. Đây là những thách thức quan trọng và việc giải quyết chúng đòi hỏi nỗ lực đáng kể.
Trong bài viết này, chúng ta sẽ tìm hiểu về thiên hướng của AI là gì, cách nó ảnh hưởng đến xã hội của chúng ta, và tóm tắt cách các nhà thực hành có thể giảm nhẹ nó để đối mặt với các thách thức như các rập khuôn về văn hóa.
Thiên hướng của Trí tuệ Nhân tạo (AI Bias) là hiện tượng xảy ra khi các mô hình AI tạo ra các kết quả có tính chất phân biệt đối với một số nhóm dân số cụ thể. Có một số loại thiên hướng AI khác nhau có thể xâm nhập vào hệ thống AI và tạo ra các kết quả không chính xác. Một số loại thiên hướng AI này bao gồm:
- Thiên hướng Rập khuôn (Stereotypical Bias): Thiên hướng Rập khuôn đề cập đến hiện tượng khi kết quả của một mô hình AI bao gồm các rập khuôn hoặc quan điểm đã biểu đạt về một nhóm dân số cụ thể.
- Thiên hướng Sắc tộc (Racial Bias): Thiên hướng sắc tộc trong AI xảy ra khi kết quả của một mô hình AI có tính chất phân biệt và không công bằng đối với cá nhân hoặc nhóm dân số dựa trên chủng tộc hoặc sắc tộc của họ.
- Thiên hướng Văn hóa (Cultural Bias): Thiên hướng Văn hóa xảy ra khi kết quả của một mô hình AI ưa thích một văn hóa cụ thể hơn văn hóa khác.
Ngoài các vấn đề liên quan đến thiên hướng, còn có những vấn đề khác có thể cản trở kết quả của một hệ thống AI, bao gồm:
- Sai lệch (Inaccuracies): Sai lệch xảy ra khi các kết quả được tạo ra bởi một mô hình AI không chính xác do dữ liệu huấn luyện không đồng nhất.
- Ảo tưởng (Hallucinations): Ảo tưởng xảy ra khi các mô hình AI tạo ra các kết quả hư cấu và sai lệch, không dựa trên dữ liệu thực tế.
Tác động của Thiên hướng của Trí tuệ Nhân tạo (AI Bias)
Tác động của Thiên hướng của Trí tuệ Nhân tạo (AI Bias) đối với xã hội có thể rất có hại. Các hệ thống AI thiên hướng có thể tạo ra các kết quả không chính xác, gia tăng sự định kiến đã tồn tại trong xã hội. Những kết quả này có thể làm gia tăng sự phân biệt đối xử và vi phạm quyền của con người, ảnh hưởng đến quy trình tuyển dụng và làm giảm sự tin tưởng vào công nghệ AI.
Ngoài ra, các kết quả AI thiên hướng thường dẫn đến các dự đoán không chính xác có thể có hậu quả nghiêm trọng đối với những cá nhân vô tội. Ví dụ, vào tháng 8 năm 2020, Robert McDaniel đã trở thành mục tiêu của một hành vi tội phạm do thuật toán dự đoán của Sở Cảnh sát Chicago gắn nhãn anh là “người đáng quan tâm.”
Tương tự, các hệ thống AI trong lĩnh vực chăm sóc sức khỏe thiên hướng cũng có thể gây ra kết quả nghiêm trọng đối với bệnh nhân. Năm 2019, tạp chí Science đã phát hiện rằng một thuật toán y tế phổ biến ở Hoa Kỳ có sự thiên hướng về mặt sắc tộc, dẫn đến việc người bệnh da màu nhận ít quản lý chăm sóc y tế cao nguy cơ hơn.
Thế giới Barbies World
Vào tháng 7 năm 2023, Buzzfeed đã đăng một bài viết blog bao gồm 194 hình ảnh barbie được tạo ra bằng trí tuệ nhân tạo từ khắp nơi trên thế giới. Bài viết này đã lan truyền mạnh trên Twitter. Mặc dù Buzzfeed đã viết một tuyên bố từ chối trách nhiệm, nhưng điều này không ngăn chặn cư dân mạng từ việc chỉ ra các sai sót về văn hóa và sắc tộc. Ví dụ, hình ảnh barbie Đức được tạo ra bằng trí tuệ nhân tạo đã mặc đồ của một tướng lãnh SS Nazi.
Tương tự, hình ảnh barbie South Sudan được tạo ra bằng trí tuệ nhân tạo được thể hiện đang cầm một khẩu súng ở bên cạnh, phản ánh sự thiên hướng sâu sắc trong các thuật toán AI.
Ngoài ra, nhiều hình ảnh khác cũng thể hiện các sai sót về văn hóa, ví dụ như hình ảnh barbie Qatar mặc chiếc Ghutra, một loại nón truyền thống được đàn ông ở khu vực Ả Rập thường đội.
Bài viết blog này đã nhận được sự phản đối mạnh mẽ về việc rập khuôn về văn hóa và thiên hướng. Trường Đại học Liên ngành London (LIS) gọi đây là sự tổn thương về biểu đạt và cho rằng cần thiết phải kiểm soát bằng cách áp dụng các tiêu chuẩn chất lượng và thiết lập các cơ quan giám sát Trí tuệ Nhân tạo.
Những giới hạn của mô hình
Trí tuệ Nhân tạo (AI) có tiềm năng làm đột phá trong nhiều ngành công nghiệp. Tuy nhiên, nếu các tình huống như những cái đã được đề cập ở trên trở nên phổ biến, nó có thể dẫn đến sự giảm sút trong việc áp dụng AI tổng quát, gây ra những cơ hội bị lỡ hụi. Những trường hợp như vậy thường xảy ra do những giới hạn quan trọng trong hệ thống AI, chẳng hạn như:
- Thiếu Sáng tạo: Vì AI chỉ có thể ra quyết định dựa trên dữ liệu huấn luyện đã cho, nó thiếu sự sáng tạo để suy nghĩ ngoài hộp, gây trở ngại cho việc giải quyết vấn đề sáng tạo.
- Thiếu Hiểu biết Bối cảnh: Hệ thống AI gặp khó khăn trong việc hiểu được sự tinh tế về bối cảnh hoặc cách diễn đạt ngôn ngữ của một vùng, thường dẫn đến lỗi trong kết quả.
- Thiên hướng trong Quá trình Huấn luyện: AI dựa vào dữ liệu lịch sử có thể chứa đựng mọi loại mẫu phân biệt. Trong quá trình huấn luyện, mô hình có thể dễ dàng học các mẫu phân biệt để tạo ra các kết quả không công bằng và thiên hướng.
Làm thế nào để giảm nhẹ thiên hướng và kiểm soát tốt hơn
Có một số chiến lược chính có thể được thực hiện để giảm thiểu thiên hướng trong các mô hình AI. Dưới đây là một số trong số đó:
- Đảm bảo Chất lượng Dữ liệu: Nhập dữ liệu đầy đủ, chính xác và sạch vào mô hình AI có thể giúp giảm thiểu thiên hướng và tạo ra kết quả chính xác hơn.
- Sử dụng Các Bộ Dữ liệu Đa dạng: Đưa các bộ dữ liệu đa dạng vào hệ thống AI có thể giúp làm giảm thiên hướng, vì hệ thống AI trở nên bao hàm nhiều hơn theo thời gian.
- Vòng Phản Hồi Liên tục: Với vòng phản hồi và học tập liên tục, các mô hình AI có thể từ từ cải thiện kết quả của họ.
- Tăng Cường Quy định: Các quy định toàn cầu về Trí tuệ Nhân tạo rất quan trọng để duy trì chất lượng của các hệ thống AI qua biên giới. Do đó, các tổ chức quốc tế phải hợp tác để đảm bảo tiêu chuẩn hóa AI.
- Tăng Cường Sự Thụ động trong việc Áp dụng Trí tuệ Nhân tạo có trách nhiệm: Các chiến lược Trí tuệ Nhân tạo có trách nhiệm đóng góp tích cực vào việc giảm thiểu thiên hướng trong AI, phát triển tính công bằng và độ chính xác trong các hệ thống AI, đồng thời đảm bảo rằng chúng phục vụ một đối tượng người dùng đa dạng trong khi luôn nỗ lực cho sự cải thiện liên tục.
Bằng cách tích hợp các bộ dữ liệu đa dạng, trách nhiệm đạo đức và các phương tiện truyền thông mở cửa, chúng ta có thể đảm bảo rằng Trí tuệ Nhân tạo là nguồn cống hiến tích cực cho thế giới toàn cầu.
Haziqa Sajid là một Nhà Khoa học Dữ liệu có kinh nghiệm rộng lớn trong việc viết nội dung kỹ thuật cho các công ty về Trí tuệ Nhân tạo và dịch vụ phần mềm dựa trên nền tảng dịch vụ.
