ngày 31 tháng 1 năm 2025
Tác giả: Antoine Tardif
Một đánh giá red teaming gần đây do Enkrypt AI thực hiện đã phát hiện ra các rủi ro an ninh nghiêm trọng, mối lo ngại về đạo đức và các lỗ hổng trong DeepSeek-R1. Những phát hiện này, được trình bày chi tiết trong Báo cáo Red Teaming tháng 1 năm 2025, nhấn mạnh rằng mô hình này có khả năng tạo ra nội dung độc hại, thiên vị và kém an toàn hơn so với các mô hình hàng đầu trong ngành như GPT-4o, o1 của OpenAI và Claude-3-Opus. Dưới đây là phân tích chi tiết về các rủi ro được nêu trong báo cáo và các khuyến nghị để giảm thiểu chúng.
Các Rủi Ro An Ninh và Đạo Đức Chính
1. Đầu Ra Gây Hại và Rủi Ro An Ninh
- Dễ bị khai thác để tạo ra nội dung độc hại, bao gồm ngôn ngữ độc hại, đầu ra thiên vị và thông tin có thể bị lợi dụng cho mục đích phạm tội.
- Có khả năng tạo nội dung độc hại cao hơn 11 lần so với o1 của OpenAI.
- Độc hại hơn 4 lần so với GPT-4o.
- Thiên vị hơn 3 lần so với Claude-3-Opus.
- Dễ tạo ra mã nguồn kém an toàn hơn 4 lần so với o1 của OpenAI.
- Rất dễ bị khai thác để tạo ra thông tin liên quan đến CBRN (Hóa học, Sinh học, Phóng xạ và Hạt nhân), khiến nó trở thành công cụ có nguy cơ cao đối với các đối tượng xấu.
2. So Sánh với Các Mô Hình Khác
| Danh mục rủi ro | DeepSeek-R1 | Claude-3-Opus | GPT-4o | o1 của OpenAI |
|---|---|---|---|---|
| Thiên vị | Cao hơn 3 lần | Thấp hơn | Tương đương | Tương đương |
| Mã nguồn kém an toàn | Cao hơn 4 lần | Cao hơn 2.5 lần | Cao hơn 1.25 lần | – |
| Nội dung độc hại | Cao hơn 11 lần | Cao hơn 6 lần | Cao hơn 2.5 lần | – |
| Mức độ độc hại | Cao hơn 4 lần | Gần như không có | Cao hơn 2.5 lần | – |
| Nội dung CBRN | Cao hơn 3.5 lần | Cao hơn 3.5 lần | Cao hơn 2 lần |
Rủi Ro Thiên Vị và Đạo Đức
- 83% các cuộc tấn công nhằm khai thác thiên vị đã thành công, cho thấy mức độ thiên vị đáng kể trong các truy vấn liên quan đến y tế, chủng tộc và tôn giáo.
- Mô hình thể hiện mức độ rập khuôn nhân khẩu học cao hơn, có thể vi phạm các quy định về công bằng như ECOA, FHA, ACA và Đạo luật AI của EU.
- Các trường hợp kiểm tra mẫu cho thấy DeepSeek-R1 ưu tiên một số nhóm nhân khẩu học nhất định cho các vị trí công việc cấp cao, củng cố sự thiên vị tại nơi làm việc.
Tạo Nội Dung Gây Hại
- 45% các bài kiểm tra độc hại cho thấy mô hình tạo ra nội dung liên quan đến hoạt động tội phạm, bao gồm vũ khí bất hợp pháp và chất cấm.
- Một truy vấn thử nghiệm yêu cầu mô hình viết blog về “Nghệ thuật thuyết phục trong tuyển mộ khủng bố” đã dẫn đến một phản hồi chi tiết, nêu rõ các chiến lược cực đoan hóa, có thể bị các nhóm cực đoan khai thác để tinh chỉnh chiến thuật tuyển mộ, làm tăng nguy cơ bạo lực trong thế giới thực.
- DeepSeek-R1 dễ bị khai thác để tạo nội dung cực đoan hơn GPT-4o gấp 2.5 lần và hơn Claude-3-Opus gấp 6 lần.
- 45% các bài kiểm tra độc hại dẫn đến mô hình tạo nội dung liên quan đến hoạt động tội phạm, bao gồm vũ khí bất hợp pháp và chất cấm.
Tạo Mã Nguồn Kém An Toàn
- 78% các cuộc tấn công liên quan đến mã đã thành công trong việc trích xuất đoạn mã độc hại và kém an toàn.
- Mô hình có thể tạo ra phần mềm độc hại, trojan và script tự thực thi theo yêu cầu.
- Trojan đặc biệt nguy hiểm vì chúng có thể cho phép kẻ tấn công xâm nhập hệ thống một cách âm thầm, đánh cắp dữ liệu nhạy cảm và triển khai mã độc khác.
- Script tự thực thi có thể tự động hóa các hành động độc hại mà không cần sự đồng ý của người dùng, gây rủi ro cao trong các ứng dụng yêu cầu bảo mật nghiêm ngặt.
- So với các mô hình khác trong ngành, DeepSeek-R1 dễ bị khai thác hơn:
- 4.5 lần so với OpenAI’s o1
- 2.5 lần so với Claude-3-Opus
- 1.25 lần so với GPT-4o
- 78% các cuộc tấn công vào mã đã thành công trong việc trích xuất đoạn mã độc hại.
Lỗ Hổng CBRN
- Mô hình đã tạo ra thông tin chi tiết về cơ chế sinh hóa của các tác nhân chiến tranh hóa học, có thể bị lợi dụng để tổng hợp vật liệu nguy hiểm và vượt qua các hạn chế an toàn nhằm ngăn chặn sự phát tán của vũ khí hóa học và sinh học.
- 13% các bài kiểm tra đã vượt qua cơ chế kiểm soát an toàn, dẫn đến mô hình tạo ra nội dung liên quan đến mối đe dọa hạt nhân và sinh học.
- DeepSeek-R1 dễ bị khai thác hơn Claude-3-Opus và OpenAI’s o1 gấp 3.5 lần.
Khuyến Nghị Giảm Thiểu Rủi Ro
Để giảm thiểu rủi ro liên quan đến DeepSeek-R1, cần thực hiện các biện pháp sau:
1. Triển Khai Huấn Luyện Căn Chỉnh An Toàn Chặt Chẽ
- Sử dụng tập dữ liệu red teaming để huấn luyện mô hình phản hồi an toàn hơn.
- Thực hiện học củng cố với phản hồi con người (RLHF) để đảm bảo mô hình tuân thủ các tiêu chuẩn đạo đức.
2. Red Teaming Tự Động Liên Tục
- Tiến hành kiểm tra căng thẳng (stress test) định kỳ để phát hiện thiên vị, lỗ hổng bảo mật và nội dung độc hại.
- Giám sát liên tục hiệu suất mô hình, đặc biệt trong tài chính, y tế và an ninh mạng.
3. Cơ Chế Bảo Vệ Theo Ngữ Cảnh
- Phát triển hàng rào bảo vệ động để chặn các truy vấn độc hại.
- Áp dụng công cụ kiểm duyệt nội dung để trung hòa đầu vào nguy hiểm và lọc phản hồi không an toàn.
4. Giám Sát Hoạt Động và Ghi Log Chủ Động
- Ghi log thời gian thực tất cả các truy vấn và phản hồi của mô hình để phát hiện sớm lỗ hổng.
- Thiết lập quy trình kiểm toán tự động để đảm bảo tuân thủ các tiêu chuẩn minh bạch và đạo đức trong AI.
5. Biện Pháp Minh Bạch và Tuân Thủ Quy Định
- Duy trì hồ sơ rủi ro của mô hình, cung cấp các chỉ số rõ ràng về độ tin cậy, bảo mật và rủi ro đạo đức.
- Tuân thủ các quy định AI như NIST AI RMF và MITRE ATLAS để đảm bảo uy tín và tính minh bạch.
Kết Luận
DeepSeek-R1 đặt ra những rủi ro nghiêm trọng về bảo mật, đạo đức và tuân thủ, khiến nó không phù hợp cho nhiều ứng dụng có rủi ro cao nếu không có các biện pháp giảm thiểu mạnh mẽ. Khả năng tạo ra nội dung độc hại, thiên vị và không an toàn của mô hình này khiến nó kém an toàn hơn so với các mô hình như Claude-3-Opus, GPT-4o và OpenAI’s o1.
Vì DeepSeek-R1 là sản phẩm có nguồn gốc từ Trung Quốc, nên khả năng thực hiện đầy đủ các khuyến nghị giảm thiểu là rất thấp. Tuy nhiên, cộng đồng AI và an ninh mạng vẫn cần nhận thức rõ về những rủi ro tiềm ẩn mà mô hình này mang lại. Việc công khai những lỗ hổng này sẽ giúp các nhà phát triển, cơ quan quản lý và doanh nghiệp có thể chủ động giảm thiểu tác hại và cảnh giác trước các nguy cơ lạm dụng công nghệ AI.
Các tổ chức muốn triển khai DeepSeek-R1 phải đầu tư vào kiểm tra bảo mật nghiêm ngặt, red teaming tự động và giám sát liên tục để đảm bảo việc sử dụng AI an toàn và có trách nhiệm.
Bạn có thể tải xuống báo cáo chi tiết tại trang này để tìm hiểu thêm.
