Tác giả: Antoine Tardif
Báo cáo gần đây từ Aporia, một nhà lãnh đạo trong lĩnh vực nền tảng kiểm soát Trí tuệ Nhân tạo (AI), đã đưa ra những phát hiện đáng kinh ngạc trong lĩnh vực Trí tuệ Nhân tạo và Học máy (AI & ML). Có tựa đề “Báo Cáo 2024 về AI & ML: Sự Tiến Hoá của Mô Hình và Giải Pháp”, cuộc khảo sát được tiến hành bởi Aporia chỉ ra một xu hướng ngày càng tăng về ảo giác và độ chệch trong AI tạo sinh và các mô hình ngôn ngữ lớn (LLMs), đặt ra một thách thức quan trọng đối với một ngành công nghiệp đang nhanh chóng tiến triển hướng sự chín muối.
Ảo giác AI đề cập đến những trường hợp mà các mô hình tạo sinh AI tạo ra đầu ra không chính xác, không hợp lý, hoặc không liên quan đến thực tế. Những ảo giác này có thể từ những sai sót nhỏ đến những lỗi quan trọng, bao gồm việc tạo ra nội dung có độ chệch hoặc có thể gây hại.
Hậu quả của ảo giác AI có thể là đáng kể, đặc biệt là khi những mô hình này ngày càng được tích hợp vào nhiều khía cạnh của doanh nghiệp và xã hội. Ví dụ, sự không chính xác trong thông tin tạo sinh bởi AI có thể dẫn đến thông tin sai lệch, trong khi nội dung độ chệch có thể làm lưu truyền các định kiến hoặc thực hành không công bằng. Trong các ứng dụng nhạy cảm như chăm sóc sức khỏe, tài chính hoặc tư vấn pháp lý, những lỗi này có thể có tác động nghiêm trọng, ảnh hưởng đến quyết định và kết quả.
Các kết quả của cuộc khảo sát nhấn mạnh sự cần thiết của việc theo dõi và quan sát đều đặn các mô hình sản xuất.
Cuộc khảo sát của Aporia bao gồm phản hồi từ 1,000 chuyên gia học máy có trụ sở tại Bắc Mỹ và Vương quốc Anh. Những người này làm việc trong các công ty có số lượng nhân viên từ 500 đến 7,000, thuộc các lĩnh vực như tài chính, chăm sóc sức khỏe, du lịch, bảo hiểm, phần mềm và bán lẻ. Những kết quả làm nổi bật cả những thách thức và cơ hội đang đối diện với các nhà lãnh đạo sản xuất ML, đồng thời làm sáng tỏ vai trò quan trọng của tối ưu hóa AI đối với hiệu suất và tạo giá trị.
Các thông điệp chính từ báo cáo bao gồm:
- Sự Phổ Biến của Thách Thức Vận Hành: Đến 93% kỹ sư học máy báo cáo gặp vấn đề với các mô hình sản xuất hàng ngày hoặc hàng tuần. Thống kê đáng chú ý này làm nổi bật nhu cầu quan trọng về các công cụ theo dõi và kiểm soát hiệu quả để đảm bảo hoạt động suôn sẻ.
- Sự Xuất Hiện của Ảo Giác AI: Một tỷ lệ lo lắng 89% của các kỹ sư làm việc với các mô hình ngôn ngữ lớn và AI tạo sinh báo cáo trải qua ảo giác trong những mô hình này. Những ảo giác này thể hiện dưới dạng sai lầm thực tế, độ chệch hoặc nội dung có thể gây hại.
- Tập Trung vào Giảm Độ Chệch: Mặc dù gặp khó khăn trong việc phát hiện dữ liệu độ chệch và thiếu các công cụ theo dõi đầy đủ, có 83% đáng chú ý của người tham gia khảo sát nhấn mạnh sự quan trọng của việc theo dõi độ chệch trong các dự án AI.
- Tầm Quan Trọng của Quan Sát Thời Gian Thực: Đến 88% các chuyên gia học máy tin rằng quan sát thời gian thực là cần thiết để xác định vấn đề trong các mô hình sản xuất, một khả năng không có trong tất cả các doanh nghiệp do thiếu các công cụ theo dõi tự động.
- Đầu Tư Nguồn Lực trong Phát Triển: Báo cáo cho thấy, trung bình, các công ty đầu tư khoảng bốn tháng trong việc phát triển công cụ và bảng điều khiển để theo dõi sản xuất, làm nổi bật những lo ngại có thể liên quan đến hiệu suất và hiệu quả chi phí của những đầu tư như vậy.
“Báo cáo của chúng tôi cho thấy một sự đồng thuận rõ ràng trong ngành, các sản phẩm AI đang được triển khai với tốc độ nhanh chóng, và sẽ có hậu quả nếu những mô hình ML này không được theo dõi,” Liran Hason, CEO của Aporia, tuyên bố. “Những kỹ sư đứng sau những công cụ này đã nói lên – có vấn đề với công nghệ và chúng có thể được sửa chữa. Nhưng cần có các công cụ quan sát chính xác để đảm bảo doanh nghiệp và người tiêu dùng đều nhận được sản phẩm tốt nhất có thể, không có ảo giác và độ chệch.”
Aporia, cam kết nâng cao hiệu suất của các sản phẩm AI được hỗ trợ bởi học máy, đã đang giải quyết những thách thức của MLOps và ủng hộ các thực hành AI có trách nhiệm. Tiếp cận tập trung vào khách hàng của công ty và tích hợp phản hồi từ người dùng đã dẫn đến việc phát triển các công cụ và tính năng mạnh mẽ để cải thiện trải nghiệm người dùng, hỗ trợ mở rộng các mô hình sản xuất và giúp loại bỏ ảo giác.
Báo cáo đầy đủ của Aporia mang đến cái nhìn sâu rộng về những phát hiện này và tác động của chúng đối với ngành công nghiệp AI. Để khám phá thêm, hãy truy cập Báo cáo Khảo sát của Aporia tại đây.
