Để mở rộng quy mô, các Giám đốc Công nghệ thông tin cần tập trung vào ít điều hơn nhưng làm chúng tốt hơn.
Giai đoạn trăng mật của trí tuệ nhân tạo phát sinh (gen AI) đã kết thúc. Như hầu hết các tổ chức đều nhận thức được, việc xây dựng các phi công gen AI ấn tượng có thể khá dễ dàng, nhưng biến chúng thành khả năng hoạt động trên quy mô lớn là một câu chuyện khác. Sự khó khăn trong việc vượt qua bước đột phá này là lý do giải thích tại sao chỉ có 11 phần trăm công ty đã áp dụng gen AI ở quy mô lớn, theo nghiên cứu xu hướng công nghệ mới nhất của chúng tôi.
Giai đoạn trưởng thành này là một phát triển đáng mừng vì nó mang lại cơ hội cho các Giám đốc Công nghệ thông tin biến lời hứa của gen AI thành giá trị kinh doanh. Tuy nhiên, trong khi hầu hết các Giám đốc Công nghệ thông tin biết rằng các phi công không phản ánh các kịch bản thực tế—đó không phải là mục tiêu thực sự của một phi công, sau tất cả—họ thường đánh giá thấp lượng công việc cần phải làm để có thể sẵn sàng sản xuất gen AI. Cuối cùng, để đạt được toàn bộ giá trị từ gen AI, các công ty cần phải thay đổi cách họ làm việc, và việc thiết lập một nền tảng công nghệ có khả năng mở rộng là một phần quan trọng của quá trình đó.
Chúng tôi đã khám phá nhiều vấn đề công nghệ ban đầu quan trọng trong một bài báo trước đó. Trong bài viết này, chúng tôi muốn khám phá bảy sự thật về việc mở rộng gen AI cho phương pháp “Shaper”, trong đó các công ty phát triển ưu thế cạnh tranh bằng cách kết nối các mô hình ngôn ngữ lớn (LLMs) với các ứng dụng nội bộ và nguồn dữ liệu (xem cột bên “Ba phương pháp sử dụng gen AI” để biết thêm chi tiết). Dưới đây là bảy điều mà các Shaper cần biết và thực hiện:
- Loại bỏ tiếng ồn và tập trung vào tín hiệu. Hãy trung thực về những thử nghiệm đã thành công. Giảm thiểu các thí nghiệm. Hướng nỗ lực của bạn vào việc giải quyết các vấn đề kinh doanh quan trọng.
- Điều quan trọng là cách các thành phần ghép lại với nhau, không phải chỉ là các thành phần đơn lẻ. Dành quá nhiều thời gian để đánh giá các thành phần riêng lẻ của một động cơ gen AI. Quan trọng hơn nhiều là tìm hiểu cách chúng hoạt động cùng nhau một cách an toàn.
- Kiểm soát chi phí trước khi chúng làm bạn vỡ nợ. Các mô hình chỉ chiếm khoảng 15 phần trăm tổng chi phí của các ứng dụng gen AI. Hiểu rõ nơi mà chi phí đang ẩn giấu, và áp dụng các công cụ và khả năng phù hợp để kiềm chế chúng.
- Kiểm soát sự phát triển không kiểm soát của các công cụ và công nghệ. Sự phát triển không kiểm soát của cơ sở hạ tầng, các mô hình ngôn ngữ lớn và công cụ đã làm cho việc triển khai trên quy mô lớn trở nên không khả thi. Hãy hẹp lại cho những khả năng phục vụ tốt nhất cho doanh nghiệp, và tận dụng các dịch vụ đám mây có sẵn (trong khi vẫn giữ được tính linh hoạt của bạn).
- Tạo ra các nhóm có thể tạo ra giá trị, không chỉ là các mô hình. Để mở rộng quy mô, cần có một nhóm với nhiều kỹ năng khác nhau không chỉ để xây dựng mô hình mà còn đảm bảo chúng tạo ra giá trị như mong đợi, một cách an toàn và bảo mật.
- Hãy chọn đúng dữ liệu, không phải dữ liệu hoàn hảo. Xác định dữ liệu nào quan trọng nhất và đầu tư vào việc quản lý dữ liệu theo thời gian sẽ ảnh hưởng lớn đến tốc độ mở rộng của bạn.
- Sử dụng lại hoặc mất đi. Mã có thể tái sử dụng có thể tăng tốc độ phát triển của các trường hợp sử dụng trí tuệ nhân tạo sinh học từ 30 đến 50 phần trăm.
