McKinsey & Company, tập đoàn gần tròn một thế kỷ tuổi, là một trong những công ty tư vấn lớn nhất trên thế giới, đã thu hút sự chú ý của công chúng vào đầu năm nay khi nhanh chóng tiếp nhận các công cụ trí tuệ nhân tạo tạo nội dung, thông báo vào tháng Sáu rằng gần một nửa trong số 30,000 nhân viên của họ đã sử dụng công nghệ này.
Bây giờ, công ty đang ra mắt một công cụ trí tuệ nhân tạo riêng của mình: Lilli, một ứng dụng trò chuyện mới dành cho nhân viên, được thiết kế bởi nhóm “ClienTech” của McKinsey dưới sự chỉ đạo của Giám đốc Công nghệ thông tin (CTO) Jacky Wright. Công cụ này cung cấp thông tin, hiểu biết, dữ liệu, kế hoạch và thậm chí đề xuất các chuyên gia nội bộ phù hợp nhất cho các dự án tư vấn, tất cả dựa trên hơn 100,000 tài liệu và bản ghi cuộc phỏng vấn.
“Nếu bạn có thể hỏi một câu hỏi cho tổng thể kiến thức của McKinsey và [một trí tuệ nhân tạo] có thể trả lời, điều đó sẽ mang lại điều gì cho công ty? Đó chính xác là điều mà Lilli thực hiện,” đối tác cấp cao McKinsey, Erik Roth, người đã dẫn dắt quá trình phát triển sản phẩm, chia sẻ trong một cuộc phỏng vấn video với VentureBeat.
Được đặt theo tên Lillian Dombrowski, người phụ nữ đầu tiên mà McKinsey tuyển dụng vào vai trò dịch vụ chuyên nghiệp vào năm 1945, Lilli đã trong giai đoạn beta từ tháng Sáu năm 2023 và sẽ được triển khai trên toàn bộ McKinsey vào mùa thu này.
Roth và các cộng sự tại McKinsey đã chia sẻ với VentureBeat rằng Lilli đã được sử dụng trong giai đoạn beta bởi khoảng 7,000 nhân viên như một “sản phẩm tối thiểu khả dụng” (MVP) và đã giảm thời gian dành cho công việc nghiên cứu và lập kế hoạch từ vài tuần xuống còn vài giờ, và trong các trường hợp khác, từ vài giờ xuống cả vài phút.
“Chỉ trong hai tuần gần đây, Lilli đã trả lời 50,000 câu hỏi,” Roth nói. “66% người dùng quay lại sử dụng nó nhiều lần mỗi tuần.”
Cách hoạt động của trí tuệ nhân tạo Lilli của McKinsey
Roth đã cung cấp một phiên bản thử nghiệm độc quyền của Lilli cho VentureBeat, hiển thị giao diện và một số ví dụ về các câu trả lời mà nó tạo ra.
Giao diện này sẽ quen thuộc với những người đã sử dụng các công cụ trí tuệ nhân tạo tạo nội dung dựa trên văn bản như ChatGPT của OpenAI và Claude 2 của Anthropic. Lilli bao gồm một ô nhập văn bản cho người dùng đặt câu hỏi, tìm kiếm và gợi ý ở dưới cùng của cửa sổ chính, và tạo ra các câu trả lời ở phía trên dưới dạng cuộc trò chuyện theo thời gian, hiển thị các gợi ý của người dùng và các câu trả lời của Lilli theo sau.
Tuy nhiên, có một số tính năng nổi bật ngay lập tức về khả năng sử dụng bổ sung: Lilli cũng bao gồm một thanh bên trái có thể mở rộ rải rác các gợi ý đã lưu, mà người dùng có thể sao chép và dán lại, và sửa đổi theo ý muốn của họ. Roth cho biết rằng các danh mục cho những gợi ý này cũng sẽ sớm có trên nền tảng.
Chức năng trò chuyện Gen AI và khả năng phục vụ khách hàng
Giao diện bao gồm hai tab mà người dùng có thể chuyển đổi giữa chúng. Tab đầu tiên là “GenAI Chat” thu thập dữ liệu từ một hệ thống quản lý ngôn ngữ lớn (LLM) tổng quát hơn, còn tab thứ hai là “Client Capabilities” thu thập các phản hồi từ bộ tài liệu, bản ghi và bài thuyết trình của McKinsey có hơn 100,000 tài liệu.
“Chúng tôi đã cố ý tạo ra cả hai trải nghiệm này để tìm hiểu và so sánh những gì chúng tôi có bên trong với những gì có sẵn công khai,” Roth chia sẻ trong một email với VentureBeat.
Một điểm khác biệt khác nằm ở việc thu thập nguồn thông tin: Trong khi nhiều mô hình quản lý ngôn ngữ không đề cập cụ thể hoặc liên kết đến các nguồn mà họ dựa vào để tạo ra phản hồi của mình – với Microsoft Bing Chat dựa trên OpenAI là một ngoại lệ đáng chú ý – Lilli cung cấp một phần “Nguồn” riêng biệt dưới mỗi phản hồi, cùng với các liên kết và thậm chí là số trang để chỉ đến các trang cụ thể mà mô hình dựa vào để tạo ra phản hồi.
“Chúng tôi đảm bảo đầy đủ quyền sở hữu thông tin nguồn,” Roth nói. “Những khách hàng tôi đã nói chuyện với rất phấn khích về điều đó.”
Những công việc mà Lilli của McKinsey có thể được sử dụng
Với rất nhiều thông tin sẵn có, Lilli AI mới của McKinsey được sử dụng tốt nhất cho những nhiệm vụ nào?
Roth cho biết ông tưởng tượng rằng các tư vấn viên của McKinsey sẽ sử dụng Lilli trong hầu hết mọi bước của công việc với khách hàng, từ thu thập nghiên cứu ban đầu về lĩnh vực và đối thủ cạnh tranh của khách hàng hoặc các công ty tương đối, đến việc lập kế hoạch cho cách khách hàng có thể thực hiện các dự án cụ thể.
Phiên bản thử nghiệm của Lilli trên VentureBeat đã thể hiện tính đa dạng như vậy: Lilli đã có thể cung cấp danh sách các chuyên gia nội bộ của McKinsey có đủ khả năng để nói về một nhà bán lẻ thương mại điện tử lớn, cũng như triển vọng về năng lượng sạch tại Hoa Kỳ trong thập kỷ tới, và một kế hoạch để xây dựng một nhà máy năng lượng mới trong vòng 10 tuần.
Trong suốt quá trình đó, trí tuệ nhân tạo đã trích dẫn nguồn một cách rõ ràng ở phía dưới.
Mặc dù các phản hồi đôi khi chậm hơn một vài giây so với các mô hình quản lý ngôn ngữ thương mại hàng đầu, Roth nói rằng McKinsey đang liên tục cập nhật tốc độ và ưu tiên chất lượng thông tin hơn là tốc độ nhanh chóng.
Hơn nữa, Roth cho biết công ty đang thử nghiệm việc kích hoạt một tính năng cho phép tải lên thông tin và tài liệu của khách hàng để phân tích một cách an toàn và riêng tư trên máy chủ McKinsey, nhưng ông nói rằng tính năng này vẫn đang được phát triển và sẽ không được triển khai cho đến khi nó hoàn thiện.
“Lilli có khả năng tải lên dữ liệu của khách hàng một cách an toàn và bảo mật,” Roth giải thích. “Chúng tôi có thể nghĩ đến các trường hợp sử dụng trong tương lai, nơi chúng tôi sẽ kết hợp dữ liệu của chúng tôi với dữ liệu của khách hàng, hoặc chỉ sử dụng dữ liệu của khách hàng trên cùng một nền tảng để tạo ra sự tổng hợp và khám phá mạnh mẽ hơn… bất cứ điều gì chúng tôi tải lên Lilli đều được tiến hành thông qua một quá trình đánh giá rủi ro tuân thủ nghiêm ngặt, bao gồm cả dữ liệu của chúng tôi.”
Công nghệ ứng dụng trong Lilli
Lilli sử dụng các mô hình quản lý ngôn ngữ hiện có, bao gồm cả những mô hình được phát triển bởi đối tác của McKinsey là Cohere cũng như OpenAI trên nền tảng Microsoft Azure, để cung cấp thông tin cho khả năng GenAI Chat và xử lý ngôn ngữ tự nhiên (NLP).
Tuy nhiên, ứng dụng này đã được xây dựng bởi McKinsey và hoạt động như một lớp bảo mật an toàn nằm giữa người dùng và dữ liệu cơ bản.
“Chúng tôi xem Lilli như một ngăn xếp riêng của nó,” Roth nói. “Vì vậy, lớp riêng của nó đặt ở giữa tập thể và các mô hình quản lý ngôn ngữ. Nó có khả năng học sâu, nó có các mô-đun có thể được đào tạo, nhưng đó là sự kết hợp của các công nghệ mà cùng nhau tạo nên ngăn xếp.”
Roth nhấn mạnh rằng McKinsey “không kén chọn LLM” và liên tục khám phá các mô hình LLM và trí tuệ nhân tạo mới để xem cái nào mang lại hiệu quả cao nhất, bao gồm cả các phiên bản cũ vẫn đang được duy trì.
Trong khi công ty đang tìm cách mở rộ việc sử dụng cho tất cả nhân viên, Roth cũng nói rằng McKinsey không loại trừ khả năng đặt tên riêng cho Lilli hoặc biến nó thành một sản phẩm dành cho khách hàng hoặc các công ty khác.
“Hiện tại, tất cả các cuộc thảo luận đang trong quá trình tiến hành,” Roth nói. “Cá nhân tôi tin rằng mọi tổ chức đều cần một phiên bản của Lilli.”
