Mỗi một dự án ký được với khách hàng lại là một chướng ngại vật mới. Lần trước cứ nghĩ làm AI trong nhà máy của Rạng Đông là mình đã gặp đến ca khó cực điểm khi mà phải giải phẳng hàng nghìn dữ liệu của khách hàng ra nhằm hạn chế tối đa việc suy luận của mô hình làm phát sinh nguy cơ lú lẫn thì lần này lại gặp một thách thức khác, nhức đầu hơn, khó kiểm soát hơn, phát điên hơn rất nhiều.
Cũng chẳng cần dài dòng để không đi ngay vào vấn đề, đó là cách diễn đạt của tập người dùng mà khách hàng của mình hướng tới.
Khách hàng của mình thuộc nhóm tư nhân, vận hành 20 fapnage với khoảng 20 nhân viên trực, tư vấn, chốt khách. Các trang web này được chạy ads với ngân sách rất cao vì vậy lượng người dùng của họ chat cũng rất lớn. Nhiệm vụ phải xây dựng 1 em chatbot để cùng với nhân viên trực page chat với khách hàng.
Nghe thì đơn giản và giai đoạn đầu xử lý dữ liệu như cách mình vẫn làm cũng diễn ra suôn sẻ, team dự án khách hàng cũng ok, cho đến khi đưa vào hoạt động thực tế với người dùng thật thì ôi trời. Tỷ lệ bot trả lời sai, nhầm lẫn, từ chối khách (đuổi khách) lên đến 50%. Nguyên nhân do đâu? Từ trước đến giờ mình chưa bao giờ gục ngã với bất cứ khách hàng nào, sao mà lần này tệ đến vậy?
Ads của khách hàng cắn ngân sách kèn kẹt, mỗi một lần từ chối khách là 1 lần buốt ruột, bot làm ra không phải để chơi, không để khoe, mà buộc phải mang lại hiệu quả thật. Nhưng buộc phải để chạy với người dùng thật thì mới tinh chỉnh thực tế được. Khách hàng lo lắng, mình thì cũng chẳng kém gì.
Vâng, không dài dòng nhưng mãi đến giờ mới đi vào điểm chốt. Đó là tập khách hàng và cách trao đổi, cách diễn đạt của họ, nói thật cá nhân mình nhìn vào mình cũng choáng nặng:
– Teen code
– Viết tắt vô tội vạ và cũng chẳng có quy luật
– Diễn đạt nhiều câu cho một ý
– Viết sai chính tả, viết không dấu
– Chấm phẩy, sử dụng dấu câu tuyệt đối không theo bất cứ quy tắc nào hiện có
– Cách diễn đạt lủng củng
– Bot hỏi 1 đằng, khách trả lời một nẻo
– Lĩnh vực chuyên môn sâu trong y tế
– Người dùng tâm sự, than thở
– Và điểm khó nhất là khách nghĩ rằng cái Fanpage đó có chính ông bác sĩ trực phía sau, và em bot thì không được lộ ra rằng nó là Trợ lý.
– Quá trình hoạt động thì team trực page 20 người sẽ liên tục có ý kiến rằng trường hợp này em bot cần trả lời thế này, trả lời thế kia với N logic mới đưa vào.
Ví dụ: “e thi có con rôi tu năm 2015 con của ck cũ ah . ck e la ck thư 2 . lấy ck e cung gần 3 năm rôi vân chua co con ạ”
Tiếp đến, bản thân khách hàng thì thực sự ban đầu cũng không hình dung được hết vấn đề, nên họ đưa kịch bản ra liên tục, mà kịch bản đâu có ngắn, có đến hơn 30 trường hợp phải đoán định, if/then với các nhận định về bệnh lý, chỉ số cùng hàng nghìn hàng nghìn tổ hợp diễn đạt lủng củng của người dùng chỉ để đi đến 4 quyết định chính, từ chối hay là xin số điện thoại, cầu cứu người hay trả lời tiếp.
Khách hàng cũng chẳng quan tâm đến tool này tool kia, tính năng này hay chức năng nọ của bot, có chỗ nào để đút tài liệu hay quản lý tri thức, chỉnh sửa prompt không?, họ chỉ cần em bot hoạt động đúng ý họ muốn. CHẤM HẾT. Mọi việc còn lại team mình cân tất.
Vậy đó, với bạn thì bạn có dám làm không? Chứ với team mình, do đói nên cân tất, giá cũng chẳng cao, có việc là mừng rồi.
Ròng rã suốt từ tháng 4 đến giờ quay liên tục, hết tối ưu prompt ở nhiều agent trong các điểm xử lý khác nhau, chỉnh sửa dữ liệu thậm chí thay đổi chương trình để kiểm soát từng từ, từng câu, từng chữ, ở giữa, ở cuối trong input đầu vào của người dùng giống như làm với chatbot kịch bản kiểu cũ để làm trong sáng hơn ý định của người dùng, sử dụng từ 4pt-4o-mini, gpt-4.1-mini đến gpt-4.1 đắt lòi kèn ra mà vẫn lú vẫn lẫn như thường.
Cứ giã như vậy liên tục team dự án bên mình 3 người vs với team trực page & dự án bên khách hàng là 23 người vật nhau từ 9h sáng đến 10 giờ đêm, cay nữa là người dùng toàn chat rầm rộ vào lúc từ 5pm đến 11pm nên soi mờ mắt.
Ơn giời, cứ kiên trì, mà team bên khách hàng của mình cũng lỳ, vật nhau mãi rồi quay ra động viên nhau, động viên mãi rồi mọi việc cũng dần dần đi vào kiểm soát
Đây là một Chatbot RAG, có phỏng vấn khách hàng theo một quy trình đầy đủ nhưng mềm dẻo, có trả lời khách hàng, có soi xét bệnh lý và các điều kiện liên quan, biết cách từ chối và biết xin số điện thoại. Làm việc song song với nhân viên trực page.
Chưa thật tuyệt hảo lắm, vẫn còn điểm nhầm lẫn nếu khách hàng diễn đạt lủng củng, đánh đố nhưng nó đã được chấp nhận như một nhân viên thứ 2 của mỗi page, giúp cho 20 nhân viên trực page chính có thể giảm tải đến 60% gánh nặng hàng ngày.
Đối với mình đây thực sự là một niềm vui, thực sự là một trải nghiệm cũng như tích luỹ được một rổ kinh nghiệm thật tuyệt vời.