AI Trả Lời Câu Hỏi: Phản Hồi Theo Thời Gian Thực Trong Cuộc Gọi

AI trả lời câu hỏi theo thời gian thực trong các cuộc gọi là một công cụ có phạm vi hẹp nhưng giá trị cao. Hệ thống nghe cuộc trò chuyện và hiển thị câu trả lời trên màn hình khi người kia vẫn còn đang nói. Hầu hết các công cụ tự nhận làm được điều này đều quá chậm hoặc quá ồn để có ích, nhưng một số ít làm đúng sẽ thay đổi hoàn toàn cảm giác của cuộc gọi.

Tôi là người sáng lập Natively, một trợ lý AI trên máy tính để bàn mã nguồn mở (AGPL-3.0) dành cho các cuộc họp và phỏng vấn. Tôi đã tạo ra nhóm sản phẩm này, nên tất nhiên tôi có thiên hướng ủng hộ nó, nhưng tôi cũng sẽ thẳng thắn về những chỗ mà phản hồi theo thời gian thực thất bại, và khi nào bản tóm tắt sau cuộc gọi mới là câu trả lời đúng.

Phản hồi theo thời gian thực thực sự hoạt động như thế nào

Hệ thống thu âm theo thời gian thực. Một mô hình chuyển giọng nói thành văn bản tạo ra bản ghi chép chạy liên tục khi mọi người nói. Một mô hình ngôn ngữ đọc bản ghi đó cùng với ngữ cảnh của người dùng, rồi tạo ra các câu trả lời hiện lên trên màn hình.

Mục tiêu độ trễ thực tế là dưới một giây, tính từ khi câu hỏi được đặt ra đến khi câu trả lời xuất hiện. Chậm hơn mức đó, câu trả lời sẽ đến sau khi thời điểm đã qua. Nhanh hơn mức đó, hệ thống sẽ giống như đọc được suy nghĩ. Hầu hết công cụ trên thị trường đều chậm hơn một giây và mất phần lớn giá trị của mình.

Trên máy của tôi, Natively hiển thị câu trả lời lên màn hình trong chưa đầy 500 mili giây. Hướng dẫn về trợ lý cuộc gọi trình bày chi tiết quy trình hỗ trợ trực tiếp này.

Khi nào phản hồi theo thời gian thực phát huy hiệu quả

Có ba tình huống thuận lợi cho phản hồi theo thời gian thực.

Thứ nhất là một cuộc gọi bán hàng, nơi khách hàng tiềm năng đặt câu hỏi mà bạn cần trả lời trước khi thời điểm đó qua đi. Một gợi ý theo thời gian thực nhắc bạn câu trả lời trước khi bạn mất đi sự chú ý của họ chính là sự khác biệt giữa thắng và mất hợp đồng.

Thứ hai là một cuộc phỏng vấn, nơi câu hỏi mang tính kỹ thuật và bạn cần một gợi ý để nhớ lại khung tư duy phù hợp. Hướng dẫn toàn diện về phỏng vấn AI trình bày kỹ chuyện này.

Thứ ba là một cuộc gọi với khách hàng, nơi câu hỏi yêu cầu tra cứu tài liệu nội bộ. RAG trên tài liệu của bạn, cộng với bản ghi theo thời gian thực, cộng với câu trả lời trên màn hình, cho phép bạn trả lời mà không làm đứt mạch cuộc trò chuyện.

Khi nào nó thất bại

Có hai kiểu thất bại đáng được chỉ rõ.

Thứ nhất là quá chậm. Nếu hệ thống chậm hơn một giây, câu trả lời đến sau khi thời điểm đã qua, và bạn sẽ dành nhiều thời gian nhìn màn hình hơn là lắng nghe người đối diện. Cách xử lý thẳng thắn là kiểm thử trong một cuộc gọi thật trước khi quyết định phụ thuộc vào nó.

Thứ hai là quá ồn. Nếu hệ thống trả lời mọi câu hỏi, kể cả những câu bạn hoàn toàn có thể tự trả lời một cách tự nhiên, cuộc trò chuyện sẽ trở nên gượng gạo. Cách xử lý thẳng thắn là chỉ dùng hệ thống một cách có chọn lọc, cho những câu hỏi mà bạn sẽ không tự trả lời được.

Cách sử dụng phản hồi theo thời gian thực hiệu quả

Có ba thói quen giúp phản hồi theo thời gian thực thực sự hữu ích.

Thứ nhất, cung cấp ngữ cảnh cho hệ thống. Sơ yếu lý lịch, mô tả công việc, thông tin nền về công ty, cuộc gọi gần đây. Phản hồi theo thời gian thực mà không có ngữ cảnh sẽ chung chung, và chung chung thì không hữu ích.

Thứ hai, dùng hệ thống một cách có chọn lọc. Câu trả lời dành cho câu hỏi bạn không thể tự trả lời, không phải cho mọi câu hỏi. Đọc gợi ý, bỏ qua những gì bạn đã biết, chỉ nhìn vào những gì bạn cần.

Thứ ba, tuân theo chính sách của công ty. Một số công ty cho phép dùng AI hỗ trợ trong cuộc gọi, một số thì cấm. Dùng AI ở nơi bị cấm là một rủi ro nghề nghiệp thực sự. Hướng dẫn về phát hiện trình bày cách việc phát hiện hoạt động.

Câu hỏi thường gặp

AI trả lời câu hỏi là gì?

Một công cụ nghe một cuộc trò chuyện và hiển thị câu trả lời trên màn hình theo thời gian thực. Mô hình đọc bản ghi chép đang chạy liên tục cùng ngữ cảnh của người dùng, rồi tạo ra các câu trả lời đến đủ nhanh để sử dụng được.

AI trả lời theo thời gian thực có thực sự hiệu quả không?

Có, trong những tình huống nhất định. Với các cuộc gọi bán hàng, phỏng vấn, và cuộc gọi với khách hàng cần tài liệu nội bộ, phản hồi theo thời gian thực thay đổi cảm giác của cuộc gọi. Mục tiêu độ trễ thực tế là dưới một giây.

AI nào cung cấp phản hồi theo thời gian thực trong cuộc gọi?

Natively. Final Round AI. LockedIn AI. Bảng so sánh công cụ trình bày khía cạnh phỏng vấn, còn bảng so sánh công cụ cuộc họp trình bày khía cạnh cuộc họp.

AI trả lời theo thời gian thực có được phép dùng trong phỏng vấn không?

Tùy vào quy định. Một số công ty cho phép, một số cấm, phần lớn không nói gì. Dùng AI ở nơi bị cấm là một rủi ro thực sự.

Tôi có thể tự xây dựng AI trả lời theo thời gian thực của riêng mình không?

Có thể, bằng cách kết hợp RAG trên tài liệu của bạn, cộng với một pipeline ghi chép theo thời gian thực, cộng với một mô hình tạo ra câu trả lời trong chưa đầy một giây. Natively là lựa chọn phổ biến duy nhất làm được điều này ngay trên máy cục bộ với kiến trúc thu dữ liệu từ máy tính để bàn.

Chọn công cụ phù hợp theo loại câu hỏi

Phản hồi theo thời gian thực là công cụ phù hợp cho những câu hỏi nảy ra trong lúc cuộc gọi diễn ra, những câu mà nếu không có nó bạn sẽ cần một khoảng dừng hoặc phải đoán. Đó là công cụ không phù hợp cho những câu hỏi bạn có thể tự trả lời, hoặc những câu hỏi cần một bản tóm tắt sau cuộc gọi.

Nếu bạn muốn một AI trả lời theo thời gian thực ưu tiên cục bộ cho các cuộc họp và phỏng vấn, bạn có thể dùng thử Natively miễn phí với khóa API riêng của bạn hoặc một mô hình cục bộ.