Làm giàu nhanh chóng

Làm giàu nhanh là quá trình tự động thêm ngữ cảnh hoặc thông tin liên quan theo chương trình vào lời nhắc ban đầu của người dùng trước khi gửi đến mô hình AI , đặc biệt là Mô hình Ngôn ngữ Lớn (LLM) . Mục tiêu là chuyển đổi một truy vấn đơn giản hoặc mơ hồ của người dùng thành một hướng dẫn chi tiết, cụ thể và có nhận thức về ngữ cảnh . Bước tiền xử lý này giúp mô hình AI hiểu rõ hơn ý định của người dùng, dẫn đến các phản hồi chính xác, cá nhân hóa và hữu ích hơn đáng kể mà không cần thay đổi chính mô hình.

Làm thế nào để làm giàu nhanh chóng

Làm giàu lời nhắc hoạt động như một lớp trung gian thông minh. Khi người dùng gửi truy vấn, một hệ thống tự động sẽ tiếp nhận truy vấn đó. Hệ thống này sau đó thu thập dữ liệu ngữ cảnh từ nhiều nguồn khác nhau, chẳng hạn như hồ sơ người dùng, lịch sử hội thoại, dữ liệu phiên (như loại thiết bị hoặc vị trí), hoặc cơ sở dữ liệu bên ngoài. Sau đó, nó tự động đưa thông tin này vào lời nhắc ban đầu. Lời nhắc "được làm giàu" kết quả, giờ đây chứa cả truy vấn của người dùng và ngữ cảnh được thêm vào, cuối cùng được chuyển đến LLM để xử lý. Điều này cải thiện khả năng thực hiện các tác vụ Hiểu Ngôn ngữ Tự nhiên (NLU) phức tạp của mô hình.

Ứng dụng trong thế giới thực

1. Hỗ trợ Khách hàng Cá nhân hóa: Người dùng tương tác với chatbot thương mại điện tử và nhập câu hỏi "Gói hàng của tôi ở đâu?". Hệ thống làm giàu thông tin nhắc nhở có thể tự động lấy thông tin tài khoản của người dùng và số đơn hàng gần đây nhất của họ từ cơ sở dữ liệu CRM. Thông tin nhắc nhở được gửi đến mô hình sẽ trở thành: "Mã khách hàng 98765 đang hỏi về trạng thái của đơn hàng gần đây nhất của họ, #ABC-12345. Câu hỏi ban đầu của người dùng: 'Gói hàng của tôi ở đâu?'". Điều này cho phép nhân viên dịch vụ khách hàng do AI điều khiển cung cấp thông tin cập nhật cụ thể, tức thì thay vì yêu cầu làm rõ thông tin.
2. Đề xuất Nội dung Thông minh hơn: Người dùng dịch vụ phát trực tuyến nói: "Đề xuất một bộ phim". Câu này quá mơ hồ để đưa ra một đề xuất tốt. Quá trình làm giàu có thể bổ sung lời nhắc này bằng các dữ liệu như lịch sử xem phim của người dùng, sở thích thể loại phim và thời gian trong ngày. Lời nhắc cuối cùng có thể trông như sau: "Gần đây người dùng thích phim khoa học viễn tưởng và phim chính kịch lịch sử. Hôm nay là tối thứ Bảy. Đề xuất một bộ phim phù hợp với các tiêu chí này". Điều này dẫn đến một đề xuất phù hợp hơn từ hệ thống đề xuất và cải thiện trải nghiệm người dùng thông qua tính năng cá nhân hóa .

Làm giàu nhanh chóng so với các khái niệm liên quan

Điều quan trọng là phải phân biệt sự làm giàu nhanh chóng với các thuật ngữ tương tự:

• Kỹ thuật nhắc nhở : Đây là một lĩnh vực rộng lớn trong việc thiết kế các lời nhắc hiệu quả. Làm giàu lời nhắc là một kỹ thuật tự động cụ thể trong kỹ thuật nhắc nhở, tập trung vào việc thêm ngữ cảnh động vào thông tin đầu vào của người dùng.
• Retrieval-Augmented Generation (RAG) : RAG là một loại làm giàu nhanh chóng mạnh mẽ và cụ thể. Nó chuyên về việc lấy thông tin thực tế từ một cơ sở tri thức bên ngoài để làm nền tảng cho kết quả đầu ra của mô hình và ngăn ngừa ảo giác . Mặc dù RAG là một hình thức làm giàu, nhưng làm giàu cũng có thể sử dụng các nguồn ngữ cảnh khác, chẳng hạn như dữ liệu phiên người dùng, vốn không phải là một phần của cơ sở tri thức tĩnh.
• Chuỗi Gợi ý : Kỹ thuật này chia nhỏ một tác vụ thành một chuỗi nhiều gợi ý được kết nối với nhau, trong đó đầu ra của một gợi ý sẽ được đưa vào gợi ý tiếp theo. Ngược lại, làm giàu sẽ sửa đổi một gợi ý duy nhất trước khi nó được xử lý. Một bước làm giàu gợi ý có thể là một phần của một chuỗi lớn hơn, thường là bước đầu tiên. Các kỹ thuật khác như Chuỗi Suy nghĩ (CoT) tập trung vào việc cải thiện khả năng lập luận trong một tương tác duy nhất.
• Điều chỉnh nhanh : Đây là một phương pháp huấn luyện mô hình. Là một kỹ thuật tinh chỉnh hiệu quả tham số (PEFT) , phương pháp này điều chỉnh hành vi của mô hình bằng cách huấn luyện một tập hợp nhỏ các tham số mới. Làm giàu nhanh là một kỹ thuật suy luận theo thời gian, thao tác truy vấn đầu vào và không thay đổi trọng số của mô hình .

Mặc dù phổ biến nhất trong Xử lý Ngôn ngữ Tự nhiên (NLP) , ý tưởng cốt lõi này có thể áp dụng cho học máy . Trong thị giác máy tính , một khái niệm tương tự có thể bao gồm việc thêm siêu dữ liệu (ví dụ: vị trí, thời gian) vào hình ảnh để cải thiện hiệu suất của một mô hình như Ultralytics YOLO11 trong tác vụ phát hiện đối tượng . Các nền tảng MLOps như Ultralytics HUB cung cấp cơ sở hạ tầng cần thiết cho việc triển khai mô hình mạnh mẽ, nơi các đường ống đầu vào tinh vi sử dụng các khung làm giàu và các nền tảng như LangChain hoặc LlamaIndex có thể được triển khai.