Làm phong phú Prompt (Prompt Enrichment)

Làm phong phú prompt là quá trình tự động thêm theo chương trình ngữ cảnh hoặc thông tin liên quan vào prompt ban đầu của người dùng trước khi nó được gửi đến một mô hình AI, đặc biệt là Mô hình ngôn ngữ lớn (LLM). Mục tiêu là chuyển đổi một truy vấn đơn giản hoặc mơ hồ của người dùng thành một hướng dẫn chi tiết, cụ thể và nhận biết ngữ cảnh. Bước tiền xử lý này giúp mô hình AI hiểu rõ hơn ý định của người dùng, dẫn đến các phản hồi chính xác hơn, được cá nhân hóa và hữu ích hơn đáng kể mà không làm thay đổi chính mô hình.

Cách Làm Phong Phú Prompt Hoạt Động

Làm phong phú prompt hoạt động như một lớp middleware thông minh. Khi người dùng gửi một truy vấn, một hệ thống tự động chặn nó. Sau đó, hệ thống này thu thập dữ liệu theo ngữ cảnh từ nhiều nguồn khác nhau, chẳng hạn như hồ sơ người dùng, lịch sử hội thoại, dữ liệu phiên (như loại thiết bị hoặc vị trí) hoặc cơ sở dữ liệu bên ngoài. Sau đó, nó tự động chèn thông tin này vào prompt ban đầu. Prompt "được làm phong phú" kết quả, hiện chứa cả truy vấn của người dùng và ngữ cảnh được thêm vào, cuối cùng được chuyển đến LLM để xử lý. Điều này cải thiện khả năng của mô hình để thực hiện các tác vụ Hiểu ngôn ngữ tự nhiên (NLU) phức tạp.

Các Ứng dụng Thực tế

1. Hỗ trợ khách hàng cá nhân hóa: Một người dùng tương tác với chatbot thương mại điện tử và nhập, "Gói hàng của tôi ở đâu?" Hệ thống tăng cường prompt có thể tự động tìm nạp chi tiết tài khoản của người dùng và số đơn đặt hàng gần đây nhất của họ từ cơ sở dữ liệu CRM. Prompt được gửi đến mô hình trở thành: "ID khách hàng 98765 đang hỏi về trạng thái đơn hàng gần đây nhất của họ, #ABC-12345. Câu hỏi ban đầu của người dùng: 'Gói hàng của tôi ở đâu?'" Điều này cho phép nhân viên dịch vụ khách hàng dựa trên AI cung cấp thông tin cập nhật cụ thể, tức thì thay vì yêu cầu thông tin làm rõ.
2. Đề xuất nội dung thông minh hơn: Một người dùng dịch vụ phát trực tuyến nói, "Đề xuất một bộ phim." Điều này quá mơ hồ để có một đề xuất tốt. Quá trình làm phong phú có thể tăng cường lời nhắc này bằng dữ liệu như lịch sử xem của người dùng, sở thích thể loại đã nêu của họ và thời gian trong ngày. Lời nhắc cuối cùng có thể trông như sau: "Người dùng gần đây đã thích phim kinh dị khoa học viễn tưởng và phim драма lịch sử. Đó là một đêm thứ Bảy. Đề xuất một bộ phim phù hợp với các tiêu chí này." Điều này dẫn đến một gợi ý phù hợp hơn từ hệ thống đề xuất và cải thiện trải nghiệm người dùng thông qua cá nhân hóa.

So sánh Làm phong phú Prompt với các khái niệm liên quan

Điều quan trọng là phải phân biệt làm phong phú prompt (prompt enrichment) với các thuật ngữ tương tự:

• Kỹ thuật Prompt (Prompt Engineering): Đây là ngành rộng lớn về thiết kế các prompt hiệu quả. Làm phong phú prompt là một kỹ thuật tự động, cụ thể trong kỹ thuật prompt, tập trung vào việc thêm ngữ cảnh động vào đầu vào của người dùng.
• Tạo sinh tăng cường truy xuất (RAG): RAG là một loại làm phong phú prompt mạnh mẽ và cụ thể. Nó chuyên truy xuất thông tin thực tế từ cơ sở tri thức bên ngoài để làm cơ sở cho đầu ra của mô hình và ngăn chặn ảo giác. Mặc dù RAG là một hình thức làm phong phú, nhưng làm phong phú cũng có thể sử dụng các nguồn ngữ cảnh khác, như dữ liệu phiên người dùng, không phải là một phần của cơ sở tri thức tĩnh.
• Chuỗi Prompt (Prompt Chaining): Kỹ thuật này chia một tác vụ thành một chuỗi các prompt được kết nối với nhau, trong đó đầu ra của một prompt cung cấp cho prompt tiếp theo. Ngược lại, làm phong phú (Enrichment) sửa đổi một prompt duy nhất trước khi nó được xử lý. Một bước làm phong phú prompt có thể là một phần của một chuỗi lớn hơn, thường là bước ban đầu. Các kỹ thuật khác như Prompt theo chuỗi suy nghĩ (Chain-of-Thought - CoT) tập trung vào việc cải thiện khả năng suy luận trong một tương tác duy nhất.
• Prompt Tuning: Đây là một phương pháp huấn luyện mô hình. Là một kỹ thuật tinh chỉnh hiệu quả tham số (PEFT), nó điều chỉnh hành vi của mô hình bằng cách huấn luyện một tập hợp nhỏ các tham số mới. Làm phong phú Prompt là một kỹ thuật thời gian suy luận thao tác truy vấn đầu vào và không thay đổi trọng số của mô hình.

Mặc dù phổ biến nhất trong Xử lý ngôn ngữ tự nhiên (NLP), ý tưởng cốt lõi có thể áp dụng trên toàn bộ machine learning. Trong thị giác máy tính, một khái niệm tương tự có thể liên quan đến việc thêm siêu dữ liệu (ví dụ: vị trí, thời gian) vào hình ảnh để cải thiện hiệu suất của một mô hình như Ultralytics YOLO11 trên một tác vụ nhận diện đối tượng. Nền tảng MLOps như Ultralytics HUB cung cấp cơ sở hạ tầng cần thiết cho triển khai mô hình mạnh mẽ, nơi các quy trình đầu vào phức tạp sử dụng làm phong phú và các framework như LangChain hoặc LlamaIndex có thể được triển khai.