Retrieval Augmented Generation (RAG)

Tạo Sinh Tăng Cường Truy Xuất (Retrieval-Augmented Generation - RAG) là một framework AI tiên tiến được thiết kế để cải thiện chất lượng, độ chính xác và mức độ liên quan của các phản hồi được tạo bởi Mô hình ngôn ngữ lớn (LLM). Nó hoạt động bằng cách kết nối một mô hình tạo sinh với một cơ sở kiến thức bên ngoài, cập nhật. Điều này cho phép mô hình "truy xuất" thông tin liên quan trước khi tạo ra câu trả lời, định hình hiệu quả đầu ra của nó dựa trên các sự kiện có thể kiểm chứng và giảm khả năng ảo giác hoặc các phản hồi lỗi thời. RAG làm cho LLM đáng tin cậy hơn cho các tác vụ chuyên sâu về kiến thức bằng cách cung cấp cho chúng quyền truy cập vào thông tin chuyên biệt hoặc độc quyền mà chúng không được huấn luyện.

Cách thức hoạt động của Retrieval-Augmented Generation

Quy trình RAG có thể được chia thành hai giai đoạn chính: truy xuất và tạo. Cách tiếp cận hai giai đoạn này kết hợp những điểm mạnh của hệ thống truy xuất thông tin và mô hình tạo sinh.

1. Truy xuất: Khi người dùng cung cấp lời nhắc hoặc đặt câu hỏi, hệ thống RAG trước tiên sử dụng lời nhắc để tìm kiếm thông tin liên quan từ nguồn kiến thức. Nguồn này thường là một cơ sở dữ liệu vector chứa các embedding của tài liệu, bài viết hoặc dữ liệu khác. Thành phần truy xuất xác định và kéo các đoạn văn bản hoặc dữ liệu phù hợp nhất dựa trên truy vấn của người dùng. Một bước tùy chọn nhưng mạnh mẽ là sử dụng trình xếp hạng lại để tinh chỉnh các kết quả được truy xuất này, đảm bảo chỉ thông tin quan trọng nhất về mặt ngữ cảnh được chuyển đi.
2. Tạo tăng cường: Thông tin được truy xuất sau đó được kết hợp với lời nhắc ban đầu của người dùng. Lời nhắc mới, được làm phong phú này được đưa vào mô hình AI tạo sinh (LLM). Mô hình sử dụng ngữ cảnh được thêm vào này để xây dựng một phản hồi toàn diện, chính xác và phù hợp. Các framework như LangChain và LlamaIndex thường được sử dụng để xây dựng và quản lý các quy trình RAG phức tạp này.

Các ứng dụng và ví dụ

RAG đặc biệt hữu ích trong các tình huống đòi hỏi tính chính xác về mặt thực tế và khả năng truy cập vào dữ liệu động hoặc chuyên biệt.

• Hệ thống Trả lời Câu hỏi Nâng cao: Một chatbot hỗ trợ khách hàng có thể sử dụng RAG để truy cập toàn bộ cơ sở kiến thức của công ty về hướng dẫn sử dụng sản phẩm, hướng dẫn khắc phục sự cố và tài liệu chính sách. Khi khách hàng hỏi, "Chính sách bảo hành cho sản phẩm của tôi là gì?", hệ thống sẽ truy xuất tài liệu bảo hành mới nhất và sử dụng nó để cung cấp câu trả lời chính xác, cập nhật, một cải tiến đáng kể so với các phản hồi chung chung.
• Nghiên cứu và tạo nội dung: Một nhà phân tích tài chính có thể sử dụng một công cụ hỗ trợ RAG để viết một bản tóm tắt thị trường. Công cụ này có thể truy xuất các báo cáo tài chính mới nhất, tin tức thị trường và dữ liệu hiệu suất cổ phiếu từ các nguồn đáng tin cậy như Bloomberg hoặc Reuters. Sau đó, LLM tổng hợp thông tin này thành một báo cáo mạch lạc, hoàn chỉnh với các trích dẫn, giúp tăng tốc đáng kể quá trình nghiên cứu.

RAG so với các khái niệm liên quan

Điều quan trọng là phân biệt RAG với các phương pháp khác được sử dụng để nâng cao hiệu suất LLM:

• Tinh chỉnh (Fine-tuning): Tinh chỉnh điều chỉnh một mô hình đã được huấn luyện trước bằng cách tiếp tục huấn luyện trên một tập dữ liệu nhỏ hơn, chuyên biệt hơn, điều này sửa đổi trọng số bên trong của mô hình. Không giống như RAG, nó không tham khảo dữ liệu bên ngoài trong quá trình suy luận. Tinh chỉnh là lý tưởng để dạy cho mô hình một phong cách hoặc kỹ năng mới, trong khi RAG tốt hơn để kết hợp kiến thức thực tế. Các phương pháp này cũng có thể bổ sung cho nhau.
• Kỹ thuật Prompt (Prompt Engineering): Đây là quá trình thủ công thiết kế cẩn thận các prompt để có được đầu ra mong muốn từ một LLM. RAG tự động hóa một phần của quá trình này bằng cách thêm một cách có lập trình ("tăng cường") prompt với dữ liệu được truy xuất, thay vì dựa vào con người để cung cấp thủ công tất cả ngữ cảnh.
• Làm phong phú Prompt (Prompt Enrichment): Mặc dù tương tự như RAG, làm phong phú prompt là một thuật ngữ rộng hơn. Nó có thể liên quan đến việc thêm ngữ cảnh từ lịch sử người dùng hoặc luồng hội thoại. RAG là một loại làm phong phú cụ thể tập trung vào việc truy xuất thông tin thực tế từ cơ sở kiến thức bên ngoài để làm cơ sở cho phản hồi của mô hình.

RAG trong Thị Giác Máy Tính

Mặc dù RAG chủ yếu được sử dụng trong Xử lý ngôn ngữ tự nhiên (NLP), khái niệm cốt lõi của nó đang được khám phá cho các tác vụ thị giác máy tính (CV). Ví dụ: một hệ thống có thể truy xuất thông tin trực quan có liên quan để hướng dẫn việc tạo hoặc phân tích hình ảnh. Điều này có thể liên quan đến việc tìm kiếm các hình ảnh tương tự từ một tập dữ liệu (dataset) lớn để cải thiện hiệu suất của một mô hình phát hiện đối tượng (object detection) như Ultralytics YOLO. Việc quản lý các mô hình và tập dữ liệu phức tạp này được hợp lý hóa bằng các nền tảng như Ultralytics HUB, có thể đóng vai trò là nền tảng cho các ứng dụng mô hình đa phương thức (multi-modal model) trong tương lai sử dụng RAG. Bạn có thể khám phá một triển khai liên quan trong blog của chúng tôi về việc tăng cường AI bằng RAG và thị giác máy tính.