Prompt Chaining

Prompt chaining là một architectural pattern nâng cao trong phát triển Artificial Intelligence (AI), trong đó một tác vụ phức tạp được phân rã thành một chuỗi các sub-task nhỏ hơn, dễ quản lý hơn. Trong workflow này, đầu ra của một bước—thường được tạo ra bởi một Large Language Model (LLM) hoặc hệ thống computer vision—sẽ đóng vai trò là đầu vào cho bước tiếp theo. Không giống như một prompt đơn lẻ mang tính nguyên khối cố gắng giải quyết một vấn đề nhiều mặt cùng một lúc, chaining cho phép các developer xây dựng các ứng dụng đáng tin cậy hơn, dễ kiểm thử hơn và có năng lực cao hơn. Cách tiếp cận theo mô-đun này là thiết yếu để tạo ra các AI Agents phức tạp có khả năng suy luận, duyệt web hoặc tương tác với môi trường vật lý.

Cơ chế của Chaining#

Về cốt lõi, prompt chaining giải quyết các giới hạn về context window và khả năng suy luận trong Foundation Models. Khi một model được yêu cầu thực hiện quá nhiều thao tác khác nhau trong một request duy nhất (ví dụ: "Phân tích hình ảnh này, trích xuất văn bản, dịch sang tiếng Tây Ban Nha và định dạng nó thành hóa đơn JSON"), xác suất xảy ra lỗi sẽ tăng lên. Bằng cách chia nhỏ việc này thành một pipeline, các developer có thể xác minh accuracy của từng giai đoạn.

Các chain hiệu quả thường tận dụng "glue code" được viết bằng Python hoặc được quản lý bởi các thư viện orchestration như LangChain để xử lý việc chuyển đổi dữ liệu giữa các bước. Điều này cho phép tích hợp các công nghệ rời rạc, chẳng hạn như kết hợp độ sắc bén về mặt hình ảnh của Object Detection với độ lưu loát về ngôn ngữ của các generative text model.

Các ứng dụng trong thực tế#

Prompt chaining đặc biệt mạnh mẽ khi thu hẹp khoảng cách giữa các data modality khác nhau, cho phép Multi-Modal Models hoạt động trong các môi trường công nghiệp và thương mại năng động.

1. Báo cáo trực quan tự động: Trong Smart Manufacturing, một hệ thống kiểm soát chất lượng có thể kết hợp vision model với một LLM. Đầu tiên, một model tốc độ cao như Ultralytics YOLO26 sẽ quét các linh kiện trên dây chuyền lắp ráp. Đầu ra có cấu trúc (ví dụ: "Class: Dented_Can, Confidence: 0.92") được chuyển đổi thành một chuỗi văn bản. Văn bản này sau đó được chuyển đến một language model với prompt như "Soạn thảo yêu cầu bảo trì dựa trên lỗi này", tạo ra một email dễ đọc đối với quản lý phân xưởng.

2. Hỗ trợ khách hàng nhận biết ngữ cảnh: Các chatbot thông minh thường sử dụng chaining để điều hướng các truy vấn phức tạp của người dùng. Mắt xích đầu tiên trong chuỗi có thể sử dụng Natural Language Processing (NLP) để phân loại ý định của người dùng. Nếu ý định mang tính kỹ thuật, hệ thống sẽ kích hoạt workflow Retrieval-Augmented Generation (RAG): nó tạo ra các embeddings cho truy vấn, tìm kiếm tài liệu trong một vector database, và cuối cùng yêu cầu LLM tổng hợp các đoạn được truy xuất thành một câu trả lời hữu ích.

Ví dụ mã nguồn Vision-to-Language#

Ví dụ sau đây minh họa "mắt xích" đầu tiên trong một chuỗi: sử dụng Computer Vision (CV) để tạo ra dữ liệu có cấu trúc làm ngữ cảnh cho một prompt ở hạ nguồn.

from ultralytics import YOLO

# Load the YOLO26 model (natively end-to-end and highly efficient)
model = YOLO("yolo26n.pt")

# Step 1: Run inference to 'see' the environment
results = model("https://ultralytics.com/images/bus.jpg")

# Step 2: Format visual detections into a natural language string
det_names = [model.names[int(c)] for c in results[0].boxes.cls]
prompt_context = f"The scene contains: {', '.join(det_names)}. Please describe the likely activity."

# The 'prompt_context' variable is now ready to be sent to an LLM API
print(prompt_context)

Phân biệt các khái niệm liên quan#

Để triển khai các architectural Machine Learning (ML) hiệu quả, việc phân biệt prompt chaining với các thuật ngữ tương tự trong hệ sinh thái AI sẽ rất hữu ích:

• So với Chain-of-Thought Prompting: Chain-of-Thought (CoT) là một kỹ thuật được sử dụng bên trong một prompt đơn lẻ nhằm khuyến khích model "thể hiện quá trình làm việc" của nó (ví dụ: "Suy nghĩ từng bước một"). Prompt chaining liên quan đến nhiều API call riêng biệt trong đó đầu vào cho bước B phụ thuộc vào đầu ra của bước A.
• So với Prompt Engineering: Prompt engineering là một chuyên ngành rộng hơn nhằm tối ưu hóa các input văn bản để khai thác hiệu suất model tốt hơn. Chaining là một pattern kỹ thuật cụ thể tập trung vào luồng hoạt động tuần tự và điều khiển logic.
• So với Prompt Tuning: Prompt tuning là một phương pháp Model Optimization cập nhật các tham số có thể học (soft prompt) trong giai đoạn training. Prompt chaining diễn ra hoàn toàn trong quá trình Real-time Inference và không làm thay đổi các Model Weights của model.

Bằng cách tận dụng prompt chaining, các đội ngũ có thể xây dựng các ứng dụng mạnh mẽ tích hợp logic, truy xuất dữ liệu và Action Recognition. Để quản lý dataset và training vision model cung cấp năng lượng cho các chuỗi này, Ultralytics Platform cung cấp một giải pháp tập trung cho việc annotation, training và deployment.