Structured Outputs

Structured outputs đề cập đến một phương pháp luận trong trí tuệ nhân tạo, trong đó các phản hồi của model được thực thi nghiêm ngặt để tuân thủ theo một định dạng dữ liệu được định nghĩa trước, điển hình là một JSON Schema. Trong các Large Language Models (LLMs) truyền thống, việc tạo văn bản dựa trên dự đoán token xác suất, thường dẫn đến văn bản tự do, phi cấu trúc. Bằng cách sử dụng structured outputs, các nhà phát triển có thể đảm bảo rằng hệ thống AI trả về dữ liệu có thể đọc được bằng máy và có thể dự đoán trước, loại bỏ sự cần thiết của các tập lệnh phân tích cú pháp dễ lỗi và xử lý lỗi phức tạp.

Hiểu về Structured Outputs so với JSON Mode#

Mặc dù các phiên bản đầu của generative AI cung cấp một "JSON mode" cơ bản, điều này chỉ đảm bảo đầu ra là JSON hợp lệ mà không đảm bảo nó chứa các khóa cụ thể hoặc kiểu dữ liệu được yêu cầu. Structured outputs giải quyết vấn đề này thông qua một kỹ thuật gọi là giải mã ràng buộc (constrained decoding). Trong quá trình tạo, inference engine lọc từ vựng của model ở mọi bước, che các token có thể vi phạm lược đồ do nhà phát triển cung cấp. Điều này đảm bảo tuân thủ lược đồ 100%.

Khái niệm Function Calling (Tool Use) có liên quan chặt chẽ đến phương pháp luận này. Mặc dù function calling cho phép các model xác định khi nào nên thực thi một công cụ bên ngoài, nó hoàn toàn dựa vào structured outputs để điền chính xác các tham số bắt buộc của công cụ mà không bị ảo giác (hallucination).

Sự chấp nhận của ngành và các Framework#

Giữa năm 2024 và 2025, các nhà cung cấp AI lớn đã biến structured outputs thành một tính năng gốc để cải thiện độ tin cậy của hệ thống doanh nghiệp. Ví dụ: OpenAI Structured Outputs API cho phép các nhà phát triển định nghĩa các lược đồ khắt khe bằng cách sử dụng Pydantic trong Python hoặc Zod trong JavaScript. Tương tự, các công cụ Anthropic's Claude structured outputs và Google Gemini structured output giờ đây hỗ trợ thực thi lược đồ nghiêm ngặt cho các prompt phức tạp.

Hệ sinh thái mã nguồn mở cũng tận dụng các framework như vLLM và Outlines để cung cấp constrained decoding methodologies cho các model tùy chỉnh được xây dựng bằng PyTorch.

Các ứng dụng trong thực tế#

Việc triển khai structured outputs biến đổi các phản hồi AI mơ hồ thành dữ liệu predictive modeling có thể hành động. Các trường hợp sử dụng chính bao gồm:

• Data Extraction Pipelines: Các doanh nghiệp sử dụng structured outputs để trích xuất các thực thể cụ thể (như tên ứng viên, tổng số tiền hóa đơn và ngày tháng) từ tài liệu thô, phi cấu trúc và nạp chúng trực tiếp vào cơ sở dữ liệu SQL mà không cần nhập dữ liệu thủ công.
• Autonomous AI Agents: Các workflow theo tác nhân (agentic) dựa vào dữ liệu có cấu trúc để điều hướng phần mềm phức tạp. Một tác nhân có thể phân tích truy vấn của người dùng và xuất ra một payload JSON nghiêm ngặt kích hoạt một API bên ngoài, mở rộng quy mô hoạt động một cách an toàn thông qua các hệ thống như Databricks Model Serving.

Structured Outputs trong Computer Vision#

Mặc dù được thảo luận nhiều trong xử lý ngôn ngữ tự nhiên, structured outputs là nguyên lý hoạt động nền tảng của Computer Vision. Các model thị giác không xuất ra văn bản tự do; chúng tự động tạo ra các tensor được tổ chức cao đại diện cho các tọa độ, lớp và điểm số độ tin cậy. Ví dụ, các model tiên tiến như Ultralytics YOLO26 đánh giá một hình ảnh và trả về dữ liệu không gian được định dạng nghiêm ngặt, lý tưởng cho việc model deployment liền mạch trong môi trường biên có độ trễ thấp.

Đoạn mã sau minh họa mức độ dễ dàng bạn có thể trích xuất kết quả object detection có cấu trúc bằng cách sử dụng gói ultralytics:

from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Perform inference to generate structured visual data
results = model("image.jpg")

# The model strictly outputs structured bounding box objects
for box in results[0].boxes:
    print(f"Class ID: {box.cls}, Confidence: {box.conf}, Coordinates: {box.xyxy}")

Bằng cách thu hẹp khoảng cách giữa logic AI xác suất và các yêu cầu phần mềm tất định, structured outputs đóng vai trò là một thành phần quan trọng trong việc xây dựng các hệ thống có thể mở rộng, sẵn sàng cho sản xuất trên Ultralytics Platform và hơn thế nữa.