Context Window

Cửa sổ ngữ cảnh (context window) đề cập đến khoảng dữ liệu đầu vào tối đa—chẳng hạn như các ký tự văn bản, đoạn âm thanh hoặc khung hình video—mà một machine learning model có thể xử lý và xem xét đồng thời trong quá trình hoạt động. Trong lĩnh vực artificial intelligence (AI), khái niệm này tương tự như bộ nhớ ngắn hạn, xác định lượng thông tin mà hệ thống có thể "nhìn thấy" hoặc gợi nhớ lại tại bất kỳ thời điểm nào. Đối với các natural language processing (NLP) model như Transformers, cửa sổ này được đo bằng các token, xác định độ dài lịch sử cuộc trò chuyện mà AI có thể duy trì. Trong computer vision (CV), ngữ cảnh thường mang tính thời gian hoặc không gian, cho phép model hiểu được chuyển động và tính liên tục qua một chuỗi hình ảnh.

Các ứng dụng trong thực tế#

Tiện ích thực tế của cửa sổ ngữ cảnh mở rộng xa hơn việc đệm dữ liệu đơn thuần, đóng vai trò then chốt trong nhiều lĩnh vực nâng cao:

• AI hội thoại và Chatbot: Trong kiến trúc của các chatbot và virtual assistants hiện đại, cửa sổ ngữ cảnh đóng vai trò là bộ đệm lịch sử cuộc trò chuyện. Cửa sổ lớn hơn cho phép tác nhân ghi nhớ các chi tiết cụ thể đã đề cập trước đó trong một cuộc hội thoại dài, tránh tình trạng phải lặp lại thông tin gây phiền phức.
• Theo dõi đối tượng video: Đối với các tác vụ thị giác, ngữ cảnh thường xuyên mang tính thời gian. Các thuật toán Object tracking cần ghi nhớ vị trí và diện mạo của một thực thể qua nhiều khung hình để duy trì nhận dạng của nó, đặc biệt là trong các trường hợp bị che khuất. Các model Ultralytics YOLO26 mới nhất tận dụng khả năng xử lý hiệu quả để duy trì độ chính xác cao trong các tác vụ theo dõi bằng cách tận dụng hiệu quả ngữ cảnh theo thời gian này.
• Phân tích chuỗi thời gian tài chính: Các chiến lược đầu tư thường dựa vào predictive modeling kiểm tra dữ liệu thị trường lịch sử. Ở đây, cửa sổ ngữ cảnh xác định số lượng điểm dữ liệu quá khứ (ví dụ: giá cổ phiếu trong 30 ngày qua) mà model xem xét để dự báo các xu hướng trong tương lai, một kỹ thuật cốt lõi trong quantitative finance.

Phân biệt các khái niệm liên quan#

Để triển khai các giải pháp AI một cách chính xác, việc phân biệt cửa sổ ngữ cảnh với các thuật ngữ tương tự trong bảng thuật ngữ là rất hữu ích:

• Cửa sổ ngữ cảnh so với Receptive Field: Mặc dù cả hai thuật ngữ đều mô tả phạm vi dữ liệu đầu vào, nhưng "Receptive Field" là đặc trưng cho các Convolutional Neural Networks (CNNs) và đề cập đến vùng không gian của một hình ảnh ảnh hưởng đến một bản đồ đặc trưng đơn lẻ. Ngược lại, "Cửa sổ ngữ cảnh" thường đề cập đến khoảng thời gian hoặc tuần tự trong các luồng dữ liệu.
• Cửa sổ ngữ cảnh so với Tokenization: Cửa sổ ngữ cảnh là một vùng chứa cố định, trong khi tokenization là phương pháp lấp đầy vùng chứa đó. Văn bản hoặc dữ liệu được chia nhỏ thành các tokens, và hiệu quả của bộ tokenizer xác định lượng thông tin thực tế có thể chứa vừa vặn trong cửa sổ. Các bộ tokenizer theo từ phụ (sub-word) hiệu quả có thể chứa nhiều ý nghĩa ngữ nghĩa hơn trong cùng một kích thước cửa sổ so với các phương pháp dựa trên ký tự.
• Cửa sổ ngữ cảnh so với Batch Size: Batch size quy định có bao nhiêu mẫu độc lập được xử lý song song trong quá trình model training, trong khi cửa sổ ngữ cảnh quy định độ dài hoặc kích thước của một mẫu đơn lẻ dọc theo chiều tuần tự của nó.

Ví dụ: Ngữ cảnh thời gian trong thị giác máy tính#

Mặc dù thường được thảo luận trong văn bản, ngữ cảnh rất quan trọng đối với các tác vụ thị giác nơi lịch sử đóng vai trò cốt lõi. Đoạn mã Python sau đây sử dụng gói ultralytics để thực hiện việc theo dõi đối tượng. Tại đây, model duy trì "ngữ cảnh" về nhận dạng đối tượng qua các khung hình video để đảm bảo rằng một chiếc ô tô được phát hiện ở khung hình 1 được nhận dạng là chính chiếc ô tô đó ở khung hình 10.

from ultralytics import YOLO

# Load the YOLO26n model (latest generation)
model = YOLO("yolo26n.pt")

# Perform object tracking on a video file
# The tracker uses temporal context to preserve object IDs across frames
results = model.track(source="path/to/video.mp4", show=True)

Thách thức và các hướng phát triển trong tương lai#

Quản lý các cửa sổ ngữ cảnh liên quan đến một sự đánh đổi liên tục giữa hiệu năng và tài nguyên. Một cửa sổ quá ngắn có thể dẫn đến "chứng hay quên của model" (model amnesia), nơi AI mất dấu vết của câu chuyện hoặc quỹ đạo đối tượng. Tuy nhiên, các cửa sổ quá lớn làm tăng inference latency và mức tiêu thụ bộ nhớ, khiến cho real-time inference trở nên khó khăn trên các thiết bị edge AI.

Để giảm thiểu tình trạng này, các lập trình viên sử dụng các chiến lược như Retrieval-Augmented Generation (RAG), cho phép model tìm nạp thông tin liên quan từ một vector database bên ngoài thay vì giữ mọi thứ trong cửa sổ ngữ cảnh trực tiếp của nó. Ngoài ra, các công cụ như Ultralytics Platform giúp các nhóm quản lý tập dữ liệu lớn và giám sát hiệu năng triển khai để tối ưu hóa cách các model xử lý ngữ cảnh trong môi trường production. Các framework như PyTorch tiếp tục phát triển, cung cấp hỗ trợ tốt hơn cho các attention mechanisms thưa thớt (sparse), cho phép tạo ra các cửa sổ ngữ cảnh lớn với chi phí tính toán tuyến tính thay vì bậc hai. Những đổi mới trong kiến trúc model, chẳng hạn như những gì thấy được trong quá trình chuyển đổi sang khả năng end-to-end của YOLO26, tiếp tục tinh chỉnh cách ngữ cảnh hình ảnh được xử lý để đạt hiệu quả tối đa.