Knowledge Cutoff

Mốc kiến thức là ngày đánh dấu ranh giới thông tin được nêu rõ trong dữ liệu huấn luyện của một model AI. Mốc này cho biết kiến thức mà model đã học mới đến mức nào. Đối với mô hình ngôn ngữ lớn (LLM), các sự kiện được học trong quá trình huấn luyện sẽ được mã hóa trong các tham số; thông tin mới hơn có thể được đưa vào câu trả lời thông qua tài liệu, tìm kiếm hoặc các công cụ khác được cung cấp trong quá trình sử dụng.

Cách mốc kiến thức hoạt động#

Trong quá trình tiền huấn luyện, model học các mẫu từ dữ liệu huấn luyện, bao gồm mối quan hệ giữa từ ngữ, khái niệm và thông tin thực tế. Thông tin này được phân bổ trong trọng số model, tức các tham số số học được điều chỉnh trong quá trình học. Sau khi huấn luyện hoàn tất, quá trình suy luận thông thường sử dụng các tham số đó để tạo câu trả lời. Muốn truy cập thông tin được công bố sau thời điểm đó cần có dữ liệu đầu vào bổ sung hoặc các lần huấn luyện tiếp theo.

Mốc được công bố tóm lược một tập hợp dữ liệu huấn luyện chứa các nguồn có niên đại khác nhau. Một trang web mới được thu thập có thể chứa thông tin đã cũ nhiều năm, và mức độ bao phủ có thể khác nhau tùy chủ đề. Mốc kiến thức thực tế mô tả ranh giới thời gian được thể hiện đối với một chủ đề hoặc nguồn cụ thể. Năm 2024, Jeffrey Cheng và các cộng sự đã chính thức hóa sự khác biệt này: mốc kiến thức thực tế khác nhau giữa các tài nguyên, một phần do các tập hợp dữ liệu web chứa tài liệu cũ hơn và quá trình khử trùng lặp làm thay đổi phiên bản nào được giữ lại.

Vì sao độ mới của kiến thức quan trọng#

Mốc kiến thức quan trọng nhất khi trả lời câu hỏi về các sự kiện luôn thay đổi. Model trả lời dựa trên kiến thức đã học có thể đưa ra thông tin lỗi thời sau khi thông tin nền tảng thay đổi. Trong một chatbot, cách diễn đạt trôi chảy và vẻ ngoài tự tin có thể khiến câu trả lời cũ kỹ đó nghe có vẻ đáng tin cậy. Ảo giác là nội dung đầu ra sai hoặc không có căn cứ; kiến thức lỗi thời là một trong những nguyên nhân gây ra lỗi về tính chính xác.

Một số khái niệm liên quan mô tả các khía cạnh khác nhau của độ mới:

• Cửa sổ ngữ cảnh: Lượng dữ liệu đầu vào mà model có thể xử lý trong một yêu cầu. Tài liệu nằm trong cửa sổ này có thể chứa thông tin được công bố sau khi model được huấn luyện.
• Fine-tuning: Quá trình huấn luyện bổ sung nhằm cập nhật trọng số model bằng các ví dụ được chọn.
• Nguồn gốc dữ liệu: Nguồn gốc và lịch sử của thông tin, bao gồm nguồn cung cấp và ngày thu thập. Thông tin về nguồn gốc giúp phân biệt thời điểm thu thập tài liệu với thời điểm nội dung được viết.

Phạm vi dữ liệu huấn luyện cũng ảnh hưởng đến thị giác máy tính. Ultralytics YOLO hỗ trợ fine-tuning YOLO26 trên các bộ dữ liệu tùy chỉnh, cập nhật detector đã tiền huấn luyện để nhận diện các lớp có trong hình ảnh mới.

Cách model sử dụng thông tin sau mốc kiến thức#

Tạo sinh tăng cường truy xuất (RAG) cung cấp thông tin bên ngoài có liên quan tại thời điểm truy vấn. Bộ truy xuất chọn các đoạn văn từ tập hợp kiến thức, rồi bộ tạo sinh sử dụng những đoạn văn đó cùng với câu hỏi. Cách này hỗ trợ neo căn cứ: kết nối câu trả lời với bằng chứng có thể xác định được. Câu trả lời dựa trên cả tham số đã học lẫn ngữ cảnh được cung cấp, trong khi mốc kiến thức của model gốc vẫn không thay đổi.

Tìm kiếm trên web có vai trò tương tự trong việc cập nhật thông tin công khai. Tìm kiếm ChatGPT truy xuất kết quả trên web và sử dụng chúng để tạo câu trả lời kèm liên kết đến nguồn. Tính năng truy xuất tệp cho phép truy cập tài liệu đã tải lên hoặc được kết nối, giúp cung cấp các tài liệu nội bộ mới nhất cho hoạt động tạo văn bản. Những cơ chế này cập nhật bằng chứng có sẵn trong quá trình xử lý yêu cầu.

Sự khác biệt này quan trọng trong các ứng dụng hỗ trợ dựa trên tài liệu: độ mới của câu trả lời phụ thuộc vào nội dung và ngày sửa đổi của tài liệu được truy xuất, cũng như lịch sử huấn luyện của model. Tập hợp kiến thức được cập nhật gần đây giúp hệ thống truy cập thông tin mới hơn; để tạo câu trả lời chính xác, hệ thống cũng cần chọn và diễn giải các đoạn văn có liên quan.

Mốc kiến thức của ChatGPT và Gemini#

ChatGPT và Gemini sử dụng các model có mốc kiến thức được công bố. Ngày áp dụng thuộc về model nền tảng hoặc snapshot cụ thể, vì vậy việc xác định model là một phần của quá trình xác định mốc kiến thức. Thẻ model hoặc thông số kỹ thuật chính thức của model cung cấp siêu dữ liệu liên quan. OpenAI công bố thông tin về mốc kiến thức theo từng model, còn Google liệt kê thông tin này cùng với các thuộc tính của model Gemini.

Ví dụ, Gemini 2.5 Pro có mốc kiến thức vào tháng 1 năm 2025, trong khi thông số kỹ thuật của model ghi nhận tháng 6 năm 2025 là thời điểm cập nhật gần nhất. Hai ngày này mô tả các thuộc tính riêng biệt: ranh giới của thông tin đã học và lịch sử cập nhật của model.

Tương tự, mã định danh snapshot xác định một phiên bản model riêng biệt với ranh giới kiến thức của model đó. Thông số kỹ thuật model GPT-5 liệt kê snapshot gpt-5-2025-08-07 với mốc kiến thức ngày 30 tháng 9 năm 2024.