Continual Learning

Continual learning (CL), thường được gọi là học tập suốt đời, mô tả khả năng của một mô hình trí tuệ nhân tạo trong việc học tuần tự các tác vụ mới hoặc tiếp thu kiến thức mới theo thời gian mà không quên đi những thông tin đã học trước đó. Khác với các quy trình học máy truyền thống, nơi các mô hình được huấn luyện một lần trên một tập dữ liệu tĩnh rồi sau đó mới triển khai, continual learning mô phỏng khả năng của con người trong việc thích nghi với môi trường mới và học hỏi từ các trải nghiệm mới một cách liên tục. Thách thức chính trong lĩnh vực này là khắc phục tình trạng catastrophic forgetting, một hiện tượng mà việc huấn luyện mạng thần kinh trên dữ liệu mới khiến hiệu suất của nó trên các tác vụ cũ bị suy giảm nghiêm trọng vì các trọng số được tối ưu hóa cho các tác vụ cũ đã bị ghi đè.

Link to this sectionTại sao Continual Learning lại quan trọng#

Trong các môi trường thực tế năng động, phân phối dữ liệu hiếm khi giữ nguyên tĩnh. Ví dụ, một hệ thống nhận diện thị giác trên xe tự lái phải thích nghi với các mùa thay đổi, quy định giao thông mới, hoặc bố cục thành phố khác nhau mà không làm mất khả năng nhận diện các biển báo đường bộ cơ bản đã học trong quá trình huấn luyện ban đầu. Việc retraining from scratch trên một tập dữ liệu tích lũy thường tốn kém về mặt tính toán và không khả thi do các hạn chế về lưu trữ hoặc lo ngại về quyền riêng tư. Continual learning giải quyết những vấn đề này bằng cách cho phép các mô hình cập nhật từng phần, giúp chúng hiệu quả và có khả năng mở rộng hơn cho các edge AI applications nơi tài nguyên bị hạn chế.

Link to this sectionCác ứng dụng trong thực tế#

• Robot học và Hệ thống Tự hành: Các robot được triển khai trong môi trường phi cấu trúc cần phải thao tác với các đối tượng mới hoặc điều hướng trên những địa hình lạ. Thông qua continual learning, một robot có thể làm chủ một tác vụ sản xuất cụ thể và sau đó học cách xử lý một dòng sản phẩm khác mà không cần reset toàn bộ hệ thống, qua đó hỗ trợ hiệu quả cho các quy trình đổi mới công nghiệp 4.0 linh hoạt.
• Chẩn đoán Hình ảnh Y tế: Dữ liệu chăm sóc sức khỏe không ngừng thay đổi khi xuất hiện các loại bệnh mới hoặc các giao thức hình ảnh thay đổi. Một hệ thống AI hỗ trợ bác sĩ chẩn đoán hình ảnh có thể sử dụng continual learning để tích hợp các bệnh lý mới, chẳng hạn như một chủng virus mới được phát hiện trên ảnh X-quang, trong khi vẫn duy trì độ chính xác cao khi phát hiện các tình trạng phổ biến như viêm phổi hoặc gãy xương. Khả năng này rất quan trọng để duy trì các chẩn đoán chăm sóc sức khỏe cập nhật mà không gây ảnh hưởng đến sự an toàn của bệnh nhân đối với các giao thức đã được thiết lập.

Link to this sectionCác chiến lược chính trong Continual Learning#

Để giảm thiểu catastrophic forgetting, các nhà nghiên cứu áp dụng một số chiến lược. Regularization methods thêm các ràng buộc vào loss function để ngăn chặn những thay đổi đáng kể đối với các trọng số quan trọng đã được xác định trong các tác vụ trước đó. Replay methods lưu trữ một tập hợp con nhỏ dữ liệu cũ (hoặc tạo các mẫu tổng hợp bằng generative AI) và trộn chúng với dữ liệu mới trong quá trình huấn luyện. Cuối cùng, parameter isolation dành riêng các tập hợp con các tham số của mô hình cho các tác vụ khác nhau, đảm bảo rằng các cập nhật cho tác vụ mới không can thiệp vào các tham số đã được tối ưu hóa cho các tác vụ trước đó. Những tiến bộ gần đây trong năm 2024 và 2025 tập trung vào việc sử dụng vision language models để xác định tốt hơn các đặc trưng nào là chung và đặc trưng nào là dành riêng cho tác vụ.

Link to this sectionContinual Learning so với Transfer Learning#

Điều quan trọng là phải phân biệt continual learning với transfer learning. Trong transfer learning, một mô hình tiền huấn luyện đóng vai trò là điểm khởi đầu để giải quyết một tác vụ cụ thể mới, và hiệu suất trên tác vụ ban đầu thường không quan trọng. Mục tiêu là tối đa hóa hiệu suất trên miền đích. Ngược lại, mục tiêu của continual learning là thực hiện tốt cả tác vụ mới và tất cả các tác vụ trước đó. Tương tự, trong khi active learning tập trung vào việc chọn lọc các điểm dữ liệu thông tin nhất để gán nhãn cho việc huấn luyện, thì continual learning tập trung vào quy trình cập nhật chính mô hình theo thời gian.

Link to this sectionCập nhật một mô hình YOLO#

Mặc dù continual learning thực sự đòi hỏi các điều chỉnh kiến trúc chuyên biệt, người dùng có thể mô phỏng quy trình này bằng cách tinh chỉnh (fine-tuning) các mô hình trên dữ liệu mới trộn lẫn với một bộ đệm dữ liệu cũ. Ultralytics Platform đơn giản hóa việc quản lý các tập dữ liệu này và lập phiên bản cho các mô hình. Dưới đây là ví dụ về cách tiếp cận việc cập nhật một mô hình bằng cách sử dụng Python API:

from ultralytics import YOLO

# Load a model previously trained on 'dataset_v1.yaml'
model = YOLO("yolo26n-v1.pt")

# Train the model on a new dataset containing new and old samples
# This helps mitigate catastrophic forgetting by "replaying" old data
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # Lower learning rate for fine-tuning
)

Link to this sectionThách thức và các hướng phát triển trong tương lai#

Bất chấp những tiến bộ, continual learning vẫn là một lĩnh vực nghiên cứu tích cực. Việc xác định plasticity-stability dilemma tối ưu—cân bằng khả năng học những điều mới (tính dẻo) với khả năng giữ lại những điều cũ (tính ổn định)—là rất khó khăn. Hơn nữa, việc đánh giá các hệ thống này đòi hỏi các performance metrics mạnh mẽ tính đến cả forward transfer (tốc độ học các tác vụ mới) và backward transfer (tác động lên các tác vụ cũ). Khi các foundation models trở nên lớn hơn, các phương pháp thích ứng liên tục hiệu quả như Low-Rank Adaptation (LoRA) đang trở nên quan trọng để tùy chỉnh các hệ thống quy mô lớn mà không cần huấn luyện lại toàn bộ.