Continual Learning

Continual learning (CL), thường được gọi là học tập suốt đời, mô tả khả năng của một mô hình trí tuệ nhân tạo trong việc học tuần tự các tác vụ mới hoặc tiếp thu kiến thức mới theo thời gian mà không quên đi những thông tin đã học trước đó. Khác với các quy trình học máy truyền thống, nơi các mô hình được huấn luyện một lần trên một tập dữ liệu tĩnh rồi sau đó mới triển khai, continual learning mô phỏng khả năng của con người trong việc thích nghi với môi trường mới và học hỏi từ các trải nghiệm mới một cách liên tục. Thách thức chính trong lĩnh vực này là khắc phục tình trạng catastrophic forgetting, một hiện tượng mà việc huấn luyện mạng thần kinh trên dữ liệu mới khiến hiệu suất của nó trên các tác vụ cũ bị suy giảm nghiêm trọng vì các trọng số được tối ưu hóa cho các tác vụ cũ đã bị ghi đè.

Tại sao Continual Learning lại quan trọng#

Trong môi trường thực tế động, phân phối dữ liệu hiếm khi giữ nguyên tĩnh. Ví dụ, một hệ thống nhận diện thị giác trên xe tự hành phải thích ứng với các mùa thay đổi, quy định giao thông mới, hoặc các bố cục đô thị khác nhau mà không làm mất khả năng nhận diện các biển báo đường bộ cơ bản đã học trong quá trình huấn luyện ban đầu. Việc đào tạo lại từ đầu truyền thống trên tập dữ liệu tích lũy thường tốn kém về mặt tính toán và không thực tế do giới hạn lưu trữ hoặc các vấn đề về quyền riêng tư. Học liên tục giải quyết các vấn đề này bằng cách cho phép các model cập nhật theo từng phần, giúp chúng trở nên hiệu quả và dễ mở rộng hơn cho các ứng dụng AI biên nơi tài nguyên bị hạn chế.

Các ứng dụng trong thực tế#

• Robot và Hệ thống Tự hành: Robot được triển khai trong môi trường phi cấu trúc cần thao tác với các đối tượng mới hoặc điều hướng qua các địa hình mới. Thông qua học liên tục, một robot có thể làm chủ một nhiệm vụ sản xuất cụ thể và sau đó học cách xử lý một dòng sản phẩm khác mà không cần thiết lập lại toàn bộ hệ thống, qua đó hỗ trợ hiệu quả cho các đường ống đổi mới công nghiệp 4.0 linh hoạt.
• Chẩn đoán Hình ảnh Y tế: Dữ liệu y tế tiến hóa khi các bệnh lý mới xuất hiện hoặc các giao thức hình ảnh thay đổi. Một hệ thống AI hỗ trợ các bác sĩ chẩn đoán hình ảnh có thể sử dụng học liên tục để kết hợp các bệnh lý mới, chẳng hạn như một biến thể vi-rút mới xuất hiện trên ảnh X-quang, đồng thời duy trì độ chính xác cao trong việc phát hiện các tình trạng phổ biến như viêm phổi hoặc gãy xương. Khả năng này đóng vai trò quan trọng trong việc duy trì chẩn đoán y tế luôn cập nhật mà không làm tổn hại đến sự an toàn của bệnh nhân trên các giao thức đã thiết lập.

Các chiến lược chính trong Continual Learning#

Để giảm thiểu hiện tượng quên thảm khốc, các nhà nghiên cứu áp dụng một số chiến lược. Các phương pháp điều tiết bổ sung các ràng buộc vào hàm mất mát nhằm ngăn ngừa các thay đổi đáng kể đối với các trọng số quan trọng được xác định trong các nhiệm vụ trước đó. Các phương pháp phát lại lưu trữ một tập hợp con nhỏ dữ liệu trước đó (hoặc tạo ra các mẫu tổng hợp sử dụng AI tạo sinh) và trộn chúng với dữ liệu mới trong quá trình huấn luyện. Cuối cùng, cô lập tham số dành riêng các tập hợp con cụ thể của các tham số của model cho các nhiệm vụ khác nhau, đảm bảo rằng các cập nhật cho một nhiệm vụ mới không gây can thiệp vào các tham số đã được tối ưu hóa cho các nhiệm vụ trước đó. Các tiến bộ gần đây trong năm 2024 và 2025 đã tập trung vào việc sử dụng các vision language model để nhận diện tốt hơn những đặc trưng nào mang tính tổng quát và đặc trưng nào dành riêng cho nhiệm vụ.

Continual Learning so với Transfer Learning#

Điều quan trọng là phải phân biệt học liên tục với học chuyển giao. Trong học chuyển giao, một pre-trained model đóng vai trò là điểm khởi đầu để giải quyết một nhiệm vụ cụ thể mới, và hiệu năng trên nhiệm vụ ban đầu thường không quan trọng. Mục tiêu là tối đa hóa hiệu năng trên miền mục tiêu. Ngược lại, mục tiêu của học liên tục là đạt hiệu năng tốt trên cả nhiệm vụ mới và tất cả các nhiệm vụ trước đó. Tương tự, trong khi học chủ động tập trung vào việc lựa chọn các điểm dữ liệu mang nhiều thông tin nhất để gán nhãn cho việc huấn luyện, học liên tục tập trung vào quá trình tự cập nhật bản thân model theo thời gian.

Cập nhật một mô hình YOLO#

Mặc dù học liên tục thực sự đòi hỏi các điều chỉnh kiến trúc chuyên biệt, người dùng có thể mô phỏng quy trình làm việc này bằng cách fine-tune các model trên dữ liệu mới được trộn lẫn với một bộ đệm dữ liệu cũ. Ultralytics Platform đơn giản hóa việc quản lý các tập dữ liệu này và quản lý phiên bản model. Dưới đây là một ví dụ về cách tiếp cận việc cập nhật một model bằng cách sử dụng Python API:

from ultralytics import YOLO

# Load a model previously trained on 'dataset_v1.yaml'
model = YOLO("yolo26n-v1.pt")

# Train the model on a new dataset containing new and old samples
# This helps mitigate catastrophic forgetting by "replaying" old data
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # Lower learning rate for fine-tuning
)

Thách thức và các hướng phát triển trong tương lai#

Bất chấp những tiến bộ đã đạt được, học liên tục vẫn là một lĩnh vực nghiên cứu đang phát triển tích cực. Việc xác định dẫn xuất đánh đổi tính dẻo-tính ổn định tối ưu—cân bằng giữa khả năng học hỏi những điều mới (tính dẻo) với khả năng giữ lại những điều cũ (tính ổn định)—là một việc khó khăn. Hơn nữa, việc đánh giá các hệ thống này đòi hỏi các số liệu hiệu năng mạnh mẽ có tính đến cả việc chuyển giao thuận (tốc độ học trên các nhiệm vụ mới) và chuyển giao ngược (tác động lên các nhiệm vụ cũ). Khi các foundation model ngày càng trở nên lớn hơn, các phương pháp thích ứng liên tục hiệu quả như Low-Rank Adaptation (LoRA) đang trở nên cực kỳ quan trọng để tùy chỉnh các hệ thống quy mô lớn mà không cần đào tạo lại toàn bộ.