Giáo trình học

Học theo chương trình (Curriculum Learning) là một chiến lược huấn luyện máy học lấy cảm hứng từ cách con người học hỏi, bắt đầu từ những khái niệm đơn giản trước khi dần dần giới thiệu những khái niệm phức tạp hơn. Thay vì cung cấp dữ liệu huấn luyện cho mô hình theo thứ tự ngẫu nhiên, các mẫu huấn luyện được cấu trúc rõ ràng thành một chuỗi có độ khó tăng dần. Cách tiếp cận có tổ chức này để đưa mạng nơ-ron vào tiếp xúc với dữ liệu có thể dẫn đến sự hội tụ nhanh hơn, khả năng khái quát hóa tốt hơn và tính mạnh mẽ tổng thể cao hơn trong các tác vụ phức tạp.

Quá trình phát triển có cấu trúc này khác biệt với Học tập liên tục , vốn tập trung vào việc thêm các nhiệm vụ mới vào mô hình mà không quên các nhiệm vụ trước đó. Trong Học tập theo chương trình, mục tiêu vẫn giữ nguyên, nhưng trình tự dữ liệu huấn luyện được lựa chọn một cách chiến lược.

Cách thức hoạt động của việc học theo chương trình giảng dạy

Ý tưởng cốt lõi của Học tập theo Chương trình (Curriculum Learning) là việc khởi tạo các tham số của mô hình bằng các ví dụ dễ hơn sẽ hướng dẫn nó đến một điểm cực tiểu cục bộ tốt hơn trong không gian hàm mất mát. Khi mô hình nắm vững các đặc điểm cơ bản, chế độ huấn luyện sẽ giới thiệu các ví dụ khó hơn, cho phép mô hình tinh chỉnh sự hiểu biết của mình và học hỏi các chi tiết phức tạp hơn.

Việc triển khai chương trình học tập bao gồm hai thành phần chính:

1. Chỉ số độ khó: Một phương pháp để đánh giá độ phức tạp của mỗi ví dụ huấn luyện. Trong thị giác máy tính , điều này có thể dựa trên kích thước đối tượng, sự che khuất hoặc độ rõ nét của hình ảnh.
2. Công cụ lập lịch huấn luyện: Một chức năng điều chỉnh nhịp độ, quy định thời điểm và cách thức đưa các ví dụ khó hơn vào quá trình huấn luyện.

Ví dụ, khi huấn luyện Ultralytics YOLO26 để phát hiện đối tượng , bạn có thể bắt đầu bằng cách huấn luyện trên các hình ảnh có đối tượng đơn lẻ, rõ nét và nằm ở trung tâm. Khi quá trình huấn luyện diễn ra, bộ lập lịch sẽ đưa vào các hình ảnh có nhiều đối tượng, bị che khuất nhiều hoặc điều kiện ánh sáng khác nhau. Điều này cho phép mô hình nắm bắt được các đặc điểm cơ bản của đối tượng trước khi giải quyết các tình huống thực tế khó khăn hơn.

Các Ứng dụng Thực tế

Học tập theo chương trình đã được chứng minh là có lợi trong nhiều lĩnh vực trí tuệ nhân tạo, đặc biệt là khi xử lý các tập dữ liệu nhiễu hoặc các nhiệm vụ phức tạp.

• Xe tự lái: Trong quá trình huấn luyện hệ thống lái tự động , các mô hình trước tiên được đào tạo để nhận biết các vạch kẻ đường cơ bản và biển báo giao thông rõ ràng. Chỉ sau khi nắm vững những điều cơ bản này, chúng mới được đưa vào các tình huống phức tạp hơn như mưa lớn, chuyển động thất thường của người đi bộ hoặc các giao lộ phức tạp, từ đó cải thiện tính an toàn và độ tin cậy của trí tuệ nhân tạo .
• Phân tích hình ảnh y tế: Khi phát triển các mô hình phân tích hình ảnh y tế , một phương pháp tiếp cận theo chương trình giảng dạy có thể bắt đầu với các hình ảnh quét rõ nét, độ tương phản cao của các khối u rõ ràng trước khi chuyển sang các hình ảnh quét có những bất thường nhỏ hoặc các hiện tượng nhiễu ảnh.

Ưu điểm và những điều cần cân nhắc

Các nghiên cứu từ các tổ chức như Google AI và OpenAI liên tục nhấn mạnh lợi ích của các chế độ huấn luyện có cấu trúc. Bằng cách thiết kế cẩn thận trình tự huấn luyện, các nhà phát triển thường có thể đạt được độ chính xác cao hơn và giảm nguy cơ quá khớp (overfitting) .

Tuy nhiên, việc định nghĩa "độ khó" của một ví dụ không phải lúc nào cũng đơn giản. Một chương trình học được thiết kế kém đôi khi có thể làm chậm quá trình huấn luyện hoặc làm sai lệch mô hình. Các phương pháp hiện đại, chẳng hạn như những phương pháp được thảo luận trong các bài báo gần đây trên arXiv về học tập theo tốc độ riêng , cho phép chính mô hình tự động xác định độ khó của các ví dụ dựa trên tổn thất hiện tại của nó, tự động hóa việc thiết kế chương trình học.

Để quản lý hiệu quả các tập dữ liệu tùy chỉnh và thử nghiệm các chiến lược huấn luyện, các công cụ như Nền tảng Ultralytics cung cấp một môi trường hợp lý để chú thích dữ liệu , cấu trúc các phân chia dữ liệu và theo dõi tiến trình huấn luyện.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# A conceptual example of manually implementing a simple curriculum
# Phase 1: Train on 'easy' dataset (e.g., clear, large objects)
model.train(data="easy_dataset.yaml", epochs=50, imgsz=640)

# Phase 2: Fine-tune on 'hard' dataset (e.g., occluded, small objects)
model.train(data="hard_dataset.yaml", epochs=50, imgsz=640)

Trong ví dụ đơn giản này, mô hình trước tiên học các đặc điểm cơ bản từ một tập dữ liệu dễ hơn trước khi thích nghi với dữ liệu khó hơn, mô phỏng một chương trình giảng dạy hai giai đoạn cơ bản.