Callback

Callback là một hàm được truyền cho một đoạn mã khác; đoạn mã đó gọi lại hàm khi một sự kiện cụ thể xảy ra. Trình xử lý sự kiện trong giao diện người dùng, hàm hoàn tất trong mã bất đồng bộ và hàm so sánh truyền cho quy trình sắp xếp đều là callback. Trong framework deep learning, sự kiện là các thời điểm trong vòng lặp huấn luyện, chẳng hạn lúc bắt đầu huấn luyện, khi kết thúc mỗi batch hoặc epoch, và khi validation hoàn tất. Callback được đăng ký cho một sự kiện sẽ chạy tại thời điểm đó và truy cập được trạng thái của trainer, nhờ vậy người dùng có thể thêm cơ chế dừng sớm để hạn chế overfitting, lưu checkpoint, lập lịch learning rate hoặc ghi log mà không cần sửa chính vòng lặp.

Callback được tích hợp vào quá trình huấn luyện như thế nào#

Framework duy trì danh sách callback cho từng sự kiện có tên và gọi tất cả callback khi vòng lặp chạm đến sự kiện đó, đồng thời truyền đối tượng trainer hoặc model để callback có thể đọc metric và thay đổi cài đặt. Keras tập hợp callback trong module keras.callbacks, PyTorch Lightning dùng các lớp con của Callback, còn Transformers của Hugging Face dùng TrainerCallback. Tên phương thức khác nhau giữa các thư viện, nhưng các sự kiện đi theo cùng một vòng lặp:

Vì callback chạy bên trong vòng lặp nên callback cũng có thể thay đổi vòng lặp: callback đặt cờ dừng sẽ kết thúc huấn luyện sau epoch hiện tại, còn callback chỉnh sửa optimizer sẽ thay đổi mọi bước tiếp theo. Các callback cho cùng một sự kiện chạy theo thứ tự đăng ký, và callback ở cấp batch chạy hàng nghìn lần mỗi epoch, vì vậy những tác vụ chậm như tải file lên nên được đặt ở sự kiện cấp epoch. Trong huấn luyện phân tán, mỗi tiến trình chạy bản sao vòng lặp và callback riêng, vì vậy callback ghi log và lưu checkpoint thường chỉ hoạt động trên tiến trình chính, rank 0, để tránh nhiều GPU cùng ghi một file.

Các callback huấn luyện thường gặp#

• Dừng sớm: Dừng huấn luyện khi metric validation không cải thiện trong số epoch được quy định, gọi là patience; cơ chế này giúp hạn chế overfitting và tiết kiệm compute. Callback EarlyStopping của Keras cũng có thể khôi phục trọng số tốt nhất đã ghi nhận trước khi dừng.
• Lưu checkpoint: Lưu model ở mỗi epoch hoặc mỗi khi metric được theo dõi cải thiện, nhờ vậy các trọng số tốt nhất được giữ lại và lần chạy bị lỗi có thể tiếp tục. Callback BackupAndRestore của Keras dùng trạng thái đã lưu để tự động tiếp tục lần chạy bị gián đoạn.
• Lập lịch learning rate: Giảm learning rate khi metric chững lại như callback ReduceLROnPlateau của Keras thực hiện, hoặc tuân theo lịch cố định như cosine decay.
• Theo dõi thử nghiệm: Gửi loss, metric và ảnh mẫu đến các công cụ như TensorBoard, MLflow hoặc Weights & Biases sau mỗi epoch.
• Tinh chỉnh hyperparameter: Gửi điểm số của mỗi epoch đến tuner như Ray Tune, nơi các scheduler dừng sớm những lần thử không có triển vọng.

Viết callback tùy chỉnh#

Ultralytics YOLO phát các sự kiện có tên trong quá trình huấn luyện, validation, dự đoán và export, chẳng hạn on_train_epoch_end và on_fit_epoch_end; các tích hợp riêng của YOLO với MLflow, Comet, ClearML, TensorBoard và Ultralytics Platform được đăng ký làm callback cho những sự kiện đó. Callback này đọc mAP_50-95 validation sau mỗi epoch và dừng lần chạy YOLO26 ngay khi đạt mục tiêu:

from ultralytics import YOLO


def stop_at_target(trainer):
    """Stop training once validation mAP50-95 reaches 0.6."""
    score = trainer.metrics["metrics/mAP50-95(B)"]
    print(f"Epoch {trainer.epoch + 1}: mAP50-95 {score:.3f}")
    if score >= 0.6:
        trainer.stop = True  # the trainer ends the run after this epoch


model = YOLO("yolo26n.pt")
model.add_callback("on_fit_epoch_end", stop_at_target)  # runs after each epoch's validation
model.train(data="coco8.yaml", epochs=20)

Sự kiện on_fit_epoch_end được phát sau khi hoàn tất huấn luyện và validation của epoch, vì vậy trainer.metrics đã chứa điểm số của epoch đó. Đặt trainer.stop khiến trainer thoát khỏi vòng lặp epoch, chạy bước validation cuối cùng thông thường trên các trọng số tốt nhất và lưu kết quả, giống như khi đạt đến giới hạn tích hợp sẵn patience.

Callback và Hook#

Hai từ này thường chỉ cùng một khái niệm: PyTorch Lightning gọi các phương thức mà callback triển khai là hook. Trong chính PyTorch, hook của module được đăng ký bằng register_forward_hook hoặc register_full_backward_hook sẽ gắn với lượt forward hoặc backward của một layer đơn lẻ thay vì sự kiện trong vòng lặp huấn luyện; hook được dùng để đọc feature map phục vụ trực quan hóa hoặc kiểm tra, chỉnh sửa gradient trong quá trình backpropagation.