Gọi lại

Trong học máy, callback là một tập lệnh hoặc hàm tự động được thực thi tại các thời điểm cụ thể trong quá trình huấn luyện mô hình. Hãy coi nó như một tập hợp các hướng dẫn mà khung huấn luyện tuân theo ở các giai đoạn được xác định trước, chẳng hạn như ở đầu hoặc cuối một epoch, một lô huấn luyện hoặc toàn bộ phiên huấn luyện. Callbacks cung cấp một cơ chế mạnh mẽ để các nhà phát triển giám sát, kiểm soát và tự động hóa các khía cạnh khác nhau của quá trình huấn luyện mà không cần phải thay đổi mã lõi của mô hình hoặc vòng lặp huấn luyện. Chúng là những công cụ thiết yếu để xây dựng các quy trình học máy (ML) hiệu quả và mạnh mẽ.

Cách Callbacks hoạt động

Khi bạn huấn luyện một mạng nơ-ron (NN), quy trình bao gồm lặp lại trên một tập dữ liệu cho nhiều epochs. Một vòng lặp huấn luyện quản lý quá trình này, bao gồm việc cung cấp dữ liệu cho mô hình, tính toán hàm mất mát, và cập nhật trọng số mô hình (model weights) thông qua lan truyền ngược. Callbacks can thiệp vào vòng lặp này tại các sự kiện cụ thể. Ví dụ: một on_epoch_end callback sẽ thực thi mã của nó chính xác sau khi mỗi epoch hoàn thành. Điều này cho phép các can thiệp động, chẳng hạn như điều chỉnh learning rate (tốc độ học), lưu phiên bản tốt nhất của mô hình hoặc dừng quá trình huấn luyện sớm nếu hiệu suất không cải thiện. Tự động hóa là một phần quan trọng của một quy trình làm việc của học máy.

Các ví dụ trong thực tế

Callbacks được sử dụng rộng rãi trong các tác vụ thị giác máy tính (CV) khác nhau để cải thiện kết quả huấn luyện.

1. Lưu Mô hình Phát hiện Đối tượng Tốt nhất: Khi huấn luyện mô hình Ultralytics YOLO cho phát hiện đối tượng, bạn có thể sử dụng callback ModelCheckpoint. Callback này theo dõi độ chính xác trung bình (mAP) trên tập dữ liệu xác thực (validation dataset). Nó chỉ lưu trọng số của mô hình vào một tệp khi điểm mAP được cải thiện so với điểm tốt nhất đã lưu trước đó, đảm bảo bạn giữ lại mô hình chính xác nhất. Bạn có thể xem cách các mô hình khác nhau hoạt động trên trang so sánh mô hình của chúng tôi.
2. Ngăn ngừa Overfitting trong Phân loại Ảnh: Hãy tưởng tượng việc huấn luyện một mô hình cho phân loại ảnh trên một tập dữ liệu phức tạp như ImageNet. Một callback EarlyStopping có thể được cấu hình để theo dõi validation loss. Nếu validation loss không giảm trong một số lượng epochs nhất định, callback sẽ tự động dừng quá trình huấn luyện. Điều này ngăn mô hình overfitting với dữ liệu huấn luyện và tiết kiệm đáng kể thời gian huấn luyện và chi phí tính toán. Bạn có thể tìm hiểu thêm về các tác vụ phân loại ảnh và cách triển khai chúng.

Callbacks so với các khái niệm khác

Việc phân biệt các callback với các thuật ngữ liên quan là rất hữu ích:

• Hàm (Functions): Mặc dù callback là một loại hàm, đặc điểm xác định của nó là nó được truyền dưới dạng một đối số cho một hàm khác (vòng lặp huấn luyện) và được gọi nội bộ bởi hàm đó vào một thời điểm cụ thể. Một hàm tiêu chuẩn thường được gọi trực tiếp bởi lập trình viên.
• Hooks: Trong kỹ thuật phần mềm, hook là một thuật ngữ tổng quát hơn để chỉ một vị trí trong mã cho phép chèn logic tùy chỉnh. Callbacks trong các framework học máy là một cách triển khai cụ thể của khái niệm hook, được điều chỉnh cho phù hợp với các sự kiện trong vòng đời huấn luyện của một mô hình.
• Điều chỉnh siêu tham số: Đây là quá trình tìm các siêu tham số tối ưu (như tốc độ học hoặc kích thước batch) cho một mô hình. Callbacks có thể hỗ trợ trong điều chỉnh siêu tham số, chẳng hạn, bằng cách triển khai bộ lập lịch tốc độ học, nhưng chúng không phải là chính quá trình điều chỉnh. Quá trình điều chỉnh là một quy trình tìm kiếm hoặc tối ưu hóa cấp cao hơn.

Lợi ích của việc sử dụng Callbacks

Tích hợp callbacks vào quá trình huấn luyện mang lại một số lợi thế đáng kể:

• Tự động hóa: Callbacks tự động hóa các tác vụ lặp đi lặp lại như lưu mô hình, ghi nhật ký các số liệu bằng các công cụ như TensorBoard và điều chỉnh các tham số, giảm nhu cầu can thiệp thủ công trong quá trình huấn luyện dài.
• Tính linh hoạt và khả năng tùy chỉnh: Chúng cho phép các nhà phát triển chèn logic tùy chỉnh vào vòng lặp huấn luyện mà không cần sửa đổi mã khung cốt lõi, cho phép các hành vi huấn luyện được điều chỉnh theo nhu cầu. Điều này đặc biệt hữu ích cho các thử nghiệm phức tạp hoặc triển khai các kỹ thuật huấn luyện nâng cao.
• Hiệu quả (Efficiency): Các callback như Dừng Sớm (Early Stopping) và điều chỉnh tốc độ học động (dynamic learning rate adjustment) có thể làm cho quá trình huấn luyện hiệu quả hơn bằng cách tiết kiệm tài nguyên tính toán và có khả năng tăng tốc sự hội tụ của mô hình (model convergence).
• Thông tin chi tiết và Giám sát: Cung cấp thông tin chi tiết chuyên sâu về động lực huấn luyện bằng cách cho phép ghi nhật ký chi tiết và trực quan hóa các chỉ số theo thời gian, điều này rất quan trọng để đánh giá mô hình.
• Khả năng tái tạo: Bằng cách chuẩn hóa các hành động được thực hiện trong quá trình huấn luyện (ví dụ: lưu tiêu chí, điều kiện dừng), các callback đóng góp vào các thử nghiệm học máy có khả năng tái tạo tốt hơn.

Các framework như Keras và PyTorch Lightning cung cấp các bộ sưu tập mở rộng các callback tích hợp và các giao diện đơn giản để tạo các callback tùy chỉnh. Ultralytics cũng tận dụng các callback bên trong các pipeline huấn luyện của mình, góp phần vào tính mạnh mẽ và thân thiện với người dùng của các công cụ như Ultralytics YOLO11 và nền tảng Ultralytics HUB. Tham khảo tài liệu Ultralytics có thể cung cấp các ví dụ cụ thể hơn liên quan đến huấn luyện mô hình YOLO.