Callback

소프트웨어 엔지니어링 및 인공지능(AI) 분야에서 callback이란 다른 코드의 인수로 전달되어 특정 시점에 실행(콜백)될 것으로 기대되는 실행 가능한 코드 조각을 의미합니다. 딥러닝(DL) 프레임워크의 맥락에서 callback은 핵심 학습 코드를 수정하지 않고도 모델 학습 루프의 동작을 사용자 지정할 수 있게 해주는 필수 도구입니다. 이는 에포크(epoch), 학습 배치 또는 전체 학습 세션의 시작이나 종료와 같은 학습 과정의 다양한 단계에서 특정 작업을 수행하는 자동화된 트리거 역할을 합니다.

Link to this section머신러닝에서 Callback의 역할#

복잡한 신경망(neural network) 학습은 몇 시간 또는 며칠이 걸릴 수 있습니다. Callback이 없다면 학습 과정은 본질적으로 완료될 때까지 실행되는 "블랙박스"와 같으며, 종종 수동 감독이 필요합니다. Callback은 가시성과 제어 기능을 도입하여 시스템이 실시간 성능 지표에 따라 스스로를 조절할 수 있도록 합니다.

**PyTorch**나 **TensorFlow**와 같은 상위 수준 라이브러리를 사용할 때, callback은 **최적화 알고리즘**에 로직을 주입하는 방법을 제공합니다. 예를 들어, 모델 학습이 잘 진행되고 있다면 callback을 통해 현재 상태를 저장하고, 학습이 정체되면 프로세스를 중단하여 리소스를 절약할 수 있습니다. 이를 통해 머신러닝(ML) 워크플로우를 더욱 효율적이고 강력하게 만들 수 있습니다.

Link to this section일반적인 응용 분야 및 실제 사례#

Callback은 다재다능하며 모델 모니터링 및 최적화 과정에서 다양한 작업에 활용될 수 있습니다.

• 조기 종료(Early Stopping): 가장 일반적인 사용 사례 중 하나는 **조기 종료**입니다. 이 callback은 검증 데이터 손실과 같은 특정 지표를 모니터링합니다. 손실이 설정된 에포크 수만큼 감소하지 않으면 callback이 학습을 중단시킵니다. 이는 **과적합(overfitting)**을 방지하여 모델이 **학습 데이터**를 암기하는 대신 새로운 데이터에 대해 잘 일반화되도록 보장합니다.
• Model Checkpointing: In long training runs, hardware failures can be catastrophic. A checkpointing callback saves the model weights at regular intervals (e.g., every epoch) or only when the model achieves a new "best" score on metrics like accuracy or mean average precision (mAP). This ensures you always have a saved version of the best-performing model.
• 학습률 스케줄링: **학습률(learning rate)**은 모델 가중치가 업데이트될 때마다 추정된 오차에 반응하여 모델이 얼마나 변화할지를 제어합니다. Callback은 이 비율을 동적으로 조정할 수 있으며, 학습이 정체될 때 학습률을 감소시켜 모델이 최적의 솔루션에 수렴하도록 돕는데, 이 기술을 흔히 **학습률 감쇠(learning rate decay)**라고 합니다.
• 로깅 및 시각화: Callback은 실험 추적(experiment tracking) 도구와 통합하기 위해 자주 사용됩니다. 지표를 **TensorBoard**나 **MLflow**와 같은 대시보드로 스트리밍하여 데이터 과학자가 실시간으로 손실 함수(loss function) 및 성능 그래프를 시각화할 수 있도록 합니다.

Link to this sectionUltralytics YOLO에서 Callback 구현하기#

The Ultralytics library supports a robust callback system, allowing users to hook into events during the training of models like YOLO26. This is particularly useful for users managing workflows on the Ultralytics Platform who need custom logging or control logic.

**Python API**를 사용하여 모든 학습 에포크가 끝날 때 메시지를 출력하는 사용자 지정 callback을 정의하고 등록하는 간단한 예제는 다음과 같습니다:

from ultralytics import YOLO


# Define a custom callback function
def on_train_epoch_end(trainer):
    """Callback function to execute at the end of each training epoch."""
    print(f"Epoch {trainer.epoch + 1} complete. Current Fitness: {trainer.fitness}")


# Load the YOLO26 model (latest generation)
model = YOLO("yolo26n.pt")

# Register the custom callback to the model
model.add_callback("on_train_epoch_end", on_train_epoch_end)

# Train the model with the callback active
model.train(data="coco8.yaml", epochs=3)

Link to this sectionCallback과 Hook의 차이#

While related, it is helpful to distinguish callbacks from hooks. In frameworks like PyTorch, hooks are generally lower-level functions attached to specific tensor operations or neural network layers to inspect or modify gradients and outputs during the forward or backward pass. In contrast, callbacks are typically higher-level abstractions tied to the training loop events (start, end, batch processing) rather than the mathematical computation graph itself.

Link to this section추가 읽기 및 리소스#

For those looking to deepen their understanding of how to optimize training workflows, exploring hyperparameter tuning is a logical next step. Additionally, understanding the underlying computer vision (CV) tasks such as object detection and instance segmentation will provide context on why precise training control via callbacks is necessary. For enterprise-grade management of these processes, the Ultralytics Platform offers integrated solutions that automate many of these callback-driven behaviors.