Observability

Tính khả quan sát (Observability) đề cập đến khả năng hiểu trạng thái bên trong của một hệ thống phức tạp chỉ dựa trên các đầu ra bên ngoài của hệ thống đó. Trong các lĩnh vực phát triển nhanh chóng của Artificial Intelligence (AI) và Machine Learning (ML), tính khả quan sát vượt ra ngoài việc kiểm tra trạng thái đơn giản để cung cấp thông tin chi tiết sâu sắc về lý do tại sao một mô hình hành xử theo một cách nhất định. Khi các kiến trúc Deep Learning (DL) hiện đại—chẳng hạn như YOLO26 tối tân—ngày càng trở nên phức tạp, chúng thường có thể hoạt động như các "hộp đen." Các công cụ khả quan sát tạo ra một cửa sổ minh bạch vào các hệ thống này, cho phép các nhóm kỹ thuật gỡ lỗi các hành vi bất ngờ, truy tìm nguyên nhân gốc rễ của các lỗi và đảm bảo độ tin cậy trong môi trường sản xuất.

Khả năng quan sát so với Giám sát#

Mặc dù thường được sử dụng thay thế cho nhau, nhưng tính khả quan sát và model monitoring phục vụ các mục đích riêng biệt nhưng bổ sung cho nhau trong vòng đời MLOps.

• Model Monitoring mang tính phản ứng và tập trung vào các "ẩn số đã biết" (known unknowns). Nó liên quan đến việc theo dõi các chỉ số được xác định trước như inference latency, mức sử dụng CPU hoặc tỷ lệ lỗi so với các ngưỡng đã thiết lập. Việc giám sát trả lời cho câu hỏi: "Hệ thống có hoạt động bình thường không?"
• Tính khả quan sát mang tính chủ động và giải quyết các "ẩn số chưa biết" (unknown unknowns). Nó cung cấp dữ liệu chi tiết—nhật ký, chuỗi vết và các sự kiện có độ chính xác cao—cần thiết để điều tra các sự cố mới chưa được lường trước trong quá trình chuẩn bị training data. Như đã mô tả trong Google SRE Book, một hệ thống có thể quan sát cho phép bạn hiểu các hành vi mới mà không cần phát hành mã mới. Nó trả lời cho câu hỏi: "Tại sao hệ thống lại hành xử theo cách này?"

Ba trụ cột của Khả năng quan sát#

Để đạt được tính khả quan sát thực sự trong các đường ống Computer Vision (CV), các hệ thống thường dựa vào ba loại dữ liệu đo từ xa chính:

1. Logs: Các bản ghi bất biến, có dấu thời gian của các sự kiện rời rạc. Trong một đường ống phát hiện, một bản ghi có thể nắm bắt độ phân giải hình ảnh đầu vào hoặc cấu hình hyperparameter tuning cụ thể được sử dụng trong quá trình chạy. Ghi nhật ký có cấu trúc, thường ở định dạng JSON, cho phép truy vấn và phân tích phức tạp.

2. Metrics: Dữ liệu số được tổng hợp đo lường theo thời gian, chẳng hạn như độ precision trung bình, mức tiêu thụ bộ nhớ hoặc mức sử dụng GPU. Các công cụ như Prometheus và Grafana là tiêu chuẩn để lưu trữ dữ liệu chuỗi thời gian này nhằm trực quan hóa các xu hướng.

3. Traces: Theo vết theo dõi vòng đời của một yêu cầu khi nó chuyển qua các dịch vụ vi mô khác nhau. Đối với các ứng dụng AI phân tán, các tiêu chuẩn như OpenTelemetry giúp lập bản đồ đường đi của yêu cầu, làm nổi bật các điểm nghẽn trong inference engine hoặc độ trễ mạng. Các công cụ chuyên dụng như Jaeger giúp trực quan hóa các giao dịch phân tán này.

Triển khai Khả năng quan sát trong Python#

Bạn có thể nâng cao tính khả quan sát trong các đường ống huấn luyện của mình bằng cách sử dụng các hàm gọi lại (callbacks) để ghi lại các trạng thái bên trong cụ thể. Ví dụ sau đây minh họa cách thêm một hàm gọi lại tùy chỉnh vào phiên huấn luyện YOLO26 để giám sát các chỉ số hiệu suất theo thời gian thực.

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")


# Define a custom callback for observability
def on_train_epoch_end(trainer):
    # Access and print specific metrics at the end of each epoch
    map50 = trainer.metrics.get("metrics/mAP50(B)", 0)
    print(f"Observability Log - Epoch {trainer.epoch + 1}: mAP50 is {map50:.4f}")


# Register the callback and start training
model.add_callback("on_train_epoch_end", on_train_epoch_end)
model.train(data="coco8.yaml", epochs=3)

Các ứng dụng trong thực tế#

Tính khả quan sát là rất quan trọng để triển khai các mô hình hiệu suất cao trong các môi trường động, nơi test data có thể không hoàn toàn khớp với các điều kiện thực tế.

• Autonomous Vehicles: Trong quá trình phát triển autonomous vehicles, tính khả quan sát cho phép các kỹ sư tái tạo chính xác trạng thái của hệ thống trong một sự kiện ngắt kết nối. Bằng cách tương quan các kết quả đầu ra của object detection với nhật ký cảm biến và lệnh điều khiển, các nhóm có thể xác định xem lỗi phanh có phải do nhiễu cảm biến, lỗi dự đoán của mô hình hay lỗi logic trong mô-đun lập kế hoạch hay không.
• Healthcare Diagnostics: Trong lĩnh vực AI in healthcare, việc đảm bảo hiệu suất ổn định là cực kỳ quan trọng đối với sự an toàn của bệnh nhân. Các công cụ khả quan sát có thể phát hiện data drift nếu hiệu suất của mô hình giảm sút khi áp dụng cho hình ảnh từ một loại máy quét MRI mới. Các chuỗi vết có thể tiết lộ liệu vấn đề bắt nguồn từ sự thay đổi trong quá trình data preprocessing hình ảnh hay sự dịch chuyển trong phân phối đầu vào, cho phép khắc phục nhanh chóng mà không làm tổn hại đến AI safety.

Tích hợp với các công cụ hiện đại#

Các quy trình làm việc hiện đại thường tích hợp tính khả quan sát trực tiếp vào nền tảng huấn luyện. Người dùng Ultralytics Platform được hưởng lợi từ việc trực quan hóa tích hợp các đường cong mất mát, hiệu suất hệ thống và phân tích tập dữ liệu. Ngoài ra, các tích hợp tiêu chuẩn với các công cụ như TensorBoard và MLflow cho phép các nhà khoa học dữ liệu duy trì việc theo dõi thí nghiệm nghiêm ngặt và tính khả quan sát trên toàn bộ vòng đời mô hình.