Ensemble

Ensemble learning là một chiến lược mạnh mẽ trong machine learning (ML), nơi nhiều mô hình độc lập, thường được gọi là "weak learners", được kết hợp để tạo ra một đầu ra dự đoán duy nhất. Tiền đề cơ bản là một nhóm mô hình thường có thể đạt được accuracy cao hơn và khả năng khái quát hóa tốt hơn so với bất kỳ mô hình đơn lẻ nào hoạt động độc lập. Bằng cách tổng hợp các dự đoán từ các thuật toán đa dạng, các phương pháp ensemble giảm thiểu hiệu quả rủi ro overfitting đối với training data, làm mượt các lỗi ngẫu nhiên và cải thiện độ ổn định tổng thể của hệ thống. Cách tiếp cận này tương tự như việc tham khảo ý kiến của một hội đồng chuyên gia thay vì dựa vào quan điểm của một cá nhân duy nhất để đưa ra quyết định quan trọng.

Cơ chế của Học máy Ensemble#

Hiệu quả của các phương pháp ensemble nằm ở khả năng kiểm soát bias-variance tradeoff. Các mô hình riêng lẻ có thể gặp vấn đề về phương sai cao (độ nhạy với nhiễu) hoặc độ lệch cao (sự đơn giản hóa quá mức). Ensembling giảm thiểu các vấn đề này thông qua các kỹ thuật cụ thể:

• Bagging (Bootstrap Aggregating): Kỹ thuật này bao gồm việc huấn luyện nhiều phiên bản của cùng một thuật toán trên các tập con khác nhau của tập dữ liệu. Ví dụ nổi tiếng nhất là thuật toán Random Forest, tổng hợp các quyết định của nhiều decision trees để giảm phương sai.
• Boosting: Khác với bagging, boosting huấn luyện các mô hình theo tuần tự. Mỗi mô hình mới tập trung vào việc khắc phục các lỗi do mô hình trước đó gây ra. Các framework phổ biến như LightGBM và CatBoost tận dụng điều này để tạo ra các hệ thống dự đoán có độ chính xác cao.
• Stacking (Stacked Generalization): Kỹ thuật này bao gồm việc huấn luyện một "meta-model" mới để kết hợp các dự đoán của một số mô hình cơ sở không đồng nhất (ví dụ: một neural network và một Support Vector Machine).

Ensemble trong Computer Vision#

Trong lĩnh vực computer vision (CV), các ensemble thường được sử dụng để tối đa hóa hiệu suất trong các cuộc thi và các ứng dụng an toàn quan trọng. Đối với object detection, điều này thường bao gồm việc chạy nhiều mô hình—chẳng hạn như các phiên bản khác nhau của YOLO26—trên cùng một hình ảnh. Các bounding boxes kết quả sau đó được hợp nhất bằng các kỹ thuật như Non-Maximum Suppression (NMS) hoặc Weighted Box Fusion (WBF) để suy ra các vị trí đối tượng có xác suất cao nhất.

Các ứng dụng trong thực tế#

Các phương pháp ensemble phổ biến ở khắp nơi trong các ngành công nghiệp nơi mà độ tin cậy của dự đoán là yếu tố tối quan trọng.

1. Medical Diagnosis and Imaging: Trong lĩnh vực y tế, việc tránh bỏ sót chẩn đoán (false negatives) là vô cùng quan trọng. Một ensemble có thể kết hợp Convolutional Neural Network (CNN) được huấn luyện trên ảnh X-quang với Vision Transformer (ViT) để phát hiện các bất thường. Sự đồng thuận giữa các mô hình cung cấp điểm số tin cậy cao hơn, hỗ trợ các bác sĩ X-quang trong việc detecting tumors hoặc chẩn đoán các tình trạng hiếm gặp.

2. Financial Fraud Detection: Các tổ chức tài chính sử dụng các ensemble để phân tích các mẫu giao dịch. Bằng cách kết hợp các mô hình logistic regression với máy gradient boosting, hệ thống có thể phát hiện các dấu hiệu gian lận tinh vi mà một mô hình đơn lẻ có thể bỏ sót, đồng thời giữ tỷ lệ cảnh báo sai ở mức thấp.

Triển khai Ensemble Model với Python#

Bạn có thể mô phỏng một ensemble suy luận cơ bản bằng cách tải nhiều mô hình đã được huấn luyện và tạo ra các dự đoán cho cùng một đầu vào. Ultralytics Platform cho phép bạn huấn luyện các biến thể này một cách dễ dàng. Ví dụ sau đây minh họa việc tải hai mô hình Ultralytics YOLO khác nhau (YOLO26n và YOLO26s) để xác minh các phát hiện trên một hình ảnh.

from ultralytics import YOLO

# Load two distinct YOLO26 model variants
# 'n' (nano) is faster, 's' (small) is more accurate
model_nano = YOLO("yolo26n.pt")
model_small = YOLO("yolo26s.pt")

# Define the image source
source = "https://ultralytics.com/images/bus.jpg"

# Run inference with both models
results_n = model_nano(source)
results_s = model_small(source)

# Compare the number of objects detected by each model
print(f"Nano Model Found: {len(results_n[0].boxes)} objects")
print(f"Small Model Found: {len(results_s[0].boxes)} objects")

Ensemble so với Data Augmentation#

Điều quan trọng là phải phân biệt học Ensemble với Data Augmentation.

• Ensemble tập trung vào giai đoạn kiến trúc và dự đoán, kết hợp nhiều model riêng biệt đã được huấn luyện để cải thiện kết quả.
• Data Augmentation tập trung vào giai đoạn training data, làm tăng tính đa dạng của tập dữ liệu một cách nhân tạo (ví dụ: thông qua rotation or flipping) để huấn luyện một mô hình duy nhất trở nên mạnh mẽ hơn.

Trong khi data augmentation giúp một mô hình đơn lẻ học tập tốt hơn, ensemble learning giúp nhiều mô hình xác minh đầu ra của nhau. Cả hai chiến lược thường được sử dụng cùng nhau để đạt được kết quả tiên tiến nhất trong các tác vụ như instance segmentation và pose estimation.