Naive Bayes

Naive Bayes là một họ các thuật toán xác suất được sử dụng rộng rãi trong machine learning cho các tác vụ phân loại. Dựa trên các nguyên lý thống kê, phương pháp này áp dụng Định lý Bayes cùng với giả định độc lập mạnh (hay "ngây thơ") giữa các feature. Dù đơn giản, phương pháp này vẫn rất hiệu quả trong việc phân loại dữ liệu, đặc biệt trong các tình huống liên quan đến những dataset có số chiều cao như dữ liệu văn bản. Đây là một khối xây dựng nền tảng trong lĩnh vực supervised learning, mang lại sự cân bằng giữa hiệu quả tính toán và hiệu năng dự đoán.

Khái niệm cốt lõi: Giả định "ngây thơ"#

Thuật toán dự đoán xác suất một điểm dữ liệu nhất định thuộc về một class cụ thể. Khía cạnh "ngây thơ" bắt nguồn từ giả định rằng sự xuất hiện của một feature cụ thể trong một class không liên quan đến sự xuất hiện của bất kỳ feature nào khác. Ví dụ, một loại quả có thể được xem là quả táo nếu nó có màu đỏ, hình tròn và đường kính khoảng 3 inch. Bộ phân loại Naive Bayes xem xét độc lập từng điểm trích xuất feature này để tính xác suất loại quả đó là táo, bất kể mọi tương quan có thể có giữa màu sắc, độ tròn và kích thước.

Việc đơn giản hóa này làm giảm đáng kể năng lực tính toán cần thiết cho quá trình train model, khiến thuật toán trở nên đặc biệt nhanh. Tuy nhiên, vì dữ liệu thực tế thường chứa các biến phụ thuộc và những mối quan hệ phức tạp, giả định này đôi khi có thể hạn chế hiệu năng của model so với các kiến trúc phức tạp hơn.

Các ứng dụng trong thực tế#

Naive Bayes phát huy hiệu quả trong các ứng dụng đòi hỏi tốc độ cao và khi giả định độc lập tương đối phù hợp.

• Lọc thư rác: Một trong những ứng dụng nổi tiếng nhất của Naive Bayes là trong xử lý ngôn ngữ tự nhiên (NLP) để lọc email. Bộ phân loại phân tích tần suất của các từ (token) trong email để xác định đó là "spam" hay "ham" (hợp lệ). Nó tính xác suất một tin nhắn là spam dựa trên sự xuất hiện của các từ như "free", "winner" hoặc "urgent". Ứng dụng này phụ thuộc nhiều vào các kỹ thuật phân loại văn bản để giữ cho hộp thư đến luôn sạch.
• Phân tích cảm xúc: Các doanh nghiệp sử dụng thuật toán này để đánh giá ý kiến công chúng bằng cách phân tích đánh giá của khách hàng hoặc các bài đăng trên mạng xã hội. Bằng cách liên kết những từ cụ thể với cảm xúc tích cực hoặc tiêu cực, model có thể nhanh chóng phân loại khối lượng lớn phản hồi. Điều này cho phép các công ty thực hiện phân tích cảm xúc trên quy mô lớn để tìm hiểu nhận thức về thương hiệu mà không cần đọc thủ công từng bình luận.

Naive Bayes và Deep Learning trong Computer Vision#

Mặc dù Naive Bayes hoạt động tốt với văn bản, phương pháp này thường gặp khó khăn với các tác vụ nhận thức như computer vision (CV). Trong một hình ảnh, giá trị của một pixel thường phụ thuộc nhiều vào các pixel lân cận (ví dụ: một nhóm pixel tạo thành cạnh hoặc texture). Giả định độc lập không còn phù hợp trong trường hợp này.

Đối với các tác vụ thị giác phức tạp như phát hiện đối tượng, các model deep learning (DL) hiện đại được ưu tiên sử dụng. Các kiến trúc như YOLO26 sử dụng các lớp convolution để nắm bắt các phân cấp không gian và tương tác giữa các feature mà Naive Bayes bỏ qua. Trong khi Naive Bayes cung cấp một baseline xác suất, các model như YOLO26 mang lại độ chính xác cao cần thiết cho việc lái xe tự động hoặc chẩn đoán y khoa. Để quản lý các dataset cần thiết cho những model thị giác phức tạp này, các công cụ như Ultralytics Platform cung cấp các workflow gán nhãn và train được tinh gọn, vượt xa việc xử lý dữ liệu dạng bảng đơn giản.

So sánh với Bayesian Network#

Việc phân biệt Naive Bayes với khái niệm rộng hơn là một Bayesian Network sẽ rất hữu ích.

• Naive Bayes: Một dạng chuyên biệt và đơn giản hóa của Bayesian Network, trong đó tất cả node dự đoán đều trỏ trực tiếp đến node class và không có kết nối nào giữa các node dự đoán.
• Bayesian Networks: Sử dụng một Đồ thị có hướng không chu trình (DAG) để mô hình hóa các phụ thuộc có điều kiện phức tạp giữa các biến. Chúng có thể biểu diễn các mối quan hệ nhân quả mà phương pháp "ngây thơ" đã đơn giản hóa và loại bỏ.

Ví dụ triển khai#

Trong khi package ultralytics tập trung vào deep learning, Naive Bayes thường được triển khai bằng thư viện scikit-learn tiêu chuẩn. Ví dụ sau minh họa cách train một model Gaussian Naive Bayes, phù hợp với dữ liệu liên tục.

import numpy as np
from sklearn.naive_bayes import GaussianNB

# Sample training data: [height (cm), weight (kg)] and Labels (0: Cat A, 1: Cat B)
X = np.array([[175, 70], [180, 80], [160, 50], [155, 45]])
y = np.array([0, 0, 1, 1])

# Initialize and train the classifier
model = GaussianNB()
model.fit(X, y)

# Predict class for a new individual [172 cm, 75 kg]
# Returns the predicted class label (0 or 1)
print(f"Predicted Class: {model.predict([[172, 75]])[0]}")

Ưu điểm và hạn chế#

Ưu điểm chính của Naive Bayes là độ trễ inference cực thấp và yêu cầu phần cứng tối thiểu. Nó có thể xử lý các dataset khổng lồ vốn có thể làm chậm những thuật toán khác như Support Vector Machines (SVM). Hơn nữa, nó vẫn hoạt động tốt một cách đáng ngạc nhiên ngay cả khi giả định độc lập bị vi phạm.

Tuy nhiên, việc phụ thuộc vào các feature độc lập khiến phương pháp này không thể nắm bắt các tương tác giữa các thuộc tính. Nếu một dự đoán phụ thuộc vào sự kết hợp của các từ (ví dụ: "not good"), Naive Bayes có thể gặp khó khăn so với các model sử dụng cơ chế attention hoặc Transformers. Ngoài ra, nếu một category trong test data không xuất hiện trong training set, model sẽ gán cho category đó xác suất bằng 0, một vấn đề thường được giải quyết bằng làm trơn Laplace.