Naive Bayes

Naive Bayes là một họ thuật toán xác suất được sử dụng rộng rãi trong machine learning cho các tác vụ phân loại. Bắt nguồn từ các nguyên lý thống kê, nó áp dụng Định lý Bayes với giả định độc lập mạnh mẽ (hoặc "ngây thơ") giữa các đặc trưng. Mặc dù có tính đơn giản, phương pháp này rất hiệu quả trong việc phân loại dữ liệu, đặc biệt trong các kịch bản liên quan đến tập dữ liệu có chiều cao như văn bản. Nó đóng vai trò là một khối xây dựng cơ bản trong lĩnh vực supervised learning, mang lại sự cân bằng giữa hiệu quả tính toán và hiệu suất dự đoán.

Khái niệm cốt lõi: Giả định "ngây thơ"#

Thuật toán dự đoán xác suất một điểm dữ liệu cho trước thuộc về một lớp cụ thể. Khía cạnh "ngây thơ" bắt nguồn từ giả định rằng sự hiện diện của một đặc trưng cụ thể trong một lớp không liên quan đến sự hiện diện của bất kỳ đặc trưng nào khác. Ví dụ, một quả táo có thể được coi là quả táo nếu nó có màu đỏ, tròn và đường kính khoảng 3 inch. Bộ phân loại Naive Bayes xem xét từng điểm feature extraction này một cách độc lập để tính toán xác suất quả táo đó là quả táo, bất kể mọi mối tương quan có thể có giữa màu sắc, độ tròn và kích thước.

Sự đơn giản hóa này làm giảm đáng kể sức mạnh tính toán cần thiết cho model training, giúp thuật toán cực kỳ nhanh chóng. Tuy nhiên, vì dữ liệu thế giới thực thường chứa dependent variables và các mối quan hệ phức tạp, giả định này đôi khi có thể hạn chế hiệu suất của model so với các kiến trúc phức tạp hơn.

Các ứng dụng trong thực tế#

Naive Bayes tỏa sáng trong các ứng dụng yêu cầu tốc độ là then chốt và giả định về tính độc lập được đáp ứng hợp lý.

• Lọc thư rác: Một trong những ứng dụng nổi tiếng nhất của Naive Bayes là trong natural language processing (NLP) để lọc email. Bộ phân loại phân tích tần suất của các từ (token) trong email để xác định xem đó có phải là "spam" hay "ham" (hợp lệ). Nó tính toán xác suất một tin nhắn là spam khi có sự xuất hiện của các từ như "free", "winner" hoặc "urgent". Ứng dụng này phụ thuộc rất nhiều vào các kỹ thuật text classification để giữ cho hộp thư đến sạch sẽ.
• Phân tích cảm xúc: Các doanh nghiệp sử dụng thuật toán này để đánh giá ý kiến công chúng bằng cách phân tích đánh giá của khách hàng hoặc bài đăng trên mạng xã hội. Bằng cách liên kết các từ cụ thể với cảm xúc tích cực hoặc tiêu cực, model có thể nhanh chóng phân loại lượng lớn phản hồi. Điều này cho phép các công ty thực hiện sentiment analysis quy mô lớn để hiểu nhận thức thương hiệu mà không cần đọc thủ công mọi bình luận.

Naive Bayes so với Deep Learning trong Computer Vision#

Mặc dù Naive Bayes rất mạnh mẽ đối với văn bản, nó thường gặp khó khăn với các tác vụ tri giác như computer vision (CV). Trong một hình ảnh, giá trị của một pixel thường phụ thuộc rất nhiều vào các pixel lân cận của nó (ví dụ: một nhóm pixel tạo thành một cạnh hoặc một kết cấu). Giả định độc lập bị phá vỡ ở đây.

Đối với các tác vụ trực quan phức tạp như object detection, các model deep learning (DL) hiện đại được ưu tiên hơn. Các kiến trúc như YOLO26 tận dụng các lớp tích chập để nắm bắt phân cấp không gian và tương tác đặc trưng mà Naive Bayes bỏ qua. Mặc dù Naive Bayes cung cấp một đường cơ sở xác suất, các model như YOLO26 mang lại accuracy cao cần thiết cho lái xe tự động hoặc chẩn đoán y tế. Để quản lý các tập dữ liệu cần thiết cho các model thị giác phức tạp này, các công cụ như Ultralytics Platform cung cấp quy trình huấn luyện và gán nhãn tinh gọn vượt xa khả năng xử lý dữ liệu dạng bảng đơn giản.

So sánh với Bayesian Networks#

Việc phân biệt Naive Bayes với khái niệm rộng hơn về Bayesian Network là rất hữu ích.

• Naive Bayes: Một dạng chuyên biệt, đơn giản hóa của Bayesian Network, nơi tất cả các node dự đoán chỉ trực tiếp vào node lớp, và không có kết nối nào tồn tại giữa các node dự đoán.
• Mạng Bayesian: Các mạng này sử dụng Directed Acyclic Graph (DAG) để lập mô hình các phụ thuộc có điều kiện phức tạp giữa các biến. Chúng có thể đại diện cho các mối quan hệ nhân quả mà phương pháp "ngây thơ" đã đơn giản hóa đi.

Ví dụ về triển khai#

Trong khi gói ultralytics tập trung vào deep learning, Naive Bayes thường được triển khai bằng cách sử dụng scikit-learn library tiêu chuẩn. Ví dụ sau đây minh họa cách huấn luyện một model Gaussian Naive Bayes, vốn hữu ích cho dữ liệu liên tục.

import numpy as np
from sklearn.naive_bayes import GaussianNB

# Sample training data: [height (cm), weight (kg)] and Labels (0: Cat A, 1: Cat B)
X = np.array([[175, 70], [180, 80], [160, 50], [155, 45]])
y = np.array([0, 0, 1, 1])

# Initialize and train the classifier
model = GaussianNB()
model.fit(X, y)

# Predict class for a new individual [172 cm, 75 kg]
# Returns the predicted class label (0 or 1)
print(f"Predicted Class: {model.predict([[172, 75]])[0]}")

Ưu điểm và Hạn chế#

Ưu điểm chính của Naive Bayes là inference latency cực kỳ thấp và yêu cầu phần cứng tối thiểu. Nó có thể diễn giải các tập dữ liệu lớn có thể làm chậm các thuật toán khác như Support Vector Machines (SVM). Hơn nữa, nó hoạt động cực kỳ tốt ngay cả khi giả định độc lập bị vi phạm.

Tuy nhiên, sự phụ thuộc vào các đặc trưng độc lập đồng nghĩa với việc nó không thể nắm bắt các tương tác giữa các thuộc tính. Nếu một dự đoán phụ thuộc vào sự kết hợp của các từ (ví dụ: "not good"), Naive Bayes có thể gặp khó khăn so với các model sử dụng attention mechanisms hoặc Transformers. Ngoài ra, nếu một danh mục trong test data không có trong tập huấn luyện, model sẽ gán cho nó xác suất bằng không, một vấn đề thường được giải quyết bằng Laplace smoothing.