Naive Bayes

Naive Bayes là một họ các thuật toán xác suất được sử dụng rộng rãi trong học máy cho các nhiệm vụ phân loại. Dựa trên các nguyên tắc thống kê, nó áp dụng Định lý Bayes với giả định độc lập mạnh (hay "ngây thơ") giữa các đặc trưng. Mặc dù đơn giản, phương pháp này rất hiệu quả trong việc phân loại dữ liệu, đặc biệt là trong các trường hợp liên quan đến tập dữ liệu đa chiều như văn bản. Nó đóng vai trò là khối xây dựng cơ bản trong lĩnh vực học có giám sát , mang lại sự cân bằng giữa hiệu quả tính toán và hiệu suất dự đoán.

Khái niệm cốt lõi: Giả định "ngây thơ"

Thuật toán này dự đoán xác suất một điểm dữ liệu nhất định thuộc về một lớp cụ thể. Khía cạnh "ngây thơ" xuất phát từ giả định rằng sự hiện diện của một đặc điểm cụ thể trong một lớp không liên quan đến sự hiện diện của bất kỳ đặc điểm nào khác. Ví dụ, một quả có thể được coi là táo nếu nó có màu đỏ, tròn và đường kính khoảng 3 inch. Bộ phân loại Naive Bayes xem xét từng điểm trích xuất đặc điểm này một cách độc lập để tính toán xác suất quả đó là táo, bất kể mối tương quan nào có thể có giữa màu sắc, độ tròn và kích thước.

Việc đơn giản hóa này giúp giảm đáng kể sức mạnh tính toán cần thiết cho việc huấn luyện mô hình , làm cho thuật toán hoạt động cực kỳ nhanh. Tuy nhiên, vì dữ liệu thực tế thường chứa các biến phụ thuộc và các mối quan hệ phức tạp, giả định này đôi khi có thể hạn chế hiệu suất của mô hình so với các kiến ​​trúc phức tạp hơn.

Các Ứng dụng Thực tế

Thuật toán Naive Bayes phát huy hiệu quả tối ưu trong các ứng dụng mà tốc độ là yếu tố quan trọng và giả định về tính độc lập được đáp ứng khá tốt.

• Lọc thư rác: Một trong những ứng dụng nổi tiếng nhất của thuật toán Naive Bayes là trong xử lý ngôn ngữ tự nhiên (NLP) để lọc email. Thuật toán phân loại này phân tích tần suất xuất hiện của các từ (token) trong email để xác định xem đó là "thư rác" hay "thư hợp lệ". Nó tính toán xác suất một tin nhắn là thư rác dựa trên sự hiện diện của các từ như "miễn phí", "người chiến thắng" hoặc "khẩn cấp". Ứng dụng này dựa rất nhiều vào các kỹ thuật phân loại văn bản để giữ cho hộp thư đến luôn sạch sẽ.
• Phân tích cảm xúc: Các doanh nghiệp sử dụng thuật toán này để đánh giá dư luận bằng cách phân tích các đánh giá của khách hàng hoặc bài đăng trên mạng xã hội. Bằng cách liên kết các từ cụ thể với cảm xúc tích cực hoặc tiêu cực, mô hình có thể nhanh chóng phân loại lượng lớn phản hồi. Điều này cho phép các công ty thực hiện phân tích cảm xúc quy mô lớn để hiểu nhận thức về thương hiệu mà không cần phải đọc thủ công từng bình luận.

So sánh Naive Bayes và Học sâu trong Thị giác máy tính

Mặc dù thuật toán Naive Bayes mạnh mẽ trong việc xử lý văn bản, nó thường gặp khó khăn với các tác vụ nhận thức như thị giác máy tính (CV) . Trong một hình ảnh, giá trị của một pixel thường phụ thuộc rất nhiều vào các pixel lân cận (ví dụ: một nhóm pixel tạo thành một cạnh hoặc một kết cấu). Giả định về tính độc lập không còn đúng trong trường hợp này.

Đối với các tác vụ hình ảnh phức tạp như phát hiện đối tượng , các mô hình học sâu (DL) hiện đại được ưu tiên sử dụng. Các kiến ​​trúc như YOLO26 sử dụng các lớp tích chập để nắm bắt hệ thống phân cấp không gian và tương tác giữa các đặc trưng mà thuật toán Naive Bayes bỏ qua. Trong khi Naive Bayes cung cấp một cơ sở xác suất, các mô hình như YOLO26 mang lại độ chính xác cao cần thiết cho lái xe tự động hoặc chẩn đoán y tế. Để quản lý các tập dữ liệu cần thiết cho các mô hình thị giác phức tạp này, các công cụ như Nền tảng Ultralytics cung cấp quy trình chú thích và huấn luyện được tối ưu hóa, vượt xa việc xử lý dữ liệu dạng bảng đơn giản.

So sánh với mạng Bayesian

Việc phân biệt Naive Bayes với khái niệm rộng hơn về Mạng Bayesian là rất hữu ích.

• Naive Bayes: Một dạng đơn giản hóa, chuyên biệt của mạng Bayes, trong đó tất cả các nút dự đoán đều trỏ trực tiếp đến nút lớp, và không có kết nối nào giữa các nút dự đoán.
• Mạng Bayes: Phương pháp này sử dụng Đồ thị không chu trình có hướng (DAG) để mô hình hóa các mối quan hệ phụ thuộc có điều kiện phức tạp giữa các biến. Chúng có thể biểu diễn các mối quan hệ nhân quả mà phương pháp "đơn giản" thường bỏ qua.

Ví dụ triển khai

Trong khi ultralytics gói tập trung vào học sâu, Naive Bayes thường được triển khai bằng cách sử dụng tiêu chuẩn thư viện scikit-learnVí dụ sau đây minh họa cách huấn luyện mô hình Naive Bayes Gaussian, một mô hình hữu ích cho dữ liệu liên tục.

import numpy as np
from sklearn.naive_bayes import GaussianNB

# Sample training data: [height (cm), weight (kg)] and Labels (0: Cat A, 1: Cat B)
X = np.array([[175, 70], [180, 80], [160, 50], [155, 45]])
y = np.array([0, 0, 1, 1])

# Initialize and train the classifier
model = GaussianNB()
model.fit(X, y)

# Predict class for a new individual [172 cm, 75 kg]
# Returns the predicted class label (0 or 1)
print(f"Predicted Class: {model.predict([[172, 75]])[0]}")

Ưu điểm và Hạn chế

Ưu điểm chính của thuật toán Naive Bayes là độ trễ suy luận cực thấp và yêu cầu phần cứng tối thiểu. Nó có thể xử lý các tập dữ liệu khổng lồ mà các thuật toán khác như Support Vector Machines (SVM) có thể làm chậm. Hơn nữa, nó hoạt động tốt một cách đáng ngạc nhiên ngay cả khi giả định về tính độc lập bị vi phạm.

Tuy nhiên, việc dựa vào các đặc trưng độc lập đồng nghĩa với việc nó không thể nắm bắt được sự tương tác giữa các thuộc tính. Nếu một dự đoán phụ thuộc vào sự kết hợp của các từ (ví dụ: "không tốt"), Naive Bayes có thể gặp khó khăn hơn so với các mô hình sử dụng cơ chế chú ý hoặc Transformer . Thêm vào đó, nếu một danh mục trong dữ liệu kiểm tra không có trong tập huấn luyện, mô hình sẽ gán cho nó xác suất bằng không, một vấn đề thường được giải quyết bằng phương pháp làm mịn Laplace .