Máy Vector Hỗ Trợ (SVM)

Máy vectơ hỗ trợ (SVM) là một thuật toán học có giám sát mạnh mẽ và linh hoạt, chủ yếu được sử dụng cho các tác vụ phân loại và hồi quy hình ảnh . Không giống như một số thuật toán chỉ đơn thuần khớp đường thẳng với dữ liệu, SVM tìm kiếm siêu phẳng tối ưu—một ranh giới quyết định—giúp phân tách tốt nhất các điểm dữ liệu thành các lớp khác nhau. Đặc điểm nổi bật của SVM là tập trung vào việc tối đa hóa biên độ, tức là khoảng cách giữa ranh giới quyết định và các điểm dữ liệu gần nhất từ mỗi lớp. Bằng cách ưu tiên khoảng cách rộng này, mô hình đạt được khả năng khái quát hóa tốt hơn trên dữ liệu chưa biết, giúp giảm thiểu đáng kể nguy cơ quá khớp so với các bộ phân loại tuyến tính đơn giản hơn.

Cơ chế cốt lõi của SVM

Để hiểu cách SVM hoạt động, sẽ hữu ích khi hình dung các điểm dữ liệu được biểu diễn trong không gian đa chiều, trong đó mỗi chiều biểu diễn một thuộc tính hoặc tính năng cụ thể.

• Siêu phẳng tối ưu : Thuật toán xác định một mặt phẳng chia tách không gian biến đầu vào. Trong không gian hai chiều, đây là một đường thẳng; trong không gian ba chiều, đây là một mặt phẳng phẳng; và trong không gian ba chiều cao hơn, đây là một siêu phẳng. Mục tiêu là tìm siêu phẳng cụ thể duy trì khoảng cách tối đa từ các điểm dữ liệu gần nhất của bất kỳ lớp nào.
• Vectơ Hỗ trợ : Đây là các điểm dữ liệu cụ thể nằm gần ranh giới quyết định nhất. Chúng được gọi là "vectơ hỗ trợ" vì về cơ bản chúng hỗ trợ hoặc xác định hướng và vị trí của siêu phẳng. Nếu bạn loại bỏ các điểm dữ liệu khác, ranh giới vẫn giữ nguyên, nhưng việc di chuyển một vectơ hỗ trợ sẽ thay đổi mô hình. Bạn có thể tìm hiểu thêm về các vectơ này trong tài liệu SVM của Scikit-learn .
• Thủ thuật Kernel : Dữ liệu thực tế hiếm khi có thể phân tách tuyến tính. SVM giải quyết vấn đề này bằng một kỹ thuật gọi là thủ thuật Kernel, chiếu dữ liệu vào không gian nhiều chiều hơn, nơi một bộ tách tuyến tính phân chia hiệu quả các lớp. Các Kernel phổ biến bao gồm Hàm Cơ sở Bán kính (RBF) và Kernel đa thức, cho phép mô hình xử lý các mối quan hệ phi tuyến tính phức tạp thường thấy trong các tác vụ xử lý ngôn ngữ tự nhiên (NLP) .

Các Ứng dụng Thực tế

Trước khi kiến trúc học sâu hiện đại ra đời, SVM là tiêu chuẩn vàng cho nhiều vấn đề về thị giác máy tính và nhận dạng mẫu.

• Tin sinh học và Chăm sóc Sức khỏe : SVM đóng vai trò quan trọng trong AI chăm sóc sức khỏe , đặc biệt là trong các bài toán phân loại như phát hiện tương đồng protein từ xa và phân loại ung thư dựa trên dữ liệu biểu hiện gen microarray. Khả năng xử lý dữ liệu đa chiều với số lượng mẫu ít khiến chúng trở nên lý tưởng để phân tích các tập dữ liệu sinh học phức tạp.
• Phân loại văn bản : Trong lĩnh vực phân tích dữ liệu , SVM được sử dụng rộng rãi để phân loại văn bản và siêu văn bản. Chúng giảm đáng kể nhu cầu về các trường hợp huấn luyện được gắn nhãn trong các thiết lập phân loại văn bản quy nạp tiêu chuẩn, giúp chúng hiệu quả cho các ứng dụng như phát hiện thư rác và phân tích cảm xúc.
• Nhận dạng chữ viết tay : SVM trước đây đã hoạt động rất tốt trong các tác vụ nhận dạng chữ số viết tay, chẳng hạn như những tác vụ được tìm thấy trong tập dữ liệu MNIST . Mặc dù mạng nơ-ron tích chập (CNN) đã phần lớn chiếm ưu thế, SVM vẫn còn phù hợp để đánh giá chuẩn và trong các trường hợp có dữ liệu huấn luyện hạn chế.

Triển khai bộ phân loại SVM

Trong khi các nhiệm vụ hiện đại thường sử dụng Ultralytics YOLO11 Mô hình phát hiện đối tượng đầu cuối, SVM vẫn là một công cụ mạnh mẽ cho dữ liệu có cấu trúc hoặc là lớp phân loại cuối cùng trên các đặc điểm được trích xuất. Dưới đây là một ví dụ ngắn gọn sử dụng scikit-learn thư viện để đào tạo một bộ phân loại đơn giản.

from sklearn import svm
from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split

# Generate synthetic classification data
X, y = make_classification(n_features=4, random_state=0)
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=0)

# Initialize and train the Support Vector Classifier
clf = svm.SVC(kernel="linear", C=1.0)
clf.fit(X_train, y_train)

# Display the accuracy on the test set
print(f"Accuracy: {clf.score(X_test, y_test):.2f}")

SVM so với các thuật toán liên quan

Phân biệt SVM với các kỹ thuật học máy khác giúp lựa chọn công cụ phù hợp cho dự án mô hình hóa dự đoán .

• Hồi quy Logistic : Cả hai đều là bộ phân loại tuyến tính, nhưng mục tiêu tối ưu hóa của chúng khác nhau. Hồi quy Logistic tối đa hóa khả năng xảy ra của dữ liệu quan sát (xác suất), trong khi SVM tối đa hóa biên độ hình học giữa các lớp. SVM thường hiệu quả hơn khi các lớp được phân tách tốt, trong khi Hồi quy Logistic cung cấp các xác suất được hiệu chuẩn.
• K-Nearest Neighbors (KNN) : KNN là một thuật toán học phi tham số, dựa trên thực thể, phân loại một điểm dựa trên lớp đa số của các lân cận. Ngược lại, SVM là một mô hình tham số học một ranh giới toàn cục. SVM thường cung cấp độ trễ suy luận nhanh hơn sau khi được huấn luyện, vì chúng không cần lưu trữ toàn bộ tập dữ liệu, không giống như KNN.
• Cây Quyết định : Cây quyết định chia không gian dữ liệu thành các vùng hình chữ nhật bằng các quy tắc phân cấp. SVM có thể tạo ra các ranh giới quyết định cong phức tạp (thông qua các hạt nhân) mà cây quyết định có thể gặp khó khăn trong việc ước lượng mà không bị quá sâu và dễ bị quá khớp.
• Học sâu (ví dụ: YOLO11 ) : SVM phụ thuộc rất nhiều vào kỹ thuật tính năng thủ công, trong đó các chuyên gia trong lĩnh vực lựa chọn các đầu vào phù hợp. Các mô hình hiện đại như YOLO11 vượt trội trong việc tự động trích xuất tính năng trực tiếp từ các pixel thô, giúp chúng trở nên vượt trội hơn cho các tác vụ phức tạp như phát hiện đối tượng theo thời gian thực và phân đoạn thực thể .

Đối với những người quan tâm đến lý thuyết cơ bản, bài báo gốc của Cortes và Vapnik (1995) cung cấp nền tảng toán học cho SVM biên mềm được sử dụng ngày nay.