Logistic Regression

Hồi quy logistic là một phương pháp thống kê nền tảng và thuật toán machine learning chủ yếu được sử dụng cho các tác vụ phân loại nhị phân. Mặc dù tên gọi có chứa từ "hồi quy", vốn thường hàm ý việc dự đoán các giá trị liên tục (như nhiệt độ hoặc giá cổ phiếu), Hồi quy logistic được thiết kế để dự đoán xác suất một đầu vào nhất định thuộc về một danh mục cụ thể. Điều này khiến nó trở thành một công cụ quan trọng cho các bài toán có kết quả lưỡng phân, chẳng hạn như xác định một email là "spam" hay "không spam", hoặc một khối u y tế là "lành tính" hay "ác tính". Hồi quy logistic đóng vai trò cầu nối giữa thống kê truyền thống và học có giám sát, mang lại sự cân bằng giữa tính đơn giản và khả năng diễn giải, nên thường được sử dụng làm baseline trước khi triển khai các model phức tạp hơn như neural network.

Cơ chế cốt lõi và xác suất#

Khác với Hồi quy tuyến tính, vốn khớp một đường thẳng với các điểm dữ liệu để dự đoán đầu ra liên tục, Hồi quy logistic khớp một đường cong hình chữ "S" với dữ liệu. Đường cong này được tạo ra bằng hàm Sigmoid, một phép biến đổi toán học ánh xạ mọi số thực sang một giá trị nằm trong khoảng từ 0 đến 1. Đầu ra này biểu thị một điểm xác suất, cho biết mức độ tin cậy rằng một mẫu thuộc về lớp dương.

Trong quá trình training, thuật toán học các trọng số và độ lệch tối ưu để giảm thiểu sai số. Điều này thường đạt được bằng cách sử dụng một thuật toán tối ưu hóa như gradient descent, thuật toán điều chỉnh lặp đi lặp lại các tham số của model để giảm chênh lệch giữa xác suất dự đoán và nhãn lớp thực tế. Hiệu năng thường được đánh giá bằng một hàm loss cụ thể gọi là Log Loss hoặc Binary Cross-Entropy. Sau khi model tạo ra một xác suất, một ranh giới quyết định (thường được đặt ở mức 0.5) sẽ phân loại đầu vào: các giá trị cao hơn ngưỡng trở thành lớp dương, còn các giá trị thấp hơn trở thành lớp âm.

Phân biệt với các thuật ngữ liên quan#

Điều quan trọng là phân biệt Hồi quy logistic với các khái niệm tương tự để tránh nhầm lẫn:

• Hồi quy tuyến tính và Hồi quy logistic: Trong khi Hồi quy tuyến tính dự đoán các đầu ra số liên tục (ví dụ: giá nhà), Hồi quy logistic dự đoán các kết quả phân loại thông qua xác suất.
• Phân loại và Hồi quy: Trong machine learning, các tác vụ phân loại liên quan đến việc dự đoán các nhãn rời rạc, trong khi các tác vụ hồi quy dự đoán các đại lượng liên tục. Hồi quy logistic là một thuật toán phân loại mặc dù tên gọi của nó là hồi quy.
• Perceptron: Một Perceptron đơn giản sử dụng hàm bước để trực tiếp xuất ra giá trị nhị phân 0 hoặc 1, trong khi Hồi quy logistic sử dụng hàm Sigmoid trơn để xuất ra một xác suất, mang lại thông tin tinh tế hơn.

Các ứng dụng trong thực tế#

Hồi quy logistic vẫn được sử dụng rộng rãi trong nhiều ngành nhờ hiệu quả và khả năng diễn giải dễ dàng các kết quả của nó.

• Chăm sóc sức khỏe và chẩn đoán y khoa: Các chuyên gia y tế sử dụng những model này để dự đoán khả năng một bệnh nhân mắc một bệnh cụ thể, chẳng hạn như tiểu đường hoặc bệnh tim, dựa trên các yếu tố như tuổi, BMI và huyết áp. Điều này hỗ trợ phân tích hình ảnh y tế và quá trình ra quyết định từ sớm.
• Chấm điểm tín dụng và tài chính: Các ngân hàng triển khai Hồi quy logistic để đánh giá rủi ro khi cho khách hàng vay. Bằng cách phân tích các đặc trưng như lịch sử tín dụng và thu nhập, model dự đoán xác suất người vay không trả được khoản vay, tự động hóa mô hình hóa dự báo nhằm đảm bảo an toàn tài chính.
• Marketing và dự đoán rời bỏ: Các công ty phân tích hành vi khách hàng để dự đoán liệu người dùng có đăng ký một dịch vụ hay ngừng sử dụng một sản phẩm (churn). Thông tin này giúp tinh chỉnh chiến lược duy trì khách hàng và nhắm mục tiêu hiệu quả cho các chiến dịch marketing.

Triển khai hiện đại#

Trong khi các model deep learning như YOLO26 được ưu tiên cho các tác vụ phức tạp như object detection, Hồi quy logistic thường là layer cuối cùng trong các network phân loại hình ảnh nhị phân. Ví dụ, một convolutional neural network có thể trích xuất các đặc trưng, còn layer cuối cùng hoạt động như một bộ phân loại Hồi quy logistic để xác định liệu một hình ảnh có chứa "mèo" hay "chó".

Các công cụ như Ultralytics Platform đơn giản hóa workflow training các model phân loại phức tạp sử dụng những nguyên lý nền tảng này. Tuy nhiên, để hiểu khái niệm cơ bản, các thư viện đơn giản có thể minh họa cơ chế hoạt động.

Dưới đây là một ví dụ cơ bản sử dụng torch để định nghĩa cấu trúc của một model Hồi quy logistic một layer:

import torch
import torch.nn as nn


# Define a simple Logistic Regression model class
class LogisticRegression(nn.Module):
    def __init__(self, input_dim):
        super().__init__()
        # A single linear layer maps input features to a single output
        self.linear = nn.Linear(input_dim, 1)

    def forward(self, x):
        # The sigmoid function transforms the linear output to a probability (0 to 1)
        return torch.sigmoid(self.linear(x))


# Example usage: Initialize model for 10 input features
model = LogisticRegression(input_dim=10)
print(model)

Ưu điểm và hạn chế#

Hiểu rõ các ưu điểm và nhược điểm của thuật toán này giúp lựa chọn đúng công cụ cho công việc.

• Khả năng diễn giải: Các hệ số của model (trọng số) trực tiếp cho biết mối quan hệ giữa các đặc trưng đầu vào và biến mục tiêu. Trọng số dương hàm ý rằng khi đặc trưng tăng, xác suất của kết quả dương cũng tăng. Tính minh bạch này rất quan trọng đối với đạo đức AI và việc giải thích các quyết định cho các bên liên quan.
• Hiệu quả: Thuật toán này yêu cầu ít năng lực tính toán hơn so với các kiến trúc Deep Learning phức tạp, nên phù hợp với các ứng dụng yêu cầu độ trễ thấp hoặc có phần cứng hạn chế.
• Tính tuyến tính của dữ liệu: Một hạn chế quan trọng là thuật toán giả định có mối quan hệ tuyến tính giữa các biến đầu vào và log-odds của kết quả. Thuật toán có thể gặp khó khăn với các mẫu dữ liệu phi tuyến, phức tạp, trong đó những kỹ thuật nâng cao như Máy vector hỗ trợ (SVM) hoặc Random Forest có thể hoạt động tốt hơn.
• Overfitting: Trên các tập dữ liệu có số chiều cao nhưng ít mẫu training, Hồi quy logistic có thể dễ bị overfitting, mặc dù có thể giảm thiểu điều này bằng các kỹ thuật regularization.