Logistic Regression

Hồi quy Logistic là một phương pháp thống kê và thuật toán machine learning cơ bản được sử dụng chủ yếu cho các tác vụ phân loại nhị phân. Mặc dù tên gọi chứa từ "hồi quy" (regression), vốn thường hàm ý dự đoán các giá trị liên tục (như nhiệt độ hoặc giá cổ phiếu), Hồi quy Logistic được thiết kế để dự đoán xác suất rằng một đầu vào cụ thể thuộc về một danh mục nhất định. Điều này khiến nó trở thành một công cụ quan trọng cho các vấn đề có kết quả lưỡng phân, chẳng hạn như xác định xem một email là "spam" hay "không phải spam", hoặc liệu một khối u y tế là "lành tính" hay "ác tính". Nó đóng vai trò như cầu nối giữa thống kê truyền thống và học có giám sát hiện đại, mang lại sự cân bằng giữa tính đơn giản và khả năng diễn giải, thường được sử dụng làm cơ sở trước khi triển khai các model phức tạp hơn như mạng thần kinh.

Link to this sectionCơ chế cốt lõi và Xác suất#

Không giống như Hồi quy tuyến tính, vốn khớp một đường thẳng với các điểm dữ liệu để dự đoán đầu ra liên tục, Hồi quy Logistic khớp một đường cong hình chữ "S" với dữ liệu. Đường cong này được tạo ra bằng cách sử dụng hàm Sigmoid, một phép biến đổi toán học ánh xạ bất kỳ số thực nào thành một giá trị nằm trong khoảng từ 0 đến 1. Đầu ra này đại diện cho điểm số xác suất, cho biết độ tin cậy rằng một thực thể thuộc về lớp dương tính.

Trong quá trình huấn luyện, thuật toán học các trọng số và độ chệch tối ưu để giảm thiểu sai số. Điều này thường đạt được bằng cách sử dụng thuật toán tối ưu hóa như gradient descent, thuật toán này điều chỉnh các tham số của model theo vòng lặp để giảm sự khác biệt giữa các xác suất dự đoán và nhãn lớp thực tế. Hiệu suất thường được đánh giá bằng một hàm mất mát cụ thể có tên là Log Loss hoặc Binary Cross-Entropy. Sau khi model xuất ra xác suất, một ranh giới quyết định (thường được đặt ở mức 0,5) sẽ phân loại đầu vào: các giá trị trên ngưỡng này trở thành lớp dương tính và các giá trị dưới ngưỡng trở thành lớp âm tính.

Link to this sectionPhân biệt với các thuật ngữ liên quan#

Điều quan trọng là phải phân biệt Hồi quy Logistic với các khái niệm tương tự để tránh nhầm lẫn:

• Hồi quy tuyến tính so với Hồi quy Logistic: Trong khi Hồi quy tuyến tính dự đoán các đầu ra số liên tục (ví dụ: giá nhà), Hồi quy Logistic dự đoán các kết quả phân loại thông qua xác suất.
• Phân loại so với Hồi quy: Trong machine learning, các tác vụ phân loại bao gồm việc dự đoán các nhãn rời rạc, trong khi các tác vụ hồi quy dự đoán các đại lượng liên tục. Hồi quy Logistic là một thuật toán phân loại mặc dù tên gọi của nó.
• Perceptron: Một Perceptron đơn giản sử dụng hàm bước để xuất trực tiếp kết quả nhị phân 0 hoặc 1, trong khi Hồi quy Logistic sử dụng hàm Sigmoid mượt mà để xuất ra xác suất, mang lại sự sắc thái hơn.

Link to this sectionCác ứng dụng trong thực tế#

Hồi quy Logistic vẫn được sử dụng rộng rãi trong nhiều ngành công nghiệp nhờ tính hiệu quả và sự dễ dàng trong việc diễn giải kết quả.

• Chăm sóc sức khỏe và Chẩn đoán y tế: Các chuyên gia y tế sử dụng các model này để dự đoán khả năng một bệnh nhân phát triển một bệnh cụ thể, như tiểu đường hoặc bệnh tim, dựa trên các yếu tố như tuổi, BMI và huyết áp. Điều này hỗ trợ trong việc phân tích hình ảnh y tế sớm và ra quyết định.
• Chấm điểm tín dụng và Tài chính: Các ngân hàng triển khai Hồi quy Logistic để đánh giá rủi ro cho khách hàng vay vốn. Bằng cách phân tích các đặc trưng như lịch sử tín dụng và thu nhập, model dự đoán xác suất người vay vỡ nợ, tự động hóa mô hình dự đoán để đảm bảo an ninh tài chính.
• Marketing và Dự đoán rời bỏ: Các công ty phân tích hành vi khách hàng để dự đoán liệu người dùng có đăng ký dịch vụ hay ngừng sử dụng sản phẩm (rời bỏ) hay không. Thông tin chi tiết này giúp tinh chỉnh chiến lược giữ chân khách hàng và nhắm mục tiêu các chiến dịch marketing một cách hiệu quả.

Link to this sectionTriển khai hiện đại#

Trong khi các model deep learning như YOLO26 được ưu tiên cho các tác vụ phức tạp như phát hiện đối tượng, Hồi quy Logistic thường là lớp cuối cùng trong các mạng phân loại hình ảnh nhị phân. Ví dụ, một mạng thần kinh tích chập có thể trích xuất các đặc trưng và lớp cuối cùng đóng vai trò là bộ phân loại Hồi quy Logistic để xác định xem hình ảnh có chứa "mèo" hay "chó" hay không.

Các công cụ như Ultralytics Platform đơn giản hóa quy trình huấn luyện các model phân loại phức tạp tận dụng các nguyên tắc cơ bản này. Tuy nhiên, để hiểu khái niệm thô, các thư viện đơn giản có thể minh họa cơ chế này.

Dưới đây là một ví dụ cơ bản sử dụng torch để định nghĩa cấu trúc model Hồi quy Logistic một lớp:

import torch
import torch.nn as nn


# Define a simple Logistic Regression model class
class LogisticRegression(nn.Module):
    def __init__(self, input_dim):
        super().__init__()
        # A single linear layer maps input features to a single output
        self.linear = nn.Linear(input_dim, 1)

    def forward(self, x):
        # The sigmoid function transforms the linear output to a probability (0 to 1)
        return torch.sigmoid(self.linear(x))


# Example usage: Initialize model for 10 input features
model = LogisticRegression(input_dim=10)
print(model)

Link to this sectionƯu điểm và Hạn chế#

Hiểu được điểm mạnh và điểm yếu của thuật toán này giúp ích trong việc chọn đúng công cụ cho công việc.

• Khả năng diễn giải: Các hệ số của model (trọng số) chỉ ra trực tiếp mối quan hệ giữa các biến đầu vào và biến mục tiêu. Một trọng số dương ngụ ý rằng khi đặc trưng tăng lên, xác suất của kết quả dương tính sẽ tăng lên. Sự minh bạch này rất quan trọng đối với AI ethics và giải thích các quyết định cho các bên liên quan.
• Hiệu quả: Nó đòi hỏi ít sức mạnh tính toán hơn so với các kiến trúc Deep Learning phức tạp, giúp nó phù hợp với các ứng dụng có yêu cầu độ trễ thấp hoặc phần cứng hạn chế.
• Tính tuyến tính của dữ liệu: Một hạn chế chính là nó giả định mối quan hệ tuyến tính giữa các biến đầu vào và log-odds của kết quả. Nó có thể gặp khó khăn với các mẫu dữ liệu phi tuyến tính, cực kỳ phức tạp, nơi các kỹ thuật tiên tiến như Support Vector Machines (SVM) hoặc Random Forests có thể vượt trội hơn.
• Overfitting: Trên các tập dữ liệu có chiều cao với ít ví dụ huấn luyện, Hồi quy Logistic có thể dễ bị overfitting, mặc dù điều này có thể được giảm thiểu bằng cách sử dụng các kỹ thuật regularization.