Softmax

Softmax là một hàm toán học then chốt trong lĩnh vực trí tuệ nhân tạo, đóng vai trò là bước cuối cùng trong nhiều thuật toán phân loại. Nó chuyển đổi một vector các con số thô, thường được gọi là logits, thành một vector xác suất. Phép biến đổi này đảm bảo rằng các giá trị đầu ra đều dương và có tổng đúng bằng một, tạo thành một probability distribution (phân phối xác suất) hợp lệ. Nhờ đặc tính này, Softmax là activation function (hàm kích hoạt) tiêu chuẩn được sử dụng trong lớp đầu ra của các neural networks (mạng thần kinh) được thiết kế cho phân loại đa lớp, nơi hệ thống phải chọn một danh mục duy nhất từ hơn hai tùy chọn loại trừ lẫn nhau.

Link to this sectionCơ chế của Softmax#

Trong quy trình deep learning (DL) điển hình, các lớp của mạng thực hiện các phép nhân và cộng ma trận phức tạp. Đầu ra của lớp cuối cùng, trước khi kích hoạt, bao gồm các điểm số thô được gọi là logits. Các giá trị này có thể dao động từ âm vô cùng đến dương vô cùng, khiến chúng khó diễn giải trực tiếp dưới dạng mức độ tin cậy.

Softmax giải quyết vấn đề này bằng cách thực hiện hai thao tác chính:

1. Lũy thừa (Exponentiation): Nó tính lũy thừa của mỗi số đầu vào. Bước này đảm bảo rằng tất cả các giá trị đều không âm (vì $e^x$ luôn dương) và phạt các giá trị thấp hơn đáng kể so với mức tối đa, đồng thời làm nổi bật các điểm số lớn nhất.

2. Chuẩn hóa (Normalization): Nó cộng các giá trị lũy thừa này lại và chia từng lũy thừa riêng lẻ cho tổng này. normalization process (quá trình chuẩn hóa) này co giãn các con số sao cho chúng đại diện cho các phần của một tổng thể, cho phép các nhà phát triển diễn giải chúng dưới dạng điểm số xác suất phần trăm.

Link to this sectionCác ứng dụng trong thực tế#

Khả năng xuất ra các xác suất rõ ràng giúp Softmax trở nên không thể thiếu trong nhiều ngành công nghiệp và các tác vụ machine learning (ML).

• Phân loại hình ảnh: Trong thị giác máy tính, các model sử dụng Softmax để phân loại hình ảnh. Ví dụ, khi model phân loại Ultralytics YOLO26 phân tích một bức ảnh, nó có thể tạo ra điểm số cho các lớp như "Golden Retriever," "German Shepherd," và "Poodle." Softmax chuyển đổi các điểm số này thành xác suất (ví dụ: 0.85, 0.10, 0.05), cho thấy mức độ tin cậy cao rằng hình ảnh chứa một chú chó Golden Retriever. Điều này rất quan trọng đối với các ứng dụng từ sắp xếp ảnh tự động đến chẩn đoán y tế trong AI in Healthcare.
• Xử lý ngôn ngữ tự nhiên (NLP): Softmax là động cơ đằng sau việc tạo văn bản trong các Large Language Models (LLMs). Khi một model như Transformer tạo ra một câu, nó dự đoán từ (token) tiếp theo bằng cách tính toán điểm số cho mọi từ trong từ vựng của nó. Softmax biến các điểm số này thành xác suất, cho phép model chọn từ tiếp theo có khả năng xảy ra cao nhất, hỗ trợ machine translation (dịch máy) linh hoạt và AI hội thoại.
• Học tăng cường (Reinforcement Learning): Các tác nhân trong reinforcement learning thường sử dụng Softmax để chọn hành động. Thay vì luôn chọn hành động có giá trị cao nhất, một tác nhân có thể sử dụng xác suất để khám phá các chiến lược khác nhau, cân bằng giữa việc khám phá và khai thác trong các môi trường như điều khiển robot hoặc chơi trò chơi.

Link to this sectionVí dụ mã Python#

Ví dụ sau đây minh họa cách tải model phân loại YOLO26 đã được huấn luyện trước và truy cập các điểm số xác suất được tạo thông qua Softmax.

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Run inference on a sample image
results = model("https://ultralytics.com/images/bus.jpg")

# The model applies Softmax internally. Access the top prediction:
# The 'probs' attribute contains the probability distribution.
top_prob = results[0].probs.top1conf.item()
top_class = results[0].names[results[0].probs.top1]

print(f"Predicted Class: {top_class}")
print(f"Confidence (Softmax Output): {top_prob:.4f}")

Link to this sectionPhân biệt Softmax với các khái niệm liên quan#

While Softmax is dominant in multi-class scenarios, it is important to distinguish it from other mathematical functions used in model training and architecture design:

• Sigmoid: Hàm Sigmoid cũng co giãn các giá trị trong khoảng từ 0 đến 1, nhưng nó xử lý từng đầu ra một cách độc lập. Điều này làm cho Sigmoid trở nên lý tưởng cho binary classification (phân loại nhị phân) (có/không) hoặc phân loại đa nhãn nơi các lớp không loại trừ lẫn nhau (ví dụ: một hình ảnh có thể chứa cả "Người" và "Ba lô"). Softmax buộc các xác suất phải cộng lại bằng một, khiến các lớp cạnh tranh với nhau.
• ReLU (Rectified Linear Unit): ReLU được sử dụng chủ yếu trong các lớp ẩn của mạng để tạo ra tính phi tuyến tính. Không giống như Softmax, ReLU không giới hạn đầu ra trong một phạm vi cụ thể (nó chỉ đơn giản xuất ra số không cho đầu vào âm và chính giá trị đầu vào cho đầu vào dương) và không tạo ra phân phối xác suất.
• Argmax: Trong khi Softmax cung cấp xác suất cho tất cả các lớp, hàm Argmax thường được sử dụng cùng với nó để chọn chỉ số duy nhất có xác suất cao nhất. Softmax cung cấp mức độ tin cậy "mềm", trong khi Argmax đưa ra quyết định cuối cùng "cứng".

Link to this sectionTích hợp nâng cao#

Trong các pipeline ML hiện đại, Softmax thường được tính toán ngầm định bên trong các hàm mất mát (loss functions). Ví dụ, Cross-Entropy Loss kết hợp Softmax và negative log-likelihood thành một bước toán học duy nhất để cải thiện độ ổn định số trong quá trình huấn luyện. Các nền tảng như Ultralytics Platform xử lý các phức tạp này một cách tự động, cho phép người dùng huấn luyện các model mạnh mẽ mà không cần thực hiện thủ công các phép toán này.