Loss Function

Một hàm mất mát đóng vai trò như chiếc la bàn toán học định hướng cho việc huấn luyện các mạng thần kinh nhân tạo và các thuật toán học máy khác. Về cơ bản, nó định lượng sai số giữa đầu ra dự đoán của model và nhãn "ground truth" thực tế có trong dữ liệu huấn luyện. Bạn có thể hình dung nó như một hệ thống chấm điểm, nơi điểm thấp hơn biểu thị hiệu suất vượt trội. Trong quá trình huấn luyện, mục tiêu chính là giảm thiểu giá trị mất mát này theo từng bước lặp. Việc giảm thiểu này cho phép model điều chỉnh các tham số nội bộ để các dự đoán tiệm cận hơn với thực tế, một quá trình được thúc đẩy bởi một thuật toán tối ưu hóa như Adam hoặc Stochastic Gradient Descent (SGD).

Link to this sectionVai trò của hàm mất mát trong huấn luyện model#

Cơ chế học tập trong AI phụ thuộc rất nhiều vào vòng lặp phản hồi do hàm mất mát tạo ra. Sau khi một model xử lý một batch dữ liệu, hàm mất mát sẽ tính toán một giá trị sai số bằng số đại diện cho khoảng cách giữa dự đoán và mục tiêu. Thông qua một kỹ thuật gọi là lan truyền ngược (backpropagation), hệ thống tính toán gradient của hàm mất mát đối với từng trọng số của model. Các gradient này đóng vai trò như một bản đồ, chỉ ra hướng và cường độ của các điều chỉnh cần thiết để giảm sai số. Tốc độ học (learning rate) sau đó kiểm soát kích thước các bước thực hiện trong các cập nhật này, đảm bảo model hội tụ về một giải pháp tối ưu mà không vượt quá mục tiêu.

Các tác vụ học máy khác nhau đòi hỏi các loại hàm mất mát cụ thể. Đối với phân tích hồi quy nơi mục tiêu là dự đoán các giá trị liên tục như giá nhà, Mean Squared Error (MSE) là một lựa chọn tiêu chuẩn. Ngược lại, đối với các tác vụ phân loại hình ảnh liên quan đến dữ liệu phân loại, Cross-Entropy Loss thường được sử dụng để đo lường sự phân kỳ giữa xác suất dự đoán và lớp thực tế. Các model phát hiện đối tượng tiên tiến, chẳng hạn như YOLO26, sử dụng các hàm mất mát tổng hợp để tối ưu hóa đồng thời nhiều mục tiêu, kết hợp các chỉ số như Intersection over Union (IoU) để định vị và các công thức chuyên biệt như Distribution Focal Loss (DFL) hoặc Varifocal Loss cho độ tin cậy của lớp.

Link to this sectionCác ứng dụng trong thực tế#

Các hàm mất mát là động cơ đằng sau sự tin cậy của hầu hết mọi ứng dụng AI, đảm bảo các hệ thống có thể vận hành an toàn trong các môi trường phức tạp.

• Xe tự lái: Trong lĩnh vực xe tự hành, sự an toàn phụ thuộc vào nhận thức chính xác. Một hàm mất mát được tinh chỉnh cẩn thận giúp hệ thống phân biệt giữa người đi bộ, các xe khác và vật cản tĩnh. Bằng cách giảm thiểu sai số định vị trong quá trình huấn luyện trên các tập dữ liệu như nuScenes hoặc KITTI, phương tiện học cách dự đoán vị trí chính xác của các đối tượng, điều này rất quan trọng để tránh va chạm trong các giải pháp AI trong ngành ô tô.
• Chẩn đoán y khoa: Trong phân tích hình ảnh y tế, việc xác định bệnh lý thường đòi hỏi phải phân đoạn các bất thường nhỏ khỏi mô khỏe mạnh. Các hàm chuyên biệt như Dice Loss được sử dụng trong các tác vụ phân đoạn, chẳng hạn như phát hiện khối u trong chụp MRI. Các hàm này xử lý sự mất cân bằng lớp bằng cách phạt nặng model nếu bỏ sót vùng quan tâm nhỏ, từ đó cải thiện độ nhạy của các công cụ AI trong chăm sóc sức khỏe.

Link to this sectionVí dụ Python: Tính toán Cross-Entropy Loss#

Mặc dù các framework cấp cao như Ultralytics Platform tự động xử lý việc tính toán mất mát trong quá trình huấn luyện, việc hiểu toán học cơ bản là hữu ích cho việc gỡ lỗi. Ví dụ sau đây sử dụng PyTorch—backend cho các model Ultralytics—để tính toán mất mát giữa dự đoán và mục tiêu.

import torch
import torch.nn as nn

# Define the loss function (CrossEntropyLoss includes Softmax)
loss_fn = nn.CrossEntropyLoss()

# Mock model output (logits) for 3 classes and the true class (Class 0)
# A high score for index 0 indicates a correct prediction
predictions = torch.tensor([[2.5, 0.1, -1.2]])
ground_truth = torch.tensor([0])

# Calculate the numerical loss value
loss = loss_fn(predictions, ground_truth)
print(f"Calculated Loss: {loss.item():.4f}")

Link to this sectionPhân biệt các khái niệm liên quan#

Điều quan trọng là phải phân biệt hàm mất mát với các chỉ số khác được sử dụng trong suốt quy trình học máy.

• Hàm mất mát vs. Chỉ số đánh giá: Hàm mất mát có thể vi phân và được sử dụng trong quá trình huấn luyện để cập nhật trọng số. Ngược lại, các chỉ số đánh giá như Accuracy, Precision và Mean Average Precision (mAP) được sử dụng sau huấn luyện để đánh giá hiệu suất bằng các thuật ngữ con người có thể đọc hiểu. Một model có thể giảm thiểu mất mát hiệu quả nhưng vẫn có độ chính xác kém nếu hàm mất mát không tương quan hoàn hảo với mục tiêu thực tế.
• Hàm mất mát vs. Chính quy hóa (Regularization): Trong khi hàm mất mát hướng dẫn model tới dự đoán đúng, các kỹ thuật chính quy hóa (như hình phạt L1 hoặc L2) được thêm vào phương trình mất mát để ngăn chặn quá mức (overfitting). Chính quy hóa ngăn cản các model quá phức tạp bằng cách phạt các trọng số lớn, giúp hệ thống tổng quát hóa tốt hơn với dữ liệu kiểm tra (test data) chưa từng thấy.
• Hàm mất mát vs. Hàm phần thưởng (Reward Function): Trong Học tăng cường (Reinforcement Learning), một tác nhân học bằng cách tối đa hóa "phần thưởng" tích lũy thay vì giảm thiểu mất mát. Mặc dù về mặt khái niệm chúng là nghịch đảo của nhau, cả hai đều đóng vai trò là hàm mục tiêu thúc đẩy quá trình tối ưu hóa.