Loss Function

Hàm mất mát đóng vai trò như la bàn toán học định hướng quá trình huấn luyện mạng nơ-ron nhân tạo và các thuật toán machine learning khác. Về cơ bản, hàm này định lượng sai số giữa đầu ra dự đoán của model và các nhãn "ground truth" thực tế có trong dữ liệu huấn luyện. Bạn có thể hình dung hàm này như một hệ thống chấm điểm, trong đó điểm số thấp hơn cho thấy hiệu suất tốt hơn. Trong quá trình huấn luyện, mục tiêu chính là giảm thiểu giá trị mất mát này qua từng vòng lặp. Việc giảm thiểu này cho phép model điều chỉnh các tham số nội bộ để căn chỉnh dự đoán gần hơn với thực tế, thông qua một thuật toán tối ưu hóa như Adam hoặc Giảm gradient ngẫu nhiên (SGD).

Vai trò của hàm mất mát trong quá trình huấn luyện model#

Cơ chế học trong AI phụ thuộc rất nhiều vào vòng lặp phản hồi do hàm mất mát tạo ra. Sau khi model xử lý một batch dữ liệu, hàm mất mát sẽ tính toán một giá trị sai số dạng số, biểu thị khoảng cách giữa dự đoán và mục tiêu. Thông qua kỹ thuật gọi là lan truyền ngược, hệ thống tính gradient của hàm mất mát theo từng trọng số của model. Các gradient này hoạt động như một bản đồ, chỉ ra hướng và độ lớn của các điều chỉnh cần thiết để giảm sai số. Sau đó, tốc độ học kiểm soát kích thước các bước được thực hiện trong quá trình cập nhật, đảm bảo model hội tụ đến một nghiệm tối ưu mà không vượt quá nghiệm đó.

Các tác vụ machine learning khác nhau đòi hỏi những loại hàm mất mát cụ thể. Trong phân tích hồi quy, khi mục tiêu là dự đoán các giá trị liên tục như giá nhà, Sai số bình phương trung bình (MSE) là một lựa chọn tiêu chuẩn. Ngược lại, đối với các tác vụ phân loại ảnh liên quan đến dữ liệu phân loại, Hàm mất mát cross-entropy thường được sử dụng để đo độ lệch giữa các xác suất dự đoán và lớp thực tế. Các model phát hiện đối tượng nâng cao, chẳng hạn như YOLO26, sử dụng các hàm mất mát tổ hợp để tối ưu đồng thời nhiều mục tiêu, kết hợp các chỉ số như tỷ lệ giao trên hợp (IoU) cho việc định vị cùng các công thức chuyên biệt như Distribution Focal Loss (DFL) hoặc Varifocal Loss cho độ tin cậy của lớp.

Các ứng dụng trong thực tế#

Hàm mất mát là động lực đằng sau độ tin cậy của hầu hết mọi ứng dụng AI, đảm bảo các hệ thống có thể vận hành an toàn trong những môi trường phức tạp.

• Lái xe tự hành: Trong lĩnh vực phương tiện tự hành, an toàn phụ thuộc vào khả năng nhận thức chính xác. Một hàm mất mát được tinh chỉnh cẩn thận giúp hệ thống phân biệt người đi bộ, các xe khác và chướng ngại vật tĩnh. Bằng cách giảm thiểu sai số định vị trong quá trình huấn luyện trên các dataset như nuScenes hoặc KITTI, phương tiện học cách dự đoán chính xác vị trí của các đối tượng, yếu tố rất quan trọng để tránh va chạm trong các giải pháp AI trong ngành ô tô.
• Chẩn đoán y khoa: Trong phân tích ảnh y khoa, việc xác định bệnh lý thường đòi hỏi phải phân đoạn các bất thường nhỏ khỏi mô khỏe mạnh. Các hàm chuyên biệt như Dice Loss được sử dụng trong các tác vụ phân đoạn, chẳng hạn như phát hiện khối u trong ảnh chụp MRI. Các hàm này xử lý tình trạng mất cân bằng lớp bằng cách phạt nặng model khi bỏ sót vùng quan tâm nhỏ, từ đó cải thiện độ nhạy của các công cụ AI trong chăm sóc sức khỏe.

Ví dụ Python: Tính hàm mất mát cross-entropy#

Mặc dù các framework cấp cao như Ultralytics Platform tự động xử lý việc tính hàm mất mát trong quá trình huấn luyện, việc hiểu toán học nền tảng vẫn hữu ích cho quá trình debug. Ví dụ sau sử dụng PyTorch—backend cho các model Ultralytics—để tính loss giữa một dự đoán và một mục tiêu.

import torch
import torch.nn as nn

# Define the loss function (CrossEntropyLoss includes Softmax)
loss_fn = nn.CrossEntropyLoss()

# Mock model output (logits) for 3 classes and the true class (Class 0)
# A high score for index 0 indicates a correct prediction
predictions = torch.tensor([[2.5, 0.1, -1.2]])
ground_truth = torch.tensor([0])

# Calculate the numerical loss value
loss = loss_fn(predictions, ground_truth)
print(f"Calculated Loss: {loss.item():.4f}")

Phân biệt các khái niệm liên quan#

Điều quan trọng là phải phân biệt hàm mất mát với các metric khác được sử dụng trong toàn bộ pipeline machine learning.

• Hàm mất mát và metric đánh giá: Hàm mất mát có khả năng vi phân và được sử dụng trong quá trình huấn luyện để cập nhật trọng số. Ngược lại, các metric đánh giá như Accuracy, Precision và Độ chính xác trung bình trung bình (mAP) được sử dụng sau quá trình huấn luyện để đánh giá hiệu suất theo các thuật ngữ dễ hiểu đối với con người. Một model có thể giảm loss hiệu quả nhưng vẫn có accuracy kém nếu hàm mất mát không tương quan hoàn toàn với mục tiêu thực tế.
• Hàm mất mát và regularization: Trong khi hàm mất mát định hướng model đến dự đoán chính xác, các kỹ thuật regularization (chẳng hạn như các penalty L1 hoặc L2) được thêm vào phương trình loss để ngăn overfitting. Regularization hạn chế các model quá phức tạp bằng cách phạt các trọng số lớn, giúp hệ thống khái quát tốt hơn trên dữ liệu kiểm thử chưa từng thấy.
• Hàm mất mát và hàm phần thưởng: Trong Học tăng cường, một agent học bằng cách tối đa hóa "phần thưởng" tích lũy thay vì tối thiểu hóa loss. Mặc dù về mặt khái niệm chúng là hai hàm ngược nhau, cả hai đều đóng vai trò là hàm mục tiêu điều khiển quá trình tối ưu hóa.