Exploding Gradient

Gradient bùng nổ xảy ra trong quá trình huấn luyện mạng nơ-ron nhân tạo khi các gradient—những giá trị được dùng để cập nhật trọng số của mạng—tích lũy và trở nên lớn quá mức. Hiện tượng này thường xảy ra trong quá trình lan truyền ngược, khi mạng tính toán lỗi và tự điều chỉnh để cải thiện độ chính xác. Khi các tín hiệu lỗi này liên tục được nhân qua các lớp sâu, chúng có thể tăng theo cấp số nhân, dẫn đến những cập nhật khổng lồ cho trọng số model. Sự bất ổn này khiến model không thể hội tụ, về cơ bản làm hỏng quá trình học và thường khiến hàm mất mát cho ra các giá trị NaN (Không phải số).

Cơ chế gây bất ổn#

Để hiểu tại sao gradient bùng nổ, việc xem xét cấu trúc của các kiến trúc deep learning là rất hữu ích. Trong các mạng sâu, chẳng hạn như Mạng nơ-ron hồi quy (RNNs) hoặc Mạng nơ-ron tích chập (CNNs) rất sâu, gradient của các lớp đầu là tích của các hạng tử từ tất cả các lớp phía sau. Nếu các hạng tử này lớn hơn 1.0, phép nhân lặp lại sẽ tạo ra hiệu ứng quả cầu tuyết.

Điều này tạo ra tình huống trong đó optimizer thực hiện các bước quá lớn, vượt qua nghiệm tối ưu trong không gian lỗi. Đây là một thách thức phổ biến khi huấn luyện trên dữ liệu phức tạp bằng các thuật toán tiêu chuẩn như Giảm gradient ngẫu nhiên (SGD).

Các kỹ thuật phòng ngừa và giảm thiểu#

Phát triển AI hiện đại sử dụng một số kỹ thuật tiêu chuẩn để ngăn gradient mất kiểm soát, đảm bảo quá trình huấn luyện model đáng tin cậy.

• Cắt gradient: Đây là biện pháp can thiệp trực tiếp nhất. Kỹ thuật này thiết lập một giá trị ngưỡng. Nếu chuẩn của vector gradient vượt quá ngưỡng này, nó sẽ được thu nhỏ (cắt) để phù hợp với giới hạn. Kỹ thuật này là tiêu chuẩn trong các framework xử lý ngôn ngữ tự nhiên và cho phép model tiếp tục học một cách ổn định.
• Batch Normalization: Bằng cách chuẩn hóa đầu vào của mỗi lớp để có giá trị trung bình bằng 0 và phương sai bằng 1, Batch Normalization ngăn các giá trị trở nên quá lớn hoặc quá nhỏ. Thay đổi về cấu trúc này làm trơn đáng kể không gian tối ưu hóa.
• Khởi tạo trọng số: Các chiến lược khởi tạo phù hợp, chẳng hạn như khởi tạo Xavier (hoặc khởi tạo Glorot), thiết lập các trọng số ban đầu sao cho phương sai của các activation được duy trì giống nhau giữa các lớp.
• Kết nối residual: Các kiến trúc như Mạng residual (ResNets) đưa vào các kết nối bỏ qua. Những đường truyền này cho phép gradient đi qua mạng mà không cần đi qua mọi hàm activation phi tuyến, từ đó giảm thiểu hiệu ứng nhân.
• Optimizer nâng cao: Các thuật toán như optimizer Adam sử dụng learning rate thích ứng cho từng tham số, nhờ đó xử lý các quy mô gradient khác nhau tốt hơn SGD cơ bản.

Gradient bùng nổ và gradient tiêu biến#

Vấn đề gradient bùng nổ thường được thảo luận cùng với hiện tượng đối lập của nó là gradient tiêu biến. Cả hai đều bắt nguồn từ quy tắc dây chuyền của giải tích được sử dụng trong lan truyền ngược, nhưng biểu hiện theo những cách trái ngược nhau.

• Gradient bùng nổ: Gradient trở nên quá lớn (lớn hơn 1.0). Điều này dẫn đến các cập nhật trọng số không ổn định, tràn số và phân kỳ. Hiện tượng này thường được khắc phục bằng cách cắt gradient.
• Gradient tiêu biến: Gradient trở nên quá nhỏ (nhỏ hơn 1.0) và tiến dần về 0. Điều này khiến các lớp trước đó của mạng ngừng học hoàn toàn. Hiện tượng này thường được khắc phục bằng các hàm activation như ReLU hoặc các biến thể leaky.

Các ứng dụng trong thực tế#

Việc kiểm soát độ lớn của gradient có vai trò then chốt trong triển khai các giải pháp AI mạnh mẽ trên nhiều ngành khác nhau.

1. AI tạo sinh và mô hình hóa ngôn ngữ: Việc huấn luyện Mô hình ngôn ngữ lớn (LLMs) hoặc các model như GPT-4 đòi hỏi xử lý các chuỗi văn bản cực kỳ dài. Nếu không có các cơ chế như cắt gradient và Layer Normalization, gradient tích lũy qua hàng trăm bước thời gian sẽ khiến quá trình huấn luyện thất bại ngay lập tức. Gradient ổn định đảm bảo model học được các cấu trúc ngữ pháp và ngữ cảnh phức tạp.

2. Thị giác máy tính nâng cao: Trong các tác vụ như phát hiện đối tượng, các model hiện đại như YOLO26 sử dụng các kiến trúc sâu với hàng trăm lớp. Ultralytics YOLO26 tích hợp sẵn các khối residual và cơ chế chuẩn hóa nâng cao, đảm bảo người dùng có thể huấn luyện trên các dataset lớn như COCO mà không cần tự điều chỉnh các ngưỡng gradient. Sự ổn định này rất cần thiết khi sử dụng Ultralytics Platform cho các workflow huấn luyện tự động.

Ví dụ mã Python#

Mặc dù các thư viện cấp cao thường tự động xử lý việc này, bạn có thể áp dụng rõ ràng việc cắt gradient trong PyTorch khi sử dụng vòng lặp huấn luyện tùy chỉnh. Đoạn code này minh họa cách cắt gradient trước khi optimizer cập nhật các trọng số.

import torch
import torch.nn as nn

# Define a simple model and optimizer
model = nn.Linear(10, 1)
optimizer = torch.optim.SGD(model.parameters(), lr=0.1)

# Simulate a training step
loss = torch.tensor(100.0, requires_grad=True)  # Simulated high loss
loss.backward()

# Clip gradients in place to a maximum norm of 1.0
# This prevents the weight update from being too drastic
torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm=1.0)

# Update weights using the safe, clipped gradients
optimizer.step()