Grokking

Grokking đề cập đến một hiện tượng thú vị trong học sâu, trong đó một mạng thần kinh, sau khi huấn luyện trong một khoảng thời gian dài đáng kể — thường là lâu sau khi nó dường như đã bị quá khớp với dữ liệu huấn luyện — đột nhiên trải qua sự cải thiện mạnh mẽ về độ chính xác xác thực. Không giống như các đường cong học tiêu chuẩn nơi hiệu suất cải thiện dần dần, grokking liên quan đến một "chuyển pha" nơi mô hình chuyển từ việc ghi nhớ các ví dụ cụ thể sang hiểu các mẫu có thể khái quát hóa. Khái niệm này thách thức quan niệm truyền thống về "dừng sớm", cho thấy rằng đối với một số tác vụ phức tạp nhất định, đặc biệt là trong mô hình ngôn ngữ lớn (LLMs) và lý luận thuật toán, sự kiên trì trong huấn luyện là chìa khóa để mở khóa trí tuệ thực sự.

Các giai đoạn của Grokking#

Quá trình grokking thường diễn ra theo hai giai đoạn riêng biệt có thể gây nhầm lẫn cho các kỹ sư dựa vào các chỉ số theo dõi thử nghiệm tiêu chuẩn. Ban đầu, mô hình giảm thiểu nhanh chóng tổn thất trên dữ liệu huấn luyện trong khi hiệu suất trên dữ liệu xác thực vẫn kém hoặc phẳng. Điều này tạo ra một khoảng cách tổng quát hóa lớn, thường được hiểu là quá khớp. Tuy nhiên, nếu việc huấn luyện tiếp tục vượt qua điểm này đáng kể, mạng cuối cùng sẽ "grok" cấu trúc cơ bản, khiến tổn thất xác thực giảm mạnh và độ chính xác tăng vọt.

Nghiên cứu gần đây cho thấy rằng sự tổng quát hóa bị trì hoãn này xảy ra vì mạng thần kinh trước tiên học các mối tương quan "nhanh" nhưng dễ vỡ (ghi nhớ) và chỉ sau đó mới khám phá ra các đặc điểm "chậm" nhưng mạnh mẽ (tổng quát hóa). Hành vi này gắn chặt chẽ với hình học của cảnh quan hàm mất mát và động lực tối ưu hóa, như đã được khám phá trong các bài báo của các nhà nghiên cứu tại OpenAI và Google DeepMind.

Grokking so với Quá khớp (Overfitting)#

Điều quan trọng là phải phân biệt grokking với hiện tượng quá khớp tiêu chuẩn, vì chúng thể hiện giống nhau trong các giai đoạn đầu nhưng lại khác biệt về kết quả.

• Quá khớp: Mô hình ghi nhớ nhiễu trong tập huấn luyện. Khi quá trình huấn luyện tiến triển, lỗi xác thực tăng lên và không bao giờ hồi phục. Các kỹ thuật chính quy hóa tiêu chuẩn hoặc dừng huấn luyện sớm là các biện pháp khắc phục thông thường.
• Grokking: Mô hình ghi nhớ ban đầu nhưng cuối cùng cấu trúc lại trọng số mô hình nội bộ của nó để tìm ra một giải pháp đơn giản hơn, tổng quát hơn. Lỗi xác thực giảm đáng kể sau một khoảng thời gian dài đi ngang.

Hiểu được sự khác biệt này là rất quan trọng khi huấn luyện các kiến trúc hiện đại như Ultralytics YOLO26, nơi việc vô hiệu hóa các cơ chế dừng sớm có thể là cần thiết để ép kiệt hiệu suất tối đa trên các tập dữ liệu khó, nặng về mẫu.

Các ứng dụng trong thực tế#

Mặc dù ban đầu được quan sát trong các tập dữ liệu thuật toán nhỏ, grokking có những tác động quan trọng đối với sự phát triển AI thực tế.

• Lý luận thuật toán: Trong các tác vụ yêu cầu suy luận logic hoặc các phép toán toán học (như phép cộng mô-đun), các mô hình thường không thể tổng quát hóa cho đến khi chúng trải qua giai đoạn grokking. Điều này rất quan trọng để phát triển các mô hình suy luận có thể giải quyết các bài toán nhiều bước thay vì chỉ bắt chước văn bản.
• Huấn luyện mô hình nhỏ gọn: Để tạo ra các mô hình hiệu quả cho AI biên, các kỹ sư thường huấn luyện các mạng nhỏ hơn trong thời gian dài hơn. Grokking cho phép các mô hình nhỏ gọn này học các biểu diễn dữ liệu được nén, hiệu quả, tương tự như các mục tiêu hiệu suất của Ultralytics Platform.

Các phương pháp hay nhất và tối ưu hóa#

Để thúc đẩy grokking, các nhà nghiên cứu thường tận dụng các chiến lược tối ưu hóa cụ thể. Tốc độ học cao và suy giảm trọng số đáng kể (một dạng chính quy hóa L2) được biết là khuyến khích quá trình chuyển pha. Hơn nữa, lượng dữ liệu đóng một vai trò; grokking hiển thị rõ nhất khi kích thước tập dữ liệu nằm ngay ngưỡng mà mô hình có thể xử lý, một khái niệm liên quan đến hiện tượng giảm kép.

Khi sử dụng các thư viện hiệu suất cao như PyTorch, việc đảm bảo tính ổn định số trong các lần chạy huấn luyện kéo dài này là rất cần thiết. Quá trình này đòi hỏi tài nguyên tính toán đáng kể, làm cho các đường ống huấn luyện hiệu quả trên Ultralytics Platform có giá trị trong việc quản lý các thí nghiệm dài hạn.

Ví dụ mã: Bật Huấn luyện mở rộng#

Để cho phép khả năng xảy ra grokking, người ta thường phải bỏ qua các cơ chế dừng sớm tiêu chuẩn. Ví dụ sau đây minh họa cách cấu hình một lần chạy huấn luyện Ultralytics YOLO với các kỷ nguyên mở rộng và vô hiệu hóa thời gian chờ (patience), giúp mô hình có thời gian chuyển từ ghi nhớ sang tổng quát hóa.

from ultralytics import YOLO

# Load the state-of-the-art YOLO26 model
model = YOLO("yolo26n.pt")

# Train for extended epochs to facilitate grokking
# Setting patience=0 disables early stopping, allowing training to continue
# even if validation performance plateaus temporarily.
model.train(data="coco8.yaml", epochs=1000, patience=0, weight_decay=0.01)

Các khái niệm liên quan#

• Giảm kép: Một hiện tượng liên quan trong đó lỗi kiểm tra giảm, tăng và sau đó giảm lại khi kích thước mô hình hoặc dữ liệu tăng lên.
• Tổng quát hóa: Khả năng của một mô hình thực hiện tốt trên dữ liệu chưa từng thấy, đây là mục tiêu cuối cùng của quá trình grokking.
• Thuật toán tối ưu hóa: Các phương pháp (như SGD hoặc Adam) được sử dụng để điều hướng cảnh quan mất mát và tạo điều kiện cho quá trình chuyển pha.