Capsule Networks (CapsNet)

Capsule Networks, thường được viết tắt là CapsNets, là một kiến trúc nâng cao trong lĩnh vực deep learning được thiết kế để vượt qua các hạn chế cụ thể có trong mạng nơ-ron truyền thống. Được giới thiệu bởi Geoffrey Hinton và nhóm của ông, CapsNets cố gắng mô phỏng tổ chức nơ-ron sinh học của bộ não con người sát hơn so với các mô hình tiêu chuẩn. Không giống như convolutional neural network (CNN) điển hình vốn xuất sắc trong việc phát hiện đặc trưng nhưng thường làm mất các mối quan hệ không gian do quá trình downsampling, Capsule Network tổ chức các nơ-ron thành các nhóm gọi là "capsule". Các capsule này mã hóa không chỉ xác suất xuất hiện của một đối tượng mà còn cả các thuộc tính cụ thể của nó, chẳng hạn như hướng, kích thước và kết cấu, qua đó bảo tồn hiệu quả các mối quan hệ không gian phân cấp trong dữ liệu thị giác.

Hạn chế của các CNN truyền thống#

Để hiểu được điểm đổi mới của CapsNets, việc xem xét cách thức hoạt động của các mô hình computer vision tiêu chuẩn sẽ rất hữu ích. Một CNN thông thường sử dụng các lớp feature extraction theo sau bởi các lớp pooling—cụ thể là max pooling—để giảm tải tính toán và đạt được tính bất biến tịnh tiến (translational invariance). Điều này có nghĩa là một CNN có thể nhận diện một "con mèo" bất kể nó nằm ở đâu trong ảnh.

Tuy nhiên, quá trình này thường loại bỏ dữ liệu vị trí chính xác, dẫn đến "vấn đề Picasso": một CNN có thể phân loại đúng một khuôn mặt ngay cả khi miệng nằm trên trán, đơn giản vì tất cả các đặc trưng cần thiết đều có mặt. CapsNets giải quyết vấn đề này bằng cách loại bỏ các lớp pooling và thay thế chúng bằng một quá trình tuân thủ các spatial hierarchies của các đối tượng.

Cách thức hoạt động của Mạng capsule#

Khối xây dựng cốt lõi của kiến trúc này là capsule, một tập hợp các nơ-ron lồng nhau trả về một vector thay vì một giá trị vô hướng (scalar). Trong vector mathematics, một vector có cả độ lớn và hướng. Trong một CapsNet:

• Độ lớn (Chiều dài): Đại diện cho xác suất rằng một thực thể cụ thể tồn tại trong đầu vào hiện tại.
• Hướng (Orientation): Mã hóa các tham số thể hiện (instantiation parameters), chẳng hạn như pose estimation, tỷ lệ và phép quay của đối tượng.

Các capsule ở các lớp thấp hơn (phát hiện các hình dạng đơn giản như cạnh) dự đoán đầu ra của các capsule ở các lớp cao hơn (phát hiện các đối tượng phức tạp như mắt hoặc lốp xe). Quá trình giao tiếp này được quản lý bởi một thuật toán có tên là "dynamic routing" hoặc "routing by agreement". Nếu dự đoán của một capsule cấp thấp khớp với trạng thái của capsule cấp cao, mối liên kết giữa chúng sẽ được củng cố. Điều này cho phép mạng nhận diện các đối tượng từ các góc nhìn 3D khác nhau mà không cần đến data augmentation số lượng lớn vốn thường cần thiết để huấn luyện CNN về góc quay và tỷ lệ.

Sự khác biệt chính: CapsNets so với CNNs#

Mặc dù cả hai kiến trúc đều đóng vai trò nền tảng cho computer vision (CV), chúng khác nhau ở cách xử lý và biểu diễn dữ liệu thị giác:

• Vô hướng so với Vectơ: Các nơ-ron CNN sử dụng đầu ra vô hướng để biểu thị sự hiện diện của đặc trưng. CapsNets sử dụng vectơ để mã hóa sự hiện diện (độ dài) và các tham số tư thế (hướng).
• Routing so với Pooling: CNN sử dụng pooling để downsample dữ liệu, qua đó thường làm mất chi tiết vị trí. CapsNets sử dụng dynamic routing để bảo tồn dữ liệu không gian, giúp chúng rất hiệu quả đối với các tác vụ đòi hỏi object tracking chính xác.
• Hiệu quả dữ liệu: Do các capsule hiểu ngầm các góc nhìn 3D và affine transformations, chúng thường có khả năng tổng quát hóa từ ít training data hơn so với CNN, vốn có thể yêu cầu nhiều ví dụ phong phú để học mọi góc quay có thể của một đối tượng.

Các ứng dụng trong thực tế#

Mặc dù CapsNets thường tốn kém về mặt tính toán hơn so với các mô hình được tối ưu hóa như YOLO26, chúng mang lại những ưu điểm rõ rệt trong các lĩnh vực chuyên biệt:

1. Phân tích ảnh y tế: Trong lĩnh vực chăm sóc sức khỏe, hướng và hình dạng chính xác của một bất thường là rất quan trọng. Các nhà nghiên cứu đã ứng dụng CapsNets vào brain tumor segmentation, nơi mô hình phải phân biệt khối u với các mô xung quanh dựa trên các phân cấp không gian tinh vi mà các CNN tiêu chuẩn có thể làm phẳng. Bạn có thể khám phá nghiên cứu liên quan về Capsule Networks in Medical Imaging.

2. Nhận diện chữ số chồng lấp: CapsNets đạt được kết quả tiên tiến (state-of-the-art) trên MNIST dataset đặc biệt trong các kịch bản chữ số chồng lên nhau. Vì mạng theo dõi "tư thế" của từng chữ số, nó có thể tách rời hai con số chồng chéo (ví dụ: số '3' đè lên số '5') thành các đối tượng riêng biệt thay vì gộp chúng thành một bản đồ đặc trưng bị nhầm lẫn.

Bối cảnh thực tế và triển khai#

Mạng capsule chủ yếu là một kiến trúc phân loại. Mặc dù chúng cung cấp sự mạnh mẽ về mặt lý thuyết, các ứng dụng công nghiệp hiện đại thường ưu tiên các CNN hoặc Transformer tốc độ cao để đạt hiệu suất thời gian thực. Tuy nhiên, việc hiểu các chuẩn mực phân loại được sử dụng cho CapsNets, chẳng hạn như MNIST, vẫn rất hữu ích.

Ví dụ sau đây minh họa cách huấn luyện một YOLO classification model hiện đại trên MNIST dataset bằng cách sử dụng gói ultralytics. Điều này tương đồng với tác vụ benchmark chính được dùng để xác thực Capsule Networks.

from ultralytics import YOLO

# Load a YOLO26 classification model (optimized for speed and accuracy)
model = YOLO("yolo26n-cls.pt")

# Train the model on the MNIST dataset
# This dataset helps evaluate how well a model learns handwritten digit features
results = model.train(data="mnist", epochs=5, imgsz=32)

# Run inference on a sample image
# The model predicts the digit class (0-9)
predict = model("https://docs.ultralytics.com/datasets/classify/mnist/")

Tương lai của Capsule và AI thị giác#

Các nguyên lý đằng sau Capsule Networks tiếp tục ảnh hưởng đến nghiên cứu về AI safety và khả năng diễn giải. Bằng cách lập mô hình rõ ràng các mối quan hệ giữa bộ phận và tổng thể, các capsule cung cấp một giải pháp thay thế dạng "hộp kính" cho bản chất "hộp đen" của deep neural networks, giúp các quyết định dễ giải thích hơn. Các phát triển trong tương lai hướng tới việc kết hợp độ bền vững không gian của capsule với tốc độ suy luận của các kiến trúc như YOLO11 hoặc YOLO26 mới hơn nhằm cải thiện hiệu suất trong 3D object detection và robotics. Các nhà nghiên cứu cũng đang khám phá Matrix Capsules with EM Routing để giảm hơn nữa chi phí tính toán của thuật toán đồng thuận.

Đối với các nhà phát triển muốn quản lý dataset và huấn luyện mô hình một cách hiệu quả, Ultralytics Platform cung cấp một môi trường thống nhất để gán nhãn dữ liệu, huấn luyện trên đám mây và triển khai các mô hình cân bằng giữa tốc độ của CNN và độ chính xác đòi hỏi cho các tác vụ thị giác phức tạp.