Explore Capsule Networks (CapsNets) and how they preserve spatial hierarchies to solve the "Picasso problem" in AI. Learn about dynamic routing and vector neurons.
Capsule Networks, often abbreviated as CapsNets, represent an advanced architecture in the field of deep learning designed to overcome specific limitations found in traditional neural networks. Introduced by Geoffrey Hinton and his team, CapsNets attempt to mimic the biological neural organization of the human brain more closely than standard models. Unlike a typical convolutional neural network (CNN), which excels at detecting features but often loses spatial relationships due to downsampling, a Capsule Network organizes neurons into groups called "capsules." These capsules encode not just the probability of an object's presence, but also its specific properties, such as orientation, size, and texture, effectively preserving the hierarchical spatial relationships within visual data.
To understand the innovation of CapsNets, it is helpful to look at how standard computer vision models operate. A conventional CNN uses layers of feature extraction followed by pooling layers—specifically max pooling—to reduce computational load and achieve translational invariance. This means a CNN can identify a "cat" regardless of where it sits in the image.
However, this process often discards precise location data, leading to the "Picasso problem": a CNN might classify a face correctly even if the mouth is on the forehead, simply because all the necessary features are present. CapsNets address this by removing pooling layers and replacing them with a process that respects the spatial hierarchies of objects.
The core building block of this architecture is the capsule, a nested set of neurons that outputs a vector rather than a scalar value. In vector mathematics, a vector has both magnitude and direction. In a CapsNet:
Capsules in lower layers (detecting simple shapes like edges) predict the output of capsules in higher layers (detecting complex objects like eyes or tires). This communication is managed by an algorithm called "dynamic routing" or "routing by agreement." If a lower-level capsule's prediction aligns with the higher-level capsule's state, the connection between them is strengthened. This allows the network to recognize objects from different 3D viewpoints without requiring the massive data augmentation usually needed to teach CNNs about rotation and scale.
Mặc dù cả hai kiến trúc đều là nền tảng của thị giác máy tính (CV) , nhưng chúng khác nhau về cách xử lý và biểu diễn dữ liệu hình ảnh:
Mặc dù CapsNet thường tốn nhiều tài nguyên tính toán hơn so với các mô hình được tối ưu hóa như YOLO26 , nhưng chúng lại mang đến những lợi thế riêng biệt trong các lĩnh vực chuyên biệt:
Mạng Capsule (CapsNet) chủ yếu là một kiến trúc phân loại. Mặc dù về mặt lý thuyết chúng có độ bền vững cao, nhưng các ứng dụng công nghiệp hiện đại thường ưu tiên các mạng CNN tốc độ cao hoặc Transformer để đạt hiệu suất thời gian thực tốt hơn. Tuy nhiên, việc hiểu rõ các tiêu chuẩn phân loại được sử dụng cho CapsNet, chẳng hạn như... MNIST Nó rất hữu ích.
Ví dụ sau đây minh họa cách huấn luyện một hệ thống hiện đại.
YOLO mô hình phân loại trên MNIST tập dữ liệu sử dụng
ultralytics gói này tương tự như nhiệm vụ đánh giá chuẩn chính được sử dụng để xác thực Mạng Capsule.
from ultralytics import YOLO
# Load a YOLO26 classification model (optimized for speed and accuracy)
model = YOLO("yolo26n-cls.pt")
# Train the model on the MNIST dataset
# This dataset helps evaluate how well a model learns handwritten digit features
results = model.train(data="mnist", epochs=5, imgsz=32)
# Run inference on a sample image
# The model predicts the digit class (0-9)
predict = model("https://docs.ultralytics.com/datasets/classify/mnist/")
Các nguyên tắc đằng sau Mạng Capsule tiếp tục ảnh hưởng đến nghiên cứu về an toàn và khả năng giải thích của AI . Bằng cách mô hình hóa rõ ràng các mối quan hệ giữa bộ phận và toàn thể, các capsule cung cấp một giải pháp "hộp kính" thay thế cho bản chất "hộp đen" của mạng nơ-ron sâu, giúp các quyết định dễ giải thích hơn. Các phát triển trong tương lai hướng đến việc kết hợp tính mạnh mẽ về không gian của capsule với tốc độ suy luận của các kiến trúc như YOLO11 hoặc YOLO26 mới hơn để cải thiện hiệu suất trong phát hiện vật thể 3D và robot. Các nhà nghiên cứu cũng đang khám phá Matrix Capsules với EM Routing để giảm hơn nữa chi phí tính toán của thuật toán đồng thuận.
For developers looking to manage datasets and train models efficiently, the Ultralytics Platform provides a unified environment to annotate data, train in the cloud, and deploy models that balance the speed of CNNs with the accuracy required for complex vision tasks.