Capsule Networks (CapsNet)

Капсульные нейронные сети, часто сокращенно называемые CapsNet, представляют собой передовую архитектуру в области глубокого обучения, разработанную для преодоления специфических ограничений, присущих традиционным нейронным сетям. Предложенные Джеффри Хинтоном и его командой, CapsNet стремятся имитировать биологическую нейронную организацию человеческого мозга точнее, чем стандартные модели. В отличие от типичной сверточной нейронной сети (CNN), которая отлично справляется с обнаружением признаков, но часто теряет пространственные связи из-за понижающей дискретизации, капсульная нейронная сеть организует нейроны в группы, называемые «капсулами». Эти капсулы кодируют не только вероятность присутствия объекта, но и его специфические свойства, такие как ориентация, размер и текстура, эффективно сохраняя иерархические пространственные связи в визуальных данных.

Link to this sectionОграничение традиционных CNN#

Чтобы понять инновационность CapsNet, полезно взглянуть на то, как работают стандартные модели компьютерного зрения. Обычная CNN использует слои извлечения признаков, за которыми следуют слои пулинга — в частности, макс-пулинг — для снижения вычислительной нагрузки и достижения инвариантности к сдвигу. Это означает, что CNN может идентифицировать «кошку» независимо от того, где она находится на изображении.

Однако этот процесс часто отбрасывает точные данные о местоположении, что приводит к «проблеме Пикассо»: CNN может правильно классифицировать лицо, даже если рот находится на лбу, просто потому, что все необходимые признаки присутствуют. CapsNet решают эту проблему, удаляя слои пулинга и заменяя их процессом, который учитывает пространственные иерархии объектов.

Link to this sectionКак работают капсульные нейронные сети#

Основным строительным блоком этой архитектуры является капсула — вложенный набор нейронов, который выдает вектор, а не скалярное значение. В векторной математике вектор обладает как величиной, так и направлением. В CapsNet:

• Величина (Длина): Представляет вероятность того, что конкретная сущность существует во входных данных.
• Направление (Ориентация): Кодирует параметры инстанцирования, такие как оценка позы, масштаб и поворот объекта.

Капсулы на нижних уровнях (обнаруживающие простые фигуры, такие как края) предсказывают выход капсул на более высоких уровнях (обнаруживающих сложные объекты, такие как глаза или шины). Этим взаимодействием управляет алгоритм под названием «динамическая маршрутизация» (dynamic routing) или «маршрутизация по согласованию» (routing by agreement). Если предсказание капсулы нижнего уровня совпадает с состоянием капсулы более высокого уровня, связь между ними усиливается. Это позволяет сети распознавать объекты с разных 3D-ракурсов без необходимости в массивной аугментации данных, которая обычно требуется для обучения CNN распознаванию поворотов и масштабов.

Link to this sectionКлючевые различия: CapsNet против CNN#

Хотя обе архитектуры фундаментальны для компьютерного зрения (CV), они различаются тем, как обрабатывают и представляют визуальные данные:

• Скаляр против вектора: Нейроны CNN используют скалярные выходы для обозначения наличия признака. CapsNet используют векторы для кодирования наличия (длина) и параметров позы (ориентация).
• Маршрутизация против пулинга: CNN используют пулинг для понижающей дискретизации данных, часто теряя детали местоположения. CapsNet используют динамическую маршрутизацию для сохранения пространственных данных, что делает их высокоэффективными для задач, требующих точного отслеживания объектов.
• Эффективность данных: Поскольку капсулы неявно понимают 3D-ракурсы и аффинные преобразования, они часто могут обобщать знания на основе меньшего количества обучающих данных по сравнению с CNN, которым может потребоваться большое количество примеров, чтобы выучить каждый возможный поворот объекта.

Link to this sectionРеальные приложения#

Хотя CapsNet зачастую более вычислительно затратны, чем оптимизированные модели, такие как YOLO26, они предлагают явные преимущества в специализированных областях:

1. Анализ медицинских изображений: В здравоохранении точная ориентация и форма аномалии критически важны. Исследователи применяли CapsNet для сегментации опухолей головного мозга, где модель должна отличить опухоль от окружающей ткани на основе тонких пространственных иерархий, которые стандартные CNN могут сглаживать. Ты можешь изучить соответствующие исследования по капсульным нейронным сетям в медицинской визуализации.

2. Распознавание перекрывающихся цифр: CapsNet достигли передовых результатов на датасете MNIST именно в сценариях, где цифры перекрываются. Поскольку сеть отслеживает «позу» каждой цифры, она может разделить два перекрывающихся числа (например, «3» поверх «5») как отдельные объекты, а не объединять их в единую запутанную карту признаков.

Link to this sectionПрактический контекст и реализация#

Капсульные нейронные сети — это прежде всего архитектура для классификации. Хотя они предлагают теоретическую устойчивость, современные отраслевые приложения часто отдают предпочтение высокоскоростным CNN или Transformer для обеспечения производительности в реальном времени. Тем не менее полезно понимать тесты классификации, используемые для CapsNet, такие как MNIST.

Следующий пример демонстрирует, как обучить современную модель классификации YOLO на датасете MNIST с использованием пакета ultralytics. Это соответствует основной эталонной задаче, используемой для проверки капсульных нейронных сетей.

from ultralytics import YOLO

# Load a YOLO26 classification model (optimized for speed and accuracy)
model = YOLO("yolo26n-cls.pt")

# Train the model on the MNIST dataset
# This dataset helps evaluate how well a model learns handwritten digit features
results = model.train(data="mnist", epochs=5, imgsz=32)

# Run inference on a sample image
# The model predicts the digit class (0-9)
predict = model("https://docs.ultralytics.com/datasets/classify/mnist/")

Link to this sectionБудущее капсул и Vision AI#

Принципы, лежащие в основе капсульных нейронных сетей, продолжают влиять на исследования в области безопасности ИИ и интерпретируемости. Явно моделируя отношения «часть-целое», капсулы предлагают альтернативу «прозрачного ящика» по сравнению с «черным ящиком» глубоких нейронных сетей, делая решения более объяснимыми. Будущие разработки направлены на объединение пространственной устойчивости капсул со скоростью вывода таких архитектур, как YOLO11 или более новая YOLO26, для улучшения производительности в 3D-обнаружении объектов и робототехнике. Исследователи также изучают матричные капсулы с EM-маршрутизацией для дальнейшего снижения вычислительной стоимости алгоритма согласования.

Для разработчиков, стремящихся эффективно управлять датасетами и обучать модели, платформа Ultralytics предоставляет единую среду для аннотирования данных, обучения в облаке и развертывания моделей, которые сочетают скорость CNN с точностью, необходимой для сложных задач компьютерного зрения.