Capsule Networks (CapsNet)

Сети капсул, часто сокращённо называемые CapsNet, представляют собой современную архитектуру в области глубокого обучения, созданную для преодоления определённых ограничений традиционных нейронных сетей. Разработанные Джеффри Хинтоном и его командой, CapsNet стремятся точнее имитировать биологическую организацию нейронов человеческого мозга, чем стандартные модели. В отличие от обычной свёрточной нейронной сети (CNN), которая отлично обнаруживает признаки, но часто теряет пространственные взаимосвязи из-за уменьшения разрешения, сеть капсул организует нейроны в группы, называемые «капсулами». Эти капсулы кодируют не только вероятность присутствия объекта, но и его конкретные свойства, такие как ориентация, размер и текстура, эффективно сохраняя иерархические пространственные взаимосвязи в визуальных данных.

Ограничения традиционных CNN#

Чтобы понять инновационность CapsNet, полезно рассмотреть принцип работы стандартных моделей компьютерного зрения. Обычная CNN использует слои извлечения признаков, за которыми следуют слои пулинга, в частности макс-пулинг, чтобы снизить вычислительную нагрузку и обеспечить инвариантность к переносу. Это означает, что CNN может распознать «кошку» независимо от её положения на изображении.

Однако этот процесс часто отбрасывает точные данные о положении, приводя к «проблеме Пикассо»: CNN может правильно классифицировать лицо, даже если рот находится на лбу, просто потому, что присутствуют все необходимые признаки. CapsNet решают эту проблему, удаляя слои пулинга и заменяя их процессом, учитывающим пространственные иерархии объектов.

Как работают сети капсул#

Основной строительный блок этой архитектуры — капсула, вложенный набор нейронов, выдающий вектор, а не скалярное значение. В векторной математике вектор имеет как величину, так и направление. В CapsNet:

• Величина (длина): представляет вероятность существования определённой сущности в текущем входном сигнале.
• Направление (ориентация): кодирует параметры экземпляра, такие как оценка позы объекта, его масштаб и поворот.

Капсулы на нижних уровнях, обнаруживающие простые формы, например границы, предсказывают выход капсул на верхних уровнях, обнаруживающих сложные объекты, например глаза или шины. Это взаимодействие управляется алгоритмом, называемым «динамической маршрутизацией» или «маршрутизацией по согласованию». Если предсказание капсулы нижнего уровня соответствует состоянию капсулы верхнего уровня, связь между ними усиливается. Благодаря этому сеть может распознавать объекты с разных 3D-ракурсов без необходимости в значительном объёме аугментации данных, которая обычно требуется, чтобы научить CNN учитывать поворот и масштаб.

Ключевые различия: CapsNet и CNN#

Хотя обе архитектуры имеют фундаментальное значение для компьютерного зрения (CV), они различаются способом обработки и представления визуальных данных:

• Скаляр против вектора: нейроны CNN используют скалярные выходные значения для обозначения наличия признака. CapsNet используют векторы для кодирования наличия признака (длина) и параметров позы (ориентация).
• Маршрутизация против пулинга: CNN используют пулинг для уменьшения разрешения данных, часто теряя детали положения. CapsNet используют динамическую маршрутизацию для сохранения пространственных данных, что делает их особенно эффективными для задач, требующих точного отслеживания объектов.
• Эффективность использования данных: поскольку капсулы неявно учитывают 3D-ракурсы и аффинные преобразования, они часто могут обобщать по меньшему объёму обучающих данных по сравнению с CNN, которым может потребоваться множество примеров для изучения каждого возможного поворота объекта.

Практические применения#

Хотя CapsNet часто требуют больше вычислительных ресурсов, чем оптимизированные модели, такие как YOLO26, они обладают рядом преимуществ в специализированных областях:

1. Анализ медицинских изображений: в здравоохранении точная ориентация и форма аномалии имеют критическое значение. Исследователи применяли CapsNet для сегментации опухолей мозга, где модели необходимо отличать опухоль от окружающих тканей на основе тонких пространственных иерархий, которые стандартные CNN могут сглаживать. Связанные исследования можно изучить в материале Сети капсул в медицинской визуализации.

2. Распознавание перекрывающихся цифр: CapsNet достигли передовых результатов на наборе данных MNIST, особенно в сценариях с перекрывающимися цифрами. Поскольку сеть отслеживает «позу» каждой цифры, она может разделить два перекрывающихся числа, например «3», расположенную поверх «5», и распознать их как отдельные объекты, а не объединять в одну неразличимую карту признаков.

Практический контекст и реализация#

Сети капсул в первую очередь представляют собой архитектуру для классификации. Хотя они обеспечивают теоретическую устойчивость, в современных промышленных приложениях для работы в реальном времени часто отдают предпочтение высокоскоростным CNN или Transformer. Тем не менее понимание классификационных бенчмарков, используемых для CapsNet, таких как MNIST, может быть полезно.

В следующем примере показано, как обучить современную модель YOLO для классификации на наборе данных MNIST с использованием пакета ultralytics. Это соответствует основной задаче бенчмарка, применяемой для проверки сетей капсул.

from ultralytics import YOLO

# Load a YOLO26 classification model (optimized for speed and accuracy)
model = YOLO("yolo26n-cls.pt")

# Train the model on the MNIST dataset
# This dataset helps evaluate how well a model learns handwritten digit features
results = model.train(data="mnist", epochs=5, imgsz=32)

# Run inference on a sample image
# The model predicts the digit class (0-9)
predict = model("https://docs.ultralytics.com/datasets/classify/mnist")

Будущее капсул и Vision AI#

Принципы, лежащие в основе сетей капсул, продолжают влиять на исследования в области безопасности ИИ и интерпретируемости. Явно моделируя взаимосвязи между частью и целым, капсулы предлагают альтернативу «чёрному ящику» глубоких нейронных сетей в виде «стеклянного ящика», делая решения более объяснимыми. В будущих разработках планируется объединить пространственную устойчивость капсул со скоростью вывода архитектур вроде YOLO11 или более новой YOLO26, чтобы повысить эффективность обнаружения 3D-объектов и робототехники. Исследователи также изучают матричные капсулы с маршрутизацией EM, чтобы ещё больше снизить вычислительную стоимость алгоритма согласования.

Для разработчиков, которым нужно эффективно управлять наборами данных и обучать модели, платформа Ultralytics предоставляет единую среду для разметки данных, обучения в облаке и развёртывания моделей, сочетающих скорость CNN с точностью, необходимой для сложных задач компьютерного зрения.