Liquid Neural Networks (LNNs)

Жидкостные нейронные сети (LNNs) — это чрезвычайно динамичный и гибкий подкласс непрерывных рекуррентных нейронных сетей (RNNs), вдохновлённый строением нервной системы простых организмов, например червя C. elegans. В отличие от традиционных моделей глубокого обучения, в которых веса (или параметры) после обучения остаются фиксированными, LNNs могут непрерывно адаптировать свои параметры в реальном времени по мере обработки новых входных потоков. Эта адаптивность, часто называемая «жидкостным» поведением, позволяет сети сохранять устойчивость и на лету подстраиваться под меняющиеся условия, благодаря чему такие сети особенно хорошо подходят для обработки данных временных рядов и управления динамическими системами.

Ключевое преимущество LNNs — эффективность использования параметров. В то время как большие модели, такие как Transformer-модели или большие языковые модели (LLMs), требуют миллиардов параметров и огромных вычислительных ресурсов для выполнения сложных задач, LNNs часто могут достигать сопоставимой или превосходящей производительности в определённых последовательных задачах, используя всего несколько десятков или сотен нейронов. Исследования, проведённые такими учреждениями, как Лаборатория компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL), показали, что эти компактные сети обеспечивают высокую интерпретируемость и эффективность, снижая вычислительные затраты, необходимые как для обучения, так и для развёртывания.

Отличия LNNs от традиционных сетей#

Хотя LNNs и стандартные RNNs обрабатывают последовательные данные, они по-разному работают со временем. Стандартные RNNs и сети с долгой кратковременной памятью (LSTM) работают в дискретных временных шагах, то есть обрабатывают данные покадрово или шаг за шагом. LNNs, напротив, обрабатывают входные данные непрерывно, подобно дифференциальным уравнениям, описывающим физические явления. Такая динамика непрерывного времени позволяет LNNs эффективно работать с данными, отбираемыми через нерегулярные интервалы, без привязки к фиксированной частоте дискретизации. Кроме того, если традиционные модели после обучения фиксируют изученные параметры, то скрытые состояния LNNs динамически адаптируются, благодаря чему модель сохраняет способность реагировать на новые, ранее не встречавшиеся аномалии во время вывода в реальном времени.

Применение LNNs в реальном мире#

Благодаря устойчивости, интерпретируемости и небольшому числу параметров LNNs в основном применяются в задачах, связанных с непрерывными потоками данных и меняющимися условиями. Среди заметных примеров:

• Автономные транспортные средства и дроны: LNNs продемонстрировали впечатляющие результаты в управлении автономными дронами в непредсказуемых условиях. Их способность адаптировать процессы принятия решений на основе непрерывной сенсорной обратной связи позволяет дронам гораздо эффективнее, чем модели со статическим обучением, ориентироваться при меняющемся ветре и обходить динамические препятствия. Небольшие вычислительные требования также делают их идеальными для периферийных устройств с AI и ограниченным энергопотреблением, поскольку данные обрабатываются непосредственно на борту дрона.
• Анализ медицинских временных рядов: В диагностике в сфере здравоохранения LNNs используются для непрерывного мониторинга жизненных показателей пациентов, таких как показания ECG или EEG. Поскольку медицинские данные часто собираются через нерегулярные интервалы, непрерывная временная природа LNNs особенно полезна для обнаружения внезапных изменений в состоянии пациента и построения прогностических моделей таких состояний, как аритмия или судороги, в реальном времени.

LNNs в экосистеме#

Хотя LNNs специализируются на временном последовательном принятии решений, их можно эффективно сочетать с пространственными моделями компьютерного зрения для создания комплексных систем восприятия и действия. Например, Ultralytics YOLO26 можно использовать для обработки видеокадров и обнаружения объектов в реальном времени, передавая координаты ограничивающих рамок и данные классификации в последующую жидкостную нейронную сеть. Затем LNN будет интерпретировать эти непрерывные потоки координат во времени, чтобы управлять навигацией AI-агента или механизмами управления роботом.

Чтобы изучить создание эффективных конвейеров AI, работающих в реальном времени, начни с обучения и развёртывания моделей компьютерного зрения с помощью Ultralytics Platform, чтобы твои модели были компактными и готовыми к развёртыванию на периферийных устройствах.

from ultralytics import YOLO

# Load an Ultralytics YOLO26 nano model for spatial perception
model = YOLO("yolo26n.pt")

# Perform inference on a video stream to feed data to a sequential model
results = model.predict(source="path/to/video.mp4", stream=True)

for result in results:
    # Extract object coordinates to be passed to an LNN for temporal processing
    boxes = result.boxes.xyxy
    # (Here, 'boxes' would stream into your Liquid Neural Network for control logic)

Продолжающиеся исследования LNNs, проводимые такими группами, как Liquid AI, расширяют границы адаптивности, эффективности и интерпретируемости систем искусственного интеллекта (AI) при их развёртывании в сложном и динамичном реальном мире.