Liquid Neural Networks (LNNs)

Liquid Neural Networks (LNNs) は、C. elegans（線虫）のような単純な生物の神経系の構造に着想を得た、連続時間Recurrent Neural Networks (RNNs)の非常に動的で柔軟なサブクラスです。トレーニング後に重み（またはパラメータ）が固定される従来のdeep learningモデルとは異なり、LNNは新しい入力ストリームを処理しながら、リアルタイムでパラメータを継続的に適応させることができます。「リキッド（液体）」のような挙動と呼ばれるこの適応性により、ネットワークは堅牢性を維持し、変化する状況にその場で調整できるため、時系列データの処理や動的システムの制御に非常に適しています。

LNNの大きな利点は、そのパラメータ効率にあります。TransformersやLarge Language Models (LLMs)のような大規模モデルが複雑なタスクを実行するために数十億のパラメータと膨大な計算リソースを必要とするのに対し、LNNはわずか数十から数百のニューロンで、特定のシーケンシャルなタスクにおいて同等以上のパフォーマンスを達成できることがよくあります。MIT's Computer Science and Artificial Intelligence Laboratory (CSAIL)などの研究機関による研究では、これらのコンパクトなネットワークが高い解釈可能性と効率性を提供し、トレーニングとデプロイメントの両方に必要な計算オーバーヘッドを削減できることが実証されています。

Link to this sectionLNNと従来のネットワークの違い#

LNNと標準的なRNNはどちらもシーケンシャルなデータを処理しますが、時間の概念の扱い方が異なります。標準的なRNNおよびLong Short-Term Memory (LSTM)ネットワークは離散的な時間ステップで動作するため、データをフレームごと、あるいはステップごとに処理します。しかし、LNNは物理現象をモデル化する微分方程式と同様に、入力を連続的に処理します。この連続時間の動的特性により、LNNは固定されたサンプリングレートに依存することなく、不規則にサンプリングされたデータを適切に扱うことができます。さらに、従来のモデルはトレーニング後に学習済みパラメータを固定しますが、LNNの隠れ状態は動的に適応するため、リアルタイム推論中に未知のanomaliesが発生しても、モデルは柔軟に対応し続けることができます。

Link to this sectionLNNの現実世界での応用#

その回復力、解釈可能性、および低いパラメータ数により、LNNは主に連続的なデータストリームや変化する環境を伴うアプリケーションで使用されます。注目すべき2つの例を以下に挙げます。

• Autonomous Vehiclesおよびドローン: LNNは、予測不可能な環境における自律型ドローンの制御において驚異的な成功を収めています。連続的な感覚フィードバックに基づいて意思決定プロセスを適応させる能力により、ドローンは変化する風況や動的な障害物に対して、静的にトレーニングされたモデルよりもはるかに優れたナビゲーションを実現します。また、計算負荷が低いため、電力が制限されたedge AI devicesにも最適であり、ドローン上で直接データを処理することが可能です。
• 医療時系列分析: healthcare diagnosticsにおいて、LNNはECGやEEGの読み取り値など、患者のバイタルサインを継続的に監視するために使用されます。医療データは不規則にサンプリングされることが多いため、LNNの連続時間という性質は、患者の状態の急激な変化を検出する上で非常に有益であり、不整脈や発作などの症状に対するpredictive modelingをリアルタイムで提供します。

Link to this sectionエコシステムにおけるLNN#

LNNは時間的・シーケンシャルな意思決定に特化していますが、空間的なcomputer visionモデルと効果的に組み合わせることで、包括的な知覚・行動システムを構築できます。例えば、Ultralytics YOLO26を活用してビデオフレームからリアルタイムでobject detectionを行い、バウンディングボックスの座標や分類データを後段のLNNに送ることができます。その後、LNNが時間の経過とともにこれらの連続的な座標ストリームを解釈し、AI agent'sナビゲーションやロボット制御メカニズムを駆動させます。

効率的でリアルタイムなAIパイプラインの構築を探究するには、Ultralytics Platformを使用してビジョンモデルのトレーニングとデプロイメントを開始することから始めてください。これにより、モデルが軽量化され、エッジ環境でのデプロイメントに適した状態であることを確実にできます。

from ultralytics import YOLO

# Load an Ultralytics YOLO26 nano model for spatial perception
model = YOLO("yolo26n.pt")

# Perform inference on a video stream to feed data to a sequential model
results = model.predict(source="path/to/video.mp4", stream=True)

for result in results:
    # Extract object coordinates to be passed to an LNN for temporal processing
    boxes = result.boxes.xyxy
    # (Here, 'boxes' would stream into your Liquid Neural Network for control logic)

Liquid AIのようなグループが主導するLNNの継続的な研究は、複雑で動的な現実世界にデプロイされた際に、Artificial Intelligence (AI)システムがどれほど適応可能で、効率的で、解釈可能になれるかという限界を押し広げ続けています。