Liquid Neural Networks (LNNs)

액체 신경망(LNNs)은 C. elegans 선충과 같은 단순한 유기체의 신경계 구조에서 영감을 받은 연속 시간 순환 신경망(RNNs)의 매우 동적이고 유연한 하위 분류입니다. 학습 후 가중치(또는 매개변수)가 고정되는 기존 딥러닝 모델과 달리, LNNs는 새로운 입력 스트림을 처리하면서 실시간으로 매개변수를 지속적으로 조정할 수 있습니다. 흔히 "액체" 동작이라고 하는 이러한 적응성 덕분에 네트워크는 견고성을 유지하고 변화하는 조건에 즉시 대응할 수 있으며, 따라서 시계열 데이터 처리와 동적 시스템 제어에 특히 적합합니다.

LNNs의 핵심 장점은 매개변수 효율성입니다. Transformer 또는 대규모 언어 모델(LLMs)과 같은 대형 모델은 복잡한 작업을 수행하기 위해 수십억 개의 매개변수와 막대한 컴퓨팅 리소스를 필요로 하는 반면, LNNs는 수십 개에서 수백 개의 뉴런만으로도 특정 순차 작업에서 비슷하거나 더 뛰어난 성능을 달성하는 경우가 많습니다. MIT 컴퓨터 과학 및 인공지능 연구소(CSAIL)와 같은 기관의 연구에 따르면 이러한 소형 네트워크는 높은 해석 가능성과 효율성을 제공하여 학습 및 배포에 필요한 컴퓨팅 오버헤드를 모두 줄일 수 있습니다.

LNNs와 기존 네트워크의 차이점#

LNNs와 표준 RNNs는 모두 순차 데이터를 처리하지만, 시간을 다루는 방식은 서로 다릅니다. 표준 RNNs와 장단기 메모리(LSTM) 네트워크는 이산적인 시간 단계로 작동하므로 데이터를 프레임별 또는 단계별로 처리합니다. 그러나 LNNs는 물리적 현상을 모델링하는 미분 방정식과 유사하게 입력을 연속적으로 처리합니다. 이러한 연속 시간 동적 특성 덕분에 LNNs는 고정된 샘플링 속도에 의존하지 않고 불규칙하게 샘플링된 데이터를 원활하게 처리할 수 있습니다. 또한 기존 모델이 학습 후 학습된 매개변수를 고정하는 것과 달리, LNNs의 은닉 상태는 동적으로 적응하여 실시간 추론 중 새롭게 발생하고 보지 못한 이상에 모델이 계속 대응할 수 있도록 합니다.

LNNs의 실제 활용 사례#

LNNs는 복원력, 해석 가능성 및 적은 매개변수 수를 갖추고 있기 때문에 연속적인 데이터 스트림과 변화하는 환경을 포함하는 애플리케이션에 주로 사용됩니다. 대표적인 두 가지 사례는 다음과 같습니다:

• 자율주행 차량 및 드론: LNNs는 예측하기 어려운 환경에서 자율 드론을 제어하는 데 뛰어난 성과를 보여 왔습니다. 연속적인 감각 피드백을 기반으로 의사 결정 프로세스를 조정하는 능력 덕분에 드론은 정적으로 학습된 모델보다 변화하는 바람 조건이나 동적 장애물을 훨씬 효과적으로 탐색할 수 있습니다. 또한 낮은 컴퓨팅 자원 사용량으로 인해 전력이 제한된 엣지 AI 디바이스에 적합하며, 드론에서 직접 데이터를 처리할 수 있습니다.
• 의료 시계열 분석: 의료 진단에서 LNNs는 ECG 또는 EEG 판독값과 같은 환자의 활력 징후를 지속적으로 모니터링하는 데 사용됩니다. 의료 데이터는 불규칙하게 샘플링되는 경우가 많기 때문에 LNNs의 연속 시간 특성은 환자 상태의 갑작스러운 변화를 감지하는 데 매우 유용하며, 실시간으로 부정맥이나 발작과 같은 상태를 예측 모델링할 수 있습니다.

생태계에서의 LNNs#

LNNs는 시간적·순차적 의사 결정에 특화되어 있지만, 포괄적인 인지-행동 시스템을 위해 공간적 컴퓨터 비전 모델과 효과적으로 결합할 수 있습니다. 예를 들어 Ultralytics YOLO26을 활용하여 비디오 프레임을 처리하고 실시간 객체 감지를 수행한 다음, 바운딩 박스 좌표와 분류 데이터를 다운스트림 Liquid Neural Network에 전달할 수 있습니다. 그러면 LNN은 시간에 따른 이러한 연속 좌표 스트림을 해석하여 AI 에이전트의 내비게이션 또는 로봇 제어 메커니즘을 구동합니다.

효율적인 실시간 AI 파이프라인 구축을 살펴보려면 Ultralytics Platform을 사용하여 비전 모델을 학습하고 배포하는 것부터 시작할 수 있으며, 이를 통해 모델을 경량화하고 엣지 배포에 바로 사용할 수 있도록 준비할 수 있습니다.

from ultralytics import YOLO

# Load an Ultralytics YOLO26 nano model for spatial perception
model = YOLO("yolo26n.pt")

# Perform inference on a video stream to feed data to a sequential model
results = model.predict(source="path/to/video.mp4", stream=True)

for result in results:
    # Extract object coordinates to be passed to an LNN for temporal processing
    boxes = result.boxes.xyxy
    # (Here, 'boxes' would stream into your Liquid Neural Network for control logic)

Liquid AI와 같은 그룹이 주도하는 LNNs에 대한 지속적인 연구는 복잡하고 역동적인 실제 환경에 배포되는 인공지능(AI) 시스템의 적응성, 효율성 및 해석 가능성을 어디까지 확장할 수 있는지에 대한 한계를 계속 넓혀 가고 있습니다.