Meta FAIR의 AI 연구 업데이트: SAM 2.1 및 CoTracker3

인공지능(AI) 연구는 빠르게 진행되고 있으며, 그 어느 때보다 새로운 혁신이 속속 등장하고 있습니다. 지난 몇 주 동안 Meta의 기초 AI 연구(FAIR) 팀은 여러 AI 분야의 과제를 해결하기 위한 도구와 모델 모음을 공개했습니다. 이번 공개에는 의료, 로봇공학, 증강 현실 등 다양한 분야에 영향을 미칠 수 있는 업데이트가 포함되어 있습니다.

예를 들어, 업데이트된 SAM 2.1 모델은 객체 분할 성능을 개선하여 이미지와 동영상에서 객체를 정확하게 식별하고 분리하기 쉽게 합니다. 한편 CoTracker3는 포인트 추적에 중점을 두어 객체가 움직이거나 일부가 가려져도 동영상 프레임에서 포인트를 계속 추적할 수 있도록 돕습니다.

Meta는 효율적인 온디바이스 사용을 위해 더 가볍고 빠른 Llama 언어 모델 버전도 출시했으며, 로봇공학을 위한 새로운 촉각 센싱 기술도 선보였습니다. 이 글에서는 Meta FAIR의 최신 출시 제품을 살펴보고 각 도구가 제공하는 기능을 알아보겠습니다.

Meta의 향상된 Segment Anything Model: SAM 2.1#

객체 분할은 핵심적인 컴퓨터 비전 작업으로, 이미지나 동영상에서 서로 다른 객체를 식별하고 분리하여 관심 영역을 더 쉽게 분석할 수 있도록 합니다. 출시 이후 Meta의 Segment Anything Model 2 (SAM 2)는 의료 영상과 기상학 등 다양한 분야에서 객체 분할에 활용되어 왔습니다. 커뮤니티의 피드백을 바탕으로 Meta는 이제 기존 모델에서 발견된 여러 문제를 해결하고 전반적인 성능을 향상하도록 설계된 개선 버전 SAM 2.1을 선보였습니다.

그림 1. SAM 2.1 모델 성능 벤치마킹.

SAM 2.1에는 새로운 데이터 증강 기법을 적용해 시각적으로 유사하거나 크기가 작은 객체를 더 잘 처리하는 업데이트가 포함되었습니다. 또한 더 긴 동영상 시퀀스로 학습하여 가림(객체의 일부가 시야에서 가려지는 현상)을 처리하는 기능도 개선했습니다. 이를 통해 객체가 일시적으로 가려지더라도 시간이 지나면서 객체를 '기억'하고 인식할 수 있습니다. 예를 들어, 누군가 나무 뒤로 걸어가는 사람을 촬영하는 경우 SAM 2.1은 반대편에 다시 나타나는 사람을 추적할 수 있습니다. 시야가 잠시 차단되었을 때 객체의 위치와 이동에 관한 기억을 활용해 빠진 정보를 보완합니다.

이러한 업데이트와 함께 Meta는 오픈 소스 학습 코드와 전체 데모 인프라를 제공하는 SAM 2 Developer Suite를 출시했습니다. 이를 통해 개발자는 자체 데이터로 SAM 2.1을 파인튜닝하고 다양한 애플리케이션에 통합할 수 있습니다.

CoTracker3: Meta의 추적 모델과 기능 및 업데이트#

또 다른 흥미로운 컴퓨터 비전 작업은 포인트 추적입니다. 동영상의 여러 프레임에 걸쳐 특정 포인트나 특징을 따라가는 작업입니다. 트랙을 달리는 자전거 이용자를 촬영한 동영상을 생각해 보겠습니다. 포인트 추적을 사용하면 헬멧이나 바퀴와 같이 자전거 이용자의 포인트가 장애물에 잠시 가려지더라도 모델이 계속 추적할 수 있습니다.

점 추적은 3D 재구성, 로보틱스, 비디오 편집과 같은 애플리케이션에 필수적입니다. 기존 모델은 복잡한 설정과 대규모 합성 데이터 세트에 의존하는 경우가 많아 실제 환경에 적용할 때 효과가 제한됩니다.

Meta의 CoTracker3 추적 모델은 모델 아키텍처를 단순화하여 이러한 한계를 해결합니다. 또한 모델이 실제 미주석 동영상에서 학습할 수 있도록 하는 의사 라벨링 기법을 도입해 CoTracker3를 실용적인 사용 사례에서 더 효율적이고 확장 가능하게 만듭니다.

그림 2. CoTracker3와 다른 추적 모델 비교.

CoTracker3의 차별화된 기능 중 하나는 가림 현상을 효과적으로 처리한다는 점입니다. 여러 추적 포인트 간에 정보를 공유할 수 있는 교차 트랙 어텐션 기법을 사용하여, CoTracker3는 보이는 포인트를 참조해 가려진 포인트의 위치를 추론할 수 있습니다. 이를 통해 CoTracker3는 혼잡한 장면에서 사람을 따라가는 작업처럼 역동적인 환경에서도 높은 효과를 발휘하도록 설계되었습니다.

CoTracker3는 온라인 모드와 오프라인 모드를 모두 제공합니다. 온라인 모드는 실시간 추적을 지원하며, 오프라인 모드는 동영상 전체 시퀀스에 대한 종합적인 추적에 사용할 수 있어 동영상 편집이나 애니메이션 같은 작업에 적합합니다.

Meta FAIR의 기타 업데이트 및 연구#

SAM 2.1과 CoTracker3는 Meta의 최신 컴퓨터 비전 발전을 보여 주지만, 자연어 처리(NLP)와 로봇공학 등 AI의 다른 분야에서도 주목할 만한 업데이트가 있습니다. Meta FAIR의 다른 최신 개발 사항을 살펴보겠습니다.

Meta의 Spirit LM: 언어 및 멀티모달 모델의 AI 혁신#

Meta의 Spirit LM은 텍스트와 음성 기능을 결합해 AI와 더 자연스럽게 상호작용할 수 있도록 하는 새로운 멀티모달 언어 모델입니다. 텍스트나 음성 중 하나만 처리하는 기존 모델과 달리 Spirit LM은 두 형식 간에 전환할 수 있습니다.

Spirit LM은 더 인간적인 방식으로 언어를 이해하고 생성할 수 있습니다. 예를 들어, 음성이나 문자로 듣고 응답할 수 있는 가상 비서의 기능을 향상하거나 음성과 텍스트를 서로 변환하는 접근성 도구를 지원할 수 있습니다.

그림 3. Meta Spirit LM을 사용한 텍스트 음성 변환 예시.

또한 Meta는 대규모 언어 모델의 효율성을 높이는 기법을 개발했습니다. 그중 하나인 Layer Skip은 특정 작업에 필요한 레이어만 활성화하여 연산 요구량과 에너지 비용을 줄입니다. 메모리와 전력이 제한된 기기에서 실행되는 애플리케이션에 특히 유용합니다.

이러한 기기에 AI 애플리케이션을 배포하는 작업을 한 단계 더 발전시키기 위해 Meta는 양자화된 Llama 모델도 출시했습니다. 이 모델은 정확도를 유지하면서 모바일 기기에서 더 빠르게 실행되도록 압축되었습니다.

Meta Lingua를 통해 살펴보는 최적화의 미래#

AI 모델의 규모와 복잡성이 커지면서 학습 프로세스의 최적화가 중요해졌습니다. 최적화와 관련해 Meta는 대규모 언어 모델 학습을 더 쉽게 해주는 유연하고 효율적인 코드베이스인 Meta Lingua를 선보였습니다. Meta Lingua의 모듈식 설계를 통해 연구자는 실험을 빠르게 맞춤화하고 확장할 수 있습니다.

연구자는 기술 설정에 소요되는 시간을 줄이고 실제 연구에 더 많은 시간을 할애할 수 있습니다. 이 코드베이스는 가볍고 통합하기 쉬워 소규모 실험과 대규모 프로젝트 모두에 적합합니다. Meta Lingua는 이러한 기술적 장애물을 제거하여 연구자가 더 빠르게 진전을 이루고 새로운 아이디어를 쉽게 시험할 수 있도록 돕습니다.

그림 4. Meta Lingua 개요.

Meta의 AI 보안 강화#

양자 컴퓨팅 기술의 발전은 데이터 보안에 새로운 과제를 안겨 줍니다. 오늘날의 컴퓨터와 달리 양자 컴퓨터는 복잡한 계산을 훨씬 빠르게 해결할 가능성이 큽니다. 이는 민감한 정보를 보호하는 데 현재 사용되는 암호화 방식을 무력화할 수 있음을 의미합니다. 따라서 이 분야의 연구가 점점 더 중요해지고 있습니다. 양자 컴퓨팅 시대를 준비하면서 데이터를 보호할 새로운 방법을 개발하는 일이 필수적입니다.

이 문제를 해결하기 위해 Meta는 양자 내성 암호 보안을 강화하는 도구 Salsa를 개발했습니다. Salsa는 연구자가 AI 기반 공격을 테스트하고 잠재적 취약점을 파악하도록 지원해 암호화 시스템의 취약성을 더 잘 이해하고 해결할 수 있게 합니다. 고도화된 공격 시나리오를 시뮬레이션함으로써 Salsa는 양자 시대에 더 강력하고 복원력 있는 보안 조치를 개발하는 데 도움이 되는 유용한 인사이트를 제공합니다.

Meta의 AI: 로보틱스 분야 최신 혁신#

Meta의 최신 로봇공학 연구는 촉각 지각, 손재주, 인간과의 협업을 향상하여 AI가 물리적 세계와 더 자연스럽게 상호작용하도록 하는 데 중점을 둡니다. 특히 Meta Digit 360은 로봇에 정교한 촉각을 제공하는 첨단 촉각 센서입니다. 이 센서는 질감, 압력, 나아가 객체의 형태까지 감지할 수 있도록 돕습니다. 로봇은 이러한 정보를 바탕으로 객체를 더 정밀하게 다룰 수 있으며, 이는 의료와 제조 등의 분야에서 매우 중요합니다.

Meta Digit 360의 주요 기능은 다음과 같습니다.

• 다양한 촉각 정보를 포착할 수 있도록 18가지의 서로 다른 감지 기능을 갖추고 있습니다.
• 센서는 1밀리뉴턴만큼 작은 압력 변화도 감지할 수 있어 로봇이 미세한 질감과 섬세한 움직임에 반응할 수 있습니다.
• 손끝 표면 전체에 800만 개가 넘는 택셀(작은 감지 지점)이 포함되어 있어 촉각 정보를 고해상도 맵으로 제공합니다.

Meta Digit 360을 확장한 Meta Digit Plexus는 다양한 촉각 센서를 하나의 로봇 손에 통합하는 플랫폼입니다. 이 구성에서는 로봇이 인간의 손이 감각 데이터를 수집하는 방식과 유사하게 여러 지점의 촉각 정보를 한 번에 처리할 수 있습니다.

그림 5. Meta Digit Plexus.

AI의 다음 장을 열다#

컴퓨터 비전 분야의 SAM 2.1과 CoTracker3 발전부터 언어 모델 및 로보틱스의 새로운 개발까지, Meta의 최신 AI 업데이트는 AI가 이론에서 실용적이고 영향력 있는 솔루션으로 꾸준히 발전하고 있음을 보여 줍니다.

이러한 도구는 AI를 다양한 분야에서 더 적응력 있고 유용하게 만들도록 설계되었습니다. 복잡한 이미지 분할부터 인간 언어 이해, 물리적 공간에서의 협업까지 여러 작업을 지원합니다.

접근성과 실제 적용을 우선시하는 Meta FAIR는 AI가 현실의 과제를 해결하고 의미 있는 방식으로 일상생활을 개선할 수 있는 미래에 한 걸음 더 다가가도록 돕고 있습니다.

AI에 관심이 있으신가요? 최신 업데이트와 인사이트를 확인하려면 커뮤니티에 참여하고 GitHub 저장소도 살펴보세요. 자율주행차와 농업 같은 산업에서 컴퓨터 비전이 어떻게 활용되는지도 알아볼 수 있습니다!