AMD Dev Day Shanghai에서의 Ultralytics: 로컬 AI와 에이전틱 시스템의 만남

Ultralytics는 상하이에서 열린 AMD Dev Day에 참석하여 AMD와 파트너들이 AI 인프라의 다음 단계를 어떻게 형성하고 있는지 살펴보았습니다. 이 행사에서 가장 분명했던 메시지는 AMD의 AI 논의가 독립형 모델을 넘어 배포 가능한 AI 시스템으로 나아가고 있다는 점이었습니다. 발표, 제품 데모, 파트너 논의 전반에서 가장 큰 주제는 에이전틱 AI, 로컬 AI 배포, 오픈 소스 생태계, 그리고 이러한 시스템을 대규모로 실용화하는 데 필요한 개발자 도구였습니다.

AMD 이사회 의장 겸 CEO인 Lisa Su는 다음과 같이 말했습니다. “오늘날보다 기술 분야에 종사하기에 더 흥미로운 시기는 없었습니다.”

실제 AI 제품을 구축하는 팀에게 이러한 변화는 중요합니다. 시장의 다음 단계에서 성공하려면 단일 프런티어 모델에 대한 접근성보다 워크플로를 얼마나 잘 오케스트레이션하고, 추론 비용을 관리하며, 민감한 데이터를 보호하고, 작업에 적합한 배포 환경을 선택하는지가 더 중요할 수 있음을 시사합니다.

AMD의 메시지: AI에는 풀스택 컴퓨팅 전략이 필요합니다#

AMD Dev Day 전반에서 가장 중요한 주제 중 하나는 AI 시대를 위한 풀스택 엔드투엔드 컴퓨팅 제공업체로 자리매김하려는 AMD의 움직임이었습니다. AMD는 클라우드, 클라이언트, 엣지 환경 전반의 AI 워크로드를 지원하는 것을 중심으로 접근 방식을 설명했으며, 폐쇄형 독점 스택이 아닌 개방형 소프트웨어 생태계를 강조했습니다.

이러한 관점은 AI 개발이 어떻게 진화하고 있는지를 보여준다는 점에서 중요합니다. 최신 AI 제품을 구축하는 일은 더 이상 모델을 학습시키거나 모델 API를 호출하는 것만을 의미하지 않습니다. 팀은 점점 더 로컬 실험, 멀티 에이전트 워크플로, 추론 최적화, 워크스테이션 규모의 테스트, 엔터프라이즈 배포를 지원해야 합니다. AMD는 행사에서 하드웨어에 대한 메시지를 이러한 광범위한 소프트웨어 및 시스템 현실과 일관되게 연결했습니다.

Lisa Su는 행사에서 이러한 포부를 다음과 같이 명확하게 요약했습니다. “우리는 생태계 전반에 AI를 도입하고자 합니다.”

그림 1. AMD Dev Day 상하이 행사 무대에 선 Lisa Su.

에이전틱 AI가 행사의 중심 주제였습니다#

하루 종일 반복해서 등장한 아이디어가 하나 있었다면, 그것은 전통적인 LLM 상호작용에서 에이전틱 AI 시스템으로의 전환이었습니다. 발표자들은 이러한 변화를 일회성 프롬프트와 응답에서 벗어나 여러 에이전트가 워크플로 전반에서 계획하고, 실행하고, 비평하고, 협업하는 멀티 에이전트 오케스트레이션으로 나아가는 과정이라고 설명했습니다.

이는 에이전틱 시스템이 AI 스택에 새로운 요구 사항을 제시하기 때문에 중요합니다. 행사에서 제시된 관점에 따르면, 이러한 시스템은 반복적인 추론 루프와 다단계 실행을 지원하기 위해 GPU 성능뿐 아니라 상당한 CPU 처리 성능, 데이터 흐름 오케스트레이션, 메모리 용량도 필요로 합니다.

개발자와 AI 팀이 얻을 수 있는 시사점은 단순히 가장 뛰어난 모델을 선택하는 것이 아니라 효과적인 AI 시스템을 구축하는 데 경쟁력이 생길 수 있다는 점입니다. 모델을 워크플로, 도구, 로컬 데이터, 비즈니스 프로세스에 연결하는 능력은 제품 자체의 핵심 요소가 되어 가고 있습니다.

로컬 AI 배포의 전략적 중요성이 커지고 있습니다#

AMD Dev Day에서 주목할 만한 또 다른 주제는 로컬 AI 배포에 대한 강조였습니다. AMD와 파트너들은 첨단 AI 워크로드를 작업이 이루어지는 곳에 더 가깝게, 즉 노트북, 워크스테이션, 엔터프라이즈 하드웨어에서 실행해야 할 필요성이 점점 커지고 있다고 거듭 강조했습니다.

행사 전반에서 제시된 이유는 일관되었습니다.

• 더 낮은 지연 시간
• 향상된 데이터 프라이버시
• 민감한 워크플로에 대한 더욱 강력한 제어
• 클라우드 API 비용에 대한 의존도 감소

AMD는 이러한 주장을 뒷받침하는 핵심 사례로 Ryzen AI Max 395를 제시하며, 최대 128GB의 통합 메모리 구성과 샤딩 없이 단일 메모리 풀에서 대규모 모델을 로컬로 실행할 수 있는 기능을 강조했습니다. 또한 행사에서는 배포 전에 테스트와 로컬 확장을 수행할 수 있도록 Radeon AI Pro R9700 및 AMD Threadripper Pro 9000을 사용하는 워크스테이션 규모의 개발 환경도 선보였습니다.

전체적인 메시지는 클라우드가 사라진다는 의미가 아니었습니다. 대신 행사에서는 로컬 환경과 클라우드 환경이 함께 작동하는 하이브리드 모델을 제시했습니다. 일상적이거나 지연 시간 및 프라이버시에 민감한 작업은 로컬에서 실행하고, 더 많은 리소스가 필요한 작업은 필요에 따라 클라우드로 전환할 수 있습니다.

AI 추론 비용과 토큰 수요가 인프라 선택을 좌우하고 있습니다#

AMD Dev Day는 이러한 아키텍처 결정의 배경에 있는 경제적 압박도 강조했습니다. 행사 발표자들은 토큰 수요의 급격한 증가, 상승하는 추론 비용, 그리고 AI 제품을 구축하는 개발자와 기업이 받는 압박을 강조했습니다.

이러한 관점에서 로컬 AI는 기술적 전략인 동시에 비용 관리 전략으로 제시되었습니다. 행사에서 반복된 메시지는 AI의 다음 단계에서 컴퓨팅 리소스를 가장 많이 소비하는 팀이 아니라 이를 가장 효율적으로 사용하는 팀이 성공할 것이라는 점이었습니다.

AI를 구축하는 팀에게 이는 실질적인 신호입니다. 인프라 결정은 점점 더 제품 결정이 되고 있습니다. 지연 시간, 프라이버시, 메모리, 토큰 비용은 더 이상 부차적인 엔지니어링 세부 사항이 아닙니다.

그림 2. AMD Versal AI Edge Series Gen2 VEK385 평가 키트.

AMD ROCm과 오픈 소스 AI 생태계#

AMD Dev Day에서 얻은 또 다른 주요 시사점은 개방형 소프트웨어 생태계의 중심적 역할이었습니다. AMD는 ROCm, 주요 프레임워크에 대한 코드 변경 없는 지원, Hugging Face 및 ModelScope를 통한 300만 개 이상의 모델 지원, 새로운 모델 출시와 동시에 지원하는 것을 목표로 하는 정책을 강조했습니다.

AMD의 AI 제품 관리 수석 디렉터인 Nick Ni는 이러한 강조점을 다음과 같이 잘 표현했습니다. “이 자리에 계신 대부분의 분들에게 사실 소프트웨어가 핵심입니다.”

또한 행사에서는 개발자 중심의 여러 이니셔티브를 소개했습니다.

• 중국 개발자에게 무료 GPU 액세스를 제공하는 AMD AI Developer Cloud
• AMD GPU 런타임 옵션을 지원하는 ModelScope Studio 통합
• 단계별 가이드를 제공하는 AMD AI Playbooks
• 최근 몇 달 동안 10만 명 이상의 개발자를 추가한 개발자 프로그램

행사의 이 부분은 기본적인 사실을 강조했다는 점에서 특히 중요했습니다. 하드웨어 성능만으로는 도입이 이루어지지 않습니다. 개발자에게는 성숙한 도구, 익숙한 프레임워크, 문서, 그리고 부담 없이 실험할 수 있는 방법이 필요합니다. 생태계에 대한 이야기가 성능에 관한 주장을 실제로 사용할 수 있는 플랫폼으로 전환합니다.

AMD Dev Day에서 중국이 주목받은 이유#

AI 시장에서 중국의 역할도 반복해서 등장한 또 하나의 주제였습니다. 여러 발표자는 중국을 오픈 소스 AI 혁신을 선도하는 환경으로 설명했으며, 특히 효율성, 로컬 배포, 실용적인 엔지니어링 제약의 영향을 받는 분야에서 그러하다고 강조했습니다.

Zero One AI 및 Stepfun과의 파트너십은 이러한 점을 뒷받침하는 사례로 제시되었습니다. 행사 자료에서는 로컬 배포를 위해 Ryzen AI Max 아키텍처를 기반으로 Zero One AI와 공동 개발한 엔터프라이즈 멀티 에이전트 올인원 시스템과, AMD 하드웨어에 최적화되고 에이전틱 작업을 수행하도록 설계된 Stepfun 모델을 소개했습니다.

더 큰 의미에서 중국은 주요 AI 시장일 뿐 아니라 로컬 AI 배포, 오픈 소스 모델, 비용을 고려한 인프라 설계를 검증하는 중요한 시험대이기도 합니다.

Ultralytics가 AMD Dev Day Shanghai에서 얻은 시사점#

Ultralytics 팀의 관점에서 AMD Dev Day의 가장 유용한 신호는 추상적인 AI 역량보다 배포 가능한 AI 시스템에 초점을 맞췄다는 점이었습니다. 행사에서는 개발자와 기업이 실제 프로덕션 환경에서 AI를 실행하고, 통합하고, 보호하고, 확장하는 방법을 일관되게 중심에 두었습니다.

여기에는 다음과 같은 질문이 포함됩니다.

• 로컬에서 실행해야 하는 작업과 클라우드에서 실행해야 하는 작업은 무엇인가요?
• 팀은 지연 시간과 프라이버시에 대해 어떻게 접근해야 하나요?
• 개발자는 고비용 추론 API에 대한 의존도를 어떻게 줄일 수 있나요?
• AI 플랫폼을 더욱 쉽게 도입할 수 있도록 하는 도구와 소프트웨어 계층은 무엇인가요?

이러한 질문은 실용적인 질문이며, 성공적인 AI 제품이 구축되는 방식을 점점 더 규정하고 있습니다. 또한 Ultralytics YOLO 모델을 구축하고 출시하는 방식에서 저희가 직접 고민하는 질문이기도 합니다. 모델이 노트북, 워크스테이션 또는 클라우드 인스턴스에서 실행되는지와 같은 배포 유연성은 저희에게 항상 핵심 설계 제약 조건이었으며, 사후에 고려하는 요소가 아니었습니다.

AMD Dev Day에서 오픈 소스 생태계와 추론 효율성을 강조한 것은 저희가 이미 믿고 있는 사실을 다시 확인해 주었습니다. 가장 유용한 AI 도구는 팀이 단일 벤더나 플랫폼에 맞춰 인프라를 다시 구축하지 않고도 실제 하드웨어에서 실제 워크플로에 통합할 수 있는 도구입니다.

그림 3. 상하이 AMD Dev Day에 참석한 Ultralytics 팀.

마무리#

AMD Dev Day Shanghai는 한 가지 사실을 분명히 보여주었습니다. AI 인프라에 대한 논의가 성숙해지고 있습니다. 초점은 단순한 모델 규모에서 벗어나 AI를 실제 세계에서 유용하게 만드는 데 필요한 광범위한 시스템으로 이동하고 있습니다. 에이전틱 워크플로, 로컬 AI 배포, 오픈 소스 도구, 인프라 효율성이 행사 전반에서 가장 분명한 주제였습니다.

AI 제품을 구축하는 팀이라면 이러한 변화에 주목할 필요가 있습니다. 다음 발전의 물결은 가장 큰 모델을 선택하는 데서가 아니라 적합한 아키텍처, 배포 모델, 개발자 생태계를 선택하는 데서 비롯될 수 있습니다.

컴퓨터 비전 시스템을 구축하면서 추론을 디바이스, 온프레미스 또는 클라우드 중 어디에서 실행해야 할지 고민하고 있다면, Ultralytics YOLO 모델은 이러한 유연성을 염두에 두고 설계되었습니다. GitHub 리포지토리를 살펴보고 시작하거나, 제조 및 물류 분야의 실제 배포 사례에서 컴퓨터 비전이 어떻게 활용되는지 확인하거나, 라이선스 옵션을 확인하여 구축을 시작해 보세요.