AMD Dev Day Shanghai의 Ultralytics: 로컬 AI와 에이전트형 시스템의 만남

Ultralytics는 AMD와 파트너사가 AI 인프라의 다음 단계를 어떻게 만들어 가고 있는지 알아보기 위해 상하이에서 열린 AMD Dev Day에 참석했습니다. 행사에서 가장 분명하게 드러난 핵심 메시지는 AMD의 AI 논의가 독립형 모델을 넘어 배포 가능한 AI 시스템으로 옮겨가고 있다는 점이었습니다. 발표, 제품 데모, 파트너 논의를 아우르는 주요 주제는 에이전틱 AI, 로컬 AI 배포, 오픈 소스 생태계, 그리고 이러한 시스템을 대규모로 실용화하는 데 필요한 개발자 도구였습니다.

AMD 회장 겸 CEO인 Lisa Su는 “오늘날보다 기술 분야에서 일하기 더 흥미로운 때는 없었습니다.”라고 말했습니다.

실제 AI 제품을 개발하는 팀에게 이러한 변화는 중요합니다. 시장의 다음 단계에서 성공하려면 단일 최첨단 모델에 대한 접근성보다 워크플로를 얼마나 잘 조율하고, 추론 비용을 통제하며, 민감한 데이터를 보호하고, 작업에 적합한 배포 환경을 선택하는지가 더 중요해질 수 있습니다.

AMD의 메시지: AI에는 풀스택 컴퓨팅 전략이 필요합니다#

AMD Dev Day 전반의 주요 주제는 AI 시대를 위한 풀스택 엔드투엔드 컴퓨팅 공급자로 자리매김하려는 AMD의 추진 방향이었습니다. AMD는 폐쇄형 독점 스택이 아닌 개방형 소프트웨어 생태계를 강조하면서 클라우드, 클라이언트, 엣지 환경 전반의 AI 워크로드를 지원하는 접근 방식을 제시했습니다.

이러한 관점은 AI 개발의 진화를 반영한다는 점에서 중요합니다. 최신 AI 제품을 개발하는 일은 더 이상 모델을 학습시키거나 모델 API를 호출하는 데 그치지 않습니다. 팀은 점점 더 로컬 실험, 멀티 에이전트 워크플로, 추론 최적화, 워크스테이션 규모의 테스트, 엔터프라이즈 배포까지 지원해야 합니다. AMD는 행사에서 하드웨어에 관한 이야기를 이러한 광범위한 소프트웨어 및 시스템 현실과 지속해서 연결했습니다.

Lisa Su는 행사에서 이러한 포부를 명확히 요약했습니다. “AI를 생태계 전반에 보급하고자 합니다.”

그림 1. 상하이 AMD Dev Day 행사 무대에 선 Lisa Su.

에이전틱 AI가 행사의 핵심 주제였습니다#

하루 동안 반복해서 언급된 주제가 하나 있었다면, 그것은 기존 LLM 상호작용에서 에이전틱 AI 시스템으로의 전환이었습니다. 발표자들은 이 변화를 한 번의 프롬프트와 응답에서 벗어나, 여러 에이전트가 워크플로 전반에서 계획하고 실행하며 비평하고 협업하는 멀티 에이전트 오케스트레이션으로의 이동이라고 설명했습니다.

에이전틱 시스템은 AI 스택에 새로운 요구 사항을 제시하므로 중요합니다. 행사에서 제시된 관점에 따르면 이러한 시스템은 GPU 성능뿐 아니라 반복적인 추론 루프와 다단계 실행을 지원하기 위한 상당한 CPU 처리 능력, 데이터 흐름 오케스트레이션, 메모리 용량도 필요합니다.

개발자와 AI 팀이 얻을 수 있는 교훈은 가장 성능이 뛰어난 모델을 선택하는 것만이 아니라 효과적인 AI 시스템을 구축하는 데서 경쟁 우위를 확보할 수 있다는 점입니다. 모델을 워크플로, 도구, 로컬 데이터, 비즈니스 프로세스와 연결하는 능력이 제품 자체의 핵심 요소가 되고 있습니다.

로컬 AI 배포의 전략적 중요성이 커지고 있습니다#

AMD Dev Day에서 주목할 만한 또 다른 주제는 로컬 AI 배포에 대한 강조였습니다. AMD와 파트너사들은 고급 AI 워크로드를 노트북, 워크스테이션, 엔터프라이즈 하드웨어 등 실제 작업이 이루어지는 곳에 더 가까운 환경에서 실행해야 하는 경우가 점점 늘고 있다고 거듭 강조했습니다.

행사 내내 일관되게 제시된 이유는 다음과 같습니다.

• 더 낮은 지연 시간
• 더 나은 데이터 개인정보 보호
• 민감한 워크플로에 대한 강화된 제어
• 클라우드 API 비용에 대한 의존도 감소

AMD는 이러한 주장을 뒷받침하는 주요 사례로 Ryzen AI Max 395를 제시했습니다. 최대 128GB의 통합 메모리를 탑재한 구성과 샤딩 없이 단일 메모리 풀에서 대규모 모델을 로컬로 실행할 수 있는 기능을 강조했습니다. 또한 배포 전에 테스트하고 로컬에서 확장할 수 있도록 Radeon AI Pro R9700 및 AMD Threadripper Pro 9000을 사용하는 워크스테이션급 개발 환경도 선보였습니다.

전체 메시지는 클라우드가 사라진다는 것이 아니었습니다. 대신 이 행사에서는 로컬 환경과 클라우드 환경이 함께 작동하는 하이브리드 모델을 제시했습니다. 일상적이거나 지연 시간 및 개인정보 보호에 민감한 작업은 로컬에서 실행하고, 더 까다로운 작업은 필요할 때 클라우드로 넘길 수 있습니다.

AI 추론 비용과 토큰 수요가 인프라 선택에 영향을 미치고 있습니다#

AMD Dev Day에서는 이러한 아키텍처 결정의 배경에 있는 경제적 압박도 강조했습니다. 행사 발표자들은 토큰 수요의 급격한 증가, 추론 비용 상승, 그리고 AI 제품을 개발하는 개발자와 기업에 이러한 변화가 가하는 압박을 언급했습니다.

이러한 관점에서 로컬 AI는 기술적 전략인 동시에 비용 통제 전략으로 제시되었습니다. 행사에서 반복적으로 강조된 메시지는 AI의 다음 단계에서 가장 많은 컴퓨팅 자원을 소비하는 팀이 아니라 이를 가장 효율적으로 사용하는 팀이 유리하다는 것이었습니다.

AI 개발자에게 이는 실질적인 신호입니다. 인프라 결정은 점점 제품 결정의 일부가 되고 있습니다. 지연 시간, 개인정보 보호, 메모리, 토큰 비용은 더 이상 부차적인 엔지니어링 세부 사항이 아닙니다.

그림 2. AMD Versal AI Edge Series Gen2 VEK385 평가 키트.

AMD ROCm과 오픈 소스 AI 생태계#

AMD Dev Day에서 얻은 또 다른 주요 교훈은 오픈 소프트웨어 생태계가 중심적인 역할을 한다는 점이었습니다. AMD는 ROCm, 주요 프레임워크의 코드 변경 없는 지원, Hugging Face와 ModelScope를 통한 300만 개 이상의 모델 지원, 새로운 모델 출시 당일부터 지원하는 것을 목표로 하는 계획을 강조했습니다.

AMD의 AI 제품 관리 수석 디렉터인 Nick Ni는 이러한 강조점을 잘 표현했습니다. “사실 이 자리에 계신 대부분에게 핵심은 소프트웨어입니다.”

행사에서는 개발자를 위한 다음과 같은 여러 이니셔티브도 소개했습니다.

• 중국 개발자에게 무료 GPU 액세스를 제공하는 AMD AI Developer Cloud
• AMD GPU 런타임 옵션과 통합되는 ModelScope Studio
• 단계별 가이드를 제공하는 AMD AI Playbooks
• 최근 몇 달 동안 개발자 10만 명 이상이 추가된 개발자 프로그램

행사의 이 부분은 기본적인 사실을 강조했다는 점에서 특히 중요하게 느껴졌습니다. 하드웨어 성능만으로는 도입을 이끌어 낼 수 없습니다. 개발자에게는 성숙한 도구, 익숙한 프레임워크, 문서, 마찰 없이 실험할 수 있는 방법이 필요합니다. 생태계가 뒷받침되어야 성능에 관한 주장을 실제로 사용할 수 있는 플랫폼으로 구현할 수 있습니다.

AMD Dev Day에서 중국이 주목받은 이유#

중국의 AI 시장 내 역할은 반복해서 다뤄진 또 다른 주제였습니다. 여러 발표자는 중국이 특히 효율성, 로컬 배포, 실용적인 엔지니어링 제약이 중요한 분야에서 오픈 소스 AI 혁신을 선도하는 환경이라고 설명했습니다.

Zero One AI 및 Stepfun과의 파트너십은 이러한 점을 뒷받침하는 사례로 제시되었습니다. 행사 자료에는 로컬 배포를 위해 Ryzen AI Max 아키텍처를 기반으로 구축한 Zero One AI와의 공동 엔터프라이즈 멀티 에이전트 올인원 시스템, 그리고 AMD 하드웨어에 최적화되어 에이전틱 작업을 위해 설계된 Stepfun 모델이 소개되었습니다.

더 큰 관점에서 보면 중국은 주요 AI 시장일 뿐 아니라 로컬 AI 배포, 오픈 소스 모델, 비용을 고려한 인프라 설계를 검증하는 중요한 시험대이기도 합니다.

Ultralytics가 AMD Dev Day Shanghai에서 얻은 교훈#

Ultralytics 팀의 관점에서 AMD Dev Day가 전달한 가장 유용한 신호는 추상적인 AI 성능보다 배포 가능한 AI 시스템에 초점을 맞췄다는 점이었습니다. 행사에서는 개발자와 기업이 실제 프로덕션 환경에서 AI를 실행하고, 통합하고, 보호하고, 확장하는 방법을 일관되게 다뤘습니다.

여기에는 다음과 같은 질문이 포함됩니다.

• 로컬에서 실행할 작업과 클라우드에서 실행할 작업을 어떻게 구분해야 할까요?
• 팀은 지연 시간과 개인정보 보호를 어떻게 고려해야 할까요?
• 개발자는 비용이 많이 드는 추론 API에 대한 의존도를 어떻게 줄일 수 있을까요?
• AI 플랫폼을 더 쉽게 도입할 수 있도록 하는 도구와 소프트웨어 계층은 무엇일까요?

이러한 질문은 실용적이며, 성공적인 AI 제품을 만드는 방식을 점점 더 좌우하고 있습니다. Ultralytics YOLO 모델을 개발하고 배포하는 방식에서도 저희는 이러한 질문을 직접 고려합니다. 모델이 노트북, 워크스테이션, 클라우드 인스턴스 중 어디에서 실행되든 유연하게 배포할 수 있어야 한다는 점은 저희에게 사후 고려 사항이 아니라 핵심 설계 제약 조건이었습니다.

AMD Dev Day에서 오픈 소스 생태계와 추론 효율성을 강조한 것은 저희가 이미 믿고 있는 점을 다시 확인해 주었습니다. 가장 유용한 AI 도구는 실제 하드웨어에서 실제 워크플로에 맞게 작동하며, 팀이 단일 공급업체나 플랫폼에 맞춰 인프라를 다시 구축하도록 요구하지 않는 도구입니다.

그림 3. 상하이 AMD Dev Day에 참석한 Ultralytics 팀.

마무리#

AMD Dev Day Shanghai에서는 한 가지 사실이 분명해졌습니다. AI 인프라에 관한 논의가 성숙해지고 있습니다. 초점은 모델 규모 자체에서 벗어나 AI를 실제 세계에서 유용하게 만드는 데 필요한 더 광범위한 시스템으로 이동하고 있습니다. 에이전틱 워크플로, 로컬 AI 배포, 오픈 소스 도구, 인프라 효율성이 행사 전반에서 가장 뚜렷하게 드러난 주제였습니다.

AI 제품을 개발하는 팀은 이러한 변화에 주목할 필요가 있습니다. 다음 단계의 발전은 가장 큰 모델을 선택하는 것만이 아니라 적절한 아키텍처, 배포 모델, 개발자 생태계를 선택하는 데서 비롯될 수 있습니다.

컴퓨터 비전 시스템을 개발하면서 추론을 온디바이스, 온프레미스, 클라우드 중 어디에서 실행할지 고민하고 있다면, Ultralytics YOLO 모델은 이러한 유연성을 고려해 설계되었습니다. 시작하려면 GitHub 저장소를 살펴보고, 제조업 및 물류 분야의 실제 배포에서 컴퓨터 비전이 어떻게 활용되는지 알아보거나, 개발을 시작하기 위해 라이선스 옵션을 확인하세요.