Ultralytics AMD Dev Day Shanghai에서 다룬 AMD AI 관련 주요 내용을 Ultralytics : 로컬 AI 배포, 에이전트 시스템, ROCm, 그리고 Ryzen AI Max 395.
Ultralytics AMD Dev Day Shanghai에서 다룬 AMD AI 관련 주요 내용을 Ultralytics : 로컬 AI 배포, 에이전트 시스템, ROCm, 그리고 Ryzen AI Max 395.
Ultralytics 상하이에서 열린 AMD Dev Day에 Ultralytics AMD와 파트너사들이 AI 인프라의 다음 단계를 어떻게 구축해 나가고 있는지 들어보았습니다. 이번 행사에서 가장 강하게 전달된 메시지는 분명했습니다. 바로 AMD의 AI 논의가 독립형 모델을 넘어 실제 배포 가능한 AI 시스템으로 나아가고 있다는 점입니다. 강연, 제품 시연, 파트너사 토론 전반에 걸쳐 가장 두드러진 주제는 에이전트형 AI, 로컬 AI 배포, 오픈소스 생태계, 그리고 이러한 시스템을 대규모로 실용화하는 데 필요한 개발자 도구들이었습니다.
AMD의 리사 수 회장 겸 CEO가 말했듯이, “오늘날처럼 기술 분야에 몸담기에 이보다 더 흥미진진한 시기는 없었다.”
실제 AI 제품을 개발하는 팀들에게 이러한 변화는 중요합니다. 이는 시장의 다음 단계에서 성공 여부가 최첨단 모델 하나에 대한 접근성보다는, 팀이 워크플로를 얼마나 효과적으로 조정하고, 추론 비용을 얼마나 잘 관리하며, 민감한 데이터를 얼마나 철저히 보호하고, 업무에 적합한 배포 환경을 얼마나 잘 선택할 수 있는지에 더 크게 좌우될 수 있음을 시사합니다.
AMD Dev Day 행사 전반에 걸쳐 주요 주제로 부각된 것은 AMD가 AI 시대를 위한 종합적인 엔드투엔드 컴퓨팅 제공업체로 자리매김하려는 노력이었다. AMD는 클라우드, 클라이언트, 엣지 환경에 걸친 AI 워크로드를 지원하는 것을 핵심 전략으로 삼았으며, 폐쇄적인 독점 스택보다는 개방형 소프트웨어 생태계를 강조하는 데 중점을 두었다.
이러한 관점은 AI 개발의 진화 방향을 반영한다는 점에서 중요합니다. 현대적인 AI 제품을 구축하는 것은 더 이상 단순히 모델을 훈련시키거나 모델 API를 호출하는 것에 그치지 않습니다. 개발 팀들은 점점 더 로컬 실험, 다중 에이전트 워크플로, 추론 최적화, 워크스테이션 규모의 테스트, 그리고 엔터프라이즈 배포를 지원해야 할 필요성이 커지고 있습니다. AMD는 이번 행사에서 자사의 하드웨어 전략을 이러한 광범위한 소프트웨어 및 시스템 환경의 현실과 일관되게 연계하여 전달했습니다.
리사 수는 행사에서 그 포부를 다음과 같이 명확히 요약했다. “우리는 AI를 생태계의 모든 곳에 도입하고자 합니다.”
이날 내내 가장 자주 언급된 주제는 바로 기존의 대규모 언어 모델(LLM) 상호작용에서 에이전트 기반 AI 시스템으로의 전환이었다. 연사들은 이러한 변화를 일회성 프롬프트와 응답 방식에서 벗어나, 서로 다른 에이전트들이 워크플로우 전반에 걸쳐 계획을 수립하고, 실행하며, 평가하고, 협력하는 다중 에이전트 협업 체계로 나아가는 과정이라고 설명했다.
이는 에이전트 기반 시스템이 AI 스택에 새로운 요구 사항을 부과하기 때문에 중요한 문제입니다. 행사에서 제시된 관점에 따르면, 이러한 시스템은 GPU 아니라 반복적인 추론 루프와 다단계 실행을 지원하기 위해 상당한 수준의 CPU , 데이터 흐름 조정 기능, 그리고 메모리 용량도 필요로 합니다.
개발자와 AI 팀에게 있어 중요한 교훈은, 단순한 최고 성능의 모델 선택이 아니라 효과적인 AI 시스템을 구축하는 데서 경쟁 우위가 비롯될 수 있다는 점입니다. 모델을 워크플로우, 도구, 로컬 데이터 및 비즈니스 프로세스와 연동하는 능력은 이제 제품 자체의 핵심 요소로 자리 잡고 있습니다.
AMD Dev Day에서 또 다른 주목할 만한 주제는 로컬 AI 배포에 대한 강조였다. AMD와 파트너사들은 첨단 AI 워크로드를 노트북, 워크스테이션, 엔터프라이즈 하드웨어 등 실제 작업이 이루어지는 곳과 더 가까운 곳에서 실행해야 할 필요성이 점점 더 커지고 있다고 거듭 강조했다.
행사 내내 그 이유는 일관되었습니다:
AMD는 이 주장의 핵심 근거로 Ryzen AI Max 395를 제시하며, 최대 128GB의 통합 메모리를 갖춘 구성과 샤딩 없이 단일 메모리 풀에서 대규모 모델을 로컬로 실행할 수 있는 기능을 강조했습니다. 또한 이번 행사에서는 배포 전 테스트 및 로컬 확장을 위해 Radeon AI Pro R9700과 AMD Threadripper Pro 9000을 활용한 워크스테이션급 개발 환경을 선보였습니다.
이번 행사의 핵심 메시지는 클라우드가 사라진다는 것이 아니었습니다. 오히려 이 행사는 온프레미스 환경과 클라우드 환경이 서로 협력하는 하이브리드 모델을 제시했습니다. 일상적인 작업이나 지연 시간에 민감한 작업, 개인정보 보호가 중요한 작업은 온프레미스에서 처리할 수 있으며, 더 많은 리소스가 필요한 작업은 필요할 때 언제든지 클라우드로 넘길 수 있습니다.
AMD Dev Day에서는 이러한 아키텍처 결정의 배경이 된 경제적 압박에 대해서도 조명했다. 행사 연사들은 토큰 수요의 급증, 추론 비용의 상승, 그리고 이로 인해 AI 제품을 개발하는 개발자와 기업들이 겪는 압박을 강조했다.
이러한 맥락에서, 로컬 AI는 기술적 전략인 동시에 비용 절감 전략으로도 제시되었다. 이번 행사에서 거듭 강조된 메시지는, AI의 다음 단계에서는 단순히 컴퓨팅 자원을 가장 많이 소비하는 팀이 아니라, 이를 더 효율적으로 활용하는 팀에게 기회가 주어질 것이라는 점이었다.
AI 개발자들에게 이는 실질적인 신호입니다. 인프라 관련 결정은 점점 더 제품 설계의 핵심 요소가 되고 있습니다. 지연 시간, 개인정보 보호, 메모리, 토큰 비용 등은 더 이상 부차적인 기술적 세부 사항이 아닙니다.
AMD Dev Day에서 얻은 또 다른 주요 교훈은 오픈 소프트웨어 생태계의 핵심적인 역할이었다. AMD는 ROCm, 주요 프레임워크에 대한 코드 수정 없이도 가능한 지원, Hugging Face ModelScope를 통한 300만 개 이상의 모델 지원, 그리고 새로운 모델 출시 시 즉시 지원한다는 목표를 강조했다.
AMD의 AI 제품 관리 수석 이사인 닉 니(Nick Ni)는 이러한 점을 잘 짚어냈다 . “사실 이 자리에 계신 대부분의 분들에게 있어 소프트웨어야말로 핵심입니다.”
이번 행사에서는 개발자를 위한 여러 가지 계획도 소개되었습니다:
이번 행사의 이 부분은 한 가지 기본적인 진실을 강조했다는 점에서 특히 중요하게 느껴졌습니다. 바로 하드웨어 성능만으로는 기술 도입을 이끌 수 없다는 점입니다. 개발자들에게는 성숙한 툴링, 익숙한 프레임워크, 문서화 자료, 그리고 마찰 없이 실험할 수 있는 환경이 필요합니다. 생태계의 발전이야말로 성능에 대한 주장을 실제로 활용 가능한 플랫폼으로 만들어주는 원동력입니다.
AI 시장에서 중국의 역할 역시 반복적으로 거론된 주제였다. 여러 연사들은 중국을 오픈소스 AI 혁신의 선도적인 환경으로 묘사했으며, 특히 효율성, 현지 배포, 실질적인 엔지니어링 제약 조건이 중요한 분야에서 그러했다.
Zero One AI 및 Stepfun과의 파트너십을 통해 이러한 점을 더욱 강조했습니다. 행사 자료에는 로컬 배포를 위해 Ryzen AI Max 아키텍처 기반으로 구축된 Zero One AI와의 공동 개발 다중 에이전트 올인원 시스템과, AMD 하드웨어에 최적화되고 에이전트 기반 작업을 위해 설계된 Stepfun 모델에 대해 설명되어 있습니다.
더 큰 의미에서 볼 때, 중국은 주요 AI 시장일 뿐만 아니라 현지 AI 도입, 오픈소스 모델, 그리고 비용 효율성을 중시하는 인프라 설계에 있어 중요한 시험대가 되고 있다.
Ultralytics 관점에서 볼 때, AMD Dev Day에서 가장 의미 있는 점은 추상적인 AI 성능보다는 실제 적용 가능한 AI 시스템에 초점을 맞췄다는 것입니다. 이번 행사는 개발자와 기업이 실제 운영 환경에서 AI를 어떻게 실행하고, 통합하고, 보안을 유지하며, 확장할 수 있는지에 대해 일관되게 다뤘습니다.
여기에는 다음과 같은 질문들이 포함됩니다:
이는 실용적인 질문들이며, 성공적인 AI 제품을 어떻게 개발할지를 결정하는 데 있어 점점 더 중요한 역할을 하고 있습니다. 또한 우리는 Ultralytics YOLO 구축하고 배포하는 과정에서 이러한 질문들을 직접적으로 고려합니다. 모델이 노트북, 워크스테이션, 클라우드 인스턴스 중 어디에서 실행되든 상관없이 적용 가능한 배포 유연성은 우리에게 있어 사후 고려 사항이 아닌, 항상 핵심적인 설계 제약 조건이었습니다.
AMD Dev Day에서 오픈소스 생태계와 추론 효율성을 강조한 움직임은 우리가 이미 확신하고 있던 점을 다시 한번 확인시켜 주었습니다. 바로 가장 유용한 AI 도구는 팀이 특정 벤더나 플랫폼을 중심으로 인프라를 재구축할 필요 없이, 실제 하드웨어 환경에서 실제 워크플로우에 자연스럽게 통합되는 도구라는 사실입니다.
‘AMD Dev Day Shanghai’ 행사에서 한 가지 분명한 사실이 드러났습니다. 바로 AI 인프라에 대한 논의가 성숙 단계에 접어들었다는 점입니다. 관심사는 단순한 모델 규모에서 벗어나, AI를 현실 세계에서 유용하게 활용하기 위해 필요한 포괄적인 시스템으로 옮겨가고 있습니다. 에이전트 기반 워크플로, 온프레미스 AI 배포, 오픈소스 툴링, 그리고 인프라 효율성은 이번 행사 전반에 걸쳐 가장 두드러진 주제였습니다.
AI 제품을 개발하는 팀이라면 이러한 변화에 주목할 필요가 있습니다. 다음 단계의 발전은 단순히 가장 큰 모델을 선택하는 것이 아니라, 올바른 아키텍처와 배포 모델, 그리고 적합한 개발자 생태계를 선택하는 데서 비롯될 수 있습니다.
컴퓨터 비전 시스템을 구축 중이며 추론 처리를 기기 내, 온프레미스, 클라우드 중 어디에서 수행할지 고민하고 계신다면, Ultralytics YOLO 이러한 유연성을 고려하여 설계되었습니다. GitHub 저장소를 살펴보시고 시작해보시거나, 제조 및 물류 분야의 실제 배포 사례에서 컴퓨터 비전이 어떻게 활용되는지 확인해 보시거나, 라이선스 옵션을 확인하여 개발을 시작해 보세요.
미래의 머신러닝 여정을 시작하세요
