Ultralytics all'AMD Dev Day Shanghai: l'IA locale incontra i sistemi agentici

Ultralytics ha partecipato all'AMD Dev Day di Shanghai per scoprire come AMD e i suoi partner stiano plasmando la prossima fase dell'infrastruttura IA. Il messaggio più importante dell'evento è stato chiaro: la conversazione sull'IA di AMD sta andando oltre i singoli modelli verso sistemi IA distribuibili. Nel corso degli interventi, delle demo di prodotto e delle discussioni tra partner, i temi principali sono stati l'IA agentica, l'implementazione locale dell'IA, gli ecosistemi open source e gli strumenti di sviluppo necessari per rendere questi sistemi pratici su larga scala.

Come ha affermato Lisa Su, Chair & CEO di AMD, “Non c'è mai stato un momento più entusiasmante di oggi per lavorare nella tecnologia.”

Per i team che creano prodotti IA reali, questo cambiamento è fondamentale. Suggerisce che il successo nella fase successiva del mercato potrebbe dipendere meno dall'accesso a un singolo modello di frontiera e più dalla capacità dei team di orchestrare i flussi di lavoro, controllare i costi di inferenza, proteggere i dati sensibili e scegliere l'ambiente di implementazione giusto per il lavoro.

Link to this sectionIl messaggio di AMD: l'IA richiede una strategia di calcolo full-stack#

Un tema centrale dell'AMD Dev Day è stato lo sforzo di AMD nel posizionarsi come fornitore di calcolo end-to-end completo per l'era dell'IA. L'azienda ha inquadrato il suo approccio nel supporto ai carichi di lavoro IA attraverso ambienti cloud, client ed edge, ponendo l'accento su un ecosistema software aperto anziché su uno stack proprietario chiuso.

Questa impostazione è importante perché riflette l'evoluzione dello sviluppo IA. Creare prodotti IA moderni non riguarda più solo l'addestramento o la chiamata a un'API di modello. I team devono sempre più supportare la sperimentazione locale, i flussi di lavoro multi-agente, l'ottimizzazione dell'inferenza, i test su workstation e l'implementazione aziendale. Il messaggio dell'evento di AMD ha costantemente collegato la sua strategia hardware a questa realtà più ampia fatta di software e sistemi.

Quell'ambizione è stata riassunta chiaramente da Lisa Su durante l'evento: “Vogliamo portare l'IA ovunque nell'ecosistema.”

Fig 1. Lisa Su sul palco all'AMD Dev Day di Shanghai.

Link to this sectionL'IA agentica è stata il tema dominante dell'evento#

Se c'è stata un'idea ripetuta durante la giornata, è stata la transizione dalle tradizionali interazioni con LLM ai sistemi IA agentici. I relatori hanno descritto questo cambiamento come il passaggio da prompt e risposte one-shot a un'orchestrazione multi-agente, in cui diversi agenti pianificano, eseguono, criticano e collaborano attraverso i flussi di lavoro.

Ciò è importante perché i sistemi agentici pongono nuove richieste allo stack IA. Secondo l'impostazione dell'evento, questi sistemi necessitano non solo di prestazioni GPU, ma anche di una significativa capacità di elaborazione CPU, orchestrazione del flusso di dati e memoria per supportare cicli di inferenza ripetuti ed esecuzioni multi-step.

Per gli sviluppatori e i team IA, il punto chiave è che il vantaggio competitivo potrebbe derivare dalla costruzione di sistemi IA efficaci, non semplicemente dalla scelta del modello più capace. La capacità di collegare modelli a flussi di lavoro, strumenti, dati locali e processi aziendali sta diventando una parte fondamentale del prodotto stesso.

Link to this sectionL'implementazione locale dell'IA sta diventando sempre più strategica#

Un altro tema degno di nota all'AMD Dev Day è stato l'enfasi sull'implementazione locale dell'IA. AMD e i suoi partner hanno più volte sostenuto che i carichi di lavoro IA avanzati devono essere eseguiti sempre più vicino a dove avviene il lavoro, inclusi laptop, workstation e hardware aziendale.

Le ragioni sono state coerenti durante tutto l'evento:

• Minore latenza
• Maggiore privacy dei dati
• Controllo più forte sui flussi di lavoro sensibili
• Ridotta dipendenza dai costi delle API cloud

AMD ha utilizzato il Ryzen AI Max 395 come punto di riferimento chiave in tale argomento, evidenziando configurazioni con un massimo di 128GB di memoria unificata e la capacità di eseguire modelli di grandi dimensioni localmente in un unico pool di memoria senza sharding. L'evento ha anche mostrato configurazioni di sviluppo su scala workstation utilizzando la Radeon AI Pro R9700 e l'AMD Threadripper Pro 9000 per test e scalabilità locale prima dell'implementazione.

Il messaggio complessivo non riguardava la scomparsa del cloud. Al contrario, l'evento ha presentato un modello ibrido in cui gli ambienti locali e cloud lavorano insieme. Le attività più routinarie, sensibili alla latenza o alla privacy, possono essere eseguite localmente, mentre quelle più esigenti possono comunque essere escalate al cloud quando necessario.

Link to this sectionIl costo dell'inferenza IA e la domanda di token stanno plasmando le scelte infrastrutturali#

L'AMD Dev Day ha anche evidenziato la pressione economica dietro queste decisioni architettoniche. I relatori all'evento hanno sottolineato la rapida crescita della domanda di token, l'aumento dei costi di inferenza e la pressione che ciò crea per gli sviluppatori e le aziende che costruiscono prodotti IA.

In questo contesto, l'IA locale è stata presentata come una strategia di controllo dei costi tanto quanto tecnica. Il messaggio ripetuto dell'evento è stato che la prossima fase dell'IA premierà i team che utilizzano il calcolo in modo più efficiente, non semplicemente quelli che ne consumano di più.

Per i creatori di IA, questo è un segnale pratico. Le decisioni infrastrutturali sono sempre più decisioni di prodotto. Latenza, privacy, memoria e costo dei token non sono più dettagli ingegneristici secondari.

Fig 2. AMD Versal AI Edge Series Gen2 VEK385 Evaluation Kit.

Link to this sectionAMD ROCm e l'ecosistema IA open source#

Un altro importante punto di riflessione dell'AMD Dev Day è stato il ruolo centrale degli ecosistemi software aperti. AMD ha sottolineato ROCm, il supporto zero-code-change per i principali framework, il supporto per oltre 3 milioni di modelli tramite Hugging Face e ModelScope, e gli obiettivi di supporto day-zero per i nuovi rilasci di modelli.

Nick Ni, Sr Director, AI Product Management presso AMD, ha catturato bene quell'enfasi: “Per la maggior parte di voi in questa sala, in realtà, il software è ciò che conta.”

L'evento ha anche evidenziato diverse iniziative incentrate sugli sviluppatori:

• AMD AI Developer Cloud con accesso GPU gratuito per gli sviluppatori in Cina
• Integrazione di ModelScope Studio con le opzioni di runtime AMD GPU
• AMD AI Playbooks con guide passo-passo
• Un programma per sviluppatori che ha aggiunto più di 100.000 sviluppatori negli ultimi mesi

Questa parte dell'evento è sembrata particolarmente importante perché ha sottolineato una verità fondamentale: la capacità hardware da sola non guida l'adozione. Gli sviluppatori hanno bisogno di strumenti maturi, framework familiari, documentazione e modi fluidi per sperimentare. La storia dell'ecosistema è ciò che trasforma le promesse di prestazioni in piattaforme utilizzabili.

Link to this sectionPerché la Cina si è distinta all'AMD Dev Day#

Il ruolo della Cina nel mercato dell'IA è stato un altro tema ricorrente. Molti relatori hanno descritto la Cina come un ambiente leader per l'innovazione IA open source, in particolare in aree modellate dall'efficienza, dall'implementazione locale e da vincoli ingegneristici pratici.

Le partnership con Zero One AI e Stepfun sono state utilizzate per rafforzare questo punto. Le note dell'evento hanno descritto un sistema all-in-one multi-agente aziendale congiunto con Zero One AI basato sull'architettura Ryzen AI Max per l'implementazione locale, e un modello Stepfun ottimizzato per l'hardware AMD e progettato per attività agentiche.

L'implicazione più ampia è che la Cina non è solo un importante mercato IA, ma anche un importante terreno di prova per l'implementazione locale dell'IA, i modelli open source e la progettazione di infrastrutture attente ai costi.

Link to this sectionCosa ha tratto Ultralytics dall'AMD Dev Day di Shanghai#

Dal punto di vista del team di Ultralytics, il segnale più utile dell'AMD Dev Day è stato l'attenzione ai sistemi IA distribuibili piuttosto che alla capacità IA in astratto. L'evento si è costantemente concentrato su come gli sviluppatori e le aziende possano effettivamente eseguire, integrare, proteggere e scalare l'IA negli ambienti di produzione.

Ciò include domande come:

• Cosa dovrebbe girare localmente e cosa nel cloud?
• Come dovrebbero ragionare i team riguardo a latenza e privacy?
• Come possono gli sviluppatori ridurre la dipendenza da costose API di inferenza?
• Quali strumenti e livelli software rendono le piattaforme IA più facili da adottare?

Queste sono domande pratiche, che definiscono sempre più come vengono creati i prodotti IA di successo. Sono anche domande a cui pensiamo direttamente nel modo in cui costruiamo e distribuiamo i modelli Ultralytics YOLO. La flessibilità di distribuzione, indipendentemente dal fatto che un modello giri su un laptop, una workstation o un'istanza cloud, è sempre stata un vincolo di progettazione fondamentale per noi, non un ripensamento.

La spinta verso gli ecosistemi open source e l'efficienza dell'inferenza all'AMD Dev Day ha rafforzato qualcosa in cui crediamo già: gli strumenti IA più utili sono quelli che si adattano ai flussi di lavoro reali, sull'hardware reale, senza richiedere ai team di ricostruire la propria infrastruttura attorno a un singolo fornitore o piattaforma.

Fig 3. Il team di Ultralytics all'AMD Dev Day di Shanghai.

Link to this sectionConsiderazioni finali#

L'AMD Dev Day di Shanghai ha reso chiara una cosa: la conversazione sull'infrastruttura IA sta maturando. L'attenzione si sta spostando dalla sola scala del modello grezzo ai sistemi più ampi necessari per rendere l'IA utile nel mondo reale. I flussi di lavoro agentici, l'implementazione locale dell'IA, gli strumenti open source e l'efficienza infrastrutturale sono stati i temi più chiari durante l'evento.

Per i team che creano prodotti IA, vale la pena prestare attenzione a questo cambiamento. La prossima ondata di progressi potrebbe derivare dalla scelta dell'architettura giusta, del modello di distribuzione giusto e dell'ecosistema di sviluppatori giusto, non solo dal modello più grande.

Se stai creando sistemi di computer vision e stai pensando a dove dovrebbe girare l'inferenza, on-device, on-premise o nel cloud, i modelli Ultralytics YOLO sono progettati con quella flessibilità in mente. Esplora il nostro repository GitHub per iniziare, scopri come la computer vision si integra nelle implementazioni del mondo reale nel settore manifatturiero e nella logistica, oppure controlla le nostre opzioni di licenza per iniziare a costruire.