Ultralytics tại AMD Dev Day Shanghai: AI cục bộ kết hợp với hệ thống agentic

Ultralytics đã tham dự AMD Dev Day tại Thượng Hải để tìm hiểu cách AMD và các đối tác đang định hình giai đoạn tiếp theo của hạ tầng AI. Thông điệp nổi bật nhất từ sự kiện rất rõ ràng: cuộc trao đổi về AMD AI đang vượt ra ngoài các model độc lập và hướng tới những hệ thống AI có thể triển khai. Xuyên suốt các bài thuyết trình, bản demo sản phẩm và thảo luận với đối tác, những chủ đề lớn nhất là AI agentic, triển khai AI cục bộ, hệ sinh thái nguồn mở và các công cụ dành cho developer cần thiết để biến những hệ thống này thành giải pháp thực tiễn ở quy mô lớn.

Như Lisa Su, Chủ tịch kiêm CEO của AMD, đã nói, “Chưa bao giờ là thời điểm thú vị hơn để làm việc trong lĩnh vực công nghệ như hiện nay.”

Đối với các đội ngũ xây dựng sản phẩm AI thực tế, sự chuyển dịch này rất quan trọng. Điều đó cho thấy thành công trong giai đoạn tiếp theo của thị trường có thể sẽ phụ thuộc ít hơn vào quyền truy cập một model tiên phong duy nhất, mà phụ thuộc nhiều hơn vào khả năng điều phối workflow, kiểm soát chi phí inference, bảo vệ dữ liệu nhạy cảm và lựa chọn môi trường triển khai phù hợp cho từng nhiệm vụ.

Thông điệp của AMD: AI cần chiến lược điện toán full-stack#

Một chủ đề lớn xuyên suốt AMD Dev Day là nỗ lực của AMD nhằm định vị mình là nhà cung cấp điện toán end-to-end toàn diện cho kỷ nguyên AI. Công ty xây dựng cách tiếp cận xoay quanh việc hỗ trợ các workload AI trên môi trường cloud, client và edge, đồng thời nhấn mạnh hệ sinh thái phần mềm mở thay vì một stack độc quyền khép kín.

Cách định vị này rất quan trọng vì phản ánh sự phát triển của hoạt động xây dựng AI. Việc xây dựng các sản phẩm AI hiện đại không còn chỉ là train hoặc gọi model API. Các đội ngũ ngày càng cần hỗ trợ thử nghiệm cục bộ, workflow multi-agent, tối ưu hóa inference, kiểm thử ở quy mô workstation và triển khai cho doanh nghiệp. Thông điệp tại sự kiện của AMD liên tục gắn câu chuyện phần cứng với thực tế rộng lớn hơn của phần mềm và hệ thống.

Lisa Su đã tóm lược rõ ràng tham vọng đó trong sự kiện: “Chúng tôi muốn đưa AI đến mọi nơi trong hệ sinh thái.”

Hình 1. Lisa Su trên sân khấu tại sự kiện AMD Dev Day ở Thượng Hải.

AI agentic là chủ đề nổi bật nhất của sự kiện#

Nếu có một ý tưởng được lặp lại xuyên suốt cả ngày, đó là quá trình chuyển đổi từ tương tác LLM truyền thống sang các hệ thống AI agentic. Các diễn giả mô tả sự chuyển dịch này là quá trình từ những prompt và phản hồi một lần sang điều phối multi-agent, trong đó các agent khác nhau lập kế hoạch, thực thi, phản biện và cộng tác xuyên suốt các workflow.

Điều này quan trọng vì các hệ thống agentic đặt ra những yêu cầu mới cho stack AI. Theo cách sự kiện trình bày, những hệ thống này không chỉ cần hiệu năng GPU mà còn cần năng lực xử lý CPU đáng kể, điều phối luồng dữ liệu và dung lượng bộ nhớ để hỗ trợ các vòng lặp inference lặp lại và quá trình thực thi nhiều bước.

Đối với developer và các đội ngũ AI, bài học rút ra là lợi thế cạnh tranh có thể đến từ việc xây dựng các hệ thống AI hiệu quả, thay vì chỉ lựa chọn model có năng lực cao nhất. Khả năng kết nối model với workflow, công cụ, dữ liệu cục bộ và quy trình kinh doanh đang trở thành một phần cốt lõi của chính sản phẩm.

Triển khai AI cục bộ ngày càng mang tính chiến lược#

Một chủ đề đáng chú ý khác tại AMD Dev Day là sự nhấn mạnh vào triển khai AI cục bộ. AMD và các đối tác nhiều lần lập luận rằng các workload AI tiên tiến ngày càng cần chạy gần nơi công việc diễn ra hơn, bao gồm trên laptop, workstation và phần cứng doanh nghiệp.

Các lý do được nhắc đến nhất quán trong suốt sự kiện:

• Độ trễ thấp hơn
• Quyền riêng tư dữ liệu tốt hơn
• Khả năng kiểm soát mạnh hơn đối với các workflow nhạy cảm
• Giảm phụ thuộc vào chi phí API cloud

AMD sử dụng Ryzen AI Max 395 làm minh chứng trọng tâm cho lập luận này, nhấn mạnh các cấu hình có bộ nhớ hợp nhất lên tới 128GB và khả năng chạy các model lớn cục bộ trong một pool bộ nhớ duy nhất mà không cần sharding. Sự kiện cũng giới thiệu các thiết lập phát triển ở quy mô workstation sử dụng Radeon AI Pro R9700 và AMD Threadripper Pro 9000 để kiểm thử và mở rộng cục bộ trước khi triển khai.

Thông điệp tổng thể không phải là cloud sẽ biến mất. Thay vào đó, sự kiện trình bày một mô hình hybrid, trong đó môi trường cục bộ và cloud phối hợp với nhau. Các tác vụ thông thường, nhạy cảm với độ trễ hoặc quyền riêng tư có thể chạy cục bộ, còn những tác vụ đòi hỏi nhiều tài nguyên hơn vẫn có thể được chuyển lên cloud khi cần.

Chi phí inference AI và nhu cầu token đang định hình các lựa chọn hạ tầng#

AMD Dev Day cũng nhấn mạnh áp lực kinh tế đứng sau những quyết định kiến trúc này. Các diễn giả tại sự kiện nhấn mạnh tốc độ tăng nhanh của nhu cầu token, chi phí inference gia tăng và áp lực mà điều này tạo ra cho developer cũng như doanh nghiệp xây dựng sản phẩm AI.

Trong cách nhìn đó, AI cục bộ được trình bày vừa là chiến lược kiểm soát chi phí vừa là chiến lược kỹ thuật. Thông điệp được lặp lại tại sự kiện là giai đoạn tiếp theo của AI sẽ mang lại lợi thế cho những đội ngũ sử dụng tài nguyên điện toán hiệu quả hơn, chứ không đơn giản là những đội ngũ tiêu thụ nhiều tài nguyên nhất.

Đối với các đội ngũ xây dựng AI, đây là một tín hiệu thực tiễn. Các quyết định về hạ tầng ngày càng là quyết định về sản phẩm. Độ trễ, quyền riêng tư, bộ nhớ và chi phí token không còn là những chi tiết kỹ thuật thứ yếu.

Hình 2. Bộ kit đánh giá AMD Versal AI Edge Series Gen2 VEK385.

AMD ROCm và hệ sinh thái AI nguồn mở#

Một bài học rút ra lớn khác từ AMD Dev Day là vai trò trung tâm của các hệ sinh thái phần mềm mở. AMD nhấn mạnh ROCm, khả năng hỗ trợ các framework lớn mà không cần thay đổi code, hỗ trợ hơn 3 triệu model thông qua Hugging Face và ModelScope, cùng mục tiêu hỗ trợ các bản phát hành model mới ngay từ ngày đầu.

Nick Ni, Giám đốc cấp cao về Quản lý Sản phẩm AI tại AMD, đã nêu bật trọng tâm đó: “Thực tế, với hầu hết các bạn trong căn phòng này, phần mềm mới là câu chuyện.”

Sự kiện cũng nhấn mạnh một số sáng kiến tập trung vào developer:

• AMD AI Developer Cloud với quyền truy cập GPU miễn phí cho developer tại Trung Quốc
• Tích hợp ModelScope Studio với các tùy chọn runtime GPU của AMD
• AMD AI Playbooks với các hướng dẫn từng bước
• Một chương trình dành cho developer đã thu hút thêm hơn 100.000 developer trong những tháng gần đây

Phần này của sự kiện đặc biệt quan trọng vì nhấn mạnh một sự thật cơ bản: Chỉ riêng năng lực phần cứng không thể thúc đẩy việc áp dụng. Developer cần tooling hoàn thiện, các framework quen thuộc, tài liệu và những cách thức thử nghiệm không ma sát. Câu chuyện về hệ sinh thái là yếu tố biến các tuyên bố về hiệu năng thành những nền tảng có thể sử dụng.

Vì sao Trung Quốc nổi bật tại AMD Dev Day#

Vai trò của Trung Quốc trên thị trường AI là một chủ đề lặp lại khác. Nhiều diễn giả mô tả Trung Quốc là môi trường dẫn đầu cho đổi mới AI nguồn mở, đặc biệt trong những lĩnh vực chịu ảnh hưởng bởi yêu cầu về hiệu quả, triển khai cục bộ và các ràng buộc kỹ thuật thực tế.

Các mối quan hệ hợp tác với Zero One AI và Stepfun được dùng để củng cố nhận định đó. Ghi chú về sự kiện mô tả một hệ thống all-in-one multi-agent dành cho doanh nghiệp được đồng phát triển với Zero One AI, xây dựng trên kiến trúc Ryzen AI Max để triển khai cục bộ, cùng một model Stepfun được tối ưu cho phần cứng AMD và thiết kế cho các tác vụ agentic.

Hàm ý lớn hơn là Trung Quốc không chỉ là một thị trường AI lớn mà còn là nơi thử nghiệm quan trọng cho triển khai AI cục bộ, các model nguồn mở và thiết kế hạ tầng nhạy cảm với chi phí.

Những điều Ultralytics rút ra từ AMD Dev Day Shanghai#

Từ góc nhìn của đội ngũ Ultralytics, tín hiệu hữu ích nhất từ AMD Dev Day là sự tập trung vào các hệ thống AI có thể triển khai, thay vì chỉ nói về năng lực AI một cách trừu tượng. Sự kiện nhất quán tập trung vào cách developer và doanh nghiệp thực sự có thể chạy, tích hợp, bảo mật và mở rộng AI trong môi trường production.

Các câu hỏi bao gồm:

• Nên chạy tác vụ nào cục bộ và tác vụ nào trên cloud?
• Các đội ngũ nên cân nhắc độ trễ và quyền riêng tư như thế nào?
• Developer có thể giảm phụ thuộc vào các API inference đắt đỏ bằng cách nào?
• Những công cụ và lớp phần mềm nào giúp các nền tảng AI dễ được áp dụng hơn?

Đây là những câu hỏi thực tiễn và chúng ngày càng định hình cách các sản phẩm AI thành công được xây dựng. Chúng tôi cũng trực tiếp cân nhắc những câu hỏi này trong cách xây dựng và phát hành các model Ultralytics YOLO. Tính linh hoạt khi triển khai—dù model chạy trên laptop, workstation hay một instance cloud—luôn là ràng buộc thiết kế cốt lõi đối với chúng tôi, chứ không phải yếu tố được bổ sung sau cùng.

Định hướng phát triển các hệ sinh thái nguồn mở và nâng cao hiệu quả inference tại AMD Dev Day củng cố một điều mà chúng tôi vốn đã tin tưởng: những công cụ AI hữu ích nhất là những công cụ tích hợp được vào các workflow thực tế, trên phần cứng thực tế, mà không yêu cầu các đội ngũ xây dựng lại hạ tầng xoay quanh một vendor hoặc nền tảng duy nhất.

Hình 3. Đội ngũ Ultralytics tại AMD Dev Day ở Thượng Hải.

Suy nghĩ cuối cùng#

AMD Dev Day Shanghai đã làm rõ một điều: cuộc trao đổi về hạ tầng AI đang trở nên trưởng thành hơn. Trọng tâm đang chuyển từ chỉ tập trung vào quy mô model thô sang các hệ thống rộng lớn hơn cần thiết để biến AI thành công cụ hữu ích trong thế giới thực. Workflow agentic, triển khai AI cục bộ, tooling nguồn mở và hiệu quả hạ tầng là những chủ đề rõ ràng nhất xuyên suốt sự kiện.

Đối với các đội ngũ xây dựng sản phẩm AI, sự chuyển dịch này đáng được chú ý. Làn sóng tiến bộ tiếp theo có thể đến từ việc lựa chọn đúng kiến trúc, mô hình triển khai và hệ sinh thái developer phù hợp, chứ không chỉ từ model lớn nhất.

Nếu bạn đang xây dựng các hệ thống computer vision và cân nhắc nên chạy inference ở đâu—trên thiết bị, tại chỗ hay trên cloud—các model Ultralytics YOLO được thiết kế với tính linh hoạt đó. Hãy khám phá repository GitHub của chúng tôi để bắt đầu, tìm hiểu cách computer vision phù hợp với các hoạt động triển khai trong thế giới thực tại ngành sản xuất và logistics, hoặc xem các tùy chọn cấp phép để bắt đầu xây dựng.