Ultralytics tại AMD Dev Day Shanghai: AI cục bộ kết hợp với hệ thống agentic

Ultralytics đã tham dự AMD Dev Day tại Thượng Hải để tìm hiểu cách AMD và các đối tác định hình giai đoạn tiếp theo của hạ tầng AI. Thông điệp nổi bật nhất từ sự kiện rất rõ ràng: cuộc thảo luận về AI của AMD đang vượt ra ngoài các model độc lập để hướng đến những hệ thống AI có thể triển khai. Trong các bài thuyết trình, bản demo sản phẩm và trao đổi với đối tác, những chủ đề nổi bật nhất là AI tác tử, triển khai AI cục bộ, hệ sinh thái mã nguồn mở và các công cụ dành cho nhà phát triển cần thiết để đưa những hệ thống này vào ứng dụng thực tế ở quy mô lớn.

Như Lisa Su, Chủ tịch kiêm CEO của AMD, đã nói: “Chưa bao giờ có thời điểm nào thú vị hơn hiện tại để làm việc trong lĩnh vực công nghệ.”

Đối với các nhóm xây dựng sản phẩm AI thực tế, sự chuyển dịch này rất đáng lưu ý. Điều đó cho thấy thành công trong giai đoạn tiếp theo của thị trường có thể ít phụ thuộc vào quyền truy cập vào một model tiên tiến duy nhất, mà phụ thuộc nhiều hơn vào khả năng điều phối workflow, kiểm soát chi phí suy luận, bảo vệ dữ liệu nhạy cảm và lựa chọn môi trường triển khai phù hợp cho từng tác vụ.

Thông điệp của AMD: AI cần chiến lược điện toán full-stack#

Một chủ đề lớn xuyên suốt AMD Dev Day là nỗ lực của AMD nhằm định vị mình là nhà cung cấp giải pháp điện toán toàn diện từ đầu đến cuối cho kỷ nguyên AI. Công ty xây dựng phương pháp tiếp cận xoay quanh việc hỗ trợ workload AI trên môi trường cloud, client và edge, đồng thời nhấn mạnh hệ sinh thái phần mềm mở thay vì một stack độc quyền khép kín.

Cách định hướng này rất quan trọng vì phản ánh sự phát triển của AI. Việc xây dựng sản phẩm AI hiện đại không còn chỉ là huấn luyện hoặc gọi API của model. Các nhóm ngày càng cần hỗ trợ thử nghiệm cục bộ, workflow đa tác tử, tối ưu hóa suy luận, kiểm thử ở quy mô workstation và triển khai cho doanh nghiệp. Thông điệp tại sự kiện của AMD luôn gắn kết câu chuyện phần cứng với thực tế rộng hơn về phần mềm và hệ thống.

Lisa Su đã tóm tắt rõ khát vọng đó tại sự kiện: “Chúng tôi muốn đưa AI đến mọi nơi trong hệ sinh thái.”

Hình 1. Lisa Su phát biểu trên sân khấu tại sự kiện AMD Dev Day ở Thượng Hải.

AI tác tử là chủ đề chủ đạo của sự kiện#

Nếu có một ý tưởng được nhắc đi nhắc lại trong suốt ngày hôm đó, thì đó là sự chuyển đổi từ tương tác LLM truyền thống sang các hệ thống AI tác tử. Các diễn giả mô tả sự chuyển đổi này là bước tiến từ prompt và phản hồi một lần sang điều phối đa tác tử, trong đó các tác tử khác nhau lập kế hoạch, thực thi, đánh giá và phối hợp trong nhiều workflow.

Điều này quan trọng vì các hệ thống tác tử đặt ra những yêu cầu mới cho stack AI. Theo định hướng của sự kiện, những hệ thống này không chỉ cần hiệu năng GPU mà còn cần năng lực xử lý CPU đáng kể, khả năng điều phối luồng dữ liệu và dung lượng bộ nhớ để hỗ trợ các vòng lặp suy luận lặp lại và quá trình thực thi nhiều bước.

Đối với nhà phát triển và các nhóm AI, bài học rút ra là lợi thế cạnh tranh có thể đến từ việc xây dựng các hệ thống AI hiệu quả, chứ không chỉ đơn thuần chọn model mạnh nhất. Khả năng kết nối model với workflow, công cụ, dữ liệu cục bộ và quy trình kinh doanh đang trở thành một phần cốt lõi của chính sản phẩm.

Triển khai AI cục bộ ngày càng mang tính chiến lược#

Một chủ đề đáng chú ý khác tại AMD Dev Day là việc nhấn mạnh triển khai AI cục bộ. AMD và các đối tác nhiều lần đưa ra lập luận rằng workload AI tiên tiến ngày càng cần chạy gần nơi công việc diễn ra, bao gồm trên laptop, workstation và phần cứng doanh nghiệp.

Các lý do được nhắc đến nhất quán trong suốt sự kiện:

• Độ trễ thấp hơn
• Bảo mật dữ liệu tốt hơn
• Kiểm soát tốt hơn các workflow nhạy cảm
• Giảm phụ thuộc vào chi phí API cloud

AMD sử dụng Ryzen AI Max 395 làm minh chứng trọng tâm cho lập luận này, nêu bật các cấu hình có bộ nhớ thống nhất lên đến 128GB và khả năng chạy model lớn cục bộ trong một vùng nhớ duy nhất mà không cần phân mảnh. Sự kiện cũng giới thiệu các thiết lập phát triển ở quy mô workstation sử dụng Radeon AI Pro R9700 và AMD Threadripper Pro 9000 để kiểm thử và mở rộng quy mô cục bộ trước khi triển khai.

Thông điệp tổng thể không phải là cloud sẽ biến mất. Thay vào đó, sự kiện đưa ra mô hình hybrid, trong đó môi trường cục bộ và cloud phối hợp với nhau. Các tác vụ thông thường, nhạy cảm với độ trễ hoặc nhạy cảm về quyền riêng tư có thể chạy cục bộ, trong khi các tác vụ đòi hỏi nhiều tài nguyên hơn vẫn có thể chuyển lên cloud khi cần.

Chi phí suy luận AI và nhu cầu token đang định hình lựa chọn hạ tầng#

AMD Dev Day cũng làm nổi bật áp lực kinh tế đằng sau những quyết định kiến trúc này. Các diễn giả tại sự kiện nhấn mạnh nhu cầu token tăng nhanh, chi phí suy luận tăng và áp lực mà những yếu tố này gây ra cho các nhà phát triển cũng như doanh nghiệp xây dựng sản phẩm AI.

Trong bối cảnh đó, AI cục bộ được xem là chiến lược kiểm soát chi phí cũng như một lựa chọn kỹ thuật. Thông điệp được nhắc lại tại sự kiện là giai đoạn tiếp theo của AI sẽ mang lại lợi thế cho các nhóm sử dụng tài nguyên điện toán hiệu quả hơn, chứ không đơn thuần là những nhóm tiêu thụ nhiều tài nguyên nhất.

Đối với những người xây dựng AI, đây là một tín hiệu thực tế. Các quyết định về hạ tầng ngày càng là quyết định về sản phẩm. Độ trễ, quyền riêng tư, bộ nhớ và chi phí token không còn là những chi tiết kỹ thuật thứ yếu.

Hình 2. Bộ công cụ đánh giá AMD Versal AI Edge Series Gen2 VEK385.

AMD ROCm và hệ sinh thái AI mã nguồn mở#

Một điểm đáng chú ý lớn khác tại AMD Dev Day là vai trò trung tâm của các hệ sinh thái phần mềm mở. AMD nhấn mạnh ROCm, khả năng hỗ trợ các framework lớn mà không cần thay đổi mã, hỗ trợ hơn 3 triệu model thông qua Hugging Face và ModelScope, cùng mục tiêu hỗ trợ ngay từ ngày đầu cho các bản phát hành model mới.

Nick Ni, Giám đốc cấp cao phụ trách Quản lý sản phẩm AI tại AMD, đã tóm lược rất rõ trọng tâm này: “Thực tế, đối với hầu hết các bạn trong căn phòng này, câu chuyện chính là phần mềm.”

Sự kiện cũng nêu bật một số sáng kiến dành cho nhà phát triển:

• AMD AI Developer Cloud cung cấp quyền truy cập GPU miễn phí cho nhà phát triển tại Trung Quốc
• Tích hợp ModelScope Studio với các tùy chọn runtime GPU của AMD
• AMD AI Playbooks với hướng dẫn từng bước
• Chương trình dành cho nhà phát triển đã thu hút thêm hơn 100.000 nhà phát triển trong những tháng gần đây

Phần này của sự kiện đặc biệt quan trọng vì nhấn mạnh một thực tế cơ bản: Chỉ riêng năng lực phần cứng không thể thúc đẩy việc áp dụng. Nhà phát triển cần công cụ hoàn thiện, framework quen thuộc, tài liệu và cách thức thử nghiệm liền mạch. Câu chuyện về hệ sinh thái chính là yếu tố biến các tuyên bố về hiệu năng thành nền tảng có thể sử dụng.

Vì sao Trung Quốc nổi bật tại AMD Dev Day#

Vai trò của Trung Quốc trên thị trường AI là một chủ đề khác được nhắc đến thường xuyên. Nhiều diễn giả mô tả Trung Quốc là môi trường tiên phong về đổi mới AI mã nguồn mở, đặc biệt trong các lĩnh vực chịu ảnh hưởng bởi hiệu quả, triển khai cục bộ và các ràng buộc kỹ thuật thực tế.

Quan hệ đối tác với Zero One AI và Stepfun được dùng để củng cố quan điểm đó. Ghi chú sự kiện mô tả một hệ thống tất cả trong một dành cho doanh nghiệp, hỗ trợ đa tác tử, được phối hợp xây dựng với Zero One AI trên kiến trúc Ryzen AI Max để triển khai cục bộ, cùng một model của Stepfun được tối ưu hóa cho phần cứng AMD và thiết kế cho các tác vụ tác tử.

Hàm ý rộng hơn là Trung Quốc không chỉ là một thị trường AI lớn mà còn là môi trường thử nghiệm quan trọng cho triển khai AI cục bộ, model mã nguồn mở và thiết kế hạ tầng chú trọng chi phí.

Những điều Ultralytics rút ra từ AMD Dev Day Thượng Hải#

Theo góc nhìn của nhóm Ultralytics, tín hiệu hữu ích nhất từ AMD Dev Day là trọng tâm hướng đến các hệ thống AI có thể triển khai, thay vì chỉ bàn về năng lực AI một cách trừu tượng. Sự kiện liên tục tập trung vào cách nhà phát triển và doanh nghiệp có thể thực sự vận hành, tích hợp, bảo mật và mở rộng quy mô AI trong môi trường production.

Điều đó bao gồm các câu hỏi như:

• Nên chạy những gì cục bộ và những gì trên cloud?
• Các nhóm nên cân nhắc độ trễ và quyền riêng tư như thế nào?
• Nhà phát triển có thể giảm phụ thuộc vào API suy luận đắt đỏ bằng cách nào?
• Những công cụ và lớp phần mềm nào giúp việc áp dụng nền tảng AI trở nên dễ dàng hơn?

Đây là những câu hỏi thực tế và ngày càng định hình cách xây dựng các sản phẩm AI thành công. Chúng tôi cũng trực tiếp cân nhắc những câu hỏi này trong cách xây dựng và phát hành model Ultralytics YOLO. Tính linh hoạt khi triển khai, tức model chạy trên laptop, workstation hay instance cloud, luôn là ràng buộc thiết kế cốt lõi đối với chúng tôi, chứ không phải điều chỉ nghĩ đến sau này.

Định hướng thúc đẩy hệ sinh thái mã nguồn mở và hiệu quả suy luận tại AMD Dev Day củng cố niềm tin sẵn có của chúng tôi: các công cụ AI hữu ích nhất là những công cụ phù hợp với workflow thực tế, chạy trên phần cứng thực tế mà không buộc các nhóm phải xây dựng lại hạ tầng xoay quanh một nhà cung cấp hoặc nền tảng duy nhất.

Hình 3. Nhóm Ultralytics tại AMD Dev Day ở Thượng Hải.

Lời kết#

AMD Dev Day Thượng Hải đã làm rõ một điều: Cuộc thảo luận về hạ tầng AI đang trở nên chín muồi. Trọng tâm đang chuyển từ việc chỉ tăng quy mô model thô sang các hệ thống rộng hơn cần thiết để đưa AI vào ứng dụng hữu ích trong thế giới thực. Workflow tác tử, triển khai AI cục bộ, công cụ mã nguồn mở và hiệu quả hạ tầng là những chủ đề nổi bật nhất xuyên suốt sự kiện.

Đối với các nhóm xây dựng sản phẩm AI, sự chuyển dịch này đáng để lưu tâm. Làn sóng tiến bộ tiếp theo có thể đến từ việc lựa chọn kiến trúc phù hợp, mô hình triển khai phù hợp và hệ sinh thái dành cho nhà phát triển phù hợp, chứ không chỉ từ model lớn nhất.

Nếu bạn đang xây dựng hệ thống thị giác máy tính và cân nhắc nên chạy suy luận trên thiết bị, tại chỗ hay trên cloud, các model Ultralytics YOLO được thiết kế để hỗ trợ tính linh hoạt đó. Hãy truy cập kho lưu trữ GitHub để bắt đầu, tìm hiểu cách thị giác máy tính được ứng dụng trong thực tế ở lĩnh vực sản xuất và logistics, hoặc xem các tùy chọn cấp phép để bắt đầu xây dựng.