Ultralytics tại AMD Dev Day Thượng Hải: AI cục bộ kết hợp với các hệ thống tác tử

Ultralytics đã tham dự AMD Dev Day tại Thượng Hải để tìm hiểu cách AMD và các đối tác của họ đang định hình giai đoạn tiếp theo của cơ sở hạ tầng AI. Thông điệp mạnh mẽ nhất từ sự kiện rất rõ ràng: Cuộc trò chuyện về AI của AMD đang vượt ra ngoài các model độc lập và hướng tới các hệ thống AI có khả năng triển khai. Xuyên suốt các bài thuyết trình, bản demo sản phẩm và các cuộc thảo luận với đối tác, những chủ đề lớn nhất bao gồm agentic AI, triển khai AI cục bộ, hệ sinh thái mã nguồn mở và các công cụ dành cho nhà phát triển cần thiết để biến các hệ thống này trở nên thực tế ở quy mô lớn.

Như Chủ tịch kiêm CEO của AMD, Lisa Su, đã phát biểu: “Chưa bao giờ có thời điểm thú vị hơn để làm việc trong lĩnh vực công nghệ như ngày hôm nay.”

Đối với các đội ngũ đang xây dựng sản phẩm AI thực tế, sự thay đổi đó rất quan trọng. Nó cho thấy rằng thành công trong giai đoạn tiếp theo của thị trường có thể phụ thuộc ít hơn vào việc truy cập vào một model biên (frontier model) duy nhất và phụ thuộc nhiều hơn vào khả năng điều phối quy trình làm việc, kiểm soát chi phí inference, bảo vệ dữ liệu nhạy cảm và lựa chọn môi trường triển khai phù hợp cho công việc của các đội ngũ.

Link to this sectionThông điệp của AMD: AI cần một chiến lược tính toán toàn diện (full-stack)#

Một chủ đề chính xuyên suốt AMD Dev Day là nỗ lực của AMD trong việc định vị mình là nhà cung cấp giải pháp tính toán end-to-end cho kỷ nguyên AI. Công ty đã xây dựng cách tiếp cận của mình xung quanh việc hỗ trợ các workload AI trên các môi trường cloud, client và edge, đồng thời nhấn mạnh vào một hệ sinh thái phần mềm mở thay vì một stack độc quyền đóng.

Cách định hình đó rất quan trọng vì nó phản ánh sự phát triển của quá trình phát triển AI. Việc xây dựng các sản phẩm AI hiện đại không còn chỉ đơn thuần là training hay gọi một API model. Các đội ngũ ngày càng cần hỗ trợ thực nghiệm cục bộ, quy trình làm việc đa tác tử (multi-agent), tối ưu hóa inference, kiểm thử quy mô máy trạm (workstation-scale) và triển khai doanh nghiệp. Thông điệp sự kiện của AMD liên tục gắn kết câu chuyện phần cứng của họ với thực tế phần mềm và hệ thống rộng lớn hơn đó.

Tham vọng đó đã được Lisa Su tóm tắt rõ ràng trong sự kiện: “Chúng tôi muốn mang AI đến mọi nơi trong hệ sinh thái.”

Hình 1. Lisa Su trên sân khấu tại sự kiện AMD Dev Day ở Thượng Hải.

Link to this sectionAgentic AI là chủ đề chủ đạo của sự kiện#

Nếu có một ý tưởng được lặp đi lặp lại trong suốt cả ngày, đó chính là sự chuyển đổi từ các tương tác LLM truyền thống sang các hệ thống agentic AI. Các diễn giả đã mô tả sự chuyển đổi này là việc dịch chuyển từ các câu lệnh (prompt) và phản hồi một lần (one-shot) sang điều phối đa tác tử, nơi các tác tử khác nhau lập kế hoạch, thực thi, phê bình và cộng tác trong các quy trình làm việc.

Điều đó quan trọng bởi vì các hệ thống agentic đặt ra những yêu cầu mới đối với stack AI. Theo cách định hình của sự kiện, các hệ thống này không chỉ cần hiệu năng GPU mà còn cần khả năng xử lý CPU đáng kể, điều phối luồng dữ liệu và dung lượng bộ nhớ để hỗ trợ các vòng lặp inference lặp đi lặp lại và việc thực thi nhiều bước.

Đối với các nhà phát triển và đội ngũ AI, bài học rút ra là lợi thế cạnh tranh có thể đến từ việc xây dựng các hệ thống AI hiệu quả, chứ không chỉ đơn thuần là chọn model có năng lực cao nhất. Khả năng kết nối các model với quy trình làm việc, công cụ, dữ liệu cục bộ và các quy trình kinh doanh đang trở thành một phần cốt lõi của chính sản phẩm đó.

Link to this sectionTriển khai AI cục bộ đang trở nên chiến lược hơn#

Một chủ đề đáng chú ý khác tại AMD Dev Day là việc nhấn mạnh vào triển khai AI cục bộ. AMD và các đối tác liên tục lập luận rằng các workload AI tiên tiến ngày càng cần chạy gần nơi công việc diễn ra, bao gồm cả trên máy tính xách tay, máy trạm và phần cứng doanh nghiệp.

Các lý do được nhất quán trong suốt sự kiện:

• Độ trễ thấp hơn
• Bảo mật dữ liệu tốt hơn
• Kiểm soát chặt chẽ hơn đối với các quy trình làm việc nhạy cảm
• Giảm sự phụ thuộc vào chi phí cloud API

AMD đã sử dụng Ryzen AI Max 395 làm điểm chứng minh chính cho lập luận đó, làm nổi bật các cấu hình với bộ nhớ thống nhất lên đến 128GB và khả năng chạy các model lớn cục bộ trong một pool bộ nhớ duy nhất mà không cần phân mảnh (sharding). Sự kiện cũng giới thiệu các thiết lập phát triển quy mô máy trạm sử dụng Radeon AI Pro R9700 và AMD Threadripper Pro 9000 để kiểm thử và mở rộng cục bộ trước khi triển khai.

Thông điệp tổng thể không phải là về việc cloud sẽ biến mất. Thay vào đó, sự kiện trình bày một mô hình hybrid nơi môi trường cục bộ và cloud làm việc cùng nhau. Các tác vụ thường quy hơn, nhạy cảm về độ trễ hoặc quyền riêng tư có thể chạy cục bộ, trong khi các tác vụ đòi hỏi khắt khe hơn vẫn có thể được đẩy lên cloud khi cần.

Link to this sectionChi phí inference AI và nhu cầu token đang định hình các lựa chọn cơ sở hạ tầng#

AMD Dev Day cũng làm nổi bật áp lực kinh tế đằng sau các quyết định kiến trúc này. Các diễn giả tại sự kiện nhấn mạnh sự tăng trưởng nhanh chóng về nhu cầu token, chi phí inference ngày càng tăng và áp lực mà điều này tạo ra cho các nhà phát triển và doanh nghiệp đang xây dựng sản phẩm AI.

Trong khuôn khổ đó, AI cục bộ được trình bày như một chiến lược kiểm soát chi phí cũng giống như một chiến lược kỹ thuật. Thông điệp lặp đi lặp lại của sự kiện là giai đoạn tiếp theo của AI sẽ khen thưởng các đội ngũ sử dụng tài nguyên tính toán hiệu quả hơn, chứ không chỉ đơn thuần là những đội ngũ tiêu thụ nhiều nhất.

Đối với những người xây dựng AI, đó là một tín hiệu thực tế. Các quyết định về cơ sở hạ tầng ngày càng trở thành các quyết định về sản phẩm. Độ trễ, quyền riêng tư, bộ nhớ và chi phí token không còn là những chi tiết kỹ thuật thứ yếu nữa.

Hình 2. Bộ công cụ đánh giá AMD Versal AI Edge Series Gen2 VEK385.

Link to this sectionAMD ROCm và hệ sinh thái AI mã nguồn mở#

Một bài học lớn khác từ AMD Dev Day là vai trò trung tâm của các hệ sinh thái phần mềm mở. AMD nhấn mạnh ROCm, hỗ trợ thay đổi không cần code (zero-code-change) cho các framework chính, hỗ trợ hơn 3 triệu model thông qua Hugging Face và ModelScope, cùng các mục tiêu hỗ trợ ngày đầu (day-zero) cho các bản phát hành model mới.

Nick Ni, Giám đốc cấp cao về Quản lý sản phẩm AI tại AMD, đã nắm bắt tốt sự nhấn mạnh đó: “Đối với hầu hết các bạn trong căn phòng này, thực tế, phần mềm mới là câu chuyện chính.”

Sự kiện cũng làm nổi bật một số sáng kiến tập trung vào nhà phát triển:

• AMD AI Developer Cloud với quyền truy cập GPU miễn phí cho các nhà phát triển tại Trung Quốc
• Tích hợp ModelScope Studio với các tùy chọn runtime GPU của AMD
• AMD AI Playbooks với các hướng dẫn từng bước
• Một chương trình dành cho nhà phát triển đã thu hút thêm hơn 100.000 nhà phát triển trong những tháng gần đây

Phần này của sự kiện đặc biệt quan trọng vì nó nhấn mạnh một sự thật cơ bản: Chỉ riêng năng lực phần cứng không thúc đẩy việc áp dụng. Các nhà phát triển cần bộ công cụ hoàn thiện, các framework quen thuộc, tài liệu và các cách thức thử nghiệm không ma sát. Câu chuyện về hệ sinh thái là thứ biến các tuyên bố về hiệu năng thành các nền tảng có thể sử dụng được.

Link to this sectionTại sao Trung Quốc nổi bật tại AMD Dev Day#

Vai trò của Trung Quốc trong thị trường AI lại là một chủ đề định kỳ khác. Nhiều diễn giả đã mô tả Trung Quốc là một môi trường hàng đầu cho đổi mới AI mã nguồn mở, đặc biệt là trong các lĩnh vực được định hình bởi hiệu quả, triển khai cục bộ và các ràng buộc kỹ thuật thực tế.

Quan hệ đối tác với Zero One AI và Stepfun được sử dụng để củng cố quan điểm đó. Ghi chú sự kiện mô tả một hệ thống doanh nghiệp đa tác tử tất cả trong một (all-in-one) kết hợp với Zero One AI được xây dựng trên kiến trúc Ryzen AI Max để triển khai cục bộ, và một model Stepfun được tối ưu hóa cho phần cứng AMD và được thiết kế cho các tác vụ agentic.

Ý nghĩa lớn hơn là Trung Quốc không chỉ là một thị trường AI lớn mà còn là một nơi thử nghiệm quan trọng cho triển khai AI cục bộ, các model mã nguồn mở và thiết kế cơ sở hạ tầng nhạy cảm về chi phí.

Link to this sectionUltralytics đã rút ra điều gì từ AMD Dev Day Thượng Hải#

Từ góc độ của đội ngũ Ultralytics, tín hiệu hữu ích nhất từ AMD Dev Day là sự tập trung vào các hệ thống AI có khả năng triển khai thay vì năng lực AI một cách trừu tượng. Sự kiện liên tục xoay quanh việc các nhà phát triển và doanh nghiệp có thể thực sự chạy, tích hợp, bảo mật và mở rộng quy mô AI trong môi trường sản xuất như thế nào.

Điều đó bao gồm các câu hỏi như:

• Cái gì nên chạy cục bộ so với trên cloud?
• Các đội ngũ nên nghĩ về độ trễ và quyền riêng tư như thế nào?
• Các nhà phát triển có thể giảm sự phụ thuộc vào các API inference đắt đỏ như thế nào?
• Những công cụ và lớp phần mềm nào giúp các nền tảng AI dễ dàng áp dụng hơn?

Đây là những câu hỏi thực tế, và chúng ngày càng xác định cách thức các sản phẩm AI thành công được xây dựng. Đó cũng là những câu hỏi chúng tôi nghĩ đến trực tiếp trong cách chúng tôi xây dựng và phát hành các model Ultralytics YOLO. Sự linh hoạt trong triển khai, dù model chạy trên máy tính xách tay, máy trạm hay instance cloud, luôn là một ràng buộc thiết kế cốt lõi đối với chúng tôi, không phải là một suy nghĩ phụ.

Nỗ lực hướng tới các hệ sinh thái mã nguồn mở và hiệu quả inference tại AMD Dev Day đã củng cố điều mà chúng tôi tin tưởng: những công cụ AI hữu ích nhất là những công cụ phù hợp với quy trình làm việc thực tế, trên phần cứng thực tế, mà không yêu cầu các đội ngũ phải xây dựng lại cơ sở hạ tầng xung quanh một nhà cung cấp hay nền tảng duy nhất.

Hình 3. Đội ngũ Ultralytics tại AMD Dev Day ở Thượng Hải.

Link to this sectionSuy nghĩ cuối cùng#

AMD Dev Day Thượng Hải đã làm rõ một điều: Cuộc trò chuyện về cơ sở hạ tầng AI đang trưởng thành. Trọng tâm đang chuyển từ quy mô model thô thuần túy sang các hệ thống rộng lớn hơn cần thiết để làm cho AI trở nên hữu ích trong thế giới thực. Các quy trình làm việc agentic, triển khai AI cục bộ, công cụ mã nguồn mở và hiệu quả cơ sở hạ tầng là những chủ đề rõ ràng nhất trong suốt sự kiện.

Đối với các đội ngũ đang xây dựng sản phẩm AI, sự thay đổi đó rất đáng chú ý. Làn sóng tiến bộ tiếp theo có thể đến từ việc chọn kiến trúc đúng, mô hình triển khai đúng và hệ sinh thái nhà phát triển đúng, chứ không chỉ đơn thuần là model lớn nhất.

Nếu bạn đang xây dựng các hệ thống thị giác máy tính và suy nghĩ về nơi inference nên chạy, trên thiết bị (on-device), tại chỗ (on-premise) hoặc trên cloud, các model Ultralytics YOLO được thiết kế với sự linh hoạt đó trong tâm trí. Hãy khám phá GitHub repository của chúng tôi để bắt đầu, xem cách thị giác máy tính phù hợp với các triển khai thực tế trong sản xuất và logistics, hoặc kiểm tra các tùy chọn cấp phép của chúng tôi để bắt đầu xây dựng.