Ultralytics những điểm nổi bật từ sự kiện AMD Dev Day Shanghai về AI của AMD: triển khai AI tại chỗ, hệ thống tác nhân, ROCm và Ryzen AI Max 395.
Ultralytics sự kiện AMD Dev Day tại Thượng Hải để tìm hiểu cách AMD và các đối tác đang định hình giai đoạn tiếp theo của hạ tầng AI. Thông điệp nổi bật nhất từ sự kiện này rất rõ ràng: Cuộc thảo luận về AI của AMD đang vượt ra khỏi phạm vi các mô hình độc lập và hướng tới các hệ thống AI có thể triển khai thực tế. Thông qua các bài phát biểu, phần trình diễn sản phẩm và các cuộc thảo luận với đối tác, những chủ đề chính bao gồm AI có khả năng tự chủ, triển khai AI tại chỗ, hệ sinh thái mã nguồn mở, cùng các công cụ phát triển cần thiết để biến các hệ thống này thành hiện thực trên quy mô lớn.
Như Lisa Su, Chủ tịch kiêm Giám đốc điều hành của AMD, đã nhận định: “Chưa bao giờ có thời điểm nào thú vị hơn bây giờ để hoạt động trong lĩnh vực công nghệ.”
Đối với các đội ngũ đang phát triển các sản phẩm AI thực tế, sự chuyển đổi này có ý nghĩa quan trọng. Điều này cho thấy thành công ở giai đoạn tiếp theo của thị trường có thể phụ thuộc ít hơn vào việc tiếp cận một mô hình tiên tiến duy nhất, mà phụ thuộc nhiều hơn vào khả năng của các đội ngũ trong việc điều phối quy trình làm việc, kiểm soát chi phí suy luận, bảo vệ dữ liệu nhạy cảm và lựa chọn môi trường triển khai phù hợp cho từng nhiệm vụ.
Một chủ đề chính xuyên suốt sự kiện AMD Dev Day là nỗ lực của AMD nhằm định vị mình là nhà cung cấp giải pháp tính toán toàn diện từ đầu đến cuối cho kỷ nguyên trí tuệ nhân tạo (AI). Công ty đã xây dựng chiến lược của mình xoay quanh việc hỗ trợ các tác vụ AI trên các môi trường đám mây, thiết bị đầu cuối và biên, đồng thời nhấn mạnh vào một hệ sinh thái phần mềm mở thay vì một nền tảng độc quyền khép kín.
Cách tiếp cận này rất quan trọng vì nó phản ánh xu hướng phát triển của trí tuệ nhân tạo (AI). Việc xây dựng các sản phẩm AI hiện đại không còn chỉ đơn thuần là huấn luyện mô hình hay gọi API mô hình. Các đội ngũ ngày càng cần hỗ trợ các hoạt động thử nghiệm tại chỗ, quy trình làm việc đa tác nhân, tối ưu hóa suy luận, thử nghiệm trên quy mô máy trạm và triển khai trong doanh nghiệp. Thông điệp tại các sự kiện của AMD luôn gắn kết câu chuyện về phần cứng của mình với bối cảnh rộng lớn hơn về phần mềm và hệ thống.
Lisa Su đã tóm tắt rõ ràng tham vọng đó trong sự kiện: “Chúng tôi muốn đưa trí tuệ nhân tạo (AI) vào mọi ngóc ngách của hệ sinh thái.”
Nếu có một ý tưởng nào được nhắc đi nhắc lại suốt cả ngày, thì đó chính là sự chuyển đổi từ các tương tác truyền thống với mô hình ngôn ngữ lớn (LLM) sang các hệ thống AI có khả năng tự chủ. Các diễn giả mô tả sự chuyển đổi này như việc chuyển từ các lệnh và phản hồi đơn lẻ sang sự phối hợp giữa nhiều tác nhân, trong đó các tác nhân khác nhau lập kế hoạch, thực thi, đánh giá và hợp tác xuyên suốt các quy trình làm việc.
Điều này rất quan trọng bởi vì các hệ thống có khả năng chủ động đặt ra những yêu cầu mới đối với nền tảng AI. Theo cách trình bày tại sự kiện, các hệ thống này không chỉ cần GPU mà còn cần CPU đáng kể, khả năng điều phối luồng dữ liệu và dung lượng bộ nhớ để hỗ trợ các vòng lặp suy luận lặp đi lặp lại và quá trình thực thi nhiều bước.
Đối với các nhà phát triển và đội ngũ AI, bài học rút ra là lợi thế cạnh tranh có thể đến từ việc xây dựng các hệ thống AI hiệu quả, chứ không chỉ đơn thuần là lựa chọn mô hình mạnh mẽ nhất. Khả năng tích hợp các mô hình với quy trình làm việc, công cụ, dữ liệu nội bộ và quy trình kinh doanh đang trở thành một phần cốt lõi của chính sản phẩm.
Một chủ đề đáng chú ý khác tại sự kiện AMD Dev Day là sự nhấn mạnh vào việc triển khai AI tại chỗ. AMD và các đối tác của hãng đã nhiều lần khẳng định rằng các tác vụ AI tiên tiến ngày càng cần được xử lý gần hơn với nơi công việc diễn ra, bao gồm trên máy tính xách tay, máy trạm và phần cứng doanh nghiệp.
Các lý do này được nhắc lại xuyên suốt sự kiện:
AMD đã lấy Ryzen AI Max 395 làm minh chứng chính cho lập luận này, nhấn mạnh các cấu hình hỗ trợ tới 128GB bộ nhớ thống nhất cùng khả năng chạy các mô hình quy mô lớn ngay tại máy trong một vùng bộ nhớ duy nhất mà không cần chia nhỏ. Sự kiện này cũng giới thiệu các hệ thống phát triển quy mô trạm làm việc sử dụng Radeon AI Pro R9700 và AMD Threadripper Pro 9000 để thử nghiệm và mở rộng quy mô tại chỗ trước khi triển khai.
Thông điệp chung không phải là đám mây sẽ biến mất. Thay vào đó, sự kiện này đã giới thiệu một mô hình kết hợp, trong đó môi trường cục bộ và môi trường đám mây hoạt động song song với nhau. Các tác vụ thường xuyên, nhạy cảm với độ trễ hoặc nhạy cảm về quyền riêng tư có thể được thực thi tại chỗ, trong khi các tác vụ đòi hỏi cao hơn vẫn có thể được chuyển lên đám mây khi cần thiết.
Sự kiện AMD Dev Day cũng đã nêu bật những áp lực kinh tế đằng sau các quyết định về kiến trúc này. Các diễn giả tại sự kiện đã nhấn mạnh đến sự gia tăng nhanh chóng của nhu cầu về token, chi phí suy luận ngày càng tăng, cùng với áp lực mà điều này gây ra cho các nhà phát triển và doanh nghiệp đang xây dựng các sản phẩm AI.
Trong bối cảnh đó, AI tại chỗ được xem là một chiến lược kiểm soát chi phí không kém phần quan trọng so với khía cạnh kỹ thuật. Thông điệp được nhấn mạnh nhiều lần tại sự kiện là giai đoạn tiếp theo của AI sẽ mang lại lợi thế cho những đội ngũ sử dụng tài nguyên tính toán một cách hiệu quả hơn, chứ không chỉ đơn thuần là những đội ngũ tiêu thụ nhiều tài nguyên nhất.
Đối với các nhà phát triển AI, đó là một tín hiệu rõ ràng. Các quyết định về hạ tầng ngày càng trở thành các quyết định về sản phẩm. Độ trễ, quyền riêng tư, bộ nhớ và chi phí token không còn là những chi tiết kỹ thuật phụ nữa.
Một điểm nhấn quan trọng khác từ sự kiện AMD Dev Day là vai trò then chốt của các hệ sinh thái phần mềm mở. AMD đã nhấn mạnh đến ROCm, khả năng hỗ trợ các khung công nghệ chính mà không cần thay đổi mã nguồn, hỗ trợ hơn 3 triệu mô hình thông qua Hugging Face ModelScope, cũng như mục tiêu hỗ trợ ngay từ ngày đầu tiên đối với các phiên bản mô hình mới.
Nick Ni, Giám đốc cấp cao phụ trách Quản lý Sản phẩm Trí tuệ Nhân tạo tại AMD, đã diễn đạt rõ nét điểm nhấn đó: “Thực ra, đối với hầu hết các bạn có mặt ở đây, phần mềm mới chính là yếu tố then chốt.”
Sự kiện này cũng đã nêu bật một số sáng kiến tập trung vào các nhà phát triển:
Phần này của sự kiện đặc biệt quan trọng vì nó nhấn mạnh một sự thật cơ bản: Chỉ riêng khả năng phần cứng thôi thì chưa đủ để thúc đẩy việc áp dụng. Các nhà phát triển cần có bộ công cụ hoàn thiện, các khung công tác quen thuộc, tài liệu hướng dẫn và những phương thức thử nghiệm thuận tiện. Chính câu chuyện về hệ sinh thái mới là yếu tố biến những tuyên bố về hiệu năng thành các nền tảng thực sự hữu ích.
Vai trò của Trung Quốc trên thị trường trí tuệ nhân tạo (AI) tiếp tục là một chủ đề được nhắc đến nhiều lần. Nhiều diễn giả đã mô tả Trung Quốc là một môi trường hàng đầu cho sự đổi mới trong lĩnh vực AI mã nguồn mở, đặc biệt là trong các lĩnh vực chịu ảnh hưởng của hiệu quả, triển khai tại địa phương và những hạn chế kỹ thuật thực tiễn.
Các mối quan hệ hợp tác với Zero One AI và Stepfun đã được tận dụng để củng cố quan điểm này. Tài liệu sự kiện đã mô tả một hệ thống đa tác nhân tích hợp toàn diện được phát triển chung với Zero One AI, dựa trên kiến trúc Ryzen AI Max dành cho triển khai tại chỗ, cùng với một mô hình của Stepfun được tối ưu hóa cho phần cứng AMD và thiết kế dành cho các tác vụ điều khiển tác nhân.
Ý nghĩa sâu xa hơn là Trung Quốc không chỉ là một thị trường trí tuệ nhân tạo (AI) lớn mà còn là một môi trường thử nghiệm quan trọng cho việc triển khai AI tại địa phương, các mô hình mã nguồn mở và thiết kế hạ tầng chú trọng đến chi phí.
Theo quan điểm Ultralytics , thông điệp hữu ích nhất từ sự kiện AMD Dev Day chính là sự tập trung vào các hệ thống AI có thể triển khai thực tế, thay vì chỉ đề cập đến khả năng AI một cách trừu tượng. Sự kiện này liên tục xoay quanh cách các nhà phát triển và doanh nghiệp có thể thực sự vận hành, tích hợp, bảo mật và mở rộng quy mô AI trong các môi trường sản xuất.
Điều đó bao gồm những câu hỏi như:
Đây là những câu hỏi mang tính thực tiễn, và chúng ngày càng đóng vai trò quyết định trong việc xây dựng các sản phẩm AI thành công. Ngoài ra, còn có những vấn đề mà chúng tôi trực tiếp xem xét trong quá trình phát triển và triển khaiYOLO Ultralytics YOLO . Tính linh hoạt trong triển khai – bất kể mô hình chạy trên máy tính xách tay, máy trạm hay máy chủ đám mây – luôn là một yêu cầu thiết kế cốt lõi đối với chúng tôi, chứ không phải là điều được nghĩ đến sau cùng.
Sự chuyển hướng hướng tới các hệ sinh thái mã nguồn mở và hiệu quả suy luận tại sự kiện AMD Dev Day đã củng cố thêm niềm tin mà chúng tôi vốn đã có: những công cụ AI hữu ích nhất chính là những công cụ có thể tích hợp vào các quy trình làm việc thực tế, trên phần cứng thực tế, mà không bắt buộc các đội ngũ phải xây dựng lại cơ sở hạ tầng của mình xoay quanh một nhà cung cấp hay nền tảng duy nhất.
Sự kiện AMD Dev Day Shanghai đã làm rõ một điều: Cuộc thảo luận về hạ tầng AI đang ngày càng chín muồi. Trọng tâm đang chuyển dịch từ việc chỉ tập trung vào quy mô mô hình thuần túy sang các hệ thống tổng thể cần thiết để biến AI thành công cụ hữu ích trong thế giới thực. Các quy trình làm việc dựa trên tác nhân, triển khai AI tại chỗ, bộ công cụ mã nguồn mở và hiệu quả hạ tầng là những chủ đề nổi bật nhất xuyên suốt sự kiện.
Đối với các đội ngũ đang phát triển các sản phẩm trí tuệ nhân tạo, sự chuyển đổi này đáng được quan tâm. Làn sóng tiến bộ tiếp theo có thể đến từ việc lựa chọn kiến trúc phù hợp, mô hình triển khai phù hợp và hệ sinh thái nhà phát triển phù hợp, chứ không chỉ đơn thuần là mô hình lớn nhất.
Nếu bạn đang phát triển các hệ thống thị giác máy tính và đang cân nhắc nên thực hiện quá trình suy luận ở đâu – trên thiết bị, tại cơ sở hay trên đám mây – thìYOLO Ultralytics được thiết kế với sự linh hoạt đó. Hãy khám phá kho lưu trữ GitHub của chúng tôi để bắt đầu, tìm hiểu cách thị giác máy tính được ứng dụng trong các triển khai thực tế trong lĩnh vực sản xuất và logistics, hoặc tham khảo các tùy chọn cấp phép của chúng tôi để bắt tay vào phát triển.
Bắt đầu hành trình của bạn với tương lai của học máy
