Gặp gỡ YOLO26: AI tầm nhìn thế hệ tiếp theo.
Ultralytics
Thị giác AI

Hiểu về tác động của sức mạnh tính toán đối với các đổi mới AI

Khi công nghệ AI phát triển, nhu cầu về sức mạnh tính toán AI mới và cải tiến ngày càng tăng. Khám phá cách sức mạnh tính toán đang giúp thúc đẩy phong trào AI tiến lên phía trước.

NUNuvola Ladi
6 min read
Sức mạnh tính toán và đổi mới AI

Trí tuệ nhân tạo (AI) và sức mạnh tính toán có mối quan hệ rất mật thiết. Sức mạnh tính toán là yếu tố thiết yếu đối với các ứng dụng AI vì nó giúp các hệ thống máy tính xử lý và thực thi các tác vụ. Các ứng dụng này đòi hỏi nguồn tài nguyên tính toán đáng kể để quản lý các thuật toán phức tạp và các tập dữ liệu lớn, đó là lý do tại sao GPU xuất hiện. GPU, hay Bộ xử lý đồ họa (Graphics Processing Units), ban đầu được thiết kế để tăng tốc quá trình xử lý hình ảnh và video nhưng đã trở nên thiết yếu cho việc quản lý các tác vụ xử lý dữ liệu chuyên sâu và deep learning mà AI yêu cầu.

Trong vài năm qua, chúng ta đã chứng kiến sự phát triển vượt bậc của các tiến bộ trong AI. Đương nhiên, những tiến bộ về phần cứng AI cần phải đáp ứng được sự tăng trưởng này và bắt kịp với xu hướng đó. Một nghiên cứu tiết lộ rằng hiệu năng GPU đã tăng khoảng 7.000 lần kể từ năm 2003.

Phần cứng mạnh mẽ, nhanh hơn và hiệu quả hơn cho phép các nhà nghiên cứu và kỹ sư phát triển các mô hình AI ngày càng phức tạp. Hãy cùng tìm hiểu cách cơ sở hạ tầng tính toán cho AI đang phát triển như thế nào để đáp ứng các nhu cầu ngày càng tăng của trí tuệ nhân tạo.

Link to this sectionPhần cứng AI: Một chủ đề thảo luận đang phát triển#

Vai trò của GPU trong phát triển AI là không thể phủ nhận. Những bộ xử lý mạnh mẽ này tăng tốc các phép tính phức tạp cần thiết cho việc huấn luyện và triển khai các mô hình AI. Về cơ bản, chúng đóng vai trò là xương sống của công nghệ AI hiện đại. Tuy nhiên, không chỉ GPU mới thu hút sự chú ý.

Chúng ta đang bắt đầu thấy các loại chip được tạo ra chỉ dành cho AI đang cạnh tranh với chúng. Những con chip này được xây dựng từ đầu để giúp AI thực hiện công việc của mình tốt hơn và nhanh hơn nữa. Rất nhiều nghiên cứu và công việc đang được thực hiện để cải thiện tương lai của điện toán AI. Nhiều công ty đang đầu tư vào sức mạnh tính toán AI, đó là một trong những lý do thị trường phần cứng AI toàn cầu được định giá ở mức 53,71 tỷ USD vào năm 2023 và dự kiến sẽ tăng lên khoảng 473,53 tỷ USD vào năm 2033.

Tại sao những tiến bộ về phần cứng AI gần đây lại trở thành một chủ đề thảo luận? Sự chuyển dịch sang phần cứng AI chuyên dụng phản ánh nhu cầu ngày càng tăng của các ứng dụng AI trên nhiều lĩnh vực khác nhau. Để tạo ra các giải pháp AI thành công, điều quan trọng là phải đón đầu xu thế bằng cách nhận thức được những thay đổi đang diễn ra đối với phần cứng.

Link to this sectionNhững tên tuổi chủ chốt trong lĩnh vực phần cứng AI#

Các nhà sản xuất phần cứng hàng đầu đang chạy đua để phát triển phần cứng thế hệ tiếp theo, cải thiện hiệu năng và hiệu quả thông qua phát triển nội bộ, quan hệ đối tác chiến lược và mua lại.

Những đơn vị dẫn đầu về phần cứng AI

Hình 1. Các nhà dẫn đầu trong phần cứng AI.

Apple đã chuyển từ việc sử dụng GPU bên ngoài sang phát triển chip M-series riêng với các neural engine để tăng tốc AI, củng cố hệ sinh thái được kiểm soát chặt chẽ của mình. Trong khi đó, Google tiếp tục đầu tư mạnh vào cơ sở hạ tầng Tensor Processing Unit (TPU). TPU là các chip AI được xây dựng để hoạt động nhanh hơn và sử dụng ít năng lượng hơn GPU, điều này khiến chúng trở nên tuyệt vời cho việc huấn luyện và triển khai các giải pháp AI trên quy mô lớn hơn.

Tương tự, AMD đã gia nhập lĩnh vực phần cứng AI với dòng bộ tăng tốc Radeon Instinct của họ, nhắm đến các trung tâm dữ liệu và những ứng dụng điện toán hiệu năng cao. Ngoài ra, NVIDIA tiếp tục tập trung vào việc phát triển các GPU được tối ưu hóa cho khối lượng công việc AI, chẳng hạn như các GPU Tensor Core A100 và H100. Việc họ mua lại Arm Holdings gần đây nhằm mục đích tăng cường khả năng kiểm soát đối với các kiến trúc chip cung cấp năng lượng cho nhiều thiết bị di động.

Ngoài những tên tuổi đã có tên tuổi này, nhiều công ty khởi nghiệp và các tổ chức nghiên cứu đang mạo hiểm tham gia vào các kiến trúc chip AI mới lạ. Ví dụ, Graphcore chuyên về tính toán thưa (sparse computations) với Intelligence Processing Unit (IPU) của họ. Cerebras Systems cung cấp Wafer Scale Engine, một con chip khổng lồ được thiết kế riêng cho các khối lượng công việc AI ở quy mô cực lớn.

Link to this sectionNhững tiến bộ mới nhất về phần cứng AI#

Hãy cùng xem qua những phần cứng AI mới nhất đã ra mắt.

Vào ngày 9 tháng 4 năm 2024, Intel đã công bố chip AI mới nhất của họ, Gaudi 3, tự hào với hiệu năng vượt trội so với GPU H100 của NVIDIA:

  • Hiệu quả năng lượng cao gấp đôi và xử lý mô hình AI nhanh hơn 1,5 lần.
  • Có sẵn trong các cấu hình linh hoạt như được tích hợp trên bo mạch chủ hoặc dưới dạng card độc lập.
  • Đã được thử nghiệm thành công trên các mô hình AI đa dạng như Llama của Meta và Falcon của Abu Dhabi, chứng minh hiệu quả cho việc huấn luyện và triển khai các mô hình AI khác nhau, bao gồm Stable Diffusion và Whisper của OpenAI dành cho nhận dạng giọng nói.

Chip AI Gaudi 3 của Intel

Hình 2. Gaudi 3 của Intel.

Trước Gaudi 3, vào ngày 18 tháng 3 năm 2024, NVIDIA đã giới thiệu nền tảng AI mới nhất của mình, Blackwell. Nền tảng này được thiết kế để thúc đẩy các đột phá trong nhiều lĩnh vực và có các tính năng sau:

  • NVIDIA khẳng định rằng Blackwell là "con chip mạnh nhất thế giới."
  • Nó sở hữu một GPU dual-die với 208 tỷ bóng bán dẫn và kết nối chip-to-chip 10 TB/s, thiết lập các tiêu chuẩn mới về sức mạnh và hiệu quả trong AI tạo sinh ở quy mô trung tâm dữ liệu.
  • Các nhà cung cấp dịch vụ đám mây hàng đầu như Google Cloud, Amazon Web Services và Microsoft Azure đã công bố kế hoạch sử dụng Blackwell để thúc đẩy những tiến bộ trong AI tạo sinh, deep learning và các dịch vụ điện toán đám mây.

Nền tảng Blackwell của NVIDIA

Hình 3. Blackwell của NVIDIA.

Link to this sectionSự trỗi dậy của các chip AI tùy chỉnh#

Trong khi đó, một số gã khổng lồ công nghệ đang phát triển các chip AI tùy chỉnh của riêng họ để cung cấp sức mạnh cho các dịch vụ của mình.

Vào ngày 10 tháng 4 năm 2024, Meta đã công bố phiên bản mới nhất của Meta Training and Inference Accelerator (MTIA). Con chip thế hệ thứ hai này, hiện đã hoạt động tại các trung tâm dữ liệu của Meta, đang hoạt động tốt hơn về mặt băng thông tính toán và bộ nhớ. Những nâng cấp này hỗ trợ hiệu năng cho các ứng dụng AI của Meta, chẳng hạn như các công cụ xếp hạng và đề xuất, trên các nền tảng như Facebook và Instagram.

Chip MTIA mới nhất của Meta

Hình 4. Phiên bản mới nhất của MTIA từ Meta.

Tương tự, các tên tuổi lớn khác như Google, Amazon và Microsoft cũng đã giới thiệu các chip silicon tùy chỉnh của họ trong năm nay. Đây là một bước đi chiến lược để tối ưu hóa cấu trúc chi phí và giảm bớt sự phụ thuộc vào các nhà cung cấp bên thứ ba như NVIDIA.

Link to this sectionPhần cứng AI đang được sử dụng ở đâu?#

Phần cứng AI hỗ trợ nhiều giải pháp AI khác nhau trên nhiều ngành công nghiệp. Trong chăm sóc sức khỏe, nó cung cấp năng lượng cho các hệ thống chẩn đoán hình ảnh y tế như MRI và chụp CT, xử lý các tác vụ phức tạp và xử lý khối lượng dữ liệu lớn một cách hiệu quả để chẩn đoán nhanh chóng và chính xác.

Các tổ chức tài chính sử dụng các thuật toán AI để phân tích dữ liệu cho phát hiện gian lận và tối ưu hóa đầu tư. Bản chất phức tạp của việc phân tích dữ liệu tài chính đòi hỏi các khả năng phần cứng tiên tiến để xử lý khối lượng công việc tính toán khổng lồ một cách hiệu quả.

Trong ngành công nghiệp ô tô, nó giúp xử lý dữ liệu cảm biến thời gian thực trong xe tự lái. Các tác vụ như phát hiện vật thể và tránh va chạm cần được hỗ trợ bởi phần cứng tiên tiến với khả năng xử lý mạnh mẽ để ra quyết định nhanh chóng và đảm bảo an toàn cho hành khách.

Bộ não của một phương tiện tự hành

Hình 5. Bộ não của một chiếc xe tự lái.

Các nhà bán lẻ sử dụng các công cụ đề xuất dựa trên AI để cá nhân hóa trải nghiệm mua sắm và thúc đẩy doanh số bằng cách phân tích dữ liệu khách hàng khổng lồ trên các phòng ban để dự đoán sở thích và gợi ý các sản phẩm phù hợp. Nhu cầu phân tích các tập dữ liệu đa dạng và tạo ra các đề xuất cá nhân hóa đòi hỏi phần cứng tiên tiến để có các phản hồi thời gian thực và tăng cường sự tương tác của người dùng.

Một ví dụ khác liên quan đến các cửa hàng bán lẻ là sử dụng thị giác máy tính để theo dõi và phân tích hành vi của khách hàng. Các nhà bán lẻ có thể hiểu cách khách hàng tương tác với môi trường của họ, xác định các sản phẩm phổ biến và phát hiện các mẫu lưu lượng khách hàng. Dựa trên những phát hiện này, họ có thể tối ưu hóa bố trí cửa hàng và vị trí đặt sản phẩm để cải thiện doanh số. Sức mạnh tính toán rất quan trọng cho việc xử lý thời gian thực các khối lượng dữ liệu video lớn. Việc theo dõi chính xác các chuyển động và tương tác phụ thuộc vào phần cứng mạnh mẽ. Nếu không có nó, tốc độ và độ chính xác của quá trình xử lý dữ liệu sẽ bị ảnh hưởng, làm giảm hiệu quả của việc phân tích hành vi khách hàng.

Đó mới chỉ là phần nổi của tảng băng chìm. Từ sản xuất đến nông nghiệp, phần cứng AI có thể được nhìn thấy ở khắp mọi nơi.

Link to this sectionMở rộng quy mô AI bằng sức mạnh tính toán#

Phần cứng AI thường được xây dựng để xử lý các tác vụ lớn. Có thể khó nắm bắt được quy mô triển khai AI trong các ngành công nghiệp trên toàn thế giới, nhưng rõ ràng là AI có thể mở rộng quy mô phụ thuộc vào việc có sẵn phần cứng phù hợp.

Lấy ví dụ về sự hợp tác giữa BMW và NVIDIA. Với việc BMW sản xuất 2,5 triệu chiếc xe mỗi năm, quy mô hoạt động của họ là rất lớn. BMW đang sử dụng AI để tối ưu hóa các khía cạnh khác nhau trong quy trình sản xuất của mình, từ kiểm soát chất lượng và bảo trì dự đoán đến logistics và quản lý chuỗi cung ứng.

Để đáp ứng những nhu cầu như vậy, BMW dựa vào các giải pháp phần cứng AI tiên tiến như Quadro RTX 8000 của NVIDIA và các máy chủ chạy RTX. Những công nghệ này giúp việc triển khai AI trở nên dễ dàng và có khả năng mở rộng hơn.

Link to this sectionSức mạnh tính toán ảnh hưởng đến các phần khác nhau trong giải pháp AI của bạn#

Ngoài việc cung cấp cho các ứng dụng AI sức mạnh tính toán, phần cứng AI bạn chọn còn ảnh hưởng đến giải pháp của bạn về hiệu năng mô hình, nhu cầu chuyển đổi mô hình, tính linh hoạt khi triển khai và độ chính xác tổng thể. Khi các mô hình AI đã được huấn luyện và thử nghiệm, chúng thường được chuyển đổi sang một định dạng có thể chạy trên các nền tảng triển khai đã chọn.

Tuy nhiên, việc chuyển đổi mô hình có thể dẫn đến mất độ chính xác và cần được xem xét trước. Các công cụ tích hợp như ONNX (Open Neural Network Exchange) có thể cung cấp một định dạng tiêu chuẩn hóa để triển khai các mô hình AI trên nhiều nền tảng phần cứng đa dạng. Đây cũng là lý do đằng sau việc các mô hình phổ biến như YOLOv8 cho phép người dùng tùy chọn xuất các mô hình đã huấn luyện tùy chỉnh của họ ở nhiều định dạng khác nhau để đáp ứng nhiều tùy chọn triển khai.

Link to this sectionHiệu quả năng lượng là không thể thiếu đối với tương lai của điện toán AI#

Tác động của sức mạnh tính toán AI tiên tiến không giới hạn ở AI; nó cũng đang chạm đến lĩnh vực năng lượng.

Hướng tới phần cứng AI bền vững

Hình 6. Hướng tới phần cứng AI bền vững.

Ví dụ, LLaMA-3 của Meta, một mô hình ngôn ngữ lớn (LLM) tiên tiến, đã được huấn luyện bằng hai cụm trung tâm dữ liệu được xây dựng tùy chỉnh, mỗi cụm được trang bị 24.576 GPU NVIDIA H100. Thông qua thiết lập phần cứng mạnh mẽ này, Meta đã có thể tăng tốc độ xử lý và đạt được mức giảm tiêu thụ năng lượng đáng kể là 40%. Vì vậy, những tiến bộ trong phần cứng AI cũng đang góp phần vào các hoạt động sử dụng năng lượng hiệu quả hơn.

Hơn nữa, mối liên hệ giữa AI và năng lượng đang nhận được nhiều sự chú ý hơn với những người như Sam Altman tham gia. Altman, được biết đến là CEO của OpenAI, gần đây đã đưa công ty năng lượng hạt nhân Oklo ra công chúng. Oklo, với công nghệ phân hạch hạt nhân sáng tạo của mình, nhắm đến việc thay đổi quá trình sản xuất năng lượng, có khả năng cung cấp điện cho các trung tâm dữ liệu thiết yếu cho các hoạt động AI. Trong vài năm qua, cả Bill Gates, đồng sáng lập Microsoft, và Jeff Bezos, người sáng lập Amazon, cũng đã đầu tư vào các nhà máy hạt nhân.

Link to this sectionVượt ra ngoài bảng mạch#

Nhìn về tương lai, tương lai của phần cứng AI được thiết lập để tạo ra những bước nhảy vọt, đặc biệt là với sự trỗi dậy của điện toán lượng tử. Các chuyên gia dự đoán rằng đến năm 2030, thị trường điện toán lượng tử có thể trị giá gần 65 tỷ USD. Khi các mô hình AI ngày càng phức tạp, phần cứng chuyên dụng trở nên quan trọng để khai thác toàn bộ tiềm năng của chúng. Từ các chip dành riêng cho AI đến việc khám phá điện toán lượng tử, đổi mới phần cứng thúc đẩy sự phát triển của các giải pháp AI phức tạp và có tác động mạnh mẽ hơn.

Hãy thoải mái xem kho lưu trữ GitHub của chúng tôi và tham gia cùng cộng đồng của chúng tôi để tìm hiểu thêm về AI. Khám phá các bài đăng trên blog mới nhất của chúng tôi để xem AI được ứng dụng như thế nào trong các lĩnh vực khác nhau, chẳng hạn như đua xe Công thức 1robot học.

Explore solutions

Real-time AI that works with your team

AI trong ngành Robot

Tăng cường sức mạnh cho các cỗ máy thông minh hơn với các model Ultralytics YOLO. AI thị giác trong lĩnh vực robot thúc đẩy khả năng điều hướng tự hành, nhận thức, theo dõi đối tượng và điều khiển thời gian thực.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong Logistics

Tối ưu hóa logistics với các model Ultralytics YOLO. Vision AI hỗ trợ kiểm tra hàng hóa, phân loại, theo dõi phương tiện và giám sát an toàn kho bãi trong thời gian thực.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong ngành Bán lẻ

Tái định hình bán lẻ với các model Ultralytics YOLO. Vision AI thúc đẩy theo dõi hàng tồn kho, giám sát kệ hàng, quản lý hàng đợi và thông tin chi tiết thông minh hơn về khách hàng.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong chăm sóc sức khỏe

Xây dựng các giải pháp y tế với các model Ultralytics YOLO. AI thị giác trong y tế hỗ trợ chẩn đoán hình ảnh y khoa nhanh hơn, chẩn đoán thông minh hơn và theo dõi bệnh nhân.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong sản xuất

Tối ưu hóa sản xuất với các model Ultralytics YOLO. Vision AI thúc đẩy kiểm soát chất lượng, phát hiện lỗi, tuân thủ PPE và tự động hóa dây chuyền lắp ráp.
Tìm hiểu thêm
Real-time AI that works with your operation

AI trong Ô tô

Áp dụng thị giác máy tính trong ô tô với các model Ultralytics YOLO. AI thị giác nâng cao an toàn đường bộ, hỗ trợ người lái và tự động hóa phương tiện cho những con đường thông minh hơn.
Tìm hiểu thêm
Real-time AI tailored to your operation

AI trong Nông nghiệp

Mang AI thị giác vào nông nghiệp thông minh với các model Ultralytics YOLO. Tăng cường giám sát mùa màng, theo dõi vật nuôi và canh tác chính xác để đạt năng suất cao hơn, thông minh hơn.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong ngành Robot

Tăng cường sức mạnh cho các cỗ máy thông minh hơn với các model Ultralytics YOLO. AI thị giác trong lĩnh vực robot thúc đẩy khả năng điều hướng tự hành, nhận thức, theo dõi đối tượng và điều khiển thời gian thực.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong Logistics

Tối ưu hóa logistics với các model Ultralytics YOLO. Vision AI hỗ trợ kiểm tra hàng hóa, phân loại, theo dõi phương tiện và giám sát an toàn kho bãi trong thời gian thực.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong ngành Bán lẻ

Tái định hình bán lẻ với các model Ultralytics YOLO. Vision AI thúc đẩy theo dõi hàng tồn kho, giám sát kệ hàng, quản lý hàng đợi và thông tin chi tiết thông minh hơn về khách hàng.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong chăm sóc sức khỏe

Xây dựng các giải pháp y tế với các model Ultralytics YOLO. AI thị giác trong y tế hỗ trợ chẩn đoán hình ảnh y khoa nhanh hơn, chẩn đoán thông minh hơn và theo dõi bệnh nhân.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong sản xuất

Tối ưu hóa sản xuất với các model Ultralytics YOLO. Vision AI thúc đẩy kiểm soát chất lượng, phát hiện lỗi, tuân thủ PPE và tự động hóa dây chuyền lắp ráp.
Tìm hiểu thêm
Real-time AI that works with your operation

AI trong Ô tô

Áp dụng thị giác máy tính trong ô tô với các model Ultralytics YOLO. AI thị giác nâng cao an toàn đường bộ, hỗ trợ người lái và tự động hóa phương tiện cho những con đường thông minh hơn.
Tìm hiểu thêm
Real-time AI tailored to your operation

AI trong Nông nghiệp

Mang AI thị giác vào nông nghiệp thông minh với các model Ultralytics YOLO. Tăng cường giám sát mùa màng, theo dõi vật nuôi và canh tác chính xác để đạt năng suất cao hơn, thông minh hơn.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong ngành Robot

Tăng cường sức mạnh cho các cỗ máy thông minh hơn với các model Ultralytics YOLO. AI thị giác trong lĩnh vực robot thúc đẩy khả năng điều hướng tự hành, nhận thức, theo dõi đối tượng và điều khiển thời gian thực.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong Logistics

Tối ưu hóa logistics với các model Ultralytics YOLO. Vision AI hỗ trợ kiểm tra hàng hóa, phân loại, theo dõi phương tiện và giám sát an toàn kho bãi trong thời gian thực.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong ngành Bán lẻ

Tái định hình bán lẻ với các model Ultralytics YOLO. Vision AI thúc đẩy theo dõi hàng tồn kho, giám sát kệ hàng, quản lý hàng đợi và thông tin chi tiết thông minh hơn về khách hàng.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong chăm sóc sức khỏe

Xây dựng các giải pháp y tế với các model Ultralytics YOLO. AI thị giác trong y tế hỗ trợ chẩn đoán hình ảnh y khoa nhanh hơn, chẩn đoán thông minh hơn và theo dõi bệnh nhân.
Tìm hiểu thêm
Real-time AI that works with your team

AI trong sản xuất

Tối ưu hóa sản xuất với các model Ultralytics YOLO. Vision AI thúc đẩy kiểm soát chất lượng, phát hiện lỗi, tuân thủ PPE và tự động hóa dây chuyền lắp ráp.
Tìm hiểu thêm
Real-time AI that works with your operation

AI trong Ô tô

Áp dụng thị giác máy tính trong ô tô với các model Ultralytics YOLO. AI thị giác nâng cao an toàn đường bộ, hỗ trợ người lái và tự động hóa phương tiện cho những con đường thông minh hơn.
Tìm hiểu thêm
Real-time AI tailored to your operation

AI trong Nông nghiệp

Mang AI thị giác vào nông nghiệp thông minh với các model Ultralytics YOLO. Tăng cường giám sát mùa màng, theo dõi vật nuôi và canh tác chính xác để đạt năng suất cao hơn, thông minh hơn.
Tìm hiểu thêm

Hãy cùng nhau xây dựng tương lai của AI!

Bắt đầu hành trình của bạn với tương lai của machine learning