Sử dụng Ultralytics YOLO11 để chạy suy luận theo batch

Nếu bạn từng thấy một chiếc xe tự lái hoạt động, bạn đã chứng kiến suy luận AI theo thời gian thực. Xe tự lái thường sử dụng camera, cảm biến và AI để xử lý môi trường xung quanh và đưa ra quyết định gần như tức thời. Tuy nhiên, khi không cần phản hồi nhanh, suy luận theo thời gian thực có thể tiêu tốn nhiều tài nguyên.

Trong những trường hợp này, suy luận theo lô là lựa chọn tốt hơn. Thay vì xử lý dữ liệu liên tục theo thời gian thực, suy luận theo lô có thể xử lý tập dữ liệu lớn theo các khoảng thời gian đã định. Cách tiếp cận này giúp tiết kiệm tài nguyên, giảm mức tiêu thụ điện năng và cắt giảm chi phí hạ tầng.

Ví dụ, trong các ứng dụng thị giác máy tính, những model như Ultralytics YOLO11 có thể được dùng cho các tác vụ theo thời gian thực như phát hiện đối tượng và phân đoạn instance. Tuy nhiên, xử lý khối lượng lớn dữ liệu hình ảnh theo thời gian thực có thể đòi hỏi nhiều tài nguyên.

Hình 1. Ví dụ về phân đoạn đối tượng trong ảnh bằng Ultralytics YOLO11.

Với suy luận theo batch, Ultralytics YOLO11 có thể chạy trên dữ liệu hình ảnh theo từng batch, giảm tải cho hệ thống và nâng cao hiệu quả mà không làm giảm hiệu suất. Nhờ đó, việc triển khai các giải pháp Vision AI trên quy mô lớn trở nên dễ dàng hơn mà không làm quá tải phần cứng hoặc tăng chi phí.

Trong bài viết này, chúng ta sẽ tìm hiểu suy luận theo lô, các lợi ích của phương pháp này và cách thực hiện suy luận theo lô bằng Ultralytics YOLO11 trong các ứng dụng thị giác máy tính.

Tìm hiểu về suy luận theo batch trong thị giác máy tính#

Bạn có thể hình dung suy luận theo batch là xử lý toàn bộ một tác vụ lớn cùng lúc, thay vì giải quyết từng phần khi dữ liệu đến. Thay vì liên tục xử lý dữ liệu theo thời gian thực, suy luận theo batch cho phép bạn xử lý các nhóm dữ liệu lớn theo những khoảng thời gian cố định. Cách tiếp cận này hiệu quả hơn nhiều khi không cần phản hồi tức thời, giúp tiết kiệm tài nguyên tính toán, giảm tiêu thụ năng lượng và cắt giảm chi phí.

Trong thị giác máy tính, có những ứng dụng đòi hỏi độ trễ thấp. Độ trễ thấp là khoảng thời gian tối thiểu từ lúc nhận đầu vào (chẳng hạn như ảnh hoặc khung hình video) đến khi hệ thống phản hồi. Ví dụ, trong giám sát an ninh theo thời gian thực, ngay cả độ trễ nhỏ cũng có thể gây rủi ro về an toàn.

Tuy nhiên, trong nhiều tình huống thị giác máy tính khác, độ trễ thấp không quá quan trọng. Đây là lúc suy luận theo lô phát huy hiệu quả — khi hệ thống không cần phản hồi tức thì. Suy luận theo lô hoạt động bằng cách đưa dữ liệu hình ảnh vào model thị giác máy tính theo từng nhóm hoặc lô, cho phép hệ thống xử lý các bộ dữ liệu lớn cùng lúc thay vì liên tục theo thời gian thực.

Tìm hiểu cách suy luận theo batch hoạt động#

Dưới đây là các bước trong quy trình suy luận theo batch:

• Thu thập dữ liệu: Dữ liệu hình ảnh được thu thập trong một khoảng thời gian. Tùy ứng dụng, dữ liệu có thể bao gồm cảnh quay an ninh, ảnh sản phẩm hoặc dữ liệu khách hàng.
• Chuẩn bị batch: Sau đó, dữ liệu đã thu thập được nhóm thành các batch. Ở bước này, dữ liệu được định dạng theo yêu cầu của model. Ví dụ, ảnh có thể được thay đổi kích thước, chuẩn hóa hoặc chuyển đổi sang định dạng phù hợp để model xử lý.
• Dự đoán: Sau khi dữ liệu được chuẩn bị, toàn bộ lô được đưa vào model (chẳng hạn như Ultralytics YOLO11), model sẽ xử lý toàn bộ lô cùng lúc. Nhờ đó, model có thể đồng thời đưa ra dự đoán cho tất cả dữ liệu trong lô, giúp quy trình hiệu quả hơn so với việc xử lý từng điểm dữ liệu riêng lẻ.

Khi nào nên dùng suy luận theo batch?#

Giờ đây, sau khi đã tìm hiểu suy luận theo batch là gì và khác với suy luận theo thời gian thực ra sao, hãy cùng xem xét kỹ hơn khi nào nên sử dụng phương pháp này.

Suy luận theo batch rất phù hợp để phân tích dữ liệu lịch sử. Giả sử bạn có cảnh quay giám sát từ một ga metro trong tháng vừa qua và muốn xác định các mô hình cụ thể, chẳng hạn số người ra vào vào những thời điểm khác nhau trong ngày.

Thay vì xử lý từng khung hình theo thời gian thực, suy luận theo batch cho phép xử lý cảnh quay của cả tháng theo từng batch, xác định các sự kiện hoặc xu hướng quan trọng mà không cần kết quả tức thời. Nhờ vậy, bạn có thể phân tích khối lượng dữ liệu lớn hiệu quả hơn và thu được thông tin chi tiết về các xu hướng dài hạn mà không làm quá tải hệ thống hoặc cần giám sát liên tục.

Suy luận theo batch cũng là giải pháp tối ưu khi tài nguyên hệ thống hạn chế. Bằng cách chạy suy luận ngoài giờ cao điểm (chẳng hạn qua đêm), bạn có thể tiết kiệm chi phí tính toán và bảo đảm hệ thống không bị quá tải trong thời gian sử dụng cao điểm. Đây là cách tiếp cận hiệu quả và tiết kiệm chi phí cho các doanh nghiệp hoặc dự án cần xử lý dataset lớn nhưng không yêu cầu phân tích theo thời gian thực.

Suy luận theo batch bằng Ultralytics YOLO11#

Gói Python của Ultralytics hỗ trợ suy luận theo lô cho các model như YOLO11. Với YOLO11, bạn có thể dễ dàng chạy suy luận theo lô bằng cách chỉ định đối số suy luận batch, tham số xác định số lượng ảnh hoặc khung hình video được xử lý cùng lúc.

Trong quá trình suy luận theo lô, các dự đoán được tạo đồng thời cho tất cả ảnh trong lô. Theo mặc định, kích thước lô được đặt là 1, nhưng bạn có thể điều chỉnh thành bất kỳ số nào tùy ý. Xử lý theo lô được áp dụng khi nguồn là một thư mục, tệp video hoặc tệp .txt liệt kê các nguồn dữ liệu.

Ví dụ: nếu kích thước lô được đặt là 5, Ultralytics YOLO11 sẽ xử lý năm ảnh hoặc khung hình video mỗi lần và đồng thời tạo dự đoán cho cả năm. Kích thước lô lớn hơn thường làm tăng thông lượng và rút ngắn tổng thời gian xử lý, vì xử lý nhiều ảnh theo lô hiệu quả hơn so với xử lý từng ảnh riêng lẻ.

Các ứng dụng thị giác máy tính được hỗ trợ bởi suy luận theo batch#

Tiếp theo, hãy cùng khám phá một số trường hợp sử dụng suy luận theo batch trong thị giác máy tính ngoài thực tế.

Nâng cao năng lực chẩn đoán và nghiên cứu trong lĩnh vực y tế#

Trong nghiên cứu y khoa, việc xử lý lượng lớn dữ liệu hình ảnh rất phổ biến. Suy luận theo lô có thể giúp các nhà khoa học phân tích dữ liệu dễ dàng hơn trong các lĩnh vực như hóa học, sinh học và di truyền học. Thay vì phân tích từng mục một, dữ liệu được xử lý theo lô, giúp tiết kiệm thời gian và công sức.

Ví dụ, tại các cơ sở y tế, suy luận theo batch đặc biệt hữu ích để phân tích tập hợp lớn ảnh y khoa như ảnh MRI hoặc CT. Bệnh viện có thể thu thập các ảnh này trong ngày và xử lý theo batch qua đêm.

Cách tiếp cận này giúp bệnh viện tận dụng phần cứng và nhân sự hiệu quả hơn, giảm chi phí vận hành và bảo đảm tất cả ảnh chụp được xem xét nhất quán, đồng bộ. Phương pháp này cũng có lợi cho các dự án nghiên cứu quy mô lớn và nghiên cứu dài hạn, vốn đòi hỏi xử lý lượng dữ liệu khổng lồ.

Hình 2. Phát hiện một dấu hiệu bất thường trên ảnh chụp y khoa bằng Ultralytics YOLO11.

Cải thiện xe tự hành bằng mô phỏng#

Xe tự lái sử dụng các công nghệ AI như thị giác máy tính để xử lý thế giới xung quanh. Với sự trợ giúp của các model tiên tiến như Ultralytics YOLO11, hệ thống trên xe có thể nhận diện các phương tiện khác, vạch kẻ làn đường, biển báo giao thông và người đi đường. Mặc dù suy luận theo thời gian thực rất quan trọng khi xe lưu thông, công nghệ xe tự lái cũng phụ thuộc nhiều vào suy luận theo batch ở các quy trình nền.

Hình 3. YOLO11 có thể dễ dàng phát hiện người đi bộ trên đường.

Sau khi xe hoàn tất hành trình, dữ liệu thu thập được, chẳng hạn như hàng giờ video từ camera, chỉ số cảm biến và ảnh quét LiDAR, có thể được xử lý sau theo các lô lớn. Nhờ đó, các kỹ sư có thể cập nhật model AI của xe, tăng cường độ an toàn của hệ thống và cải thiện khả năng xử lý nhiều điều kiện lái xe khác nhau.

Suy luận theo batch cũng được dùng trong mô phỏng lái xe tự hành để kiểm tra cách xe tự lái phản ứng trong các tình huống khác nhau, chẳng hạn như đi qua giao lộ đông đúc hoặc ứng phó với chuyển động khó lường của người đi bộ. Cách tiếp cận này tiết kiệm thời gian, giảm chi phí và tránh những rủi ro liên quan đến việc thử nghiệm mọi tình huống ngoài đời thực.

Phân tích dữ liệu bán lẻ dựa trên suy luận theo batch#

Tương tự, với các cửa hàng bán lẻ, suy luận theo batch bằng các model thị giác máy tính như Ultralytics YOLO11 có thể nâng cao đáng kể hiệu quả vận hành. Ví dụ, hệ thống camera trong cửa hàng có thể ghi lại hàng nghìn ảnh trong ngày, sau đó xử lý theo batch qua đêm.

Nhờ đó, cửa hàng có thể phân tích những gì đang diễn ra, chẳng hạn như hành vi khách hàng, mô hình lưu lượng người và tương tác với sản phẩm, mà không cần xử lý theo thời gian thực — điều có thể gây khó khăn cho các cửa hàng nhỏ.

Một ví dụ thú vị khác là dùng suy luận theo batch để tạo heatmap, trực quan hóa các khu vực có mức độ hoạt động của khách hàng cao và thấp trong cửa hàng. Bằng cách phân tích các heatmap này, nhà bán lẻ có thể xác định khu vực nào thu hút nhiều người qua lại nhất và khu vực nào cần được chú ý hơn hoặc tối ưu hóa cách bố trí sản phẩm. Dữ liệu này có thể giúp nhà bán lẻ đưa ra quyết định tốt hơn về cách bố trí cửa hàng, vị trí sản phẩm và cả chiến lược khuyến mãi nhằm cải thiện trải nghiệm khách hàng và doanh số.

Hình 4. Heatmap có thể giúp nhà bán lẻ xác định các khu vực phổ biến trong cửa hàng.

Ưu và nhược điểm của suy luận theo batch#

Dưới đây là một số lợi ích chính mà suy luận theo batch có thể mang lại cho nhiều ngành:

• Dễ tích hợp: Suy luận theo batch có thể dễ dàng tích hợp vào các quy trình hiện có, đặc biệt trong những ngành như bán lẻ, an ninh hoặc y tế, nơi cần xử lý hàng loạt khối lượng dữ liệu lớn.
• Quản lý dữ liệu dễ dàng hơn: Khi làm việc với lượng dữ liệu lớn, suy luận theo batch có thể đơn giản hóa việc quản lý dữ liệu vì dữ liệu được chia thành các phần có thể kiểm soát. Nhờ đó, việc theo dõi, rà soát và sắp xếp dữ liệu theo thời gian trở nên dễ dàng hơn.
• Giảm tải mạng: Khi dữ liệu được xử lý theo lô, có thể giảm lượng dữ liệu truyền đi tại mỗi thời điểm, qua đó giảm áp lực lên tài nguyên mạng trong các hệ thống dựa trên đám mây hoặc môi trường điện toán phân tán.

Mặc dù suy luận theo batch có nhiều ưu điểm, vẫn có một số hạn chế cần cân nhắc. Dưới đây là một vài yếu tố cần lưu ý:

• Yêu cầu về lưu trữ: Lưu trữ các dataset lớn để xử lý theo batch có thể làm tăng đáng kể chi phí lưu trữ, đặc biệt với ảnh độ phân giải cao, video hoặc khối lượng dữ liệu lớn.
• Nguy cơ tồn đọng: Nếu dữ liệu tích lũy nhanh hoặc các lô lớn không được xử lý đúng hạn, dữ liệu có thể bị tồn đọng. Điều này có thể làm chậm việc cung cấp thông tin chuyên sâu và xử lý dữ liệu mới kịp thời.
• Tăng đột biến mức sử dụng tài nguyên: Các lô lớn, đặc biệt là lô chứa ảnh độ phân giải cao, có thể khiến mức sử dụng bộ nhớ hoặc năng lực tính toán tăng đột biến. Nếu không được quản lý đúng cách, những đợt tăng này có thể làm hệ thống quá tải, dẫn đến chậm hoặc gặp sự cố.

Điểm chính cần ghi nhớ#

Suy luận theo lô là cách hiệu quả để xử lý lượng lớn dữ liệu hình ảnh không cần kết quả tức thời. Thay vì phân tích từng ảnh theo thời gian thực, phương pháp này xử lý ảnh theo các lô vào những thời điểm đã lên lịch, chẳng hạn như qua đêm.

Phương pháp này tiết kiệm chi phí, giảm tải tính toán mà vẫn cho kết quả chính xác. Từ hỗ trợ cửa hàng quản lý hàng tồn kho, giúp bác sĩ phân tích ảnh chụp y khoa đến cải thiện công nghệ xe tự lái, suy luận theo batch giúp thị giác máy tính dễ tiếp cận, tiết kiệm và thiết thực hơn trong các ứng dụng thực tế.

Bạn muốn tìm hiểu thêm về AI? Khám phá kho GitHub, kết nối với cộng đồng của chúng tôi và xem các tùy chọn cấp phép để bắt đầu hành trình thị giác máy tính. Tìm hiểu thêm về những đổi mới như AI trong sản xuất và thị giác máy tính trong ngành logistics trên các trang giải pháp của chúng tôi.