Sử dụng Ultralytics YOLO11 để chạy batch inference

Nếu bạn từng chứng kiến một chiếc xe tự lái hoạt động, bạn đã thấy suy luận AI thời gian thực. Xe tự lái thường sử dụng camera, cảm biến và AI để xử lý môi trường xung quanh rồi đưa ra quyết định gần như tức thì. Tuy nhiên, khi không cần phản hồi nhanh, suy luận thời gian thực có thể tiêu tốn nhiều tài nguyên.

Trong những trường hợp này, suy luận theo lô là một lựa chọn tốt hơn. Thay vì xử lý dữ liệu liên tục theo thời gian thực, suy luận theo lô có thể xử lý các tập dữ liệu lớn vào những khoảng thời gian đã định. Phương pháp này giúp tiết kiệm tài nguyên, giảm mức tiêu thụ điện năng và cắt giảm chi phí cơ sở hạ tầng.

Ví dụ, trong các ứng dụng thị giác máy tính, những model như Ultralytics YOLO11 có thể được sử dụng cho các tác vụ thời gian thực như phát hiện đối tượng và phân đoạn instance. Tuy nhiên, xử lý khối lượng lớn dữ liệu hình ảnh theo thời gian thực có thể đòi hỏi nhiều tài nguyên.

Hình 1. Ví dụ về phân đoạn các đối tượng trong ảnh bằng Ultralytics YOLO11.

Với suy luận theo lô, có thể chạy Ultralytics YOLO11 trên dữ liệu hình ảnh theo từng lô, giảm tải cho hệ thống và nâng cao hiệu quả mà không làm giảm hiệu năng. Điều này giúp triển khai các giải pháp AI thị giác ở quy mô lớn dễ dàng hơn mà không gây quá tải cho phần cứng hoặc làm tăng chi phí.

Trong bài viết này, chúng ta sẽ tìm hiểu về suy luận theo lô, các lợi ích của phương pháp này và cách áp dụng suy luận theo lô bằng Ultralytics YOLO11 trong các ứng dụng thị giác máy tính. Hãy bắt đầu!

Tìm hiểu về suy luận theo lô trong thị giác máy tính#

Bạn có thể hình dung suy luận theo lô là giải quyết một tác vụ lớn trong một lần thay vì xử lý từng phần khi dữ liệu đến. Thay vì liên tục xử lý dữ liệu theo thời gian thực, suy luận theo lô cho phép bạn xử lý các nhóm dữ liệu lớn vào những khoảng thời gian cố định. Phương pháp này hiệu quả hơn nhiều khi không cần phản hồi ngay lập tức, giúp tiết kiệm tài nguyên tính toán, giảm mức sử dụng năng lượng và cắt giảm chi phí.

Trong thị giác máy tính, có một số ứng dụng đòi hỏi độ trễ thấp. Độ trễ thấp đề cập đến khoảng thời gian trễ tối thiểu giữa lúc nhận đầu vào (chẳng hạn như ảnh hoặc khung hình video) và lúc hệ thống phản hồi. Ví dụ, trong giám sát an ninh thời gian thực, ngay cả những độ trễ nhỏ cũng có thể dẫn đến rủi ro về an toàn.

Tuy nhiên, trong nhiều tình huống thị giác máy tính khác, độ trễ thấp không quan trọng bằng. Đây là lúc suy luận theo lô phát huy hiệu quả — khi hệ thống không cần phản hồi tức thì. Suy luận theo lô hoạt động bằng cách cung cấp dữ liệu hình ảnh cho một model thị giác máy tính theo từng nhóm hoặc lô, cho phép hệ thống xử lý các tập dữ liệu lớn cùng lúc thay vì liên tục xử lý theo thời gian thực.

Tìm hiểu cách thức hoạt động của suy luận theo lô#

Dưới đây là cái nhìn chi tiết hơn về các bước trong quy trình suy luận theo lô:

• Thu thập dữ liệu: Dữ liệu hình ảnh được thu thập trong một khoảng thời gian. Tùy thuộc vào ứng dụng, dữ liệu có thể bao gồm video giám sát, ảnh sản phẩm hoặc dữ liệu khách hàng.

• Chuẩn bị lô: Dữ liệu đã thu thập sau đó được nhóm thành các lô. Trong bước này, dữ liệu được định dạng theo yêu cầu của model. Ví dụ, ảnh có thể được thay đổi kích thước, chuẩn hóa hoặc chuyển đổi sang định dạng phù hợp để model xử lý.

• Dự đoán: Sau khi dữ liệu được chuẩn bị, toàn bộ lô được đưa vào model (chẳng hạn như Ultralytics YOLO11), model sẽ xử lý toàn bộ lô cùng lúc. Nhờ đó, model có thể đưa ra dự đoán cho tất cả dữ liệu trong lô đồng thời, giúp quy trình hiệu quả hơn so với việc xử lý từng điểm dữ liệu riêng lẻ.

Khi nào nên sử dụng suy luận theo lô?#

Sau khi đã tìm hiểu suy luận theo lô là gì và khác với suy luận thời gian thực như thế nào, hãy cùng xem xét kỹ hơn khi nào nên sử dụng phương pháp này.

Suy luận theo lô rất phù hợp để phân tích dữ liệu lịch sử. Giả sử bạn có video giám sát từ một ga metro trong tháng vừa qua và muốn xác định các mẫu cụ thể, chẳng hạn như số người ra vào tại những thời điểm khác nhau trong ngày.

Thay vì xử lý từng khung hình theo thời gian thực, suy luận theo lô cho phép bạn xử lý toàn bộ video của một tháng theo từng lô, xác định các sự kiện hoặc xu hướng quan trọng mà không cần kết quả ngay lập tức. Nhờ đó, bạn có thể phân tích khối lượng dữ liệu lớn hiệu quả hơn và thu được thông tin chuyên sâu về các mẫu dài hạn mà không gây quá tải cho hệ thống hoặc cần giám sát liên tục.

Suy luận theo lô cũng là một giải pháp tối ưu khi tài nguyên hệ thống bị hạn chế. Bằng cách chạy suy luận trong những giờ thấp điểm (chẳng hạn như ban đêm), bạn có thể tiết kiệm chi phí tính toán và đảm bảo hệ thống không bị quá tải trong thời gian sử dụng cao điểm. Đây là phương pháp hiệu quả và tiết kiệm chi phí cho các doanh nghiệp hoặc dự án cần xử lý những tập dữ liệu lớn nhưng không yêu cầu phân tích thời gian thực.

Suy luận theo lô bằng Ultralytics YOLO11#

Gói Python của Ultralytics hỗ trợ suy luận theo lô cho các model như YOLO11. Với YOLO11, bạn có thể dễ dàng chạy suy luận theo lô bằng cách chỉ định tham số ‘batch’, tham số này xác định số ảnh hoặc khung hình video được xử lý cùng lúc.

Trong quá trình suy luận theo lô, các dự đoán được tạo đồng thời cho tất cả ảnh trong lô. Theo mặc định, kích thước lô được đặt là 1, nhưng bạn có thể điều chỉnh thành bất kỳ con số nào mong muốn.

Ví dụ, nếu kích thước lô được đặt là 5, Ultralytics YOLO11 sẽ xử lý năm ảnh hoặc khung hình video mỗi lần và đồng thời tạo dự đoán cho cả năm ảnh hoặc khung hình. Kích thước lô lớn hơn thường giúp thời gian suy luận nhanh hơn, vì xử lý nhiều ảnh trong một lô hiệu quả hơn so với xử lý từng ảnh riêng lẻ.

Các ứng dụng thị giác máy tính được hỗ trợ bởi suy luận theo lô#

Tiếp theo, hãy cùng khám phá một số trường hợp sử dụng suy luận theo lô trong thị giác máy tính ở thực tế.

Nâng cao chẩn đoán và nghiên cứu trong lĩnh vực y tế#

Trong nghiên cứu y khoa, việc làm việc với lượng lớn dữ liệu hình ảnh là điều rất phổ biến. Suy luận theo lô có thể giúp các nhà khoa học phân tích dữ liệu dễ dàng hơn trong các lĩnh vực như hóa học, sinh học và di truyền học. Thay vì phân tích từng dữ liệu một, dữ liệu được xử lý theo lô, giúp tiết kiệm thời gian và công sức.

Ví dụ, tại các cơ sở y tế, suy luận theo lô đặc biệt hữu ích để phân tích những tập hợp lớn ảnh y khoa như ảnh MRI hoặc ảnh chụp CT. Bệnh viện có thể thu thập các ảnh chụp này trong ngày và xử lý chúng theo lô vào ban đêm.

Phương pháp này cho phép bệnh viện tận dụng phần cứng và nhân sự tốt hơn, giảm chi phí vận hành, đồng thời đảm bảo tất cả ảnh chụp được xem xét một cách nhất quán và đồng bộ. Phương pháp này cũng hữu ích cho các dự án nghiên cứu lớn và những nghiên cứu dài hạn, trong đó cần xử lý khối lượng dữ liệu khổng lồ.

Hình 2. Phát hiện dấu hiệu bất thường trong ảnh chụp y khoa bằng Ultralytics YOLO11.

Cải thiện phương tiện tự hành bằng mô phỏng#

Xe tự lái sử dụng các công nghệ AI như thị giác máy tính để xử lý thế giới xung quanh. Với sự hỗ trợ của các model tiên tiến như Ultralytics YOLO11, các hệ thống tích hợp trên xe có thể nhận diện những phương tiện khác, vạch làn đường, biển báo giao thông và người đi đường. Mặc dù suy luận thời gian thực rất quan trọng khi xe đang lưu thông, công nghệ xe tự lái cũng phụ thuộc nhiều vào suy luận theo lô ở phía sau.

Hình 3. YOLO11 có thể dễ dàng phát hiện người đi bộ trên đường.

Sau khi xe hoàn thành một chuyến đi, dữ liệu mà xe thu thập, chẳng hạn như hàng giờ video từ camera, dữ liệu cảm biến và ảnh quét LIDAR, có thể được xử lý sau theo các lô lớn. Điều này giúp các kỹ sư cập nhật các model AI của xe, nâng cao độ an toàn của hệ thống và cải thiện khả năng xử lý nhiều điều kiện lái xe khác nhau.

Suy luận theo lô cũng được sử dụng trong các mô phỏng lái xe tự hành để kiểm thử cách xe tự lái phản ứng trong những tình huống khác nhau, chẳng hạn như di chuyển qua các giao lộ đông đúc hoặc ứng phó với chuyển động khó đoán của người đi bộ. Phương pháp này tiết kiệm thời gian, giảm chi phí và tránh những rủi ro liên quan đến việc kiểm thử mọi tình huống trong thực tế.

Phân tích dữ liệu bán lẻ bằng suy luận theo lô#

Tương tự, đối với các cửa hàng bán lẻ, suy luận theo lô với các model thị giác máy tính như Ultralytics YOLO11 có thể cải thiện đáng kể hiệu quả vận hành. Ví dụ, hệ thống camera trong cửa hàng có thể ghi lại hàng nghìn ảnh trong ngày, sau đó các ảnh này được xử lý theo lô vào ban đêm.

Điều này cho phép cửa hàng phân tích những gì đang diễn ra, chẳng hạn như hành vi khách hàng, mô hình lưu lượng và tương tác với sản phẩm, mà không cần xử lý theo thời gian thực — một yêu cầu có thể gây khó khăn cho các cửa hàng nhỏ.

Một ví dụ thú vị khác là sử dụng suy luận theo lô để tạo heatmap, giúp trực quan hóa các khu vực có mức độ hoạt động của khách hàng cao và thấp trong cửa hàng. Bằng cách phân tích các heatmap này, nhà bán lẻ có thể xác định khu vực nào thu hút nhiều lượt khách nhất và khu vực nào trong cửa hàng cần được chú ý hơn hoặc cần tối ưu cách bố trí sản phẩm. Dữ liệu này có thể giúp nhà bán lẻ đưa ra quyết định tốt hơn về cách bố trí cửa hàng, vị trí sản phẩm và thậm chí cả chiến lược khuyến mãi nhằm cải thiện trải nghiệm khách hàng và doanh số.

Hình 4. Heatmap có thể giúp nhà bán lẻ xác định các khu vực phổ biến trong cửa hàng.

Ưu và nhược điểm của suy luận theo lô#

Dưới đây là một số lợi ích chính mà suy luận theo lô có thể mang lại cho nhiều ngành khác nhau:

• Dễ dàng tích hợp: Suy luận theo lô có thể dễ dàng tích hợp vào các quy trình hiện có, đặc biệt trong những ngành như bán lẻ, an ninh hoặc y tế, nơi cần xử lý khối lượng lớn dữ liệu theo từng đợt.
• Quản lý dữ liệu dễ dàng hơn: Khi làm việc với lượng lớn dữ liệu, suy luận theo lô có thể đơn giản hóa việc quản lý dữ liệu vì dữ liệu được nhóm thành các phần có kích thước dễ quản lý. Điều này giúp việc theo dõi, xem xét và sắp xếp dữ liệu theo thời gian trở nên dễ dàng hơn.
• Giảm tải mạng: Khi dữ liệu được xử lý theo lô, lượng dữ liệu truyền đi tại bất kỳ thời điểm nào cũng có thể được giảm thiểu, từ đó giảm áp lực lên tài nguyên mạng trong các hệ thống dựa trên cloud hoặc môi trường điện toán phân tán.

Mặc dù suy luận theo lô có nhiều ưu điểm, phương pháp này cũng có một số hạn chế cần cân nhắc. Dưới đây là một số yếu tố cần lưu ý:

• Yêu cầu lưu trữ: Lưu trữ các tập dữ liệu lớn để xử lý theo lô có thể làm tăng đáng kể chi phí lưu trữ, đặc biệt với ảnh độ phân giải cao, video hoặc khối lượng dữ liệu lớn.
• Khả năng tồn đọng: Nếu dữ liệu tích lũy nhanh hoặc các lô lớn không được xử lý đúng hạn, tình trạng tồn đọng có thể phát sinh. Điều này có thể dẫn đến chậm trễ trong việc cung cấp thông tin chuyên sâu và xử lý dữ liệu mới kịp thời.
• Tăng đột biến mức sử dụng tài nguyên: Các lô lớn, đặc biệt là những lô chứa ảnh độ phân giải cao, có thể gây tăng đột biến mức sử dụng bộ nhớ hoặc năng lực tính toán. Nếu không được quản lý đúng cách, những đợt tăng đột biến này có thể làm hệ thống quá tải, dẫn đến chậm hoặc sự cố.

Những điểm chính#

Suy luận theo lô là một cách hiệu quả để xử lý khối lượng lớn dữ liệu hình ảnh không yêu cầu kết quả ngay lập tức. Thay vì phân tích từng ảnh theo thời gian thực, phương pháp này xử lý ảnh theo từng lô vào những thời điểm đã định, chẳng hạn như ban đêm.

Phương pháp này tiết kiệm chi phí, giảm tải tính toán mà vẫn cung cấp kết quả chính xác. Từ việc hỗ trợ cửa hàng quản lý hàng tồn kho đến hỗ trợ bác sĩ phân tích ảnh chụp y khoa và nâng cao công nghệ xe tự lái, suy luận theo lô giúp thị giác máy tính trở nên dễ tiếp cận, tiết kiệm và thiết thực hơn trong các ứng dụng thực tế.

Bạn đã sẵn sàng tìm hiểu sâu về AI chưa? Hãy khám phá repository GitHub của chúng tôi, kết nối với cộng đồng của chúng tôi và xem các tùy chọn cấp phép của chúng tôi để bắt đầu hành trình với thị giác máy tính. Tìm hiểu thêm về những đổi mới như AI trong sản xuất và thị giác máy tính trong ngành logistics trên các trang giải pháp của chúng tôi.