Ultralytics YOLO11を使用してバッチ推論を実行する

自動運転車が実際に走行しているところを見たことがあるなら、リアルタイムAI推論を目にしたことになります。自動運転車は通常、カメラ、センサー、AIを使って周囲の状況を処理し、ほぼ瞬時に判断を下します。ただし、迅速な応答が必要ない場合、リアルタイム推論はリソースを大量に消費する可能性があります。

このような場合のより良い選択肢が、バッチ推論です。データをリアルタイムで継続的に処理するのではなく、バッチ推論では、スケジュールされた間隔で大量のデータセットを処理できます。このアプローチにより、リソースを節約し、電力消費を削減するとともに、インフラストラクチャコストを抑えられます。

たとえば、コンピュータビジョンアプリケーションでは、Ultralytics YOLO11のようなモデルを、物体検出やインスタンスセグメンテーションなどのリアルタイムタスクに使用できます。ただし、大量の視覚データをリアルタイムで処理するには、大きな負荷がかかる場合があります。

図1. Ultralytics YOLO11を使用して画像内の物体をセグメンテーションする例です。

バッチ推論を使用すると、Ultralytics YOLO11で視覚データをバッチ単位で実行できるため、パフォーマンスを犠牲にすることなくシステムへの負荷を軽減し、効率を向上できます。これにより、ハードウェアに過大な負荷をかけたりコストを増加させたりすることなく、ビジョンAIソリューションを大規模にデプロイしやすくなります。

この記事では、バッチ推論とそのメリット、さらにコンピュータビジョンアプリケーションでUltralytics YOLO11を使用したバッチ推論を適用する方法について説明します。それでは始めましょう。

コンピュータビジョンにおけるバッチ推論について#

バッチ推論は、入ってくるデータを少しずつ処理するのではなく、大きなタスクを一度に処理する方法だと考えることができます。データをリアルタイムで常に処理する代わりに、バッチ推論では、設定した間隔で大規模なデータグループを処理できます。即時の応答が必要ない場合、このアプローチははるかに効率的で、コンピューティングリソースの節約、エネルギー使用量の削減、コスト削減につながります。

コンピュータビジョンでは、低レイテンシが不可欠なアプリケーションがあります。低レイテンシとは、入力（画像やビデオフレームなど）を受け取ってからシステムが応答するまでの遅延が最小限であることを指します。たとえば、リアルタイムのセキュリティ監視では、わずかな遅延でも安全上のリスクにつながる可能性があります。

一方、その他の多くのコンピュータビジョンシナリオでは、低レイテンシはそれほど重要ではありません。システムが瞬時に反応する必要がない場合に、バッチ推論が効果を発揮します。バッチ推論では、視覚データをグループまたはバッチ単位でコンピュータビジョンモデルに入力し、継続的にリアルタイム処理するのではなく、大規模なデータセットを一度に処理できるようにします。

バッチ推論の仕組みを理解する#

バッチ推論に含まれる手順を詳しく見てみましょう。

• データ収集: 視覚データを一定期間にわたって収集します。アプリケーションに応じて、監視映像、製品画像、顧客データなどが含まれます。

• バッチ準備: 次に、収集したデータをバッチにまとめます。この手順では、モデルに必要な形式にデータを整形します。たとえば、モデルが処理できるように、画像のリサイズ、正規化、適切な形式への変換などを行います。

• 予測: データの準備が完了したら、バッチ全体をモデル（Ultralytics YOLO11など）に入力し、一度に処理します。これにより、バッチ内のすべてのデータに対する予測を同時に生成でき、各データポイントを個別に処理する場合と比べて、処理が効率的になります。

バッチ推論を使用するタイミング#

ここまでで、バッチ推論とは何か、リアルタイム推論とどのように異なるかを説明しました。次に、バッチ推論を使用するタイミングについて詳しく見ていきましょう。

バッチ推論は、履歴データの分析に適しています。たとえば、過去1か月間に地下鉄駅で撮影された監視映像から、時間帯ごとの入場者数や退場者数など、特定のパターンを特定したいとします。

各フレームをリアルタイムで処理する代わりに、バッチ推論を使用すると、1か月分の映像全体をバッチ単位で処理し、即時の結果を必要とせずに重要なイベントや傾向を特定できます。これにより、大量のデータをより効率的に分析して長期的なパターンに関する洞察を得られるとともに、システムに過大な負荷をかけたり、常時監視を必要としたりせずに済みます。

バッチ推論は、システムリソースが限られている場合にも最適なソリューションです。オフピーク時間（夜間など）に推論を実行することで、コンピューティングコストを節約し、利用のピーク時にシステムへ過大な負荷がかかるのを防げます。そのため、リアルタイム分析は必要ないものの、大規模なデータセットを処理する必要がある企業やプロジェクトにとって、効率的でコスト効果の高いアプローチとなります。

Ultralytics YOLO11を使用したバッチ推論#

Ultralytics Pythonパッケージは、YOLO11などのモデルでのバッチ推論をサポートしています。YOLO11では、「batch」引数を指定するだけでバッチ推論を簡単に実行できます。この引数によって、一度に処理する画像またはビデオフレームの数が決まります。

バッチ推論の処理中は、バッチ内のすべての画像に対する予測が同時に生成されます。デフォルトのバッチサイズは1ですが、任意の数に調整できます。

たとえば、バッチサイズを5に設定すると、Ultralytics YOLO11は一度に5枚の画像またはビデオフレームを処理し、5枚すべてに対する予測を同時に生成します。一般に、バッチサイズを大きくすると推論時間が短くなります。これは、複数の画像をバッチで処理する方が、個別に処理するより効率的だからです。

バッチ推論で実現するコンピュータビジョンアプリケーション#

次に、バッチ推論の実際のコンピュータビジョン活用事例をいくつか見ていきましょう。

ヘルスケアにおける診断と研究の強化#

医学研究では、大量の視覚データを扱うことが非常に一般的です。ここでバッチ推論を使用すると、化学、生物学、遺伝学などの分野にわたって、科学者がデータをより簡単に分析できます。データを1件ずつ分析するのではなく、バッチ単位で処理することで、時間と労力を節約できます。

たとえば、医療施設では、MRIやCTスキャンなど、大量の医療画像セットを分析する際にバッチ推論が特に役立ちます。病院は1日を通してスキャン画像を収集し、夜間にバッチ処理できます。

このアプローチにより、病院はハードウェアとスタッフをより有効に活用し、運用コストを削減するとともに、すべてのスキャン画像を一貫した均一な方法で確認できます。また、大量のデータを扱う必要がある大規模な研究プロジェクトや長期的な研究にも有効です。

図2。Ultralytics YOLO11を使用した医療スキャン画像の検出です。

シミュレーションによる自動運転車の改善#

自動運転車は、コンピュータビジョンなどのAIテクノロジーを使用して、周囲の環境を処理します。Ultralytics YOLO11のような高度なモデルを活用することで、車載システムは他の車両、車線、道路標識、歩行者を認識できます。道路上ではリアルタイム推論が不可欠ですが、自動運転技術は舞台裏でもバッチ推論に大きく依存しています。

図3。YOLO11は道路上の歩行者を簡単に検出できます。

車が走行を終えた後、数時間分のカメラ映像、センサーの読み取り値、LIDARスキャンなど、収集したデータを後から大規模なバッチで処理できます。これにより、エンジニアは車のAIモデルを更新し、システムの安全性を高め、さまざまな運転条件への対応能力を向上できます。

バッチ推論は、自動運転シミュレーションで、混雑した交差点の通過や予測不能な歩行者の動きへの対応など、さまざまな状況で自動運転車がどのように反応するかをテストするためにも使用されます。このアプローチにより、時間とコストを削減し、すべてのシナリオを実環境でテストすることに伴うリスクを回避できます。

バッチ推論による小売データ分析#

同様に、小売店舗では、Ultralytics YOLO11のようなコンピュータビジョンモデルを使ったバッチ推論によって、業務効率を大幅に向上できます。たとえば、店舗のカメラシステムは1日を通して数千枚の画像を撮影し、それらを夜間にバッチ処理できます。

これにより、リアルタイム処理を必要とせず、顧客の行動、来店パターン、商品との接触など、店舗内で起きていることを分析できます。これは、リアルタイム処理が難しい小規模店舗にとって特に有用です。

もう1つの興味深い例は、バッチ推論を使用してヒートマップを生成することです。ヒートマップでは、店舗内の顧客活動が活発なエリアと少ないエリアを可視化できます。これらのヒートマップを分析することで、小売業者は人の往来が最も多いエリアや、より多くの注意や商品配置の最適化が必要な店舗内の場所を特定できます。このデータは、顧客体験と売上を向上させるために、店舗レイアウト、商品配置、さらには販促戦略について、より良い意思決定を行うのに役立ちます。

図4。ヒートマップは、小売業者が店舗内の人気エリアを特定するのに役立ちます。

バッチ推論のメリットとデメリット#

バッチ推論がさまざまな業界にもたらす主なメリットをいくつか紹介します。

• 統合の容易さ: バッチ推論は既存のワークフローに簡単に統合できます。特に、小売、セキュリティ、ヘルスケアなど、大量のデータを一括処理する必要がある業界で有効です。
• データ管理の容易さ: 大量のデータを扱う場合、データを管理しやすい単位にまとめるため、バッチ推論によってデータ管理を効率化できます。これにより、時間の経過に伴うデータの追跡、確認、整理が容易になります。
• ネットワーク負荷の軽減: データをバッチ単位で処理すると、任意の時点で転送されるデータ量を最小限に抑えられるため、クラウドベースのシステムや分散コンピューティング環境におけるネットワークリソースへの負荷を軽減できます。

バッチ推論には多くのメリットがありますが、考慮すべき制限事項もあります。以下に、留意すべき要素をいくつか示します。

• ストレージ要件: バッチ処理用に大規模なデータセットを保存すると、特に高解像度の画像や動画、大量のデータを扱う場合、ストレージコストが大幅に増加する可能性があります。
• バックログの発生可能性: データが急速に蓄積したり、大規模なバッチを時間どおりに処理できなかったりすると、バックログが発生する可能性があります。その結果、洞察の提供や新しいデータのタイムリーな処理に遅延が生じることがあります。
• リソースの急増: 大規模なバッチ、特に高解像度画像を含むバッチでは、メモリやコンピューティングの使用量が急増する可能性があります。適切に管理しないと、こうした急増によってシステムに過大な負荷がかかり、処理速度の低下やクラッシュにつながる場合があります。

主なポイント#

バッチ推論は、即時の結果を必要としない大量の視覚データを処理する効率的な方法です。各画像をリアルタイムで分析するのではなく、夜間など、スケジュールされた時間にバッチ単位で処理します。

この方法はコスト効果が高く、コンピューティング負荷を軽減しながら、正確な結果も提供できます。店舗の在庫管理、医師による医療スキャン画像の分析支援、自動運転車テクノロジーの強化など、バッチ推論によってコンピュータビジョンは実世界のアプリケーションにとって、より利用しやすく、手頃で実用的なものになります。

AIを深く学びたいですか。GitHubリポジトリを確認し、コミュニティに参加し、ライセンスオプションを確認して、コンピュータビジョンへの取り組みを始めましょう。ソリューションページでは、製造業におけるAIや物流業界におけるコンピュータビジョンなどのイノベーションについて詳しく紹介しています。