コンピュータビジョンにおけるリアルタイム推論が、なぜ様々なアプリケーションにとって重要なのか、そして、それが瞬時の意思決定を可能にする役割について解説します。
YOLO Vision 2025にご期待ください！
2025年9月25日
10:00 — 18:00（英国夏時間）
ハイブリッドイベント
コンピュータビジョンにおけるリアルタイム推論が、なぜ様々なアプリケーションにとって重要なのか、そして、それが瞬時の意思決定を可能にする役割について解説します。
私たちは皆、遅いインターネット接続が引き起こす不満を経験したことがあるでしょう。しかし、自動運転車が障害物に反応したり、医師が重要なスキャンを分析したりするなど、重大な状況での遅延を想像してみてください。数秒の遅れが深刻な結果を招く可能性があります。
そこで、リアルタイムAI推論が違いを生むことができます。高速処理とリアルタイム予測により、コンピュータビジョンソリューションは視覚データを即座に処理して対応できます。これらの瞬間的な意思決定は、安全性、効率性、および日常の利便性を向上させることができます。
例えば、外科医がロボットアシスタントを使用して繊細な手術を行うことを考えてみましょう。すべての動きは高速接続を介して制御され、ロボットのビジョンシステムは手術部位をリアルタイムで処理し、外科医に即座に視覚的なフィードバックを提供します。このフィードバックループのわずかな遅延でも重大なミスにつながり、患者を危険にさらす可能性があります。これは、リアルタイム推論が非常に重要である理由の完璧な例です。遅延は許されません。
実世界アプリケーションにおけるAI推論は、推論エンジン（AIモデルを効率的に実行するソフトウェアまたはハードウェア）、推論レイテンシ（入力と出力の間の遅延）、およびリアルタイム推論（最小限の遅延で処理および応答するAIシステムの能力）という3つの主要な概念に依存します。
この記事では、これらのコアコンセプトと、Ultralytics YOLO11のようなコンピュータビジョンモデルが、瞬時の予測に依存するアプリケーションをどのように実現するかを探ります。
推論の実行とは、トレーニング済みのAIモデルを使用して新しいデータを分析し、予測を行ったり、タスクを解決したりするプロセスです。大量のラベル付きデータを処理してモデルを学習させるトレーニングとは異なり、推論は、すでにトレーニングされたモデルを使用して、迅速かつ正確に結果を生成することに重点を置いています。
例えば、野生生物保護では、AIカメラトラップは、コンピュータビジョンモデルを使用して、動物をリアルタイムで識別および分類します。カメラが動きを検出すると、AIモデルはそれが鹿、捕食者、または密猟者であるかどうかを即座に認識し、研究者が人間の介入なしに動物の個体数を追跡し、絶滅危惧種を保護するのに役立ちます。この迅速な識別により、リアルタイムの監視と潜在的な脅威への迅速な対応が実現可能になります。
学習済み機械学習モデルは、必ずしもそのままの形でデプロイできるとは限りません。推論エンジンは、機械学習モデルを効率的に実行し、実際のデプロイメントに向けて最適化するために設計された特殊なソフトウェアまたはハードウェアツールです。モデル圧縮、量子化、グラフ変換などの最適化技術を使用して、パフォーマンスを向上させ、リソース消費を削減し、さまざまな環境にモデルをデプロイできるようにします。
推論エンジンの核心は、計算オーバーヘッドの削減、レイテンシの最小化、および高速かつ正確な予測を可能にする効率の向上に重点を置いています。最適化されると、エンジンは新しいデータでモデルを実行し、リアルタイムで効率的に推論を生成できます。この最適化により、AIモデルは、高性能クラウドサーバーと、スマートフォン、IoTデバイス、組み込みシステムなどのリソースが制約されたエッジデバイスの両方でスムーズに実行できます。
推論レイテンシとは、AIシステムが入力データ（カメラからの画像など）を受信してから、出力（画像内のオブジェクトの検出など）を生成するまでの時間遅延です。わずかな遅延でも、リアルタイムAIアプリケーションのパフォーマンスとユーザビリティに大きな影響を与える可能性があります。
推論レイテンシは、主に次の3つの段階で発生します。
推論レイテンシは、リアルタイムアプリケーションにおいて非常に重要です。たとえば、組立ラインでの自動欠陥検出では、コンピュータビジョンを使用して、コンベヤーベルト上を移動する製品を検査できます。
システムは、製品が次の段階に進む前に、欠陥を迅速に特定してフラグを立てる必要があります。モデルの画像処理に時間がかかりすぎると、欠陥のあるアイテムを時間内に検出できず、材料の無駄、コストのかかる手直し、または欠陥のある製品が顧客に届く可能性があります。レイテンシを削減することで、製造業者は品質管理を改善し、効率を高め、損失を削減できます。
推論の遅延を最小限に抑えることは、多くのコンピュータビジョンアプリケーションにおいて不可欠です。これを実現するために、さまざまな手法を使用できます。ここでは、推論の遅延を短縮するために使用される最も一般的な手法について説明します。
モデルの枝刈りは、不要な接続（重み）を削除してニューラルネットワークを簡素化し、モデルをより小さく、より高速にします。このプロセスにより、モデルの計算負荷が軽減され、精度に大きな影響を与えることなく速度が向上します。
プルーニングは、最も重要な接続のみを維持することで、効率的な推論とより優れたパフォーマンスを保証します。特に、処理能力が限られたデバイスでは有効です。モバイルAI、ロボット工学、エッジコンピューティングなどのリアルタイムアプリケーションで広く使用されており、信頼性を維持しながら効率を高めます。
モデルの量子化は、AIモデルが計算に使用する数値を簡素化することで、AIモデルの実行を高速化し、メモリの使用量を削減する技術です。通常、これらのモデルは32ビットの浮動小数点数を使用しますが、これは非常に正確ですが、多くの処理能力を必要とします。量子化は、これらの数値を8ビット整数に減らすことで、処理が容易になり、占有スペースが少なくなります。
AIモデルの設計は、予測を行う速さに大きな影響を与えます。効率的な推論のために構築されたYOLOv8のようなモデルは、処理速度が重要なアプリケーションに最適です。
AIソリューションを構築する際には、利用可能なリソースとパフォーマンスのニーズに基づいて適切なモデルを選択することが重要です。重すぎるモデルから始めると、処理時間の遅延、消費電力の増加、リソースが限られたデバイスへの展開の困難さなどの問題が発生しやすくなります。軽量モデルは、特にリアルタイムおよびエッジアプリケーションにおいて、スムーズなパフォーマンスを保証します。
レイテンシを削減するためのさまざまな手法がある一方で、リアルタイム推論の重要な要素は、速度と精度のバランスを取ることです。モデルを高速化するだけでは不十分で、精度を損なうことなく推論速度を最適化する必要があります。迅速であっても不正確な予測を生成するシステムは効果的ではありません。そのため、モデルが実際の状況で適切に機能することを保証するために、徹底的なテストが不可欠です。テスト中は高速に見えても、実際の条件下では失敗するシステムは、真に最適化されているとは言えません。
次に、リアルタイム推論が、視覚入力に対する即時の応答を可能にすることで、業界を変革している実際のアプリケーションをいくつか順を追って説明します。
YOLO11のようなコンピュータビジョンモデルは、アイテム認識をより高速かつ正確にすることで、セルフレジシステムを改善するのに役立ちます。オブジェクト検出やインスタンスセグメンテーションなどのさまざまなコンピュータビジョンタスクに対するYOLO11のサポートにより、バーコードがない場合や破損している場合でも、製品を識別できます。Vision AIは、手動入力を減らし、チェックアウトプロセスを高速化できます。
製品識別の枠を超え、コンピュータビジョンはセルフレジシステムに統合して、価格の検証、不正行為の防止、顧客の利便性向上にも役立ちます。AI搭載カメラは、類似製品を自動的に区別し、レジでの不審な行動を検出できます。これには、顧客またはレジ担当者が意図せず商品をスキャンし忘れる「非スキャン」や、より悪質な不正行為である、より高価な商品に安価なバーコードを貼り付ける「商品すり替え」の検出が含まれます。
この良い例としては、米国の大手小売業者であるKrogerがあり、コンピュータービジョンとAIをセルフチェックアウトシステムに統合しています。リアルタイムのビデオ分析を使用することで、Krogerはチェックアウトエラーの75％以上を自動的に修正し、顧客体験と店舗運営の両方を改善することができました。
品質管理のために手動で製品を検査するのは時間がかかり、必ずしも正確ではありません。そのため、多くの製造業者が、コンピュータビジョンを使用して製造プロセスの早い段階で欠陥を検出する、画像検査ワークフローに切り替えています。
高解像度カメラとVision AIは、人間が見逃す可能性のある小さな欠陥を見つけることができ、YOLO11のようなモデルは、リアルタイムの品質チェック、選別、およびカウントに役立ち、完璧な製品のみが顧客に届くようにします。このプロセスを自動化することで、時間を節約し、コストを削減し、無駄を減らし、生産をよりスムーズかつ効率的にします。
リアルタイム推論は、AIモデルが瞬時に意思決定を行うのに役立ち、多くの業界で非常に重要です。自動運転車が事故を回避したり、医師が迅速に医療スキャンを分析したり、工場が製品の欠陥を検出したりするなど、高速かつ正確なAI応答は大きな違いをもたらします。
AIモデルの速度と効率を向上させることで、現実の状況でシームレスに動作する、よりスマートで信頼性の高いシステムを構築できます。テクノロジーの進歩に伴い、リアルタイムAIソリューションは今後も未来を形作り、日常のプロセスをより速く、より安全に、より効率的にしていきます。
詳細については、GitHubリポジトリにアクセスし、コミュニティにご参加ください。ソリューションページで、AIを活用した自動運転車や農業におけるコンピュータビジョンなどの分野におけるイノベーションをご覧ください。ライセンスオプションをご確認いただき、Vision AIプロジェクトを実現してください。
