コンピュータービジョンにおけるプルーニングと量子化: クイックガイド

技術の進歩に伴い、エッジデバイスはますます一般的になっています。心拍数を追跡するスマートウォッチから街を監視するドローンまで、エッジシステムはデバイス内でリアルタイムにデータを処理できます。

この手法は、特にナンバープレート検出やジェスチャートラッキングといった個人データに関わるアプリケーションにおいて、データをクラウドに送信するよりも高速かつ安全な場合が多くあります。これらは、機械が視覚情報を解釈して理解できるようにする人工知能（AI）の一分野であるコンピュータビジョンの例です。

図1：ナンバープレート検出の例。(出典)

しかし、考慮すべき重要な点は、こうしたアプリケーションでは高度な計算を処理でき、リソースの使用を最小限に抑え、独立して動作するVision AIモデルが必要になるということです。多くのコンピュータビジョンモデルは高性能システム向けに開発されており、エッジデバイスへの直接展開には適していない場合があります。

このギャップを埋めるため、開発者はモデルを小型ハードウェアで効率的に動作させるよう適応させる、ターゲットを絞った最適化を適用することがよくあります。これらの調整は、メモリや処理能力が限られている現実世界のエッジ展開において極めて重要です。

興味深いことに、Ultralytics YOLO11のようなコンピュータビジョンモデルは、最初からエッジでの効率を考慮して設計されており、リアルタイムのタスクに最適です。しかし、プルーニングや量子化といったモデル最適化技術を用いることで、その性能をさらに向上させることができ、制約のあるデバイス上でより高速な推論と低いリソース使用量が可能になります。

本記事では、プルーニングと量子化とは何か、それらがどのように機能するのか、そしてそれらがどのようにYOLOモデルの現実世界のエッジ展開におけるパフォーマンスに寄与できるのかを詳しく見ていきます。さあ、始めましょう！

Link to this sectionプルーニングと量子化：モデル最適化の核となる技術#

Vision AIモデルをエッジデバイスでの展開に向けて準備する際、重要な目標の一つは、パフォーマンスを犠牲にすることなくモデルを軽量かつ信頼性の高いものにすることです。これには通常、メモリ、電力、処理能力が限られたハードウェアで効率的に動作できるように、モデルのサイズと計算負荷を削減することが含まれます。これを行う一般的な2つの方法が、プルーニングと量子化です。

プルーニングは、ニューラルネットワークをより小さく効率的にするために役立つAI モデル最適化技術です。多くの場合、特定の接続やノードといったモデルの一部は、最終的な予測にあまり寄与しません。プルーニングは、これらの重要度の低い部分を特定して削除することで、モデルのサイズを縮小し、パフォーマンスを高速化します。

一方、量子化は、モデルが使用する数値の精度を低下させる最適化技術です。高精度な32ビット浮動小数点数に頼る代わりに、モデルを8ビット整数のような、より小さく効率的な形式に切り替えます。この変更により、メモリ使用量を抑え、モデルが予測を行うプロセスである推論を高速化できます。

図2：プルーニングと量子化の概要。(出典)

Link to this sectionプルーニングと量子化の仕組み#

さて、プルーニングと量子化について理解が深まったところで、それぞれの仕組みを見ていきましょう。

プルーニングは、感度分析と呼ばれるプロセスを使用して行われます。これにより、特定の重み、ニューロン、チャンネルなど、ニューラルネットワークモデルのどの部分が最終的な出力予測に最も寄与していないかが特定されます。これらの部分は、精度への影響を最小限に抑えながら削除できます。プルーニングの後、通常はパフォーマンスを微調整するためにモデルの再トレーニングが行われます。このサイクルを繰り返すことで、サイズと精度の適切なバランスを見つけることができます。

一方、モデル量子化は、モデルがデータをどのように扱うかに焦点を当てています。まずはキャリブレーションから始まり、モデルがサンプルデータ上で実行され、処理する必要のある値の範囲を学習します。その後、それらの値が32ビット浮動小数点から8ビット整数のような低精度形式に変換されます。

図3：量子化はモデルのサイズと複雑さの軽減に役立ちます。(出典)

現実のAIプロジェクトでプルーニングと量子化を容易に導入できるようにするツールがいくつか存在します。PyTorchやTensorFlowのようなほとんどのAIフレームワークには、これらの最適化技術に対する組み込みのサポートが含まれており、開発者はモデル展開プロセスに直接統合できます。

モデルが最適化されると、ONNX Runtimeのようなツールを使用して、サーバー、デスクトップ、エッジデバイスなど、さまざまなハードウェアプラットフォームで効率的に実行できるようになります。また、UltralyticsはYOLOモデルを量子化に適した形式でエクスポートできる統合を提供しており、モデルサイズの縮小とパフォーマンス向上が容易になります。

Link to this sectionUltralytics YOLOモデル最適化の概要#

YOLO11のようなUltralytics YOLOモデルは、高速なシングルステップの物体検出で広く知られており、リアルタイムのVision AIタスクに最適です。これらはすでに軽量でエッジ展開に適した効率性を備えるよう設計されています。しかし、視覚的特徴の処理を担う層（畳み込み層）は、推論中に依然としてかなりの計算能力を必要とする場合があります。

YOLO11がすでにエッジ向けに最適化されているのに、なぜさらなる最適化が必要なのか疑問に思うかもしれません。端的に言えば、すべてのエッジデバイスが同じではないからです。標準的なLED電球よりも消費電力の少ない、非常に小さな組み込みプロセッサのような、最小限のハードウェアで動作するものもあります。

こうしたケースでは、YOLO11のように効率化されたモデルであっても、スムーズで信頼性の高いパフォーマンスを保証するために追加の最適化が必要です。プルーニングや量子化といった技術は、精度に大きな影響を与えることなく、モデルサイズを縮小し、推論を高速化するのに役立ち、このような制約のある環境に最適です。

これらの最適化技術を適用しやすくするため、Ultralyticsは、YOLOモデルをONNX、TensorRT、OpenVINO、CoreML、PaddlePaddleなどの複数の形式にエクスポートするために使用できるさまざまな統合をサポートしています。各形式は、特定の種類のハードウェアや展開環境でうまく機能するように設計されています。

例えば、ONNXは幅広いツールやプラットフォームとの互換性があるため、量子化のワークフローでよく使用されます。一方、TensorRTはNVIDIAデバイス向けに高度に最適化されており、INT8を使用した低精度推論をサポートしているため、エッジGPUでの高速展開に最適です。

Link to this sectionUltralytics YOLOモデル最適化のインパクトのある活用事例#

コンピュータビジョンがさまざまな現実のアプリケーションへと拡大し続ける中、最適化されたYOLOモデルにより、物体検出、インスタンスセグメンテーション、物体追跡といったタスクをより小型で高速なハードウェアで実行できるようになりました。次に、プルーニングと量子化によって、これらのコンピュータビジョンのタスクがより効率的かつ実用的になるいくつかの活用事例について解説します。

Link to this sectionYOLO11によるスマート監視#

多くの産業スペースや公共エリアでは、安全性とセキュリティを維持するためにリアルタイム監視に依存しています。交通機関の駅、製造現場、大規模な屋外施設などは、人や車両を迅速かつ正確に検出できるVision AIシステムを必要としています。多くの場合、こうした場所は接続性やハードウェアに制限があり、大規模なモデルを導入することが困難です。

そのような場合、YOLO11のような最適化されたVision AIモデルが優れた解決策となります。そのコンパクトなサイズと高速なパフォーマンスにより、組み込みカメラやスマートセンサーのような低電力エッジデバイスでの実行に最適です。これらのモデルは、恒常的なクラウドアクセスに頼ることなく、デバイス上で直接視覚データを処理し、安全違反、不正な侵入、異常な動作のリアルタイム検出を可能にします。

図4：YOLO11は地下鉄駅のような公共の場所を監視するために使用できます。

Link to this sectionYOLO11による建設現場の安全性向上#

建設現場は、重機、移動する作業員、絶え間ない活動であふれ、ペースが速く予測不可能な環境です。スケジュール変更、機器の移動、天候の急変などにより、状況は急速に変化する可能性があります。このようなダイナミックな環境では、作業員の安全確保が絶え間ない課題と感じられるかもしれません。

リアルタイム監視は極めて重要な役割を果たしますが、従来のシステムはクラウドアクセスや高価なハードウェアに依存することが多く、現場では実用的でない場合があります。ここでYOLO11のようなモデルが大きな効果を発揮します。YOLO11は、インターネット接続を必要とせず、現場で直接動作する小型で効率的なエッジデバイスで実行できるように最適化できます。

例えば、数エーカーに及ぶ高速道路拡張のような大規模な建設現場を考えてみてください。このような状況では、すべての車両や機材を手動で追跡するのは困難で時間がかかります。カメラと最適化されたYOLO11モデルを搭載したドローンは、車両の自動検出と追跡、交通流の監視、不法侵入や危険な運転行動などの安全上の問題を特定することで役立ちます。

図5：建設現場からのドローン画像を分析。(出典)

Link to this sectionコンピュータビジョンにおけるプルーニングと量子化の利点と欠点#

コンピュータビジョンのモデル最適化手法であるプルーニングと量子化がもたらす主な利点をいくつか紹介します。

• コスト効率の高い展開： より小さく効率的なモデルは、高価なハイエンドハードウェアの必要性を減らし、AIをさまざまなユースケースでより利用しやすくスケーラブルなものにします。
• 低レイテンシ： モデルアーキテクチャを簡素化し計算オーバーヘッドを削減することで、リアルタイムアプリケーションでの高速な応答時間を実現するのに役立ちます。
• エネルギー効率： 計算負荷の削減は消費電力も低下させるため、バッテリー駆動のシステムやモバイルシステムにとって特に有益です。

プルーニングと量子化は多くの利点を提供する一方で、モデルを最適化する際に開発者が考慮すべきトレードオフも存在します。留意すべきいくつかの制限を以下に示します。

• 精度のトレードオフ： プルーニングが過度である場合や、非常に低いビットの量子化が使用される場合、mAPのような指標で測定されるモデルの精度が低下する可能性があります。
• ハードウェアの制約： すべてのデバイスがINT8のような低精度形式を同等にサポートしているわけではありません。これは、最適化されたモデルをどこで、どのように展開できるかを制限する可能性があります。
• 実装の複雑さ： 良い結果を得るには、多くの場合、モデル固有の慎重な調整が必要です。効率性を改善しつつパフォーマンスを維持するために、開発者はモデルの再トレーニングや広範なテストを行う必要があるかもしれません。

Link to this section重要なポイント#

プルーニングと量子化は、YOLOモデルがエッジデバイス上でより優れたパフォーマンスを発揮できるようにするための有用な技術です。これらはモデルのサイズを縮小し、計算の必要性を低下させ、予測を高速化しますが、精度の著しい低下はありません。

これらの最適化手法はまた、開発者がモデルを完全に再構築することなく、さまざまな種類のハードウェアに合わせて調整する柔軟性をもたらします。適切な調整とテストを行えば、現実の状況にVision AIを適用することがより容易になります。

成長を続ける私たちのコミュニティに参加しましょう！AIについてより詳しく学ぶには、GitHubリポジトリを探索してください。コンピュータビジョンプロジェクトを開始する準備はいいですか？私たちのライセンスオプションをご確認ください。私たちのソリューションページにアクセスして、農業におけるAIやヘルスケアにおけるVision AIについて発見してください！