コンピュータービジョンにおけるプルーニングと量子化: クイックガイド

技術の進歩に伴い、エッジデバイスはますます一般的になっています。心拍数を追跡するスマートウォッチから街を監視するドローンまで、エッジシステムはデバイス内でリアルタイムにデータを処理できます。

この方法は、個人データを取り扱うアプリケーション、例えばナンバープレートの検出やジェスチャー追跡などにおいて、データをクラウドに送信するよりも高速で安全であることがよくあります。これらはcomputer visionの例であり、機械が視覚情報を解釈および理解できるようにする人工知能（AI）の一分野です。

図1：ナンバープレート検出の例。(Source)

しかし、重要な考慮事項として、このようなアプリケーションには、重い計算処理をこなし、最小限のリソースを使用し、独立して動作できるビジョンAIモデルが必要であるという点があります。ほとんどのcomputer vision modelsは高性能システム向けに開発されているため、エッジデバイスへの直接デプロイにはあまり適していません。

このギャップを埋めるため、開発者はモデルを小型ハードウェアで効率的に動作させるよう適応させる、ターゲットを絞った最適化を適用することがよくあります。これらの調整は、メモリや処理能力が限られている現実世界のエッジ展開において極めて重要です。

興味深いことに、Ultralytics YOLO11のようなコンピュータビジョンモデルは最初からエッジでの効率性を考慮して設計されており、リアルタイムタスクに非常に適しています。しかし、プルーニングや量子化といったモデル最適化手法を使用することで、そのパフォーマンスをさらに向上させることができ、制約のあるデバイスでもさらに高速な推論と低いリソース使用量を実現できます。

本記事では、プルーニングと量子化とは何か、それらがどのように機能するのか、そしてそれらがどのようにYOLOモデルの現実世界のエッジ展開におけるパフォーマンスに寄与できるのかを詳しく見ていきます。さあ、始めましょう！

プルーニングと量子化：モデル最適化の核となる技術#

Vision AIモデルをエッジデバイスでの展開に向けて準備する際、重要な目標の一つは、パフォーマンスを犠牲にすることなくモデルを軽量かつ信頼性の高いものにすることです。これには通常、メモリ、電力、処理能力が限られたハードウェアで効率的に動作できるように、モデルのサイズと計算負荷を削減することが含まれます。これを行う一般的な2つの方法が、プルーニングと量子化です。

プルーニングは、ニューラルネットワークをより小さく、より効率的にするAIのmodel optimization手法です。多くの場合、特定の接続やノードなど、モデルの一部は最終的な予測にあまり貢献しません。プルーニングは、こうした重要度の低い部分を特定して削除することで機能し、これによりモデルのサイズが縮小し、パフォーマンスが向上します。

一方、量子化は、モデルが使用する数値の精度を低下させる最適化技術です。高精度な32ビット浮動小数点数に頼る代わりに、モデルを8ビット整数のような、より小さく効率的な形式に切り替えます。この変更により、メモリ使用量を抑え、モデルが予測を行うプロセスである推論を高速化できます。

図2：プルーニングと量子化の概要。(Source)

プルーニングと量子化の仕組み#

pruningと量子化がどのようなものかについての理解が深まったところで、それぞれの仕組みを見ていきましょう。

プルーニングは、感度分析と呼ばれるプロセスを使用して行われます。これにより、特定の重み、ニューロン、チャンネルなど、ニューラルネットワークモデルのどの部分が最終的な出力予測に最も寄与していないかが特定されます。これらの部分は、精度への影響を最小限に抑えながら削除できます。プルーニングの後、通常はパフォーマンスを微調整するためにモデルの再トレーニングが行われます。このサイクルを繰り返すことで、サイズと精度の適切なバランスを見つけることができます。

一方、model quantizationは、モデルがデータをどのように処理するか焦点を当てています。まずキャリブレーションから始まり、モデルがサンプルデータ上で実行されて、処理に必要な値の範囲を学習します。その後、それらの値は32ビット浮動小数点数から8ビット整数のような低精度フォーマットに変換されます。

図3：量子化はモデルのサイズと複雑さを軽減するのに役立ちます。(Source)

現実のAIプロジェクトでプルーニングと量子化を容易に導入できるようにするツールがいくつか存在します。PyTorchやTensorFlowのようなほとんどのAIフレームワークには、これらの最適化技術に対する組み込みのサポートが含まれており、開発者はモデル展開プロセスに直接統合できます。

モデルが最適化されると、ONNX Runtimeのようなツールを使用して、サーバー、デスクトップ、エッジデバイスなど、さまざまなハードウェアプラットフォームで効率的に実行できるようになります。また、UltralyticsはYOLOモデルを量子化に適した形式でエクスポートできる統合を提供しており、モデルサイズの縮小とパフォーマンス向上が容易になります。

Ultralytics YOLOモデル最適化の概要#

YOLO11のようなUltralytics YOLOモデルは、高速でシングルステップのオブジェクト検出で広く知られており、リアルタイムのvision AI tasksに最適です。これらはすでにエッジデプロイメント用に軽量かつ効率的になるように設計されています。ただし、視覚的特徴の処理を担当するレイヤー（畳み込み層と呼ばれる）は、推論中になお相当な計算能力を要求する場合があります。

疑問に思われるかもしれません。Ultralytics YOLO11がすでにエッジ利用向けに最適化されているのであれば、なぜさらなる最適化が必要なのでしょうか？簡単に言えば、すべてのエッジデバイスが同じではないからです。一部のデバイスは、標準的なLED電球よりも少ない電力を消費する超小型組み込みプロセッサなど、非常に最小限のハードウェアで動作しています。

このような場合、Ultralytics YOLO11のような効率的なモデルであっても、スムーズで信頼性の高いパフォーマンスを保証するためには追加の最適化が必要です。プルーニングや量子化などの手法により、精度に大きな影響を与えることなくモデルのサイズ縮小と推論の高速化が図れるため、このような制約のある環境に最適です。

これらの最適化手法の適用を容易にするため、Ultralyticsは、YOLOモデルをONNX、TensorRT、OpenVINO、CoreML、PaddlePaddleなどの複数のフォーマットにエクスポートするために使用できるさまざまなintegrationsをサポートしています。各フォーマットは、特定のハードウェアタイプやデプロイメント環境とうまく連携するように設計されています。

例えば、ONNXは幅広いツールやプラットフォームとの互換性があるため、量子化のワークフローでよく使用されます。一方、TensorRTはNVIDIAデバイス向けに高度に最適化されており、INT8を使用した低精度推論をサポートしているため、エッジGPUでの高速展開に最適です。

Ultralytics YOLOモデル最適化のインパクトのある活用事例#

コンピュータビジョンがさまざまな現実のアプリケーションへと拡大し続ける中、最適化されたYOLOモデルにより、物体検出、インスタンスセグメンテーション、物体追跡といったタスクをより小型で高速なハードウェアで実行できるようになりました。次に、プルーニングと量子化によって、これらのコンピュータビジョンのタスクがより効率的かつ実用的になるいくつかの活用事例について解説します。

Ultralytics YOLO11を活用したスマート監視#

多くの産業スペースや公共エリアでは、安全性とセキュリティを維持するためにリアルタイム監視に依存しています。交通機関の駅、製造現場、大規模な屋外施設などは、人や車両を迅速かつ正確に検出できるVision AIシステムを必要としています。多くの場合、こうした場所は接続性やハードウェアに制限があり、大規模なモデルを導入することが困難です。

このような場合、Ultralytics YOLO11 のような最適化されたビジョン AI モデルが優れた解決策となります。そのコンパクトなサイズと高速なパフォーマンスにより、embedded cameras やスマートセンサーなどの低電力エッジデバイスでの実行に最適です。これらのモデルはデバイス上で直接視覚データを処理できるため、常時クラウドに接続することなく、安全違反、不正アクセス、異常なアクティビティをリアルタイムで検知することが可能です。

図4. Ultralytics YOLO11は、地下鉄駅などの公共スペースの監視に使用できます。

Ultralytics YOLO11による建設現場の安全性向上#

Construction sitesはペースが速く予測不可能な環境であり、重機、移動する作業員、絶え間ない作業で満ちあふれています。スケジュール変更、機器の移動、さらには天候の急変などにより、状況は急速に変化する可能性があります。このようなダイナミックな環境では、作業員の安全は継続的な課題のように感じられます。

リアルタイムモニタリングは極めて重要な役割を果たしますが、従来のシステムはクラウドアクセスや高価なハードウェアに依存することが多く、現地での導入が現実的ではない場合があります。そこで効果を発揮するのが、Ultralytics YOLO11のようなモデルです。YOLO11は、インターネット接続を必要とせず、現場で直接稼働する小型で効率的なエッジデバイス上で実行できるように最適化できます。

たとえば、数エーカーに及ぶ高速道路の拡張工事のような大規模な建設現場を考えてみます。このような環境では、すべての車両や機材を手動で追跡することは困難であり、時間もかかります。カメラと最適化された Ultralytics YOLO11 モデルを搭載したドローンを使用すれば、車両の自動検知と追跡、交通流量のモニタリング、不正アクセスや危険運転などの安全上の問題の特定を自動的に行うことができます。

図5：建設現場からのドローン画像の分析。(Source)

コンピュータビジョンにおけるプルーニングと量子化の利点と欠点#

コンピュータビジョンのモデル最適化手法であるプルーニングと量子化がもたらす主な利点をいくつか紹介します。

• コスト効率の高い展開： より小さく効率的なモデルは、高価なハイエンドハードウェアの必要性を減らし、AIをさまざまなユースケースでより利用しやすくスケーラブルなものにします。
• 低レイテンシ： モデルアーキテクチャを簡素化し計算オーバーヘッドを削減することで、リアルタイムアプリケーションでの高速な応答時間を実現するのに役立ちます。
• エネルギー効率： 計算負荷の削減は消費電力も低下させるため、バッテリー駆動のシステムやモバイルシステムにとって特に有益です。

プルーニングと量子化は多くの利点を提供する一方で、モデルを最適化する際に開発者が考慮すべきトレードオフも存在します。留意すべきいくつかの制限を以下に示します。

• Accuracyのトレードオフ： プルーニングが過剰である場合や、非常に低いビット数の量子化が使用されている場合、mAPなどの指標で測定されるモデルの精度が低下する可能性があります。
• ハードウェアの制約： すべてのデバイスがINT8のような低精度形式を同等にサポートしているわけではありません。これは、最適化されたモデルをどこで、どのように展開できるかを制限する可能性があります。
• 実装の複雑さ： 良い結果を得るには、多くの場合、モデル固有の慎重な調整が必要です。効率性を改善しつつパフォーマンスを維持するために、開発者はモデルの再トレーニングや広範なテストを行う必要があるかもしれません。

重要なポイント#

プルーニングと量子化は、YOLOモデルがエッジデバイス上でより優れたパフォーマンスを発揮できるようにするための有用な技術です。これらはモデルのサイズを縮小し、計算の必要性を低下させ、予測を高速化しますが、精度の著しい低下はありません。

これらの最適化手法はまた、開発者がモデルを完全に再構築することなく、さまざまな種類のハードウェアに合わせて調整する柔軟性をもたらします。適切な調整とテストを行えば、現実の状況にVision AIを適用することがより容易になります。

成長を続ける私たちのcommunityに参加しましょう！AIについてもっと知るためにGitHub repositoryを探索してください。コンピュータビジョンのプロジェクトを開始する準備はできましたか？licensing optionsをご確認ください。ソリューションページにアクセスして、AI in agricultureや医療分野におけるビジョンAIを発見してください！