量子化対応トレーニング（QAT）

量子化を考慮したトレーニングの仕組み

モデルが完全に学習された後に量子化する手法とは異なり、QATは量子化効果のシミュレーションを学習プロセスに直接統合する。QATは、学習中にモデル・アーキテクチャ内に「擬似量子化」ノードと呼ばれる操作を導入する。これらのノードは、フォワードパスの間、モデルの重みと活性度に対する低精度（例えばINT8精度）の効果を模倣し、真に量子化されたモデルと同じように値を丸めます。しかし、バックワードパス（バックプロパゲーショ ンを介してモデルが学習する）では、勾配は通常、標準的な高精度浮動小数点 数を使用して計算され、更新が適用されます。これにより、モデルのパラメータは適応し、実際の量子化推論で発生する精度損失に対してロバストに学習することができます。学習中に量子化の影響を「見る」ことで、モデルは、モデルの最適化戦略で議論される重要な側面である、低精度フォーマットでのモデルの展開に関連しがちな精度の低下を最小限に抑えることができます。TensorFlow Liteや PyTorchなどのフレームワークは、QATを実装するためのツールを提供している。

関連概念との区別

QATの実世界での応用

量子化を考慮したトレーニングは、効率が重要なリソース制約のある環境で高度なAIモデルを展開するために不可欠です。

1. オンデバイスコンピュータビジョン：次のような複雑なコンピュータビジョンモデルの実行 Ultralytics YOLOv8のような複雑なコンピュータビジョンモデルをスマートフォンで直接実行し、拡張現実（AR）アプリでのリアルタイムの物体検出や、写真管理ツール内での画像分類などの用途に使用します。QATは、バッテリーの大幅な消耗や待ち時間なしに、これらのモデルを効率的に実行することを可能にします。
2. 自動車とロボット工学におけるエッジAI： 自律走行車における歩行者検知や車線維持アシストなどのタスクや、ロボット工学における物体操作のためのモデルを展開します。QATは、Google Edge TPUや NVIDIA Jetsonのような特殊なハードウェア上でこれらのモデルを実行することを可能にし、重要なリアルタイム判断のための推論レイテンシを低く抑えます。これは、セキュリティアラームシステムや 駐車場管理のようなアプリケーションにとって極めて重要です。

Ultralytics 、以下のような様々なフォーマットへのモデルのエクスポートをサポートしています。 ONNX, TensorRTなど、QATワークフローと互換性のある様々なフォーマットへのモデルのエクスポートをサポートしており、多様なハードウェアへの効率的なデプロイを可能にしています。QAT に最適化されたモデルは、Ultralytics HUB のようなプラットフォームを使用して管理およびデプロイできます。QAT後に関連するメトリクスを使用してモデル性能を評価することは、精度要件が満たされていることを確認するために不可欠です。