Ultralytics YOLOをLiteRTにエクスポートする

Ultralyticsでは、クラウドへの接続に依存するのではなく、コンピュータビジョンモデルが必要なデバイス上で直接実行する傾向が強まっています。モバイルアプリ、組み込みシステム、IoTセンサー、ブラウザベースのツールでは、ローカルでの推論実行がますます求められており、多くの場合、電力や計算リソースが限られたハードウェア環境での運用が必要です。そこで、Ultralytics YOLOモデルがLiteRTに直接エクスポート可能になったことをお知らせします。

このような需要に応えるには、開発者がターゲットごとに個別のエクスポートパイプラインを維持することなく、あらゆる環境で利用できるモデルフォーマットが必要です。

この機能は以前、非公式のサードパーティ製パッケージを通じて存在していましたが、今回の統合はGoogleとの公式なコラボレーションの成果です。私たちはLiteRTチームと緊密に連携し、Ultralytics YOLOモデルをLiteRT経由でTFLiteにエクスポートするためのエンドツーエンドのパイプラインを構築しました。この統合により、エクスポートされた単一のUltralytics YOLOモデルが、モバイル、組み込み、エッジ、ブラウザ環境全体で展開可能となり、これまで別々に処理されていたTFLiteとTF.jsのエクスポートフォーマットが1つの合理化されたフォーマットに統合されます。

Link to this sectionLiteRTとは何ですか？#

LiteRT (Lite Runtimeの略称) は、デバイス上でのAI実行を目的としたGoogleの高性能ランタイムです。これはTensorFlow Lite (TFLite) の次世代版であり、新しい名称でもあります。開発者がすでに慣れ親しんでいる既存の .tflite モデルフォーマットで動作します。

LiteRTは、エッジコンピューティングとしても知られるデバイス上での推論のために特別に設計されたオープンソースフレームワークです。開発者がモバイル、組み込み、IoTデバイス、従来のコンピュータ、そしてLiteRT.jsを通じてWebブラウザやNode.jsで直接、学習済みモデルを実行するためのツールを提供します。LiteRTエクスポートフォーマットは、物体検出、セグメンテーション、姿勢推定、分類といったタスク向けにモデルを最適化するため、幅広いデバイスで高速かつオフラインでの動作を実現します。

Link to this sectionなぜUltralytics YOLOモデルをLiteRTにエクスポートするのですか？#

単一のモデルフォーマットで、あらゆるデプロイメントターゲットをカバーできるようになりました。

• モバイルおよび組み込み: Android、iOS、デスクトップ、組み込みLinux、およびマイクロコントローラ (MCU)。

• エッジアクセラレータ: Coral Edge TPUと互換性があり、さらなる高速化が可能です。

• ブラウザおよびNode.js: LiteRT.jsは、WebGPU/WASMアクセラレーションを活用してWeb上で同一の .tflite モデルを実行するため、個別のTensorFlow.jsエクスポートが不要になります。

• デスクトップ

この統合は、本番環境へのデプロイにおける摩擦を根本から取り除くため重要です。モバイル用、ブラウザ用、エッジアクセラレータ用といった複数のエクスポートパイプラインを維持する代わりに、チームは一度エクスポートすれば、LiteRTが動作するすべての環境に展開できるようになります。

Link to this sectionLiteRTモデルの主な特徴#

• デバイス上での最適化: データをローカルで処理することでレイテンシを削減し、個人データを送信しないことでプライバシーを強化し、さらにモデルサイズを最小化して容量を節約します。

• マルチプラットフォームサポート: Android、iOS、組み込みLinux、マイクロコントローラ、および最新のWebブラウザで動作します。

• ハードウェアアクセラレーション: CPU上のXNNPACK、およびOpenCL、Metal、WebGPUによるGPUアクセラレーションを活用します。GPUアクセラレーションは、さらなる高速化のためにデフォルトでFP16で動作します。

• 量子化: FP32、静的INT8、静的INT16アクティベーション、および動的INT8をサポートし、精度への影響を最小限に抑えつつ、モデルの圧縮と推論の高速化を実現します。

• 多様な言語サポート: Java/Kotlin、Swift、Objective-C、C++、Python、JavaScriptと互換性があります。

Link to this sectionLiteRTエクスポートを始める#

Ultralytics PythonパッケージとUltralytics Platformは、5つのコンピュータビジョンタスクすべてにおいて、YOLOモデルのトレーニング、評価、デプロイを行うための完全かつ統合された環境を提供します。LiteRTエクスポートフォーマットはExport、Predict、Validateモードをサポートしているため、モデルをエクスポートした直後にローカル環境で推論や精度の検証を行うことができます。

モデルのエクスポートは単一のコマンドで実行できます。

from ultralytics import YOLO

\# Load a YOLO26 model
model \= YOLO("yolo26n.pt")

\# Export the model to LiteRT format
model.export(format="litert") \# creates 'yolo26n.tflite'

リソースが制限されたハードウェアへ展開するチーム向けに、LiteRTは量子化されたエクスポートもサポートしており、精度を維持したままモデルを圧縮して高速な推論を実現できます。

from ultralytics import YOLO

model \= YOLO("yolo26n.pt")

\# Dynamic INT8: int8 weights, FP32 activations \- no calibration data needed
model.export(format="litert", quantize="w8a32")

\# Static INT8: int8 weights \+ int8 activations \- needs calibration data
model.export(format="litert", quantize=8, data="coco8.yaml")

エクスポートが完了したら、モデルをロードしてすぐに推論を実行できます。

from ultralytics import YOLO

\# Load the exported LiteRT model
model \= YOLO("yolo26n.tflite")

\# Run inference
results \= model("https://ultralytics.com/images/bus.jpg")

LiteRTエクスポートは現在、Linux x86_64およびmacOSでサポートされています。エクスポートされた .tflite モデル自体は、モバイル、組み込み、エッジ、ブラウザを含む、LiteRTがサポートするすべてのプラットフォームで実行可能です。

図1. ONNXとLiteRTのパフォーマンス比較。

上の画像は、検出、セグメンテーション、姿勢推定における推論時間の平均を比較したものです。YOLO26nモデルを使用し、クライアントサイドの推論用npmパッケージである@ultralytics/yoloを通じて、ONNX Runtime Web経由のWebGPU/WASM環境でブラウザ上で実行しました。2024 Apple MacBook Pro (Apple Silicon M4) の制御されたブラウザ環境でベンチマークを取得しています。

Link to this sectionUltralytics YOLOをエッジへ#

LiteRTを使用することで、Ultralytics YOLOモデルをモバイル、組み込み、エッジ、ブラウザ環境全体に展開する際、ターゲットごとに個別のエクスポートパイプラインを用意する必要がなくなりました。一度のエクスポートで統一されたモデルフォーマットとなり、推論が必要なあらゆる場所で、トレーニングから本番環境まで一貫したワークフローを実現します。

ビジョンAIに興味がありますか？プロジェクトでコンピュータビジョンを活用するためのライセンスオプションをご覧ください。Ultralyticsエクスポート統合の全範囲についてはGitHubリポジトリをご確認ください。また、独自の完全なビジョンAIワークフローの構築を開始するには、Ultralytics Platformへアクセスしてください。