LiteRTでUltralytics YOLOをエクスポートする

Ultralyticsでは、クラウドへの接続に依存するのではなく、必要な場所のデバイス上で直接コンピュータビジョンモデルを実行する動きが広がっていることを実感しています。モバイルアプリ、組み込みシステム、IoTセンサー、ブラウザベースのツールでは、電力と計算リソースに厳しい制約のあるハードウェア上であっても、ローカルで推論を実行する必要性が高まっています。そのため、Ultralytics YOLOモデルをLiteRTに直接エクスポートできるようになったことを発表でき、大変うれしく思います。

この需要に応えるには、開発者が環境ごとに個別のエクスポートパイプラインを保守することなく、これらすべての環境で利用できるモデル形式が必要です。

これまでも非公式のサードパーティパッケージを通じてこの機能を利用できましたが、今回の新しいインテグレーションはGoogleとの公式な協業の成果です。LiteRTチームと緊密に連携し、LiteRTを介してUltralytics YOLOモデルをTFLiteにエクスポートするエンドツーエンドのパイプラインを構築しました。このインテグレーションにより、1つのエクスポート済みUltralytics YOLOモデルをモバイル、組み込み、エッジ、ブラウザ環境に展開できます。従来はTFLiteとTF.jsのエクスポート形式が個別に担っていた機能を、1つの効率化された形式に統合します。

LiteRTとは何ですか？#

LiteRT（Lite Runtimeの略）は、Googleが提供するオンデバイスAI向けの高性能ランタイムです。TensorFlow Lite（TFLite）の次世代版であり、新しい名称でもあります。開発者がすでに使い慣れているものと同じ.tfliteモデル形式を実行します。

LiteRTは、オンデバイス推論、すなわちエッジコンピューティング専用に設計されたオープンソースフレームワークです。トレーニング済みモデルをモバイル、組み込み、IoTデバイス、従来型のコンピューター上で実行するためのツールを開発者に提供し、さらにLiteRT.jsを通じて、WebブラウザやNode.jsで直接実行できます。LiteRTのエクスポート形式は、物体検出、セグメンテーション、姿勢推定、分類などのタスク向けにモデルを最適化し、幅広いデバイス上で高速かつオフラインに実行できるようにします。

Ultralytics YOLOモデルをLiteRTにエクスポートする理由#

1つのモデル形式で、すべてのデプロイ先に対応できるようになりました。

• モバイルおよび組み込み。 Android、iOS、Desktop、組み込みLinux、マイクロコントローラー（MCUs）。

• エッジアクセラレーター。 さらなる高速化のため、Coral Edge TPUと互換性があります。

• ブラウザおよびNode.js。 LiteRT.jsはWebGPU/WASMアクセラレーションを使用して、Web上で同じ.tfliteモデルを実行するため、個別のTensorFlow\.jsエクスポートが不要になります。

• Desktop

この統合は、プロダクション環境へのデプロイにおける実際の障壁を取り除くという点で重要です。モバイル用に1つ、ブラウザ用に別の1つ、エッジアクセラレーター用にさらに別のエクスポートパイプラインを保守する代わりに、1回エクスポートするだけで、LiteRTが実行されるあらゆる場所にデプロイできるようになりました。

LiteRTモデルの主な機能#

• オンデバイス最適化。 データをローカルで処理してレイテンシを削減し、個人データを送信しないことでプライバシーを強化し、モデルサイズを最小化して容量を節約します。

• 複数プラットフォームのサポート。 Android、iOS、組み込みLinux、マイクロコントローラー、最新のWebブラウザ上で実行できます。

• ハードウェアアクセラレーション。 CPUではXNNPACKを活用し、OpenCL、Metal、WebGPUを介してGPUアクセラレーションを利用します。GPUアクセラレーションは、さらなる高速化のためデフォルトでFP16を使用します。

• 量子化。 FP32、静的INT8、静的INT16アクティベーション、動的INT8をサポートし、モデルを圧縮するとともに、精度をほとんど損なわずに推論を高速化します。

• 多様な言語のサポート。 Java/Kotlin、Swift、Objective-C、C++、Python、JavaScriptと互換性があります。

LiteRTエクスポートを始める#

Ultralytics PythonパッケージとUltralytics Platformは、5つすべてのコンピュータビジョンタスクにわたってYOLOモデルをトレーニング、評価、デプロイするための完全に統合された環境を提供します。LiteRTエクスポート形式は、Export、Predict、Validateモードをサポートしているため、モデルをエクスポートした直後に、ローカルで推論や精度検証に使用できます。

モデルのエクスポートは、1つのコマンドで実行できます。

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert") # creates 'yolo26n.tflite'

制約のあるハードウェアにデプロイするチーム向けに、LiteRTは量子化エクスポートにも対応しており、精度をほとんど損なわずにモデルを圧縮して推論を高速化できます。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# Dynamic INT8: int8 weights, FP32 activations - no calibration data needed
model.export(format="litert", quantize="w8a32")

# Static INT8: int8 weights + int8 activations - needs calibration data
model.export(format="litert", quantize=8, data="coco8.yaml")

エクスポート後、モデルを直接読み込んで推論を実行できます。

from ultralytics import YOLO

# Load the exported LiteRT model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

LiteRTエクスポートは現在、Linux x86_64とmacOSでサポートされています。エクスポートされた.tfliteモデル自体は、モバイル、組み込み、エッジ、ブラウザなど、LiteRTがサポートするすべてのプラットフォームで実行できます。

図1. ONNXとLiteRTのパフォーマンス比較。

上の画像は、クライアント側推論向けのnpmパッケージであり、ONNX Runtime Webを介してWebGPU/WASM上で推論を実行するUltralyticsの@ultralytics/yoloを使用し、ブラウザー上で実行したYOLO26nについて、検出、セグメンテーション、ポーズ推定の平均推論時間を比較したものです。2024年製のApple MacBook Pro（Apple Silicon M4）を使用し、制御されたブラウザー環境でベンチマークを実施しました。

Ultralytics YOLOをエッジへ#

LiteRTを使用すると、モバイル、組み込み、エッジ、ブラウザ環境にUltralytics YOLOモデルをデプロイする際に、ターゲットごとに個別のエクスポートパイプラインを用意する必要がなくなります。1回のエクスポート、1つのモデル形式、そして推論を実行する必要がある場所を問わず、トレーニングからプロダクションまで一貫したパスを実現できます。

ビジョンAIに関心がありますか？ライセンスオプションをご覧いただき、コンピュータビジョンをプロジェクトに導入してください。GitHubリポジトリでUltralyticsのエクスポートインテグレーションの全容を確認し、Ultralytics Platformで独自のエンドツーエンドのビジョンAIワークフローの構築を始めましょう。