Ultralytics YOLOをLiteRTにエクスポートする

Ultralyticsでは、クラウドへの接続に依存するのではなく、必要なデバイス上で直接computer vision modelsを実行する傾向が強まっています。モバイルアプリ、組み込みシステム、IoTセンサー、ブラウザベースのツールでは、電力や計算能力が限られたハードウェア上で、ローカルでの推論実行がますます求められています。そのため、Ultralytics YOLOモデルがLiteRTに直接エクスポートできるようになったことをお知らせいたします。

このような需要に応えるには、開発者がターゲットごとに個別のエクスポートパイプラインを維持することなく、あらゆる環境で利用できるモデルフォーマットが必要です。

この機能は以前、非公式のサードパーティ製パッケージを通じて存在していましたが、今回の統合はGoogleとの公式なコラボレーションの成果です。私たちはLiteRTチームと緊密に連携し、Ultralytics YOLOモデルをLiteRT経由でTFLiteにエクスポートするためのエンドツーエンドのパイプラインを構築しました。この統合により、エクスポートされた単一のUltralytics YOLOモデルが、モバイル、組み込み、エッジ、ブラウザ環境全体で展開可能となり、これまで別々に処理されていたTFLiteとTF.jsのエクスポートフォーマットが1つの合理化されたフォーマットに統合されます。

LiteRTとは何ですか？#

LiteRT（Lite Runtimeの略）は、オンデバイスAI向けの高パフォーマンスなGoogle製ランタイムです。これはTensorFlow Lite（TFLite）の次世代バージョンであり新しい名称であり、開発者がすでに慣れ親しんでいるのと同じ.tfliteモデル形式を実行します。

LiteRTはオンデバイス推論（edge computingとも呼ばれます）専用に設計されたオープンソースフレームワークです。モバイル、組み込み、IoTデバイス、従来のコンピュータ、およびLiteRT.jsを介してWebブラウザやNode.jsで直接トレーニング済みモデルを実行するためのツールを開発者に提供します。LiteRTのエクスポート形式は、object detection、segmentation、pose estimation、classificationなどのタスクに向けてモデルを最適化し、幅広いデバイス上で高速かつオフラインで実行できるようにします。

なぜUltralytics YOLOモデルをLiteRTにエクスポートするのですか？#

単一のモデルフォーマットで、あらゆるデプロイメントターゲットをカバーできるようになりました。

• モバイルおよび組み込み: Android、iOS、デスクトップ、組み込みLinux、およびマイクロコントローラ (MCU)。

• エッジアクセラレータ。 さらなる高速化のためにCoral Edge TPUと互換性があります。

• ブラウザおよびNode.js: LiteRT.jsは、WebGPU/WASMアクセラレーションを活用してWeb上で同一の .tflite モデルを実行するため、個別のTensorFlow.jsエクスポートが不要になります。

• デスクトップ

この統合は、本番環境へのデプロイにおける摩擦を根本から取り除くため重要です。モバイル用、ブラウザ用、エッジアクセラレータ用といった複数のエクスポートパイプラインを維持する代わりに、チームは一度エクスポートすれば、LiteRTが動作するすべての環境に展開できるようになります。

LiteRTモデルの主な特徴#

• デバイス上での最適化: データをローカルで処理することでレイテンシを削減し、個人データを送信しないことでプライバシーを強化し、さらにモデルサイズを最小化して容量を節約します。

• マルチプラットフォームサポート: Android、iOS、組み込みLinux、マイクロコントローラ、および最新のWebブラウザで動作します。

• ハードウェアアクセラレーション: CPU上のXNNPACK、およびOpenCL、Metal、WebGPUによるGPUアクセラレーションを活用します。GPUアクセラレーションは、さらなる高速化のためにデフォルトでFP16で動作します。

• 量子化: FP32、静的INT8、静的INT16アクティベーション、および動的INT8をサポートし、精度への影響を最小限に抑えつつ、モデルの圧縮と推論の高速化を実現します。

• 多様な言語サポート: Java/Kotlin、Swift、Objective-C、C++、Python、JavaScriptと互換性があります。

LiteRTエクスポートを始める#

Ultralytics Python packageとUltralytics Platformは、5つのすべてのコンピュータビジョンタスクにわたってYOLOモデルのトレーニング、評価、デプロイを行うための完全かつ統合された環境を提供します。LiteRTエクスポート形式はExport、Predict、Validateモードをサポートしているため、モデルをエクスポートした直後に、ローカルでの推論や精度検証に使用できます。

モデルのエクスポートは単一のコマンドで実行できます。

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert") # creates 'yolo26n.tflite'

リソースが制限されたハードウェアへ展開するチーム向けに、LiteRTは量子化されたエクスポートもサポートしており、精度を維持したままモデルを圧縮して高速な推論を実現できます。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# Dynamic INT8: int8 weights, FP32 activations - no calibration data needed
model.export(format="litert", quantize="w8a32")

# Static INT8: int8 weights + int8 activations - needs calibration data
model.export(format="litert", quantize=8, data="coco8.yaml")

エクスポートが完了したら、モデルをロードしてすぐに推論を実行できます。

from ultralytics import YOLO

# Load the exported LiteRT model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

LiteRTエクスポートは現在、Linux x86_64およびmacOSでサポートされています。エクスポートされた .tflite モデル自体は、モバイル、組み込み、エッジ、ブラウザを含む、LiteRTがサポートするすべてのプラットフォームで実行可能です。

図1. ONNXとLiteRTのパフォーマンス比較。

上の画像は、WebGPU/WASM上のONNX Runtime Webによるクライアントサイド推論用のUltralyticsのnpmパッケージである@ultralytics/yoloを使用してブラウザ内で実行した、YOLO26nでの検出、セグメンテーション、ポーズ推定の平均推論時間の比較を示しています。制御されたブラウザ環境において、2024 Apple MacBook Pro（Apple Silicon M4）でベンチマークを実施しました。

Ultralytics YOLOをエッジへ#

LiteRTを使用することで、Ultralytics YOLOモデルをモバイル、組み込み、エッジ、ブラウザ環境全体に展開する際、ターゲットごとに個別のエクスポートパイプラインを用意する必要がなくなりました。一度のエクスポートで統一されたモデルフォーマットとなり、推論が必要なあらゆる場所で、トレーニングから本番環境まで一貫したワークフローを実現します。

ビジョンAIに興味がありますか？プロジェクトにコンピュータビジョンを導入するためのlicensing optionsをご覧ください。GitHub repositoryにアクセスしてUltralyticsのエクスポート統合の全範囲を確認し、Ultralytics Platformをチェックして独自の端から端までのビジョンAIワークフローの構築を開始してください。