Ultralytics YOLOモデルをエッジデバイス上でファインチューニングすることで、Scaleoutはデータをその場に保持し、オフラインで動作し、数週間ではなく数時間で新しい検出モデルを提供します。
機械学習モデルのトレーニングでは通常、すべてのデータを1か所に集約してクラウドに送信し、完成したモデルをデプロイできることを前提とします。しかし、多くの実環境ではこの前提は成り立ちません。防衛、産業、規制対象の環境では、プライバシー法、セキュリティ分類、または単純に帯域幅のコストによってデータの場所が制約されており、それらの場所を接続するネットワークも常に信頼できるとは限りません。
Scaleoutは、まさにこうした条件に対応するインフラストラクチャを構築しています。同社のプラットフォームであるScaleout Edgeは、データをモデルのもとへ移動するのではなく、フェデレーテッドラーニングを使用してデータが存在する場所でモデルをトレーニングします。コンピュータビジョンプロジェクトでは、Scaleoutは各サイトに配備されたGPUアクセラレーション搭載エッジステーションであるVision Ground Node上で、Ultralytics YOLOモデルのカスタムトレーニングとファインチューニングを行います。これにより、機密性の高い画像をデバイスの外部に出すことなく、現場で検出性能を継続的に向上できます。
データが存在する場所で機械学習を実行#
2018年に、大規模分散システムに取り組んでいたウプサラ大学の研究者によって設立されたScaleoutは、データを一元化できない場所でも機械学習を可能にすることを目指しました。同社は、データを1か所に集約することが困難または不可能な状況に注力しており、フェデレーテッドラーニングを中核的な仕組みとして実現しています。
フェデレーテッドラーニングでは、多数のデバイスに分散してトレーニングを行い、その後、各デバイスのモデル更新を中央のコントロールプレーンに集めて、新しいグローバルモデルに統合します。各デバイスは自身のローカル環境を理解することでメリットを得る一方、フリート全体は集合知の恩恵を受けます。データは本来あるべき場所に留まり、移動するのはモデルが学習した内容だけです。
Scaleoutの取り組みは、防衛、産業、輸送、その他の規制対象セクターに及び、NATO DIANAアクセラレータープログラムやBAE Systemsとの連携などが含まれます。いずれの場合も、データを移動できない一方で、モデルは改善し続ける必要があるという構図は同じです。
エッジ機械学習の複雑さ#
Scaleoutが現場でのモデルのトレーニングに直面した制約を詳しく見てみましょう。
-
限られたハードウェア: 現場のデプロイ環境にはデータセンターのサーバーがなく、ドローンに搭載されたコンピューターのような、小型で低消費電力のデバイスしかありません。完成したモデルを実行することは可能ですが、再トレーニングにははるかに多くの計算能力が必要です。
-
デバイスにロックされたデータ: 再トレーニングに必要な映像は専有データであることが多く、中央サーバーに送信できないため、モデルはエッジの外部に出ることのないデータから学習する必要があります。
-
現場に専門家がいない: 現場でデータを収集するオペレーターが機械学習エンジニアであることはほとんどないため、再トレーニングをデータサイエンスの専門知識を持つ担当者が現場にいることに依存できません。
-
絶えず変化する条件: 現場環境は急速に変化するため、モデルは時間のかかる定期的な再トレーニングサイクルではなく、継続的に更新する必要があります。
エッジでUltralytics YOLOモデルをファインチューニング#
こうした制約に対応するため、ScaleoutはUltralytics YOLOモデルを中心に、完全に現場で実行されるトレーニングループを構築しました。
各サイトでは、独自の計算リソースとストレージを備えたGPUアクセラレーション搭載エッジステーションであるVision Ground Nodeが、ドローンのフリートと並んで配置されます。ドローンが映像を撮影すると、ノードが最も有用なフレームを選択し、オペレーターがラベルを付け、そのローカルハードウェア上でYOLOモデルをファインチューニングします。
数エポックのトレーニング後、更新されたモデルだけがコントロールプレーンに送り返され、生の映像は一切送信されません。このループは、Scaleout Edgeプラットフォームの拡張機能であり、コンピュータビジョンプロジェクトに必要なツールを単一のパッケージにまとめたScaleoutのビジョンモジュールを通じて提供されます。
フレーム選択、アノテーション、トレーニング、デプロイを統合し、検出にはUltralytics YOLOを使用するため、チームはこれらの要素を自ら組み立てるのではなく、動作する基盤の上に構築できます。
Scaleoutはまず、NATO DIANAアクセラレータープログラムでこのアプローチを実用化し、YOLOv8を使用して現場で収集したデータによる検出のファインチューニングを行いました。そのデータは現場のネットワーク経由で移動させることも、専有上の理由から一元化することもできなかったため、チームはファインチューニングを分散化し、モデルが新しい例からローカルに学習できるようにしました。
このループは、データサイエンティストではなくオペレーターが使用することを前提に構築されています。システムが専門家ではない担当者による重要なフレームの確認とラベル付けをガイドするため、現場の担当者は自分たちでモデルを継続的に改善できます。
これを支えるツールには、アノテーション用のLabel Studioオープンソース版、ドローンの映像ストリームを取り込むストリーミングサーバー、ファインチューニング用のUltralytics Pythonパッケージがあります。これらはすべて、デプロイ環境に応じてNVIDIA Jetsonモジュールから堅牢な現場ユニットやノートパソコンまで、さまざまなハードウェア上で動作します。
なぜUltralytics YOLOモデルを選ぶのか#
Scaleoutにとって、Ultralytics YOLOの最大の利点はモデルが軽量であることであり、これによって低品質な接続環境でもフェデレーテッドトレーニングが実用的になります。生データを移動させるのではなく、Scaleoutはモデル更新だけを移動させます。最もよく使用するモデルであるUltralytics YOLOv8 nanoは約10.7 MBであるため、帯域幅が限られている場合でも、完全な更新を小さなパッケージとして送信できます。
Ultralytics Pythonパッケージは、Scaleoutのエンジニアにさまざまなハードウェアにまたがってトレーニングとデプロイを行う柔軟性も提供します。コンパクトなYOLOv8 nanoモデルは制約のあるエッジデバイス上でも快適に動作し、パッケージのエクスポートオプションは、Scaleoutが扱うさまざまな環境へのデプロイをサポートします。モデルは簡単にファインチューニングできるため、チームは現場の条件の変化に応じて迅速に反復できます。
Ultralytics YOLOがScaleoutのモデル更新を高速化#
Ultralytics YOLOを使用すると、負荷の大きい作業の大部分をデバイス上に留められます。トレーニングは数百GBの現場映像を使って実行されますが、実際に移動するのは約10 MBのモデルです。これにより、移動が必要なデータ量が約10分の1になり、これらのデプロイ環境が依存する限られたネットワーク上でもフェデレーテッドトレーニングが可能になります。
このアプローチは、改善されたモデルを現場に戻すまでの速度も変えます。データの収集、中央拠点への送付、再トレーニング、再デプロイに通常は数週間または数か月かかるところ、ループをエッジで実行すれば数日から数時間に短縮できます。
この効果は、Scaleoutのドローンに関する取り組みに最も明確に表れています。防衛偵察では、ドローンが捜索パターンに沿って飛行し、搭載されたUltralytics YOLOモデルを使って関心対象をリアルタイムに検出、識別、地理的位置特定します。処理はすべて、分析のために外部へ送信するのではなく、ドローン自身のコンピューター上で実行されます。
ドローンが新しい映像を収集すると、そのデータはVision Ground Nodeに送られ、そこで新しいフレームを使ってYOLOがファインチューニングされ、更新されたモデルが送り返されます。映像がサイトの外部に出ることは一切ありません。検出モデルは急速に変化する条件と移動できないデータに対応し続ける必要があり、ローカルで再トレーニングされたモデルは、静的な中央トレーニングモデルが取り残される環境でも有用であり続けます。
図1. ScaleoutとUltralytics YOLOがAIドローンを支援する仕組みの例（出典）
同じパターンはドローン以外にも広がります。エネルギー施設や遠隔施設などの産業環境では、各場所のデータが機密性を持つ場合でも、施設の境界を生データが越えることなく、多数のサイトにわたって検出モデルを改善できます。データがドローン上にあるか固定設備上にあるかにかかわらず、Scaleoutは映像をその場に保持し、モデルが学習した内容だけを移動させます。
データを移動できない環境に適応型AIを構築#
Scaleoutは成長に伴い、フェデレーテッド方式でエッジベースのコンピュータビジョンを、より多くの環境とハードウェアへ拡張し続けています。あらかじめ構築されたモジュールは数か月に及ぶ統合作業を数日に短縮するよう設計されているため、顧客は独自のハードウェアを持ち込み、基盤となる機械学習コードを再構築することなく、適応型学習ループを導入できます。
検出パイプラインの中核にUltralytics YOLOを据えることで、Scaleoutは従来のアプローチでは対応できない環境でも、まさにその環境でAIをトレーニングし、改善できるようにしています。データをその場に保持し、ネットワーク障害時にも運用を継続し、エッジデバイスのフリート全体を継続的に学習するシステムへと変えています。
Vision AIで実現できることを探ってみませんか？GitHubリポジトリにアクセスして、YOLOモデルが製造業におけるAIやロボティクスにおけるコンピュータビジョンなどの分野をどのように変革しているかをご覧ください。ライセンスオプションを確認して、よりスマートな自動化に向けた取り組みを始めましょう。
