Scaleout、Ultralytics YOLOを活用してモデルのアップデート時間を数週間から数時間に短縮

機械学習モデルのトレーニングでは通常、すべてのデータを一か所に集め、クラウドへ送信して完成したモデルをデプロイできることが前提となります。しかし、多くの現実の環境ではその前提が成立しません。防衛、産業、および規制の厳しい環境全体において、データはプライバシー法、セキュリティ分類、あるいは単純に帯域幅のコストによってその場所に縛り付けられており、それらの場所を結ぶネットワークが常に信頼できるとは限らないためです。

Scaleoutはまさにこのような状況のためのインフラストラクチャを構築しています。そのプラットフォームであるScaleout Edgeは、データをモデルに移動させるのではなく、フェデレーテッドラーニングを使用してモデルのトレーニングをデータの存在する場所にもたらします。コンピュータビジョンプロジェクトにおいて、Scaleoutは各サイトにデプロイされたGPUアクセラレーション対応のエッジステーションであるVision Ground Nodes上でUltralytics YOLO modelsのカスタムトレーニングとファインチューニングを行い、機密性の高い画像がデバイス外に出ることなく、現場で検出精度が向上し続けられるようにしています。

データが存在する場所に機械学習をもたらす#

2018年にウプサラ大学の研究者らによって設立されたScaleoutは、大規模分散システムの研究を通じて、データを一元化できない環境での機械学習を可能にすることを目指しました。同社は、データを一か所に集約することが困難あるいは不可能なコンテキストに焦点を当てており、それを実現する中核的なメカニズムが連合学習です。

フェデレーテッドラーニングは、多くのデバイスにトレーニングを分散させ、それぞれのモデルアップデートを中央のコントロールプレーンに集約して新しいグローバルモデルに統合します。各デバイスは自らのローカル環境を理解することからメリットを得られ、フリート全体としては集合知のメリットを享受できます。データは本来あるべき場所に留まり、モデルが学習した内容のみが転送されます。

Scaleoutの事業は防衛、産業、輸送、その他規制の厳しい分野に及んでおり、NATO DIANAアクセラレータプログラムやBAE Systemsとの連携といった取り組みも含まれています。これらすべてに共通しているのは、データを移動できず、かつモデルの改善が必要とされるというパターンです。

エッジ機械学習の複雑さ#

現場でのモデルトレーニングにおいてScaleoutが直面した制約について、詳しく見ていきましょう。

• 限られたハードウェア: 現場の展開環境にはデータセンターのサーバーはなく、ドローンのコンピューターのような小型かつ低電力のデバイスしかありません。それらの上で完成したモデルを実行することは可能ですが、再トレーニングにはさらに多くの計算能力が必要となります。

• **デバイスにロックされたデータ：**再トレーニングに必要な映像は通常プロプライエタリであり、中央サーバーに送信することができないため、モデルはエッジから決して外に出ないデータから学習する必要があります。

• 現場に専門家が不在: 現場でデータを取得するオペレーターが機械学習エンジニアであることは稀であるため、再トレーニングにはデータサイエンスの専門知識がその場に存在することを前提とできません。

• 絶えず変化する環境: 現場環境は急速に変化するため、遅い定期的な再トレーニングサイクルではなく、継続的にモデルを更新する必要があります。

エッジでのUltralytics YOLOモデルのファインチューニング#

これらの制約の中で機能させるため、ScaleoutはUltralytics YOLOモデルを中核とした、現場で完全に完結するトレーニングループを構築しました。

各現場には、独自の計算リソースとストレージを備えたGPUアクセラレーション対応のエッジステーションである「Vision Ground Node」が、ドローン群と共に配置されています。ドローンが映像を取得すると、ノードは最も有用なフレームを選択し、オペレーターがラベル付けを行い、ローカルのハードウェア上でYOLOモデルがファインチューニングされます。

数エポックのトレーニングの後、生の映像ではなく、アップデートされたモデルのみが中央制御プレーンへ送信されます。このループは、コンピュータビジョンプロジェクトに必要なツールを単一のパッケージにまとめた「Scaleout Edge」プラットフォームの拡張機能であるScaleoutのビジョンモジュールを通じて提供されます。

このモジュールは、フレーム選択、アノテーション、トレーニング、デプロイメントを統合し、Ultralytics YOLOが検知を処理することで、チームがこれらの要素を個別に組み立てることなく、動作する基盤の上に構築を開始できるようにします。

Scaleoutはこのアプローチを最初にNATO DIANAアクセラレータプログラムで実践し、YOLOv8を使用して現場で収集されたデータに対する検知のファインチューニングを行いました。そのデータは、現場のネットワーク経由での移動や、機密上の理由による一元化が不可能であったため、チームはファインチューニングを分散化し、モデルがローカルで新しい事例から学習できるようにしました。

このループはデータサイエンティストではなく、オペレーター向けに設計されています。システムは非専門家が重要なフレームを確認およびラベル付けするようガイドするため、現場の担当者が自分たちでモデルの改善を継続できます。

サポートツールもこれを反映しており、アノテーション用のオープンソース版Label Studio、ドローンフィードを取り込むストリーミングサーバー、ファインチューニング用のUltralytics Python packageが使用されています。これらすべてが、デプロイに応じてNVIDIA Jetsonモジュールから頑丈なフィールドユニット、ラップトップに至るまでのハードウェア上で実行されます。

なぜUltralytics YOLOモデルが選ばれるのか#

Scaleoutにとって、Ultralytics YOLOの最大の利点はモデルの軽量性であり、これが劣悪な通信環境下でのフェデレーテッドトレーニングを実用的なものにしています。Scaleoutは生データを移動させる代わりに、モデルアップデートのみを移動させます。最も頻繁に使用されるモデルであるUltralytics YOLOv8 nanoは約10.7 MBであり、帯域幅が限られている場合でも、完全なアップデートを小さなパッケージとして簡単に送信できます。

また、Ultralytics Python packageにより、Scaleoutのエンジニアは多様なハードウェアにわたってトレーニングとデプロイを行う柔軟性を得ることができます。コンパクトなYOLOv8 nanoモデルは制約のあるエッジデバイスでも快適に動作し、パッケージのエクスポートオプションはScaleoutが作業するさまざまな環境間でのデプロイをサポートします。モデルのファインチューニングが容易であるため、チームは現場の状況変化に合わせて素早くイテレーションを行うことができます。

Ultralytics YOLOがScaleoutによる迅速なモデル更新を支援#

Ultralytics YOLOを使用すると、最も負荷のかかる作業はデバイス上に留まります。トレーニングは何百ギガバイトもの現場映像に対して実行されますが、実際に移動するのは約10 MBのモデルです。これにより移動が必要なデータ量は約10分の1に削減され、これらの展開環境が依存する限られたネットワーク上でも連合トレーニングが可能になります。

このアプローチは、改善されたモデルが現場へ戻るまでの時間も変化させます。データの収集、中央への送付、再トレーニング、再デプロイといったプロセスが、そうでなければ数週間から数か月かかるところ、ループをエッジで実行することで数日あるいは数時間へと短縮されます。

これはScaleoutのドローンの作業において最も明確に現れています。防衛偵察において、ドローンは検索パターンを飛行し、機上のUltralytics YOLOモデルを使用して関心の対象をリアルタイムで検出し、識別し、位置情報を特定します。すべての処理は解析のために送信されるのではなく、ドローン自身のコンピュータで処理されます。

ドローンが新しい映像を収集すると、そのデータはVision Ground Nodeへ入力され、新しいフレームに基づいてYOLOがファインチューニングされ、更新されたモデルが再度プッシュされます。これらすべてが、映像が現場を離れることなく行われます。検知モデルは急速に変化する状況と移動不可能なデータに適応する必要があり、ローカルで再トレーニングされたモデルは、静的な中央トレーニングモデルが陳腐化するような環境でも有用性を維持します。

図1。ScaleoutとUltralytics YOLOがAIドローンをどのように駆動しているかの例（出典）

同じパターンはドローン以外にも広く適用されます。エネルギー施設や遠隔施設といった産業環境では、各拠点のデータは機密性が高く、プラットフォームは生のデータを施設境界の外へ出すことなく、多数の拠点にわたって検知モデルを向上させます。データがドローン上にあるか固定設備にあるかにかかわらず、Scaleoutは映像をその場に留め、モデルが学習した内容のみを移動させます。

データを移動できない環境に適応型AIを構築する#

Scaleoutは成長に伴い、連合型かつエッジベースのコンピュータビジョンを、より多くの設定やハードウェアへと拡張し続けています。同社の事前構築済みモジュールは、数か月かかる統合作業を数日へと短縮するように設計されているため、顧客は基盤となる機械学習コードを再構築することなく、独自のハードウェアを持ち込んで適応型の学習ループを採用できます。

Ultralytics YOLOを検知パイプラインの中核に据えることで、Scaleoutは従来のアプローチでは不十分だった環境でのAIトレーニングと改善を可能にしています。データをその場に留め、ネットワークが停止しても運用を継続し、エッジデバイスのフリートを全体として学習し続けるシステムに変貌させています。

Vision AIがあなたのために何ができるかを探求する準備はできましたか？GitHub repositoryにアクセスして、YOLOモデルがAI in manufacturingやcomputer vision in roboticsなどの分野をどのように変革しているかを発見してください。ライセンスオプションを確認し、よりスマートな自動化に向けた道のりを始めましょう。