エッジデバイス上でUltralytics YOLOモデルをファインチューニングすることで、Scaleoutはデータをその場に保持し、オフラインで動作し、新しい検出モデルを数週間ではなく数時間で提供します。
機械学習モデルの学習では通常、すべてのデータを一か所に集めてクラウドに送り、完成したモデルをデプロイできることが前提とされています。しかし、実際の多くの環境では、この前提は成り立ちません。防衛、産業、規制対象の環境では、プライバシー法、セキュリティ分類、あるいは膨大な通信コストによってデータの移動が制限されます。また、各拠点をつなぐネットワークを常に信頼できるとは限りません。
Scaleoutは、まさにこのような環境に対応するインフラを構築しています。同社のプラットフォームScaleout Edgeは、データをモデルの場所へ移動するのではなく、モデルのトレーニングをデータが存在する場所で行うために、連合学習を活用します。コンピュータービジョンプロジェクトでは、各現場に設置されたGPUアクセラレーション対応エッジステーションであるVision Ground Nodes上で、Ultralytics YOLOモデルをカスタムトレーニングし、ファインチューニングします。これにより、機密性の高い画像をデバイス外に出すことなく、現場で検出性能を継続的に向上できます。
データがある場所で機械学習を実現する#
Scaleoutは、大規模分散システムに取り組んでいたウプサラ大学の研究者によって2018年に設立され、データを一元化できない環境で機械学習を実現することを目指してきました。同社は、データを一か所に集めることが困難または不可能な状況に注力しており、連合学習を中核的な仕組みとして活用しています。
連合学習では、多数のデバイスに分散して学習を行い、その後、各デバイスのモデル更新を中央のコントロールプレーンに集め、新しいグローバルモデルに統合します。各デバイスはそれぞれのローカル環境を理解することで恩恵を受け、デバイス群全体は集合知を活用できます。データは本来の場所に留まり、モデルが学習した内容だけが移動します。
Scaleoutは防衛、産業、輸送、その他の規制対象分野で事業を展開しており、NATO DIANAアクセラレータープログラムへの参加やBAE Systemsとの協業などの実績があります。いずれの分野にも共通しているのは、データを移動できない一方で、モデルの改善が必要だという点です。
エッジ機械学習の複雑さ#
Scaleoutが現場でモデルを学習する際に直面した制約を詳しく見ていきましょう。
- 限られたハードウェア： 現場の導入環境にはデータセンターのサーバーがなく、ドローンのコンピューターのような小型で低消費電力のデバイスしかありません。完成したモデルの実行は可能でも、再学習にははるかに多くの計算能力が必要です。
- データがデバイスに留まる： 再学習に必要な映像は専有データであることが多く、中央サーバーに送信できません。そのため、モデルはエッジの外に出ないデータから学習する必要があります。
- 現場に専門家がいない： 現場でデータを収集するオペレーターは、機械学習エンジニアではないことがほとんどです。そのため、再学習をデータサイエンスの専門知識を持つ人員の常駐に依存させることはできません。
- 絶えず変化する条件： 現場の環境は急速に変化するため、時間のかかる定期的な再学習サイクルではなく、モデルを継続的に更新する必要があります。
エッジでのUltralytics YOLOモデルのファインチューニング#
こうした制約に対応するため、Scaleoutは現場だけで完結する学習ループを構築し、その中核にUltralytics YOLOモデルを据えました。
各拠点では、独自の計算機能とストレージを備えたGPUアクセラレーション搭載エッジステーション「Vision Ground Node」を、ドローン群のそばに設置します。ドローンが映像を撮影すると、ノードが最も有用なフレームを選び、オペレーターがラベルを付け、その拠点のハードウェア上でYOLOモデルをファインチューニングします。
数エポックの学習後、更新済みモデルだけをコントロールプレーンに送信し、生の映像は一切送信しません。このループはScaleoutのビジョンモジュールを通じて提供されます。これはScaleout Edgeプラットフォームを拡張したもので、コンピュータービジョンプロジェクトに必要なツールを単一のパッケージにまとめています。
フレーム選択、アノテーション、学習、デプロイをまとめ、検出にはUltralytics YOLOを使用します。これにより、チームは各要素を自分たちで組み合わせることなく、すでに機能する基盤を活用できます。
ScaleoutはまずNATO DIANAアクセラレータープログラムでこのアプローチを実践し、YOLOv8を使用して現場で収集したデータ上で検出モデルをファインチューニングしました。専有情報保護の理由から、そのデータは現場のネットワーク経由で移動させることも、一元化することもできませんでした。そのためチームはファインチューニングを分散化し、モデルが新しいデータからローカルに学習できるようにしました。
このループはデータサイエンティストではなく、オペレーター向けにも設計されています。システムが専門家ではない担当者に、重要なフレームの確認とラベル付けを案内するため、現場のスタッフ自身がモデルを継続的に改善できます。
これを支えるツールには、アノテーション用のLabel Studioオープンソース版、ドローン映像を取り込むストリーミングサーバー、ファインチューニング用のUltralytics Pythonパッケージがあります。導入環境に応じて、NVIDIA Jetsonモジュールから堅牢な現場用ユニット、ノートPCまで、さまざまなハードウェア上で動作します。
Ultralytics YOLOモデルを選ぶ理由#
Scaleoutにとって、Ultralytics YOLOの最大の利点はモデルの軽量さです。これにより、接続環境が劣悪でも連合学習を実用的に行えます。生データを移動させる代わりに、Scaleoutはモデルの更新分のみを送信します。最もよく使用するUltralytics YOLOv8 nanoは約10.7 MBのため、帯域幅が限られていても、完全な更新データを小さなパッケージとして送信できます。
Ultralytics Pythonパッケージは、さまざまなハードウェアで学習とデプロイを行うための柔軟性もScaleoutのエンジニアに提供します。コンパクトなYOLOv8 nanoモデルはリソースが限られたエッジデバイスでも快適に動作し、パッケージのエクスポートオプションは、Scaleoutが対応するさまざまな環境へのデプロイをサポートします。モデルは簡単にファインチューニングできるため、チームは現場の状況変化に応じて迅速に反復できます。
Ultralytics YOLOでScaleoutのモデル更新を高速化#
Ultralytics YOLOでは、作業のうち最も負荷の高い処理をデバイス上で実行できます。トレーニングでは数百ギガバイトの現場映像を使いますが、実際に転送されるのは約10 MBのモデルです。転送が必要なデータ量を大幅に削減できるため、こうしたデプロイが依存する帯域幅の限られたネットワークでも、連合学習が可能になります。
このアプローチは、改善したモデルを現場に戻すまでの時間も短縮します。従来ならデータの収集、中央への送付、再学習、再デプロイに数週間から数か月かかるところ、エッジ上でループを実行することで、数日から数時間に短縮されます。
この利点は、Scaleoutのドローン関連の取り組みに最も明確に表れています。防衛偵察では、ドローンが捜索パターンに沿って飛行し、搭載されたUltralytics YOLOモデルを使って、関心対象をリアルタイムで検出、識別、位置特定します。すべての処理は分析のために外部へ送信されるのではなく、ドローン自体のコンピューター上で行われます。
ドローンが新しい映像を収集すると、そのデータはVision Ground Nodeに送られ、新しいフレームでYOLOをファインチューニングし、更新モデルを再配信します。この間、映像が拠点の外に出ることはありません。検出モデルは急速に変化する条件に対応し、移動できないデータを活用する必要があります。ローカルで再学習されたモデルなら、一元的に学習された固定モデルが時代遅れになる環境でも有用性を保てます。
図1. ScaleoutとUltralytics YOLOがAIドローンを活用する例（出典）。
同じ仕組みは、ドローン以外にも広がっています。エネルギー施設や遠隔施設などの産業環境では、各拠点のデータが機密情報であっても、生データを施設の境界外に出すことなく、多数の拠点にわたって検出モデルを改善できます。データがドローン上にある場合でも固定設備にある場合でも、Scaleoutは映像をその場に保持し、モデルが学習した内容だけを移動させます。
データを移動できない環境に適応するAIを構築#
Scaleoutは成長を続ける中で、連合学習とエッジベースのコンピュータービジョンを、さらに多くの環境やハードウェアへ拡張しています。事前構築済みのモジュールは、数か月かかる統合作業を数日に短縮できるよう設計されています。そのため、顧客は自社のハードウェアを持ち込み、基盤となる機械学習コードを作り直すことなく、適応型学習ループを導入できます。
検出パイプラインの中核にUltralytics YOLOを据えるScaleoutは、従来のアプローチでは対応が難しい環境そのもので、AIの学習と改善を可能にしています。データをその場に保持し、ネットワーク障害時にも稼働を続け、エッジデバイス群全体を継続的に学習するシステムへと変えます。
Vision AIで何ができるかをお知りになりたいですか？GitHubリポジトリにアクセスして、YOLOモデルが製造業におけるAIやロボティクスにおけるコンピュータービジョンなどの分野をどのように変革しているかをご覧ください。ライセンスオプションを確認し、よりスマートな自動化に向けた一歩を踏み出しましょう。
