OpenVINOを使用してIntelのAI PC上でUltralytics YOLOモデルを実行する

YOLO Vision 2024 (YV24)は、Ultralyticsが開催する年次ハイブリッドイベントであり、世界中からAI愛好家、開発者、専門家が一堂に会してコンピュータビジョンの最新イノベーションを探求する場です。YV24は、新しいブレークスルーについて議論するための素晴らしい機会とプラットフォームとなりました。このイベントには、AI業界の主要プレイヤーが参加し、最新のイノベーションを紹介しました。その中の一社であるIntelは、画期的な新型AI PCや、Ultralytics YOLO11などのUltralytics YOLOモデルとIntel OpenVINOの統合について基調講演を行い、イベントに参加しました。

講演は、LandCover.ai データセットの共同作成者であり、IntelのOpenVINOツールキットについて開発者に教育を行っているソフトウェアエバンジェリストのAdrian Boguszewski氏と、産業オートメーションおよびAIで20年以上の経験を持つAI PCエバンジェリストのDmitriy Pastushenkov氏によって行われました。イベント中、Adrian氏は興奮を隠せない様子で次のように述べました。「本日は素晴らしいイベントとなりました。Ultralyticsが新しいYOLOバージョンを提供したからだけでなく、この新しいモデルが私たちの新しいハードウェア上で動作している様子や、OpenVINOの新しいバージョンを発表できるからです。」

この記事では、YV24におけるIntelの講演の主なハイライトを取り上げ、AI PCであるIntel Core Ultra 200Vシリーズの詳細や、OpenVINOツールキットを使用してUltralytics YOLOモデルとどのように統合されるのかを掘り下げます。それでは始めましょう！

2024年の最先端AI技術#

Dmitriy氏は、従来のAIと生成AIの主な違いについて解説しながら基調講演を始めました。焦点は、これらのテクノロジーとそのユースケースが2024年にどのように進化しているかに当てられました。コンピュータビジョンや自然言語処理などの従来のAI技術は、姿勢推定、物体検出、音声認識などのタスクに不可欠な存在となっています。しかし、生成AIは、チャットボット、テキストから画像への生成、コード記述、さらにはテキストから動画への変換などのアプリケーションを含む、より新しい波のAIテクノロジーを表しています。

図1：YV24のステージでAIのユースケースについて議論するIntelのAdrian氏とDmitriy氏。

Dmitriy氏は、両者のスケールの違いを指摘しました。従来のAIモデルが数百万のパラメータで構成されているのに対し、生成AIモデルははるかに大規模なスケールで動作すると説明しました。生成AIモデルには、しばしば数十億から数兆のパラメータが関与するため、計算負荷が非常に高くなります。

Intel AI PC：新しいAIハードウェアの最前線#

Dmitriy氏は、従来のAIモデルと生成AIモデルの両方を効率的に実行するという高まる課題に対処するために設計された新しいハードウェアソリューションとして、Intel AI PCを紹介しました。Intel AI PCは、パワフルでエネルギー効率の高いマシンです。クラウドベースの処理を必要とせず、幅広いAIモデルをローカルで実行可能です。

ローカル処理は、機密性の高いデータのプライバシー保護に役立ちます。AIモデルがインターネット接続から独立して動作できるようになると、プライバシーとセキュリティに関する産業界の倫理的な懸念に対する答えとなります。

Intel AI PCの原動力となっているのは、Intel Core Ultra 200Vシリーズプロセッサです。このプロセッサには、中央演算処理装置（CPU）、グラフィックス処理装置（GPU）、ニューラル処理装置（NPU）という3つの主要なコンポーネントが組み込まれています。それぞれが、異なるタイプのAIワークロードを処理する上で特定の役割を果たしています。CPUは、迅速な応答を必要とする小規模で低レイテンシのタスクに最適であり、GPUは、AIモデルの実行などのスループットの高い操作に最適化されています。電力効率を考慮して設計されたNPUは、YOLO11などのモデルを使用したリアルタイム物体検出のような、長時間の実行を伴うタスクに適しています。

CPUは最大5 TOPS（1秒あたりのテラ演算数）、GPUは最大67 TOPSを発揮し、NPUはシステムリソースを消費することなく継続的にAIタスクを実行するエネルギー効率の高い手段を提供することが強調されました。

IntelのAIの進歩：Intel Core Ultra 200Vシリーズ#

Intel Core Ultra 200Vシリーズプロセッサは、NPU、CPU、GPUという3つのAIエンジンをすべて1つの小さなチップに統合しています。その設計は、パフォーマンスを犠牲にすることなく、ノートブックのようなコンパクトなデバイスに最適化されています。

このプロセッサにはRAMも内蔵されており、独立したグラフィックスカードの必要性を削減しています。これにより、電力消費を抑え、デバイスのコンパクトさを維持することができます。Dmitriy氏はまた、プロセッサの柔軟性を強調しました。ユーザーは、タスクに応じて、AIモデルをCPU、GPU、NPUのどれで実行するかを決定できます。たとえば、YOLO11モデルを使用した物体検出はこれらのどのエンジンでも実行できる一方、テキストから画像への生成のようなより複雑なタスクでは、パフォーマンスを向上させるためにGPUとNPUの両方を同時に使用することができます。

プレゼンテーション中、Dmitriy氏はポケットからチップを取り出し、高度なAIタスクを処理できるにもかかわらず、どれほど小さいかを聴衆に明確に示しました。これは、Intelがどのようにして強力なAI機能をよりポータブルで実用的なデバイスにもたらしているかを示す、楽しく記憶に残る方法でした。

図2：ポケットに入るIntel Core Ultra 200Vプロセッサ。

Intel OpenVINOによるAIモデルの最適化#

Intelの最新のハードウェアの進歩を紹介した後、Dmitriy氏はAIをサポートするIntelのソフトウェアスタックへと話題を切り替えました。彼は、さまざまなデバイス上でAIモデルを効率的に最適化およびデプロイするために設計されたIntelのオープンソースフレームワークであるOpenVINOを紹介しました。OpenVINOは視覚的なタスクにとどまらず、自然言語処理、音声処理、トランスフォーマーなどに使用されるAIモデルにもサポートを拡張しています。

OpenVINOは、PyTorch、TensorFlow、ONNXなどの人気プラットフォームと互換性があり、開発者はそれをワークフローに簡単に組み込むことができます。彼が注目を集めた重要な機能の1つが量子化です。量子化はモデルの重みを圧縮してサイズを縮小するため、クラウドを必要とせずに大規模モデルをローカルデバイス上でスムーズに実行できるようになります。OpenVINOは複数のフレームワークで動作し、CPU、GPU、NPU、FPGA、さらにはARMデバイスでも実行可能であり、Windows、Linux、macOSをサポートしています。Dmitriy氏はまた、OpenVINOを始めるのがいかに簡単であるかを聴衆に説明しました。

図3：OpenVINOの始め方を実演するDmitriy氏。

UltralyticsとIntel OpenVINOの統合#

講演の後半では、マイクがAdrian氏に引き継がれ、Ultralytics YOLOモデルとIntelのOpenVINOツールキットのシームレスな統合について説明され、YOLOモデルのデプロイプロセスが簡素化されることが解説されました。彼は、Ultralytics Pythonパッケージを使用してYOLOモデルをOpenVINO形式にエクスポートすることがいかに迅速で簡単であるかを段階的に説明しました。この統合により、開発者はIntelハードウェア向けにモデルを最適化し、両方のプラットフォームのメリットを最大限に引き出すことがはるかに容易になります。

図4：Ultralyticsを使用してモデルを簡単にOpenVINO形式にエクスポートできることを解説するAdrian氏。

Adrian氏は、Ultralytics YOLOモデルがトレーニングされた後、いくつかの簡単なコマンドラインフラグを使用してエクスポートできることを実演しました。たとえば、ユーザーは最大限の精度を得るために浮動小数点バージョンとしてモデルをエクスポートするか、速度と効率を向上させるために量子化バージョンとしてエクスポートするかを指定できます。また、開発者がINT8量子化などのオプションを使用して精度を過度に犠牲にすることなくパフォーマンスを向上させながら、コードから直接このプロセスを管理できる方法についても強調しました。

Intel AI PCでのリアルタイムAIデモ#

このすべての理論を実践に移すため、IntelチームはIntel AI PC上でYOLO11を実行し、物体検出のリアルタイムデモを披露しました。Adrian氏は、システムがさまざまなプロセッサ間でモデルをどのように処理したかを示し、浮動小数点モデルを使用したCPUで36フレーム/秒（FPS）、統合GPUで100 FPS以上、INT8量子化バージョンで70 FPSを達成しました。これにより、Intel AI PCが複雑なAIタスクをいかに効率的に管理できるかを示すことができました。

彼はまた、システムがCPU、GPU、NPUを組み合わせて並列にモデルを実行し、データやビデオフレームが事前に利用可能なタスクを処理できる点も指摘しました。これは動画などの負荷の高い処理を行う際に便利です。システムはワークロードを異なるプロセッサ間で分散できるため、より高速かつ効率的になります。

最後に、Adrian氏は、ユーザーが人数カウントやインテリジェントな待ち行列管理などのソリューションを含め、自宅でデモを試すことができることに言及しました。その後、ユーザーがプロンプトを入力してGPU上でリアルタイムに夢のような画像を生成できるボーナスデモを披露しました。これは、従来のAIタスクと創造的な生成AIプロジェクトの両方におけるIntel AI PCの汎用性を示しました。

Intel OpenVINOによるリアルタイム物体検出#

イベントでは、Intelが自社のIntel AI PC上で稼働するUltralytics YOLO11を使用したリアルタイム物体検出のデモを展示するブースを出展しました。参加者は、OpenVINOによって最適化され、Intel Core Ultra 200Vプロセッサにデプロイされたモデルの実際の動作を目にすることができました。

図5：Intel OpenVINOブースでリアルタイムデモを見学する参加者。

Intelのブースで、Dmitriy氏は次のように語りました。「今回が初めてのYOLO Visionであり、マドリッドに来られて嬉しいです。我々はUltralyticsのYOLO11モデルをIntel Core Ultra 200Vプロセッサ上で動かすデモを行っています。素晴らしいパフォーマンスを発揮しており、OpenVINOを使ってモデルを最適化・デプロイしています。Ultralyticsと協力し、最新のIntelハードウェア上でCPU、GPU、NPUを活用してモデルを実行するのは非常に簡単でした。」ブースでは、参加者へのTシャツやノートのプレゼントなどの楽しい企画も行われました。

重要なポイント#

Intel Core Ultra 200Vシリーズプロセッサを搭載したYV24でのIntelの技術講演では、OpenVINOツールキットがいかにしてUltralytics YOLO11のようなAIモデルを最適化するかが示されました。この統合により、ユーザーはYOLOモデルをデバイス上で直接実行でき、物体検出のようなコンピュータビジョンタスクで優れたパフォーマンスを実現できます。最大の利点は、ユーザーがクラウドサービスに依存する必要がないことです。

開発者やAI愛好家は、CPU、GPU、NPUといったハードウェアをフル活用して、YOLOモデルを簡単に実行および微調整し、リアルタイムアプリケーションに組み込むことができます。Intel OpenVINOツールキットとUltralytics YOLOモデルの組み合わせは、高度なAI機能を個人用デバイスにもたらす新たな可能性を切り拓き、さまざまな業界でAIイノベーションを推進したい開発者にとって理想的な選択肢となります。

協力し合ってイノベーションを起こしましょう！GitHubリポジトリにアクセスして私たちの貢献を探索し、コミュニティに参加してください。製造業やヘルスケアなどの産業に影響を与えるために、私たちがどのようにAIを活用しているかをご覧ください。