OpenVINOを使ってIntel AI PCでUltralytics YOLOモデルを実行する

Ultralyticsの年次ハイブリッドイベントであるYOLO Vision 2024（YV24）には、世界中からAI愛好家、開発者、専門家が集まり、コンピュータービジョンの最新のイノベーションについて議論しました。YV24では、AI業界の主要企業が最新のイノベーションを発表しました。その一社であるIntelは、新しいAI PCと、Intel OpenVINOをUltralytics YOLO11などのUltralytics YOLOモデルに統合する方法について基調講演を行いました。

講演者は、LandCover.aiデータセットの共同執筆者であり、IntelのOpenVINOツールキットについて開発者に解説しているソフトウェアエバンジェリストのAdrian Boguszewski氏と、産業オートメーションとAIの分野で20年以上の経験を持つAI PCエバンジェリストのDmitriy Pastushenkov氏でした。イベントでAdrian氏は、「本日この素晴らしいイベントに参加できたのは、Ultralyticsが新しいYOLOバージョンを発表したからだけではありません。この新しいモデルを新しいハードウェア上で動作させ、新バージョンのOpenVINOとともに紹介できることも理由です」と述べました。

この記事では、IntelのAI PC、Intel Core Ultra 200Vシリーズ、OpenVINOツールキットを使ってUltralytics YOLOモデルと連携させる方法を取り上げ、YV24でのIntelの講演の主なポイントを紹介します。

2024年のAI技術#

Dmitriy氏は基調講演の冒頭で、従来型AIと生成AIの主な違いを説明しました。焦点となったのは、2024年にこれらのテクノロジーとユースケースがどのように進化しているかです。コンピュータービジョンや自然言語処理といった従来型AIの技術は、姿勢推定、物体検出、音声認識などのタスクに不可欠でした。一方、生成AIは、チャットボット、テキストから画像への生成、コード作成、さらにはテキストから動画への生成などを含む、新しいAIテクノロジーの潮流です。

図1. YV24のステージでAIのユースケースについて議論する、IntelのAdrianとDmitriy。

Dmitriy氏は、両者の規模の違いを指摘しました。従来型AIモデルのパラメーター数が数百万であるのに対し、生成AIモデルははるかに大規模です。生成AIモデルのパラメーター数は数十億、場合によっては数兆に達し、計算負荷が大幅に高くなります。

Intel AI PC：AIハードウェアの新たな可能性#

Dmitriyは、従来型AIモデルと生成AIモデルの両方を効率的に実行するうえで高まる課題に対応する新しいハードウェアソリューションとして、Intel AI PCを紹介しました。Intel AI PCは高性能かつエネルギー効率に優れたマシンです。クラウドベースの処理を必要とせず、幅広いAIモデルをローカルで実行できます。

ローカル処理は、機密データのプライバシー保護に役立ちます。AIモデルがインターネット接続なしで動作できれば、プライバシーやセキュリティに関する業界の倫理的な懸念への対応にもつながります。

Intel AI PCを支えるのは、Intel Core Ultra 200Vシリーズプロセッサーです。このプロセッサーは、中央処理装置（CPU）、グラフィックス処理装置（GPU）、ニューラル処理ユニット（NPU）の3つの主要コンポーネントを搭載しています。それぞれが異なる種類のAIワークロードを処理する役割を担います。CPUは迅速な応答が求められる小規模で低レイテンシーのタスクに適しており、GPUはAIモデルの実行など、高スループットの処理に最適化されています。電力効率を重視して設計されたNPUは、YOLO11などのモデルによるリアルタイム物体検出のような、長時間実行するタスクに適しています。

CPUは最大5 TOPS（1秒あたり数兆回の演算）、GPUは最大67 TOPSを実現できると説明されました。またNPUは、システムリソースを消耗せずにAIタスクを継続実行できる、省エネルギーな方法を提供します。

IntelのAIの進歩：Intel Core Ultra 200Vシリーズ#

Intel Core Ultra 200Vシリーズプロセッサーは、NPU、CPU、GPUという3つのAIエンジンを1つの小型チップに統合しています。この設計は、ノートPCのようなコンパクトなデバイスに適しています。

このプロセッサにはRAMも内蔵されているため、独立したグラフィックスカードの必要性が減ります。これにより、消費電力を抑え、デバイスをコンパクトに保つことができます。Dmitriyは、プロセッサの柔軟性についても強調しました。ユーザーはタスクに応じて、CPU、GPU、NPUのいずれでAIモデルを実行するかを選択できます。たとえば、YOLO11モデルによる物体検出はこれらのエンジンのいずれでも実行できる一方、テキストから画像を生成するような、より複雑なタスクでは、パフォーマンスを高めるためにGPUとNPUを同時に使用できます。

プレゼンテーション中、Dmitriyはチップをポケットから取り出し、高度なAIタスクを処理できるにもかかわらず、実際にどれほど小さいかを来場者にはっきりと示しました。Intelが強力なAI機能を、より携帯しやすく実用的なデバイスにもたらしていることを示す、楽しく印象的な方法でした。

図2. Intel Core Ultra 200Vプロセッサーはポケットに入るサイズです。

Intel OpenVINOによるAIモデルの最適化#

Intelの最新ハードウェアを紹介した後、Dmitriy氏はIntelのAIソフトウェアスタックに話題を移しました。同氏は、さまざまなデバイスでAIモデルを効率的に最適化してデプロイするために設計された、IntelのオープンソースフレームワークOpenVINOを紹介しました。OpenVINOは視覚タスクにとどまらず、自然言語処理、音声処理、Transformerなどに使われるAIモデルにも対応しています。

OpenVINOはPyTorch、TensorFlow、ONNXなどの主要フレームワークと互換性があり、開発者はワークフローに簡単に組み込めます。同氏が紹介した主要機能の一つが量子化です。量子化ではモデルの重みを圧縮してサイズを小さくするため、大規模モデルをクラウドに頼らずローカルデバイスでスムーズに実行できます。OpenVINOは複数のフレームワークに対応し、CPU、GPU、NPU、FPGA、さらにはARMデバイス上で動作します。また、Windows、Linux、macOSをサポートしています。Dmitriy氏は、OpenVINOを使い始める手順も紹介しました。

図3. OpenVINOの始め方を説明するDmitriy。

UltralyticsとIntel OpenVINOの統合#

講演の第2部ではAdrian氏にマイクが渡され、Ultralytics YOLOモデルとIntelのOpenVINOツールキットの連携について説明しました。この連携により、YOLOモデルのデプロイが簡単になります。同氏は、Ultralytics Pythonパッケージを使ってYOLOモデルをOpenVINO形式にエクスポートする手順を段階的に解説し、その手軽さを紹介しました。この統合により、開発者はIntelハードウェア向けにモデルを簡単に最適化し、両プラットフォームを最大限に活用できます。

図4. モデルをOpenVINO形式に簡単にエクスポートできるUltralyticsの機能を説明するAdrian。

Adrian氏は、Ultralytics YOLOモデルの学習後、いくつかの簡単なコマンドラインフラグでエクスポートできることを示しました。たとえば、最大限の精度を得るために浮動小数点版を選ぶか、速度と効率を高めるために量子化版を選ぶかを指定できます。また、開発者がコードから直接このプロセスを管理し、INT8量子化などのオプションで精度を大きく損なわずに性能を高める方法も紹介しました。

Intel AI PCでのリアルタイムAIデモ#

これまでの説明を実践に移し、IntelチームはIntel AI PC上でYOLO11を実行するリアルタイム物体検出デモを行いました。Adrian氏は、システムがさまざまなプロセッサー上でモデルを処理する様子を紹介しました。浮動小数点モデルではCPUで毎秒36フレーム（FPS）、統合GPUでは100 FPS超、INT8量子化版では70 FPSを達成しました。このデモは、Intel AI PCが複雑なAIタスクを効率的に処理できることを示しました。

また、システムはCPU、GPU、NPUを組み合わせてモデルを並列実行できることも説明しました。これは、すべてのデータや動画フレームがあらかじめそろっているタスクに適しています。動画のような大規模な処理を扱う際に便利です。システムは処理負荷を複数のプロセッサに分散できるため、より高速かつ効率的に処理できます。

最後にAdrian氏は、人数カウントやインテリジェントな待ち行列管理などのソリューションを含むデモを自宅で試せると紹介しました。続いて、ユーザーがプロンプトを入力するとGPU上で夢のような画像をリアルタイムに生成できる特別デモを披露しました。このデモは、従来型AIタスクと創造的な生成AIプロジェクトの両方に対応するIntel AI PCの汎用性を示しました。

Intel OpenVINOによるリアルタイム物体検出#

イベントでは、Intelのブースで、Intel AI PC上で動作するUltralytics YOLO11を使ったリアルタイム物体検出のデモが行われました。来場者は、OpenVINOで最適化され、Intel Core Ultra 200Vプロセッサにデプロイされたモデルの動作を見学できました。

図5. 来場者はIntel OpenVINOブースでリアルタイムデモを見学できました。

IntelブースでDmitriyは次のように話しました。「YOLO Visionに参加するのは今回が初めてで、マドリードに来られてうれしいです。UltralyticsのYOLO11モデルをIntel Core Ultra 200Vプロセッサ上で実行して紹介しています。優れたパフォーマンスを発揮しており、OpenVINOを使ってモデルを最適化し、デプロイしています。Ultralyticsとの連携はとても簡単で、CPU、GPU、NPUを活用しながら、最新のIntelハードウェア上でモデルを実行できました。」ブースでは、来場者が持ち帰れるTシャツやノートなどの楽しいグッズも配布されていました。

重要なポイント#

YV24で行われたIntelの技術講演では、Intel Core Ultra 200Vシリーズプロセッサを取り上げ、OpenVINOツールキットがUltralytics YOLO11のようなAIモデルを最適化する方法を紹介しました。この統合により、ユーザーはYOLOモデルをデバイス上で直接実行でき、物体検出などのコンピュータービジョンタスクで優れたパフォーマンスを実現できます。主な利点は、クラウドサービスに頼る必要がないことです。

開発者やAI愛好家は、YOLOモデルを実行してファインチューニングし、CPU、GPU、NPUなどのハードウェアを最大限に活用してリアルタイムアプリケーションを構築できます。Intel OpenVINOツールキットとUltralytics YOLOモデルを組み合わせることで、高度なAI機能を個人向けデバイスに直接展開する新たな可能性が広がり、さまざまな業界向けのAIアプリケーションを開発する際の有力な選択肢となります。

GitHubリポジトリで私たちの取り組みをご覧いただき、コミュニティにご参加ください。また、製造業や医療などの業界にAIを活用してどのような変化をもたらしているかをご覧ください。