YOLO Vision 2025にご期待ください!
2025年9月25日
10:00 — 18:00(英国夏時間)
ハイブリッドイベント
Yolo Vision 2024

OpenVinoを搭載したIntelのAI PCでUltralytics YOLOモデルを実行

Abirami Vina

4分で読めます

2024年10月9日

Dmitriy PastushenkovとAdrian Boguszewskiによる、Intel OpenVinoでYOLOモデルを最適化し、IntelのAI PCでリアルタイム推論を実行することに関するYOLO Vision 2024の講演を再訪してください。

YOLO Vision 2024(YV24)、Ultralyticsの年次ハイブリッドイベントは、コンピュータビジョンの最新のイノベーションを探求するために、世界中のAI愛好家、開発者、専門家を集めました。YV24は、新しいブレークスルーについて議論するための絶好の機会とプラットフォームでした。このイベントでは、AI業界の主要なプレーヤーが最新のイノベーションを紹介しました。その中には、新しい画期的なAI PCとIntel OpenVinoのUltralytics YOLOモデルUltralytics YOLO11など)との統合に関する基調講演を行ったIntelが含まれていました。

講演は、LandCover.ai データセットの共同作成者であり、インテルのOpenVINOツールキットについて開発者を教育しているソフトウェアエバンジェリストのAdrian Boguszewski氏と、産業オートメーションとAIで20年以上の経験を持つAI PCエバンジェリストのDmitriy Pastushenkov氏によって行われました。イベント中、Adrian氏は興奮を隠さず、「Ultralyticsが新しいYOLOバージョンを発表しただけでなく、この新しいモデルを当社の新しいハードウェア上で、そしてOpenVINOの新しいバージョン上で実行できることを発表できて、今日は素晴らしいイベントです」と語りました。

この記事では、IntelのYV24での講演からの主要なハイライトを見て、彼らのAI PC、Intel Core Ultra 200Vシリーズの内外、そしてOpenVINOツールキットを使用してUltralytics YOLOモデルとどのように統合されるかを詳しく掘り下げます。それでは、始めましょう!

2024年の最先端AI技術

Dmitriy氏は、基調講演の冒頭で、従来のAIと生成AIの主な違いについて掘り下げました。焦点は、これらのテクノロジーとそのユースケースが2024年にどのように進化しているかを中心に展開されました。コンピュータビジョン自然言語処理のような従来のAI技術は、ポーズ推定物体検出音声認識などのタスクに不可欠でした。しかし、生成AIは、チャットボットテキストから画像生成コード作成、さらにはテキストからビデオなどのアプリケーションを含む、AI技術の新しい波を表しています。 

__wf_reserved_inherit
図1. IntelのAdrian氏とDmitriy氏がYV24のステージでAIのユースケースについて議論している様子。

Dmitriy氏は、2つの規模の違いを指摘しました。彼は、従来のAIモデルは数百万のパラメータで構成されているのに対し、生成AIモデルははるかに大規模に動作すると説明しました。生成AIモデルは、数十億、あるいは数兆ものパラメータを含むことが多く、計算負荷がはるかに高くなります。

Intel AI PC:AIハードウェアの新たなフロンティア

Dmitriy氏は、従来のAIモデルと生成AIモデルの両方を効率的に実行するという、増大する課題に対処するために設計された新しいハードウェアソリューションとして、Intel AI PCを紹介しました。Intel AI PCは、強力でエネルギー効率の高いマシンです。クラウドベースの処理を必要とせずに、ローカルで幅広いAIモデルを実行できます。 

ローカル処理は、機密性の高いデータを保護するのに役立ちます。AIモデルがインターネット接続に依存せずに動作できる場合、プライバシーとセキュリティに関する業界の倫理的な懸念が解消されます。

Intel AI PCの推進力となっているのは、Intel Core Ultra 200Vシリーズプロセッサーです。このプロセッサーには、中央処理装置(CPU)、グラフィックス処理装置(GPU)、ニューラル処理装置(NPU)という3つの主要コンポーネントが組み込まれています。それぞれが、さまざまな種類のAIワークロードの処理において特定の役割を果たします。CPUは、迅速な応答を必要とする、より小規模で低レイテンシのタスクに最適であり、GPUは、AIモデルの実行のような高スループットの操作に最適化されています。NPUは、電力効率を考慮して設計されており、リアルタイムの物体検出YOLO11のようなモデルを使用)のような長時間実行されるタスクに適しています。 

CPUは最大5TOPS(1秒あたりのテラ演算回数)、GPUは最大67TOPSを提供でき、NPUはシステムリソースを消耗することなくAIタスクを継続的に実行するためのエネルギー効率の高い方法を提供することが強調されました。

インテルの AI の進歩: Intel Core Ultra 200V シリーズ

Intel Core Ultra 200Vシリーズプロセッサーは、NPU、CPU、GPUの3つのAIエンジンをすべて1つの小型チップに統合しています。その設計は、性能を犠牲にすることなく、ノートブックのような小型デバイスに最適です。

プロセッサにはRAMも内蔵されており、個別のグラフィックスカードの必要性を減らしています。これにより、電力使用量が削減され、デバイスがコンパクトに保たれます。ドミトリー氏はまた、プロセッサの柔軟性を強調しました。ユーザーは、タスクに応じて、CPU、GPU、またはNPUでAIモデルを実行するかどうかを決定できます。例えば、YOLO11モデルによる物体検出はこれらのエンジンのいずれでも実行できますが、テキストから画像を生成するようなより複雑なタスクでは、GPUとNPUを同時に使用してパフォーマンスを向上させることができます。

プレゼンテーション中、ドミトリーはポケットからチップを取り出し、高度なAIタスクを処理できるにもかかわらず、それが実際にどれほど小さいかを皆に明確に示しました。インテルが強力なAI機能をよりポータブルで実用的なデバイスにもたらしていることを示す、楽しくて記憶に残る方法でした。

__wf_reserved_inherit
図2. Intel Core Ultra 2000Vプロセッサはポケットに収まります。

Intel OpenVinoによるAIモデルの最適化

Dmitriy氏は、インテルの最新のハードウェアの進歩を紹介した後、AIをサポートするインテルのソフトウェアスタックに話題を移しました。彼は、さまざまなデバイスでAIモデルを効率的に最適化およびデプロイするように設計されたインテルのオープンソースフレームワークであるOpenVINOを紹介しました。OpenVINOは、視覚タスクを超えて、自然言語処理、音声処理トランスフォーマーなどに使用されるAIモデルのサポートを拡張しています。

OpenVINOは、PyTorchTensorFlowONNXなどの一般的なプラットフォームと互換性があり、開発者は簡単にワークフローに組み込むことができます。彼が注目した重要な機能の1つは、量子化でした。量子化は、モデルの重みを圧縮してサイズを縮小し、大規模なモデルをクラウドを必要とせずにローカルデバイス上でスムーズに実行できるようにします。OpenVINOは、CPU、GPU、NPU、FPGA、またはARMデバイス上で動作し、Windows、Linux、macOSをサポートし、複数のフレームワークで動作します。Dmitriyはまた、OpenVINOをいかに簡単に使い始めることができるかを聴衆に説明しました。 

__wf_reserved_inherit
図3:DmitriyによるOpenVinoの始め方の説明。

UltralyticsとIntel OpenVinoの統合

講演の後半では、マイクがAdrianに渡され、Ultralytics YOLOモデルとIntelのOpenVINOツールキット間のシームレスな統合について説明し、YOLOモデルのデプロイプロセスを簡素化しました。彼は、Ultralytics Pythonパッケージを使用してYOLOモデルをエクスポートし、OpenVINO形式に変換する方法が迅速かつ簡単であることについて、ステップバイステップで説明しました。この統合により、開発者はIntelハードウェア向けにモデルを最適化し、両方のプラットフォームを最大限に活用することがはるかに簡単になります。

__wf_reserved_inherit
図4. UltralyticsがモデルをOpenVino形式に簡単にエクスポートする方法を説明するAdrian。

Adrian氏は、Ultralytics YOLOモデルをトレーニングすると、いくつかの簡単なコマンドラインフラグを使用してエクスポートできることを実証しました。たとえば、ユーザーは、最大の精度を得るために浮動小数点バージョンとしてモデルをエクスポートするか、速度と効率を向上させるために量子化バージョンとしてエクスポートするかを指定できます。彼はまた、開発者がINT8量子化などのオプションを使用して、精度を大きく損なうことなくパフォーマンスを向上させ、コードを通じて直接このプロセスをどのように管理できるかを強調しました。 

Intel AI PCでのリアルタイムAIデモ

この理論を実践に移し、Intelチームは、Intel AI PC上でYOLO11を実行することによるオブジェクト検出のリアルタイムデモを披露しました。Adrian氏は、システムがさまざまなプロセッサでモデルをどのように処理し、浮動小数点モデルを使用したCPUで毎秒36フレーム(FPS)、統合GPUで100 FPS以上、INT8量子化バージョンで70 FPSを達成したかを説明しました。Intel AI PCが複雑なAIタスクをいかに効率的に管理できるかを示すことができました。

彼はまた、データまたはビデオフレームがすべて事前に利用可能なタスクでは、システムがCPU、GPU、NPUを組み合わせてモデルを並行して実行できると指摘しました。これは、ビデオのような負荷の高い処理を行う場合に役立ちます。システムは、ワークロードを異なるプロセッサに分割することで、処理を高速化し、効率を高めることができます。

まとめとして、Adrianは、ユーザーが自宅でデモを試すことができ、人数カウントインテリジェントなキュー管理などのソリューションが含まれていると述べました。次に、ユーザーがプロンプトを入力して、GPU上でリアルタイムで夢のような画像を生成できるボーナスデモを示しました。これは、従来のAIタスクと創造的な生成AIプロジェクトの両方に対するIntel AI PCの多様性を示しました。

Intel OpenVINOによるリアルタイム物体検出

イベントでは、インテルがブースを構え、Intel AI PC上でYOLO11を使用したリアルタイムオブジェクト検出のデモを展示しました。参加者は、OpenVINOで最適化され、Intel Core Ultra 200Vプロセッサにデプロイされたモデルの動作を実際に見ることができました。 

__wf_reserved_inherit
図5:参加者は、Intel OpenVinoブースでリアルタイムデモを見る機会がありました。

Intelのブースで、Dmitry氏は次のように述べています。「YOLO Visionに参加するのは今回が初めてですが、マドリードに来ることができてうれしいです。Intel Core Ultra 200Vプロセッサー上で動作するUltralyticsのYOLO11モデルを紹介しています。優れたパフォーマンスを発揮し、OpenVINOを使用してモデルを最適化およびデプロイしています。Ultralyticsとの連携は非常に簡単で、CPU、GPU、NPUを活用して最新のIntelハードウェア上でモデルを実行できました。」ブースでは、参加者向けにTシャツやノートなどの楽しいプレゼントも用意されていました。

主なポイント

YV24 でのインテルの技術講演では、Intel Core Ultra 200V シリーズプロセッサーを取り上げ、OpenVINO ツールキットが Ultralytics YOLO11 などの AI モデルをどのように最適化するかを紹介しました。この統合により、ユーザーは YOLO モデルをデバイス上で直接実行できるようになり、物体検出などのコンピュータビジョンタスクで優れたパフォーマンスを発揮します。主な利点は、ユーザーがクラウドサービスに依存する必要がないことです。

開発者やAI愛好家は、CPU、GPU、NPUなどのハードウェアを最大限に活用して、YOLOモデルを容易に実行および微調整し、リアルタイムアプリケーションに適用できます。Intel OpenVINOツールキットとUltralytics YOLOモデルを組み合わせることで、高度なAI機能を直接パーソナルデバイスに導入する新たな可能性が広がり、さまざまな業界でAIイノベーションを推進したいと考えている開発者にとって理想的な選択肢となります。

協力して革新を起こしましょう。GitHubリポジトリにアクセスして、私たちの貢献を探り、コミュニティと交流してください。私たちがAIをどのように活用して、製造業ヘルスケアなどの業界に影響を与えているかをご覧ください。

AIの未来を
共に築きましょう!

未来の機械学習で、新たな一歩を踏み出しましょう。

無料ではじめる
クリップボードにコピーしました