CPU

中央演算処理装置CPU）は、コンピュータの制御センターとして機能する主要コンポーネントである、 命令を実行し、システム全体のデータの流れを制御する。しばしば「頭脳」と呼ばれる。 デバイスの「頭脳」とも呼ばれるCPU 、オペレーティング・システムの実行や入出力操作の管理など、汎用コンピューティング・タスクを処理する。 入出力操作の管理など、汎用コンピューティングタスクを処理する。人工知能（AI）や 人工知能（AI）や 機械学習（ML）においては、CPU 基礎的な役割を果たす。CPUは、大規模な並列処理に必要な並列性を提供しないかもしれない。 モデル学習に必要な大規模な並列性は提供できないかもしれないが、データの前処理には不可欠である、 システム・ロジックを管理し、消費電力とハードウェア・コストが制約となるエッジ・デバイス上で推論を実行するためには不可欠である。 制約があります。

CPU GPU 、TPU比較

機械学習オペレーション（MLOps）を最適化するには、ハードウェアの状況を理解することが不可欠だ。 機械学習オペレーション（MLOps）の最適化には、ハードウェアの状況を理解することが不可欠です。CPU 、GPUやTPUのようなアクセラレーターとは、アーキテクチャや使用目的が大きく異なる：

• CPU （中央演算処理装置）： 低レイテンシーでシーケンシャルな処理のために設計されている。複雑なロジックや分岐を処理できる少数の強力なコアを備えている。 複雑なロジックや分岐を処理できる。そのため、以下のようなタスクに最適。 データクリーニングやパイプライン全体のオーケストレーション パイプライン。主なアーキテクチャには、x86Intel、AMD）とARMがある。
• GPU （グラフィックス・プロセッシング・ユニット）： もともとグラフィックスのレンダリング用に作られたGPUは、何千もの小さなコアを利用して並列処理を行う。 並列処理を行う。このアーキテクチャは このアーキテクチャは ディープラーニング（DL）に見られる行列演算に不可欠で、大規模なニューラルネットワークの 大規模なニューラルネットワークのトレーニングを大幅に高速化する。
• Tensor Processing Unit）： 特定用途向け集積回路 特定用途向け集積回路（ASIC） のようなフレームワークでtensor 計算を高速化するためにGoogle 開発した特定用途向け集積回路（ASIC）。 TensorFlow.

AIワークフローにおける役割

トレーニングではGPUが注目されることが多いが、AIのライフサイクルを通じてCPU 不可欠であることに変わりはない。

1. データの前処理：モデルがデータを "見る "前に、画像やテキストを読み込み、変換する必要がある。 変換しなければならない。サイズ変更、正規化、データ拡張などの処理は、通常 データ拡張などの処理は、通常 のようなライブラリを使用してCPU 処理される。 NumPyや OpenCV.効率的なCPU 処理により、GPU データを待つ間 をアイドル状態にすることを防ぎます。
2. 後処理：モデルが生の予測を生成した後、CPU しばしば最終的な計算を行う。 計算を行うことが多い。例えば、物体検出では CPU NMS実行します。 を実行し、オーバーラップするバウンディングボックスをフィルタリングして、最も信頼性の高い検出を保持します。
3. エッジ推論：現実世界の多くのシナリオでは、高価なGPUを導入することは現実的ではない。 エッジAIは、ラズベリーパイのようなデバイスやモバイルで軽量モデルを実行するために、CPUに大きく依存している。 ラズベリーパイや携帯電話のようなデバイス上で軽量モデルを実行するために、エッジAIはCPUに大きく依存している。 携帯電話などだ。

実際のアプリケーション

CPUは、汎用性とエネルギー効率が生の処理能力よりも優先される幅広いアプリケーションを容易にします。 スループットが優先されます。

• スマートな監視システム：多くのセキュリティシステムは 標準的なCPUで動作する を利用しています。ビデオ・フィードを録画デバイス上でローカルに処理することで、システムは、専用のGPUを必要とすることなく、動きが検出された場合にのみ警告を発したり、録画を開始したりすることができます。 専用GPU必要とせず、ストレージと帯域幅を節約できます。
• 産業用IoT（IIoT）：製造業では 予知保全システムは 産業用コントローラーの組み込みCPU上で動作することが多い。これらのシステムは、センサーデータ（振動、温度）をリアルタイムで監視します。 をリアルタイムで監視し、軽量な回帰モデルや分類モデルを使用して機械の故障を予測します。 製造オートメーションの円滑な稼動を保証する。

CPU推論を実行する

開発者は、特別なハードウェアがない環境でのモデルのデバッグ、テスト、デプロイにCPU 頻繁に使用する。 を使うことが多い。次のようなフレームワークがある。 PyTorchのようなフレームワークを使うと CPU明示的にターゲットにすることができます。さらに、モデルを ONNXなどの形式に変換したり OpenVINO ツールキットを使うことで Intel 推論速度を大幅に最適化することができる。

以下の例では Ultralytics YOLO11モデルがCPU上で推論を実行する方法を示します。これは 標準的なハードウェアでの性能ベンチマークに特に役立つ。 標準的なハードウェアで

from ultralytics import YOLO

# Load the official YOLO11 nano model
model = YOLO("yolo11n.pt")

# Run inference on an image, explicitly setting the device to CPU
# This bypasses any available GPU to simulate an edge deployment environment
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Display the detection results
results[0].show()

を使用している。 device="cpu" 引数は、計算がセントラル・プロセッサー上で行われることを保証する、 これにより開発者は サーバーレス・コンピューティング 環境または低消費電力 エッジデバイス。