Embeddings

エンベディングは、離散変数を高密度かつ低次元の連続ベクトルで表現したものであり、人間が扱うデータと機械の論理との間を橋渡しする基本的な翻訳機として機能します。人工知能 (AI)の領域において、コンピュータはテキスト、画像、音声といった複雑な非構造化データを直感的に理解することができません。エンベディングは、これらの入力を高次元の数学的空間に存在するベクトルと呼ばれる実数のリストに変換することで、この問題を解決します。ランダムなIDをオブジェクトに割り当てるだけの従来型エンコーディングとは異なり、エンベディングはトレーニングを通じて学習されます。これにより、「キング」と「クイーン」という単語や、2種類の異なる猫の画像のように、意味的に類似した項目がベクトル空間内で互いに近い位置に配置されるようになります。

Link to this sectionエンベディングの仕組み#

The creation of an embedding involves feeding raw data into a neural network designed for feature extraction. During training, the model learns to compress the essential characteristics of the input into a compact numerical form. For example, a Computer Vision (CV) model analyzing a photograph doesn't just see pixels; it maps shapes, textures, and colors into a specific coordinate in a multi-dimensional graph. When measuring similarity, systems calculate the distance between these coordinates using metrics like cosine similarity or Euclidean distance. This mathematical proximity allows algorithms to perform complex tasks like classification and clustering with high efficiency.

Link to this section実社会での応用#

エンベディングは、現代のソフトウェア製品で使用される多くのインテリジェントな機能のエンジンとして機能します。

• セマンティック検索: 従来の検索エンジンは多くの場合、正確なキーワードマッチングに依存していますが、ユーザーが「自動車」と検索しても文書内に「車」という単語しかない場合は失敗します。エンベディングは単語の背後にある意味を捉えます。検索クエリとデータベース内の文書をベクトルとして表現することで、システムは特定の単語が異なっていても、ユーザーの意図に一致する結果を抽出できます。
• レコメンデーションシステム: ストリーミングサービスやEコマースサイトは、エンベディングを使用してユーザー体験をパーソナライズします。ユーザーがSF映画を視聴すると、システムはその映画のエンベディングベクトルを特定し、データベース内で近いベクトルを持つ他の映画を検索します。これにより、手動のタグやカテゴリだけに頼るのではなく、コンテンツの類似性に基づいた正確な提案が可能になります。
• ゼロショット学習: 高度なモデルは、ジョイントエンベディングを使用してテキストや画像といった異なるモダリティをリンクさせます。これにより、画像エンベディングとオブジェクト名のテキストエンベディングを関連付けることで、トレーニング中に明示的に見たことがないオブジェクトでもシステムが認識できるようになります。

Link to this sectionPythonを使用したエンベディングの生成#

YOLO26のような最先端のモデルを使用すると、堅牢な画像エンベディングを効率的に生成できます。以下の例では、ultralytics Pythonパッケージを使用して画像から特徴ベクトルを抽出する方法を示します。

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Generate embeddings for an image
# The embed() method returns the feature vector representing the image content
embedding_vector = model.embed("https://ultralytics.com/images/bus.jpg")

# Print the shape of the embedding (e.g., a vector of length 1280)
print(f"Embedding shape: {embedding_vector[0].shape}")

Link to this sectionエンベディングと関連概念の比較#

AIソリューションを効果的に実装するためには、エンベディングを密接に関連する専門用語と区別することが役立ちます。

• エンベディング vs ベクトル検索: エンベディングはデータ表現そのもの（数値のリスト）です。ベクトル検索は、そのエンベディングに対する最近傍を検索するためにデータベースをクエリする後続のプロセスです。ベクトルデータベースとして知られる専門的なツールは、これらのエンベディングを大規模に保存および検索するためによく使用されます。
• エンベディング vs トークン化: 自然言語処理 (NLP)において、トークン化はテキストをより小さな塊（トークン）に分割する前処理のステップです。これらのトークンはその後エンベディングにマッピングされます。つまり、トークン化はデータを準備する役割を持ち、エンベディングはデータの意味を表現する役割を持ちます。
• エンベディング vs ディープラーニング: ディープラーニングは、ニューラルネットワークに基づく機械学習のより広範な分野です。エンベディングはディープラーニングのアーキテクチャ内における特定の出力または層であり、多くの場合、生の入力とモデルの意思決定層との間の架け橋として機能します。

アノテーションやカスタムエンベディング生成のためのモデルトレーニングを含む、データセットのライフサイクル管理を検討している開発者は、Ultralytics Platformを活用できます。この包括的なツールは、データ管理からデプロイまでのワークフローを簡素化し、アプリケーションを駆動するエンベディングが高品質かつ精選されたデータから導き出されることを保証します。PyTorchやTensorFlowのようなフレームワークを使用する場合でも、エンベディングを習得することは洗練されたパターン認識システムを構築するための重要なステップです。