Embeddings

Эмбеддинги — это плотные, низкоразмерные непрерывные векторные представления дискретных переменных, служащие фундаментальным переводчиком между человеческими данными и машинной логикой. В сфере Искусственного интеллекта (ИИ) компьютеры не могут интуитивно понимать беспорядочные, неструктурированные данные, такие как текст, изображения или аудио. Эмбеддинги решают эту проблему, преобразуя данные входные значения в списки вещественных чисел, известные как векторы, которые существуют в многомерном математическом пространстве. В отличие от традиционных кодировок, которые могут просто присвоить объекту случайный ID, эмбеддинги изучаются в процессе обучения, гарантируя, что семантически похожие элементы — например, слова "король" и "королева" или изображения двух разных кошек — располагаются близко друг к другу в векторном пространстве.

Link to this sectionКак работают эмбеддинги#

Создание эмбеддинга включает в себя подачу необработанных данных в нейронную сеть, разработанную для извлечения признаков. В процессе обучения модель учится сжимать основные характеристики входных данных в компактную числовую форму. Например, модель Компьютерного зрения (CV), анализирующая фотографию, не просто видит пиксели; она сопоставляет формы, текстуры и цвета с определенными координатами на многомерном графике. При измерении сходства системы вычисляют расстояние между этими координатами, используя такие метрики, как косинусное сходство или евклидово расстояние. Эта математическая близость позволяет алгоритмам выполнять сложные задачи, такие как классификация и кластеризация, с высокой эффективностью.

Link to this sectionРеальные приложения#

Эмбеддинги выступают в качестве движка для многих интеллектуальных функций, используемых в современных программных продуктах.

• Семантический поиск: Традиционные поисковые системы часто полагаются на точное сопоставление ключевых слов, что не работает, если пользователь ищет "авто", а в документе написано "машина". Эмбеддинги улавливают смысл, стоящий за словами. Представляя поисковый запрос и документы базы данных в виде векторов, система может извлекать результаты, соответствующие намерению пользователя, даже если конкретные слова различаются.
• Рекомендательные системы: Стриминговые сервисы и сайты электронной коммерции используют эмбеддинги для персонализации пользовательского опыта. Если пользователь смотрит научно-фантастический фильм, система определяет вектор эмбеддинга этого фильма и ищет другие фильмы с близкими векторами в базе данных. Это позволяет давать точные рекомендации, основанные на сходстве контента, а не просто на ручных тегах или категориях.
• Zero-Shot обучение: Продвинутые модели используют совместные эмбеддинги для связывания различных модальностей, таких как текст и изображения. Это позволяет системе распознавать объекты, которые она явно не видела во время обучения, сопоставляя эмбеддинг изображения с эмбеддингом текста названия объекта.

Link to this sectionГенерация эмбеддингов с помощью Python#

Современные модели, такие как YOLO26, могут эффективно использоваться для генерации надежных эмбеддингов изображений. Следующий пример демонстрирует, как извлечь вектор признаков из изображения с помощью пакета ultralytics для Python.

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Generate embeddings for an image
# The embed() method returns the feature vector representing the image content
embedding_vector = model.embed("https://ultralytics.com/images/bus.jpg")

# Print the shape of the embedding (e.g., a vector of length 1280)
print(f"Embedding shape: {embedding_vector[0].shape}")

Link to this sectionЭмбеддинги и связанные понятия#

Для эффективного внедрения ИИ-решений полезно отличать эмбеддинги от близких технических терминов.

• Эмбеддинги против векторного поиска: Эмбеддинг — это само представление данных (список чисел). Векторный поиск — это последующий процесс запроса к базе данных для нахождения ближайших соседей этого эмбеддинга. Специализированные инструменты, называемые векторными базами данных, часто используются для хранения и поиска этих эмбеддингов в масштабе.
• Эмбеддинги против токенизации: В обработке естественного языка (NLP) токенизация — это предварительный шаг разбиения текста на более мелкие фрагменты (токены). Затем эти токены отображаются в эмбеддинги. Таким образом, токенизация подготавливает данные, а эмбеддинги представляют смысл этих данных.
• Эмбеддинги против глубокого обучения: Глубокое обучение — это более широкая область машинного обучения, основанная на нейронных сетях. Эмбеддинги — это конкретный выходной результат или слой в архитектуре глубокого обучения, часто служащий мостом между исходными входными данными и слоями принятия решений модели.

Разработчики, желающие управлять жизненным циклом своих наборов данных, включая аннотирование и обучение моделей для генерации пользовательских эмбеддингов, могут использовать Ultralytics Platform. Этот комплексный инструмент упрощает рабочий процесс от управления данными до развертывания, гарантируя, что эмбеддинги, обеспечивающие работу твоих приложений, получены из высококачественных, хорошо структурированных данных. Независимо от того, используешь ли ты такие фреймворки, как PyTorch или TensorFlow, освоение эмбеддингов является важнейшим шагом в создании сложных систем распознавания образов.