Semantic Search

Семантический поиск — это сложный метод извлечения информации, который стремится понять намерение и контекстуальный смысл запроса пользователя, а не просто сопоставить конкретные слова. Используя достижения в области Natural Language Processing (NLP) и Machine Learning (ML), эта технология позволяет системам интерпретировать человеческий язык с большей точностью. Это краеугольный камень современных приложений Artificial Intelligence (AI), обеспечивающий более интуитивное взаимодействие между людьми и машинами за счет преодоления разрыва между неоднозначными запросами пользователей и релевантными данными.

Как работает семантический поиск#

По своей сути семантический поиск выходит за рамки буквального сопоставления символов для анализа взаимосвязей между концепциями. Традиционные поисковые системы могут дать сбой, если пользователь ищет «кошачье», а документы содержат только слово «кот». Семантический поиск решает эту проблему, преобразуя unstructured data (например, текст, изображения или аудио) в математические представления, называемые embeddings.

Эти эмбеддинги представляют собой многомерные векторы, расположенные в «семантическом пространстве». В этом пространстве элементы со схожими значениями находятся близко друг к другу. Например, вектор для слова «автомобиль» будет математически ближе к «машине» и «дороге», чем к «банану». Когда пользователь отправляет запрос, система преобразует этот запрос в вектор и находит ближайшие точки данных в vector database. Этот процесс опирается на модели deep learning для выполнения feature extraction, определяя существенные характеристики данных.

Следующий код на Python демонстрирует, как генерировать эти эмбеддинги с помощью модели Ultralytics YOLO26, что является основополагающим шагом для включения визуального семантического поиска.

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Generate feature embeddings for an image
# This converts the visual content into a numerical vector
results = model.embed("https://ultralytics.com/images/bus.jpg")

# Output the shape of the embedding vector (e.g., length 1280)
print(f"Embedding vector shape: {results[0].shape}")

Реальные приложения#

Семантический поиск произвел революцию в том, как пользователи находят информацию в различных отраслях, делая системы более умными и эффективными.

• Электронная коммерция и визуальный поиск: В мире AI in retail семантический поиск обеспечивает работу функций «купить образ». Клиент может загрузить фото кроссовок или найти «винтажное летнее настроение». Система использует computer vision для понимания визуального стиля и извлекает продукты, соответствующие этой эстетике, даже если описания товаров не содержат этих точных ключевых слов. Это часто включает в себя Multi-Modal Models, способные понимать как текстовые, так и визуальные входные данные.
• Управление знаниями и RAG: Крупные организации используют семантический поиск, чтобы помочь сотрудникам находить внутренние документы. Вместо того чтобы запоминать точные имена файлов, сотрудник может задать вопрос вроде «Как мне перезагрузить сервер?». Система использует Retrieval-Augmented Generation (RAG) для поиска наиболее релевантных документов с учетом их смысла и передает их в Large Language Model (LLM) для генерации точного ответа.
• Рекомендация контента: Платформы потокового вещания используют семантическое понимание для улучшения своей recommendation system. Анализируя краткое содержание сюжетов и визуальные feature maps фильмов, которые нравятся пользователю, платформа может предлагать другие наименования с похожими темами или настроением, дольше удерживая внимание пользователей.

Семантический поиск в сравнении со схожими концепциями#

Чтобы в полной мере понять пользу семантического поиска, полезно отделить его от смежных терминов в сфере data science.

• Vector Search: Хотя эти понятия часто используются как взаимозаменяемые, существует техническое различие. Векторный поиск — это математический метод вычисления расстояния между векторами (часто с использованием cosine similarity). Семантический поиск — это более широкое приложение, использующее векторный поиск для достижения цели понимания намерений пользователя.
• Поиск по ключевым словам: Это традиционный метод, основанный на точном сопоставлении строк. Он дешевле с точки зрения вычислений, но хрупок; у него возникают трудности с synonyms и полисемией (словами с несколькими значениями). Семантический поиск требует больших вычислительных мощностей, но обеспечивает значительно более высокую релевантность.
• Zero-Shot Learning: Это относится к способности модели классифицировать данные, которые она никогда не видела во время обучения. Поисковые системы на основе семантики часто демонстрируют возможности zero-shot, поскольку они могут сопоставлять новый, ранее не встречавшийся запрос с существующими кластерами известных концепций в пространстве эмбеддингов без повторного обучения.

Внедрение семантического поиска обычно требует надежного конвейера для управления наборами данных и обучения моделей. Ultralytics Platform упрощает этот процесс, предоставляя инструменты для аннотирования данных, обучения моделей и их эффективного развертывания. Для разработчиков, желающих создавать такие системы, изучение Ultralytics similarity search guide дает практические шаги по интеграции этих мощных возможностей в приложения.