Embeddings

임베딩은 이산 변수에 대한 조밀하고 저차원적인 연속 벡터 표현으로, 인간이 생성한 데이터와 기계 논리 사이를 연결하는 기본적인 변환기 역할을 합니다. 인공지능 (AI) 분야에서 컴퓨터는 텍스트, 이미지, 오디오와 같은 복잡한 비정형 데이터를 직관적으로 이해할 수 없습니다. 임베딩은 이러한 입력을 벡터라고 하는 실수 목록으로 변환하여 이 문제를 해결하며, 벡터는 고차원 수학 공간에 존재합니다. 객체에 단순히 임의의 ID를 할당할 수 있는 기존 인코딩과 달리, 임베딩은 학습을 통해 생성되므로 의미적으로 유사한 항목, 예를 들어 "왕"과 "여왕"이라는 단어 또는 서로 다른 두 고양이의 이미지가 벡터 공간에서 서로 가깝게 배치됩니다.

임베딩 작동 방식#

임베딩을 생성하려면 특징 추출을 수행하도록 설계된 신경망에 원시 데이터를 입력합니다. 학습 과정에서 모델은 입력의 핵심 특성을 압축하여 간결한 수치 형식으로 표현하는 방법을 학습합니다. 예를 들어 사진을 분석하는 컴퓨터 비전 (CV) 모델은 단순히 픽셀을 보는 것이 아니라, 형태, 질감, 색상을 다차원 그래프의 특정 좌표로 매핑합니다. 유사도를 측정할 때 시스템은 코사인 유사도 또는 유클리드 거리와 같은 메트릭을 사용하여 이러한 좌표 간의 거리를 계산합니다. 이러한 수학적 근접성 덕분에 알고리즘은 분류 및 클러스터링과 같은 복잡한 작업을 높은 효율로 수행할 수 있습니다.

실제 적용 사례#

임베딩은 최신 소프트웨어 제품에서 사용되는 다양한 지능형 기능의 엔진 역할을 합니다.

• 시맨틱 검색: 기존 검색 엔진은 흔히 정확한 키워드 매칭에 의존하므로, 사용자가 "auto"를 검색했지만 문서에는 "car"가 포함된 경우 제대로 작동하지 않습니다. 임베딩은 단어에 담긴 의미를 포착합니다. 검색 쿼리와 데이터베이스 문서를 벡터로 표현하면, 특정 단어가 서로 다르더라도 시스템은 사용자의 의도에 부합하는 결과를 검색할 수 있습니다.
• 추천 시스템: 스트리밍 서비스와 전자상거래 사이트는 임베딩을 사용하여 사용자 경험을 개인화합니다. 사용자가 SF 영화를 시청하면 시스템은 해당 영화의 임베딩 벡터를 식별하고 데이터베이스에서 벡터가 가까운 다른 영화를 검색합니다. 이를 통해 단순한 수동 태그나 카테고리가 아니라 콘텐츠 유사성을 기반으로 정확한 추천을 제공할 수 있습니다.
• 제로샷 학습: 고급 모델은 텍스트와 이미지처럼 서로 다른 모달리티를 연결하기 위해 공동 임베딩을 사용합니다. 이를 통해 시스템은 이미지 임베딩을 해당 객체 이름의 텍스트 임베딩과 연결함으로써 학습 중 명시적으로 본 적이 없는 객체도 인식할 수 있습니다.

Python으로 임베딩 생성하기#

YOLO26과 같은 최신 모델을 사용하면 강건한 이미지 임베딩을 효율적으로 생성할 수 있습니다. 다음 예제에서는 ultralytics Python 패키지를 사용하여 이미지에서 특징 벡터를 추출하는 방법을 보여 줍니다.

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Generate embeddings for an image
# The embed() method returns the feature vector representing the image content
embedding_vector = model.embed("https://ultralytics.com/images/bus.jpg")

# Print the shape of the embedding (e.g., a vector of length 1280)
print(f"Embedding shape: {embedding_vector[0].shape}")

임베딩과 관련 개념 비교#

AI 솔루션을 효과적으로 구현하려면 임베딩과 밀접하게 관련된 기술 용어를 구분하는 것이 유용합니다.

• 임베딩과 벡터 검색의 비교: 임베딩은 데이터 자체를 표현한 것(숫자 목록)입니다. 벡터 검색은 해당 임베딩의 최근접 이웃을 찾기 위해 데이터베이스를 조회하는 후속 프로세스입니다. 이러한 임베딩을 대규모로 저장하고 검색하기 위해 벡터 데이터베이스라는 특수 도구를 사용하는 경우가 많습니다.
• 임베딩과 토큰화의 비교: 자연어 처리 (NLP)에서 토큰화는 텍스트를 더 작은 단위(토큰)로 나누는 예비 단계입니다. 그런 다음 이러한 토큰을 임베딩에 매핑합니다. 따라서 토큰화는 데이터를 준비하고, 임베딩은 데이터의 의미를 표현합니다.
• 임베딩과 딥러닝의 비교: 딥러닝은 신경망을 기반으로 하는 머신러닝의 광범위한 분야입니다. 임베딩은 딥러닝 아키텍처 내의 특정 출력 또는 레이어로, 원시 입력과 모델의 의사 결정 레이어 사이를 연결하는 역할을 하는 경우가 많습니다.

맞춤형 임베딩을 생성하기 위한 어노테이션과 모델 학습을 포함하여 데이터셋의 라이프사이클을 관리하려는 개발자는 Ultralytics Platform을 사용할 수 있습니다. 이 종합적인 도구는 데이터 관리부터 배포까지의 워크플로를 간소화하여 애플리케이션을 구동하는 임베딩이 고품질의 체계적으로 선별된 데이터에서 파생되도록 합니다. PyTorch 또는 TensorFlow와 같은 프레임워크를 사용하든, 임베딩을 숙지하는 것은 정교한 패턴 인식 시스템을 구축하는 데 중요한 단계입니다.