t-distributed Stochastic Neighbor Embedding (t-SNE)

t-distributed Stochastic Neighbor Embedding (t-SNE)은 각 데이터 포인트에 2차원 또는 3차원 맵상의 위치를 부여하여 고차원 데이터를 시각화하기 위한 통계적 방법입니다. 비선형 차원 축소의 한 형태인 이 기법은 수백 또는 수천 개의 특성을 포함하는 데이터셋을 탐색하기 위해 머신러닝에서 널리 사용됩니다. 전역 구조 보존에 초점을 맞추는 선형 방법과 달리, t-SNE는 유사한 인스턴스를 서로 가깝게 유지하는 데 탁월하며, 그렇지 않으면 숨겨져 있을 수 있는 로컬 클러스터와 매니폴드를 드러냅니다. 이로 인해 유전체 연구부터 심층 신경망의 내부 로직 이해에 이르기까지 모든 분야에서 없어서는 안 될 귀중한 도구가 됩니다.

t-SNE의 작동 원리#

t-SNE의 핵심 아이디어는 데이터 포인트 간의 유사성을 결합 확률로 변환하는 것입니다. 원래의 고차원 공간에서 이 알고리즘은 가우시안 분포를 사용하여 포인트 간의 유사성을 측정합니다. 두 포인트가 서로 가까이 있으면 "이웃"일 확률이 높습니다. 그런 다음 알고리즘은 이러한 확률을 유지하면서 이 포인트들을 저차원 공간(보통 2D 또는 3D)으로 매핑하려고 시도합니다.

이를 달성하기 위해, t-SNE는 Student's t-분포를 사용하여 저차원 맵에서 유사한 확률 분포를 정의합니다. 이 특정 분포는 정규 가우스 분포보다 꼬리가 더 두껍기 때문에, 고차원 공간의 점들이 축소될 때 서로 겹쳐지는 현상인 "밀집 문제(crowding problem)"를 해결하는 데 도움이 됩니다. 시각화에서 유사하지 않은 점들을 더 멀리 밀어냄으로써, t-SNE는 학습 데이터의 기본 구조를 드러내는 구별되고 읽기 쉬운 클러스터를 생성합니다. 알고리즘은 고차원 및 저차원 확률 분포 간의 발산을 최소화함으로써 비지도 학습을 통해 최적의 맵 표현을 효과적으로 학습합니다.

AI의 실제 응용 사례#

t-SNE는 탐색적 데이터 분석(EDA) 및 모델 진단을 위한 표준 도구입니다. 엔지니어가 모델이 학습하고 있는 내용을 "눈으로 확인할" 수 있게 해줍니다.

• 컴퓨터 비전 기능 검증: YOLO26과 같은 모델을 사용하는 객체 검출 워크플로우에서, 개발자는 네트워크가 시각적으로 유사한 클래스를 구별할 수 있는지 확인해야 하는 경우가 많습니다. 네트워크의 최종 레이어에서 특성 맵을 추출하고 이를 t-SNE로 투영함으로써, 엔지니어는 "고양이" 이미지와 "강아지" 이미지가 별도로 군집을 이루는지 시각화할 수 있습니다. 클러스터가 섞여 있다면 모델의 특성 추출 기능이 개선되어야 함을 시사합니다.
• 자연어 처리 (NLP): t-SNE는 단어 임베딩을 시각화하는 데 널리 활용됩니다. 고차원 단어 벡터(보통 300차원 이상)가 2차원으로 투영될 때, 유사한 의미를 가진 단어들은 자연스럽게 그룹화됩니다. 예를 들어, t-SNE 플롯은 "king", "queen", "prince", "monarch"를 포함하는 클러스터를 보여줌으로써 자연어 처리 (NLP) 모델이 왕실이라는 개념을 이해하고 있음을 증명할 수 있습니다.
• 유전체학 및 생물정보학: 연구자들은 t-SNE를 사용하여 단일 세포 RNA 시퀀싱 데이터를 시각화합니다. 수천 개의 유전자 발현 값을 2D 플롯으로 줄임으로써 과학자들은 뚜렷한 세포 유형을 식별하고 발달 궤적을 추적하여 새로운 생물학적 통찰력과 질병 표지자를 발견하는 데 도움을 받을 수 있습니다.

PCA와의 비교#

t-SNE를 또 다른 일반적인 차원 축소 기법인 주성분 분석 (PCA)과 구분하는 것이 중요합니다.

• PCA는 데이터의 전역 분산을 보존하는 데 초점을 맞춘 선형 기법입니다. 결정론적이고 계산 효율적이어서 초기 데이터 압축이나 노이즈 제거에 매우 적합합니다.
• t-SNE는 로컬 이웃을 보존하는 데 초점을 맞춘 비선형 기법입니다. 확률적(stochastic)이며 계산량이 더 많지만, 복잡한 비선형 매니폴드에 대해 훨씬 더 나은 시각화를 생성합니다.

데이터 전처리에서의 일반적인 모범 사례는 먼저 PCA를 사용하여 데이터를 관리 가능한 크기(예: 50차원)로 줄인 다음 최종 시각화에 t-SNE를 적용하는 것입니다. 이 하이브리드 접근 방식은 연산 부하를 줄이고 t-SNE 결과를 저하시킬 수 있는 노이즈를 필터링합니다.

Python 예제: 특성 시각화#

다음 예제는 scikit-learn을 사용하여 합성 데이터셋에 t-SNE를 적용하는 방법을 보여줍니다. 이 워크플로우는 딥러닝 모델에서 추출된 특성을 시각화하는 방식을 반영합니다.

import matplotlib.pyplot as plt
from sklearn.datasets import make_blobs
from sklearn.manifold import TSNE

# Generate synthetic high-dimensional data (100 samples, 50 features, 3 centers)
X, y = make_blobs(n_samples=100, n_features=50, centers=3, random_state=42)

# Apply t-SNE to reduce dimensions from 50 to 2
# 'perplexity' balances local vs global aspects of the data
tsne = TSNE(n_components=2, perplexity=30, random_state=42)
X_embedded = tsne.fit_transform(X)

# Plot the result to visualize the 3 distinct clusters
plt.scatter(X_embedded[:, 0], X_embedded[:, 1], c=y)
plt.title("t-SNE Projection of High-Dimensional Data")
plt.show()

주요 고려 사항#

강력하지만, t-SNE는 신중한 하이퍼파라미터 튜닝이 필요합니다. "퍼플렉서티(perplexity)" 파라미터는 매우 중요하며, 각 점에 얼마나 많은 가까운 이웃이 있는지를 기본적으로 추정합니다. 너무 낮게 또는 너무 높게 설정하면 오해의 소지가 있는 시각화가 발생할 수 있습니다. 또한, t-SNE는 전역 거리를 잘 보존하지 못하므로, 플롯상의 두 개별 클러스터 간의 거리가 원래 공간에서의 물리적 거리를 반드시 반영하지는 않습니다. 이러한 미묘한 차이에도 불구하고, 이 기법은 컴퓨터 비전 (CV) 아키텍처를 검증하고 복잡한 데이터셋을 이해하는 데 있어 핵심적인 기술로 남아 있습니다. 대규모 데이터셋을 관리하는 사용자는 이러한 심층 분석을 수행하기 전에 종종 Ultralytics Platform을 활용하여 데이터를 정리합니다.