t-distributed Stochastic Neighbor Embedding (t-SNE)

t-distributed Stochastic Neighbor Embedding (t-SNE)은 데이터 포인트마다 2차원 또는 3차원 맵상의 위치를 지정하여 고차원 데이터를 시각화하는 통계적 방법입니다. 비선형 차원 축소의 일종인 이 기법은 수백 또는 수천 개의 특성을 포함하는 데이터셋을 탐색하기 위해 머신 러닝에서 널리 사용됩니다. 전역 구조 보존에 초점을 맞추는 선형 방법과 달리, t-SNE는 유사한 인스턴스를 가깝게 유지하는 데 탁월하며, 그렇지 않으면 숨겨져 있을 수 있는 로컬 클러스터와 매니폴드를 드러냅니다. 이 덕분에 유전체학 연구부터 심층 신경망의 내부 논리를 이해하는 것에 이르기까지 모든 분야에서 매우 귀중한 도구가 됩니다.

Link to this sectiont-SNE의 작동 원리#

t-SNE의 핵심 아이디어는 데이터 포인트 간의 유사성을 결합 확률로 변환하는 것입니다. 원래의 고차원 공간에서 이 알고리즘은 가우시안 분포를 사용하여 포인트 간의 유사성을 측정합니다. 두 포인트가 서로 가까이 있으면 "이웃"일 확률이 높습니다. 그런 다음 알고리즘은 이러한 확률을 유지하면서 이 포인트들을 저차원 공간(보통 2D 또는 3D)으로 매핑하려고 시도합니다.

To achieve this, it defines a similar probability distribution in the lower-dimensional map using a Student's t-distribution. This specific distribution has heavier tails than a normal Gaussian distribution, which helps address the "crowding problem"—a phenomenon where points in high-dimensional space tend to collapse on top of each other when projected down. By pushing dissimilar points farther apart in the visualization, t-SNE creates distinct, readable clusters that reveal the underlying structure of the training data. The algorithm effectively learns the best map representation through unsupervised learning by minimizing the divergence between the high-dimensional and low-dimensional probability distributions.

Link to this sectionAI의 실제 응용 사례#

t-SNE는 탐색적 데이터 분석(EDA) 및 모델 진단을 위한 표준 도구입니다. 엔지니어는 이를 통해 모델이 무엇을 학습하고 있는지 "확인"할 수 있습니다.

• 컴퓨터 비전 특성 검증: YOLO26과 같은 모델을 사용하는 객체 탐지 워크플로우에서 개발자는 종종 네트워크가 시각적으로 유사한 클래스를 구별할 수 있는지 확인해야 합니다. 네트워크의 최종 레이어에서 특성 맵을 추출하고 t-SNE로 투영하면 엔지니어는 "고양이" 이미지와 "개" 이미지가 별도로 클러스터링되는지 시각화할 수 있습니다. 클러스터가 섞여 있다면 모델의 특성 추출 기능 개선이 필요함을 시사합니다.
• 자연어 처리(NLP): t-SNE는 단어 임베딩을 시각화하는 데 많이 활용됩니다. 고차원 단어 벡터(보통 300차원 이상)가 2D로 투영되면 의미론적으로 유사한 단어들이 자연스럽게 그룹화됩니다. 예를 들어, t-SNE 플롯은 "king", "queen", "prince", "monarch"를 포함하는 클러스터를 보여주어, 자연어 처리(NLP) 모델이 왕실이라는 개념을 파악하고 있음을 입증할 수 있습니다.
• 유전체학 및 생물정보학: 연구자들은 t-SNE를 사용하여 단일 세포 RNA 시퀀싱 데이터를 시각화합니다. 수천 개의 유전자 발현 값을 2D 플롯으로 줄임으로써 과학자들은 뚜렷한 세포 유형을 식별하고 발달 궤적을 추적하여 새로운 생물학적 통찰력과 질병 표지자를 발견하는 데 도움을 받을 수 있습니다.

Link to this sectionPCA와의 비교#

t-SNE를 또 다른 일반적인 축소 기법인 주성분 분석(PCA)과 구분하는 것이 중요합니다.

• PCA는 데이터의 전역 분산을 보존하는 데 초점을 맞춘 선형 기법입니다. 결정론적이고 계산 효율적이어서 초기 데이터 압축이나 노이즈 제거에 매우 적합합니다.
• t-SNE는 로컬 이웃을 보존하는 데 초점을 맞춘 비선형 기법입니다. 확률적(stochastic)이며 계산량이 더 많지만, 복잡한 비선형 매니폴드에 대해 훨씬 더 나은 시각화를 생성합니다.

데이터 전처리의 일반적인 모범 사례는 먼저 PCA를 사용하여 데이터를 관리 가능한 크기(예: 50차원)로 줄인 다음, 최종 시각화를 위해 t-SNE를 적용하는 것입니다. 이 하이브리드 접근 방식은 계산 부하를 줄이고 t-SNE 결과를 저하시킬 수 있는 노이즈를 걸러냅니다.

Link to this sectionPython 예제: 특성 시각화#

다음 예제는 scikit-learn을 사용하여 합성 데이터셋에 t-SNE를 적용하는 방법을 보여줍니다. 이 워크플로우는 딥러닝 모델에서 추출된 특성을 시각화하는 방법과 유사합니다.

import matplotlib.pyplot as plt
from sklearn.datasets import make_blobs
from sklearn.manifold import TSNE

# Generate synthetic high-dimensional data (100 samples, 50 features, 3 centers)
X, y = make_blobs(n_samples=100, n_features=50, centers=3, random_state=42)

# Apply t-SNE to reduce dimensions from 50 to 2
# 'perplexity' balances local vs global aspects of the data
tsne = TSNE(n_components=2, perplexity=30, random_state=42)
X_embedded = tsne.fit_transform(X)

# Plot the result to visualize the 3 distinct clusters
plt.scatter(X_embedded[:, 0], X_embedded[:, 1], c=y)
plt.title("t-SNE Projection of High-Dimensional Data")
plt.show()

Link to this section주요 고려 사항#

t-SNE는 강력하지만 신중한 하이퍼파라미터 튜닝이 필요합니다. "퍼플렉서티(perplexity)" 매개변수는 매우 중요하며, 이는 각 포인트가 몇 개의 가까운 이웃을 가질지 추정하는 역할을 합니다. 이 값을 너무 낮거나 높게 설정하면 오해의 소지가 있는 시각화가 나타날 수 있습니다. 또한 t-SNE는 전역 거리를 잘 보존하지 못합니다. 즉, 플롯상의 두 개별 클러스터 간의 거리가 원래 공간에서의 물리적 거리를 반드시 반영하는 것은 아닙니다. 이러한 뉘앙스에도 불구하고, t-SNE는 컴퓨터 비전(CV) 아키텍처를 검증하고 복잡한 데이터셋을 이해하기 위한 핵심 기법으로 남아 있습니다. 대규모 데이터셋을 관리하는 사용자는 이러한 심층 분석을 수행하기 전에 Ultralytics Platform을 활용하여 데이터를 정리합니다.