Dimensionality Reduction

차원 축소는 머신러닝(ML) 및 데이터 과학 분야에서 데이터셋의 입력 변수(피처 또는 차원이라고도 함) 수를 줄이면서 가장 중요한 정보는 유지하기 위해 사용하는 혁신적인 기법입니다. 빅데이터 시대의 데이터셋에는 종종 수천 개의 변수가 포함되어 있어 차원의 저주라는 현상을 초래합니다. 이 현상으로 인해 모델 학습 비용이 증가하고 과적합에 취약해지며 해석이 어려워질 수 있습니다. 고차원 데이터를 저차원 공간으로 투영함으로써 실무자는 효율성, 시각화 및 예측 성능을 향상할 수 있습니다.

Link to this sectionAI 개발의 핵심 이점#

데이터 복잡성을 줄이는 것은 데이터 전처리 파이프라인의 기본 단계입니다. 이는 강력한 인공지능(AI) 시스템을 구축하는 데 몇 가지 실질적인 이점을 제공합니다.

• 향상된 계산 효율성: 피처 수가 적으면 처리할 데이터가 줄어듭니다. 이는 YOLO26과 같은 알고리즘의 학습 시간을 단축시켜 실시간 추론 및 자원이 제한된 엣지 AI 장치 배포에 더욱 적합하게 만듭니다.
• Improved Data Visualization: Human intuition struggles to comprehend data beyond three dimensions. Dimensionality reduction compresses complex datasets into 2D or 3D spaces, enabling effective data visualization to spot clusters, patterns, and outliers using tools like the TensorFlow Embedding Projector.
• 노이즈 감소: 데이터 내에서 가장 관련성이 높은 분산에 집중함으로써 이 기법은 노이즈와 중복 피처를 걸러냅니다. 그 결과 더 깨끗한 학습 데이터가 생성되어 모델이 보지 못한 예제에 대해 더 잘 일반화할 수 있도록 돕습니다.
• 저장 최적화: Ultralytics Platform을 통해 관리되는 것과 같은 대규모 데이터셋을 클라우드에 저장하는 것은 비용이 많이 들 수 있습니다. 피처 공간을 압축하면 필수 데이터 무결성을 희생하지 않고도 저장 요구 사항을 크게 낮출 수 있습니다.

Link to this section핵심 기법: 선형 vs 비선형#

차원 축소 방식은 일반적으로 데이터의 전역 선형 구조를 보존하는지, 아니면 국소 비선형 매니폴드를 보존하는지에 따라 분류됩니다.

Link to this section선형 방식#

가장 확립된 선형 기법은 주성분 분석(PCA)입니다. PCA는 데이터의 최대 분산을 포착하는 직교 축인 "주성분"을 식별하는 방식으로 작동합니다. 이는 원본 데이터를 이 새로운 축에 투영하여 정보 기여도가 낮은 차원을 효과적으로 제거합니다. 이는 비지도 학습 워크플로우의 핵심 요소입니다.

Link to this section비선형 방식#

이미지나 텍스트 임베딩과 같은 복잡한 데이터 구조에는 비선형 방식이 필요한 경우가 많습니다. t-SNE(t-Distributed Stochastic Neighbor Embedding) 및 UMAP(Uniform Manifold Approximation and Projection)과 같은 기법은 국소 근방을 보존하는 데 뛰어나 고차원 클러스터를 시각화하는 데 이상적입니다. 또한 오토인코더는 입력을 잠재 공간 표현으로 압축하고 이를 재구성하도록 학습된 신경망으로, 데이터의 컴팩트한 인코딩을 효과적으로 학습합니다.

Link to this section실제 애플리케이션 사례#

차원 축소는 딥러닝(DL)의 다양한 영역에서 매우 중요합니다.

1. 컴퓨터 비전: YOLO26과 같은 현대의 객체 탐지기는 수천 개의 픽셀이 포함된 이미지를 처리합니다. 내부 계층은 풀링 및 스트라이드 컨볼루션과 같은 기법을 사용하여 피처 맵의 공간 차원을 점진적으로 줄이고, 원시 픽셀을 높은 수준의 의미론적 개념(예: "가장자리", "눈", "자동차")으로 증류합니다.

2. 유전체학 및 헬스케어: 의료 영상 분석 및 생물정보학에서 연구자들은 수만 개의 변수가 있는 유전자 발현 데이터를 분석합니다. 차원 축소는 암 유전체학 연구에서 볼 수 있듯이 질병 분류를 위한 주요 바이오마커를 식별하는 데 도움을 줍니다.

3. 추천 시스템: Netflix나 Spotify와 같은 플랫폼은 매트릭스 분해(축소 기법)를 사용하여 사용자 선호도를 예측합니다. 사용자-항목 상호 작용의 희소 행렬을 줄임으로써 잠재 피처를 기반으로 콘텐츠를 효율적으로 추천할 수 있습니다.

Link to this section차원 축소 vs 피처 선택#

이 개념을 피처 선택과 구별하는 것이 중요합니다. 두 방식은 서로 다른 메커니즘을 통해 유사한 목표를 달성하기 때문입니다.

• 피처 선택은 원본 피처의 하위 집합을 선택하는 것을 포함합니다(예: "나이" 유지 및 "이름" 삭제). 이는 선택된 피처의 값을 변경하지 않습니다.
• 차원 축소(특히 피처 추출)는 원본 피처의 조합인 새로운 피처를 생성합니다. 예를 들어, PCA는 "키"와 "몸무게"를 결합하여 "체격"을 나타내는 하나의 새로운 성분을 생성할 수 있습니다.

Link to this sectionPython 예제: 이미지 임베딩 축소#

다음 예제는 고차원 출력(이미지 임베딩 벡터를 시뮬레이션)을 가져와 PCA를 사용하여 축소하는 방법을 보여줍니다. 이는 YOLO26과 같은 모델이 유사한 클래스를 그룹화하는 방식을 시각화할 때 공통적으로 사용하는 워크플로우입니다.

import numpy as np
from sklearn.decomposition import PCA

# Simulate high-dimensional embeddings (e.g., 10 images, 512 features each)
# In a real workflow, these would come from a model like YOLO26n
embeddings = np.random.rand(10, 512)

# Initialize PCA to reduce from 512 dimensions to 2
pca = PCA(n_components=2)
reduced_data = pca.fit_transform(embeddings)

# Output shape is now (10, 2), ready for 2D plotting
print(f"Original shape: {embeddings.shape}")  # (10, 512)
print(f"Reduced shape: {reduced_data.shape}")  # (10, 2)