Causal Representation Learning

인과 표현 학습(CRL)은 픽셀과 같은 고차원 관측값으로부터 데이터를 생성한 실제 원인에 대응하는 소수의 잠재 변수와 그 변수 간 인과 관계를 학습하는 문제입니다. 이러한 표현을 사용하는 모델은 조명을 옮기거나 물체를 밀듯이 한 요인을 바꿨을 때 어떤 일이 일어나는지 예측할 수 있으며, 학습 데이터의 상관관계가 달라져도 계속 작동합니다. 이는 데이터 드리프트의 한 형태입니다. Bernhard Schölkopf, Francesco Locatello, Yoshua Bengio와 동료들은 2021년 인과 표현 학습을 향하여에서 연구 프로그램을 제시했습니다. 이 연구는 딥러닝의 표현 학습과 인과 변수가 이미 주어졌다고 가정하는 인과 추론의 구조적 인과 모델을 결합합니다.

일반적인 표현의 한계#

이미지 분류를 위해 학습된 네트워크는 각 이미지를 잠재 공간에 매핑하며, 이 공간의 특징은 학습 분포에서 레이블을 최대한 잘 예측하도록 구성됩니다. 하지만 이 특징이 물체와 주변 환경을 뒤섞지 못하게 막는 요소는 없습니다. 2018년 Sara Beery, Grant Van Horn, Pietro Perona는 풀이 무성한 목초지의 소를 알아보는 분류기가 해변에 서 있는 소에서는 실패할 수 있음을 보였습니다. 배경이 이미 ‘소’라는 개념의 일부가 되었기 때문입니다. 지름길 학습이라고 하는 이 실패는 데이터셋 편향에서 비롯되며, 같은 분포의 데이터를 더 추가해도 해결되지 않습니다.

CRL은 세상이 서로 독립적인 인과 메커니즘으로 이루어져 있다는 생각에 기반합니다. 새 카메라, 새로운 조명, 로봇의 동작처럼 현실 세계의 변화가 발생하면 몇 가지 메커니즘만 바뀌고 나머지는 그대로 유지됩니다. 표현의 변수가 이러한 메커니즘에 대응한다면, 변화는 소수의 변수에만 영향을 미칩니다. 2021년 인과 VAE인 CausalVAE를 평가하는 데 사용된 합성 Pendulum 데이터셋은 목표 구조를 보여줍니다. 진자의 각도와 조명의 각도가 함께 그림자의 위치와 길이를 결정하고, 네 가지 모두 하나의 이미지로 렌더링됩니다. 여기서 VAE는 변분 오토인코더를 의미합니다.

식별 가능성: 인과 변수를 복원할 수 있는 경우#

서로 다른 잠재 변수 집합이 같은 이미지를 설명할 수 있으므로, CRL은 먼저 실제 잠재 변수를 식별할 수 있는 조건을 묻습니다. 2019년 Locatello와 동료들은 모델과 데이터 모두에 대한 가정 없이는 비지도 학습으로 분리된 요인을 학습하는 것이 불가능하다고 증명했습니다. 7개 데이터셋에서 학습된 12,000개 이상의 모델을 조사한 연구에서도 비지도 방법이 실제 요인을 안정적으로 찾을 수 없음을 확인했습니다. 선형적인 기본 사례인 독립 성분 분석(ICA)은 이러한 가정으로 무엇을 얻을 수 있는지 보여줍니다. 독립 요인들이 선형적으로 혼합된 경우, 최대 하나의 요인만 가우스 분포이면 ICA가 요인들을 복원할 수 있습니다. 독립적인 가우스 변수는 어떤 회전을 적용해도 다시 독립적인 가우스 변수 집합이 되기 때문입니다.

import numpy as np
from sklearn.decomposition import FastICA

rng = np.random.default_rng(0)
mixing = np.array([[2.0, 1.0], [1.0, 1.0]])  # unknown map from two latent factors to two sensor readings

for name, latents in [
    ("Non-Gaussian factors", np.column_stack([rng.uniform(-1, 1, 5000), rng.laplace(size=5000)])),
    ("Gaussian factors", rng.normal(size=(5000, 2))),
]:
    observations = latents @ mixing.T
    recovered = FastICA(n_components=2, random_state=0).fit_transform(observations)
    # Correlation of each true factor with its best-matching recovered component (1.0 = recovered exactly)
    match = np.abs(np.corrcoef(latents.T, recovered.T)[:2, 2:]).max(axis=1)
    print(f"{name}: {match.round(2)}")

FastICA는 두 비가우스 요인을 모두 복원하며, 상관계수는 1.0입니다. 가우스 요인의 경우 임의의 회전을 반환하며, 각 성분과 실제 요인의 상관계수는 0.85에 불과합니다.

인과 요인에는 두 번째 어려움이 있습니다. 원인과 그 결과는 통계적으로 종속되어 있으므로, CRL 방법은 독립성 가정을 데이터 생성 방식에 관한 추가 정보로 대체합니다. 한 번에 하나의 물체를 움직이는 로봇이나 여러 병원에서 촬영한 의료 영상처럼, 개입 상황이나 여러 환경에서 기록한 데이터는 각 변화가 어떤 변수에 영향을 미치는지 드러냅니다. CITRIS 방법을 2022년 Phillip Lippe와 동료들이 제시한 것처럼, 변수가 부드럽게 변하고 동작이 일부 변수에 개입하는 경우에는 동영상이 도움이 됩니다. 쌍으로 구성된 뷰도 유용합니다. Julius von Kügelgen과 동료들은 NeurIPS 2021에서 대조 학습이 증강된 이미지 쌍에서 증강으로 변하지 않는 콘텐츠를 가역 변환까지 복원하고, 변화하는 스타일과 분리해 복원한다는 점을 증명했습니다. 콘텐츠와 스타일이 인과적으로 종속된 경우에도 마찬가지입니다. 지도 학습은 같은 콘텐츠와 스타일의 분리를 활용합니다. 기본 설정에서 Ultralytics YOLO26 분류 모델을 학습하면 이미지 면적의 50~100%를 유지하는 무작위 크롭, 좌우 반전, RandAugment, 확률 0.4의 무작위 지우기가 적용됩니다. 이는 클래스 레이블인 콘텐츠는 그대로 유지하면서 스타일을 바꾸는 데이터 증강 구성입니다.

CRL과 관련 용어 비교#

• 인과 발견: 표의 온도 및 압력 열처럼 이미 측정된 변수 사이의 인과 그래프를 학습합니다. CRL은 픽셀에서 시작해 변수와 그래프를 모두 학습해야 합니다.
• 분리된 표현 학습: 각 잠재 차원이 하나의 독립 요인을 포착하도록 합니다. CRL은 요인들이 서로 원인이 되는 것을 허용하고 그 관계를 모델링합니다.
• 자기 지도 학습: 많은 CRL 식별 가능성 결과가 의존하는 증강 뷰와 시간 순서 등의 학습 신호를 제공합니다.
• 설명 가능한 AI(XAI): 모델의 내부 변수가 현실 세계의 원인에 대응하지 않아도 학습된 모델의 예측을 유도한 입력을 설명합니다.