Bayesian Network

베이즈 네트워크 또는 신념 네트워크는 방향성 비순환 그래프(DAG)로 확률 변수 집합과 그 조건부 의존성을 나타내는 확률 그래픽 모델입니다. 각 노드는 질병, 증상, 센서 판독값과 같은 변수이며, 각 화살표는 직접적인 영향에서 영향을 받는 변수 방향을 가리킵니다. 모든 노드에는 부모 변수 값의 각 조합에 따른 분포를 나타내는 조건부 확률표가 저장되며, 이 표들을 함께 사용하면 전체 변수의 결합 분포를 정의할 수 있습니다. 일부 변수에 대한 증거가 주어지면 네트워크는 나머지 변수의 확률을 갱신하므로, 진단, 위험 평가, 불확실성하의 의사결정 지원에 활용할 수 있습니다. Judea Pearl은 1980년대에 이론의 상당 부분을 발전시켰으며, 확률적 추론과 인과 추론에 관한 연구로 2011년 튜링상을 받았습니다.

구조와 조건부 확률표#

그래프는 조건부 독립성을 표현합니다. 즉, 각 변수는 부모가 알려지면 자신보다 아래에 있는 후손이 아닌 변수들과 독립적입니다. 이를 통해 결합 분포를 작은 지역 단위의 곱으로 분해할 수 있습니다. P(X1, ..., Xn) = P(X1 | parents(X1)) × ... × P(Xn | parents(Xn)). Pearl의 연구에서 등장했으며 Russell과 Norvig의 교재 Artificial Intelligence: A Modern Approach 전반에서 사용되는 고전적인 강도-경보 네트워크에는 예/아니요로 표현되는 변수 다섯 개가 있습니다. 강도나 지진이 가정용 경보 장치를 작동시킬 수 있으며, 경보가 울리면 이웃인 John과 Mary가 집주인에게 전화합니다.

이진 변수 다섯 개의 전체 결합 확률표에는 독립 확률 31개가 필요합니다. 네트워크에는 10개만 필요합니다. 강도와 지진에 각각 하나씩, 두 부모의 조합별 경보 확률 네 개, 경보 상태별 이웃의 전화 확률 두 개입니다. 각 표의 크기는 노드의 부모 수에만 좌우되므로 변수 수가 늘어날수록 절감 효과가 빠르게 커집니다.

추론: 증거에 따른 신념 갱신#

추론에서는 관측된 변수를 고정하고 그래프 전반에 베이즈 정리를 적용하여 질의 변수의 사후 분포를 계산합니다. 추론은 어떤 방향으로든 수행할 수 있습니다. 원인에서 결과로 진행하는 (예측), 결과에서 원인으로 진행하는 진단, 그리고 공통 결과를 유발하는 원인 간 추론이 있습니다. 설명 생략이라고 불리는 마지막 패턴에서는 경보가 울렸다는 사실을 알게 된 뒤 지진이 발생했다는 정보까지 얻으면 강도 확률이 낮아집니다. 열거 또는 변수 제거를 통한 정확 추론은 소규모 네트워크나 트리형 네트워크에서 실행할 수 있지만, 일반적으로 NP-난해하므로 대규모 네트워크에는 가능도 가중치, 깁스 샘플링, 루프형 신념 전파와 같은 근사 방법을 사용합니다.

이 예제에서는 관측되지 않은 지진 및 경보 변수를 대상으로 인수분해된 결합 분포를 합산하여 교재의 질의 P(Burglary | John calls, Mary calls)에 열거 방식으로 답합니다.

from itertools import product

# Conditional probability tables of the burglary-alarm network
p_burglary, p_earthquake = 0.001, 0.002
p_alarm = {(True, True): 0.95, (True, False): 0.94, (False, True): 0.29, (False, False): 0.001}
p_john = {True: 0.90, False: 0.05}  # P(John calls | alarm)
p_mary = {True: 0.70, False: 0.01}  # P(Mary calls | alarm)


def bern(p, value):
    """Return the probability of a binary outcome with success probability p."""
    return p if value else 1 - p


# Evidence: both neighbors called. Sum the factored joint over the hidden variables.
joint = {True: 0.0, False: 0.0}
for b, e, a in product([True, False], repeat=3):
    joint[b] += bern(p_burglary, b) * bern(p_earthquake, e) * bern(p_alarm[b, e], a) * p_john[a] * p_mary[a]

print(f"P(burglary | John and Mary call) = {joint[True] / sum(joint.values()):.3f}")

스크립트는 0.284를 출력하며, 이는 교재와 같은 답입니다. 전화 두 통으로 강도 확률은 1,000분의 1에서 약 28%로 높아집니다. 나머지 72%는 지진이나 고장으로 경보가 울린 경우처럼 강도가 아닌 설명에 해당합니다. 강도 사건은 매우 드물기 때문입니다.

데이터에서 베이즈 네트워크 학습하기#

네트워크는 전문가 지식으로 직접 만들거나 데이터에서 학습하거나 두 방식을 함께 사용할 수 있습니다. 파라미터 학습은 관측 빈도를 바탕으로 조건부 확률표를 채우며, 드문 조합을 평활화하기 위한 사전 분포와 누락된 값이 있을 때의 기댓값-최대화 알고리즘을 사용합니다. 구조 학습은 베이즈 정보 기준과 같은 기준으로 후보 그래프의 점수를 매기거나 PC 알고리즘처럼 조건부 독립성 검정을 수행하여 그래프 자체를 탐색합니다. 학습된 화살표는 통계적 의존성을 나타내며, 이를 원인 관계로 해석하려면 인과 발견에서 다루는 추가 가정이 필요합니다. pgmpy와 같은 Python 라이브러리는 정확 및 근사 추론과 더불어 두 종류의 학습을 모두 구현합니다.

실제 적용 사례#

• 의료 진단: 네트워크는 질병과 질병으로 인해 발생하는 증상 및 검사 결과를 연결합니다. 따라서 임상의의 관찰을 통해 각 질환의 확률을 갱신할 수 있으며, 모든 결론을 그래프에서 추적할 수 있습니다. 이는 설명 가능한 AI의 한 형태입니다.
• 고장 진단: 산업 및 IT 시스템은 구성 요소 고장이 경보와 판독값으로 전파되는 과정을 모델링합니다. 육안 검사에서는 YOLO26 검출기가 찾은 결함 클래스를 관측 증거로 네트워크에 입력하여, 마모된 공구나 보정이 잘못된 기계와 같은 상위 원인의 확률을 갱신할 수 있습니다.
• 위험 평가: 생태학자, 보험사, 안전 엔지니어는 희소한 데이터와 전문가의 판단을 네트워크에 결합하여 드문 사건의 발생 가능성을 추정합니다.

베이즈 네트워크와 관련 모델 비교#

• 나이브 베이즈: 모든 특성의 유일한 부모가 하나의 클래스 노드인 베이즈 네트워크이며, 클래스가 주어지면 특성들이 서로 독립적이라고 가정합니다.
• 마르코프 랜덤 필드: 무방향 간선을 사용하는 그래픽 모델로, 이미지에서 인접한 픽셀처럼 대칭적인 관계에 적합합니다.
• 마르코프 의사결정 과정: 상태를 바꾸는 행동과 최대화할 보상을 포함하는 순차적 의사결정 모델이며, 강화 학습의 표준 프레임워크입니다. 베이즈 네트워크에 의사결정 노드와 효용 노드를 추가해 영향도 다이어그램으로 확장하면 의사결정과 보상도 표현할 수 있습니다.
• 은닉 마르코프 모델: 매 시점 동일한 구조를 반복하는 동적 베이즈 네트워크로, 은닉 상태가 각 단계마다 관측값 하나를 생성합니다. 칼만 필터도 연속 상태와 선형 가우스 전이 및 관측값을 사용하는 동일한 구조입니다.