Causal Discovery

Причинно-следственное обнаружение — это задача вывода по данным о том, какие переменные вызывают другие переменные. Результат — ориентированный граф, в котором стрелка от X к Y означает, что X непосредственно влияет на Y. Стандартное машинное обучение выявляет ассоциации, достаточные для предиктивного моделирования. Причинно-следственное обнаружение выясняет, какие из этих ассоциаций сохраняются при вмешательстве, например при изменении настроек машины или расписания светофора. Результат — набор возможных причинных структур, часто с неориентированными рёбрами, которые затем уточняют эксперты предметной области и эксперименты.

Что позволяет выявить каузальную структуру#

Каузальные графы обычно представляют собой ориентированные ациклические графы (DAG) — такую же структуру использует байесовская сеть, но с каузальной интерпретацией: каждая стрелка обозначает прямой эффект. Алгоритмы обнаружения опираются на три стандартных допущения. Согласно условию каузального Маркова, если известны непосредственные причины переменной, она независима от всех переменных, которые не являются её следствиями. Условие верности утверждает, что каждая независимость в данных обусловлена структурой графа, а не случайным взаимным погашением эффектов. Каузальная достаточность означает, что ни одна неизмеренная переменная не является причиной двух измеренных переменных.

Даже при выполнении всех трёх предположений по наблюдательным данным не всегда можно определить направление связей. Цепочки X → Y → Z и X ← Y ← Z, а также развилка X ← Y → Z подразумевают одну и ту же структуру независимостей: X и Z становятся независимыми, если известно Y. Поэтому никакой объём наблюдательных данных не позволит различить эти структуры. Коллайдер X → Y ← Z устроен иначе: X и Z независимы сами по себе, но становятся зависимыми, если известно Y. Эта особенность позволяет однозначно определить направление обеих стрелок.

Поэтому алгоритмы возвращают класс марковской эквивалентности: частично ориентированный граф, в котором некоторые рёбра направлены с уверенностью, а неориентированные рёбра могут указывать в любую сторону. Эта же закономерность объясняет классический источник смещения набора данных: фильтрация по коллайдеру или корректировка с учётом коллайдера создаёт зависимость между его причинами, которой нет во всей популяции.

Алгоритмы обнаружения#

Большинство методов относится к трём семействам. Алгоритмы на основе ограничений, например PC, названный по именам Питера Спиртеса и Кларка Глаймура, опубликовавших его в 1991 году, начинают с полностью связанного неориентированного графа, удаляют рёбра между переменными, которые оказываются условно независимыми, а затем ориентируют коллайдеры. FCI расширяет этот подход на случаи со скрытыми смешивающими факторами. Алгоритмы на основе оценок, например жадный поиск эквивалентности (GES), ищут граф с наилучшей оценкой, например байесовским информационным критерием, а NOTEARS представляет ацикличность как гладкое ограничение, позволяющее выполнять поиск с помощью непрерывной оптимизации и градиентного спуска. Функциональные методы, например LiNGAM, предполагают линейные зависимости с негауссовым шумом, что позволяет определить направление каждого ребра даже между двумя переменными.

Библиотеки для обнаружения причинных связей также принимают временной порядок, физические ограничения и экспертные знания в виде фоновых правил, запрещающих или требующих конкретные рёбра. Это сокращает пространство поиска и позволяет ориентировать рёбра, направление которых нельзя определить только по данным. Библиотека с открытым исходным кодом causal-learn реализует все три семейства методов. В этом примере данные генерируются с известным коллайдером, который затем восстанавливается с помощью PC:

import numpy as np
from causallearn.search.ConstraintBased.PC import pc

rng = np.random.default_rng(0)
n = 5000

# Истинная структура: дождь и мероприятие на стадионе вызывают пробки
rain = rng.normal(size=n)
event = rng.normal(size=n)
congestion = rain + event + rng.normal(scale=0.5, size=n)

# PC проверяет условную независимость и восстанавливает граф только по данным
data = np.column_stack([rain, event, congestion])
result = pc(data, alpha=0.05, node_names=["rain", "event", "congestion"], show_progress=False)
print(result.G)

В результате перечислены два ориентированных ребра: дождь --> пробки и мероприятие --> пробки. PC ориентирует оба ребра, поскольку дождь и мероприятие независимы, но становятся зависимыми, если известно наличие пробок. Если бы истинной структурой была цепочка от дождя к пробкам, а от пробок — к задержкам, рёбра остались бы неориентированными.

Где применяют каузальный анализ#

Ранней вехой стало исследование в области биологии. В 2005 году Карен Сакс и её коллеги по измерениям отдельных клеток выявили сеть передачи сигналов между 11 белками и фосфолипидами, восстановив большинство известных связей; авторы подтвердили одну новую предсказанную связь в последующих лабораторных экспериментах. В климатологии методы для временных рядов, например PCMCI, разработанный Якобом Рунге и реализованный в пакете Tigramite, обнаруживают причинные связи между климатическими переменными с учётом лагов и автокорреляции, что хорошо подходит для анализа временных рядов. Экосистема PyWhy сочетает инструменты обнаружения причинных связей с DoWhy, который на следующем этапе оценивает величину эффекта при заданном графе.

Компьютерное зрение может предоставлять нужные переменные. Подсчёт объектов с помощью Ultralytics YOLO26 подсчитывает транспортные средства и пешеходов, пересекающих линию или область на видеозаписях движения; полученные счётчики для каждого временного интервала можно объединить с данными о погоде, расписаниями событий и временем работы светофоров перед запуском алгоритма обнаружения причинных связей.

Причинно-следственное обнаружение и смежные понятия#

• Обучение причинным представлениям: Выявляет сами причинные переменные по исходным данным, например пикселям, вместе с графом связей между ними. Причинно-следственное обнаружение начинает работу с уже измеренных переменных.
• Объяснимый ИИ (XAI): Объясняет, какие входные данные повлияли на предсказание модели, но не утверждает, что изменение входных данных изменило бы результат в реальном мире.
• Проектирование признаков: Выбирает и создаёт входные данные, улучшающие предсказание, в том числе переменные, лишь коррелирующие с целевой переменной. Причинный граф определяет переменные, изменение которых повлияло бы на целевую переменную.