Symbolic AI

Символический ИИ — это подход к искусственному интеллекту (AI), при котором знания представляются в виде понятных человеку символов, например bird, penguin или «Сократ — человек», а выводы строятся на основе явных правил, логики и поиска. Этот подход доминировал в исследованиях ИИ с Дартмутского семинара 1956 года до 1980-х; в 1985 году философ Джон Хаугенд назвал его «старым добрым искусственным интеллектом» (GOFAI). Каждый вывод символической системы можно проследить до правил, написанных человеком и доступных для чтения, что делает её поддающейся аудиту. При этом каждое знание необходимо вводить вручную, поэтому систему трудно масштабировать.

Как работает символический ИИ#

Символическая система состоит из двух частей. База знаний хранит факты («Сократ — человек») и правила («все люди смертны») на формальном языке, например в логике первого порядка, в виде продукционных правил «если — то» или графа знаний. Механизм вывода применяет правила и выводит факты, которые никто не записывал («Сократ смертен»). Прямой вывод начинается с известных фактов и активирует все правила, условия которых выполнены, пока не перестают появляться новые факты. Обратный вывод начинается с цели и ищет факты, которые могли бы её доказать; именно этот подход встроен в язык логического программирования Prolog.

В основе подхода лежит гипотеза о физической символической системе Аллена Ньюэлла и Герберта Саймона, предложенная в 1976 году: согласно ей, манипулирование символами необходимо и достаточно для общего интеллекта. Механизм прямого вывода можно реализовать всего в несколько строк обычного Python:

# Knowledge base: IF every premise is a known fact THEN add the conclusion
rules = [
    ({"has_feathers", "lays_eggs"}, "bird"),
    ({"bird", "cannot_fly", "swims"}, "penguin"),
]
facts = {"has_feathers", "lays_eggs", "cannot_fly", "swims"}

# Forward chaining: keep firing rules until no new fact appears
changed = True
while changed:
    changed = False
    for premises, conclusion in rules:
        if premises <= facts and conclusion not in facts:
            facts.add(conclusion)
            changed = True
            print(f"{conclusion} <- {sorted(premises)}")

Механизм выводит bird <- ['has_feathers', 'lays_eggs'], а затем penguin <- ['bird', 'cannot_fly', 'swims']: второе правило срабатывает только потому, что первое добавило bird. Каждая выведенная строка полностью объясняет, почему верен соответствующий вывод. Именно такие цепочки рассуждений методы объяснимого искусственного интеллекта (XAI) пытаются восстановить для нейронных сетей.

Экспертные системы#

В 1970-х и 1980-х годах символический ИИ пришёл в промышленность в виде экспертных систем. MYCIN из Стэнфорда определяла бактерии, вызывающие тяжёлые инфекции, и рекомендовала антибиотики на основе примерно 600 правил, полученных от врачей; система XCON корпорации Digital Equipment Corporation настраивала заказы клиентов на компьютеры VAX. Экспертные системы дополняют базовый механизм инженером по знаниям, который опрашивает экспертов в предметной области и кодирует их знания в виде правил, и модулем объяснений, который воспроизводит правила, лежащие в основе каждого ответа.

Опрос экспертов стал узким местом. Экспертам трудно формулировать интуитивные знания в виде правил; большие наборы правил не справляются со случаями, которые никто не предвидел, а системы не могут учиться на данных. Проект Cyc Дуга Лената, запущенный в 1984 году для ручного кодирования здравого смысла, десятилетиями решал эту проблему. Когда в конце 1980-х бюджеты экспертных систем резко сократились, началась вторая «зима ИИ».

Символический и статистический ИИ#

Статистический ИИ учится находить закономерности на примерах; на этом подходе основаны современные машинное обучение (ML) и глубокое обучение (DL). Эти две парадигмы терпят неудачу в противоположных ситуациях:

• Символический ИИ: точный и прозрачный; работает и без обучающих данных, поэтому подходит для арифметики, планирования, нормативных требований и формальных доказательств. Он не справляется с необработанными данными восприятия, поскольку невозможно вручную написать правила, которые распознают кошку по значениям пикселей, и даёт сбои на входных данных, которые не были предусмотрены правилами.
• Статистический ИИ: учится распознавать образы и понимать язык непосредственно по данным и устойчив к шуму, но требует больших наборов данных, его решения трудно анализировать, а языковые модели могут выдавать беглые, но неверные ответы, известные как галлюцинации.

Где сегодня используют символический ИИ#

• Системы правил и контроль соответствия: налоговое ПО и системы бизнес-правил кодируют нормативные требования в виде явных правил, поэтому каждый результат можно связать с положением, на котором он основан.
• Планирование и составление расписаний: системы автоматического планирования ищут решения на основе символьных описаний действий, предусловий и эффектов, чтобы планировать логистику, работу заводов и операции космических аппаратов.
• Формальная верификация: SAT- и SMT-решатели, например Z3 от Microsoft, доказывают свойства микросхем и ПО, а помощники по доказательству теорем, например Lean, пошагово проверяют математические доказательства.
• Графы знаний: поисковые системы и Wikidata хранят миллиарды фактов в виде сущностей и связей, по которым можно переходить с помощью запросов.

Нейросимволический ИИ#

Нейросимволический ИИ объединяет две парадигмы: нейронные сети отвечают за восприятие и распознавание образов, а символические компоненты — за правила, ограничения и точные рассуждения. Языковые модели, которые обращаются к калькулятору, базе данных SQL или интерпретатору кода с помощью вызова функций, используют такое же разделение задач. В конвейерах компьютерного зрения детектор, например Ultralytics YOLO26, преобразует пиксели в символы — названия классов найденных объектов, — а обычные правила работают с ними:

from ultralytics import YOLO

# Нейронное восприятие: обнаруживать объекты и сохранять их названия классов в виде символических фактов
model = YOLO("yolo26n.pt")
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]
facts = {result.names[int(c)] for c in result.boxes.cls}

# Символическое рассуждение: ЕСЛИ присутствуют автобус И человек, ТО поднять тревогу
if {"bus", "person"} <= facts:
    print("Rule fired: pedestrians next to a bus")

Если изменить правило, поведение системы меняется сразу, без переобучения. AlphaGeometry от Google DeepMind применяет то же разделение задач к математике: нейронная языковая модель предлагает вспомогательные построения, символический механизм дедукции доказывает на их основе результат, а вместе они решили 25 из 30 задач по геометрии Международной математической олимпиады, как сообщалось в статье Nature за 2024 год.