Введение в развивающуюся область нейросимволического ИИ

Сегодня благодаря быстрому развитию искусственного интеллекта (AI) и растущей доступности вычислительных мощностей передовые модели ИИ выпускаются быстрее, чем когда-либо. В действительности ИИ стимулирует значимые инновации во многих отраслях.

Например, в здравоохранении системы ИИ помогают выполнять такие задачи, как анализ медицинских изображений для ранней диагностики. Однако, как и у любой технологии, у ИИ есть ограничения.

Одна из главных проблем — прозрачность. Например, модель обнаружения объектов может точно локализовать опухоль на МРТ-снимке головного мозга, но понять, как модель пришла к такому выводу, бывает сложно. Из-за недостаточной объяснимости врачам и исследователям труднее полностью доверять результатам ИИ и проверять их.

Именно поэтому растет интерес к новой области — нейросимвольному ИИ. Нейросимвольный ИИ объединяет возможности глубокого обучения по распознаванию закономерностей со структурированным, основанным на правилах рассуждением, характерным для символьного ИИ. Цель — создавать системы, которые не только точно предсказывают, но и объясняют ход своих рассуждений понятным для человека способом.

В этой статье мы рассмотрим, как работает нейросимволический искусственный интеллект и как он объединяет обучение и рассуждение, чтобы создавать более прозрачные системы, учитывающие контекст.

Две составляющие нейросимвольного ИИ: обучение и рассуждение#

Прежде чем перейти к нейросимвольному ИИ, подробнее рассмотрим две объединяемые им области: глубокое обучение и символьный ИИ.

Глубокое обучение сосредоточено на распознавании закономерностей в данных, а символьный ИИ использует правила, логику или здравый смысл для решения задач. У каждого подхода есть сильные стороны, но есть и ограничения. Объединяя их, нейросимвольный ИИ создает системы, которые могут учиться на данных и понятнее объяснять свои решения.

Обзор глубокого обучения#

Глубокое обучение — это направление машинного обучения, в котором используются искусственные нейронные сети, отчасти вдохновленные тем, как мозг обрабатывает информацию. Эти сети учатся, анализируя большие объемы данных и настраивая внутренние связи для повышения производительности.

Это позволяет им распознавать закономерности в изображениях, звуках и текстах, не требуя вручную задавать правила для каждой ситуации. Благодаря этому глубокое обучение особенно эффективно в задачах, связанных с восприятием, таких как распознавание изображений, обработка речи и перевод текста.

Хороший пример — модель компьютерного зрения, обученная сегментировать объекты на изображениях. Имея достаточно размеченных примеров, она может научиться выделять дороги, транспортные средства и пешеходов на видеозаписях дорожного движения в реальном времени.

Однако, несмотря на точность, моделям глубокого обучения часто сложно понятно объяснить, как они пришли к определенному результату. Эта проблема, обычно называемая проблемой черного ящика, мешает пользователям интерпретировать решения модели и проверять их, особенно в таких чувствительных областях, как здравоохранение и финансы. Это важно, потому что ответственный ИИ требует прозрачности, доверия и понимания того, почему модель сделала то или иное предсказание.

Изучаем символьный ИИ#

Символьный ИИ использует более структурированный подход к интеллекту и принятию решений. Он представляет знания с помощью символов и применяет логические правила для работы с этими знаниями, подобно тому как мы используем рассуждения и язык для решения задач. Каждый шаг процесса рассуждения задан явно, поэтому решения символьного ИИ прозрачны и их проще объяснить.

Символьные знания особенно хорошо подходят для задач с четкими и строго определенными правилами, таких как планирование, составление расписаний или управление структурированными знаниями. Однако символьный ИИ плохо справляется с неструктурированными данными и ситуациями, которые не вписываются в заранее заданные категории.

Распространенный пример применения символьных подходов — ранние шахматные программы. Они следовали заданным вручную правилам и фиксированным стратегиям, а не учились на предыдущих партиях и не адаптировались к разным соперникам. В результате их игра была скорее негибкой и предсказуемой.

Рис. 1. Структура ИИ и его подобластей. (Изображение автора)

Что такое нейросимвольный ИИ?#

В 2010-х годах, по мере широкого распространения глубокого обучения, исследователи начали искать способы выйти за рамки простого распознавания закономерностей и перейти к пониманию взаимосвязей и контекста. Благодаря этому модели ИИ смогли не только обнаруживать объекты в сцене, например кошку и коврик, но и понимать, как они связаны, например распознавать, что кошка сидит на коврике.

Однако этот прогресс также выявил ключевое ограничение. Модели глубокого обучения отлично распознают закономерности, но часто не могут объяснить свои рассуждения или справиться с незнакомыми ситуациями. Возобновившийся интерес к рассуждению вновь привлек внимание исследователей к области, существующей с 1980-х годов: нейросимвольному ИИ.

Нейросимвольный ИИ объединяет глубокое обучение и символьный ИИ. Он позволяет моделям учиться на примерах, как это происходит при глубоком обучении, и одновременно применять логику и рассуждение, как в символьном ИИ.

Проще говоря, нейросимвольный ИИ способен распознавать информацию, понимать контекст и понятнее объяснять свои решения. Такой подход приближает нас к созданию систем ИИ, которые работают надежнее и больше похожи на человека.

Рис. 2. Нейросимвольный ИИ: объяснение (Изображение автора)

Основы работы нейросимвольного ИИ#

Нейросимвольная архитектура объединяет обучение и рассуждение в рамках единой системы. Обычно она состоит из трех основных частей: нейросетевого слоя восприятия, который интерпретирует исходные данные; символьного слоя рассуждения, который применяет логику; и интеграционного слоя, связывающего эти компоненты. Далее подробнее рассмотрим каждый слой.

Нейросетевой слой восприятия#

Компонент нейросетевого восприятия обрабатывает неструктурированные данные, например изображения, видео, текст или аудио, и преобразует их во внутренние представления, с которыми может работать система. Обычно он использует модели глубокого обучения для обнаружения закономерностей и определения объектов или признаков во входных данных. На этом этапе система распознает, что содержится в данных, но еще не рассуждает о значении, взаимосвязях или контексте.

Вот несколько распространенных типов моделей глубокого обучения, используемых в этом слое:

• Сверточные нейронные сети (CNNs): это разновидность нейронных сетей, предназначенная для обработки данных с сеточной структурой, например изображений. CNNs используют сверточные фильтры, чтобы просматривать изображение и обнаруживать такие закономерности, как границы, текстуры и формы. Объединяя эти закономерности, они учатся распознавать такие объекты, как автомобили, фрукты и люди.
• Трансформеры: Transformer — это модели, предназначенные для понимания взаимосвязей между различными частями входных данных. Вместо того чтобы обрабатывать информацию строго по порядку, они могут одновременно анализировать несколько её частей и определять, какие из них важнее. Это помогает им понимать контекст текста, изображений или и того и другого. Благодаря такой гибкости Transformer лежит в основе большинства современных языковых моделей и многих мультимодальных систем компьютерного зрения.
• Рекуррентные нейронные сети (RNNs): этот тип моделей предназначен для анализа последовательных данных, например речи или сигналов временных рядов. Он сохраняет информацию о предыдущих входных данных, поэтому при формировании предсказаний может учитывать контекст во времени.

В конечном итоге эти нейросетевые модели извлекают и представляют значимые признаки из исходных данных. Затем этот результат становится входом для символьного слоя рассуждения, который интерпретирует обнаруженное системой и рассуждает о нем.

Слой символьного рассуждения#

Слой символьных рассуждений использует информацию, полученную нейронным слоем восприятия, и интерпретирует её с помощью логики. Вместо того чтобы опираться только на закономерности, он использует такие инструменты, как правила, графы знаний, базы знаний и онтологии (структурированные описания понятий и связей между ними). Благодаря этому система понимает, как связаны разные элементы и какие действия уместны в конкретной ситуации.

Например, в беспилотном автомобиле нейросетевой слой восприятия может распознать на изображении с камеры красный сигнал светофора. Затем слой символьного рассуждения применит правило: «Если горит красный свет, автомобиль должен остановиться». Поскольку рассуждения опираются на чёткие правила, решения системы легче объяснить и проверить. Это особенно важно в ситуациях, где имеют значение безопасность и ответственность.

Слой интеграции#

Слой интеграции связывает нейросетевой слой восприятия со слоем символьного рассуждения, обеспечивая совместную работу обучения и рассуждения. В одном направлении он преобразует выходные данные нейросетевых моделей (например, обнаружение пешехода) в символьные представления, описывающие объект и его атрибуты.

В обратном направлении он принимает символьные правила (например, «автомобиль должен остановиться, если пешеход находится на пешеходном переходе») и преобразует их в сигналы, направляющие работу нейросетевых моделей. Это может включать выделение значимых областей изображения, управление вниманием или изменение путей принятия решений моделью.

Такой двусторонний обмен образует цикл обратной связи. Символьные правила придают нейросетевой части структуру и интерпретируемость, а символьная часть может эффективнее адаптироваться на основе данных из реального мира. Взаимодействие помогают обеспечить такие методы, как логические нейросети (LNN), которые встраивают логические ограничения непосредственно в нейросетевые архитектуры.

Связывая таким образом восприятие и рассуждение, нейросимвольный ИИ может принимать точные и более понятные решения. Многие исследователи считают этот подход перспективным шагом на пути к более надёжному ИИ, согласованному с человеческими ценностями, и потенциальной основой для дальнейшего развития в направлении общего искусственного интеллекта (AGI).

Применение нейросимвольного ИИ#

Теперь, когда мы лучше понимаем, что такое нейросимвольный ИИ и как он работает, давай рассмотрим несколько примеров его применения в реальном мире.

Повышение безопасности вождения: от обнаружения пешеходов до понимания их поведения#

Чтобы безопасно передвигаться, автономным автомобилям нужно понимать, что происходит вокруг. Для обнаружения пешеходов, транспортных средств, дорожной разметки и знаков они используют такие технологии, как компьютерное зрение.

Модели глубокого обучения могут точно распознавать эти объекты, но не всегда понимают, что они означают в контексте или как связаны друг с другом в реальной ситуации. Например, нейросетевая модель может распознать пешехода на переходе, но не определить, собирается ли он переходить дорогу или просто стоит и ждёт.

Нейросимвольный ИИ пытается устранить этот разрыв, позволяя беспилотным автомобилям сочетать визуальное распознавание с логическим рассуждением и интерпретировать ситуации, а не просто обнаруживать объекты. Недавние исследования в области ИИ показали, что системы, объединяющие нейросетевое восприятие с символьными правилами, могут улучшить прогнозирование поведения пешеходов.

В таких системах нейросетевая часть анализирует визуальные признаки, например позу, движение и положение пешехода. Затем символьная часть применяет логические правила, учитывая такие факторы, как близость человека к пешеходному переходу и показания текущего сигнала светофора.

Объединяя эти два подхода, нейросимвольная система может не просто обнаружить пешехода. Она может обоснованно предположить, собирается ли пешеход перейти дорогу, и объяснить, почему приняла такое решение. Это повышает безопасность и прозрачность поведения автономных автомобилей.

Рис. 3. Прогнозирование поведения пешеходов на основе наблюдений с помощью нейросимвольного ИИ. (Источник)

Логическая интерпретация при визуальных вопросно-ответных задачах#

Ещё одно важное применение нейросимвольного ИИ — визуальные вопросно-ответные задачи (VQA). Системы VQA предназначены для ответов на вопросы об изображениях.

Такие системы объединяют большие языковые модели (LLM) и модели компьютерного зрения для мультимодальных рассуждений, сочетая то, что система видит, с тем, что она понимает. Например, если системе VQA показать изображение и спросить: «Чашка стоит на столе?», ей нужно не только распознать объекты, но и понять связь между ними. Она должна определить, действительно ли чашка находится на поверхности стола.

Недавнее исследование показало, как нейросимвольный ИИ может улучшить работу VQA, объединяя нейросетевое восприятие с символьным рассуждением. В предложенной системе нейросеть сначала анализирует изображение, распознавая объекты и их атрибуты, например цвет, форму или размер.

Затем компонент символьного рассуждения применяет логические правила, чтобы интерпретировать связи между объектами и ответить на вопрос. Если задать вопрос «Сколько на изображении серых цилиндров?», нейросетевая часть обнаружит все цилиндры и определит их цвета, а символьная часть отберёт подходящие по заданным критериям и посчитает их.

Рис. 4. Примеры сценариев VQA, для которых нужны абстрактные знания и логика. (Источник)

Такие исследования показывают, что нейросимвольные системы VQA могут не просто давать ответы. Поскольку модель может показать шаги, которые привели её к выводу, она поддерживает подход объяснимого ИИ, при котором системы делают прогнозы и обосновывают ход рассуждений понятным для людей образом.

Преимущества и недостатки нейросимвольного ИИ#

Вот несколько ключевых преимуществ нейросимвольного ИИ:

• Более развитые способности к рассуждению: в отличие от моделей, основанных только на глубоком обучении, нейросимвольный ИИ может выполнять задачи, требующие многоэтапных рассуждений, планирования, следования правилам и работы со структурированными областями знаний, в которых традиционно силён символьный ИИ.
• Адаптивность: такие системы хорошо справляются с новыми или незнакомыми задачами, поскольку способны логически рассуждать за пределами данных, на которых их обучали. Вместо простого запоминания данных они понимают связи и закономерности.
• Устойчивость к шуму и неоднозначности: логические ограничения помогают предотвращать ошибки, если данные зашумлены, неполны или неоднозначны. Слой рассуждения может применять правила, которые направляют или корректируют прогнозы нейросети.

Несмотря на потенциал, нейросимвольный ИИ всё ещё развивается и сопряжён с рядом практических трудностей. Вот некоторые из его ключевых ограничений:

• Сложность интеграции: хотя такая гибридная архитектура обеспечивает высокую интерпретируемость, создавать алгоритмы, объединяющие восприятие и рассуждение, по-прежнему непросто.
• Масштабируемость: символьное рассуждение может замедляться и требовать значительных вычислительных ресурсов при работе с большими графами знаний или сложными наборами правил. Это затрудняет эффективное развёртывание систем для таких задач реального времени, как автономное вождение, обработка видео или масштабное рассуждение на основе знаний.
• Устойчивость рассуждений: если символьные правила слишком жёсткие, системе может быть трудно справляться с неоднозначными или непредсказуемыми сценариями реального мира. Найти баланс между гибким обучением и надёжным рассуждением по-прежнему непросто.

Главные выводы#

Нейросимвольный ИИ — важный шаг на пути к созданию систем ИИ, способных не только воспринимать мир, но и рассуждать о нём и объяснять свои решения. В отличие от традиционных систем глубокого обучения, которые в основном опираются на закономерности, извлечённые из данных, нейросимвольный ИИ объединяет статистическое обучение со структурированной логикой и знаниями. Он не заменяет глубокое обучение, а развивает его, приближая нас к созданию ИИ, способного понимать и рассуждать более по-человечески.

Присоединяйся к нашему сообществу и изучи наш репозиторий на GitHub. Посети страницы наших решений, чтобы узнать о различных применениях ИИ в сельском хозяйстве и компьютерного зрения в здравоохранении. Ознакомься с нашими вариантами лицензирования и приступай к созданию своего проекта в области компьютерного зрения и ИИ!