Введение в развивающуюся область нейросимвольного AI

Сегодня, благодаря стремительному развитию искусственного интеллекта (AI) и растущей доступности вычислительных ресурсов, передовые модели ИИ выпускаются быстрее, чем когда-либо. Фактически сфера ИИ стимулирует значимые инновации во многих отраслях.

Например, в здравоохранении системы ИИ используются для помощи в таких задачах, как анализ медицинских изображений для ранней диагностики. Однако, как и любая технология, ИИ имеет свои ограничения.

Одна из главных проблем — прозрачность. Например, модель обнаружения объектов может точно определить опухоль на МРТ-снимке мозга, но понять, как именно модель пришла к такому выводу, бывает сложно. Из-за недостаточной объяснимости врачам и исследователям труднее полностью доверять результатам ИИ и проверять их.

Именно поэтому растёт интерес к новому направлению — нейросимвольному ИИ. Нейросимвольный ИИ объединяет сильные стороны глубокого обучения в распознавании закономерностей со структурированным рассуждением на основе правил, характерным для символьного ИИ. Цель — создавать системы, которые не только делают точные прогнозы, но и объясняют ход своих рассуждений понятным для человека образом.

В этой статье мы разберём, как работает нейросимвольный искусственный интеллект и как он объединяет обучение и рассуждение для создания более прозрачных систем, учитывающих контекст. Давай начнём!

Две стороны нейросимвольного ИИ: обучение и рассуждение#

Прежде чем перейти к нейросимвольному ИИ, давай подробнее рассмотрим два объединяемых им направления: глубокое обучение и символьный ИИ.

Глубокое обучение сосредоточено на распознавании закономерностей в данных, тогда как символьный ИИ использует правила, логику или здравый смысл для решения задач. У каждого подхода есть свои сильные стороны, но и ограничения. Объединяя их, нейросимвольный ИИ создаёт системы, которые могут учиться на данных и при этом яснее объяснять свои решения.

Обзор глубокого обучения#

Глубокое обучение — это направление машинного обучения, использующее искусственные нейронные сети, которые в общих чертах вдохновлены тем, как мозг обрабатывает информацию. Эти сети учатся, анализируя большие объёмы данных и настраивая внутренние связи для повышения качества работы.

Это позволяет им распознавать закономерности в изображениях, звуках и тексте без необходимости вручную задавать правила для каждой ситуации. Поэтому глубокое обучение особенно эффективно для задач, связанных с восприятием, таких как распознавание изображений, обработка речи и перевод языков.

Хороший пример — модель компьютерного зрения, обученная сегментировать объекты на изображениях. Имея достаточно размеченных примеров, она может научиться отделять дороги, автомобили и пешеходов на видеозаписях дорожного движения в реальном времени.

Однако, несмотря на высокую точность, моделям глубокого обучения часто сложно ясно объяснить, как они пришли к конкретному результату. Эта проблема, обычно называемая проблемой чёрного ящика, затрудняет интерпретацию или проверку решений модели, особенно в чувствительных областях, таких как здравоохранение и финансы. Она важна, поскольку ответственный ИИ требует прозрачности, доверия и возможности понять, почему модель сделала определённый прогноз.

Изучаем символьный ИИ#

Символьный ИИ использует более структурированный подход к интеллекту и принятию решений. Он представляет знания с помощью символов и применяет логические правила для работы с ними — подобно тому, как мы используем рассуждения и язык для решения задач. Каждый шаг процесса рассуждения определён, поэтому решения символьного ИИ прозрачны и их проще объяснять.

Символьные знания особенно хорошо работают в задачах, подчиняющихся чётким и однозначным правилам, например при планировании, составлении расписаний или управлении структурированными знаниями. Однако символьный ИИ испытывает трудности с неструктурированными данными и ситуациями, которые не укладываются в заранее заданные категории.

Распространённый пример применения символьных подходов — ранние шахматные программы. Они следовали заданным вручную правилам и фиксированным стратегиям, а не обучались на предыдущих партиях и не адаптировались к разным соперникам. Поэтому их игра обычно была негибкой и предсказуемой.

Рис. 1. Обзор структуры ИИ и его направлений. (Изображение автора)

Что такое нейросимвольный ИИ?#

В 2010-х годах, по мере более широкого распространения глубокого обучения, исследователи начали искать способы выйти за рамки простого распознавания закономерностей и перейти к пониманию взаимосвязей и контекста. Благодаря этому сдвигу модели ИИ смогли не только обнаруживать объекты в сцене, например кошку и коврик, но и интерпретировать их взаимосвязь — например, понимать, что кошка сидит на коврике.

Однако этот прогресс также выявил ключевое ограничение. Модели глубокого обучения прекрасно распознают закономерности, но часто испытывают трудности с объяснением своих рассуждений и обработкой незнакомых ситуаций. Возобновившийся интерес к рассуждению вновь привёл исследователей к направлению, существующему с 1980-х годов: нейросимвольному ИИ.

Нейросимвольный ИИ объединяет глубокое обучение и символьный ИИ. Он позволяет моделям учиться на примерах так же, как это делает глубокое обучение, и одновременно применять логику и рассуждение, как символьный ИИ.

Проще говоря, нейросимвольный ИИ может распознавать информацию, понимать контекст и яснее объяснять свои решения. Такой подход приближает нас к созданию систем ИИ, которые работают более надёжно и подобно человеку.

Рис. 2. Понимание нейросимвольного ИИ. (Изображение автора)

Основы работы нейросимвольного ИИ#

Нейросимвольная архитектура объединяет обучение и рассуждение в рамках единой системы. Обычно она включает три основные части: нейронный слой восприятия, интерпретирующий исходные данные, слой символьного рассуждения, применяющий логику, и интеграционный слой, связывающий их. Далее мы подробнее рассмотрим каждый слой.

Нейронный слой восприятия#

Компонент нейронного восприятия обрабатывает неструктурированные данные, такие как изображения, видео, текст или аудио, и преобразует их во внутренние представления, с которыми система может работать. Обычно он использует модели глубокого обучения для обнаружения закономерностей и выявления объектов или признаков во входных данных. На этом этапе система распознаёт, что присутствует в данных, но ещё не рассуждает о значении, взаимосвязях или контексте.

Вот несколько распространённых типов моделей глубокого обучения, используемых в этом слое:

• Сверточные нейронные сети (CNNs): это тип нейронных сетей, предназначенный для обработки структурированных в виде сетки данных, например изображений. CNNs используют сверточные фильтры для сканирования изображения и обнаружения таких закономерностей, как границы, текстуры и формы. Объединяя эти признаки, они учатся распознавать такие объекты, как автомобили, фрукты и люди.
• Transformers: Transformers — это модели, предназначенные для понимания взаимосвязей между разными частями входных данных. Вместо строгого последовательного чтения информации они могут одновременно анализировать несколько частей данных и определять, какие из них наиболее важны. Это помогает им понимать контекст в тексте, изображениях или обоих типах данных. Благодаря такой гибкости Transformers лежат в основе большинства современных языковых моделей и многих мультимодальных систем, работающих с изображениями и языком.
• Рекуррентные нейронные сети (RNNs): этот тип моделей предназначен для анализа последовательных данных, таких как речь или временные ряды. Он хранит информацию о предыдущих входных данных, поэтому при построении прогнозов может учитывать контекст во времени.

В конечном итоге эти нейронные модели извлекают и представляют значимые признаки из исходных данных. Затем эти выходные данные становятся входом для слоя символьного рассуждения, который интерпретирует обнаруженное системой и рассуждает об этом.

Слой символьного рассуждения#

Слой символьного рассуждения получает информацию от слоя нейронного восприятия и интерпретирует её с помощью логики. Он работает не только с закономерностями, но и с такими сущностями, как правила, графы знаний, базы знаний и онтологии (структурированные описания понятий и их взаимосвязей). Они помогают системе понять, как связаны разные элементы и какие действия имеют смысл в конкретной ситуации.

Например, в беспилотном автомобиле слой нейронного восприятия может распознать красный сигнал светофора на изображении с камеры. Затем слой символьного рассуждения применяет правило: «Если сигнал красный, автомобиль должен остановиться». Поскольку рассуждение основано на чётких правилах, решения системы проще объяснять и проверять, что особенно важно в ситуациях, где имеют значение безопасность и ответственность.

Интеграционный слой#

Интеграционный слой связывает слой нейронного восприятия со слоем символьного рассуждения, обеспечивая их совместную работу. В одном направлении он преобразует выходные данные нейронных моделей (например, обнаружение пешехода) в символьные представления, описывающие объект и его атрибуты.

В обратном направлении он принимает символьные правила (например, «автомобиль должен остановиться, если пешеход находится на пешеходном переходе») и преобразует их в сигналы, направляющие работу нейронных моделей. Это может включать выделение важных областей изображения, управление вниманием или формирование путей принятия решений модели.

Такой двусторонний обмен образует цикл обратной связи. Нейронная часть получает от символьных правил структуру и интерпретируемость, а символьная часть эффективнее адаптируется на основе данных реального мира. Такие методы, как логические нейронные сети (LNNs), помогают обеспечить это взаимодействие, встраивая логические ограничения непосредственно в нейронные архитектуры.

Связывая восприятие и рассуждение таким образом, нейросимвольный ИИ может принимать точные и более понятные для интерпретации решения. Многие исследователи считают этот подход перспективным шагом к созданию более надёжного и ориентированного на человека ИИ, а потенциально — основой для дальнейшего продвижения к универсальному искусственному интеллекту (AGI).

Применение нейросимвольного ИИ#

Теперь, когда мы лучше понимаем, что такое нейросимвольный ИИ и как он работает, давай рассмотрим несколько примеров его применения в реальном мире.

Повышение безопасности движения: от обнаружения пешеходов к пониманию их поведения#

Для безопасной работы автономным транспортным средствам необходимо понимать окружающую обстановку. Они используют такие технологии, как компьютерное зрение, для обнаружения пешеходов, автомобилей, дорожной разметки и знаков.

Хотя модели глубокого обучения могут точно идентифицировать эти объекты, они не всегда понимают, что эти объекты означают в контексте или как они связаны друг с другом в реальной ситуации. Например, нейронная модель может распознать пешехода на переходе, но не определить, собирается ли он переходить дорогу или просто стоит и ждёт.

Нейросимвольный ИИ пытается устранить этот пробел, позволяя беспилотным автомобилям объединять визуальное распознавание с логическим рассуждением, чтобы интерпретировать ситуации, а не просто идентифицировать объекты. Недавние исследования в области ИИ показали, что системы, объединяющие нейронное восприятие с символьными правилами, могут улучшить прогнозирование поведения пешеходов.

В таких системах нейронный компонент анализирует визуальные признаки, например позу, движение и положение пешехода. Затем символьный компонент применяет логические правила, учитывая такие факторы, как близость человека к пешеходному переходу и текущий сигнал светофора.

Объединяя эти два представления, нейросимвольная система может не просто обнаружить пешехода. Она способна сделать обоснованный прогноз о том, перейдёт ли пешеход дорогу, и объяснить, почему приняла такое решение. Это обеспечивает более безопасное и прозрачное поведение автономных транспортных средств.

Рис. 3. Прогнозирование на основе наблюдаемого поведения пешехода с помощью нейросимвольного ИИ. (Источник)

Логическая интерпретация в визуальном ответе на вопросы#

Ещё одно важное применение нейросимвольного ИИ — визуальный ответ на вопросы (VQA). Системы VQA предназначены для ответов на вопросы об изображениях.

Они объединяют большие языковые модели (LLMs) и визуальные модели для мультимодального рассуждения, сочетая увиденное системой с тем, что она понимает. Например, если системе VQA показать изображение и спросить: «Находится ли чашка на столе?», ей нужно распознать объекты и понять взаимосвязь между ними. Она должна определить, действительно ли чашка расположена на поверхности стола в этой сцене.

Недавнее исследование показало, как нейросимвольный ИИ может улучшить VQA, объединив нейронное восприятие с символьным рассуждением. В предложенной системе нейронная сеть сначала анализирует изображение, чтобы распознать объекты и их атрибуты, например цвет, форму или размер.

Затем компонент символьного рассуждения применяет логические правила, чтобы интерпретировать взаимосвязи между объектами и ответить на вопрос. Если спросить: «Сколько серых цилиндров находится в сцене?», нейронная часть находит все цилиндры и определяет их цвета, а символьная часть отбирает их по заданным критериям и подсчитывает нужные объекты.

Рис. 4. Примеры сценариев VQA, в которых необходимы абстрактные знания и логика. (Источник)

Такие исследования показывают, как нейросимвольный VQA может выйти за рамки простого предоставления ответов. Поскольку модель может показать шаги, которые привели её к выводу, она поддерживает подход объяснимого ИИ, при котором системы делают прогнозы и обосновывают свои рассуждения понятным для людей образом.

Преимущества и недостатки нейросимвольного ИИ#

Вот несколько ключевых преимуществ использования нейросимвольного ИИ:

• Более развитые способности к рассуждению: в отличие от чистых моделей глубокого обучения, нейросимвольный ИИ может выполнять задачи, требующие многошагового рассуждения, планирования, следования правилам и работы со структурированными областями знаний, в которых символьный ИИ традиционно особенно эффективен.
• Адаптивность: эти системы хорошо работают с новыми или ранее не встречавшимися задачами, поскольку могут логически рассуждать за пределами данных, на которых обучались. Они не просто запоминают данные, а понимают взаимосвязи и закономерности.
• Устойчивость к шуму и неоднозначности: логические ограничения помогают предотвращать ошибки, когда данные зашумлены, неполны или неоднозначны. Слой рассуждения может применять правила, направляющие или корректирующие нейронные прогнозы.

Несмотря на потенциал, нейросимвольный ИИ всё ещё развивается и связан с определёнными практическими трудностями. Вот несколько его ключевых ограничений:

• Сложная интеграция: хотя эта гибридная архитектура обеспечивает хорошую интерпретируемость, разработка алгоритмов, объединяющих восприятие и рассуждение, остаётся сложной задачей.
• Масштабируемость: символьное рассуждение может стать медленным или требовать значительных вычислительных ресурсов при работе с большими графами знаний или сложными наборами правил. Это затрудняет эффективное развёртывание приложений реального времени, таких как автономное вождение, обработка видео или крупномасштабное рассуждение на основе знаний.
• Надёжность рассуждений: если символьные правила слишком жёсткие, системы могут испытывать трудности в неоднозначных или непредсказуемых сценариях реального мира. Баланс между гибким обучением и надёжным рассуждением по-прежнему остаётся нерешённой задачей.

Основные выводы#

Нейросимвольный ИИ представляет собой важный шаг к созданию систем ИИ, которые могут не только воспринимать мир, но и рассуждать о нём и объяснять свои решения. В отличие от традиционных систем глубокого обучения, которые в основном полагаются на закономерности, изученные из данных, нейросимвольный ИИ объединяет статистическое обучение со структурированной логикой и знаниями. Он не заменяет глубокое обучение, а развивает его возможности, приближая нас к созданию ИИ, способного понимать и рассуждать более похожим на человека образом.

Присоединяйся к нашему сообществу и изучай наш репозиторий GitHub. Посети страницы с описанием наших решений, чтобы узнать о различных применениях ИИ в сельском хозяйстве и компьютерного зрения в здравоохранении. Узнай о наших вариантах лицензирования и начни создавать свой проект в области ИИ для компьютерного зрения!