神经符号 AI 这一新兴领域简介

如今，得益于人工智能 (AI)的快速发展和计算能力的日益普及，先进 AI 模型的发布速度比以往任何时候都快。事实上，AI 领域正在推动许多行业实现切实的创新。

例如，在医疗保健领域，AI 系统正被用于协助完成医学图像分析等任务，以便及早诊断。不过，与任何技术一样，AI 也有其局限性。

一个主要问题是透明度。例如，目标检测模型可能会在脑部 MRI 扫描中准确定位肿瘤，但要理解模型是如何得出这一结论的，却并不容易。缺乏可解释性使医生和研究人员更难充分信任或验证 AI 的结果。

这正是神经符号 AI 这一新兴领域日益受到关注的原因。神经符号 AI 将深度学习的模式识别优势与符号 AI中的结构化、基于规则的推理结合起来。其目标是创建既能准确预测，又能以人类可以理解的方式解释推理过程的系统。

本文将介绍神经符号人工智能的工作原理，以及它如何将学习和推理结合起来，构建更透明、更能理解上下文的系统。现在就开始吧！

神经符号 AI 的两个方面：学习和推理#

在深入了解神经符号 AI 之前，我们先来仔细看看它融合的两个子领域：深度学习和符号 AI。

深度学习侧重于识别数据中的模式，而符号 AI 则运用规则、逻辑或常识来推理并解决问题。二者各有优势，也各有局限。神经符号 AI 将二者结合，构建既能从数据中学习，又能更清晰地解释决策的系统。

深度学习概述#

深度学习是机器学习的一个分支，使用人工神经网络，其设计在一定程度上受到大脑处理信息方式的启发。这些网络通过分析大量数据并调整内部连接来学习，从而提升性能。

这使它们能够识别图像、声音和文本中的模式，而无需为每种情况手工编写规则。因此，深度学习非常适合图像识别、语音处理和语言翻译等以感知为核心的任务。

一个很好的例子是训练用于分割图像中物体的计算机视觉模型。只要有足够的带标签样例，它就能学会在实时交通视频中区分道路、车辆和行人。

然而，尽管深度学习模型准确度很高，却往往难以清楚解释自己如何得出特定结果。这一挑战通常被称为黑箱问题，使用户更难理解或验证模型的决策，尤其是在医疗保健或金融等敏感领域。这一点很重要，因为负责任的 AI 需要透明度、信任，以及理解模型为何作出特定预测的能力。

探索符号 AI#

符号 AI 采用更具结构化的智能和决策方法。它通过符号表示知识，并应用逻辑规则处理这些知识，这类似于我们运用推理和语言解决问题的方式。推理过程中的每一步都有明确定义，因此符号 AI 的决策透明，也更容易解释。

符号知识尤其适用于遵循清晰、明确规则的任务，例如规划、排程或管理结构化知识。然而，符号 AI 难以处理非结构化数据，或不符合预定义类别的情况。

早期国际象棋程序是符号方法的常见实例。它们遵循人工编写的规则和固定策略，而不是从之前的对局中学习或适应不同的对手。因此，它们的棋风往往僵化且容易预测。

图 1. AI 及其子领域的结构概览。（图片由作者提供）

什么是神经符号 AI？#

在 2010 年代，随着深度学习得到更广泛的应用，研究人员开始寻找超越简单模式识别、转向理解关系和上下文的方法。这一转变使 AI 模型不仅能够检测场景中的物体（如猫和垫子），还能理解物体之间的关系，例如识别出猫正坐在垫子上。

然而，这一进展也凸显了一个核心局限。深度学习模型能够出色地识别模式，但往往难以解释其推理过程，也难以应对陌生情况。这种对推理能力的重新关注，让研究人员再次将目光投向一个自 1980 年代起就已存在的领域：神经符号 AI。

神经符号 AI 将深度学习与符号 AI 融合起来。它让模型能够像深度学习那样从样例中学习，同时也能像符号 AI 那样运用逻辑和推理。

简单来说，神经符号 AI 能够识别信息、理解上下文，并更清晰地解释其决策。这种方法让我们离开发行为更可靠、更接近人类的 AI 系统更近了一步。

图 2. 了解神经符号 AI（图片由作者提供）

神经符号 AI 的基本工作原理#

神经符号架构在同一框架中融合了学习和推理。它通常包含三个主要部分：用于解释原始数据的神经感知层、用于应用逻辑的符号推理层，以及连接两者的集成层。接下来，我们将仔细了解每一层。

神经感知层#

神经感知组件会处理图像、视频、文本或音频等非结构化数据，并将其转换为系统可以处理的内部表示。它通常使用深度学习模型检测模式，并识别输入中的物体或特征。在这一阶段，系统能够识别数据中包含的内容，但还不会推理其含义、关系或上下文。

以下是此层常用的几种深度学习模型：

• 卷积神经网络（CNN）：这是一种专为处理图像等网格状数据而设计的神经网络。CNN 使用卷积滤波器扫描图像，检测边缘、纹理和形状等模式。通过逐层组合这些模式，CNN 可以学会识别汽车、水果和人等物体。
• Transformer：Transformer 是专为理解输入不同部分之间关系而设计的模型。它们不必严格按顺序读取信息，而是可以同时查看数据的多个部分，并判断哪些部分最重要。这有助于它们理解文本、图像或两者中的上下文。由于这种灵活性，Transformer 是大多数现代语言模型和许多视觉语言系统的核心架构。
• 循环神经网络（RNN）：这类模型专为分析语音或时间序列信号等序列数据而设计。它会保留先前输入的信息，因此在作出预测时可以考虑随时间变化的上下文。

归根结底，这些神经网络模型会从原始数据中提取并表示有意义的特征。这些输出随后成为符号推理层的输入，由符号推理层解释系统检测到的内容并进行推理。

符号推理层#

符号推理层接收神经感知层产生的信息，并运用逻辑对其进行理解。它不只依赖模式，而是借助规则、知识图谱、知识库和本体（对概念及其相互关系进行组织描述）等内容。这些内容有助于系统理解不同元素如何相互关联，以及在特定情境下采取哪些行动才合理。

例如，在自动驾驶汽车中，神经感知层可能会识别摄像头画面中的红灯。随后，符号推理层可以应用一条规则，例如：“如果信号灯是红色，车辆必须停车。”由于推理基于明确的规则，系统的决策更容易解释和验证，这在安全和问责至关重要的情境中尤其重要。

集成层#

集成层连接神经感知层和符号推理层，确保学习与推理协同工作。它会将神经模型的输出（例如检测到行人）转换为符号表示，用来描述物体及其属性。

反过来，它也会接收符号规则（例如“如果行人在斑马线上，车辆必须停车”），并将其转换为引导神经模型的信号。这可能包括突出显示图像中的相关区域、影响注意力，或调整模型的决策路径。

这种双向交互形成了反馈回路。神经部分从符号规则中获得结构和可解释性，而符号部分则可以基于真实世界数据更有效地调整。逻辑神经网络 (LNN) 等技术通过将逻辑约束直接嵌入神经网络架构，帮助实现这种交互。

通过这种方式连接感知和推理，神经符号 AI 能够做出既准确又易于理解的决策。许多研究人员认为，这种方法有望推动 AI 变得更可靠、更符合人类价值观，并可能成为未来迈向通用人工智能 (AGI)的基础。

神经符号 AI 的应用#

现在，我们已经更好地了解了什么是神经符号 AI 以及它如何运作，接下来看看它在现实世界中的一些应用案例。

让驾驶更安全：从看见行人到理解行人#

自动驾驶汽车需要理解周围环境才能安全行驶。它们会使用计算机视觉等技术来检测行人、车辆、车道线和交通标志。

深度学习模型可以准确识别这些物体，但并不总能理解它们在具体情境中的含义，或它们在真实场景中的相互关系。例如，神经模型可能会识别出斑马线上的行人，却无法判断行人是否准备过马路，还是只是站在那里等候。

神经符号 AI 试图弥合这一差距，让自动驾驶汽车能够结合视觉识别与逻辑推理，从而解读具体情境，而不只是识别物体。近期 AI 研究表明，将神经感知与符号规则相结合的系统可以提升行人行为预测能力。

在这些系统中，神经组件会分析行人的姿势、动作和位置等视觉线索。随后，符号组件会应用逻辑规则，并考虑行人是否靠近斑马线、当前交通信号显示什么等因素。

结合这两种视角后，神经符号系统不再只是检测行人。它还能合理预测行人是否可能过马路，并解释做出该判断的原因。这让自动驾驶汽车的行为更安全，也更透明。

图 3. 利用神经符号 AI 根据观察到的行人行为进行预测。(来源)

视觉问答中的逻辑解读#

神经符号 AI 的另一项重要应用是视觉问答 (VQA)。VQA 系统旨在回答有关图像的问题。

它将大语言模型 (LLM) 与视觉模型结合起来执行多模态推理，把系统看到的内容与理解的内容结合起来。例如，如果向 VQA 系统展示一张图像并问“杯子在桌子上吗？”，系统既要识别物体，也要理解物体之间的关系。它需要判断场景中的杯子是否确实位于桌面上。

近期一项研究展示了神经符号 AI 如何通过整合神经感知与符号推理来增强 VQA。在提出的系统中，神经网络首先分析图像，识别物体及其属性，例如颜色、形状或大小。

随后，符号推理组件会应用逻辑规则，解读这些物体之间的关系并回答问题。如果问题是“场景中有多少个灰色圆柱体？”，神经部分会识别所有圆柱体及其颜色，符号部分则会根据条件筛选并统计符合要求的圆柱体。

图 4. 需要抽象知识和逻辑推理的 VQA 场景示例。(来源)

这类研究展示了神经符号 VQA 如何超越单纯给出答案。由于模型可以展示得出结论的步骤，因此它支持可解释人工智能：系统不仅能做出预测，还能以人们能够理解的方式说明推理过程。

神经符号 AI 的优缺点#

以下是使用神经符号 AI 的一些主要优势：

• 更强的推理能力：与纯深度学习模型不同，神经符号 AI 可以执行需要多步推理、规划、遵循规则和处理结构化知识领域的任务，而这些正是符号 AI 的传统优势。
• 适应性：由于能够对训练范围之外的内容进行逻辑推理，这些系统在处理新任务或未见过的任务时表现良好。它们不只是记忆数据，还能理解关系和模式。
• 对噪声和歧义的鲁棒性：当数据存在噪声、不完整或含糊不清时，逻辑约束有助于避免错误。推理层可以强制执行规则，引导或纠正神经网络的预测。

尽管神经符号 AI 潜力巨大，但它仍在发展中，也面临一些实际挑战。以下是它的一些主要局限：

• 集成复杂：这种混合框架具有很强的可解释性，但设计能够融合感知与推理的算法仍然很有挑战。
• 可扩展性：处理大型知识图谱或复杂规则集时，符号推理可能会变慢或消耗大量计算资源。因此，要高效部署自动驾驶、视频处理或大规模知识推理等实时应用会更加困难。
• 推理鲁棒性：如果符号规则过于僵化，系统在面对含糊不清或难以预测的真实场景时可能会遇到困难。如何平衡灵活学习与可靠推理，仍是一项持续存在的挑战。

要点#

神经符号 AI 是迈向新一代 AI 系统的重要一步。这类系统不仅能感知世界，还能对世界进行推理并解释自己的决策。与主要依赖从数据中学习模式的传统深度学习系统不同，神经符号 AI 将统计学习与结构化逻辑和知识结合起来。它并非取代深度学习，而是在深度学习的基础上发展，让我们更接近能够以更接近人类的方式理解和推理的 AI。

加入我们的社区，探索我们的 GitHub 代码仓库。查看我们的解决方案页面，了解农业 AI和医疗保健中的计算机视觉等多种应用。了解我们的许可选项，开始构建你的视觉 AI 项目！