宪法式 AI 旨在让 AI 模型与人类价值观保持一致

人工智能 (AI) 正迅速成为日常生活的重要组成部分。它正被融入医疗保健、招聘、金融和公共安全等领域使用的工具中。随着这些系统不断发展，人们也开始表达对其伦理和可靠性的担忧。

例如，有时在设计时未考虑公平性或安全性的 AI 系统会产生有偏见或不可靠的结果。这是因为许多模型仍缺乏明确的方法来体现并契合人类价值观。

为应对这些挑战，研究人员正在探索一种称为宪法式 AI的方法。简单来说，它会将一套书面原则引入模型的训练过程。这些原则帮助模型评估自身行为、减少对人类反馈的依赖，并生成更安全、更容易理解的回答。

迄今为止，这种方法主要应用于大型语言模型 (LLMs)。不过，同样的框架也可以帮助计算机视觉系统在分析视觉数据时做出符合伦理的决策。

本文将介绍宪法式 AI 的工作原理，探讨实际案例，并讨论它在计算机视觉系统中的潜在应用。

图 1. 宪法式 AI 的特点。图片由作者提供。

什么是宪法式 AI？#

宪法式 AI 是一种模型训练方法，通过提供一套明确的道德规则来引导 AI 模型的行为。这些规则相当于行为准则。模型不必自行推断什么行为可以接受，而是遵循一套书面原则，在训练过程中据此生成响应。

这一概念由专注于 AI 安全研究的公司 Anthropic提出。Anthropic 开发了 Claude LLM 系列，并将这一方法用于让 AI 系统在决策时更多地进行自我监督。

模型不再只依赖人类反馈，而是根据预先定义的一套原则，学习批判并改进自己的回答。这种方法类似于法律体系：法官在做出裁决前会参考宪法。

在这种情况下，模型既是裁判，也是学习者，会使用同一套规则审查并改进自身行为。这个过程能加强 AI 模型对齐，并支持开发安全且负责任的 AI 系统。

宪法式 AI 如何运作？#

宪法式 AI 旨在通过遵循一套明确的书面规则，教会 AI 模型做出安全、公平的决策。下面简单介绍这一流程：

• 制定宪法： 编写一份模型应遵循的伦理原则清单。宪法会说明 AI 应避免什么行为，以及应体现哪些价值观。
• 使用监督式示例进行训练： 向模型展示遵循宪法原则的示例回答。这些示例帮助 AI 理解什么样的行为可以接受。
• 识别并应用模式： 随着时间推移，模型会逐渐掌握这些模式，并学会在回答新问题或处理新情况时应用相同的价值观。
• 评估并改进输出： 模型会审查自己的回答，并依据宪法原则进行调整。这个自我审查阶段能帮助模型改进，而不必只依赖人类反馈。
• 生成对齐且更安全的回答： 模型从一致的规则中学习，从而减少偏见，并提升实际应用中的可靠性。这种方法让模型更符合人类价值观，也更易于治理。

图 2. 使用宪法式 AI 训练模型的概览。

伦理 AI 设计的核心原则#

要让 AI 模型遵循伦理规则，首先需要明确定义这些规则。宪法式 AI 的规则基于一组核心原则。

例如，以下四项原则构成了有效 AI 宪法的基础：

• 透明度： 模型得出答案的过程应该易于理解。如果回答依据的是事实、估算或模式，用户就应该能够清楚了解这一点。这样既能建立信任，也能帮助人们判断是否可以依赖模型的输出。
• 平等：模型面向不同用户的回答应保持一致，不应根据某人的姓名、背景或所在地改变输出。平等有助于防止偏见，并促进平等对待。
• 问责： 应该能够追溯模型的训练过程，以及哪些因素影响了模型的行为。出现问题时，团队应能找出原因并加以改进。这有助于实现透明度和长期问责。
• 安全： 模型应避免生成可能造成伤害的内容。如果请求会导致有风险或不安全的输出，系统就应识别并停止处理。这既能保护用户，也能维护系统的完整性。

大型语言模型中的宪法式 AI 示例#

宪法式 AI 已从理论走向实践，如今正逐渐应用于与数百万用户互动的大型模型中。最常见的两个例子是 OpenAI 和 Anthropic 的 LLM。

虽然这两家机构采取了不同的方法来打造更符合伦理的 AI 系统，但它们有一个共同理念：教模型遵循一套书面的指导原则。下面来仔细看看这些例子。

OpenAI 的宪法式 AI 方法#

OpenAI 在 ChatGPT 模型的训练过程中引入了一份名为 Model Spec 的文档。这份文档就像一部宪法，概述了模型回答时应追求的目标，包括乐于助人、诚实和安全等价值观。文档还界定了哪些输出属于有害或误导性内容。

这一框架被用于微调 OpenAI 的模型，根据回答符合规则的程度对其进行评分。随着时间推移，这帮助塑造了 ChatGPT，使其减少有害输出，并更好地符合用户的实际需求。

图 3。ChatGPT 使用 OpenAI 的 Model Spec 生成回答的示例。

Anthropic 的伦理 AI 模型#

Anthropic 于 2026 年 1 月用新版本取代了 Claude 的初版宪法。初版宪法以《世界人权宣言》等来源中的伦理原则、Apple 服务条款等平台指南，以及其他 AI 实验室的研究为基础。这些原则有助于确保 Claude 的回答安全、公平，并符合重要的人类价值观。

Claude 还采用 AI 反馈强化学习 (RLAIF)，根据这些伦理准则审查并调整自己的回答，而不是依赖人类反馈。这一流程让 Claude 能够不断改进，更易于扩展，也更善于提供有帮助、符合伦理且无害的回答，即使面对棘手的情况也能如此。

图 4。了解 Anthropic 的宪法式 AI 方法。

将宪法式 AI 应用于计算机视觉#

宪法式 AI 正在积极影响语言模型的行为，这自然引出了一个问题：类似的方法能否帮助视觉系统更公平、安全地做出响应？

尽管计算机视觉模型处理的是图像而非文本，但伦理指导同样重要。例如，公平性和偏见是需要重点考虑的因素，因为这些系统需要经过训练，平等对待每个人，并避免在分析视觉数据时产生有害或不公平的结果。

图 5. 与计算机视觉相关的伦理挑战。图片由作者提供。

目前，宪法式 AI 方法在计算机视觉中的应用仍处于早期阶段，相关研究还在持续开展。

例如，Meta 最近推出了 CLUE，这是一个将类似宪法的推理应用于图像安全任务的框架。它会将宽泛的安全规则转化为多模态 AI（能够处理并理解多种类型数据的 AI 系统）可以遵循的具体步骤。这有助于系统进行更清晰的推理，并减少有害结果。

此外，CLUE 通过简化复杂规则，提高了图像安全判断的效率，让 AI 模型无需大量人工输入，就能快速、准确地采取行动。借助一套指导原则，CLUE 让图像审核系统更易于扩展，同时确保高质量结果。

要点#

随着 AI 系统承担越来越多的责任，人们关注的重点正从它们能做什么转向它们应该做什么。这种转变至关重要，因为这些系统被应用于医疗保健、执法和教育等直接影响人们生活的领域。

要确保 AI 系统以恰当且符合伦理的方式行事，就需要一个稳固、一致的基础。这个基础应优先考虑公平、安全和信任。

书面宪法可以在训练期间提供这一基础，并指导系统的决策过程。它还可以为开发者提供一套框架，用于在部署后审查和调整系统行为，确保系统继续符合其设计时要维护的价值观，并更容易适应新出现的挑战。

立即加入不断壮大的社区！通过探索我们的 GitHub 代码库，深入了解 AI。想构建自己的计算机视觉项目？查看我们的许可选项。访问我们的解决方案页面，了解医疗保健领域的计算机视觉如何提高效率，并探索制造业中的 AI带来的影响！