AI Washing

AI洗白是指夸大或歪曲产品、服务或公司使用人工智能的程度，或夸大这项技术能够实现的功能。这会造成宣传能力与实际运行情况之间的差距：客户和投资者会因此预期系统具备底层系统实际上无法提供的智能、自主性或性能。

这个术语借鉴了 漂绿，后者指误导性的环保声明。Gartner 分析师 Jim Hare 在 2017 年 7 月 6 日对利用 AI 变革的企业软件供应商的分析中使用了“AI washing”一词，形容供应商不加区分地给产品贴上 AI 标签。

AI洗白如何运作#

AI洗白将技术复杂性转化为营销优势。买家会遇到人工智能、机器学习和“自主”等术语，却得不到足够的信息，无法将这些描述与实际功能联系起来。失实陈述可能涉及技术是否存在、技术对工作流程的贡献，或其结果的可靠程度。

常见模式包括：

• 夸大能力： 宣称系统能够完成专家级工作，但其输出缺乏支持这一说法的证据。
• 隐瞒人工参与： 将服务描述为自主运行，但实际上由人员完成宣传工作中的重要部分。
• 夸大性能： 将特定条件下的结果推广到评估结果无法支持的更广泛受众或任务。
• 加快功能上线时间表： 将计划中的 AI 功能描述为产品现有能力。

这些模式会影响采购、投资和人员配置决策，也会掩盖实际运营要求：客户需要了解哪些输出需要审核、系统能处理哪些任务，以及错误会如何影响后续决策。

AI洗白与相关概念#

机器人流程自动化可自动执行重复性工作流程，通常依靠预定义规则。机器学习从数据中学习模式，而符号 AI则使用明确的知识和推理规则。准确的产品描述应指出所用机制及其作用。如果基于规则的系统缺乏学习或适应能力，却附带承诺这些能力的宣传，那么称它为 AI 就具有误导性。

人在回路工作流程会为人员分配明确的审核或决策职责。透明的描述会清楚说明人员作出的贡献。例如，Ultralytics Platform采用 AI 辅助的数据标注：其 YOLO 智能标注功能根据模型预测生成初步标签，标注人员可以审核、调整或删除这些标签。这样既说明了自动化任务，也明确了人工角色。

幻觉是指模型生成错误或缺乏依据的内容。AI洗白关注的是对系统作出的描述。可解释 AI有助于理解模型行为；AI 透明度则传达系统能力、评估条件和责任分工。两者都有助于以证据为基础描述 AI 产品。

真实案例及其后果#

监管机构在执法过程中采用了这一术语。SEC 主席 Gary Gensler 于 2023 年 12 月警告企业不要“AI washing”；FTC 则在 2024 年 9 月开展的“Operation AI Comply”行动中，对欺骗性 AI 声明进行集中调查，并将下文介绍的 DoNotPay 案纳入其中。

投资顾问公司 Delphia 声称，客户数据能够提升其 AI 驱动的投资预测能力。SEC 发现，该公司在 2019 至 2023 年期间并不具备其宣传的 AI 和机器学习能力。2024 年 3 月 18 日，Delphia 在和解中同意支付 225,000 美元民事罚款。Global Predictions 则另行同意支付 175,000 美元罚款，原因是其误导性声明涉及 AI 驱动的预测，以及其作为首家受监管 AI 金融顾问公司的身份。

DoNotPay 将一项 AI 服务宣传为“世界上首位机器人律师”，并声称它具备能够替代人类法律专业知识的能力。DoNotPay 执法和解要求其支付 193,000 美元赔偿，并向符合条件的订阅用户发送通知。FTC 于 2025 年 1 月正式通过该命令，限制其在缺乏依据时声称服务可以替代专业服务。

支持 AI 声明的证据#

有证据支持的声明，会将具体功能与其输入、输出、评估方式和运行条件联系起来。模型卡记录预期用途、开发详情和测得的局限性。数据溯源明确评估材料的来源，而独立的测试数据则有助于检验模型在开发样例之外的性能。

在计算机视觉领域，声明的证据应来自所宣传的具体任务。目标检测结果可包括精确率、召回率和平均精度均值，并提供数据集构成和各类别结果。性能速度声明则需要说明硬件、图像尺寸、批量大小和测量范围。

AI 治理将这些记录与产品审批和营销审核联系起来，确保每一项公开声明都能追溯到模型卡、评估结果或有据可查的人工职责。