AI Washing

AIウォッシングとは、製品、サービス、企業が人工知能をどの程度利用しているか、またはその技術で何を実現できるかを誇張したり、誤って伝えたりする行為です。広告された機能と実際の動作との間に隔たりが生じ、顧客や投資家は、基盤となるシステムが実現できない知能、自律性、性能を期待するよう誘導されます。

この用語は、誤解を招く環境関連の主張を指すグリーンウォッシングに由来します。GartnerのアナリストであるJim Hareは、2017年7月6日のAIによる変革を利用するエンタープライズソフトウェアプロバイダーに関する分析で「AIウォッシング」という用語を使い、ベンダーがAIというラベルを無差別に適用していると述べました。

AIウォッシングの仕組み#

AIウォッシングは、技術的な複雑さをマーケティング上の優位性に変えます。購入者は、人工知能、機械学習、「自律型」といった用語に触れますが、それらの説明と実際の機能を結び付けるための情報が十分に得られません。誤った説明は、その技術が存在するかどうか、ワークフローにどのように貢献するか、あるいは結果がどの程度優れているかに関わる場合があります。

よく見られるパターンは次のとおりです。

• 機能の誇張： 出力に主張を裏付ける根拠がないにもかかわらず、専門家レベルの業務を実行できるシステムとして宣伝します。
• 人間の関与の隠蔽： 宣伝された業務の大部分を人間が担っているにもかかわらず、サービスを自律型として提示します。
• 性能の誇張： 選定された条件下での結果を、評価で裏付けられる範囲を超えて、より広い対象者やタスクに当てはめます。
• 提供時期の前倒し： 計画中のAI機能を、すでに製品に備わっている機能として説明します。

こうしたパターンは、購入、投資、人員配置の判断に影響します。また、運用上の要件も見えにくくします。顧客が把握する必要があるのは、どの出力にレビューが必要か、システムがどのタスクを処理するか、そしてエラーが後続の判断にどう影響するかです。

AIウォッシングと関連概念#

ロボティック・プロセス・オートメーションは、多くの場合、事前定義されたルールを使って反復的なワークフローを自動化します。機械学習はデータからパターンを学習し、記号AIは明示的な知識と推論ルールを使います。正確な製品説明では、仕組みとその役割を明らかにします。ルールベースのシステムにAIと呼ぶことは、そのシステムにはない学習や適応能力を伴うと主張する場合、誤解を招きます。

人間参加型ワークフローでは、人間に明確なレビューや意思決定の責任を割り当てます。透明性のある説明では、人間の貢献を明らかにします。たとえば、Ultralytics Platformは、AIを活用したデータアノテーションを提供します。YOLOのスマートアノテーション機能はモデルの予測からラベルのドラフトを生成し、アノテーターはそれをレビュー、調整、または削除できます。これにより、自動化されたタスクと人間の役割の両方が明確になります。

ハルシネーションとは、モデルが誤った内容や根拠のない内容を生成することです。AIウォッシングは、システムについて行われる説明に関するものです。説明可能なAIはモデルの挙動の解釈に役立ち、AIの透明性は機能、評価条件、責任の所在を伝えます。どちらも、根拠に基づくAI製品の説明を支えます。

実例と影響#

規制当局は、執行措置の中でこの用語を採用しました。SEC委員長のGary Genslerは2023年12月、企業に「AIウォッシング」をしないよう警告しました。またFTCは、AIに関する誤解を招く主張を取り締まるため2024年9月に実施した一斉調査「Operation AI Comply」の一環として、後述するDoNotPayの事案に対応しました。

投資顧問会社Delphiaは、顧客データによってAIを活用した投資予測の精度が向上すると主張していました。SECは、2019年から2023年にかけて、同社が宣伝していたAIおよび機械学習の機能を備えていなかったと判断しました。2024年3月18日の和解で、Delphiaは22万5,000ドルの民事制裁金を支払うことに同意しました。Global Predictionsも、AIによる予測や、規制対象となるAI金融アドバイザーとして初であるという地位を含む誤解を招く主張をめぐり、17万5,000ドルの制裁金に別途同意しました。

DoNotPayは、AIサービスを「世界初のロボット弁護士」と宣伝し、人間の法律専門家に代わる能力があると主張していました。DoNotPayに対する執行措置の和解では、19万3,000ドルの金銭的救済と、対象となる加入者への通知が求められました。FTCは2025年1月に命令を確定し、専門サービスに代わる能力について、根拠のない主張を行うことを制限しました。

AIの主張を裏付ける根拠#

根拠のある主張は、明示された機能を、その入力、出力、評価、動作条件と結び付けます。モデルカードには、想定される用途、開発の詳細、測定された制約が記録されます。データ来歴によって評価資料の出所が明らかになり、独立したテストデータによって、開発時のサンプル以外で性能を確認できます。

コンピュータービジョンでは、主張の根拠は宣伝されているタスクそのものから得られます。物体検出の結果には、データセットの構成やクラスごとの結果とともに、適合率、再現率、平均適合率を含めることができます。速度に関する主張には、ハードウェア、画像サイズ、バッチサイズ、測定範囲を明記する必要があります。

AIガバナンスは、これらの記録を製品承認やマーケティングレビューに結び付けます。そのため、公表される各主張を、モデルカード、評価結果、または文書化された人間の役割までたどれるようになります。