YOLOのライセンス
Ultralytics用語集に戻る

AI Watermarking

AI電子透かしでは、生成画像、テキスト、音声、動画に機械検出可能なシグナルを埋め込みます。SynthIDとグリーンリスト方式の仕組みと限界を解説します。

AIウォーターマーキングとは、生成AIシステムが作成したコンテンツに、機械で検出できる隠し信号を埋め込む手法です。適切な鍵を持つ検出器を使えば、後から画像、動画、音声クリップ、テキストがそのシステムによって生成されたものかどうかを判別できます。この信号は人には知覚できず、サイズ変更や圧縮などの一般的な編集にも耐えるよう設計されています。ウォーターマークは合成メディアのデータ来歴を示す要素の1つであり、規制によって義務化が進んでいます。EU AI法第50条は、生成AIシステムの提供者に対し、2026年8月2日から出力を機械可読かつ検出可能な形式でマーキングすることを義務付けています。すでに市場に出ているシステムには2026年12月2日までの猶予があり、2025年9月に施行された中国のAI生成コンテンツ表示規則では、視認できる表示に加えてファイルメタデータへの隠しラベル付与が求められています。

AIウォーターマーキングの仕組み#

現在主流の方式の多くは、コンテンツの生成中に信号を埋め込みます。そのため、生成後に追加するマークよりも除去が困難です。

  • 画像と動画: 学習済みエンコーダーが画像全体に小さな変更を加え、対応するニューラルデコーダーが後から信号を復元します。Google DeepMindのSynthIDは、Imagen、Veo、Lyriaなどのモデルが生成する画像、動画、音声にこの方式を採用しています。MetaのStable Signatureは、潜在拡散モデルのデコーダーをファインチューニングし、生成するすべての画像に固定のバイナリ署名を付与します。また、拡散モデルがノイズ除去する開始時のノイズにパターンを埋め込む手法もあります。この手法では、最初のステップから画像の潜在空間表現にマークが組み込まれます。
  • テキスト: 大規模言語モデル (LLM)は、確率分布から各tokenを選択します。テキストウォーターマークは、その選択を、鍵の保有者のみが検出できるパターンにわずかに誘導します。2024年にNatureで発表された研究で説明されたSynthID Textは、Geminiの応答約2,000万件で評価され、品質の測定可能な低下はありませんでした。また、Hugging Face Transformersでオープンソースとして公開されています。
  • 事後付与マーク: 周波数領域のパターンなど、従来の信号処理によるウォーターマークは、生成後にあらゆるファイルへ追加できますが、一般に除去されやすくなります。

画像の場合、検出結果はデコーダーの出力スコアです。テキストの場合はトークン列に対する統計的検定であり、モデルへのアクセスは必要ありません。

グリーンリスト方式のテキストウォーターマーク#

Kirchenbauerらによる大規模言語モデルのためのウォーターマークでは、秘密鍵を使って前のトークンをハッシュし、語彙を「グリーン」のグループと残りの「レッド」のグループに分けてから、サンプリング前にグリーントークンのロジットへ小さなバイアスを加えます。ウォーターマークのないテキストでは、ベースラインの割合でグリーントークンが使われます。一方、ウォーターマーク付きテキストではその割合が大幅に高くなり、1標本比率のz検定で検出できます。以下のコード例では、ランダムなロジットを言語モデルの代わりに使っています。

import torch

torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42  # key is the secret shared with the detector


def green_list(prev):
    """Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
    return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]


for bias in (0.0, delta):  # ordinary sampling, then watermarked sampling
    tokens = [0]
    for _ in range(length):
        logits = torch.randn(vocab)  # stands in for a language model's next-token logits
        logits[green_list(tokens[-1])] += bias
        tokens.append(torch.multinomial(logits.softmax(0), 1).item())

    # Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
    hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
    z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
    print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")

通常のサンプリングでは、200個中44個がグリーントークンとなり(z = -1.0)、期待値の25%に近い一方、ウォーターマーク付きの実行では141個となり(z = 14.9)、論文がウォーターマーク付きテキストの判定に使うz = 4のしきい値を大きく上回ります。各トークンが証拠となるため、文章が長いほど検出の信頼度が高まります。一方、コードや事実のリストのように次のトークンがほぼ決まっているテキストでは、信号が弱くなります。

  • コンテンツ認証情報 (C2PA): ファイルを作成または編集したツールを記録する、暗号署名付きメタデータマニフェストです。ウォーターマークよりはるかに多くの詳細を記録しますが、ファイルの再エンコードやスクリーンショットの撮影で失われるため、両者は併用されることがよくあります。
  • ディープフェイクとAI画像の検出: 埋め込みマークのないコンテンツから、生成時のアーティファクトを探す分類器です。あらゆる生成器の出力に対応しますが、確率に基づく判定であり、生成器の性能向上に伴って精度が低下します。また、画像がAI生成かどうかを目視で判別する際にも、似た手掛かりが使われます。
  • ステガノグラフィー: ファイル内に秘密のメッセージを隠す技術です。ウォーターマーキングはその手法を取り入れていますが、大きなデータを隠すことより、堅牢な検出を重視します。

合成メディアにラベルを付け、AIスロップをフィルタリングするプラットフォームでは、通常、次のチェックを組み合わせます。

堅牢性と限界#

ウォーターマークは、クロップ、サイズ変更、色調変化、JPEG圧縮などの無害な変更や、理想的には意図的な敵対的攻撃にも耐える必要があります。開発者は、マーク付きコンテンツにデータ拡張に似た変換を適用し、検出が成功する割合を測定してこれをテストします。現在の方式には、次のような既知の弱点があります。

  • 再生成: 画像にノイズを加えて生成モデルで再構成すると、見た目をほぼ保ったままピクセルレベルの不可視ウォーターマークを除去できます。
  • 言い換えと翻訳: 別のモデルでウォーターマーク付きテキストを書き換えたり、翻訳して元に戻したりすると、検出器が数えるトークンパターンが薄まります。
  • 対象範囲: マークを埋め込む提供者の出力のみ検出できます。また、オープンウェイトモデルはマークなしで実行できるため、ウォーターマークが見つからないからといって、人間が作成したコンテンツだとは判断できません。
  • スプーフィング: 方式について十分な知識を得た攻撃者は、人間が作成したコンテンツにそのマークを付け、方式の信頼性を損なう可能性があります。

可視ウォーターマークは、コンピュータービジョンデータセットに別の問題をもたらします。モデルが可視ウォーターマークをショートカットとして学習することです。よく知られた事例では、PASCAL VOCデータセットで学習した分類器が、馬の写真のおよそ5分の1に写っていた著作権表示を手掛かりに、馬を認識するよう学習し、表示が取り除かれると失敗しました。可視マークやロゴは通常の画像コンテンツであるため、ラベル付きの例で学習したUltralytics YOLO26の物体検出モデルは、学習データセット全体でこれらを検出できます。これにより、チームはタグ付き画像をクロップまたは削除し、モデルが誤った手掛かりを学習するのを防げます。

ソリューションを見る

スポーツにおけるコンピュータービジョン

スポーツにおけるコンピュータービジョン

Ultralytics YOLOが、選手やボールの追跡、パフォーマンス分析、コーチングへの知見、アスリートのリハビリを通じて、スポーツビジョンをどのように支えるかをご紹介します。
詳しく見る
航空画像向けコンピュータービジョン

航空画像向けコンピュータービジョン

Ultralytics YOLOを使用して、ドローンや航空画像をリアルタイムの知見に変換し、農業、水産養殖、自然保護、地理空間分析に活用できます。
詳しく見る
航空宇宙分野のコンピュータービジョン

航空宇宙分野のコンピュータービジョン

Ultralytics YOLOを活用して航空宇宙分野でコンピュータビジョンを導入し、航空機検査、滑走路上のFOD検出、空港の地上業務、複合材の欠陥検出に活用できます。
詳しく見る
セキュリティ分野のコンピュータービジョン

セキュリティ分野のコンピュータービジョン

Ultralytics YOLOモデルであらゆる施設を保護しましょう。ビジョンAIは、周辺監視、脅威検知、ナンバープレート認識、職場の安全管理を支援します。
詳しく見る
ロボティクス分野のコンピュータービジョン

ロボティクス分野のコンピュータービジョン

Ultralytics YOLOモデルで、よりスマートなマシンを実現しましょう。ロボティクスにおけるビジョンAIは、自律ナビゲーション、認識、物体追跡、リアルタイム制御を支援します。
詳しく見る
物流におけるコンピュータービジョン

物流におけるコンピュータービジョン

Ultralytics YOLOモデルで物流を効率化しましょう。ビジョンAIにより、荷物検査、仕分け、車両追跡、倉庫のリアルタイム安全監視を実現します。
詳しく見る
小売業におけるコンピュータービジョン

小売業におけるコンピュータービジョン

Ultralytics YOLOモデルで小売のあり方を変革しましょう。ビジョンAIにより、在庫追跡、棚の監視、行列管理、より高度な顧客インサイトを実現します。
詳しく見る
医療分野におけるコンピュータービジョン

医療分野におけるコンピュータービジョン

Ultralytics YOLOモデルで医療ソリューションを構築しましょう。医療分野のビジョンAIは、医用画像処理の高速化、より高度な診断、患者モニタリングを実現します。
詳しく見る
製造業におけるコンピュータービジョン

製造業におけるコンピュータービジョン

Ultralytics YOLOモデルで製造を最適化しましょう。ビジョンAIは、品質管理、欠陥検出、PPE準拠、組立ラインの自動化を推進します。
詳しく見る
自動車分野におけるコンピュータービジョン

自動車分野におけるコンピュータービジョン

Ultralytics YOLOモデルで自動車分野にコンピュータービジョンを導入しましょう。ビジョンAIは、道路の安全性、運転支援、車両の自動化を向上させ、よりスマートな道路を実現します。
詳しく見る
農業におけるコンピュータービジョン

農業におけるコンピュータービジョン

Ultralytics YOLOモデルでスマート農業にビジョンAIを導入しましょう。作物のモニタリング、家畜の追跡、精密農業を支援し、より高く効率的な収量を実現します。
詳しく見る

AIの未来を一緒に築きましょう!

機械学習の未来に向けた歩みを始めましょう