AI Watermarking
AI電子透かしでは、生成画像、テキスト、音声、動画に機械検出可能なシグナルを埋め込みます。SynthIDとグリーンリスト方式の仕組みと限界を解説します。
AIウォーターマーキングとは、生成AIシステムが作成したコンテンツに、機械で検出できる隠し信号を埋め込む手法です。適切な鍵を持つ検出器を使えば、後から画像、動画、音声クリップ、テキストがそのシステムによって生成されたものかどうかを判別できます。この信号は人には知覚できず、サイズ変更や圧縮などの一般的な編集にも耐えるよう設計されています。ウォーターマークは合成メディアのデータ来歴を示す要素の1つであり、規制によって義務化が進んでいます。EU AI法第50条は、生成AIシステムの提供者に対し、2026年8月2日から出力を機械可読かつ検出可能な形式でマーキングすることを義務付けています。すでに市場に出ているシステムには2026年12月2日までの猶予があり、2025年9月に施行された中国のAI生成コンテンツ表示規則では、視認できる表示に加えてファイルメタデータへの隠しラベル付与が求められています。
AIウォーターマーキングの仕組み#
現在主流の方式の多くは、コンテンツの生成中に信号を埋め込みます。そのため、生成後に追加するマークよりも除去が困難です。
- 画像と動画: 学習済みエンコーダーが画像全体に小さな変更を加え、対応するニューラルデコーダーが後から信号を復元します。Google DeepMindのSynthIDは、Imagen、Veo、Lyriaなどのモデルが生成する画像、動画、音声にこの方式を採用しています。MetaのStable Signatureは、潜在拡散モデルのデコーダーをファインチューニングし、生成するすべての画像に固定のバイナリ署名を付与します。また、拡散モデルがノイズ除去する開始時のノイズにパターンを埋め込む手法もあります。この手法では、最初のステップから画像の潜在空間表現にマークが組み込まれます。
- テキスト: 大規模言語モデル (LLM)は、確率分布から各tokenを選択します。テキストウォーターマークは、その選択を、鍵の保有者のみが検出できるパターンにわずかに誘導します。2024年にNatureで発表された研究で説明されたSynthID Textは、Geminiの応答約2,000万件で評価され、品質の測定可能な低下はありませんでした。また、Hugging Face Transformersでオープンソースとして公開されています。
- 事後付与マーク: 周波数領域のパターンなど、従来の信号処理によるウォーターマークは、生成後にあらゆるファイルへ追加できますが、一般に除去されやすくなります。
画像の場合、検出結果はデコーダーの出力スコアです。テキストの場合はトークン列に対する統計的検定であり、モデルへのアクセスは必要ありません。
グリーンリスト方式のテキストウォーターマーク#
Kirchenbauerらによる大規模言語モデルのためのウォーターマークでは、秘密鍵を使って前のトークンをハッシュし、語彙を「グリーン」のグループと残りの「レッド」のグループに分けてから、サンプリング前にグリーントークンのロジットへ小さなバイアスを加えます。ウォーターマークのないテキストでは、ベースラインの割合でグリーントークンが使われます。一方、ウォーターマーク付きテキストではその割合が大幅に高くなり、1標本比率のz検定で検出できます。以下のコード例では、ランダムなロジットを言語モデルの代わりに使っています。
import torch
torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42 # key is the secret shared with the detector
def green_list(prev):
"""Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]
for bias in (0.0, delta): # ordinary sampling, then watermarked sampling
tokens = [0]
for _ in range(length):
logits = torch.randn(vocab) # stands in for a language model's next-token logits
logits[green_list(tokens[-1])] += bias
tokens.append(torch.multinomial(logits.softmax(0), 1).item())
# Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")通常のサンプリングでは、200個中44個がグリーントークンとなり(z = -1.0)、期待値の25%に近い一方、ウォーターマーク付きの実行では141個となり(z = 14.9)、論文がウォーターマーク付きテキストの判定に使うz = 4のしきい値を大きく上回ります。各トークンが証拠となるため、文章が長いほど検出の信頼度が高まります。一方、コードや事実のリストのように次のトークンがほぼ決まっているテキストでは、信号が弱くなります。
ウォーターマーキングと関連手法の比較#
- コンテンツ認証情報 (C2PA): ファイルを作成または編集したツールを記録する、暗号署名付きメタデータマニフェストです。ウォーターマークよりはるかに多くの詳細を記録しますが、ファイルの再エンコードやスクリーンショットの撮影で失われるため、両者は併用されることがよくあります。
- ディープフェイクとAI画像の検出: 埋め込みマークのないコンテンツから、生成時のアーティファクトを探す分類器です。あらゆる生成器の出力に対応しますが、確率に基づく判定であり、生成器の性能向上に伴って精度が低下します。また、画像がAI生成かどうかを目視で判別する際にも、似た手掛かりが使われます。
- ステガノグラフィー: ファイル内に秘密のメッセージを隠す技術です。ウォーターマーキングはその手法を取り入れていますが、大きなデータを隠すことより、堅牢な検出を重視します。
合成メディアにラベルを付け、AIスロップをフィルタリングするプラットフォームでは、通常、次のチェックを組み合わせます。
堅牢性と限界#
ウォーターマークは、クロップ、サイズ変更、色調変化、JPEG圧縮などの無害な変更や、理想的には意図的な敵対的攻撃にも耐える必要があります。開発者は、マーク付きコンテンツにデータ拡張に似た変換を適用し、検出が成功する割合を測定してこれをテストします。現在の方式には、次のような既知の弱点があります。
- 再生成: 画像にノイズを加えて生成モデルで再構成すると、見た目をほぼ保ったままピクセルレベルの不可視ウォーターマークを除去できます。
- 言い換えと翻訳: 別のモデルでウォーターマーク付きテキストを書き換えたり、翻訳して元に戻したりすると、検出器が数えるトークンパターンが薄まります。
- 対象範囲: マークを埋め込む提供者の出力のみ検出できます。また、オープンウェイトモデルはマークなしで実行できるため、ウォーターマークが見つからないからといって、人間が作成したコンテンツだとは判断できません。
- スプーフィング: 方式について十分な知識を得た攻撃者は、人間が作成したコンテンツにそのマークを付け、方式の信頼性を損なう可能性があります。
可視ウォーターマークは、コンピュータービジョンデータセットに別の問題をもたらします。モデルが可視ウォーターマークをショートカットとして学習することです。よく知られた事例では、PASCAL VOCデータセットで学習した分類器が、馬の写真のおよそ5分の1に写っていた著作権表示を手掛かりに、馬を認識するよう学習し、表示が取り除かれると失敗しました。可視マークやロゴは通常の画像コンテンツであるため、ラベル付きの例で学習したUltralytics YOLO26の物体検出モデルは、学習データセット全体でこれらを検出できます。これにより、チームはタグ付き画像をクロップまたは削除し、モデルが誤った手掛かりを学習するのを防げます。










