Deepfakes

ディープフェイクとは、ディープラーニング（DL）によって実在する人物の顔、声、または身体を置き換えたり、捏造したりして、見る人が本物だと信じるほど精巧に作られた画像、動画、または音声録音です。「deep learning」と「fake」を組み合わせたこの用語は、オープンソースツールで顔を入れ替えた動画を投稿し始めた「deepfakes」という名前のRedditユーザーが現れた2017年に生まれました。ディープフェイクは生成AIの一種であり、同じ技術は映画の視覚効果や吹き替えだけでなく、詐欺、嫌がらせ、偽情報にも使われています。

ディープフェイクの作成方法#

古典的な顔の入れ替えでは、1つのエンコーダーを共有する2つのオートエンコーダーを使用します。共有エンコーダーは、あらゆる顔を、姿勢、表情、照明を表すコンパクトな潜在空間コードに圧縮する方法を学習し、各デコーダーはそのコードから特定の人物を再構成する方法を学習します。両者の顔を切り出した画像を数千枚使って学習した後、システムは人物Aのフレームをエンコードし、人物Bのデコーダーでデコードすることで、人物Aの表情をした人物Bの顔を生成します。

その後、ほかの手法も登場しました。

• 敵対的生成ネットワーク（GANs）：生成器が画像を作成し、識別器がそれを実際の写真と見分けようとします。この競争によって、生成器はフォトリアルな画像を作るようになります。StyleGANなどのGANは、実在しない人物の顔を生成します。
• 拡散モデル：テキスト、参照写真、または元動画をガイドとして、ノイズを段階的に取り除きながら画像や動画を生成します。現在の写真編集ツールやテキストから動画を生成するツールを支えており、1枚の参照写真から人物が話すリアルな動画を生成できます。
• 音声クローニング：音声モデルは短い録音から人物の声を再現し、リップシンクモデルは既存の動画の口の形を新しい音声に合わせて調整します。

用途と有害性#

ディープフェイク技術には正当な用途があります。映画スタジオは俳優を若返らせたり、口の動きを合わせながら映画を別の言語に吹き替えたりします。2020年のドキュメンタリー映画『Welcome to Chechnya』では、迫害を受けたインタビュー対象者の顔をボランティアの顔に置き換え、あらゆる表情を保ちながら身元を保護しました。病気で声を失った患者は録音を保存し、自分の声のクローンを通じて話すことができます。また、生成された顔は、実在する人々の写真を収集せずにモデルを学習させるための合成データとして利用されます。

有害性はより大規模です。オンライン上のディープフェイクの大半は、主に女性など実在の人物を標的とする、同意のない性的画像です。詐欺師は親族や幹部の声を複製して緊急の送金を要求します。2024年初頭には、エンジニアリング企業Arupの従業員が、同社の最高財務責任者やほかの同僚全員がディープフェイクだったビデオ通話の後、約2,500万米ドルを送金しました。選挙期間中には、政治家の捏造動画が拡散されます。また、精巧な偽物が存在することで、本物の録音までも捏造だと否定できてしまいます。

ディープフェイクの検出#

検出システムは、生成の痕跡を探します。たとえば、顔の周囲の合成境界、不一致な照明や目の反射、不自然なまばたきや頭の動き、人間の目には見えない周波数アーティファクト、音声と同期しなくなった唇の動きなどです。ほとんどの検出器は、まず顔を検出して切り抜き、その切り抜きを実画像と加工画像で学習した分類器に入力します。Ultralytics YOLO26はこの第2段階に適しています。分類モデルはクラスごとにフォルダーを分けたデータセットで学習できるため、顔を切り抜いた「real」と「fake」のフォルダーだけで、実画像と偽画像を分類するモデルを学習できます。

検出器は、学習時に見たことのない生成手法への汎化に苦労します。MetaのDeepfake Detection Challengeでは、優勝モデルは新しい動画を含む非公開のテストセットで平均適合率65.18%を記録しましたが、公開テストセットでの最高モデルは82.56%でした。検出技術の進歩が生成技術に追いつかないため、業界では出所の検証も行われています。Content Credentials（C2PA）は、メディアの撮影・編集方法を記録した暗号署名付きの情報を付与し、AI電子透かしは生成コンテンツに隠れた信号を埋め込み、検出器が後から読み取れるようにします。

ディープフェイクと関連概念の比較#

• 合成データ：シミュレーションによる運転シーンからレンダリングされた製品画像まで、モデルの学習やテストに使う人工生成データ全般を指します。生成された顔で学習セットを埋める場合、ディープフェイク技術はその供給源の1つになります。
• コンピューター生成画像（CGI）：アーティストが手作業でモデリング、リギング、アニメーションを行うデジタルキャラクターや視覚効果です。視覚効果スタジオでは、同じショットにCGIと学習ベースの顔置換を組み合わせることが増えています。
• 浅い偽造（Shallowfakes）：AIを使わずに作られる、誤解を招く編集です。たとえば、話者が酔っているように聞こえるよう動画を遅くしたり、実際の動画に誤った文脈のキャプションを付けたりします。

規制#

法律は現在、ディープフェイクを直接対象としています。2026年8月2日から適用されるEU AI法の第50条は、AIを使ってディープフェイクを作成する導入者に対し、コンテンツが人工的に生成または改変されたことを開示するよう求め、生成システムのプロバイダーには、出力に機械可読形式のマークを付けるよう義務付けています。米国では、2025年5月に署名されたTAKE IT DOWN法により、同意のない性的ディープフェイクの公開が連邦犯罪となりました。また、2026年5月19日以降、対象プラットフォームは有効な申請から48時間以内に該当コンテンツを削除することが義務付けられています。