画像がAI生成かどうかを見分ける方法

画像生成モデルは進化を続けており、実物そっくりな人工知能（AI）画像が増えています。AI画像と実際の写真をめぐる議論は、両者の見分けが難しくなるにつれて、ますます重要になっています。AI生成画像がインターネット上の人々を欺いた事例も複数あります。教皇フランシスコがダウンジャケットを着た画像や、2024年のメットガラにKaty Perryが出席した画像が話題になりました。どちらも生成AIによって作られた画像で、実際の出来事ではありません。しかし、一見しただけでは、インターネット上の多くの人が本物だと信じていました。

こうした誤認は面白い話題になることもありますが、深刻な倫理的懸念につながることのほうが多くあります。生成AIの仕組みを把握しておくことが重要であるのと同様に、画像がAI生成かどうかを見分ける方法を知ることも欠かせません。この記事では、AI生成画像について詳しく見ていき、AIアートのメリットとデメリットを確認し、法的な問題を取り上げながら、実際の画像と見分けるための主な方法やツールを紹介します。

AI生成画像とは、具体的にどのようなものですか？#

AI画像は、大規模なデータセットで学習したニューラルネットワークを使う画像生成モデルによって作成され、リアルな画像を生成します。スタイルや概念、特徴を組み合わせて、芸術性と関連性のある画像を作り出せる点が特に優れています。学習中、画像生成モデルはこれらの画像からさまざまな特徴や細部を学びます。それによって、学習した画像にスタイルや内容が似た新しい画像を作成できます。

画像生成モデルにはさまざまな種類があり、それぞれ独自の特徴を備えています。たとえば、敵対的生成ネットワーク（GANs）は、トレーニングデータに似たリアルな画像を作り出すために、連携して動作する2つのニューラルネットワークを使用します。拡散モデルは、ランダムノイズを徐々に鮮明な画像へと変換して画像を生成します。DALL-Eなどのモデルで使われるTransformerは、自己注意機構を用いてテキストによる説明から画像を生成します。

図1. DALL-E 2による生成画像。プロンプト：アボカドの形をした肘掛け椅子。

OpenAIのChatGPT、Midjourney、Gencraft、Stable Diffusionなどのツールを使えば、誰でもAI画像を作成できます。こうした画像はインターネット上のいたるところに現れるようになりましたが、AIによって生成されたことを示すラベルが付いていない場合も少なくありません。

AIアートのメリットとデメリット#

写真や絵画と同じように、AIによる画像生成も新たな芸術形式として多くの人に認識されつつあります。AIが生成した絵画が数千ドルで販売されたり、アートコンテストで受賞したりしています。ここから、AIアートは良いものなのか、また、このような画像生成にはどのようなメリットとデメリットがあるのかという疑問が生まれます。

図2。AIが生成したアート作品。

この点については、さまざまな意見があります。たとえば、予算に限りのある小規模事業者は、生成アートをメリットと捉えるかもしれません。ブランディングやマーケティングのニーズにぴったり合うカスタム画像を作成できます。こうしたツールを使えば、高品質なビジュアルをすばやく作成して時間を節約でき、クリエイティブなプロジェクトを予定どおりに進めやすくなります。アーティストの着想という点では、画像生成によって幅広い独自の選択肢を利用できます。アイデアを形にする前に、簡単に視覚化することもできます。

一方、AI生成画像は感情的な深みに欠けることが多く、人間のありのままの経験を表現するのが難しい場合があります。画像がピクセル化していたり、不自然に見えたりするなど、品質にばらつきが生じることもあります。AIに頼りすぎると、創造性や批判的思考が損なわれるおそれがあります。悪用のリスクもあります。AI画像は簡単に改変でき、誤情報につながる可能性があります。また、こうしたツールの習得には時間がかかる場合があり、学習データに由来するバイアスが含まれることもあります。AIアートには、ほかにも次のようなデメリットがあります。

• 倫理的懸念： AI生成アートの著作者、所有権、著作権などの知的財産に関する問題は複雑で、意見が分かれています。
• 雇用の喪失： アート分野でAIが広く使われると、人間のアーティストやデザイナーの活躍の場が減る可能性があります。
• 文化への配慮不足： AIアートは文化的背景を理解し、尊重できない場合があり、不適切または不快な作品につながることがあります。

AI生成画像をめぐる法的なグレーゾーン#

AIが進歩する中、著作権などの法的影響について、社会全体で今も積極的に検討が進められています。従来の創作物とは異なり、著作権保護には人間による創作が必要なため、米国など一部の国ではAI生成画像に著作権を認められません。AIの学習では、著作権で保護された素材を含む可能性のある、インターネットから収集した膨大なデータが使われることが多く、問題は複雑です。このため、多くの人々がAIモデルの学習に著作権保護コンテンツを使用することに対して積極的に抗議し、より適切な規制を求めています。

訴訟を起こした企業もあります。ストック画像プロバイダーのGetty Imagesは、AIアート生成ツールのStability AIが商業的利益を得るためにGettyの画像ライブラリを複製して使用したとして、訴訟を起こしました。Stability AIのテキスト画像生成モデルが生成した複数の画像には、Gettyの透かしが付いています。DeviantArtと他の2社のAI企業も、AI生成作品が著作権法に違反していると主張するアーティスト団体から、集団訴訟で訴えられています。

画像がAI生成かどうかを確認する方法#

AI画像を見分ける方法を学ぶことは重要です。特に選挙期間中、偽ニュースで人々を欺くためのAI画像の使用が増加しているためです。ある研究では、研究者たちが一般的なAI画像生成ツールを使い、有権者や投票用紙に関する誤解を招く画像など、選挙に関する偽情報をテストの41%で生成することに成功しました。

図3. ごみ箱に投票用紙の箱が捨てられている偽画像。

AI画像は消費者にも影響を与えます。Attestが最近実施した調査では、ほとんどの消費者（76%）が、本物の画像とAI生成画像を見分けられないことが明らかになりました。画像がAI生成かどうかを見分ける方法を紹介します。

画像のタイトル、説明、タグを確認する#

当たり前のように思えるかもしれませんが、AI画像を見分ける最も簡単な方法は、説明やタグに「AI生成」と記載されているか確認することです。AI画像をめぐっては今も多くの点が議論されているため、画像を生成またはライセンス提供する企業は、その出所を明らかにするためにあらゆる努力をしています。AI画像をライブラリに掲載するストックフォト代理店は、投稿者に対し、画像のタイトル、説明、タグに「AI生成」と記載するよう求めています（カタログの検索時にAI画像を見つけたり、除外したりしやすくなります）。こうしたラベルを確認するのが、AI生成画像を見分ける最も簡単な方法です。

透かしを探す#

AI画像を見分けるもう1つの方法は、AIツールの多くが付加するウォーターマークを確認することです。ウォーターマークには、小さなロゴやテキスト、メタデータなどがあります。たとえば、OpenAIのDALL-E 3は、不可視のC2PAメタデータと、左上隅に表示されるContent Credentials（CR）マークを使用します。ただし、このロゴはContent Credentials Verifyなどのコンテンツ認証情報検証サイトで画像を確認した場合にのみ表示されます。企業によって画像のマーク方法は異なるため、さまざまな識別指標を把握しておく必要があるでしょう。

図4. ChatGPTが生成した画像にはC2PAメタデータが含まれます（出典：openai.com）

Googleは最近、AI画像に透かしを入れる新しい方法としてSynthIDを発表しました。SynthIDを使うと、AI生成コンテンツのピクセルにデジタル透かしを直接埋め込めます。人間の目には見えませんが、識別のために検出できます。SynthIDは、デジタル透かしをスキャンすることで、AIツールが画像を作成した可能性を判定できます。

画像内の歪みや異常を探す#

AI生成画像には、ディープラーニングアルゴリズムの限界に起因する不自然な部分がよく見られます。よくある異常には次のようなものがあります。

• ぼやけた背景や不自然な背景：段差がずれている、家具の形がおかしい、細部がぼやけている。
• 髪の不整合：質感が不自然、模様がおかしい、またはぼやけている。
• 過度に描き込まれた印象：ぼやけた質感と滑らかな質感が混在し、光沢があって不自然に見える。
• アクセサリーの不自然さ：歪んだジュエリー、左右で異なるイヤリング、形が崩れた物体。
• 指の異常：指が多い、親指がないなど、手に見られる不自然な点。

図5. AI生成画像に見られる異常。

こうした兆候はAI生成画像の識別に役立ちます。ただし、AIの進歩により、今後は目立った欠陥の少ないAI画像が登場する可能性があります。

AI画像識別ツールを使う#

AI画像識別ツールを使うことも、AI画像を見分ける方法の1つですが、判定が完全に正確とは限らない点に注意が必要です。AI画像を検出するためによく使われているツールをいくつか見てみましょう。

• AI Or Not：高度なアルゴリズムと機械学習を使って、本物のコンテンツと偽のコンテンツをすばやく判別します。偽のNFT画像の検出に特に効果的です。
• Content at Scale：無料で使いやすいこのツールは、一般的な生成ツールで作られた画像について、人間とAIのどちらが生成したかを示す確率スコアを提供します。
• Illuminarty：AI生成画像やテキストを包括的に分析し、AIモデルや特定のAI生成領域を識別します。
• Maybe's AI Art Detector：使いやすいこのツールは、ViTモデルを使い、アート画像が人間とAIのどちらによって作られたかをパーセンテージで示します。
• V7 Deepfake Detector：StyleGANによるディープフェイク画像を検出するChrome拡張機能で、偽プロフィールの識別に役立ちます。
• Fake Image Detector：メタデータとエラーレベル分析（ELA）を使って改変画像を検出しますが、対応ファイル形式が限られており、クラッシュすることもあります。

AI生成メディアの普及と進化が続くにつれて、こうしたツールは今後さらに効果を発揮するでしょう。

重要なポイント#

生成AIモデルの性能が向上するにつれ、AI生成画像と実際の写真を見分けることが難しくなっています。技術の進歩としては期待が高まる一方、倫理的な懸念もあります。AIは低コストで革新的なビジュアル作成方法を提供しますが、法的・実務的な課題も考慮する必要があります。幸い、この新たな課題に対処するための方法やツールが開発されています。情報を把握し続けることで、ビジュアルコンテンツの信頼性を保つことができます。

AIについて詳しく知るには、コミュニティにご参加ください。GitHubリポジトリでは、ヘルスケアや農業など、さまざまな業界で革新的なソリューションを生み出すためにAIを活用する方法をご覧いただけます。私たちと一緒に新たな可能性を切り開きましょう。