画像がAI生成かどうかを見分ける方法

画像生成モデルはますます高度化しており、実物そっくりの人工知能（AI）画像が増えています。AI画像と実際の写真をめぐる議論は、両者の区別が難しくなるにつれて、より重要になっています。AI生成画像がインターネット上の人々をだました事例も複数あります。ローマ教皇フランシスコがダウンジャケットを着ている画像や、2024年のMet Galaに出席するKaty Perryの画像がその例です。どちらも生成AIによって作られた偽の画像でした。つまり、実在するものではありませんでした。しかし、一見しただけでは、インターネット上では本物だと信じられていました。

こうした取り違えは面白い結果になることもありますが、多くの場合、深刻な倫理的懸念をもたらします。生成AIの仕組みを把握しておくことが重要であるのと同様に、何かがAI生成かどうかを見分ける方法を知っておくことも重要です。この記事では、AI生成画像について詳しく確認し、AIアートのメリットとデメリットを理解し、法的な問題について説明するとともに、AI画像を実際の画像と見分けるための主な方法やツールを紹介します。

AI生成画像とは、具体的にどのようなものでしょうか？#

AI画像は、大規模なデータセットで学習したニューラルネットワークを使用する画像生成モデルによって、リアルな画像として作成されます。特に優れているのは、スタイル、コンセプト、特徴を組み合わせて、芸術的で目的に合った画像を作成できる点です。学習中、画像生成モデルはこれらの画像からさまざまな特徴や細部を学習します。これにより、学習した画像とスタイルや内容が似た新しい画像を作成できるようになります。

画像生成モデルには多くの種類があり、それぞれに独自の特徴があります。例えば、生成敵対ネットワーク（GANs）は、2つのニューラルネットワークを連携させて、学習データに似たリアルな画像を作成します。拡散モデルは、ランダムノイズを徐々に鮮明な画像へ変換することで画像を生成します。DALL-EやCLIPなどのモデルで使用されているTransformerは、自己注意メカニズムを使用して、テキストによる説明から画像を生成します。

図1. DALL-E 2で生成。プロンプト：アボカドの形をしたアームチェア。

OpenAIのGPT-4o、Midjourney、Gencraft、Stable Diffusionなどのツールを使えば、誰でもAI画像を作成できます。こうした画像は現在、インターネット上のいたるところに登場していますが、AIによって作られたことを示すラベルが付いていない場合もよくあります。

AIアートのメリットとデメリット#

写真や絵画と同様に、AI画像生成を新しい芸術形式と考える人が増えています。AI絵画が数千ドルで販売され、美術コンテストで受賞することもあります。ここから、AIアートは良いものなのか、このような画像生成のメリットとデメリットは何かという疑問が生じます。

図2. AI生成アート作品。

これについてはさまざまな意見があります。例えば、予算に制約のある小規模企業は、生成アートをメリットと捉えるかもしれません。ブランディングやマーケティングのニーズに完全に合ったカスタム画像を作成できます。こうしたツールは、高品質なビジュアルをすばやく作成して時間を節約し、クリエイティブなプロジェクトを予定どおり進めるのに役立ちます。アーティストのインスピレーションという点では、画像生成によって膨大な数のユニークな選択肢にアクセスできます。アーティストは、アイデアを形にする前に簡単に視覚化できます。

しかし、AI生成画像は感情的な深みを欠いていることが多く、生々しい人間の体験を捉えるのが難しい場合があります。画像がピクセル化されていたり、現実離れしていたりするなど、品質にばらつきが生じることもあります。AIに頼りすぎると、創造性や批判的思考が阻害される可能性があります。また、悪用のリスクもあります。AI画像は簡単に操作でき、誤情報につながる可能性があります。さらに、こうしたツールの使用には習得までのハードルがあり、学習データに由来するバイアスが含まれている場合もあります。AIアートのその他のデメリットには、次のようなものがあります。

• 倫理的懸念： AI生成アートの著作者、所有権、著作権など、知的財産に関する問題は複雑で、論争の的になる可能性があります。
• 雇用の喪失： アート分野でAIが広く使われると、人間のアーティストやデザイナーの機会が減少する可能性があります。
• 文化的配慮の欠如： AIアートは文化的背景を理解して尊重できず、不適切または不快な作品につながる可能性があります。

AI生成画像をめぐる法的なグレーゾーン#

AIが進歩するなか、社会全体で法的な影響（著作権問題など）について、今も積極的に整理が進められています。従来の創作物とは異なり、AI生成画像は、既存作品のリミックスにすぎず、その多くがすでに著作権で保護されているという理由から、米国など一部の国では著作権の対象になりません。AIの学習には、著作権で保護された素材を含む可能性のある、インターネットから収集した膨大なデータが使われることが多いため、問題は複雑です。このため、著作権で保護されたコンテンツをAIのモデル学習に使用することに、多くの人々が積極的に抗議し、より適切な規制を求めています。

訴訟を起こした企業もあります。ストック画像プロバイダーのGetty Imagesは、AIアート生成サービスのStability AIが、商業的利益を得る目的でGettyの画像ライブラリを複製して使用したとして、訴訟を起こしました。Stability AIのテキストから画像を生成するモデルが作成した複数の画像には、Gettyの透かしが入っています。DeviantArtとその他2社のAI企業も、AI生成アートが著作権法を侵害していると主張する集団訴訟で、あるアーティストから提訴されています。

画像がAI生成かどうかを確認する方法#

AI画像を見分ける方法を学ぶことは重要です。特に選挙期間中、人々を誤導するフェイクニュースでの使用が増えているためです。BBCによると、研究者の60%が、投票用紙や投票場所に関する誤解を招く画像の作成にAIを使用することに成功しました。

図3. ごみ箱に入った投票用紙の箱を写した偽画像。

AI画像は消費者にも影響を与えます。Attestによる最近の調査では、ほとんどの消費者（76%）が、本物の画像とAI生成画像の違いを見分けられないことが明らかになりました。画像がAI生成かどうかを見分ける方法は次のとおりです。

画像のタイトル、説明、タグを確認する#

明白な方法に思えるかもしれませんが、AI画像を見分ける最も簡単な方法は、説明やタグに「AI生成」と記載されているか確認することです。AI画像については、いまだに多くの点が問題視されているため、画像を生成またはライセンスする企業は、その出所について透明性を確保するためにあらゆる努力をしています。ライブラリでAI画像を許可しているストックフォトエージェンシーは、画像のタイトル、説明、画像タグに「AI生成」と記載するよう投稿者に求めています（これにより、カタログを検索する際にAI画像を見つけたり除外したりしやすくなります）。こうしたラベルを探すことが、AI生成画像を見分ける最も簡単な方法です。

透かしを探す#

AI画像を特定するもう1つの方法は、多くのAIツールが透かしを追加するため、透かしを探すことです。小さなロゴ、テキスト、メタデータなどが含まれる場合があります。例えば、OpenAIのDALL-E 3は、非表示のC2PAメタデータと、左上隅に表示されるContent Credentials（CR）シンボルを使用します。ただし、ロゴが表示されるのは、Content Credentials Verifyなどのコンテンツ認証情報検証サイトで画像を確認した場合のみです。企業によって画像の表示方法は異なるため、さまざまな指標を把握しておく必要がある場合があります。

図4. ChatGPTで生成された画像にはC2PAメタデータが含まれます（出典：openai.com）

Googleは最近、AI画像に透かしを入れる革新的な方法としてSynthIDを発表しました。SynthIDを使うと、AI生成コンテンツのピクセルにデジタル透かしを直接埋め込めます。人間の目には見えませんが、識別のために検出できます。SynthIDは、このデジタル透かしをスキャンすることで、AIツールが画像を作成した可能性があるかどうかを評価できます。

画像内の歪みや異常を探す#

AI生成画像には、ディープラーニングアルゴリズムの限界による不完全さが現れることがよくあります。一般的な異常には、次のようなものがあります。

• ぼやけた背景や不自然な背景：位置のずれた階段、奇妙な形の家具、ぼやけた細部などです。
• 髪の不整合：不自然な質感、奇妙なパターン、ぼやけなどです。
• 過度にレンダリングされた外観：ぼやけた質感と滑らかな質感が混在する、光沢のある非現実的な見た目です。
• アクセサリーの誤り：ゆがんだアクセサリー、左右で異なるイヤリング、変形した物体などです。
• 奇妙な指：指が余分にある、親指がないなど、手に見られる異常です。

図5. AI生成画像の異常。

こうした兆候は、AI生成画像の特定に役立ちます。しかし、AIの進歩により、将来のAI画像では目に見える欠陥が少なくなる可能性があります。

AI画像識別ツールを使用する#

AI画像識別ツールを使用することも、AI画像を見分ける方法の1つです。ただし、完全に正確とは限らない点に注意してください。AI画像を検出する人気の高いツールをいくつか見てみましょう。

• AI Or Not：高度なアルゴリズムと機械学習を使用して、本物と偽物のコンテンツをすばやく判定します。偽のNFT画像に特に効果的です。
• Content at Scale：人気の画像生成ツールで作成された画像について、人間かAIかの確率スコアを提供する、無料で使いやすいツールです。
• Illuminarty：AI生成画像とテキストを包括的に分析し、AIモデルやAI生成された特定の領域を特定します。
• Maybe's AI Art Detector：ViTモデルを使用して、芸術画像が人間によるものか人工的なものかを割合で示す、使いやすいツールです。
• V7 Deepfake Detector：StyleGANによるディープフェイク画像を検出するChrome拡張機能で、偽プロフィールの特定に役立ちます。
• Fake Image Detector：メタデータと誤差レベル分析（ELA）を使用して加工画像を検出しますが、対応ファイルが限られており、クラッシュすることがあります。

AI生成メディアが広がり、高度化し続けるにつれて、こうしたツールは将来さらに効果的になるでしょう。

主なポイント#

生成AIモデルがより高度になるにつれて、AI生成画像と実際の写真を見分けることが難しくなっています。技術の進歩という点では期待が持てますが、倫理的な懸念も生じます。AIがビジュアルを作成するための費用対効果が高く革新的な方法を提供することは確かですが、考慮すべき法的・実務的なハードルもあります。幸い、新たなジレンマに対処するための方法やツールが開発されています。情報を常に把握することで、ビジュアルコンテンツの信頼性を確保できます。

AIについてさらに学ぶには、私たちのコミュニティに参加してください。私たちがAIを活用して、医療や農業などさまざまな業界で革新的なソリューションを生み出している方法を、GitHubリポジトリでご覧ください。私たちとともに新たな機会を切り開きましょう。