画像がAI生成かどうかを見分ける方法

画像生成モデルは高度化しており、本物そっくりな人工知能（AI）画像が増えています。AI画像と本物の写真の区別が困難になるにつれ、この議論の重要性はますます高まっています。AI生成画像がインターネット上で人々を騙した事例は複数あります。教皇フランシスコのダウンジャケット姿や、2024年メットガラでのケイティ・ペリーの姿などがその例です。どちらも生成AIによって捏造された画像であり、言い換えれば本物ではありませんでした。しかし、インターネット上の多くの人々は、一目でそれを真実だと信じてしまいました。

このような勘違いは時に笑い話で済むこともありますが、多くの場合、深刻な倫理的問題を引き起こします。生成AIの仕組みについて常に把握しておくことと同様に、何かがAIによって生成されたかどうかを見分ける方法を知ることも極めて重要です。本記事では、AI生成画像について詳しく掘り下げ、AIアートのメリットとデメリットを理解し、法的問題を検討した上で、それらを本物の画像と見分けるための主要な手法とツールを探ります。

Link to this sectionAI生成画像とは正確には何でしょうか？#

AI画像は、大規模なデータセットで学習したニューラルネットワークを使用してリアルな画像を生成する画像生成モデルによって作成されます。驚くべきは、スタイル、コンセプト、特徴を混合して芸術的で関連性の高い画像を生成する能力です。学習中、画像生成モデルはこれらの画像からさまざまな特徴や詳細を学習します。そうすることで、学習した画像とスタイルやコンテンツが似ている新しい画像を生成できるようになります。

画像生成モデルには多くの種類があり、それぞれに独自の機能があります。例えば、GAN（敵対的生成ネットワーク）は、2つのニューラルネットワークが連携して学習データに似たリアルな画像を生成します。拡散モデルは、ランダムなノイズを徐々に鮮明な画像に変えることで画像を生成します。DALL-EやCLIPなどのモデルで使用されているTransformerは、自己注意（セルフアテンション）機構を使用してテキストの説明から画像を生成します。

図1 DALL-E 2により生成。プロンプト：アボカドの形をしたアームチェア。

OpenAIのGPT-4o、Midjourney、Gencraft、Stable Diffusionといったツールを使えば、誰でもAI画像を作成できます。こうした画像は現在インターネットの至る所に出回っていますが、多くの場合、AI製であることを示すラベルは付いていません。

Link to this sectionAIアートのメリットとデメリット#

写真や絵画と同様に、AI画像生成は新しい芸術形式であると多くの人に考えられています。AIによる絵画は数千ドルで販売されたり、芸術コンペティションで優勝したりしています。これは「AIアートは良いものなのか？そして、そのような画像生成のメリットとデメリットは何なのか？」という疑問を投げかけています。

図2 AI生成されたアート作品。

これについてはさまざまな意見があります。例えば、予算に限りのある中小企業にとって、生成アートはプラスの側面があるでしょう。彼らはブランディングやマーケティングのニーズに完璧に合致するカスタム画像を生成できます。これらのツールは高品質なビジュアルを素早く生成することで時間を節約し、クリエイティブなプロジェクトを計画通りに進めるのに役立ちます。アーティストのインスピレーションの観点からは、画像生成は膨大なユニークな選択肢へのアクセスを提供できます。アーティストはアイデアを形にする前に、容易に視覚化することができます。

しかし、AI生成画像は感情的な深みに欠けることが多く、生の人間的な経験を捉えるのに苦労する場合があります。時に品質が不安定で、画像がピクセル化していたり非現実的であったりすることもあります。AIに依存しすぎると、創造性や批判的思考が損なわれる可能性があります。また、悪用のリスクもあります。AI画像は容易に操作が可能であり、誤情報につながる恐れがあります。さらに、これらのツールには学習コストが高く、学習データに含まれるバイアスを引き継ぐ可能性もあります。AIアートのその他のデメリットを以下に挙げます。

• 倫理的な懸念： AI生成アートの著者権、所有権、著作権といった知的財産に関する疑問は、複雑かつ議論を呼ぶものです。
• 雇用への影響： アート分野でAIが広く使用されることで、人間のアーティストやデザイナーの機会が減少する可能性があります。
• 文化的感受性の欠如： AIアートは文脈を理解し尊重することに失敗する場合があり、不適切または攻撃的な作品を生み出す可能性があります。

Link to this sectionAI生成画像の法的なグレーゾーン#

As AI advances, we are still actively figuring out the legal implications (like copyright issues) as a society. Unlike traditional creations, AI-generated images cannot be copyrighted in some countries like the US because they are essentially remixes of existing works, many of which are already copyrighted. It gets complicated because AI training often involves massive amounts of data scraped from the internet, potentially including copyrighted material. To this effect, many people are actively protesting against the use of copyrighted content for AI model training and want better regulations.

一部の企業は訴訟を起こしています。ストック画像プロバイダーのGetty Imagesは、AIアート生成企業であるStability AIに対して、Gettyの画像ライブラリを複製し、営利目的で使用した疑いで訴訟を起こしました。Stability AIのテキストから画像への変換モデルが生成した画像の中には、Gettyの透かし（ウォーターマーク）が含まれているものがあります。DeviantArtを含む他の2社のAI企業も、AI生成のアートワークが著作権法を侵害しているとして、あるアーティストから集団訴訟を提訴されています。

Link to this section画像がAI生成かどうかを確認する方法#

AI画像を見分ける方法を学ぶことは非常に重要です。特に選挙期間中に、人々をミスリードするためにフェイクニュースで利用されるケースが増えているためです。BBCによると、研究者の60%が、投票用紙や場所に関する誤解を招く画像の作成にAIを使用することに成功したと報告されています。

図3 ゴミ箱の中の投票箱の偽画像。

AI画像は消費者にも影響を与えます。Attestによる最近の調査では、消費者の大半（76%）が本物の画像とAI生成画像の区別がつかないことが明らかになりました。画像がAI生成かどうかを見分ける方法は以下の通りです。

Link to this section画像のタイトル、説明、タグを確認する#

当たり前のように思えるかもしれませんが、AI画像を見分ける最も簡単な方法は、説明やタグに「AI-Generated（AI生成）」と書かれているか確認することです。AI画像に関してはまだ多くの疑問が投げかけられているため、それらを生成したりライセンス供与したりする企業は、その出自について透明性を確保するために全力を尽くしています。AI画像のライブラリへの掲載を許可するストックフォトエージェンシーは、投稿者に対して画像のタイトル、説明、タグに「AI-generated」と明記することを義務付けています（これにより、カタログ内で検索または除外が容易になります）。これらのラベルを探すことが、AI生成画像を見つける最もシンプルな方法です。

Link to this section透かし（ウォーターマーク）を探す#

AI画像を特定するもう一つの方法は、透かしを探すことです。多くのAIツールが透かしを追加しています。これには小さなロゴ、テキスト、メタデータなどが含まれる場合があります。例えば、OpenAIのDALL-E 3は、不可視のC2PAメタデータと、左上隅に表示されるContent Credentials（CR）シンボルを使用しています。ただし、このロゴはContent Credentials Verifyのような検証サイトで画像を確認しない限り表示されません。企業によって画像のマーク付け方法は異なるため、さまざまな指標に精通しておく必要があるかもしれません。

図4 ChatGPTによって生成された画像には、C2PAメタデータが含まれます（出典：openai.com）

Googleは最近、AI画像に透かしを入れる革新的な方法であるSynthIDを発表しました。SynthIDにより、AI生成コンテンツの画素に直接デジタル透かしを埋め込むことが可能になります。これは人間の目には見えませんが、特定のための検出が可能です。SynthIDは、このデジタル透かしをスキャンすることで、その画像がAIツールによって作成された可能性が高いかどうかを評価できます。

Link to this section画像内の歪みや異常を探す#

AI生成画像には、ディープラーニングアルゴリズムの限界により欠陥があることがよくあります。一般的な異常は以下の通りです：

• 背景のぼやけや異常：不揃いな階段、奇妙な形の家具、ぼやけた細部。
• 髪の毛の不自然さ：不自然なテクスチャ、奇妙なパターン、ぼやけ。
• 過度にレンダリングされた外見：光沢のある非現実的な見た目で、ぼやけたテクスチャと滑らかなテクスチャが混在している。
• アクセサリーのミス：歪んだ宝飾品、左右非対称のイヤリング、歪んだ物体。
• 奇妙な指：指が多い、親指がない、その他の手の異常。

図5 AI生成画像における異常。

これらの兆候はAI生成画像の特定に役立ちますが、AIの進歩により、将来のAI画像では目に見える欠陥が減っていく可能性があります。

Link to this sectionAI画像特定ツールを使用する#

AI画像特定ツールを使用するのもAI画像を見分ける選択肢の一つですが、必ずしも完全に正確とは限らない点には注意してください。AI画像を検出するために人気のあるツールをいくつか見てみましょう。

• AI Or Not：高度なアルゴリズムと機械学習を使用して、本物と偽物のコンテンツを迅速に認証します。特に偽のNFT画像の検出に効果的です。
• Content at Scale：この無料でシンプルなツールは、一般的な生成ツールによって作成された画像に対して、人間かAIかを示す確率スコアを提供します。
• Illuminarty：AI生成画像やテキストの包括的な分析を提供し、使用されたAIモデルの特定やAIによって生成された具体的な領域の識別などが可能です。
• Maybe's AI Art Detector：ViTモデルを使用して、芸術的な画像に対して人間かAIかの確率スコアを提供する使いやすいツールです。
• V7 Deepfake Detector：StyleGANによるディープフェイク画像を検出するためのChrome拡張機能で、偽プロフィールの特定に役立ちます。
• Fake Image Detector：メタデータやELA（誤差レベル分析）を使用して操作された画像を検出しますが、ファイル対応形式が限られており、クラッシュが発生することもあります。

AI生成メディアが広まり進化し続けるにつれ、これらのツールは将来的にはさらに効果的になっていくでしょう。

Link to this section重要なポイント#

生成AIモデルの知能が高まるにつれ、AI生成画像と本物の写真を区別することが困難になっています。技術的な進歩という点では非常に興味深いですが、倫理的な懸念も伴います。確かにAIはコスト効率に優れた革新的な画像作成方法を提供しますが、法的なハードルや実用上の課題も考慮する必要があります。幸いなことに、この新たなジレンマに対処するための手法やツールが開発されています。常に情報を得ることで、ビジュアルコンテンツの信頼性を維持できるよう努めましょう。

私たちのコミュニティに参加して、AIについてさらに学びましょう！私たちのGitHubリポジトリを探索し、私たちがヘルスケアや農業といった多様な業界で、どのようにAIを使用して革新的なソリューションを構築しているかをご確認ください。私たちと一緒に新たな可能性を切り開きましょう！