이미지가 AI로 생성되었는지 확인하는 방법

이미지 생성 모델이 더욱 고도화되면서 실사와 다름없는 인공지능(AI) 이미지들이 급증하고 있습니다. AI와 실제 사진의 구분이 점점 더 어려워짐에 따라 이에 대한 논쟁도 중요해지고 있습니다. AI 생성 이미지가 인터넷을 감쪽같이 속인 사례는 여러 차례 있었습니다. 교황 프란치스코가 패딩 재킷을 입은 모습이나 2024 멧 갈라 행사에 참석한 케이티 페리의 모습 등이 그 예입니다. 둘 다 생성형 AI가 조작해 만든 이미지였습니다. 즉, 실제 사진이 아니었습니다. 하지만 언뜻 보기에는 인터넷상의 누구나 이를 진짜로 믿었습니다.

때로는 이러한 혼동이 재미있을 수 있지만, 더 자주 심각한 윤리적 문제를 일으킵니다. 생성형 AI의 작동 방식을 파악하는 것이 중요한 만큼, 어떤 것이 AI로 생성되었는지 구별하는 방법을 아는 것 또한 매우 중요합니다. 이 글에서는 AI 생성 이미지를 자세히 살펴보고, AI 예술의 장단점과 법적 쟁점을 이해하며, 실제 이미지와 구별하기 위한 주요 방법과 도구들을 탐구해 보겠습니다.

AI 생성 이미지란 정확히 무엇일까요?#

AI 이미지는 대규모 데이터 세트로 학습된 신경망을 사용하는 이미지 생성 모델을 사용하여 만들어집니다. 인상적인 점은 스타일, 개념 및 특징을 결합하여 예술적이고 적절한 이미지를 생성하는 능력입니다. 학습 과정에서 이미지 생성 모델은 이러한 이미지로부터 다양한 특징과 세부 사항을 학습합니다. 이를 통해 학습한 이미지와 유사한 스타일 및 콘텐츠를 가진 새로운 이미지를 생성할 수 있게 됩니다.

이미지 생성 모델에는 여러 유형이 있으며, 각 모델은 고유한 기능을 가지고 있습니다. 예를 들어, 생성적 적대 신경망(GAN)은 두 개의 신경망이 서로 협력하여 학습 데이터와 유사한 실감 나는 이미지를 만듭니다. 확산 모델(Diffusion models)은 무작위 노이즈를 점진적으로 선명한 이미지로 변환하여 이미지를 생성합니다. DALL-E나 CLIP 같은 모델에 사용되는 Transformer는 자기 주의(self-attention) 메커니즘을 사용하여 텍스트 설명으로부터 이미지를 생성합니다.

그림 1. DALL-E 2로 생성됨. 프롬프트: 아보카도 모양의 암체어.

누구나 OpenAI의 GPT-4o, Midjourney, Gencraft, Stable Diffusion 같은 도구를 사용하여 AI 이미지를 만들 수 있습니다. 이러한 이미지들은 이제 인터넷 전반에 걸쳐 나타나고 있으며, 종종 AI가 제작했음을 나타내는 표시가 전혀 없습니다.

AI 예술의 장단점#

사진이나 회화와 마찬가지로, AI 이미지 생성은 많은 사람들에게 새로운 예술 형태로 여겨지고 있습니다. AI 그림은 수천 달러에 판매되기도 하고 미술 대회에서 수상하기도 합니다. 이는 과연 AI 예술이 좋은 것인지, 그리고 이러한 이미지 생성의 장단점은 무엇인지에 대한 의문을 제기합니다.

그림 2. AI가 생성한 예술 작품.

이에 대해서는 다양한 의견이 있습니다. 예를 들어, 예산이 부족한 소규모 기업은 생성된 예술을 장점으로 볼 수 있습니다. 그들은 브랜드 및 마케팅 요구 사항에 완벽하게 부합하는 맞춤형 이미지를 제작할 수 있습니다. 이러한 도구는 고품질의 비주얼을 빠르게 생성하여 시간을 절약하고 창의적인 프로젝트를 차질 없이 진행하도록 도울 수 있습니다. 예술가의 영감 측면에서 보면, 이미지 생성은 방대한 고유 옵션 라이브러리에 대한 접근을 제공합니다. 예술가는 아이디어를 현실로 구현하기 전에 쉽게 시각화할 수 있습니다.

그러나 AI 생성 이미지는 종종 감정적 깊이가 부족하며 인간의 원초적인 경험을 포착하는 데 어려움을 겪을 수 있습니다. 때로는 이미지 품질이 일관되지 않아 픽셀이 깨져 보이거나 비현실적으로 보일 수 있습니다. AI에 너무 의존하면 창의력과 비판적 사고가 저해될 수 있습니다. 오용의 위험도 있습니다. AI 이미지는 쉽게 조작되어 잘못된 정보를 퍼뜨리는 데 사용될 수 있습니다. 또한, 이러한 도구를 사용하는 데는 높은 학습 곡선이 수반될 수 있으며, 학습 데이터로부터 편향을 물려받을 수도 있습니다. 다음은 AI 예술의 다른 단점들입니다.

• 윤리적 문제: AI 생성 예술의 저작권, 소유권, 저작자 표시와 같은 지식 재산권에 관한 문제는 복잡하고 논쟁의 여지가 많습니다.
• 일자리 대체: 예술 분야에서 AI의 광범위한 사용은 인간 예술가와 디자이너의 기회를 줄일 수 있습니다.
• 문화적 몰이해: AI 예술은 문화적 맥락을 이해하고 존중하지 못하여 부적절하거나 불쾌감을 주는 결과물을 만들어낼 수 있습니다.

AI 생성 이미지의 법적 회색 지대#

AI가 발전함에 따라, 우리 사회는 여전히 (저작권 문제와 같은) 법적 함의를 적극적으로 파악해 나가고 있습니다. 전통적인 창작물과 달리, AI가 생성한 이미지는 미국과 같은 일부 국가에서 저작권을 인정받을 수 없습니다. 왜냐하면 그것들은 본질적으로 기존 저작물(많은 경우 이미 저작권이 있는 저작물)의 리믹스이기 때문입니다. AI 학습에는 종종 인터넷에서 수집된 방대한 양의 데이터가 포함되며, 여기에는 잠재적으로 저작권이 있는 자료가 포함될 수 있기 때문에 문제가 복잡해집니다. 이러한 취지에서 많은 사람들은 AI의 모델 학습을 위한 저작권 콘텐츠 사용에 반대하는 시위를 적극적으로 벌이며 더 나은 규제를 요구하고 있습니다.

심지어 일부 기업들은 소송을 제기하기도 했습니다. 스톡 이미지 제공업체인 Getty Images는 AI 아트 생성기인 Stability AI를 상대로 상업적 이익을 위해 Getty의 이미지 라이브러리를 무단 복제하여 사용했다며 소송을 제기했습니다. Stability AI의 텍스트-투-이미지 모델이 생성한 여러 이미지에는 Getty의 워터마크가 찍혀 있습니다. 또한 DeviantArt와 다른 두 개의 AI 기업은 자사의 AI 생성 예술 작품이 저작권법을 침해한다고 주장하는 한 예술가로부터 집단 소송을 당하고 있습니다.

이미지가 AI로 생성되었는지 확인하는 방법#

가짜 뉴스가 사람들을 현혹하기 위해 사용되는 사례, 특히 선거 기간 동안의 사례가 늘어났기 때문에 AI 이미지를 구별하는 법을 배우는 것은 매우 중요합니다. BBC에 따르면 연구원의 60%가 투표용지와 장소에 관한 오해를 불러일으키는 이미지를 만드는 데 AI를 성공적으로 사용했습니다.

그림 3. 쓰레기통에 버려진 투표함들의 가짜 이미지.

AI 이미지는 소비자에게도 영향을 미칩니다. Attest가 실시한 최근 연구에 따르면 대부분의 소비자(76%)는 진짜 이미지와 AI 생성 이미지를 구별하지 못합니다. 이미지가 AI 생성 이미지인지 확인하는 방법은 다음과 같습니다.

이미지 제목, 설명 및 태그 확인하기#

당연하게 들릴지 모르지만, AI 이미지를 찾아내는 가장 쉬운 방법은 설명과 태그에서 'AI-Generated' 문구를 확인하는 것입니다. AI 이미지와 관련하여 여전히 많은 의문이 제기되고 있기 때문에, 이를 생성하거나 라이선스를 제공하는 기업들은 그 출처를 투명하게 밝히기 위해 최선을 다하고 있습니다. 라이브러리에 AI 이미지를 허용하는 스톡 사진 에이전시는 기고자들이 이미지 제목, 설명, 태그에 'AI-generated'라고 표기하도록 요구합니다(이렇게 하면 카탈로그를 검색할 때 AI 이미지를 쉽게 찾거나 제외할 수 있습니다). 이러한 라벨을 찾는 것이 AI 생성 이미지를 식별하는 가장 간단한 방법입니다.

워터마크 확인하기#

AI 이미지를 식별하는 또 다른 방법은 워터마크를 확인하는 것입니다. 많은 AI 도구가 워터마크를 추가하기 때문입니다. 여기에는 작은 로고, 텍스트 또는 메타데이터가 포함될 수 있습니다. 예를 들어, OpenAI의 DALL-E 3는 보이지 않는 C2PA 메타데이터와 좌측 상단의 가시적인 콘텐츠 크리덴셜(CR) 기호를 사용합니다. 그러나 이 로고는 Content Credentials Verify와 같은 콘텐츠 크리덴셜 검증 사이트에서 이미지를 확인할 때만 볼 수 있습니다. 기업마다 이미지를 표시하는 방식이 다를 수 있으므로 다양한 지표에 익숙해져야 할 수도 있습니다.

그림 4. ChatGPT가 생성한 이미지는 C2PA 메타데이터를 포함합니다(출처: openai.com)

구글은 최근 AI 이미지에 워터마크를 넣는 혁신적인 방법인 SynthID를 발표했습니다. SynthID를 사용하면 AI 생성 콘텐츠의 픽셀에 직접 디지털 워터마크를 삽입할 수 있습니다. 이는 육안으로는 보이지 않지만 식별을 위해 감지할 수 있습니다. SynthID는 이 디지털 워터마크를 스캔하여 AI 도구가 해당 이미지를 생성했을 가능성이 있는지 평가할 수 있습니다.

이미지 내 왜곡이나 이상 현상 찾아보기#

AI 생성 이미지는 딥러닝 알고리즘의 한계로 인해 결함이 있는 경우가 많습니다. 일반적인 이상 현상은 다음과 같습니다:

• 흐릿하거나 비정상적인 배경: 잘못 정렬된 계단, 이상한 모양의 가구, 흐릿한 세부 사항.
• 머리카락 불일치: 부자연스러운 질감, 이상한 패턴 또는 흐릿함.
• 과도하게 렌더링된 외관: 흐릿하고 매끄러운 질감이 혼합되어 비현실적이고 광택이 나는 모습.
• 액세서리 실수: 뒤틀린 장신구, 짝이 맞지 않는 귀걸이, 왜곡된 물체.
• 이상한 손가락: 손가락이 더 많거나 엄지가 없거나, 기타 손의 이상 현상.

그림 5. AI 생성 이미지의 이상 징후.

이러한 징후들은 AI 생성 이미지를 식별하는 데 도움이 됩니다. 하지만 AI의 발전으로 인해 미래의 AI 이미지는 눈에 보이는 결함이 줄어들 수도 있습니다.

AI 이미지 식별 도구 사용하기#

AI 이미지 식별 도구를 사용하는 것도 AI 이미지를 발견하는 방법 중 하나이지만, 완전히 정확하지 않을 수 있다는 점을 명심해야 합니다. 가장 인기 있는 AI 이미지 탐지 도구 몇 가지를 살펴보겠습니다.

• AI Or Not: 고급 알고리즘과 머신러닝을 사용하여 실제 콘텐츠와 가짜 콘텐츠를 신속하게 인증합니다. 가짜 NFT 이미지에 특히 효과적입니다.
• Content at Scale: 이 무료의 간단한 도구는 인기 생성기의 이미지에 대한 인간 대 AI 확률 점수를 제공합니다.
• Illuminarty: AI 모델 식별 및 특정 AI 생성 영역 식별을 포함하여 AI 생성 이미지 및 텍스트에 대한 종합적인 분석을 제공합니다.
• Maybe's AI Art Detector: 예술적 이미지에 대해 ViT 모델을 사용하여 인간 대 인공 백분율 점수를 제공하는 사용하기 쉬운 도구입니다.
• V7 Deepfake Detector: StyleGAN 딥페이크 이미지를 감지하는 Chrome 확장 프로그램으로, 가짜 프로필을 식별하는 데 유용합니다.
• Fake Image Detector: 메타데이터와 오류 수준 분석(ELA)을 사용하여 조작된 이미지를 감지하지만 파일 호환성이 제한적이고 충돌이 발생합니다.

AI 생성 미디어가 계속해서 확산되고 발전함에 따라, 이러한 도구들은 미래에 훨씬 더 효과적으로 변할 것입니다.

핵심 요약#

생성형 AI 모델이 더욱 지능화됨에 따라 AI 생성 이미지와 실제 사진을 구분하기가 점점 더 어려워지고 있습니다. 기술적 발전 측면에서는 흥미롭지만, 윤리적으로는 우려스러운 부분이기도 합니다. AI가 비주얼을 만들기 위한 비용 효율적이고 혁신적인 방법을 제공하는 것은 사실이지만, 고려해야 할 법적 및 실무적 난관이 있습니다. 다행히도 이 새로운 딜레마를 해결하는 데 도움을 줄 방법과 도구들이 개발되고 있습니다. 정보를 지속적으로 파악함으로써 우리는 비주얼 콘텐츠의 신뢰성을 유지할 수 있습니다.

커뮤니티에 참여하여 AI에 대해 자세히 알아보세요! GitHub 저장소를 탐색하여 의료 및 농업과 같은 다양한 산업에서 혁신적인 솔루션을 만들기 위해 AI를 어떻게 활용하고 있는지 확인해 보세요. 저희와 함께 새로운 기회를 열어보세요!