이미지가 AI로 생성되었는지 판별하는 방법

이미지 생성 모델이 더욱 발전하면서 실제와 같은 인공지능(AI) 이미지가 증가하고 있습니다. 둘을 구분하기가 어려워지면서 AI 이미지와 실제 사진에 대한 논쟁이 더욱 중요해지고 있습니다. AI로 생성된 이미지가 인터넷 사용자들을 속인 사례도 여러 번 있었습니다. 교황 프란치스코가 패딩 재킷을 입은 모습과 2024년 메트 갈라에 참석한 케이티 페리의 모습을 본 적이 있습니다. 두 이미지 모두 생성형 AI가 조작한 이미지였습니다. 다시 말해 실제가 아니었습니다. 하지만 처음에는 인터넷 사용자들이 실제라고 믿었습니다.

때로는 이러한 혼동이 재미있을 수 있지만, 대부분의 경우 심각한 윤리적 우려를 불러일으킵니다. 생성형 AI의 작동 방식을 파악하는 것이 중요한 것처럼, 어떤 것이 AI로 생성되었는지 확인하는 방법을 아는 것도 매우 중요합니다. 이 글에서는 AI로 생성된 이미지를 자세히 살펴보고, AI 아트의 장단점을 이해하며, 법적 문제를 논의하고, AI 이미지를 실제 이미지와 구분하는 주요 방법과 도구를 알아봅니다.

AI로 생성된 이미지란 정확히 무엇일까요?#

AI 이미지는 대규모 데이터셋으로 학습한 신경망을 사용하는 이미지 생성 모델로 현실적인 이미지를 생성합니다. 이미지 생성 모델은 스타일, 개념, 특징을 결합해 예술적이고 관련성 높은 이미지를 만들 수 있다는 점이 인상적입니다. 학습 과정에서 이미지 생성 모델은 이러한 이미지에서 다양한 특징과 세부 정보를 학습합니다. 이를 통해 학습한 이미지와 스타일 및 내용이 유사한 새로운 이미지를 만들 수 있습니다.

이미지 생성 모델에는 여러 유형이 있으며, 각 모델마다 고유한 특징이 있습니다. 예를 들어, 생성적 적대 신경망(GANs)은 함께 작동하는 두 개의 신경망을 사용해 학습 데이터와 유사한 현실적인 이미지를 생성합니다. Diffusion 모델은 무작위 노이즈를 점진적으로 선명한 이미지로 변환해 이미지를 생성합니다. DALL-E 및 CLIP과 같은 모델에 사용되는 Transformer는 self-attention 메커니즘을 사용해 텍스트 설명으로부터 이미지를 생성합니다.

그림 1. DALL-E 2로 생성되었습니다. 프롬프트: 아보카도 모양의 안락의자.

누구나 OpenAI의 GPT-4o, Midjourney, Gencraft 또는 Stable Diffusion과 같은 도구를 사용해 AI 이미지를 만들 수 있습니다. 이제 이러한 이미지가 인터넷 곳곳에 등장하고 있지만, AI로 제작되었다는 표시가 없는 경우가 많습니다.

AI 아트의 장단점#

사진이나 회화처럼 AI 이미지 생성도 많은 사람에게 새로운 예술 형식으로 여겨지고 있습니다. AI 그림이 수천 달러에 판매되고 예술 대회에서 수상하기도 합니다. 이에 따라 AI 아트가 좋은 것인지, 이러한 이미지 생성의 장단점은 무엇인지에 대한 의문이 제기됩니다.

그림 2. AI로 생성된 예술 작품.

이에 대한 의견은 다양합니다. 예를 들어, 예산이 제한된 소규모 기업은 생성형 아트를 장점으로 볼 수 있습니다. 브랜딩 및 마케팅 요구에 완벽하게 부합하는 맞춤형 이미지를 만들 수 있기 때문입니다. 이러한 도구는 고품질 시각 자료를 빠르게 제작해 시간을 절약하고 창의적인 프로젝트를 계획대로 진행하는 데 도움을 줍니다. 예술가의 영감 측면에서 이미지 생성은 고유한 선택지로 구성된 방대한 라이브러리에 접근할 수 있게 합니다. 예술가는 아이디어를 실제 작품으로 구현하기 전에 쉽게 시각화할 수 있습니다.

그러나 AI로 생성된 이미지는 감정적 깊이가 부족한 경우가 많고 인간의 생생한 경험을 포착하는 데 어려움을 겪을 수 있습니다. 때로는 이미지가 픽셀화되거나 비현실적으로 보이는 등 품질이 일관되지 않을 수 있습니다. AI에 지나치게 의존하면 창의성과 비판적 사고가 위축될 수 있습니다. 오용될 위험도 있습니다. AI 이미지는 쉽게 조작될 수 있으며 허위 정보를 초래할 수 있습니다. 또한 이러한 도구를 사용하려면 상당한 학습이 필요할 수 있고, 학습 데이터의 편향이 반영될 수 있습니다. AI 아트의 다른 단점은 다음과 같습니다.

• 윤리적 우려: AI로 생성된 아트의 저자성, 소유권, 저작권과 같은 지적 재산권 문제는 복잡하고 논쟁의 여지가 있습니다.
• 일자리 대체: 예술 분야에서 AI가 널리 사용되면 인간 예술가와 디자이너의 기회가 줄어들 수 있습니다.
• 문화적 몰이해: AI 아트는 문화적 맥락을 이해하고 존중하지 못해 부적절하거나 불쾌한 창작물을 만들 수 있습니다.

AI로 생성된 이미지의 법적 사각지대#

AI가 발전하는 가운데 사회는 여전히 저작권 문제와 같은 법적 영향에 대해 적극적으로 논의하고 있습니다. 전통적인 창작물과 달리 AI로 생성된 이미지는 기존 작품을 재구성한 것에 본질적으로 가깝고, 그중 상당수가 이미 저작권의 보호를 받고 있기 때문에 미국과 같은 일부 국가에서는 저작권을 인정받을 수 없습니다. AI 학습에는 저작권이 있는 자료가 포함될 가능성이 있는 인터넷 스크랩 데이터가 대량으로 사용되는 경우가 많아 문제는 더욱 복잡해집니다. 이에 따라 많은 사람이 AI 모델 학습에 저작권이 있는 콘텐츠를 사용하는 것에 항의하고 더 나은 규제를 요구하고 있습니다.

일부 기업은 소송까지 제기했습니다. 스톡 이미지 제공업체인 Getty Images는 Getty의 이미지 라이브러리를 상업적 이익을 위해 복제하고 사용했다는 혐의로 AI 아트 생성업체인 Stability AI를 상대로 소송을 제기했습니다. Stability AI의 텍스트-이미지 모델이 생성한 여러 이미지에는 Getty의 워터마크가 표시되어 있습니다. DeviantArt와 다른 두 AI 기업도 AI로 생성한 작품이 저작권법을 침해했다고 주장하는 집단 소송에서 한 예술가로부터 피소되었습니다.

이미지가 AI로 생성되었는지 확인하는 방법#

AI 이미지를 식별하는 방법을 배우는 것은 중요합니다. 특히 선거 기간에 사람들을 오도하기 위한 가짜 뉴스에 AI 이미지가 사용되는 사례가 증가했기 때문입니다. BBC에 따르면, 연구자의 60%가 투표용지와 투표 장소에 관한 오해를 불러일으키는 이미지를 AI로 만드는 데 성공했습니다.

그림 3. 쓰레기통에 버려진 투표용지 상자를 묘사한 가짜 이미지.

AI 이미지는 소비자에게도 영향을 미칩니다. Attest의 최근 연구에 따르면 대부분의 소비자(76%)는 진짜 이미지와 AI로 생성된 이미지의 차이를 구분하지 못합니다. 이미지가 AI로 생성되었는지 확인하는 방법은 다음과 같습니다.

이미지 제목, 설명 및 태그 확인하기#

당연해 보일 수 있지만, AI 이미지를 식별하는 가장 쉬운 방법은 설명과 태그에서 ‘AI-Generated’라는 표시를 확인하는 것입니다. AI 이미지에 대해 여전히 많은 의문이 제기되고 있기 때문에 이미지를 생성하거나 라이선스를 제공하는 기업은 이미지의 출처를 투명하게 공개하기 위해 최선을 다하고 있습니다. AI 이미지를 라이브러리에 허용하는 스톡 사진 업체는 기여자에게 이미지 제목, 설명 및 이미지 태그에 파일을 ‘AI-generated’로 표시하도록 요구합니다. 이렇게 하면 카탈로그를 검색할 때 AI 이미지를 더 쉽게 찾거나 제외할 수 있습니다. 이러한 라벨을 확인하는 것은 AI로 생성된 이미지를 식별하는 가장 간단한 방법입니다.

워터마크 찾기#

AI 도구 중 상당수가 워터마크를 추가하므로 AI 이미지를 식별하는 또 다른 방법은 워터마크를 찾는 것입니다. 워터마크에는 작은 로고, 텍스트 또는 메타데이터가 포함될 수 있습니다. 예를 들어 OpenAI의 DALL-E 3는 보이지 않는 C2PA 메타데이터와 왼쪽 상단에 표시되는 콘텐츠 자격 증명(CR) 기호를 사용합니다. 하지만 이 로고는 Content Credentials Verify와 같은 콘텐츠 자격 증명 검증 사이트에서 이미지를 확인할 때만 표시됩니다. 기업마다 이미지에 표시하는 방식이 다를 수 있으므로 다양한 지표를 숙지해야 할 수도 있습니다.

그림 4. ChatGPT로 생성된 이미지에는 C2PA 메타데이터가 포함됩니다(출처: openai.com)

Google은 최근 AI 이미지에 워터마크를 추가하는 혁신적인 방법인 SynthID를 발표했습니다. SynthID를 사용하면 AI로 생성된 콘텐츠의 픽셀에 디지털 워터마크를 직접 삽입할 수 있습니다. 이 워터마크는 사람의 눈에는 보이지 않지만 식별을 위해 감지할 수 있습니다. SynthID는 이 디지털 워터마크를 검색해 AI 도구가 이미지를 생성했을 가능성이 있는지 평가할 수 있습니다.

이미지 내부의 왜곡이나 이상 징후 찾기#

AI로 생성된 이미지는 딥러닝 알고리즘의 한계로 인해 불완전한 부분이 있는 경우가 많습니다. 일반적인 이상 징후는 다음과 같습니다.

• 흐릿하거나 비정상적인 배경: 정렬이 어긋난 계단, 이상한 모양의 가구, 흐릿한 세부 정보 등이 나타납니다.
• 머리카락의 불일치: 부자연스러운 질감, 이상한 패턴 또는 흐릿함이 나타납니다.
• 지나치게 렌더링된 외관: 흐릿한 질감과 매끄러운 질감이 섞인 광택 있고 비현실적인 모습이 나타납니다.
• 액세서리 오류: 뒤틀린 장신구, 서로 어울리지 않는 귀걸이, 왜곡된 물체 등이 나타납니다.
• 이상한 손가락: 손가락이 추가되거나 엄지손가락이 빠지는 등 손에 이상이 나타납니다.

그림 5. AI로 생성된 이미지의 이상 징후.

이러한 징후는 AI로 생성된 이미지를 식별하는 데 도움이 됩니다. 그러나 AI의 발전으로 인해 향후 AI 이미지에서는 눈에 띄는 결함이 줄어들 수 있습니다.

AI 이미지 식별 도구 사용하기#

AI 이미지 식별 도구를 사용하는 것도 AI 이미지를 찾아내는 방법이지만, 결과가 완전히 정확하지 않을 수 있다는 점을 염두에 두어야 합니다. AI 이미지를 감지하는 가장 인기 있는 도구 몇 가지를 살펴보겠습니다.

• AI Or Not: 고급 알고리즘과 머신러닝을 사용해 진짜 콘텐츠와 가짜 콘텐츠를 빠르게 인증합니다. 특히 가짜 NFT 이미지에 효과적입니다.
• Content at Scale: 인기 생성기가 만든 이미지에 대해 인간과 AI 중 어느 쪽일 가능성이 높은지 점수로 제공하는 무료의 간편한 도구입니다.
• Illuminarty: AI로 생성된 이미지와 텍스트를 종합적으로 분석하며, AI 모델과 AI로 생성된 특정 영역을 식별할 수 있습니다.
• Maybe's AI Art Detector: ViT 모델을 사용해 예술적 이미지에 대한 인간 대 인공 이미지 비율 점수를 제공하는 사용하기 쉬운 도구입니다.
• V7 Deepfake Detector: StyleGAN 딥페이크 이미지를 감지하는 Chrome 확장 프로그램으로, 가짜 프로필을 식별하는 데 유용합니다.
• Fake Image Detector: 메타데이터 및 오류 수준 분석(ELA)을 사용해 조작된 이미지를 감지하지만, 파일 호환성이 제한적이고 충돌이 발생합니다.

AI로 생성된 미디어가 계속 확산되고 발전함에 따라 이러한 도구는 앞으로 더욱 효과적이 될 것입니다.

핵심 요점#

생성형 AI 모델이 더욱 지능화되면서 AI로 생성된 이미지와 실제 사진을 구분하기가 점점 어려워지고 있습니다. 기술 발전 측면에서는 흥미로운 일이지만 윤리적으로 우려되는 부분도 있습니다. AI가 비용 효율적이고 혁신적인 시각 자료 제작 방법을 제공하는 것은 사실이지만, 고려해야 할 법적·실무적 장애물이 있습니다. 다행히도 이러한 새로운 딜레마에 대처하는 데 도움이 되는 방법과 도구가 개발되고 있습니다. 정보를 지속적으로 파악하면 시각 콘텐츠의 신뢰성을 유지할 수 있습니다.

AI에 대해 더 알아보려면 저희 커뮤니티에 참여해 보세요! 저희가 의료 및 농업과 같은 다양한 산업에서 혁신적인 솔루션을 만들기 위해 AI를 어떻게 활용하고 있는지 GitHub 저장소에서 확인해 보세요. 저희와 함께 새로운 기회를 열어 보세요!