이미지가 AI로 생성되었는지 확인하는 방법

이미지 생성 모델이 점점 발전하면서 실제와 같은 인공지능(AI) 이미지가 늘어나고 있습니다. AI 이미지와 실제 사진을 둘러싼 논쟁은 두 이미지를 구분하기가 점점 어려워지면서 더욱 주목받고 있습니다. AI가 생성한 이미지가 인터넷 사용자들을 속인 사례도 여러 차례 있었습니다. 교황 프란치스코가 패딩 재킷을 입은 모습과 2024년 멧 갈라에 참석한 Katy Perry의 모습을 본 적이 있습니다. 두 이미지 모두 생성형 AI로 만들어진 것이었습니다. 다시 말해 실제가 아니었습니다. 하지만 처음에는 인터넷 사용자들이 실제라고 믿었습니다.

때로는 이런 착오가 재미있을 수도 있지만, 대개는 심각한 윤리적 문제를 일으킵니다. 생성형 AI의 작동 방식을 파악하는 것만큼이나 어떤 콘텐츠가 AI로 생성되었는지 알아내는 방법을 아는 것도 중요합니다. 이 글에서는 AI 생성 이미지에 대해 자세히 살펴보고, AI 아트의 장단점을 이해하며, 법적 문제를 논의하고, 실제 이미지와 구분하기 위한 주요 방법과 도구를 알아봅니다.

AI 생성 이미지란 정확히 무엇인가요?#

AI 이미지는 대규모 데이터셋으로 학습한 신경망을 사용하는 이미지 생성 모델로 사실적인 이미지를 만들어 냅니다. 이미지 생성 모델은 스타일과 개념, 특징을 결합해 예술적이면서도 관련성 높은 이미지를 만들어 낼 수 있다는 점이 인상적입니다. 학습 과정에서 이미지 생성 모델은 이러한 이미지로부터 다양한 특징과 세부 요소를 학습합니다. 이를 통해 학습한 이미지와 스타일과 내용이 비슷한 새로운 이미지를 만들 수 있습니다.

이미지 생성 모델에는 여러 종류가 있으며, 각 모델마다 고유한 특징이 있습니다. 예를 들어 생성적 적대 신경망(GANs)은 서로 협력하는 두 개의 신경망을 사용해 학습 데이터와 유사한 사실적인 이미지를 만듭니다. Diffusion 모델은 무작위 노이즈를 점차 선명한 이미지로 바꾸어 이미지를 생성합니다. DALL-E와 CLIP 같은 모델에 사용되는 Transformer는 self-attention 메커니즘을 활용해 텍스트 설명으로부터 이미지를 생성합니다.

그림 1. DALL-E 2 생성 이미지. 프롬프트: 아보카도 모양의 안락의자.

OpenAI의 GPT-4o, Midjourney, Gencraft, Stable Diffusion 같은 도구를 사용하면 누구나 AI 이미지를 만들 수 있습니다. 이러한 이미지는 이제 인터넷 곳곳에 게시되고 있으며, AI가 만들었다는 표시가 없는 경우도 많습니다.

AI 아트의 장단점#

사진이나 회화와 마찬가지로 많은 사람이 AI 이미지 생성을 새로운 예술 형식으로 여기고 있습니다. AI 그림은 수천 달러에 판매되기도 하고 미술 대회에서 수상하기도 합니다. 이에 따라 AI 아트가 바람직한지, 이러한 이미지 생성의 장단점은 무엇인지에 관한 질문이 제기됩니다.

그림 2. AI가 생성한 작품.

이에 대해서는 의견이 다양합니다. 예를 들어 예산이 빠듯한 소규모 기업은 생성형 아트를 장점으로 여길 수 있습니다. 브랜딩 및 마케팅 요구사항에 완벽하게 맞는 맞춤형 이미지를 만들 수 있기 때문입니다. 이러한 도구는 고품질 시각 자료를 빠르게 만들어 시간을 절약하고 창작 프로젝트를 계획대로 진행하는 데 도움이 됩니다. 아티스트의 영감을 북돋우는 측면에서 이미지 생성은 방대한 고유 선택지를 제공할 수 있습니다. 아티스트는 아이디어를 실제로 구현하기 전에 쉽게 시각화할 수 있습니다.

그러나 AI 생성 이미지는 감정적 깊이가 부족한 경우가 많고 생생한 인간 경험을 담아내는 데 어려움을 겪을 수 있습니다. 이미지 품질이 일관되지 않아 픽셀화되거나 비현실적으로 보이기도 합니다. AI에 지나치게 의존하면 창의성과 비판적 사고가 저해될 수 있습니다. 오용될 위험도 있습니다. AI 이미지는 쉽게 조작할 수 있어 허위 정보로 이어질 수 있습니다. 또한 이러한 도구를 익히는 데 상당한 시간이 걸릴 수 있으며, 학습 데이터에 포함된 편향을 물려받을 수도 있습니다. AI 아트의 다른 단점은 다음과 같습니다.

• 윤리적 우려: AI 생성 아트의 저작자, 소유권, 저작권과 같은 지식재산권 관련 문제는 복잡하고 논쟁의 여지가 있습니다.
• 일자리 대체: 예술 분야에서 AI가 광범위하게 사용되면 인간 아티스트와 디자이너의 기회가 줄어들 수 있습니다.
• 문화적 감수성 부족: AI 아트는 문화적 맥락을 이해하고 존중하지 못해 부적절하거나 불쾌감을 주는 결과물을 만들 수 있습니다.

AI 생성 이미지의 법적 회색 지대#

AI가 발전하면서 사회는 저작권 문제와 같은 법적 영향을 여전히 적극적으로 파악하고 있습니다. 기존 창작물과 달리 AI 생성 이미지는 기존 저작물을 재조합한 결과물이기 때문에 미국을 비롯한 일부 국가에서는 저작권 보호를 받을 수 없습니다. AI 학습에는 인터넷에서 수집한 방대한 데이터가 사용되는 경우가 많고, 여기에는 저작권이 있는 자료가 포함될 수 있어 문제가 복잡해집니다. 이러한 이유로 많은 사람이 AI 모델 학습에 저작권 콘텐츠를 사용하는 것에 항의하며 더 나은 규제를 요구하고 있습니다.

일부 기업은 소송까지 제기했습니다. 스톡 이미지 제공업체인 Getty Images는 AI 아트 생성기인 Stability AI가 상업적 이익을 위해 Getty의 이미지 라이브러리를 복제하고 사용했다는 혐의로 소송을 제기했습니다. Stability AI의 텍스트-이미지 모델이 생성한 이미지 중 몇몇에는 Getty 워터마크가 있습니다. DeviantArt와 다른 두 AI 기업도 AI 생성 아트가 저작권법을 침해했다고 주장하는 집단 소송에서 한 아티스트로부터 피소되었습니다.

이미지가 AI로 생성되었는지 확인하는 방법#

특히 선거 기간에 사람들을 오도하는 가짜 뉴스에 AI 이미지가 사용되는 사례가 늘고 있어 AI 이미지를 식별하는 방법을 익히는 것이 중요합니다. BBC에 따르면 연구자의 60%가 투표용지와 투표소에 관한 오해를 불러일으키는 이미지를 AI로 만드는 데 성공했습니다.

그림 3. 쓰레기통에 투표용지 상자가 버려진 모습을 담은 가짜 이미지.

AI 이미지는 소비자에게도 영향을 미칩니다. Attest의 최근 연구에 따르면 대부분의 소비자(76%)는 실제 이미지와 AI 생성 이미지를 구분하지 못합니다. 이미지가 AI로 생성되었는지 확인하는 방법은 다음과 같습니다.

이미지 제목, 설명, 태그 확인#

당연해 보일 수 있지만, AI 이미지를 식별하는 가장 쉬운 방법은 설명과 태그에서 ‘AI 생성’ 표시를 확인하는 것입니다. AI 이미지에 대한 의문이 여전히 많은 만큼, AI 이미지를 생성하거나 라이선스를 제공하는 기업은 출처를 투명하게 공개하기 위해 최선을 다하고 있습니다. 라이브러리에서 AI 이미지를 허용하는 스톡 사진 업체는 기여자가 이미지 제목, 설명, 태그에 파일이 ‘AI 생성’임을 표시하도록 요구합니다(이렇게 하면 카탈로그를 검색할 때 AI 이미지를 쉽게 찾거나 제외할 수 있습니다). 이러한 표시를 확인하는 것이 AI 생성 이미지를 식별하는 가장 간단한 방법입니다.

워터마크 확인#

AI 이미지를 식별하는 또 다른 방법은 워터마크를 확인하는 것입니다. 많은 AI 도구가 워터마크를 추가하기 때문입니다. 워터마크에는 작은 로고, 텍스트 또는 메타데이터가 포함될 수 있습니다. 예를 들어 OpenAI의 DALL-E 3는 보이지 않는 C2PA 메타데이터와 왼쪽 상단 모서리에 표시되는 Content Credentials(CR) 기호를 사용합니다. 하지만 Content Credentials Verify와 같은 콘텐츠 자격 증명 검증 사이트에서 이미지를 확인할 때만 로고가 표시됩니다. 기업마다 이미지에 표시하는 방식이 다를 수 있으므로 다양한 식별 표시에 익숙해져야 할 수 있습니다.

그림 4. ChatGPT가 생성한 이미지에는 C2PA 메타데이터가 포함됩니다(출처: openai.com)

Google은 최근 AI 이미지에 워터마크를 추가하는 혁신적인 방법인 SynthID를 발표했습니다. SynthID를 사용하면 AI 생성 콘텐츠의 픽셀에 디지털 워터마크를 직접 삽입할 수 있습니다. 이 워터마크는 사람의 눈에는 보이지 않지만 식별을 위해 감지할 수 있습니다. SynthID는 디지털 워터마크를 탐색해 AI 도구가 이미지를 생성했을 가능성을 평가할 수 있습니다.

이미지의 왜곡이나 이상 징후 확인#

AI 생성 이미지는 딥러닝 알고리즘의 한계로 인해 결함이 있는 경우가 많습니다. 흔히 나타나는 이상 징후는 다음과 같습니다.

• 흐릿하거나 비정상적인 배경: 계단이 어긋나 있거나, 가구 모양이 이상하거나, 세부 묘사가 흐릿합니다.
• 머리카락의 불일치: 부자연스러운 질감, 이상한 패턴 또는 흐릿한 표현이 나타납니다.
• 지나치게 렌더링된 느낌: 흐릿한 질감과 매끄러운 질감이 섞인 번들거리고 비현실적인 모습입니다.
• 액세서리 오류: 뒤틀린 장신구, 서로 맞지 않는 귀걸이, 왜곡된 물체가 나타납니다.
• 이상한 손가락: 손가락이 더 있거나 엄지가 없거나 그 밖의 손 이상 징후가 나타납니다.

그림 5. AI 생성 이미지의 이상 징후.

이러한 징후는 AI 생성 이미지를 식별하는 데 도움이 됩니다. 그러나 AI 기술이 발전하면서 앞으로는 AI 이미지에서 눈에 띄는 결함이 줄어들 수 있습니다.

AI 이미지 식별 도구 사용#

AI 이미지 식별 도구를 사용하는 것도 AI 이미지를 찾아내는 방법이지만, 결과가 완전히 정확하지 않을 수 있다는 점에 유의해야 합니다. AI 이미지를 감지하는 인기 도구 몇 가지를 살펴보겠습니다.

• AI Or Not: 고급 알고리즘과 머신러닝을 사용해 진짜 콘텐츠와 가짜 콘텐츠를 빠르게 판별합니다. 가짜 NFT 이미지 판별에 특히 효과적입니다.
• Content at Scale: 사용하기 쉽고 간단한 이 무료 도구는 인기 있는 생성 도구로 만든 이미지에 대해 사람 생성 대 AI 생성 확률 점수를 제공합니다.
• Illuminarty: AI 모델과 AI가 생성한 특정 영역을 식별하는 기능을 포함해 AI 생성 이미지와 텍스트를 종합적으로 분석합니다.
• Maybe's AI Art Detector: ViT 모델을 사용해 예술 이미지가 인간 또는 인공지능에 의해 생성되었을 확률 점수를 제공하는 사용하기 쉬운 도구입니다.
• V7 Deepfake Detector: StyleGAN 딥페이크 이미지를 감지하는 Chrome 확장 프로그램으로, 가짜 프로필을 식별하는 데 유용합니다.
• Fake Image Detector: 메타데이터와 오류 수준 분석(ELA)을 사용해 조작된 이미지를 감지하지만, 지원 파일 형식이 제한적이고 충돌이 발생합니다.

AI 생성 미디어가 계속 확산되고 발전함에 따라 이러한 도구는 앞으로 더욱 효과적으로 작동할 것입니다.

핵심 요점#

생성형 AI 모델이 더욱 지능화되면서 AI 생성 이미지와 실제 사진을 구분하기가 어려워지고 있습니다. 기술 발전 측면에서는 고무적이지만, 윤리적으로는 우려되는 일이기도 합니다. AI는 비용 효율적이고 혁신적인 시각 자료 제작 방법을 제공하지만, 고려해야 할 법적·실무적 장애물도 있습니다. 다행히 이러한 새로운 딜레마에 대응하는 데 도움이 될 방법과 도구가 개발되고 있습니다. 관련 정보를 꾸준히 파악하면 시각 콘텐츠의 신뢰성을 지킬 수 있습니다.

AI에 대해 자세히 알아보려면 커뮤니티와 교류해 보세요! GitHub 리포지토리를 살펴보고 헬스케어와 농업 등 다양한 산업에서 혁신적인 솔루션을 만들기 위해 AI를 어떻게 활용하고 있는지 확인해 보세요. 저희와 함께 새로운 기회를 열어 보세요!