이미지가 AI로 생성되었는지 확인하는 방법

이미지 생성 모델이 점점 더 발전함에 따라 실물과 같은 인공지능(AI) 이미지가 증가하고 있습니다. AI와 실제 사진을 구분하기가 어려워지면서 이에 대한 논쟁이 더욱 중요해지고 있습니다. AI로 생성된 이미지가 인터넷상에서 사람들을 속인 사례는 여러 번 있었습니다. 프란치스코 교황이 패딩 점퍼를 입은 모습이나 2024년 멧 갈라(Met Gala) 행사에 참석한 케이티 페리의 사진을 예로 들 수 있습니다. 두 경우 모두 생성형 AI가 조작한 이미지였습니다. 즉, 실제가 아니었습니다. 하지만 처음 봤을 때 사람들은 이를 사실로 믿었습니다.

때로는 이러한 혼동이 재미있을 수 있지만, 더 자주 심각한 윤리적 문제를 일으킵니다. 생성형 AI의 작동 방식을 파악하는 것이 중요한 만큼, 어떤 것이 AI로 생성되었는지 구별하는 방법을 아는 것 또한 매우 중요합니다. 이 글에서는 AI 생성 이미지를 자세히 살펴보고, AI 예술의 장단점과 법적 쟁점을 이해하며, 실제 이미지와 구별하기 위한 주요 방법과 도구들을 탐구해 보겠습니다.

Link to this sectionAI 생성 이미지란 정확히 무엇일까요?#

AI 이미지는 대규모 데이터 세트로 학습된 신경망을 사용하는 이미지 생성 모델을 사용하여 만들어집니다. 인상적인 점은 스타일, 개념 및 특징을 결합하여 예술적이고 적절한 이미지를 생성하는 능력입니다. 학습 과정에서 이미지 생성 모델은 이러한 이미지로부터 다양한 특징과 세부 사항을 학습합니다. 이를 통해 학습한 이미지와 유사한 스타일 및 콘텐츠를 가진 새로운 이미지를 생성할 수 있게 됩니다.

이미지 생성 모델에는 여러 유형이 있으며, 각 모델은 고유한 기능을 가지고 있습니다. 예를 들어, 생성적 적대 신경망(GAN)은 두 개의 신경망이 서로 협력하여 학습 데이터와 유사한 실감 나는 이미지를 만듭니다. 확산 모델(Diffusion models)은 무작위 노이즈를 점진적으로 선명한 이미지로 변환하여 이미지를 생성합니다. DALL-E나 CLIP 같은 모델에 사용되는 Transformer는 자기 주의(self-attention) 메커니즘을 사용하여 텍스트 설명으로부터 이미지를 생성합니다.

그림 1. DALL-E 2로 생성함. 프롬프트: 아보카도 모양의 안락의자.

누구나 OpenAI의 GPT-4o, 미드저니(Midjourney), 젠크래프트(Gencraft), 또는 스테이블 디퓨전(Stable Diffusion)과 같은 도구를 사용하여 AI 이미지를 만들 수 있습니다. 이러한 이미지는 이제 인터넷 곳곳에 등장하고 있으며, 종종 AI가 만들었음을 알리는 표시조차 없는 경우가 많습니다.

Link to this sectionAI 예술의 장단점#

사진이나 회화와 마찬가지로, AI 이미지 생성도 많은 이들에 의해 새로운 예술 형식으로 간주되고 있습니다. AI 그림은 수천 달러에 판매되거나 예술 대회에서 우승을 차지하기도 합니다. 이는 AI 예술이 긍정적인 것인지, 그리고 이러한 이미지 생성의 장단점은 무엇인지에 대한 질문을 던집니다.

그림 2. AI 생성 예술 작품.

이에 대해서는 다양한 의견이 있습니다. 예를 들어, 예산이 부족한 소규모 기업은 생성된 예술을 장점으로 볼 수 있습니다. 그들은 브랜드 및 마케팅 요구 사항에 완벽하게 부합하는 맞춤형 이미지를 제작할 수 있습니다. 이러한 도구는 고품질의 비주얼을 빠르게 생성하여 시간을 절약하고 창의적인 프로젝트를 차질 없이 진행하도록 도울 수 있습니다. 예술가의 영감 측면에서 보면, 이미지 생성은 방대한 고유 옵션 라이브러리에 대한 접근을 제공합니다. 예술가는 아이디어를 현실로 구현하기 전에 쉽게 시각화할 수 있습니다.

그러나 AI 생성 이미지는 종종 감정적 깊이가 부족하며 인간의 원초적인 경험을 포착하는 데 어려움을 겪을 수 있습니다. 때로는 이미지 품질이 일관되지 않아 픽셀이 깨져 보이거나 비현실적으로 보일 수 있습니다. AI에 너무 의존하면 창의력과 비판적 사고가 저해될 수 있습니다. 오용의 위험도 있습니다. AI 이미지는 쉽게 조작되어 잘못된 정보를 퍼뜨리는 데 사용될 수 있습니다. 또한, 이러한 도구를 사용하는 데는 높은 학습 곡선이 수반될 수 있으며, 학습 데이터로부터 편향을 물려받을 수도 있습니다. 다음은 AI 예술의 다른 단점들입니다.

• 윤리적 문제: AI 생성 예술의 저작권, 소유권, 저작자 표시와 같은 지식 재산권에 관한 문제는 복잡하고 논쟁의 여지가 많습니다.
• 일자리 대체: 예술 분야에서 AI의 광범위한 사용은 인간 예술가와 디자이너의 기회를 줄일 수 있습니다.
• 문화적 몰이해: AI 예술은 문화적 맥락을 이해하고 존중하지 못하여 부적절하거나 불쾌감을 주는 결과물을 만들어낼 수 있습니다.

Link to this sectionAI 생성 이미지의 법적 회색 지대#

As AI advances, we are still actively figuring out the legal implications (like copyright issues) as a society. Unlike traditional creations, AI-generated images cannot be copyrighted in some countries like the US because they are essentially remixes of existing works, many of which are already copyrighted. It gets complicated because AI training often involves massive amounts of data scraped from the internet, potentially including copyrighted material. To this effect, many people are actively protesting against the use of copyrighted content for AI model training and want better regulations.

일부 기업은 심지어 소송을 제기하기도 했습니다. 스톡 이미지 제공업체인 게티 이미지(Getty Images)는 AI 아트 생성기인 스테빌리티 AI(Stability AI)가 상업적 이익을 위해 게티의 이미지 라이브러리를 복제하고 사용했다는 혐의로 소송을 제기했습니다. 스테빌리티 AI의 텍스트-이미지 모델이 만든 여러 이미지에는 게티의 워터마크가 남아 있습니다. 데비안아트(DeviantArt)와 다른 두 AI 기업 또한 AI 생성 예술 작품이 저작권법을 침해했다고 주장하는 예술가들에 의해 집단 소송을 당하고 있습니다.

Link to this section이미지가 AI로 생성되었는지 확인하는 방법#

AI 이미지를 식별하는 방법을 배우는 것은 필수적입니다. 특히 선거 기간 동안 사람들을 속이기 위한 가짜 뉴스에서 AI 이미지 사용이 증가했기 때문입니다. BBC에 따르면 연구원의 60%가 AI를 활용해 투표용지와 투표소에 관한 오해를 불러일으키는 이미지를 성공적으로 만들어냈습니다.

그림 3. 쓰레기통 속 투표용지 상자들을 담은 가짜 이미지.

AI 이미지는 소비자에게도 영향을 미칩니다. 최근 Attest에서 실시한 연구에 따르면 대부분의 소비자(76%)는 실제 이미지와 AI 생성 이미지를 구분하지 못했습니다. 이미지가 AI로 생성되었는지 알 수 있는 방법은 다음과 같습니다.

Link to this section이미지 제목, 설명 및 태그 확인하기#

당연하게 들릴지 모르지만, AI 이미지를 찾아내는 가장 쉬운 방법은 설명과 태그에서 'AI-Generated' 문구를 확인하는 것입니다. AI 이미지와 관련하여 여전히 많은 의문이 제기되고 있기 때문에, 이를 생성하거나 라이선스를 제공하는 기업들은 그 출처를 투명하게 밝히기 위해 최선을 다하고 있습니다. 라이브러리에 AI 이미지를 허용하는 스톡 사진 에이전시는 기고자들이 이미지 제목, 설명, 태그에 'AI-generated'라고 표기하도록 요구합니다(이렇게 하면 카탈로그를 검색할 때 AI 이미지를 쉽게 찾거나 제외할 수 있습니다). 이러한 라벨을 찾는 것이 AI 생성 이미지를 식별하는 가장 간단한 방법입니다.

Link to this section워터마크 확인하기#

AI 이미지를 식별하는 또 다른 방법은 워터마크를 확인하는 것입니다. 많은 AI 도구가 워터마크를 추가하기 때문입니다. 여기에는 작은 로고, 텍스트 또는 메타데이터가 포함될 수 있습니다. 예를 들어, OpenAI의 DALL-E 3는 보이지 않는 C2PA 메타데이터와 왼쪽 상단에 보이는 Content Credentials (CR) 기호를 사용합니다. 하지만 로고는 Content Credentials Verify와 같은 콘텐츠 자격 증명 확인 사이트에서 이미지를 확인할 때만 나타납니다. 기업마다 이미지를 표시하는 방식이 다를 수 있으므로 다양한 지표에 익숙해질 필요가 있습니다.

그림 4. ChatGPT가 생성한 이미지는 C2PA 메타데이터를 포함합니다(출처: openai.com)

구글은 최근 AI 이미지에 워터마크를 넣는 혁신적인 방법인 SynthID를 발표했습니다. SynthID를 사용하면 AI 생성 콘텐츠의 픽셀에 직접 디지털 워터마크를 삽입할 수 있습니다. 이는 육안으로는 보이지 않지만 식별을 위해 감지할 수 있습니다. SynthID는 이 디지털 워터마크를 스캔하여 AI 도구가 해당 이미지를 생성했을 가능성이 있는지 평가할 수 있습니다.

Link to this section이미지 내 왜곡이나 이상 현상 찾아보기#

AI 생성 이미지는 딥러닝 알고리즘의 한계로 인해 결함이 있는 경우가 많습니다. 일반적인 이상 현상은 다음과 같습니다:

• 흐릿하거나 비정상적인 배경: 잘못 정렬된 계단, 이상한 모양의 가구, 흐릿한 세부 사항.
• 머리카락 불일치: 부자연스러운 질감, 이상한 패턴 또는 흐릿함.
• 과도하게 렌더링된 외관: 흐릿하고 매끄러운 질감이 혼합되어 비현실적이고 광택이 나는 모습.
• 액세서리 실수: 뒤틀린 장신구, 짝이 맞지 않는 귀걸이, 왜곡된 물체.
• 이상한 손가락: 손가락이 더 많거나 엄지가 없거나, 기타 손의 이상 현상.

그림 5. AI 생성 이미지의 이상 현상.

이러한 징후들은 AI 생성 이미지를 식별하는 데 도움이 됩니다. 하지만 AI의 발전으로 인해 미래의 AI 이미지는 눈에 보이는 결함이 줄어들 수도 있습니다.

Link to this sectionAI 이미지 식별 도구 사용하기#

AI 이미지 식별 도구를 사용하는 것도 AI 이미지를 발견하는 방법 중 하나이지만, 완전히 정확하지 않을 수 있다는 점을 명심해야 합니다. 가장 인기 있는 AI 이미지 탐지 도구 몇 가지를 살펴보겠습니다.

• AI Or Not: 고급 알고리즘과 머신 러닝을 사용하여 실제 콘텐츠와 가짜 콘텐츠를 신속하게 인증합니다. 특히 가짜 NFT 이미지 식별에 효과적입니다.
• Content at Scale: 이 무료의 간단한 도구는 인기 있는 생성기에서 만든 이미지에 대해 사람 vs AI 확률 점수를 제공합니다.
• Illuminarty: AI 생성 이미지와 텍스트를 포괄적으로 분석하며, AI 모델 식별 및 특정 AI 생성 영역 확인 기능을 제공합니다.
• Maybe's AI Art Detector: ViT 모델을 사용하여 예술적 이미지에 대한 인간 vs 인공 점수(백분율)를 제공하는 사용하기 쉬운 도구입니다.
• V7 Deepfake Detector: StyleGAN 딥페이크 이미지를 탐지하는 Chrome 확장 프로그램으로, 가짜 프로필을 식별하는 데 유용합니다.
• Fake Image Detector: 메타데이터와 오차 수준 분석(ELA)을 사용하여 조작된 이미지를 탐지하지만, 파일 호환성이 제한적이며 가끔 충돌이 발생합니다.

AI 생성 미디어가 계속해서 확산되고 발전함에 따라, 이러한 도구들은 미래에 훨씬 더 효과적으로 변할 것입니다.

Link to this section핵심 요약#

생성형 AI 모델이 더욱 지능화됨에 따라 AI 생성 이미지와 실제 사진을 구분하기가 점점 더 어려워지고 있습니다. 기술적 발전 측면에서는 흥미롭지만, 윤리적으로는 우려스러운 부분이기도 합니다. AI가 비주얼을 만들기 위한 비용 효율적이고 혁신적인 방법을 제공하는 것은 사실이지만, 고려해야 할 법적 및 실무적 난관이 있습니다. 다행히도 이 새로운 딜레마를 해결하는 데 도움을 줄 방법과 도구들이 개발되고 있습니다. 정보를 지속적으로 파악함으로써 우리는 비주얼 콘텐츠의 신뢰성을 유지할 수 있습니다.

AI에 대해 더 자세히 알아보려면 저희 커뮤니티와 소통해 보세요! GitHub 저장소를 탐색하여 저희가 의료 및 농업과 같은 다양한 산업 분야에서 혁신적인 솔루션을 만들기 위해 AI를 어떻게 활용하고 있는지 확인해 보시기 바랍니다. 저희와 함께 새로운 기회를 창출하세요!