AI Slop

AI 슬롭은 흔히 슬롭이라고 줄여 부르며, 생성형 AI로 대량 생산하고 사람의 손길을 거의 들이지 않은 저품질 디지털 콘텐츠를 말합니다. 검색 트래픽, 참여도 또는 광고 수익을 노리고 게시하는 알맹이 없는 기사, 섬뜩한 이미지, 나레이션이 들어간 스톡 영상, 기계가 만든 노래 등이 이에 해당합니다. Merriam-Webster는 slop을 2025년 올해의 단어로 선정하고 "일반적으로 인공지능을 사용해 대량으로 제작한 저품질 디지털 콘텐츠"로 정의했으며, Macquarie Dictionary도 같은 해의 단어로 "AI slop"을 선정했습니다. 콘텐츠가 슬롭에 해당하는 이유는 단일한 오류의 유무가 아니라 거의 비용을 들이지 않고 대량으로 제작하는 방식과 목적에 있습니다.

용어의 유래#

슬롭은 원래 부드러운 진흙을 뜻했고, 이후에는 돼지에게 먹이는 음식물 찌꺼기를 뜻했습니다. 2024년 5월, 프로그래머 Simon Willison은 스팸이 원치 않는 이메일을 가리키는 말이 된 것처럼 슬롭을 원치 않는 AI 생성 콘텐츠를 가리키는 명칭으로 사용하자고 주장했습니다. 그는 이 단어가 전문 용어로 변해가는 것을 알아챈 온라인 작가 deepfates의 공을 인정했습니다. 같은 해 Facebook 피드는 참여도를 노리는 페이지가 게시한 "Shrimp Jesus" 같은 초현실적인 텍스트-이미지 그림, 즉 새우와 결합된 예수의 이미지로 가득 찼습니다. 2025년에는 이 용어가 AI가 만든 비디오, 음악, 책, 학술 논문까지 포괄하게 되었습니다.

AI 슬롭이 확산되는 이유#

슬롭은 경제적 산물입니다. 대규모 언어 모델(LLM)이나 디퓨전 모델을 기반으로 한 이미지 생성기는 사람이 만든 콘텐츠 하나의 비용으로 게시물 수천 개를 만들어낼 수 있습니다. 한편 추천 시스템으로 순위를 매기는 피드와 광고 네트워크는 콘텐츠의 제작자가 누구인지, 무엇인지와 관계없이 관심을 유도하면 수익을 지급합니다. 제작자는 게시물 중 일부만 인기를 얻으면 됩니다.

이러한 패턴은 이제 웹 전반에서 나타납니다.

• 콘텐츠 팜과 검색 스팸: 사이트는 LLM으로 작성한 페이지를 대량으로 만들어 검색어 순위를 높입니다. Google의 스팸 정책은 대량 콘텐츠 악용을 "어떤 방식으로 제작되었는지와 관계없이" 사용자에게 별다른 가치를 제공하지 않는 페이지를 많이 생성하는 것으로 정의합니다. 이 정책은 슬롭을 만드는 데 사용된 도구보다 콘텐츠의 규모와 목적을 겨냥합니다.
• 스트리밍 플랫폼: Spotify는 2025년 9월, 지난 12개월 동안 스팸성 트랙을 7,500만 개 이상 삭제했다고 밝혔으며, YouTube는 대량 생산된 동영상을 포함하도록 2025년 7월 "반복 콘텐츠" 수익 창출 규칙의 이름을 "비진정성 콘텐츠"로 변경했습니다.
• 학술 출판: 약 951,000편의 논문을 분석한 결과, 2024년 2월까지 컴퓨터 과학 초록의 최대 17.5%에서 LLM 수정 흔적이 발견되었습니다. 조작된 참고문헌을 포함한 저품질 투고는 동료 심사에 부담을 더합니다.

AI 슬롭과 관련 용어#

• 환각: 모델 출력에 포함된 거짓이거나 근거가 없는 진술입니다. 슬롭은 콘텐츠가 어떻게 만들어지고 사용되는지를 설명하므로, 정확하지만 쓸모없는 글도 여전히 슬롭이며 신중하게 검토한 글에도 환각이 포함될 수 있습니다.
• 딥페이크: 실제 인물이 무언가를 말하거나 행동하는 것처럼 보이도록 만든 합성 미디어입니다. 슬롭은 보통 특정 인물이나 사건에 대해 시청자를 속이기보다 관심을 끄는 데 목적이 있습니다.
• 모델 붕괴: 생성 콘텐츠로 반복해서 학습한 모델이 성능 저하를 겪는 현상입니다. 웹에서 수집한 슬롭이 학습 데이터에 포함되는 것은 이러한 순환이 시작되는 한 가지 경로이며, 이것이 웹 규모 데이터셋을 위한 데이터 정제 파이프라인에서 거의 동일한 샘플을 중복 제거하고 품질이 낮은 샘플을 필터링하는 이유입니다.
• 합성 데이터: 모델 학습을 위해 의도적으로 생성하고 필터링 및 검증한 데이터로, 슬롭의 통제된 대안입니다.

AI 슬롭 감지 및 필터링#

출처 신호는 존재하는 경우 가장 신뢰할 수 있는 증거입니다. AI 워터마킹은 생성 시점에 감지 가능한 신호를 삽입하고, 콘텐츠 자격 증명(C2PA)은 어떤 도구가 파일을 만들거나 편집했는지 기록하는 서명된 메타데이터를 첨부하므로, 생성기가 이에 협조한 콘텐츠에 플랫폼이 라벨을 지정할 수 있습니다. 둘 다 표시를 추가하지 않는 도구의 출력에는 도움이 되지 않으며, 파일을 다시 인코딩하거나 스크린샷을 찍으면 메타데이터가 사라집니다.

사후에 콘텐츠를 판별하는 분류기는 제한적인 효과로 이 공백을 메웁니다. AI 작성 텍스트 탐지기의 성능은 좋지 않습니다. OpenAI는 2023년 7월, AI 작성 텍스트 중 26%만 올바르게 표시한 자체 텍스트 분류기의 제공을 중단했습니다. 이미지 탐지는 더 쉽습니다. 생성기가 통계적 흔적을 남기기 때문입니다. 일부 흔적은 왜곡된 글자나 형태가 일그러진 손처럼 사람이 알아볼 수 있어 독자가 이미지가 AI로 생성되었는지 판별하는 데 도움이 되며, 모델은 더 미묘한 흔적도 포착합니다. 라벨이 지정된 실제 이미지와 생성 이미지로 학습한 Ultralytics YOLO26 분류 모델은 AI 생성 가능성이 높은 이미지를 표시해 사람이 검토하도록 할 수 있습니다. 이러한 탐지기는 새로운 생성기에 맞춰 계속 발전해야 합니다. 한 GAN의 이미지로 학습한 분류기는 블러와 JPEG 데이터 증강을 적용해 학습하자 다른 CNN 기반 생성기에도 일반화되었지만, GAN으로 학습한 탐지기는 잠재 확산 모델의 이미지에서는 실패했습니다. 또한 CLIP 특징을 기반으로 탐지기를 구축하자 미관측 확산 및 자기회귀 생성기에 대한 정확도가 약 26%포인트 향상되었습니다.