AI Washing

AI 워싱은 제품, 서비스 또는 기업이 인공지능을 얼마나 사용하는지, 또는 해당 기술로 무엇을 할 수 있는지를 과장하거나 왜곡하는 행위입니다. 이로 인해 광고된 역량과 실제 작동 방식 사이에 격차가 생깁니다. 고객과 투자자는 실제 시스템이 제공하지 못하는 지능, 자율성 또는 성능을 기대하게 됩니다.

이 용어는 오해의 소지가 있는 환경 관련 주장을 가리키는 그린워싱에서 유래했습니다. Gartner 애널리스트 Jim Hare는 2017년 7월 6일 AI 혁신을 기회로 악용하는 엔터프라이즈 소프트웨어 제공업체에 관한 분석에서 "AI 워싱"이라는 표현을 사용하며, AI라는 명칭을 무분별하게 적용하는 공급업체를 설명했습니다.

AI 워싱의 작동 방식#

AI 워싱은 기술적 복잡성을 마케팅상의 이점으로 바꿉니다. 구매자는 인공지능, 머신러닝, "자율형"과 같은 용어를 접하지만, 이러한 설명을 실제 기능과 연결할 만한 정보를 충분히 얻지 못합니다. 왜곡은 해당 기술의 존재 여부, 워크플로에서의 기여도 또는 결과의 신뢰도와 관련될 수 있습니다.

흔히 나타나는 유형은 다음과 같습니다.

• 역량 과장: 결과물이 주장을 뒷받침하는 근거가 부족한데도 시스템이 전문가 수준의 작업을 수행한다고 광고합니다.
• 사람의 개입 은폐: 광고된 작업의 상당 부분을 사람이 수행하면서 서비스를 자율형으로 소개합니다.
• 성능 과장: 특정 조건에서 얻은 결과를 평가로 뒷받침할 수 있는 범위보다 더 넓은 대상이나 작업에 일반화합니다.
• 일정 앞당겨 홍보: 계획 중인 AI 기능을 이미 제품에 구현된 역량으로 설명합니다.

이러한 유형은 구매, 투자, 인력 배치 결정에 영향을 미칩니다. 또한 운영 요건을 파악하기 어렵게 만듭니다. 고객은 어떤 결과를 검토해야 하는지, 시스템이 어떤 작업을 처리하는지, 오류가 후속 의사결정에 어떤 영향을 미치는지 이해해야 합니다.

AI 워싱과 관련 개념#

로보틱 프로세스 자동화는 대개 사전 정의된 규칙을 통해 반복적인 워크플로를 자동화합니다. 머신러닝은 데이터에서 패턴을 학습하는 반면, 기호 AI는 명시적인 지식과 추론 규칙을 사용합니다. 정확한 제품 설명은 작동 방식과 그 역할을 명확히 제시합니다. 규칙 기반 시스템에 AI라는 명칭을 붙이고, 시스템에 없는 학습 또는 적응 능력을 약속하는 주장을 덧붙이면 오해를 유발합니다.

휴먼 인 더 루프 워크플로는 사람에게 검토 또는 의사 결정의 책임을 명확히 부여합니다. 투명한 설명은 사람의 기여를 분명하게 보여 줍니다. 예를 들어, Ultralytics Platform은 AI 지원 데이터 어노테이션을 제공합니다. YOLO 스마트 어노테이션 기능은 모델 예측을 바탕으로 초안 레이블을 생성하며, 어노테이터는 이를 검토하거나 수정하거나 삭제할 수 있습니다. 이를 통해 자동화된 작업과 사람의 역할을 모두 명확히 알 수 있습니다.

환각은 모델이 부정확하거나 근거가 없는 콘텐츠를 생성하는 현상입니다. AI 워싱은 시스템에 관해 제시되는 설명과 관련이 있습니다. 설명 가능한 AI는 모델 동작을 해석하는 데 도움을 주며, AI 투명성은 역량, 평가 조건, 책임을 알립니다. 두 개념 모두 근거에 기반한 AI 제품 설명을 뒷받침합니다.

실제 사례와 결과#

규제 기관은 집행 과정에서 이 용어를 채택했습니다. SEC 의장 Gary Gensler는 2023년 12월 기업에 "AI 워싱"을 경고했으며, FTC는 오해를 유발하는 AI 주장에 대응하기 위해 2024년 9월 실시한 단속인 Operation AI Comply의 일환으로 아래에 소개된 DoNotPay 사건을 제기했습니다.

투자 자문사 Delphia는 고객 데이터가 AI 기반 투자 예측을 개선한다고 주장했습니다. SEC는 2019년부터 2023년까지 회사가 광고한 AI 및 머신러닝 역량을 갖추지 못했다고 판단했습니다. 2024년 3월 18일 합의에 따라 Delphia는 민사 제재금 225,000달러를 납부하기로 했습니다. Global Predictions는 AI 기반 예측과 최초의 규제 대상 AI 금융 자문사라는 지위에 관한 오해의 소지가 있는 주장을 포함해 별도의 사안으로 175,000달러의 제재금에 합의했습니다.

DoNotPay는 AI 서비스가 "세계 최초의 로봇 변호사"라고 광고하며, 사람의 법률 전문성을 대체할 수 있는 역량을 주장했습니다. DoNotPay 집행 합의에 따라 193,000달러의 금전적 배상과 적격 구독자에 대한 고지가 요구되었습니다. FTC는 2025년 1월 명령을 확정하고, 전문 서비스를 대체한다는 근거 없는 주장을 제한했습니다.

AI 주장을 뒷받침하는 근거#

입증된 주장은 명시된 기능을 입력, 출력, 평가 및 운영 조건과 연결합니다. 모델 카드에는 의도된 사용 방식, 개발 세부 정보, 측정된 한계가 기록됩니다. 데이터 출처 이력은 평가 자료의 출처를 확인하며, 독립적인 테스트 데이터는 개발에 사용된 예시를 넘어 성능을 검증하는 데 도움이 됩니다.

컴퓨터 비전에서는 주장을 뒷받침하는 근거가 광고된 작업 자체에서 나옵니다. 객체 탐지 결과에는 데이터셋 구성 및 클래스별 결과와 함께 정밀도, 재현율, 평균 정밀도가 포함될 수 있습니다. 속도 주장을 뒷받침하려면 하드웨어, 이미지 크기, 배치 크기, 측정 범위를 명시해야 합니다.

AI 거버넌스는 이러한 기록을 제품 승인 및 마케팅 검토와 연결하여, 게시된 각 주장이 모델 카드, 평가 또는 문서화된 사람의 역할로 추적되도록 합니다.