AI Ethics

AI 윤리는 인공지능(AI)의 설계, 개발, 사용에 도덕적 원칙을 적용하는 분야입니다. 어떤 시스템을 만들어야 하는지, 어떻게 동작해야 하는지, 그 영향에 대한 책임이 누구에게 있는지 살펴봅니다. 핵심 관심사는 공정성, 개인정보 보호, 투명성, 안전성, 책임성, 인간의 감독이며 철학, 법학, 사회과학, 공학을 바탕으로 합니다. 실제로 AI 윤리는 팀의 데이터 수집, 모델 평가, 제품 출시 여부 결정에 영향을 미치며, EU AI Act 및 캘리포니아 AI 법률과 같은 규제의 기반이 됩니다.

핵심 원칙#

국제 프레임워크는 유사한 원칙 집합으로 수렴합니다. 2019년에 채택되고 2024년에 개정된 OECD AI 원칙은 AI에 관한 최초의 정부 간 표준입니다. UNESCO의 인공지능 윤리에 관한 권고는 2021년 193개 회원국 모두가 채택했습니다. 또한 NIST AI 위험 관리 프레임워크(2023)는 이와 유사한 가치를 조직이 측정할 수 있는 신뢰할 수 있는 AI의 특성으로 구체화합니다.

• 공정성과 차별 금지: 시스템은 피부색, 성별, 연령 또는 기타 보호 대상 특성을 이유로 특정 사람에게 불리하게 작동하거나 불이익을 주어서는 안 됩니다. AI의 편향은 대개 대표성이 부족한 데이터나 레이블을 통해 유입되며, AI의 공정성은 편향을 검증하는 지표를 제공합니다.
• 개인정보 보호 및 데이터 거버넌스: 개인정보는 적법하게 수집해야 하며, 동의가 필요한 경우 동의를 받아야 하고, 목적에 필요한 범위를 초과해 처리해서는 안 됩니다. 차등 개인정보 보호와 연합 학습 같은 기법은 모델이 노출하거나 중앙화하는 정보의 양을 줄입니다. 비디오 분석에서 프라이버시 중심 설계는 영상을 저장하기 전에 사람을 익명화하는 것을 의미할 수 있습니다. Ultralytics 객체 블러링 솔루션은 모든 프레임에서 YOLO26 감지를 실행하고, 사람을 포함해 감지된 각 객체를 해당 위치에서 블러 처리합니다.
• 투명성과 설명 가능성: 사람들은 AI 시스템을 이용하고 있다는 사실을 알아야 하며, AI 투명성의 핵심인 시스템 구축 방식을 파악할 수 있어야 합니다. 또한 자신에게 영향을 미치는 결정은 설명 가능한 AI(XAI) 방법으로 설명할 수 있어야 합니다.
• 안전성과 견고성: 시스템은 배포 환경에서 마주치는 조건에서도 안정적으로 작동하고, 적대적 공격과 같은 조작에 저항하며, 안전하게 실패해야 합니다.
• 책임성과 인간의 감독: 지정된 개인이나 조직이 각 시스템의 결과에 책임을 져야 하며, 사람은 시스템을 모니터링하고, 작동을 재정의하거나, 종료할 수 있어야 합니다.

원칙에서 법률로#

EU AI 법은 이러한 원칙을 위험 수준에 따라 차등화된 의무로 구체화합니다. 이 법은 2024년 8월 발효되었으며, 금지된 관행에 대한 금지 조항은 2025년 2월 2일부터, 투명성 의무는 2026년 8월 2일부터 적용되었습니다. 2026년 디지털 옴니버스 개정 이후에는 채용, 신용 평가, 교육과 같이 부속서 III에 열거된 고위험 용도에 대한 요건이 2027년 12월 2일부터 적용됩니다. 이 법은 각 AI 용도를 그에 따라 발생하는 의무별로 분류합니다.

몇 가지 금지 조항은 컴퓨터 비전과 직접 관련이 있습니다. 인식 데이터베이스를 구축하기 위해 인터넷이나 CCTV에서 얼굴 이미지를 무차별적으로 수집하는 행위, 직장과 학교에서의 감정 인식, 인종이나 정치적 견해와 같은 특성을 추론하는 생체 정보 분류, 그리고 제한적인 예외를 제외한 법 집행 목적의 공공장소 실시간 원격 생체 인식이 이에 해당합니다. 조직은 2023년에 발표된 국제 표준인 ISO/IEC 42001에 따라 AI 관리 관행을 인증받을 수도 있습니다.

AI 윤리와 관련 용어#

• AI 안전성: 시스템의 역량이 커짐에 따라 사고, 오용, 통제력 상실을 방지하는 데 중점을 둡니다. AI 윤리는 시스템이 존재해야 하는지, 누구를 위해 작동하는지도 묻습니다.
• AI 거버넌스: 조직과 정부가 윤리 원칙을 실천하기 위해 사용하는 정책, 프로세스, 법률입니다.
• 책임 있는 AI: 기업이 자체적인 AI 윤리 실천을 지칭할 때 주로 사용하는 용어이며, 대체로 AI 윤리와 동의어입니다.
• 알고리즘 편향: 더 넓은 분야 안에서 불공정한 결과를 낳는 체계적 오류라는 특정 윤리 문제입니다.

컴퓨터 비전의 윤리적 문제#

• 헬스케어: 의료 영상 분석에서 한 병원의 스캐너와 환자로 검증된 모델은 한 번도 학습하지 않은 집단의 소견을 놓칠 수 있습니다. 따라서 윤리 프레임워크는 세분화된 평가와 임상의의 감독을 요구합니다.
• 합성 미디어: 딥페이크는 사기, 괴롭힘, 허위 정보 유포를 가능하게 하며, EU AI 법은 이를 배포하는 주체가 공개하도록 요구합니다.
• 감정 인식: Microsoft는 감정을 정의하는 방법에 대한 과학적 합의가 없고, 얼굴 표정으로부터 추론한 결과가 지역과 인구 집단 전반에 걸쳐 일반화되는지 의문이 있다고 밝혔습니다. 이에 따라 2022년 성별과 연령 등의 특성을 추론하는 Azure Face 기능 제공을 중단했습니다.
• 동의 및 데이터셋 출처: 많은 얼굴 및 인물 데이터셋은 사진 속 당사자에게 알리지 않고 수집되었습니다. Microsoft는 2019년 약 10만 명의 사진 약 1,000만 장으로 구성된 MS-Celeb-1M 데이터셋을 삭제했습니다.
• 안면 인식 및 감시: 2020년 6월 IBM은 범용 안면 인식 제공을 중단했고, Amazon은 경찰의 Rekognition 서비스 사용을 일시 중단했으며 이후 이를 무기한 연장했습니다. 2024년 9월 네덜란드 데이터 보호 당국은 인터넷에서 수집한 수십억 장의 얼굴 사진으로 데이터베이스를 구축한 Clearview AI에 3,050만 유로의 벌금을 부과했습니다.