용어집

데이터 보안

인공지능(AI)을 위한 핵심 데이터 보안 전략을 탐구하세요. Ultralytics 모델 보호 방법, 적대적 공격 방어 기술, 자동화된 정보 가림(redaction) 구현 방법을 배우세요.

데이터 보안은 디지털 정보의 수명 주기 전반에 걸쳐 무단 접근, 손상, 도난 또는 중단으로부터 이를 보호하기 위해 적용되는 보호 조치, 전략 및 기술을 포괄합니다. 머신 러닝(ML) 및 인공지능(AI) 분야에서 이 분야는 예측 시스템의 신뢰성을 보장하고 사용자 신뢰를 유지하는 데 가장 중요합니다. 여기에는 훈련에 필요한 방대한 데이터셋을 보호하고, 모델 동작을 정의하는 독점 알고리즘을 보호하며, 이러한 모델이 운영되는 인프라를 강화하는 것이 포함됩니다. 포괄적인 보안 전략은 데이터 자산의 기밀성(Confidentiality), 무결성(Integrity), 가용성(Availability)을보장하는 "CIA 삼원칙"을 다룹니다.

인공지능 파이프라인에서 보안의 역할

조직들이 컴퓨터 비전(CV) 및 기타 AI 기술을 핵심 업무 흐름에 점점 더 통합함에 따라 잠재적 침해의 공격 표면이 확대됩니다. AI 파이프라인 보안을 확보하는 것은 모델 자체가 표적이 되거나 조작될 수 있기 때문에 기존 IT 보안과는 구별됩니다.

지적 재산권 보호: YOLO26과 같은 최첨단 아키텍처는 연구 및 계산 자원에 대한 상당한 투자를 의미합니다. 경쟁사에 의한 모델 추출 또는 도난을 방지하기 위해 모델 암호화 표준을 포함한 강력한 보안 프로토콜이 필수적입니다.
적대적 공격 방어: 적절한 방어 체계가 없으면 신경망은 적대적 공격에 취약합니다. 이러한 시나리오에서 악의적인 행위자는 입력 데이터에 미묘하고 종종 감지하기 어려운 노이즈를 도입하여 모델이 잘못된 분류를 하도록 유도하는데, 이는 자율주행과 같은 안전이 중요한 시스템에서 심각한 위험을 초래합니다.
데이터 중독 방지: 보안 조치는 공격자가 훈련 데이터에 악성 샘플을 주입하여 모델의 향후 동작을 손상시키는 "데이터 중독"을 방지해야 합니다. 이는 모델이 새로운 입력에 기반해 지속적으로 업데이트되는 능동 학습 루프를 활용하는 시스템에서 특히 중요합니다. 이러한 위협에 대한 심층 분석을 위해 OWASP 머신러닝 보안 톱 10은 업계 표준 프레임워크를 제공합니다.

실제 애플리케이션

데이터 보안은 민감한 산업 전반에 걸쳐 신뢰할 수 있는 AI 시스템을 배포하기 위한 근본적인 요구사항입니다.

의료 규정 준수 및 익명화

의료 분야 인공지능(AI) 영역에서 환자 데이터 처리는 HIPAA와 같은 규정을 엄격히 준수해야 합니다. 병원이 detect 골절을 detect 위해 의료 영상 분석을 활용할 경우, 데이터 파이프라인은 저장 시와 전송 시 모두 암호화되어야 합니다. 또한 시스템은 종종 DICOM 메타데이터를 제거하거나 에지 AI를 활용해 기기에서 로컬로 영상을 처리함으로써 민감한 개인 식별 정보(PII)가 보안 시설 네트워크를 벗어나지 않도록 보장합니다.

스마트 시티 감시

현대 스마트 시티는 교통 흐름 관리와 공공 안전 강화를 위해 물체 감지 기술에 의존합니다. GDPR과 같은 개인정보 보호 기준을 준수하기 위해 보안 카메라에는 실시간 편집 기능이 적용되는 경우가 많습니다. 이를 통해 시스템은 차량 계수나 detect 가능하면서도 시민 신원 보호를 위해 차량 번호판과 얼굴을 자동으로 모자이크 처리합니다.

기술적 구현: 자동화된 편집

컴퓨터 비전에서 흔히 사용되는 데이터 보안 기법 중 하나는 추론 과정에서 민감한 객체를 자동으로 흐리게 처리하는 것입니다. 다음 Python 이를 사용하는 방법을 보여줍니다. ultralytics 를 사용하여 YOLO26 이미지 내 detect 경계 상자에 가우시안 블러를 적용하여, 데이터 저장 또는 전송 전에 개인을 효과적으로 익명화하는 모델.

import cv2
from ultralytics import YOLO

# Load the YOLO26 model (optimized for real-time inference)
model = YOLO("yolo26n.pt")
image = cv2.imread("street_scene.jpg")

# Perform object detection to find persons (class index 0)
results = model(image, classes=[0])

# Blur the detected regions to protect identity
for result in results:
    for box in result.boxes.xyxy:
        x1, y1, x2, y2 = map(int, box)
        # Apply Gaussian blur to the Region of Interest (ROI)
        image[y1:y2, x1:x2] = cv2.GaussianBlur(image[y1:y2, x1:x2], (51, 51), 0)