Model Card
모델 카드는 학습된 모델의 의도된 사용 방식, 학습 데이터, 평가 결과, 한계를 문서화하는 형식으로, Google 연구자들이 2018년에 제안했습니다.
모델 카드는 학습된 머신러닝 모델과 함께 공개되는 짧은 문서입니다. 모델의 용도, 학습 및 평가 방식, 다양한 집단과 조건에서의 성능, 한계를 기록합니다. Google의 Margaret Mitchell, Timnit Gebru와 동료들은 2018년 FAT* 2019 컨퍼런스에서 발표한 논문 Model Cards for Model Reporting에서 이 형식을 제안했습니다. 모델 카드는 이제 AI 투명성을 위한 표준 관행입니다. Hugging Face의 모델 저장소에서는 모델 카드가 첫 화면에 표시되며, AI 연구소는 Anthropic이 2024년에 공개한 Claude 3 모델 카드와 같이 주요 릴리스의 모델 카드를 게시합니다.
모델 카드에 포함되는 내용#
원 논문은 다음 9개 섹션을 제안했습니다.
- 모델 세부 정보: 개발자, 버전, 날짜, 아키텍처, 라이선스, 문의처입니다.
- 사용 목적: 모델이 주로 사용되도록 설계된 용도와 사용자, 적용 범위를 벗어나는 용도입니다.
- 요인: 연령대, 카메라 유형, 조명 등 성능에 영향을 줄 수 있는 집단, 장비, 환경입니다.
- 지표: 어떤 성능 지표를 보고하는지, 어떤 결정 임계값을 사용하는지, 해당 지표를 선택한 이유입니다.
- 평가 데이터: 테스트에 사용한 데이터셋과 선택 이유입니다.
- 학습 데이터: 모델이 학습한 데이터로, 공개 가능한 범위에서 최대한 자세히 설명합니다.
- 정량 분석: 각 요인을 개별적으로, 그리고 조합별로 나눈 결과입니다.
- 윤리적 고려 사항: 민감 데이터, 사람에 대한 위험, 적용한 완화 조치입니다.
- 주의 사항 및 권장 사항: 한 번도 테스트하지 않은 조건과 같은 알려진 공백입니다.
정량 분석은 모델 카드의 핵심입니다. 대표 점수 하나만 제시하면 특정 하위 그룹에 집중된 실패를 놓칠 수 있습니다. 따라서 논문에 제시된 CelebA 얼굴 데이터셋으로 학습한 웃음 탐지기 모델 카드 예시는 연령과 성별별 오류율을 따로 보고합니다. 이렇게 세분화한 평가는 알고리즘 편향과 데이터셋 편향을 드러냅니다. 객체 탐지 모델의 같은 섹션에는 클래스별 및 조건별 평균 정밀도(mAP)가 보고됩니다. 조건에는 작은 객체, 야간 이미지, 카메라별 결과 등이 포함되며 대상 하드웨어에서의 추론 지연 시간도 함께 제시합니다.
Hugging Face의 모델 카드#
Hugging Face Hub에서 모델 카드는 저장소의 README.md입니다. 사람을 위한 Markdown 섹션은 Hub가 작업, 라이선스, 데이터셋별 모델 필터링과 평가 결과 표시를 위해 파싱하는 YAML 메타데이터 헤더 아래에 배치됩니다. huggingface_hub 라이브러리는 구조화된 데이터에서 두 부분을 모두 생성합니다.
from huggingface_hub import EvalResult, ModelCard, ModelCardData
from torchvision.models import ResNet50_Weights
# Torchvision은 공개된 ImageNet 정확도를 각 가중치 세트와 함께 제공합니다
weights = ResNet50_Weights.IMAGENET1K_V2
top1 = weights.meta["_metrics"]["ImageNet-1K"]["acc@1"]
# 기계 판독이 가능한 메타데이터: 라이브러리, 학습 데이터, 평가 결과
result = EvalResult(
task_type="image-classification",
dataset_type="imagenet-1k",
dataset_name="ImageNet-1K",
metric_type="accuracy",
metric_value=top1,
)
card_data = ModelCardData(
model_name="resnet50", library_name="torchvision", datasets=["imagenet-1k"], eval_results=[result]
)
# 기본 템플릿 채우기: YAML 헤더 다음에 Markdown 섹션 배치
card = ModelCard.from_template(card_data, model_summary="ResNet-50 image classifier trained on ImageNet-1K.")
print(card.data.to_yaml())
print([line[3:] for line in card.content.splitlines() if line.startswith("## ")])YAML 출력에는 학습 데이터셋과 ImageNet-1K에서 80.858%의 top-1 정확도를 기록하는 model-index 블록이 나열되며, Hub는 이를 평가 결과로 표시합니다. 두 번째 줄은 Model Details와 Uses부터 Bias, Risks, and Limitations, Evaluation, Environmental Impact까지 템플릿의 섹션을 출력합니다. 이는 원 논문에 제시된 9개 섹션의 직접적인 후속 버전입니다. ImageNet
관련 문서#
- 데이터셋 데이터시트: Timnit Gebru와 동료들이 2018년에 제안한 문서로, 데이터셋의 수집 및 레이블링 방법과 사용 목적을 기록합니다. 모델 카드는 학습 데이터의 내용을 반복해서 설명하는 대신 해당 데이터의 데이터시트를 참조합니다.
- 시스템 카드: 여러 모델, 프롬프트, 안전 필터, 사람의 절차로 구성된 배포 AI 시스템을 설명합니다. Meta가 2022년에 이 용어를 도입했으며, OpenAI를 비롯해 대규모 언어 모델(LLM)을 개발하는 연구소는 이제 주요 모델 릴리스마다 시스템 카드를 게시합니다.
- 모델 레지스트리: 모델 파일, 버전, 계보를 저장하며, 카드는 등록된 각 버전에 적합한 용도를 설명합니다.
- 설명 가능한 AI(XAI): 모델이 개별 예측을 내린 이유를 설명하는 반면, 모델 카드는 전체 평가 세트에서 나타나는 동작을 설명합니다.
규제에 따라 일부 환경에서는 모델 카드가 요구 사항이 되었습니다. EU AI Act에 따라 범용 AI 모델 제공자는 2025년 8월 2일부터 학습 및 평가에 대한 기술 문서를 유지하고, 해당 모델을 기반으로 개발하는 개발자에게 기능과 한계에 관한 정보를 제공해야 합니다. 유럽연합 집행위원회의 범용 AI 실천 강령은 사용 목적, 학습 데이터, 에너지 소비 등 모델 카드와 유사한 항목을 포함하는 모델 문서 양식을 제공합니다. 모델 카드는 AI 거버넌스와 책임 있는 AI라는 더 광범위한 관행의 일부입니다.
모델 카드 최신 상태 유지#
모델 카드는 특정 모델 버전을 설명하므로 모델, 데이터 또는 배포 조건이 바뀔 때마다 업데이트됩니다. 프로덕션 모델 모니터링은 근거를 제공합니다. 데이터 드리프트나 새로운 실패 유형을 발견하면 다음 버전의 카드에 주의 사항으로 기록합니다.
모델 카드의 일부는 모델 파일에 포함할 수도 있습니다. Ultralytics YOLO26 모델을 내보내기하여 ONNX 또는 OpenVINO와 같은 형식으로 변환할 때 내보내기 도구는 학습 데이터셋, 작성자, 내보내기 날짜, 패키지 버전, 라이선스, 작업, 입력 크기, 클래스 이름을 설명하는 메타데이터를 포함합니다. 따라서 배포된 사본에도 모델의 정체와 탐지 대상이 기록됩니다.










