GPT-4

GPT-4는 OpenAI의 GPT(생성형 사전 학습 트랜스포머) 시리즈의 네 번째 모델입니다. 2023년 3월 14일 출시된 대규모 멀티모달 모델로 이미지와 텍스트를 입력받아 텍스트를 생성합니다. 모의 변호사 시험에서 응시자 상위 약 10%에 해당하는 점수를 받았으며, GPT-3.5는 하위 약 10%의 점수를 받았습니다. GPT-4는 ChatGPT Plus와 Microsoft Bing Chat의 기반 모델이 되었습니다. GPT-4 기술 보고서는 경쟁과 안전을 이유로 아키텍처, 모델 크기, 하드웨어, 학습 연산량, 데이터셋 구성 정보를 공개하지 않았으므로 GPT-4의 파라미터 수는 발표된 적이 없습니다.

기능 및 벤치마크#

GPT-4는 지식 벤치마크인 MMLU에서 86.4%를 기록해 GPT-3.5의 70.0%를 앞섰습니다. OpenAI가 MMLU를 26개 언어로 번역했을 때 GPT-4는 그중 24개 언어에서 이전 모델의 영어 점수를 넘어섰습니다. 최초 출시 모델의 컨텍스트 윈도우는 토큰 8,192개였고, 32,768개 토큰 버전도 제공되었습니다. GPT-3.5의 컨텍스트 윈도우는 4,096개 토큰이었습니다. OpenAI는 연산량이 GPT-4의 1/1,000 이하인 모델로 학습 완료 전에 GPT-4의 성능 일부를 예측했다고 보고했으며, 이는 스케일링 법칙의 적용 사례입니다.

모델은 여전히 환각을 일으킵니다. OpenAI의 내부 적대적 사실성 평가에서 GPT-3.5보다 19%포인트 높은 점수를 기록했으며, 사전 학습 데이터는 2021년 9월에 끝나 이후 사건에 대한 지식은 없었습니다. 능력도 고르지 않았습니다. 2023년 Boston Consulting Group 컨설턴트 758명을 대상으로 한 현장 실험에서는 GPT-4의 능력 범위 안에 있는 작업에서 작업 품질이 높아졌지만, 범위를 약간 벗어난 작업에서는 정확도가 낮아졌습니다. 이 현상을 울퉁불퉁한 지능이라고 합니다.

학습 및 정렬#

GPT-4는 공개 데이터와 라이선스가 부여된 데이터를 사용해 다음 토큰을 예측하도록 사전 학습된 후, 인간 피드백 기반 강화 학습(RLHF)을 통해 미세 조정되었습니다. OpenAI는 출시 전에 모델을 정렬하는 데 6개월을 들였고, AI 레드팀 테스트의 한 형태인 적대적 테스트를 위해 50명이 넘는 전문가를 참여시켰습니다. 인간의 선호도 순위로 학습한 일반적인 보상 모델과 함께, 규칙 기반 보상 모델도 추가했습니다. 이는 각 응답을 사람이 작성한 기준표에 따라 평가하는 제로샷 GPT-4 분류기로, 유해한 요청은 거부하고 안전하다고 알려진 요청에는 답변하도록 보상합니다.

GPT-3.5와 비교했을 때, GPT-4는 허용되지 않는 콘텐츠 요청에 응답하는 빈도가 82% 낮았으며, 의료 조언과 같은 민감한 요청에 대한 OpenAI 정책을 29% 더 자주 준수했습니다.

이미지 입력#

GPT-4는 차트, 스크린샷, 손글씨 메모, 사진을 읽을 수 있었으며, 출시 시연에서는 손으로 그린 웹사이트 스케치를 작동하는 HTML로 변환했습니다. 이미지 입력은 시각 장애인과 저시력 사용자를 위해 주변 환경을 설명하는 Be My Eyes의 Be My AI 기능을 통해 처음 제공되었으며, 2023년 9월 GPT-4V로 ChatGPT에 도입되었습니다. 비전 기능을 갖춘 GPT-4는 비전-언어 모델(VLM)이며, LLaVA와 같은 오픈 VLM은 시각적 지시 튜닝을 위한 학습 대화를 작성하는 데 텍스트 전용 GPT-4를 사용했습니다.

GPT-4는 텍스트로 답변하며, 정확한 바운딩 박스를 그리는 것처럼 정밀한 공간 위치 파악이 필요한 작업에는 어려움을 겪으므로 컴퓨터 비전 파이프라인은 전용 객체 탐지 모델과 GPT-4를 함께 사용합니다. Ultralytics LLM 인터페이스를 사용하면 두 가지를 하나의 스크립트에서 처리할 수 있습니다. YOLO26은 프레임의 객체를 찾고 위치를 파악하며, 탐지 결과에 문장으로 된 설명이 필요하면 인터페이스의 image 인수가 해당 프레임과 프롬프트를 OpenAI 호환 비전 모델로 전송합니다.

후속 모델 및 관련 모델#

2020년에 출시된 GPT-3은 1,750억 개의 파라미터와 2,048토큰 컨텍스트를 갖춘 텍스트 전용 모델이었습니다. 2023년 11월 발표된 GPT-4 Turbo는 가격을 낮추면서 컨텍스트를 128,000토큰으로 확장했습니다. 2024년 5월 출시된 GPT-4o는 하나의 네트워크에서 텍스트, 오디오, 이미지를 처리하고 최소 232밀리초 만에 음성으로 답변했으며, GPT-4.1은 2025년 4월 API에 100만 토큰 컨텍스트를 도입했습니다. o1과 같은 추론 모델은 다른 경로를 따랐습니다. 답변 전에 긴 사고 과정을 작성하도록 강화 학습으로 학습되었으며, GPT-5는 2025년 8월 라우터를 통해 빠른 모델과 추론 모델을 결합했습니다.

OpenAI는 2025년 4월 30일 ChatGPT에서 GPT-4를 GPT-4o로 대체했으며, 지원 종료 일정에 따르면 gpt-4 및 gpt-4-turbo의 API 종료일은 2026년 10월 23일이고 권장 대체 모델은 gpt-5.6-sol입니다.