Prompt Enrichment

프롬프트 인리치먼트는 사용자의 초기 입력을 인공지능(AI) 모델에 제출하기 전에 관련 컨텍스트, 구체적인 지침 또는 보조 데이터로 보강하는 자동화된 프로세스입니다. 이 기술은 인간과 기계 간의 상호작용을 최적화하는 지능형 미들웨어 계층으로 작동하여, 대규모 언어 모델(LLM) 및 컴퓨터 비전 시스템이 포괄적인 쿼리를 수신하도록 보장합니다. 사용자가 생략할 수 있는 세부 정보(예: 과거 기본 설정, 위치 데이터 또는 기술적 제약 사항)를 주입함으로써, 프롬프트 인리치먼트는 사용자가 상세한 지침을 작성하는 전문가가 아니더라도 모델 출력의 정확도와 개인화 수준을 크게 향상시킵니다.

Link to this section인리치먼트의 메커니즘#

프롬프트 인리치먼트의 핵심 기능은 모호한 인간의 의도와 모델이 최적의 성능을 내기 위해 필요한 정확하고 데이터가 풍부한 입력 사이의 간극을 메우는 것입니다. 쿼리가 수신되면 시스템은 이를 분석하고 지식 그래프 또는 구조화된 데이터베이스에서 필요한 배경 정보를 검색합니다. 이렇게 검색된 데이터는 프로그래밍 방식으로 형식이 지정되어 원래 프롬프트에 추가됩니다.

예를 들어, 자연어 처리(NLP) 워크플로우에서 "상태가 어때?"와 같은 간단한 질문은 컨텍스트가 부족합니다. 인리치먼트 시스템은 활성 세션을 식별하고 트랜잭션 데이터베이스에서 최신 주문 번호를 검색한 후 프롬프트를 다음과 같이 다시 작성합니다: "사용자가 현재 배송 중인 주문 번호 #998에 대해 묻고 있습니다. 이 상태를 바탕으로 배송 업데이트를 제공하세요." 이 프로세스는 종종 벡터 데이터베이스를 활용하여 주입할 의미론적으로 관련된 컨텍스트를 빠르게 찾습니다.

Link to this section실제 애플리케이션 사례#

프롬프트 인리치먼트는 다양한 산업 분야에서 강력한 생성형 AI 애플리케이션을 배포하는 데 필수적이며, 텍스트 및 비전 기반 시스템을 모두 향상시킵니다:

1. 컨텍스트 인식 고객 지원: 자동화된 헬프데스크에서 챗봇은 인리치먼트를 사용하여 고객의 구매 내역과 기술 환경에 액세스합니다. 사용자에게 장치 버전을 묻는 대신, 시스템은 계정 메타데이터에서 이를 검색하여 프롬프트에 주입합니다. 이를 통해 AI 에이전트는 즉각적인 장치별 문제 해결 단계를 제공하여 고객 경험을 크게 향상시킬 수 있습니다.

2. 동적 컴퓨터 비전 구성: 보안 운영에서 사용자는 단순히 "야간 모드(Night Mode)" 설정을 토글할 수 있습니다. 시스템 내부에서 프롬프트 인리치먼트는 이러한 높은 수준의 의도를 YOLO-World와 같은 오픈 어휘 검출기를 위한 구체적인 객체 클래스로 변환합니다. 시스템은 "손전등", "의심스러운 움직임" 또는 "승인되지 않은 사람"을 구체적으로 스캔하도록 프롬프트를 강화하여 모델이 객체 탐지 초점을 동적으로 조정할 수 있게 합니다.

Link to this section예시: 동적 클래스 인리치먼트#

다음 Python 예제는 ultralytics 패키지를 사용한 프롬프트 인리치먼트 개념을 보여줍니다. 여기서 사용자의 높은 수준의 의도는 프로그램에 의해 모델이 스캔할 특정 설명 클래스 목록으로 보강됩니다.

from ultralytics import YOLO


def run_enriched_inference(user_mode):
    """Enriches a simple user mode into specific detection prompts."""
    # Load a YOLO-World model capable of open-vocabulary detection
    model = YOLO("yolov8s-world.pt")

    # Enrichment Logic: Map simple user intent to detailed class prompts
    context_map = {
        "site_safety": ["hard hat", "safety vest", "gloves"],
        "traffic": ["car", "bus", "traffic light", "pedestrian"],
    }

    # Inject the enriched context into the model
    enriched_classes = context_map.get(user_mode, ["object"])
    model.set_classes(enriched_classes)

    # The model now looks for the specific enriched terms
    print(f"Mode: {user_mode} -> Enriched Prompt: {enriched_classes}")


run_enriched_inference("site_safety")

Link to this section프롬프트 인리치먼트와 관련 개념 비교#

효과적인 머신 러닝 운영(MLOps)을 구현하려면 프롬프트 인리치먼트를 유사한 용어와 구별하는 것이 도움이 됩니다:

• 검색 증강 생성(RAG): RAG는 특정 인리치먼트 방법입니다. 이는 모델의 응답 근거를 마련하기 위해 외부 말뭉치에서 관련 문서를 가져오는 메커니즘을 엄격하게 지칭합니다. 인리치먼트는 RAG를 포함할 뿐만 아니라 복잡한 의미론적 검색을 수행하지 않고도 정적 세션 데이터, 사용자 메타데이터 또는 시스템 시간을 주입하는 것을 포함하는 더 넓은 개념입니다.
• 프롬프트 엔지니어링: 이는 효과적인 프롬프트를 설계하는 수동 작업입니다. 인리치먼트는 런타임에 프롬프트 엔지니어링 원칙을 동적으로 적용하는 자동화된 프로세스입니다.
• 프롬프트 튜닝: 이는 훈련 중에 "소프트 프롬프트(학습 가능한 텐서)"를 최적화하는 매개변수 효율적 미세 조정(PEFT) 기법입니다. 프롬프트 인리치먼트는 전적으로 실시간 추론 중에 발생하며 모델 가중치를 변경하지 않습니다.
• 퓨샷 러닝(Few-Shot Learning): 이는 프롬프트 내에 예제를 제공하여 모델에게 작업을 가르치는 것을 포함합니다. 인리치먼트 시스템은 종종 작업 유형에 따라 이러한 퓨샷 예제를 동적으로 주입하여 두 개념을 효과적으로 결합합니다.

Link to this section현대 AI 시스템에서의 관련성#

Ultralytics YOLO26 및 GPT-4와 같은 모델의 성능이 향상됨에 따라 병목 현상은 종종 입력의 품질로 이동합니다. 프롬프트 인리치먼트는 모델을 사실적이고 제공된 데이터에 근거하게 함으로써 LLM의 환각을 완화합니다. 컴퓨터 비전(CV) 분야에서는 시스템에 입력되는 텍스트 프롬프트를 수정하기만 하면 재학습 없이도 새로운 환경에 즉시 적응할 수 있는 유연한 제로샷 러닝 검출 시스템을 구현할 수 있습니다. 이러한 유연성은 텍스트와 이미지 모두를 추론할 수 있는 확장 가능한 멀티모달 AI 솔루션을 구축하는 데 필수적입니다. 이러한 시스템의 근거 마련을 위해 사용되는 데이터셋을 관리하려는 사용자는 종종 Ultralytics Platform과 같은 도구를 사용하여 정보를 효과적으로 구성하고 주석을 답니다.