PatentPT: LLM 기반 솔루션을 활용한 특허 검색

이번 게시물에서는 마드리드 Google for Startups Campus에서 Ultralytics가 주최한 YOLO VISION 2023(YV23) 행사에서 얻은 또 다른 인사이트를 살펴봅니다.

이번 블로그에서는 Activeloop의 창립자 Davit Buniatyan이 특허 검색을 위한 LLM 기반 솔루션인 PatentPT의 탄생 과정을 소개한 강연을 살펴봅니다.

PatentPT 공개#

방대한 특허 데이터와 번거로운 검색 과정에 부담을 느낀 적이 있으신가요? PatentPT는 바로 이러한 문제를 해결하기 위해 개발되었습니다.

Davit Buniatyan이 이끄는 이번 강연에서는 풍부한 특허 코퍼스에서 특허 문구 자동 완성, 초록 및 청구항 생성, 고급 검색 기능을 구현하기 위해 대규모 언어 모델(LLM)을 미세 조정하고 배포하는 실용적인 인사이트를 공유합니다.

Activeloop와 DeepLake: AI를 위한 통합 데이터 스토리지 계층#

PatentPT의 세부 사항을 살펴보기 전에 Activeloop가 만든 AI용 데이터베이스 DeepLake를 알아보겠습니다. AI 데이터 스택이 다양한 저장 시스템으로 분산된 상황에서 DeepLake는 AI 워크플로를 간소화하는 통합 데이터 저장 계층을 제공합니다.

메타데이터부터 비정형 데이터와 임베딩까지 저장할 수 있는 DeepLake는 데이터 과학자가 데이터 관리의 번거로움 없이 ML 모델 학습에 집중하도록 프로세스를 간소화합니다.

DeepLake의 아키텍처 및 기능 살펴보기#

이제 DeepLake의 아키텍처와 기능을 자세히 살펴보겠습니다. DeepLake는 오픈 소스 구성 요소와 서버리스 설계를 통해 객체 스토리지에 데이터를 저장하고 버전을 관리하며 ML 모델에 직접 연결할 수 있습니다. 또한 임베딩을 변경하지 않고 검색 정확도를 높이는 Deep Memory 기능도 제공합니다.

Deep Memory 데모: 특허 검색의 발전#

Davit은 Deep Memory가 특허 검색을 개선하는 과정을 보여주는 라이브 데모를 통해 이 워크플로를 자세히 살펴보도록 했습니다. Deep Memory가 기존 솔루션보다 훨씬 낮은 비용으로 1초 미만의 쿼리 응답 시간을 제공하면서 정확도를 최대 22%까지 높이는 과정을 직접 확인할 수 있었습니다.

그 결과 특허 데이터베이스를 끝없이 스크롤하지 않고도 더 빠르고 정확하게 특허를 검색할 수 있습니다.

PatentPT의 탄생: 구상에서 현실로#

PatentPT가 어떻게 탄생했는지 궁금하신가요? 시간을 되돌려 이 솔루션을 구축하기 위해 진행된 포괄적인 단계를 자세히 살펴보겠습니다. LLM 모델 학습과 미세 조정부터 커스텀 기능 개발 및 검색 API 배포까지, Davit Buniatyan은 Activeloop 팀이 수행한 각 단계를 소개했습니다.

LLM의 힘을 활용하다: AI 솔루션의 미래#

전반적으로 PatentPT는 특허 검색과 같은 전문 분야에서 LLM 기반 솔루션의 잠재력을 보여줍니다. DeepLake에 관한 Activeloop의 작업은 비정형 데이터를 더 빠르고 저렴하게 활용할 수 있는 AI 솔루션의 가능성을 보여줍니다.

마무리#

AI가 계속 발전하는 가운데 진정한 가치는 기술 자체뿐만 아니라 실제 문제를 해결하는 데 기술이 어떻게 도움이 되는지에 있습니다. 최신 발전 소식을 확인하려면 커뮤니티에 참여하고 문서와 GitHub 리포지토리를 확인해 보세요!