LLM 및 RAG에 대한 벡터 검색을 사용한 클레임 관리

솔루션 개요

보상 청구 조정자의 가장 큰 과제 중 하나는 다양한 시스템 및 데이터 형식의 정보를 집계하는 것입니다. 수년 동안 보험 회사는 데이터스토어에 테라바이트급의 비정형 데이터 를 축적해 왔으며, 이는 비즈니스 인사이트를 얻고 더 나은 고객 경험을 제공하며 운영을 간소화하는 데 도움이 될 수 있습니다. 그러나 많은 기업이 이를 활용하지 못하고 있습니다.

조직 이러한 과제를 극복할 수 있도록 MongoDB 사용하여 조회 보강 생성(RAG) 시스템에서 Atlas Vector Search 와 LLM을 결합하는 클레임 관리 솔루션을 빌드 할 수 있습니다. 이 프레임워크 조직이 기본 기본 모델의 한계를 고 (Go) 넘고 독점 데이터를 사용하여 모델이 상황을 인식하도록 하여 AI의 잠재력을 최대한 활용하여 운영을 간소화할 수 있도록 도와줍니다.

참고 아키텍처

MongoDB 문서를 벡터 임베딩 및 관련 메타데이터 와 함께 저장하여 다른 곳에서 데이터를 조회 필요가 없도록 통합 개발 환경을 제공합니다. 이를 통해 사용자는 별도의 기술을 유지 관리하는 대신 애플리케이션 빌드에 집중할 수 있습니다. 궁극적으로 MongoDB Vector Search에서 얻은 데이터는 LLM에 컨텍스트로 제공됩니다.

RAG 쿼리 흐름의 프로세스 는 다음과 같습니다.

1. 사용자가 언어 로 프롬프트를 작성합니다.

2. Voyage AI의 임베딩 모델은 프롬프트를 벡터화합니다.

3. Atlas Vector Search 벡터화된 프롬프트를 사용하여 관련 문서를 조회 .

4. LLM은 컨텍스트와 원래 질문을 모두 사용하여 답변 생성합니다.

5. 사용자는 답변 받습니다.

그림 1. RAG 쿼리 흐름

데이터 모델 접근 방식

데모 솔루션에서 데이터 모델 실제 보험 청구 데이터를 에뮬레이션하는 간소화된 설계입니다. 이 접근 방식은 MongoDB의 유연한 문서 모델 활용하여 관련 문서 와 함께 임베딩을 저장하는 다양한 데이터 구조를 처리하다 .

claims_final 컬렉션 클레임 정보를 저장합니다. 관련 필드는 claimDescription 필드 와 해당 임베딩 claimDescriptionEmbedding입니다. 이 임베딩은 인덱싱되어 사용자 프롬프트와 관련된 문서를 조회 데 사용됩니다. 이 컬렉션 의 문서는 다음과 같습니다.

{
"_id": {
   "$oid": "65cc809c76da22d0089dfb2e"
},
"customerID": "c105",
"policyNumber": "p105",
"claimID": "cl105",
"claimStatusCode": "Subrogation",
"claimDescription": "High winds caused ...",
"totalLossAmount": 4200,
"claimFNOLDate": "2023-10-27",
"claimClosedDate": "2024-09-01",
"claimLineCode": "Auto",
"damageDescription": "Roof caved in ...",
"insurableObject": {
   "insurableObjectId": "abc105",
   "vehicleMake": "Make105",
   "vehicleModel": "Model105"
},
"coverages": [
   {
      "coverageCode": "888",
      "description": "3rd party responsible"
   },
   {
      "coverageCode": "777",
      "description": "Vehicle rental/loaner service for customer"
   }
],
"claimDescriptionEmbedding": [-0.017, ..., 0.011],
"damageDescriptionEmbedding": [-0.047, ..., -0.043],
"photo": "105.jpg",
"photoEmbedding": [9.629, ..., 14.075]
}

솔루션 빌드

자세한 설정 지침은 이 Github 리포지토리의 README 를 참조하세요. 이 지침은 다음 단계를 가이드 .

{
   "fields": [
      {
         "type": "vector",
         "path": "claimDescriptionEmbeddingCohere",
         "numDimensions": 350,
         "similarity": "cosine"
      }
   ]
}

프런트엔드와 백엔드를 모두 실행 해야 합니다. LLM에 질문하고, 답변 얻고, 컨텍스트로 사용되는 참고 문서를 볼 수 있는 웹 UI 액세스 할 수 있습니다.

지금 MongoDB의 시맨틱 검색 도구를 사용해 보려면 Atlas Vector Search 빠른 시작 가이드방문하세요.

주요 학습 사항

• 텍스트 임베딩 생성: 다양한 모델 및 배포서버 옵션을 사용하여 임베딩을 생성할 수 있습니다. 개인정보 및 데이터 보호 요구 사항을 고려하는 것이 중요합니다. 데이터를 서버에 유지해야 하는 경우 모델을 로컬로 배포 할 수 있습니다. 그렇지 않으면 이 튜토리얼에 설명된 대로 API 호출하고 벡터 임베딩을 다시 가져올 수 있습니다. Voyage AI 또는 오픈 소스 모델을 사용할 수 있습니다.

• 벡터 검색 인덱스 생성: MongoDB Atlas 에서 벡터 검색 인덱스를 빌드 할 수 있습니다. 또는 로컬 배포를 위한 인덱스를빌드 할 수도 있습니다.

• 벡터 검색 쿼리 수행: MongoDB의 집계 파이프라인 사용하여 벡터 검색 쿼리를 실행 워크플로의 여러 작업을 연결할 수 있습니다. 이 접근 방식을 사용하면 다른 프로그래밍 언어 학습 거나 컨텍스트를 변경할 필요가 없습니다.

• 빠른 RAG 구현 개발: MongoDB Atlas Vector Search와 LLM을 결합하는 LangChain 프레임워크 사용하여 빠른 RAG 구현 개발할 수 있습니다.

작성자

• Luca Napoli, 산업 솔루션, MongoDB

• Jeff Needham, 산업 솔루션, MongoDB