MongoDB Atlas Vector Search와 대규모 언어 모델을 사용하여 은행 애플리케이션의 상호 작용을 개선하세요.
산업: 금융 서비스
파트너: Amazon 기반암
솔루션 개요
금융 서비스 고객은 대화형 뱅킹을 통해 자신의 요구 사항을 실시간 예측하고 충족하는 디지털 플랫폼과 교류합니다.
이 접근 방식은 챗봇 및 가상 비서와 같은 생성 인공 지능(Gen AI) 기술을 사용하여 기본 은행 운영을 개선합니다. 은행은 Gen AI 활용하여 셀프 서비스 디지털 채널을 통해 상황에 맞는 맞춤형 상호 작용을 제공함으로써 고객 경험 개선할 수 있습니다. 쿼리를 즉시 해결하는 AI 기반 챗봇부터 맞춤형 금융 조언 제공하는 예측 분석 에 이르기까지 인터랙티브 뱅킹은 사용자에게 더욱 매력적이고 직관적인 금융 경험을 제공합니다.
은행은 AI 기반 어드바이저를 디지털 뱅킹 경험에 통합함으로써 즉각적이고 관련성 높은 답변을 제공할 수 있습니다. 그 결과 고객이 지원을 받고 있다고 느끼는 더 원활하고 사용자 친화적인 상호 작용이 이루어집니다.
참조 아키텍처
이 솔루션에서 MongoDB 와 Amazon 베드락은 이용 약관과 같은 은행 문서를 MongoDB 문서 내에 벡터화된 임베딩으로 저장 . 다음 그림은 이 솔루션의 아키텍처를 보여줍니다.
그림 1. AI 기반 인터랙티브 뱅킹 아키텍처
MongoDB AI 기술 계층과 애플리케이션 계층 사이에서 데이터 저장 계층 역할을 합니다. 이를 통해 구조화되지 않은 데이터와 구조화된 데이터를 함께 저장하고 조직이 보다 통합된 데이터 세트로 운영할 수 있도록 함으로써 데이터 관리 간소화할 수 있습니다. 기업은 데이터 사일로를 허물어 모든 디지털 플랫폼에서 보다 일관적인 고객 경험을 제공할 수 있습니다.
데이터 모델 접근 방식
이 솔루션은 MongoDB의 유연성을 사용하여 PDF의 텍스트 청크와 해당 임베딩을 모두 동일한 문서 내에 저장 . 이를 통해 추가 기술이나 기능 없이도 쿼리를 간소화하고 고성능을 보장할 수 있습니다. 이를 통해 기업은 MongoDB의 최신 멀티클라우드 데이터베이스 플랫폼에서 AI 가 풍부한 애플리케이션을 빌드 실시간, 비정형 및 AI 강화 데이터를 통합할 수 있습니다.
아래 이미지는 이 솔루션에 사용된 데이터의 예시 보여줍니다.
그림 2. 텍스트 청크 및 해당 임베딩이 있는 단일 문서
솔루션 빌드
이 솔루션에는 다음과 같은 Github 리포지토리가 있습니다.
솔루션을 실행 하려면 리포지토리에서 README 파일을 참조하세요.
아키텍처에는 다음과 같은 워크플로가 있습니다.
1. 문서 전처리
먼저, 이용 약관 PDF와 같은 텍스트 기반 구조화되지 않은 데이터를 슬라이딩 창 기술을 사용하여 처리하고 청크 로 변환합니다. 이렇게 하면 청크 간의 전환 데이터가 보존되어 연속성과 컨텍스트가 유지됩니다.
구조화되지 않은 데이터가 벡터화된 청크로 변환되면 임베딩 모델을 통과하여 벡터 임베딩을 생성합니다. 요구 사항에 따라 임베딩 모델을 선택할 수 있습니다. 이 데모는 Amazon Web Services 기반에서 Cohere의 cohere.embed-english-v3 모델을 사용합니다.
청크와 해당 벡터는 모두 MongoDB Atlas 에 저장됩니다. 이 데모에서는 SuperDuper Python 프레임워크 사용하여 AI 모델 및 워크플로를 MongoDB 와 통합합니다.
2. 벡터 검색 및 쿼리
청크와 임베딩이 MongoDB 에 저장된 후에는 시맨틱 쿼리에 MongoDB Atlas Vector Search 를 사용할 수 있습니다.
3. 챗봇 사용
이 솔루션의 챗봇은 MongoDB Atlas Vector Search와 사전 훈련된 LLM을 기반 . 사용자가 질문을 입력하면 해당 질문이 벡터화되고 MongoDB Atlas Vector Search를 사용하여 유사한 임베딩이 있는 문서를 찾습니다.
관련 문서가 검색된 후 이 데이터는 LLM으로 전송됩니다. 이 데모에서는 Amazon 베드락에 포함된 Atronic의 Claude를 사용합니다. LLM은 조회된 문서를 컨텍스트로 사용하여 보다 포괄적이고 정확한 응답을 생성합니다. 이 프로세스RAG(검색 강화 생성)라고 합니다. RAG는 시맨틱 검색 과 언어 모델 생성을 결합하여 챗봇이 정확한 답변을 제공하는 기능 향상시킵니다.
그림 3. 작동 중인 Leafy Bank 챗봇
주요 학습 사항
챗봇으로 사용자 경험 향상: 챗봇과 같은 AI 기반 기술은 상황에 맞는 즉각적인 응답을 제공하여 고객 상호 작용을 간소화하여 사용자가 복잡한 이용 약관을 탐색하지 않고도 독립적으로 은행 운영을 탐색할 수 있도록 합니다.
Atlas Vector Search PDF 검색 지원합니다 : MongoDB 데이터 청킹과 Atlas Vector Search 사용하여 밀도가 높은 법률 문서를 효율적으로 쿼리할 수 있도록 지원하여 고객이 정확하고 상황에 맞는 풍부한 답변을 받을 수 있도록 보장합니다.
기술 통합을 가능하게 하는 MongoDB : MongoDB와 Vector Search, LLM 및 전용 검색 인프라를 통합하면 금융 기관이 AI 솔루션을 확장하다 고객 요구 사항이 증가함에 따라 성능과 응답성을 개선할 수 있습니다.
작성자
Luis Pazmino Diaz, FSI EMEA 수석, MongoDB
Ainhoa Múgica, MongoDB 산업 솔루션 수석 전문가
Pedro Bereilh, MongoDB 산업 솔루션
Andrea Alaman Calderon, MongoDB 산업 솔루션 수석 전문가