MongoDB Atlas Vector Search와 RAG로 고객 서비스를 혁신하세요. 통화 녹음을 검색 가능한 인사이트로 변환하여 더 빠르고 정확한 응답을 제공하세요.
제품: MongoDB Atlas, MongoDB Atlas Search, MongoDB Atlas Vector Search
파트너: Amazon Web Services, 코히어, LangChain
솔루션 개요
많은 보험 회사의 주요 과제 상담원이 정확한 정보를 신속하게 찾아 고객에게 제공하기 어려운 비효율적인 콜 센터입니다. 연구에 따르면 우수한 고객 경험을 보유한 기업이 경쟁 기업보다 성과가 뛰어나다고 합니다. 인스턴스 들어, 만족한 고객은 정책을 갱신할 가능성이 80% 더 높으며, 이는 성장에 직접 기여합니다.
이 솔루션은 MongoDB 콜 센터 운영을 혁신할 수 있는 방법을 보여줍니다. AI 와 분석 활용하여 구조화되지 않은 오디오 파일을 검색 가능한 벡터로 변환합니다. 이를 통해 기업은 관련 정보에 빠르게 액세스 , 성공적인 해결 전략과 자주 묻는 질문을 식별하고, 전반적인 고객 서비스 경험을 개선할 수 있습니다.
그림 1 은 원본 오디오 녹음을 벡터로 변환하는 방법을 보여줍니다. 파이프라인 다음과 같이 작동합니다.
원본 오디오 파일 저장: 과거 통화 녹음을 원래 오디오 형식으로 저장합니다.
오디오 파일 처리: AI 및 음성-텍스트 변환, 콘텐츠 요약, 벡터화 등의 분석 서비스를 사용합니다.
벡터 및 메타데이터 저장: 생성된 벡터와 해당 메타데이터(예: 통화 타임스탬프 및 에이전트 정보)를 운영 데이터 저장 에 저장합니다.
그림 1. 고객 서비스 호출 인사이트 추출 및 벡터화 흐름
데이터가 운영 데이터 저장 내에 벡터 형식으로 저장되면 실시간 애플리케이션에서 액세스할 수 있게 됩니다. 이제 Vector Search는 이 데이터를 사용하거나 RAG(검색-증강 생성) 아키텍처에 통합할 수 있습니다. 이 접근 방식은 LLM(Large Language Models) 과 외부 지식 소스를 결합하여 보다 정확하고 유익한 출력을 생성합니다.
참조 아키텍처
그림 2에 표시된 시스템 아키텍처에는 다음과 같은 모듈과 함수가 포함되어 있습니다.
Amazon Transcribe 는 고객의 전화에서 나오는 오디오를 수신하여 텍스트로 변환합니다.
코히어는 트랜스크라이브의 텍스트를 벡터로 변환하는 Amazon 베드락을 통해 임베딩 모델을 제공합니다.
Atlas Vector Search 쿼리 벡터를 수신하고 데이터베이스 에서 가장 의미론적으로 유사한 FAQ 포함하는 문서 반환합니다.
그림 2. 시스템 아키텍처 및 모듈
전체 구현 세부 정보는 Github 리포지토리 참조하세요.
주요 학습 사항
AI 서비스로 콜센터 혁신: 음성 텍스트 변환, 벡터 임베딩, 벡터 검색 과 같은 AI 서비스를 MongoDB Atlas 와 통합하여 실행 가능한 음성 데이터로 기존 콜센터를 혁신합니다.
RAG 기반 아키텍처 통합: RAG 아키텍처와 Vector Search를 결합하여 더 빠른 에이전트 응답, 챗봇 및 자동화된 워크플로를 생성합니다.
실시간 에이전트 지원 구현: 에이전트 지원을 통합하여 고객 만족도 향상, 로열티 강화, 재무 성과 개선 등의 비즈니스 성과를 높일 수 있습니다.
이 솔루션은 복잡한 상호 작용이 필요한 고급 애플리케이션의 기반 역할을 하는 에이전트 워크플로, LLM 및 하이브리드 검색 통한 다단계 프로세스 등을 제공합니다. 또한 챗봇 및 음성 봇 기능을 개선하여 고객에게 보다 관련성 있고 개인화된 응답을 제공할 수 있습니다. .
작성자
Luca Napoli, MongoDB
Sebastian Rojas Arbulu, MongoDB