MongoDB 및 Dataworkz로 에이전트 RAG 챗봇 출시

에이전트란?

에이전트는 환경과 그 맥락 내의 관련 데이터에 대한 인식을 가진 인공적인 계산 엔티티입니다. 이 에이전트는 전자 상거래의 경우 상호 작용하거나 필요에 따라 복잡한 작업의 일부를 수행하는 데 사용할 수 있습니다.

검색 증강 생성(RAG)

검색 증강 생성은 대규모 언어 모델(LLM)을 독점 데이터로 보강하여 보다 정확하고 문맥을 인식하는 응답을 생성하는 동시에 환각을 줄이는 데 사용되는 접근 방식입니다.

그림 1 일반 RAG

에이전트 RAG

에이전틱 RAG는 AI 에이전트 기반의 RAG 구현을 도입함으로써 이를 한 단계 더 발전시킵니다. 이 모델에서는 에이전트가 다양한 도구와 기능에 접근할 수 있어 단순 정보 검색과 생성뿐만 아니라 계획까지 수립할 수 있습니다. 에이전트는 특정 정보를 조회해야 하는지 여부를 판단하고 조회에 사용할 도구를 선택하며 쿼리를 작성할 수 있습니다. 이러한 역량은 에이전트가 여러 데이터 소스에서 정보를 가져오고 하나 이상의 소스를 활용해야 응답을 생성할 수 있는 복잡한 쿼리도 처리할 수 있도록 해주기 때문에 매우 중요합니다.

이 기술이 여러 산업 분야에서 고객 상호작용을 증진시키고 프로세스를 간소화하는 데 얼마나 큰 잠재력을 갖는지 상상해볼 수 있습니다.

그림 2. 에이전트 RAG

자세한 내용을 보려면 Dataworkz Agentic RAG.를 참조하세요.

그림 3. 전통적 RAG와 에이전트형 RAG의 비교

소매 산업에 미치는 영향

생성형 인공지능은 소매 산업을 혁신하고 있습니다. 2024년에는 소비자의 4분의 1이 쇼핑 경험에 AI를 활용했으며, 이는 전년 대비 4% 증가한 수치입니다. 이처럼 빠르게 확장되면서 혁신의 잠재력도 여전히 무궁무진합니다.

소매 업계에서 생성형 인공지능 사용 사례는 다음과 같습니다.

• 고객 지원 챗봇 빌드: 언제든 고객을 지원할 수 있으며, 기업의 정책과 사용자의 이력 및 선호도를 인식하는 실시간 생성형 AI 기반 지원 챗봇을 상상해 보세요.

• 맞춤형 제품 추천: 고객의 특정 선호도, 필요사항, 및 과거 주문 내역을 기반으로 추천을 제공하면 쇼핑 경험이 고객에게 더 맞춤화되어 즐거움을 주고 구매로 이어질 가능성이 높아집니다.

• 동적 마케팅 콘텐츠 생성: 고객에게 신선하고 관련성 있는 콘텐츠를 제공하기 위해 고객 맞춤형 동적 프로모션, 이메일 또는 메시지를 생성합니다. 이는 참여가 높아지고, 매출이 증가하며, 고객 유지율이 향상되는 결과를 가져옵니다.

위의 모든 사례는 MongoDB와 Dataworkz가 실제 현장에서 소매업체들이 의미 있는 고객 경험을 구축할 수 있도록 이미 지원하고 있음을 보여줍니다.

Dataworkz 소개

Dataworkz는 엔터프라이즈급 RAG-as-a-Service 플랫폼으로 조직의 AI 애플리케이션 구축 및 배포 방식을 혁신합니다. Dataworkz의 핵심은 그래프 최적화 검색이 결합된 고급 에이전트 기반 아키텍처에 있으며, 대기업이 몇 달이 아닌 몇 시간 만에 정교한 RAG 애플리케이션을 출시할 수 있도록 지원합니다.

이 플랫폼은 RAG 개발의 모범 사례를 자동으로 구현하는 직관적인 노코드 빌더로 인해 전문 AI 팀의 필요성을 없앱니다. 전통적인 방식은 사용자를 초기 아키텍처 결정에 제한하지만 Dataworkz는 빠른 실험을 가능하게 합니다. 사용자는 프로덕션에 적용하기 전에 통제된 환경에서 다양한 검색 전략, 프롬프트의 다양한 형태 및 모델 조합을 시험할 수 있습니다.

데이터 수집부터 프로덕션 배포까지, Dataworkz는 확장, 디버깅, 운영을 위한 엔터프라이즈급 기능과 함께 전체 RAG 라이프사이클을 관리합니다.

주요 차별화 요소:

• 복잡한 관계를 위한 그래프 최적화 지식 검색

• 정교한 추론을 위한 에이전트 기반 아키텍처.

• 내장된 모범 사례를 갖춘 코드 없는 빌더.

• 실험부터 프로덕션까지 전체 라이프사이클 지원

• BYO(bring your own) 유연성 - LLM, 임베딩 모델, 벡터 데이터베이스.

• 엔터프라이즈급 보안 및 확장성

Fortune 500대 기업이 신뢰하는 Dataworkz는 복잡한 AI 인프라를 구축하고 유지 관리하는 전통적인 오버헤드 없이 프로덕션 준비가 완료된 RAG 애플리케이션을 제공합니다.

MongoDB와 Dataworkz 연동

​​MongoDB와 Dataworkz의 강점을 활용함으로써 조직은 개발 복잡성과 시장 출시 시간을 최소화하면서도 강력하고 확장 가능하며 정확한 생성형 AI 애플리케이션을 개발할 수 있습니다.

Dataworkz는 모든 형식의 비정형 데이터를 추출하고 청크 전략을 구성하며 벡터 임베딩을 생성할 수 있는 포인트 앤 클릭 경험을 제공하여 RAG 파이프라인 구축 프로세스를 간소화합니다. Dataworkz RAG 빌더는 개발자가 다양한 검색 메커니즘(어휘적, 시맨틱 또는 그래프)을 선택하고, 사용자 질문에 대한 답변 컨텍스트를 구축하기 위해 서로 다른 임계값을 설정할 수 있도록 지원합니다.

이 통합은 실시간 데이터 처리 및 분석을 가능하게 하며, 최신 정보를 필요로 하는 생성형 인공지능 애플리케이션에 필수적입니다. 이 역량은 AI 모델이 최신 데이터를 사용할 수 있도록 하여 생성된 응답의 정확성과 관련성을 향상시킵니다.

에이전트 RAG 아키텍처

혁신적인 시스템을 구축하려면 벡터 검색 기술을 주로 사용하는 기존 RAG 시스템을 운영 데이터베이스의 최신 정보와 통합해야 합니다.

Atlas Vector Search는 벡터 임베딩에 대한 내장 지원을 제공하여 별도의 벡터 데이터베이스가 필요 없어지고, 아키텍처가 단순해지며 복잡성이 줄어듭니다.

이 부분에서 에이전틱 RAG가 빛을 발합니다. Dataworkz 에이전트를 활용하면 소매업체가 도구로 구성된 MongoDB 컬렉션에 대해 정책적으로 관리되는 액세스를 제공할 수 있습니다. 많은 경우 고객은 기본 컬렉션을 추상화하는 API 계층을 운용하며 Dataworkz는 REST API 또는 GraphQL로 통합될 수 있습니다.

또한 Dataworkz에 구성된 모든 RAG 파이프라인은 에이전트가 사용할 수 있는 도구로 제공될 수 있습니다. 이를 통해 에이전트는 사용자의 질문에 따라 SharePoint 사이트, Confluence 위키 페이지, 혹은 마크다운 문서 내 비정형 데이터를 이해할 수 있습니다.

MongoDB를 데이터 플랫폼으로 활용하는 애플리케이션을 보유한 기존 소매업체들은 Dataworkz의 MongoDB와의 긴밀한 통합을 통해 AI 도입을 앞당기고 agentic RAG를 솔루션에 통합할 수 있습니다.

Dataworkz 에이전트는 여러 데이터 소스에 액세스할 수 있으며, 추론형 LLM을 사용해 사용자의 질문에 어떤 도구를 활용할지 결정합니다. 에이전트는 다양한 MongoDB 컬렉션 또는 여러 데이터베이스를 동적으로 전환하며, 배송 상태, 고객 프로필과 선호도, 주문 내역 등 구조화된 데이터를 가져올 수 있습니다. 또한 제공자가 공개한 API를 통해 ERP(Epicor), CRM(Salesforce) 등 타사 솔루션도 통합할 수 있습니다. GraphQL로 제공되는 내부 서비스 역시 널리 사용되는 통합 유형입니다. 이러한 도구의 조합을 바탕으로 에이전트는 사용자의 질문을 맥락 속에서 이해하고, 사용자의 경험과 데이터에 맞춰 고도로 개인화된 응답을 제공합니다.

Dataworkz 에이전트의 작동 방식은 다음과 같습니다.

1. Dataworkz 에이전트 프레임워크는 사용 사례를 매장 정책 문의 답변, 추천 제공, 주문 검색 등과 같은 시나리오로 나눕니다. 각 시나리오는 해당 시나리오에 적합한 도구 세트를 갖추고 있습니다. 사용자가 에이전트와 상호작용하면 분류기가 적절한 시나리오를 선택합니다.

2. 그 후 에이전트는 추론 LLM을 활용하여 질문에 대한 답변을 계획합니다. 사용자의 질문, 대화 맥락, 메모리 그리고 시나리오에서 사용 가능한 도구(예: MongoDB 컬렉션 액세스 등)를 고려해 LLM은 질문에 답하기 위해 정보를 조회하는 단계의 순서를 생성합니다. 이 과정은 반복적입니다. 각 반복 후, 도구를 통해 충분한 컨텍스트가 조회되었는지, 아니면 더 많은 반복, 계획, 실행이 필요하여 추가 컨텍스트를 구축해야 하는지 판단하여 결론을 내리는 것이 좋습니다.

3. 마지막으로, 2 단계에서 구축된 컨텍스트는 에이전트가 필요한 응답을 생성하거나 특정 작업을 수행하는 데 활용됩니다. 또한 에이전트는 상황에 따라 사용자에게 추가로 확인 질문을 해야 한다고 판단할 수도 있습니다.

Dataworkz는 RAG 애플리케이션을 구축하는 것과 같은 사용 편의성을 에이전트에게 제공합니다. 라이브러리나 프레임워크로 코딩할 필요 없이, 에이전트는 의도된 기능을 설명하는 것만으로 생성됩니다. 이들은 선언적으로 빌드할 수 있으며, 내장 도구를 사용하여 테스트할 수 있고, 준비가 되면 API를 통해 원활하게 배포할 수 있습니다. 이 접근 방식은 에이전트를 훨씬 더 접근 가능하게 하고 개발 및 배포를 훨씬 더 비용 효율적으로 만듭니다.

그림 4 Dataworkz 및 MongoDB 에이전트형 RAG 아키텍처

MongoDB 개발자 데이터 플랫폼

• MongoDB Atlas

• Atlas Vector Search

파트너 기술

• Dataworkz

• NEXTJS