MongoDB 및 Dataworkz로 에이전트 RAG 챗봇 출시

에이전트란?

에이전트 는 컨텍스트 내의 관련 데이터와 환경을 인식하는 인공 계산 엔터티입니다. 이러한 에이전트는 전자상거래의 경우 상호 작용 하거나 필요에 따라 복잡한 작업의 일부를 수행할 수 있습니다.

검색 증강 생성

RAG 는 LLM 을 독점 데이터로 보강하여 더 정확하고 문맥을 인식하는 응답을 생성하고 환각을 줄이는 접근 방식입니다.

그림 1 일반 RAG

에이전트 RAG

Agentic RAG는 AI 에이전트 기반의 RAG 구현을 도입합니다. 이 모델에서는 에이전트가 다양한 도구와 기능에 접근할 수 있어 정보 검색과 생성뿐만 아니라 계획까지 수립할 수 있습니다. 에이전트는 특정 정보를 조회해야 하는지 여부를 판단하고 조회에 사용할 도구를 선택하며 쿼리를 작성할 수 있습니다. 이러한 역량은 에이전트가 여러 데이터 소스에서 정보를 가져오고 하나 이상의 소스를 활용해야 응답을 생성할 수 있는 복잡한 쿼리도 처리할 수 있도록 해주기 때문에 매우 중요합니다. Agentic RAG로 고객 상호작용을 향상하고 다양한 산업의 프로세스를 간소화할 수 있습니다.

그림 2. 에이전트 RAG

자세한 내용을 보려면 Dataworkz Agentic RAG.를 참조하세요.

그림 3. 전통적 RAG와 에이전트형 RAG의 비교

소매 산업에 미치는 영향

소매 업계는 생성형 AI 빠르게 도입했습니다. 2024에서는 소비자의 1/4이 쇼핑 경험에 AI를 사용했으며, 이는 이전 연도에 비해 4% 증가한 수치입니다.

소매 업계에서 생성형 인공지능 사용 사례는 다음과 같습니다.

• 고객 지원 챗봇: 실시간 지원을 제공하고 비즈니스 정책, 사용자 기록 및 선호도를 상황에 맞는 AI 기반 챗봇입니다.

• 개인화된 제품 추천: 고객 의 특정 좋아요, 요구 사항 및 과거 주문을 기반으로 추천합니다. 이러한 개인화된 추천은 고객이 쇼핑을 더 즐겁게 만들고 성공적인 구매 가능성을 높입니다.

• 동적 마케팅 콘텐츠: Gen AI 애플리케이션은 각 고객에 대해 개인화된 프로모션, 이메일 및 메시지를 생성하여 참여, 판매 및 유지율을 높일 수 있습니다.

Dataworkz 소개

Dataworkz는 조직이 AI 애플리케이션을 빌드 하고 배포 방식을 혁신하는 RAG-as-a-Service 플랫폼입니다. 에이전트 기반 아키텍처와 그래프에 최적화된 검색을 통해 대규모 엔터프라이즈 몇 달이 아닌 몇 시간 만에 정교한 RAG 애플리케이션을 시작할 수 있습니다.

이 플랫폼은 RAG 개발의 모범 사례를 자동으로 구현하는 직관적인 노코드 빌더로 인해 전문 AI 팀의 필요성을 없앱니다. 전통적인 방식은 사용자를 초기 아키텍처 결정에 제한하지만 Dataworkz는 빠른 실험을 가능하게 합니다. 사용자는 프로덕션에 적용하기 전에 통제된 환경에서 다양한 검색 전략, 프롬프트의 다양한 형태 및 모델 조합을 시험할 수 있습니다.

Dataworkz는 복잡한 AI 인프라를 구축하고 유지 관리하는 기존의 오버헤드 없이 프로덕션용 RAG 애플리케이션을 제공합니다.

이 아키텍처는 다음의 주요 구성 요소로 이루어져 있습니다:

• 복잡한 관계를 위한 그래프 최적화 지식 검색

• 정교한 추론을 위한 에이전트 기반 아키텍처.

• 내장된 모범 사례를 갖춘 코드 없는 빌더.

• 실험부터 프로덕션까지 전체 라이프사이클 지원

• BYO 유연성 - LLM, 임베딩 모델 및 벡터 데이터베이스.

• 엔터프라이즈급 보안 및 확장성

MongoDB와 Dataworkz 연동

Dataworkz는 비정형 데이터를 추출하고, 청크 전략을 구성하며, 벡터 임베딩을 생성할 수 있는 친숙한 환경을 제공하여 RAG 파이프라인 생성 프로세스를 간소화합니다. Dataworkz RAG 빌더는 개발자가 다양한 검색 메커니즘(어휘적, 시맨틱 또는 그래프)을 선택하고, 사용자 질문에 대한 답변 컨텍스트를 구축하기 위해 서로 다른 임계값을 설정할 수 있도록 지원합니다.

또한 통합을 통해 실시간 데이터 처리 및 분석 가능해져 AI 모델이 최신 데이터를 사용하여 정확하고 관련성 높은 응답을 얻을 수 있습니다.

에이전트 RAG 아키텍처

혁신적인 결과를 얻으려면 벡터 검색 기술을 주로 사용하는 기존 RAG 시스템을 운영 데이터베이스의 최신 정보와 통합해야 합니다.

MongoDB Atlas Vector Search 는 벡터 임베딩을 내장 지원 하므로 별도의 벡터 데이터베이스 필요하지 않으므로 아키텍처를 간소화하고 복잡성을 줄일 수 있습니다.

소매업체는 Dataworkz 에이전트를 사용하여 MongoDB 컬렉션을 도구로 구성하여 해당 컬렉션에 대한 제어된 액세스를 제공할 수 있습니다. 대부분의 경우 고객에게는 기본 컬렉션을 추상화하는 API 계층이 있습니다. Dataworkz는 REST API 또는 GraphQL 과 통합할 수 있습니다.

또한 Dataworkz에 구성된 모든 RAG 파이프라인은 에이전트에게 유용한 도구가 될 수 있습니다. 이를 통해 에이전트는 사용자의 질문에 따라 SharePoint 사이트, Confluence 위키 페이지, 혹은 마크다운 문서 내 비정형 데이터를 이해할 수 있습니다.

MongoDB 데이터 플랫폼으로 활용하는 애플리케이션을 보유한 기존 소매업체는 Dataworkz와 MongoDB 의 긴밀한 통합의 이점을 누릴 수 있으며 AI 를 채택한 경우 에이전트 방식의 RAG를 솔루션에 통합할 수 있습니다.

Dataworkz 에이전트는 여러 데이터 소스에 액세스 하고 추론 LLM을 사용하여 사용자의 질문에 답변 데 사용할 도구를 결정할 수 있습니다. 에이전트 배송 상태, 고객 프로필, 기본 설정, 주문 내역과 같은 구조화된 데이터를 조회 하기 위해 서로 다른 MongoDB 컬렉션 또는 데이터베이스에 액세스 하고 해당 데이터베이스 간에 전환할 수 있습니다. 또한, 제공자를 통해 노출된 API를 통해 ERP(Epicor) 및 CRM(Salesforce)과 같은 타사 솔루션을 통합할 수 있습니다. 에이전트 이러한 도구를 함께 사용하여 상황에 맞는 사용자 질문을 이해하고 개인화되고 관련성 높은 응답을 제공할 활성화 있습니다.

다음 단계에서는 Dataworkz 에이전트의 작동 방식을 설명합니다.

1. Dataworkz 에이전트 프레임워크 저장 정책에 대한 질문에 답변하거나, 주문을 검색하거나, 고객 지원 제공하는 등의 사용 사례를 시나리오로 구성합니다.

2. 에이전트 추론 LLM을 사용하여 사용자의 쿼리 , 대화 컨텍스트, 메모리, 사용 가능한 도구(예: MongoDB 컬렉션에 대한 액세스 )를 기반으로 질문에 답변 방법을 계획합니다. LLM은 필요한 정보를 수집하기 위한 일련의 단계를 결정합니다. 이 프로세스 반복적입니다. 각 단계가 끝난 후 에이전트 답변 제공하기에 충분한 컨텍스트가 있는지 또는 추가 검색과 계획이 필요한지 확인합니다.

3. 마지막으로 에이전트 수집된 컨텍스트를 사용하여 응답을 생성하거나, 조치 취하거나, 필요한 경우 사용자에게 명확한 질문을 합니다.

그림 4 Dataworkz 및 MongoDB 에이전트형 RAG 아키텍처