MongoDB 및 Dataworkz를 사용하여 Agentic RAG 챗봇 시작

에이전트란?

에이전트 는 컨텍스트 내의 관련 데이터와 환경을 인식하는 인공 계산 엔터티입니다. 이러한 에이전트는 전자상거래의 경우 상호 작용 하거나 필요에 따라 복잡한 작업의 일부를 수행할 수 있습니다.

검색 증강 생성

RAG는 독점적인 데이터로 LLM을 보강하여 환각을 줄이면서 더 정확하고 상황에 맞는 응답을 생성할 수 있도록 하는 접근 방식입니다.

그림 1 일반 RAG

에이전트 RAG

Agentic RAG는 AI 에이전트 기반의 RAG 구현 도입합니다. 이 모델에서 에이전트 다양한 도구와 기능 액세스 할 수 있으므로 정보 검색 및 생성을 넘어 계획을 세울 수 있습니다. 상담원은 특정 정보를 조회 해야 하는지 여부를 결정하고, 검색에 사용할 도구를 결정하고, 쿼리를 공식화할 수 있습니다. 이러한 기능은 에이전트 여러 데이터 소스에서 정보를 가져오고 응답을 공식화하는 데 둘 이상의 소스가 필요한 복잡한 쿼리를 처리하다 있도록 하므로 매우 중요합니다. Agentic RAG는 업계 전반에 걸쳐 고객 상호 작용을 개선하고 프로세스를 간소화할 수 있습니다.

그림 2. 에이전트 RAG

자세한 내용을 보려면 Dataworkz Agentic RAG.를 참조하세요.

그림 3. 전통적 RAG와 에이전트형 RAG의 비교

소매 산업에 미치는 영향

소매 업계는 생성형 AI 빠르게 도입했습니다.2024 에서는소비자의 1/4이 쇼핑 경험에 AI 사용했으며, 이는 4전년도에 비해 % 증가한 수치입니다.

소매 업계에서 생성형 인공지능 사용 사례는 다음과 같습니다.

• 고객 지원 챗봇: 실시간 지원을 제공하고 비즈니스 정책, 사용자 기록 및 선호도를 상황에 맞는 AI 기반 챗봇입니다.

• 개인화된 제품 추천: 고객 의 특정 좋아요, 요구 사항 및 과거 주문을 기반으로 추천합니다. 이러한 개인화된 추천은 고객이 쇼핑을 더 즐겁게 만들고 성공적인 구매 가능성을 높입니다.

• 동적 마케팅 콘텐츠: Gen AI 애플리케이션은 각 고객에 대해 개인화된 프로모션, 이메일 및 메시지를 생성하여 참여, 판매 및 유지율을 높일 수 있습니다.

Dataworkz 소개

Dataworkz는 조직이 AI 애플리케이션을 빌드 하고 배포 방식을 혁신하는 RAG-as-a-Service 플랫폼입니다. 에이전트 기반 아키텍처와 그래프에 최적화된 검색을 통해 대규모 엔터프라이즈 몇 달이 아닌 몇 시간 만에 정교한 RAG 애플리케이션을 시작할 수 있습니다.

이 플랫폼은 RAG 개발의 모범 사례를 자동으로 구현하는 직관적인 노코드 빌더로 인해 전문 AI 팀의 필요성을 없앱니다. 전통적인 방식은 사용자를 초기 아키텍처 결정에 제한하지만 Dataworkz는 빠른 실험을 가능하게 합니다. 사용자는 프로덕션에 적용하기 전에 통제된 환경에서 다양한 검색 전략, 프롬프트의 다양한 형태 및 모델 조합을 시험할 수 있습니다.

Dataworkz는 복잡한 AI 인프라를 구축하고 유지 관리하는 기존의 오버헤드 없이 프로덕션용 RAG 애플리케이션을 제공합니다.

이 아키텍처는 다음과 같은 주요 구성 요소로 구성됩니다.

• 복잡한 관계를 위한 그래프 최적화 지식 검색

• 정교한 추론을 위한 에이전트 기반 아키텍처.

• 내장된 모범 사례를 갖춘 코드 없는 빌더.

• 실험부터 프로덕션까지 전체 라이프사이클 지원

• BIO 유연성 - LLM, 임베딩 모델 및 벡터 데이터베이스.

• 엔터프라이즈급 보안 및 확장성

MongoDB와 Dataworkz 연동

Dataworkz는 비정형 데이터를 추출하고, 청크 전략을 구성하고, 벡터 임베딩을 생성할 수 있는 친숙한 환경을 제공하여 RAG 파이프라인 생성 프로세스 간소화합니다. 또한 Dataworkz RAG 빌더를 사용하면 개발자가 다양한 임계값을 사용하여 어휘, 의미 또는 그래프 의 다양한 검색 메커니즘을 선택하여 사용자 질문에 답변하기 위한 컨텍스트를 빌드 .

또한 통합을 통해 실시간 데이터 처리 및 분석 이 가능해져 AI 모델이 최신 데이터를 사용하여 정확하고 관련성 높은 응답을 얻을 수 있습니다.

에이전트 RAG 아키텍처

혁신적인 결과를 빌드 려면 주로 벡터 검색 기술을 사용하는 기존 RAG 시스템을 운영 데이터베이스의 최신 정보와 통합해야 합니다.

MongoDB Atlas Vector Search는 벡터 임베딩을 내장 지원 하므로 별도의 벡터 데이터베이스 필요하지 않으므로 아키텍처를 간소화하고 복잡성을 줄일 수 있습니다.

소매업체는 Dataworkz 에이전트를 사용하여 MongoDB 컬렉션을 도구로 구성하여 해당 컬렉션에 대한 제어된 액세스 제공할 수 있습니다. 대부분의 경우 고객에게는 기본 컬렉션을 추상화하는 API 계층이 있습니다. Dataworkz는 REST API 또는 GraphQL 과 통합할 수 있습니다.

또한 Dataworkz에 구성된 모든 RAG 파이프라인 에이전트 에 대한 도구가 될 수 있습니다. 이 역량 통해 에이전트는 사용자의 질문에 따라 셰어 사이트 , confluence 위키 페이지 또는 마크다운의 구조화되지 않은 데이터를 이해할 기능 있습니다.

MongoDB 데이터 플랫폼으로 활용하는 애플리케이션을 보유한 기존 소매업체는 Dataworkz와 MongoDB 의 긴밀한 통합의 이점을 누릴 수 있으며 AI 를 채택한 경우 에이전트 방식의 RAG를 솔루션에 통합할 수 있습니다.

Dataworkz 에이전트는 여러 데이터 소스 액세스 하고 추론 LLM을 사용하여 사용자의 질문에 답변 데 사용할 도구를 결정할 수 있습니다. 에이전트 배송 상태, 고객 프로필, 기본 설정, 주문 내역과 같은 구조화된 데이터를 조회 위해 서로 다른 MongoDB 컬렉션 또는 데이터베이스에 액세스 해당 데이터베이스 간에 전환할 수 있습니다. 또한, 제공자를 통해 노출된 API를 통해ERP(Epicor) 및CRM(Salesforce)과 같은 타사 솔루션을 통합할 수 있습니다. 에이전트 이러한 도구를 함께 사용하여 컨텍스트에 따라 사용자 질문을 이해하고 개인화되고 관련성 높은 응답을 제공할 활성화 있습니다.

다음 단계에서는 Dataworkz 에이전트 작동 방식을 설명합니다.

1. Dataworkz 에이전트 프레임워크 저장 정책에 대한 질문에 답변하거나, 주문을 검색하거나, 고객 지원 제공하는 등의 사용 사례를 시나리오로 구성합니다.

2. 에이전트 추론 LLM을 사용하여 사용자의 쿼리 , 대화 컨텍스트, 메모리, 사용 가능한 도구(예: MongoDB 컬렉션에 대한 액세스 )를 기반으로 질문 답변 방법을 계획합니다. LLM은 필요한 정보를 수집하기 위한 일련의 단계를 결정합니다. 이 프로세스 반복적입니다. 각 단계가 끝난 후 에이전트 답변 제공하기에 충분한 컨텍스트가 있는지 또는 추가 검색과 계획이 필요한지 확인합니다.

3. 마지막으로 에이전트 수집된 컨텍스트를 사용하여 응답을 생성하거나, 조치 취하거나, 필요한 경우 사용자에게 명확한 질문을 합니다.

그림 4 Dataworkz 및 MongoDB 에이전트형 RAG 아키텍처