Lançamento de um chatbot de RAG agêntica com a MongoDB e a Dataworkz

O que é um agente?

Um agente é uma entidade computacional artificial que tem percepção do próprio ambiente e dos dados a ele associados dentro do contexto. Esses agentes podem ser usados para interagir no contexto do comércio eletrônico ou executar parte de tarefas complexas quando necessário.

Geração aumentada de recuperação (RAG)

Geração aumentada de recuperação é uma abordagem usada para aprimorar os grandes modelos de linguagem (Large Language Models, LLMs) com dados proprietários para que gerem respostas mais precisas e contextualizadas e reduzam as alucinações.

Figura 1. RAG convencional

RAG agêntica

A RAG agêntica avança ainda mais ao introduzir uma implementação de RAG baseada em agentes de AI. Neste modelo, diferentes ferramentas e funções podem ser acessadas pelo agente, o que permite ir além da recuperação e geração de informações — é possível planejar. Os agentes podem determinar se precisam recuperar informações específicas ou não, decidir qual ferramenta usar para a recuperação e formular queries. Essas funcionalidades são essenciais, pois permitem que o agente obtenha informações de várias fontes de dados, lidando com queries complexas que exigem mais de uma fonte para formular a resposta.

É possível começar a visualizar o enorme potencial que a RAG Agêntica tem para melhorar interações com clientes e otimizar processos em diversos setores.

Figura 2. RAG agêntica

Para mais detalhes, consulte Dataworkz Agentic RAG.

Figura 3. Comparação entre RAG convencional e RAG agêntica

Impacto no Setor de Varejo

A IA generativa está revolucionando o setor de varejo. Em 2024, 25% dos consumidores utilizaram IA em sua experiência de compra, o que representa um aumento de 4% em relação ao ano anterior. Com essa expansão, o potencial para inovação permanece enorme.

Alguns casos de uso para AI generativa no setor de varejo incluem:

• Criação de chatbots para suporte ao cliente: imagine um chatbot de suporte em tempo real, com IA generativa, capaz de auxiliar os clientes a qualquer momento e ciente do contexto das políticas da empresa, bem como do histórico e das preferências do usuário.

• Personalização de recomendações de produtos: fornecer ao cliente recomendações baseadas em seus gostos, necessidades e pedidos anteriores específicos fará com que a experiência de compra seja mais direcionada ao comprador, tornando-a mais agradável e aumentando a probabilidade de terminar com uma compra.

• Criação de conteúdo dinâmico de marketing: gerar conteúdo novo e relevante para o cliente, criando promoções dinâmicas, e-mails ou mensagens específicas para o cliente. Isso leva a um maior engajamento, aumento nas vendas e melhor retenção de clientes.

Todos os exemplos acima mostram como o MongoDB e o Dataworkz já estão auxiliando os varejistas a criar experiências impactantes para os clientes no dia a dia.

Uma introdução ao Dataworkz

A Dataworkz é uma plataforma de RAG como serviço de nível empresarial que transforma a maneira como as organizações criam e implantam aplicativos de AI. Conta com uma arquitetura avançada baseada em agentes, além de recuperação otimizada por grafos, permitindo que grandes empresas lancem aplicativos RAG sofisticados em horas, não em meses.

A plataforma elimina a necessidade de montar equipes especializadas em AI, pois conta com um construtor intuitivo e sem código que implementa automaticamente as melhores práticas no desenvolvimento de RAG. Ao contrário das abordagens tradicionais que nos prendem às decisões arquitetônicas iniciais, o Dataworkz possibilita experimentação rápida: é possível testar diferentes estratégias de recuperação, variações de prompts e combinações de modelos em um ambiente controlado antes da confirmação para produção.

Da ingestão de dados à implantação em produção, o Dataworkz lida com todo o ciclo de vida da RAG com recursos empresariais prontos para dimensionamento, depuração e operação.

Principais diferenciais:

• Recuperação de conhecimento otimizada por grafo para relacionamentos complexos.

• Arquitetura agêntica para raciocínio avançado.

• Construtor sem código com melhores práticas integradas.

• Suporte completo ao ciclo de vida, da experimentação à produção.

• Flexibilidade BYO (Bring Your Own, Traga o seu) — LLM, modelo de incorporação, banco de dados vetorial.

• Segurança e escalabilidade em nível corporativo.

A Dataworkz conta com a confiança de empresas na lista da Fortune 500 e entrega aplicativos RAG prontos para produção sem a sobrecarga tradicional de construir e manter uma infraestrutura de AI complexa.

Aproveitando o MongoDB com a Dataworkz

​​Ao usar os pontos fortes do MongoDB e do Dataworkz, as organizações podem criar aplicativos de IA generativa poderosos, dimensionáveis e precisos, minimizando a complexidade do desenvolvimento e o time-to-market.

O Dataworkz simplifica o processo de criação de pipelines RAG ao oferecer uma experiência de apontar e clicar para extrair dados não estruturados em qualquer formato, configurar uma estratégia de fragmentação e criar incorporações vetoriais. O construtor Dataworkz RAG também permite que os desenvolvedores escolham diferentes mecanismos de recuperação – lexical, semântico ou grafo –, com diferentes limites para criar o contexto para responder a uma pergunta do usuário.

Essa integração também possibilita o processamento e a análise de dados em tempo real, o que é essencial para aplicações de IA generativa que requerem informações atualizadas. Essa funcionalidade garante que os modelos de AI tenham acesso aos dados mais recentes, melhorando a precisão e a relevância das respostas geradas.

Arquitetura RAG agêntica

Para construir algo transformador, os sistemas RAG convencionais, que utilizam principalmente técnicas de pesquisa vetorial, devem ser integrados a informações atualizadas de bancos de dados operacionais.

O Atlas Vector Search oferece suporte integrado para incorporações vetoriais, o que elimina a necessidade de um banco de dados vetorial separado. Isso também simplifica a arquitetura e reduz a complexidade.

É aí que a RAG agêntica se destaca. Com os agentes do Dataworkz, os varejistas podem fornecer acesso regulamentado às coleções do MongoDB, que são configuradas como ferramentas. Em muitos casos, os clientes têm uma camada de API que abstrai as coleções subjacentes – o Dataworkz pode ser integrado à API REST ou GraphQL.

Além disso, qualquer pipeline RAG configurado no Dataworkz pode ser disponibilizado como ferramenta para um agente. Isso dá aos agentes a capacidade de entender dados não estruturados em um site do SharePoint, uma página do wiki do Confluence ou em markdown, dependendo da pergunta do usuário.

Os varejistas existentes com aplicativos que utilizam o MongoDB como sua plataforma de dados se beneficiarão da estreita integração da Dataworkz com o MongoDB e darão um salto na adoção da IA para incorporar a RAG agêntica nas suas soluções.

Os agentes do Dataworkz podem acessar múltiplas fontes de dados e usar LLMs de raciocínio para decidir qual ferramenta usar para responder à pergunta de um usuário. Um agente pode alternar dinamicamente entre diferentes coleções do MongoDB ou até mesmo vários bancos de dados para trazer dados estruturados, como status de envio, perfis e preferências do cliente e histórico de pedidos. Além disso, soluções de terceiros, como ERP (Epicor), CRM (Saesforce) e muito mais, podem ser integradas por meio de APIs expostas via provedores. Os serviços internos expostos como GraphQL são outro tipo popular de integração. Juntas, essas ferramentas permitem que o agente entenda as perguntas do usuário em seu contexto e forneça respostas muito personalizadas relevantes à sua experiência e aos seus dados.

Os agentes do Dataworkz operam da seguinte forma:

1. O framework de agentes do Dataworkz divide os casos de uso em cenários, como ser capaz de responder a perguntas sobre políticas da loja, fornecer recomendações ou pesquisar um pedido. Os cenários têm um conjunto selecionado de ferramentas relevantes para o contexto. Quando um usuário interage com o agente, um classificador seleciona o cenário apropriado.

2. Em seguida, o agente usa um LLM de raciocínio para desenvolver um plano para responder à pergunta. Considerando a pergunta do usuário, o contexto da conversa, a memória e as ferramentas (como acesso a uma coleção do MongoDB) no cenário, o LLM elabora uma sequência de etapas para recuperar informações para responder à pergunta. Esse processo é iterativo; após cada iteração, é aconselhável concluir determinando se foi recuperado contexto suficiente por meio das ferramentas ou se são necessárias mais iterações, planejamento e execução para gerar mais contexto.

3. Por fim, o contexto construído na etapa 2 é utilizado pelo agente para gerar a resposta necessária ou realizar qualquer ação, ou ele pode decidir que precisa realmente fazer uma pergunta de esclarecimento ao usuário.

A Dataworkz oferece aos agentes a mesma facilidade de uso que oferece na criação de aplicativos RAG. Em vez de exigir codificação com bibliotecas ou frameworks, os agentes são criados apenas com a descrição de sua funcionalidade pretendida. Eles podem ser criados de forma declarativa, testados com ferramentas integradas e implantados via API quando estiverem prontos. Com essa abordagem, é muito mais acessível e barato desenvolver e implantar os agentes.

Figura 4. Arquitetura RAG agêntica do Dataworkz e do MongoDB

Plataforma de dados para desenvolvedores MongoDB

• MongoDB Atlas

• Atlas Vector Search

Tecnologias de parceiros

• Dataworkz

• NEXTJS