BLOGAnnounced at MongoDB.local NYC 2024: A recap of all announcements and updates — Learn more >

Trazendo o poder das pesquisas vetoriais para bases de conhecimento empresariais

SETOR

SaaS

PRODUTOS

Banco de dados do Atlas
Atlas Vector Search

CASO DE USO

Pesquisa de produtos
Pesquisa no aplicativo

CLIENTE DESDE

2022
INTRODUÇÃO

Preencher uma necessidade de mercado

Fundada em 2011, com escritórios no Reino Unido e na Índia, a Kovai é uma empresa privada de software empresarial que oferece vários produtos na área de SaaS empresarial e B2B. Desde sua fundação, a empresa expandiu, chegando a 300 funcionários e atendendo a mais de 2.500 clientes. Enquanto participava do Microsoft Global MVP Summit 2010, o fundador e CEO da Kovai, Saravana Kumar, identificou uma lacuna no mercado em relação às ferramentas essenciais para gerenciar e monitorar ambientes do Microsoft BizTalk Server (um sistema de middleware que automatiza processos de negócios). Após cerca de um ano de desenvolvimento e construção, o primeiro produto da empresa, o BizTalk360, foi lançado.

O BizTalk360 oferece uma visão centralizada para administração, monitoramento e acesso às funções analíticas de um ambiente do BizTalk Server. Após a introdução inicial do produto, a empresa cresceu rapidamente, chegando a 145 clientes em 2013, e Saravana foi reconhecido como "MVP de integração do ano" no Microsoft Global MVP Summit.

Em 2018, a Kovai lançou o Document360, uma plataforma de base de conhecimento para empresas de SaaS que buscam uma solução para documentação de software de autoatendimento. O Document360 oferece ferramentas para criar conteúdo de forma rápida e eficiente e disponibiliza um site de documentação auto-hospedado para que o conteúdo possa ser consumido de forma eficaz.

O DESAFIO

Uma mudança no comportamento do usuário

No início de 2023, Saravana e sua equipe notaram duas mudanças principais no comportamento dos clientes. Primeiro, seus clientes começaram a fazer perguntas e a buscar respostas mais personalizadas e relevantes, sem a necessidade das tradicionais “palavras-chave de pesquisa”. Isso significava que os clientes buscavam respostas mais imediatas e precisas, em vez de perder tempo lendo um artigo inteiro da base de conhecimento. A segunda coisa que Kovai percebeu foi a tendência macro de aumento da popularidade e do anseio por ferramentas como ChatGPT e Large Language Models (LLMs) para casos de uso corporativo, onde os usuários digitavam perguntas em vez de palavras-chave para obter respostas rapidamente.

Para capitalizar essas tendências, a Kovai lançada recentemente seu assistente de IA "Eddy", que fornece respostas às perguntas dos clientes utilizando LLMs, com base nas informações de uma determinada base de conhecimento. A pesquisa é um dos recursos essenciais de uma plataforma de base de conhecimento, permitindo que clientes encontrem facilmente as informações certas em vez de navegar por estruturas hierárquicas complexas para encontrar o que estão procurando. O objetivo da Eddy é proporcionar uma experiência envolvente ao cliente que:

  • Forneça respostas precisas às perguntas dos usuários
  • Forneça uma resposta holística com baixa latência
  • Compreenda as informações contextuais associadas à pergunta
  • Ofereça a capacidade de ajustar perguntas com base nas respostas

Durante a fase de desenvolvimento do produto, as equipes de engenharia e ciência de dados do Document 360 pesquisaram soluções que permitissem aos clientes fazer perguntas e fornecer rapidamente respostas precisas a partir dos artigos da base de conhecimento. Depois de ler os white papers sobre Retrieval Augmented Generation (RAG), a equipe da Kovai ficou convencida de que uma estrutura RAG ajudaria a resolver seu desafio específico. Isso permitiu que o Eddy respondesse às perguntas com base no contexto de uma base de conhecimento e elaborasse respostas com base nesse contexto. Os recursos adicionais de que a equipe precisava incluíam:

  • Criação de embeddings para os artigos da base de conhecimento
  • Um banco de dados vetoriais para armazenar e recuperar embeddings
  • Ferramentas para armazenar em cache respostas para "perguntas exatas" feitas por diferentes clientes
  • Ferramentas de orquestração
A SOLUÇÃO

Uma abordagem unificada à pesquisa vetorial

A Kovai já estava usando o MongoDB como seu sistema de registro de banco de dados, mas agora precisava adquirir também uma solução de pesquisa vetorial. A equipe de engenharia avaliou alguns bancos de dados vetoriais no mercado para armazenar e recuperar embeddings de artigos da base de conhecimento. No entanto, eles logo descobriram que as outras soluções criaram vários problemas no fornecimento de respostas precisas devido à necessidade de mover e sincronizar grandes volumes de dados entre o banco de dados do MongoDB e qualquer banco de dados vetoriais externo.

Assim, em julho de 2023, a equipe de engenharia optou por aumentar o investimento no MongoDB Atlas usando o recém-lançado MongoDB Vector Search para armazenar e recuperar embeddings, garantindo que tanto o conteúdo quanto seus respectivos embeddings estejam hospedados no MongoDB. O Atlas Vector Search oferece à equipe uma pesquisa avançada para recuperar embeddings com base em métricas de similaridade com menor latência, e se encaixa perfeitamente na implementação existente do Atlas. Saravana, da Kovai, também observa que o Atlas Vector Search é “robusto, econômico e incrivelmente rápido”, o que é especialmente importante para sua equipe em crescimento. Os recursos do MongoDB ajudam as equipes de engenharia e ciência de dados do Document 360 com:

  • Simplicidade arquitetônica: A simplicidade arquitetônica do MongoDB Vector Search ajuda a Kovai a otimizar a arquitetura técnica necessária para implementar o Eddy
  • Eficiência operacional: O Atlas Vector Search permite que a Kovai armazene artigos da base de conhecimento e seus embeddings em collections do MongoDB, eliminando problemas de “sincronização de dados” que ocorrem com outros fornecedores
  • Desempenho: a Kovai obtém uma resposta de consulta mais rápida do MongoDB Vector Search em grande escala para garantir uma experiência de usuário positiva
OS RESULTADOS

Pesquisa vetorial incrivelmente rápida

Alguns dos primeiros benchmarks do MongoDB Vector Search excederam as expectativas da equipe de engenharia e ciência de dados.Em especial, a equipe observou um tempo médio de retorno de 3, 5 e 10 partes entre 2 milissegundos e 4 milissegundos; no caso de perguntas com loop fechado, o tempo médio cai para menos de 2 milissegundos.Saravana comenta que "uma das partes mais difíceis de trabalhar com estruturas de RAG é a necessidade de procurar todos os partes com base nas incorporações de texto da pergunta segundo as 'métricas de similaridade'. Esse processo pode exigir processamento intensivo, mas o Atlas Vector Search reduz a complexidade".
“O Atlas Vector Search é robusto, econômico e incrivelmente rápido!“

Saravana Kumar, CEO, Kovai

A Kovai descobriu que o Atlas Vector Search é fácil de implementar, e sua equipe de ciência de dados pode entender facilmente a funcionalidade da API com o apoio da documentação do MongoDB. Os cientistas de dados da empresa colaboraram extensivamente com especialistas no MongoDB para encontrar o equilíbrio certo entre desempenho, experiência do usuário e precisão das respostas geradas.
“O MongoDB Vector Search é um conjunto de ferramentas eficiente para implementar uma estrutura de RAG“

Dr. Selvaraaju Murugesan, diretor de ciência de dados, Kovai

Confira abaixo um diagrama de como a empresa arquitetou sua pilha utilizando o Vector Search em combinação com a OpenAI para incorporações vetoriais:
Um diagrama mostra a pilha arquitetada, utilizando o Vector Search combinado com o OpenAI para embeddings vetoriais
Como um reflexo da filosofia de design centrada no ser humano da Kovai, a caixa de pesquisa tradicional e a pesquisa de assistente de IA são combinadas em uma só, proporcionando aos usuários uma experiência unificada. Os clientes podem alternar entre a pesquisa por palavra-chave e a semantic search de acordo com suas necessidades e também podem definir uma das experiências de pesquisa como padrão.
Imagem de uma barra de pesquisa
Captura de tela do produto Kovai Eddy

Captura de tela do produto Kovai Eddy

O novo produto já aprimorou a experiência do usuário. Somente as respostas da base de conhecimento relevantes para o contexto da pergunta são fornecidas, e essas respostas têm referências cruzadas com artigos relevantes para garantir a confiança.

O produto foi um trabalho de amor para Saravana e sua equipe, algo que ele observa ter sido possível graças à parceria e à assistência técnica que receberam do MongoDB e ao investimento no Atlas Vector Search.

“Queremos possibilitar que os usuários da base de conhecimento de nossos clientes recebam respostas instantâneas, confiáveis e precisas para suas perguntas usando a pesquisa de conversação com a tecnologia MongoDB Atlas Vector Search e os recursos da IA generativa.“

Saravana Kumar, CEO, Kovai

Qual será a sua história?

O MongoDB ajudará você a encontrar a melhor solução.