Fundada em 2011, com escritórios no Reino Unido e na Índia, a Kovai é uma empresa privada de software empresarial que oferece vários produtos na área de SaaS empresarial e B2B. Desde sua fundação, a empresa expandiu, chegando a 300 funcionários e atendendo a mais de 2.500 clientes. Enquanto participava do Microsoft Global MVP Summit 2010, o fundador e CEO da Kovai, Saravana Kumar, identificou uma lacuna no mercado em relação às ferramentas essenciais para gerenciar e monitorar ambientes do Microsoft BizTalk Server (um sistema de middleware que automatiza processos de negócios). Após cerca de um ano de desenvolvimento e construção, o primeiro produto da empresa, o BizTalk360, foi lançado.

O BizTalk360 oferece uma visão centralizada para administração, monitoramento e acesso às funções analíticas de um ambiente do BizTalk Server. Após a introdução inicial do produto, a empresa cresceu rapidamente, chegando a 145 clientes em 2013, e Saravana foi reconhecido como "MVP de integração do ano" no Microsoft Global MVP Summit.

Em 2018, a Kovai lançou o Document360, uma plataforma de base de conhecimento para empresas de SaaS que buscam uma solução para documentação de software de autoatendimento. O Document360 oferece ferramentas para criar conteúdo de forma rápida e eficiente e disponibiliza um site de documentação auto-hospedado para que o conteúdo possa ser consumido de forma eficaz.

No início de 2023, Saravana e sua equipe notaram duas mudanças principais no comportamento dos clientes. Primeiro, seus clientes começaram a fazer perguntas e a buscar respostas mais personalizadas e relevantes, sem a necessidade das tradicionais “palavras-chave de pesquisa”. Isso significava que os clientes buscavam respostas mais imediatas e precisas, em vez de perder tempo lendo um artigo inteiro da base de conhecimento. A segunda coisa que Kovai percebeu foi a tendência macro de aumento da popularidade e do anseio por ferramentas como ChatGPT e Large Language Models (LLMs) para casos de uso corporativo, onde os usuários digitavam perguntas em vez de palavras-chave para obter respostas rapidamente.

Para capitalizar essas tendências, a Kovai lançada recentemente seu assistente de IA "Eddy", que fornece respostas às perguntas dos clientes utilizando LLMs, com base nas informações de uma determinada base de conhecimento. A pesquisa é um dos recursos essenciais de uma plataforma de base de conhecimento, permitindo que clientes encontrem facilmente as informações certas em vez de navegar por estruturas hierárquicas complexas para encontrar o que estão procurando. O objetivo da Eddy é proporcionar uma experiência envolvente ao cliente que:

• Forneça respostas precisas às perguntas dos usuários
• Forneça uma resposta holística com baixa latência
• Compreenda as informações contextuais associadas à pergunta
• Ofereça a capacidade de ajustar perguntas com base nas respostas

Durante a fase de desenvolvimento do produto, as equipes de engenharia e ciência de dados do Document 360 pesquisaram soluções que permitissem aos clientes fazer perguntas e fornecer rapidamente respostas precisas a partir dos artigos da base de conhecimento. Depois de ler os white papers sobre Retrieval Augmented Generation (RAG), a equipe da Kovai ficou convencida de que uma estrutura RAG ajudaria a resolver seu desafio específico. Isso permitiu que o Eddy respondesse às perguntas com base no contexto de uma base de conhecimento e elaborasse respostas com base nesse contexto. Os recursos adicionais de que a equipe precisava incluíam:

• Criação de embeddings para os artigos da base de conhecimento
• Um banco de dados vetoriais para armazenar e recuperar embeddings
• Ferramentas para armazenar em cache respostas para "perguntas exatas" feitas por diferentes clientes
• Ferramentas de orquestração

A Kovai já estava usando o MongoDB como seu sistema de registro de banco de dados, mas agora precisava adquirir também uma solução de pesquisa vetorial. A equipe de engenharia avaliou alguns bancos de dados vetoriais no mercado para armazenar e recuperar embeddings de artigos da base de conhecimento. No entanto, eles logo descobriram que as outras soluções criaram vários problemas no fornecimento de respostas precisas devido à necessidade de mover e sincronizar grandes volumes de dados entre o banco de dados do MongoDB e qualquer banco de dados vetoriais externo.

Assim, em julho de 2023, a equipe de engenharia optou por aumentar o investimento no MongoDB Atlas usando o recém-lançado MongoDB Vector Search para armazenar e recuperar embeddings, garantindo que tanto o conteúdo quanto seus respectivos embeddings estejam hospedados no MongoDB. O Atlas Vector Search oferece à equipe uma pesquisa avançada para recuperar embeddings com base em métricas de similaridade com menor latência, e se encaixa perfeitamente na implementação existente do Atlas. Saravana, da Kovai, também observa que o Atlas Vector Search é “robusto, econômico e incrivelmente rápido”, o que é especialmente importante para sua equipe em crescimento. Os recursos do MongoDB ajudam as equipes de engenharia e ciência de dados do Document 360 com:

• Simplicidade arquitetônica: A simplicidade arquitetônica do MongoDB Vector Search ajuda a Kovai a otimizar a arquitetura técnica necessária para implementar o Eddy
• Eficiência operacional: O Atlas Vector Search permite que a Kovai armazene artigos da base de conhecimento e seus embeddings em collections do MongoDB, eliminando problemas de “sincronização de dados” que ocorrem com outros fornecedores
• Desempenho: a Kovai obtém uma resposta de consulta mais rápida do MongoDB Vector Search em grande escala para garantir uma experiência de usuário positiva

Saravana Kumar, CEO, Kovai

Dr. Selvaraaju Murugesan, diretor de ciência de dados, Kovai

O novo produto já aprimorou a experiência do usuário. Somente as respostas da base de conhecimento relevantes para o contexto da pergunta são fornecidas, e essas respostas têm referências cruzadas com artigos relevantes para garantir a confiança.

O produto foi um trabalho de amor para Saravana e sua equipe, algo que ele observa ter sido possível graças à parceria e à assistência técnica que receberam do MongoDB e ao investimento no Atlas Vector Search.

Saravana Kumar, CEO, Kovai