O DESAFIO
Simplificando o acesso a uma vasta quantidade de conteúdo de biblioteca em tempo recorde
Swisscom é a principal provedora de serviços móveis, de internet e de TV da Suíça. Em um país de quase nove milhões de habitantes, a Swisscom possui mais de seis milhões de conexões móveis e dois milhões de clientes de banda larga. É um nome familiar, mas também é muito mais do que uma marca voltada ao consumidor. A Swisscom fornece serviços de tecnologia da informação e comunicação para algumas das principais empresas do país e para o dinâmico setor de pequenas e médias empresas. Ela vê sua função como a de capacitar o futuro digital da Suíça e afirma ser a inovadora tecnológica suíça mais confiável.
A empresa planeja investir CHF 100 milhões ($ 117 milhões) em soluções de IA nos próximos anos. Ela está trabalhando com a Nvidia para criar supercomputadores de IA generativa full-stack, baseados em computação acelerada da Nvidia e software de IA da Nvidia. A Swisscom deseja assumir uma posição de liderança em IA, ajudando a encontrar e desenvolver serviços de IA prontos para o mercado que sejam relevantes para os clientes suíços.
Como parte disso, a Swisscom está interessada em adotar a IA em suas próprias operações e está explorando vários casos de uso.
Um caso específico é o e.foresight, o "think tank" independente da Swisscom para o setor bancário. O setor de serviços financeiros representa quase 10% do produto interno bruto suíço; o e.foresight identifica, monitora e analisa tendências e desenvolvimentos comportamentais e tecnológicos no setor financeiro global. Utilizado por 30 dos principais bancos do país, ele criou uma biblioteca considerável de conteúdo especializado ao longo dos anos.
A Swisscom está usando o MongoDB Atlas para aplicar IA generativa a esta extensa biblioteca. O engajamento permite que a Swisscom extraia o valor máximo de seu conteúdo, produzindo conteúdo personalizado para as centenas de usuários do e.foresight dentro dos 30 bancos que assinam seus serviços. Ao fazer isso, ela está transformando a velocidade, a precisão e a relevância das solicitações de pesquisa. Em vez de encaminhar seis relatórios para os usuários analisarem, ela pode usar IA generativa para produzir um resumo condensado em segundos.
“A e.foresight tem mais de 3.500 documentos sobre tendências no setor bancário em sua biblioteca, e mais são adicionados a cada dia”, disse Dr. Martin Lorenz, Gerente de Produto, Banking Front Solutions, Swisscom. “O MongoDB Atlas nos permite armazenar e pesquisar todas essas informações e criar algo relevante para uma solicitação específica.”
NOSSA SOLUÇÃO
Enriquecendo grandes modelos de linguagem com MongoDB Vector Search no Atlas
Em termos práticos, a aplicação de IA generativa da Swisscom precisava habilitar grandes modelos de linguagem (LLMs) para interpretar a biblioteca de documentos e.foresight. A biblioteca não é apenas grande, mas também diversa. Ela inclui dados não estruturados, como relatórios escritos, gravações de eventos ao vivo, gráficos e estudos externos, e continua a crescer.
O MongoDB foi fundamental para alcançar o objetivo da Swisscom ao ajudar a impulsionar seu aplicativo de geração aumentada de recuperação (RAG). Agora, todos os documentos na biblioteca e.foresight estão armazenados no MongoDB Atlas— um banco de dados único e seguro para armazenar e pesquisar vetores juntamente com dados operacionais. A Swisscom pode então converter os dados não estruturados em embeddings vetoriais e usar o MongoDB Vector Search no Atlas para encontrar segmentos de contexto relevante para alimentar os LLMs com dados contextuais e específicos do domínio atualizados. Como resultado, o aplicativo pode gerar respostas mais precisas e altamente relevantes para os usuários.
Em um setor em rápida evolução, com avanços constantes nas funcionalidades de IA generativa, o MongoDB capacitou a Swisscom a passar rapidamente da ideia à produção, permitindo uma velocidade de mercado mais rápida. Lorenz entrou em contato com o MongoDB em 6 de fevereiro de 2024 e tinha um protótipo baseado em um subconjunto de dados totalmente criado na MongoDB Atlas Developer Data Platform até 15 de fevereiro. Após um mês de testes ao lado do MongoDB e da universidade de ciências aplicadas ZHAW, a equipe interna da Swisscom assumiu as operações da plataforma.
A equipe adicionou novos recursos e, após mais um mês de testes internos, a plataforma entrou em produção no início de maio.
_1.svg)