Este tutorial demonstra como implementar a geração aumentada de recuperação (RAG) localmente, sem a necessidade de chaves ou créditos de API. Para saber mais sobre RAG, consulte Geração Aumentada de Recuperação (RAG) com MongoDB.
Especificamente, você executa as seguintes ações:
Crie um sistema do Atlas local.
Configure o ambiente.
Use um modelo de incorporação local para gerar incorporação de vetores.
Crie um índice do MongoDB Vector Search em seus dados.
Use um LLM local para responder a perguntas sobre seus dados.
Pré-requisitos
Além dos pré-requisitos comuns, este tutorial requer o seguinte:
Crie uma implantação local.
Configurar o ambiente
Gerar incorporações com um modelo local
Nesta seção, você carrega um modelo de embedding localmente e gera embeddings de vetor usando dados do banco de dados sample_airbnb, que contém uma coleção chamada listingsAndReviews.
Esse código pode levar alguns minutos para ser executado. Depois de concluído, você poderá visualizar suas incorporações vetoriais conectando-se ao sistema local a partir do mongosh ou ao seu aplicação usando a string de conexão do sistema. Em seguida, você pode executar operações de leitura na sample_airbnb.listingsAndReviews coleção.
Dica
Você pode converter as incorporações nos dados de amostra em vetores BSON para armazenar e ingerir vetores no Atlas com eficiência. Para saber mais, consulte como converter embeddings nativos em vetores BSON.
Crie o índice de Vector Search do MongoDB
Para habilitar a pesquisa vetorial na collection sample_airbnb.listingsAndReviews, crie um índice do MongoDB Vector Search .