Este tutorial demonstra como implementar a geração aumentada de recuperação (RAG) localmente, sem a necessidade de chaves ou créditos de API. Para saber mais sobre RAG, consulte Geração Aumentada de Recuperação (RAG) com MongoDB.
Especificamente, você executa as seguintes ações:
Crie um sistema do Atlas local.
Configure o ambiente.
Use um modelo de incorporação local para gerar incorporação de vetores.
Crie um índice do MongoDB Vector Search em seus dados.
Use um LLM local para responder a perguntas sobre seus dados.
In this tutorial, you create a local Atlas deployment using Python and Docker through the atlas-local-lib-py library. This library simplifies deployment management by automatically handling Docker containers and providing programmatic access to connection strings. To learn more, see the atlas-local-lib-py repository.
Você também pode usar um cluster do MongoDB Community ou Enterprise com pesquisa e pesquisa vetorial instalados.
Observação
Local Atlas deployments are intended for testing only. For production environments, deploy a cluster.
Pré-requisitos
Além dos pré-requisitos comuns, este tutorial requer o seguinte:
Crie uma implantação local.
Configurar o ambiente
Gerar incorporações com um modelo local
In this section, you load an embedding model locally and generate vector embeddings by using data from the sample_airbnb database, which contains a collection called listingsAndReviews.
This code might take several minutes to run. After it's finished, you can view your vector embeddings by connecting to your local deployment from mongosh or your application using your deployment's connection string. Then you can run read operations on the sample_airbnb.listingsAndReviews collection.
Dica
Você pode converter as incorporações nos dados de amostra em vetores BSON para armazenar e ingerir vetores no Atlas com eficiência. Para saber mais, consulte como converter incorporações nativas em vetores BSON.
Crie o índice de Vector Search do MongoDB
Para habilitar a pesquisa vetorial na collection sample_airbnb.listingsAndReviews, crie um índice do MongoDB Vector Search .