Para agentes de IA: hay un índice de documentación disponible en https://www.mongodb.com/es/docs/llms.txt — versiones en markdown de todas las páginas están disponibles agregando .md a cualquier ruta URL.

Construye una implementación local de RAG con MongoDB y LangChain

Además de implementar MongoDB Atlas en la nube, utilizas Atlas CLI para implementar instancias independientes de MongoDB en tu máquina local. La integración de MongoDB con LangChain admite tanto clústeres de Atlas como implementaciones locales. Cuando especifique el parámetro de cadena de conexión, puede especificar su cadena de conexión de implementación local en lugar de la cadena de conexión del clúster.

Este tutorial demuestra cómo implementar la generación de recuperación aumentada (RAG) con una implementación local de Atlas, modelos locales y la integración de LangChain MongoDB. Específicamente, realizas las siguientes acciones:

  1. Crea una implementación local de Atlas.

  2. Utiliza un modelo de embedding local para generar embebidos vectoriales.

  3. Usa la implementación local de Atlas como un almacén de vectores.

  4. Utiliza un LLM local para responder a preguntas sobre los datos.

Para aprender cómo implementar RAG localmente sin usar LangChain, consulta Compilar una implementación local de RAG con búsqueda vectorial de MongoDB.

Para completar este tutorial, debes tener lo siguiente:

  • Python v3.10 o posterior.

  • Docker ejecutándose localmente.

  • Un cuaderno interactivo de Python que puede ejecutar localmente. Puede ejecutar notebooks interactivos de Python en VS Code.

En esta sección, configurará el entorno para este tutorial. La librería atlas-local-lib-py crea y gestiona automáticamente su implementación local de MongoDB a través de Docker, lo que elimina la necesidad de configuración manual o comandos CLI.

1

Ejecuta los siguientes comandos en tu terminal para crear un nuevo directorio llamado local-rag-langchain-mongodb.

mkdir local-rag-langchain-mongodbcd local-rag-langchain-mongodb
2

El siguiente comando crea un notebook en el directorio llamado langchain-local-rag.ipynb.

touch langchain-local-rag.ipynb
3

Ejecute el siguiente comando en su cuaderno para instalar uv:

%pip install --quiet uv

Ejecute el siguiente comando en su notebook para instalar las dependencias necesarias:

import sys!uv pip install --system --python "{sys.executable}" atlas-local-lib-py pymongo langchain langchain-classic langchain-mongodb langchain-pymupdf4llm langchain-text-splitters gpt4all langchain-huggingface==1.2.2 sentence-transformers==5.7.0 transformers==4.57.6
4

Ejecute el siguiente código en su notebook para crear una nueva implementación local o reutilizar una existente con una configuración coincidente. Esto también recupera la cadena de conexión mediante programación.

from atlas_local import LocalDeployment # Create or reuse a local Atlas deploymentdeployment = LocalDeployment.get_or_create(name="local-atlas-deployment")deployment.start()MONGODB_URI = deployment.connection_string()print("Local deployment ready:", MONGODB_URI)

Puedes usar tu implementación local de Atlas como una base de datos vectorial, también llamada tienda de vectores. Copia y pega los siguientes fragmentos de código en su cuaderno.

1

El siguiente código utiliza la integración de LangChain para MongoDB Vector Search para instanciar tu implementación local de Atlas como una base de datos vectorial, también denominada almacén vectorial, usando el namespace langchain_db.local_rag.

Este ejemplo especifica el voyageai/voyage-4-nano modelo de Hugging Face.

from langchain_mongodb import MongoDBAtlasVectorSearchfrom langchain_huggingface import HuggingFaceEmbeddings # Load the embedding model (https://huggingface.co/voyageai/voyage-4-nano)embedding_model = HuggingFaceEmbeddings( model_name="voyageai/voyage-4-nano", model_kwargs={"trust_remote_code": True, "truncate_dim": 2048}, encode_kwargs={"prompt_name": "document"}, query_encode_kwargs={"prompt_name": "query"},) # Instantiate vector storevector_store = MongoDBAtlasVectorSearch.from_connection_string( connection_string = MONGODB_URI, namespace = "langchain_db.local_rag", embedding=embedding_model, index_name="vector_index")
2

Ejecute el siguiente código en su cuaderno para comenzar con una colección langchain_db.local_rag limpia, en caso de ejecuciones anteriores de este tutorial:

from pymongo import MongoClient # Start from a clean collection, in case of previous runs of this tutorialMongoClient(MONGODB_URI)["langchain_db"]["local_rag"].drop()

Pega y ejecuta el siguiente código en tu notebook para ingerir un PDF de muestra que contiene un informe de ganancias reciente de MongoDB en la base de datos vectorial.

Este código utiliza un divisor de texto para fragmentar los datos del PDF en documentos padre más pequeños. Especifica el tamaño del fragmento (número de caracteres) y la superposición de fragmentos (número de caracteres superpuestos entre fragmentos consecutivos) para cada documento.

from langchain_text_splitters import RecursiveCharacterTextSplitterfrom langchain_pymupdf4llm import PyMuPDF4LLMLoader # Load the PDFloader = PyMuPDF4LLMLoader("https://investors.mongodb.com/node/13176/pdf")data = loader.load() # Split PDF into documentstext_splitter = RecursiveCharacterTextSplitter(chunk_size=200, chunk_overlap=20)docs = text_splitter.split_documents(data) # Add data to the vector storevector_store.add_documents(docs)

Este código podría tardar varios minutos en ejecutarse. Una vez finalizado, si utiliza Atlas, puede verificar sus incrustaciones vectoriales navegando hasta el namespace langchain_db.local_rag en la Interfaz de Usuario de Atlas.

También puedes ver tus embeddings vectoriales conectándote a tu implementación local desde mongosh o a tu aplicación utilizando la cadena de conexión de tu implementación. A continuación, puedes ejecutar operaciones de lectura en la colección de langchain_db.local_rag.

3

Para habilitar consultas de búsqueda vectorial en tu almacenamiento vectorial, crea un índice de MongoDB Vector Search en la colección langchain_db.local_rag. Puedes crear el índice utilizando el método asistente LangChain:

# Use helper method to create the vector search indexvector_store.create_vector_search_index( dimensions = 2048 # The dimensions of the vector embeddings to be indexed)

El índice debería tardar alrededor de un minuto en compilarse. Mientras se crea, el índice se encuentra en un estado de sincronización inicial. Cuando se termine de construir, se podrá empezar a consultar los datos de tu colección.

Esta sección demuestra una muestra de implementación de RAG que puedes ejecutar localmente con MongoDB búsqueda vectorial y GPT4All.

Para aprender otras formas de ejecutar LLMs localmente con LangChain, consulte Ejecutar modelos localmente.

1
  1. Haz clic en el siguiente botón para descargar el modelo Mistral 7B desde GPT4All. Para explorar otros modelos, consulta el sitio web GPT4All..

    Descargar
  2. Mueve este modelo a tu directorio de proyectos local-rag-langchain-mongodb.

  3. Pegue el siguiente código en su cuaderno para configurar el LLM. Antes de ejecutar, reemplace <path-to-model> por la ruta donde guardó el LLM localmente.

    from langchain_core.callbacks.streaming_stdout import StreamingStdOutCallbackHandlerfrom langchain_classic.llms import GPT4All # Configure the LLMlocal_path = "<path-to-model>" # Callbacks support token-wise streamingcallbacks = [StreamingStdOutCallbackHandler()] # Verbose is required to pass to the callback managerllm = GPT4All(model=local_path, callbacks=callbacks, verbose=True)
2

Ejecuta el siguiente código para completar tu implementación RAG:

from langchain_core.prompts import PromptTemplatefrom langchain_core.output_parsers import StrOutputParserfrom langchain_core.runnables import RunnablePassthroughimport pprint # Instantiate MongoDB Vector Search as a retrieverretriever = vector_store.as_retriever() # Define prompt templatetemplate = """Use the following pieces of context to answer the question at the end.{context}Question: {question}"""custom_rag_prompt = PromptTemplate.from_template(template) def format_docs(docs): return "\n\n".join(doc.page_content for doc in docs) # Create chainrag_chain = ( {"context": retriever | format_docs, "question": RunnablePassthrough()} | custom_rag_prompt | llm | StrOutputParser()) # Prompt the chainquestion = "What was MongoDB's latest acquisition?"answer = rag_chain.invoke(question) # Return source documentsdocuments = retriever.invoke(question)print("\nSource documents:")pprint.pprint(documents)
Answer: MongoDB's latest acquisition was Voyage AI, a pioneer in state-of-the-art embedding and reranking models that power next-generationSource documents:[Document(id='680a98187685ddb66d29ed88', metadata={'_id': '680a98187685ddb66d29ed88', 'producer': 'West Corporation using ABCpdf', 'creator': 'PyPDF', 'creationdate': '2025-03-05T21:06:26+00:00', 'title': 'MongoDB, Inc. Announces Fourth Quarter and Full Year Fiscal 2025 Financial Results', 'source': 'https://investors.mongodb.com/node/13176/pdf', 'total_pages': 9, 'page': 1, 'page_label': '2'}, page_content='Measures."\nFourth Quarter Fiscal 2025 and Recent Business Highlights\nMongoDB acquired Voyage AI, a pioneer in state-of-the-art embedding and reranking models that power next-generation'), Document(id='680a98187685ddb66d29ed8c', metadata={'_id': '680a98187685ddb66d29ed8c', 'producer': 'West Corporation using ABCpdf', 'creator': 'PyPDF', 'creationdate': '2025-03-05T21:06:26+00:00', 'title': 'MongoDB, Inc. Announces Fourth Quarter and Full Year Fiscal 2025 Financial Results', 'source': 'https://investors.mongodb.com/node/13176/pdf', 'total_pages': 9, 'page': 1, 'page_label': '2'}, page_content='conjunction with the acquisition of Voyage, MongoDB is announcing a stock buyback program of $200 million, to offset the\ndilutive impact of the acquisition consideration.'), Document(id='680a98187685ddb66d29ee3f', metadata={'_id': '680a98187685ddb66d29ee3f', 'producer': 'West Corporation using ABCpdf', 'creator': 'PyPDF', 'creationdate': '2025-03-05T21:06:26+00:00', 'title': 'MongoDB, Inc. Announces Fourth Quarter and Full Year Fiscal 2025 Financial Results', 'source': 'https://investors.mongodb.com/node/13176/pdf', 'total_pages': 9, 'page': 8, 'page_label': '9'}, page_content='View original content to download multimedia:https://www.prnewswire.com/news-releases/mongodb-inc-announces-fourth-quarter-and-full-\nyear-fiscal-2025-financial-results-302393702.html'), Document(id='680a98187685ddb66d29edde', metadata={'_id': '680a98187685ddb66d29edde', 'producer': 'West Corporation using ABCpdf', 'creator': 'PyPDF', 'creationdate': '2025-03-05T21:06:26+00:00', 'title': 'MongoDB, Inc. Announces Fourth Quarter and Full Year Fiscal 2025 Financial Results', 'source': 'https://investors.mongodb.com/node/13176/pdf', 'total_pages': 9, 'page': 3, 'page_label': '4'}, page_content='distributed database on the market. With integrated capabilities for operational data, search, real-time analytics, and AI-powered retrieval, MongoDB')]