Lanzamiento de un chatbot Agentic RAG con MongoDB y Dataworkz

¿Qué es un agente?

Un agente es una entidad computacional artificial con conocimiento de su entorno y de los datos asociados dentro del contexto. Estos agentes pueden interactuar en el caso del comercio electrónico o realizar parte de tareas complejas según sea necesario.

Recuperación-Generación Aumentada

RAG es un enfoque que amplía los LLM con datos propietarios para que puedan generar respuestas más precisas y conscientes del contexto, reduciendo al mismo tiempo las alucinaciones.

Figura 1. RAG convencional

Agentic RAG

Agentic RAG presenta una implementación de RAG basada en agentes de IA. En este modelo, el agente puede acceder a diferentes herramientas y funciones, lo que le permite ir más allá de la recuperación y generación de información: le permite planificar. Los agentes pueden determinar si necesitan recuperar información específica, decidir qué herramienta usar y formular consultas. Estas capacidades son cruciales, ya que permiten al agente extraer información de múltiples fuentes de datos y gestionar consultas complejas que requieren más de una fuente para formular la respuesta. Agentic RAG puede mejorar las interacciones con los clientes y agilizar los procesos en todos los sectores.

Figura 2. RAG agéntico

Para obtener más detalles,consulte Dataworkz Agentic RAG.

Figura 3. Comparación entre RAG convencional y agéntico

Impacto en la industria minorista

El sector minorista adoptó rápidamente la IA generativa.2024 En, una cuarta parte de los consumidores utilizó IA en su experiencia de compra, lo que representa un 4aumento del % con respecto al año anterior.

Algunos casos de uso de IA generativa en el comercio minorista incluyen:

• Chatbots de atenciónal cliente: chatbots de última generación impulsados ​​por IA que brindan asistencia en tiempo real y son conscientes del contexto de las políticas comerciales, el historial del usuario y las preferencias.

• Recomendaciones de productos personalizadas: Recomendaciones de clientes basadas en sus gustos, necesidades y pedidos anteriores. Estas recomendaciones personalizadas hacen que la compra sea más placentera para los clientes y aumentan las probabilidades de éxito.

• Contenido de marketing dinámico: las aplicaciones de inteligencia artificial pueden generar promociones, correos electrónicos y mensajes personalizados para cada cliente, lo que aumenta la participación, las ventas y la retención.

Presentando Dataworkz

Dataworkz es una plataforma RAG como servicio que transforma la forma en que las organizaciones crean e implementan aplicaciones de IA. Su arquitectura basada en agentes y su recuperación optimizada para grafos permiten a las grandes empresas lanzar aplicaciones RAG sofisticadas en cuestión de horas, en lugar de meses.

La plataforma elimina la necesidad de equipos de IA especializados gracias a un generador intuitivo sin código que implementa automáticamente las mejores prácticas en el desarrollo de RAG. A diferencia de los enfoques tradicionales que limitan la toma de decisiones arquitectónicas iniciales, Dataworkz permite una experimentación rápida: puede probar diferentes estrategias de recuperación, variaciones de solicitudes y combinaciones de modelos en un entorno controlado antes de pasar a producción.

Dataworkz ofrece aplicaciones RAG listas para producción sin la sobrecarga tradicional de construir y mantener una compleja infraestructura de IA.

Esta arquitectura consta de los siguientes componentes clave:

• Recuperación de conocimiento optimizada mediante gráficos para relaciones complejas.

• Arquitectura basada en agentes para un razonamiento sofisticado.

• Constructor sin código con mejores prácticas integradas.

• Soporte completo del ciclo de vida, desde la experimentación hasta la producción.

• FlexibilidadBYO: LLM, modelo de integración y base de datos vectorial.

• Seguridad y escalabilidad de nivel empresarial.

Aprovechar MongoDB con Dataworkz

Dataworkz optimiza la creación de pipelines RAG al ofrecer una experiencia intuitiva para extraer datos no estructurados, configurar una estrategia de fragmentación y crear incrustaciones vectoriales. El generador de RAG de Dataworkz también permite a los desarrolladores elegir diferentes mecanismos de recuperación (léxico, semántico o gráfico) con diferentes umbrales para crear el contexto y responder a la pregunta del usuario.

La integración también permite el procesamiento y análisis de datos en tiempo real, lo que garantiza que los modelos de IA utilicen los datos más actuales para obtener respuestas precisas y relevantes.

Arquitectura RAG de Agentic

Para generar resultados transformacionales, los sistemas RAG convencionales, que utilizan principalmente técnicas de búsqueda vectorial, deben integrarse con información actualizada de bases de datos operativas.

MongoDB Atlas Vector Search proporciona soporte integrado para incrustaciones de vectores, lo que elimina la necesidad de una base de datos de vectores separada, simplificando la arquitectura y reduciendo la complejidad.

Con los agentes de Dataworkz, los minoristas pueden ofrecer acceso controlado a las colecciones de MongoDB configurándolas como herramientas. En muchos casos, los clientes disponen de una capa de API que abstrae las colecciones subyacentes. Dataworkz se integra con la API REST o GraphQL.

Además, cualquier canalización de RAG configurada en Dataworkz puede ser una herramienta para un agente. Esta capacidad permite a los agentes comprender datos no estructurados en un sitio de SharePoint, una página wiki de Confluence o Markdown, según la pregunta del usuario.

Los minoristas existentes con aplicaciones que aprovechan MongoDB como su plataforma de datos pueden beneficiarse de la estrecha integración de Dataworkz con MongoDB y su adopción de IA puede incorporar Agentic RAG en sus soluciones.

Los agentes de Dataworkz pueden acceder a múltiples fuentes de datos y usar LLM de razonamiento para decidir qué herramienta usar para responder a la pregunta de un usuario. Un agente puede acceder y alternar entre diferentes colecciones o bases de datos de MongoDB para recuperar datos estructurados como el estado del envío, los perfiles de los clientes, las preferencias y el historial de pedidos. Además, soluciones de terceros como ERP (Epicor) y CRM (Salesforce) pueden integrarse mediante las API expuestas por los proveedores. Juntas, estas herramientas permiten al agente comprender las preguntas del usuario en contexto y proporcionar respuestas personalizadas y relevantes.

Los siguientes pasos explican cómo funciona un agente de Dataworkz:

1. El marco del agente Dataworkz organiza los casos de uso en escenarios, como responder preguntas sobre las políticas de la tienda, buscar un pedido o brindar atención al cliente.

2. El agente utiliza un LLM de razonamiento para planificar cómo responder a una pregunta según la consulta del usuario, el contexto de la conversación, la memoria y las herramientas disponibles, como el acceso a las colecciones de MongoDB. El LLM determina una secuencia de pasos para recopilar la información necesaria. Este proceso es iterativo; después de cada paso, el agente comprueba si dispone de suficiente contexto para proporcionar una respuesta o si se requiere mayor recuperación y planificación.

3. Finalmente, el agente utiliza el contexto recopilado para generar una respuesta, tomar una acción o hacer una pregunta aclaratoria al usuario si es necesario.

Figura 4. Arquitectura RAG de agencia de Dataworkz y MongoDB