使用 MongoDB Atlas Vector Search 和大型语言模型构建应用程序，以增强银行应用程序的交互性。
行业：金融服务
合作伙伴：Amazon Bedrock
解决方案概述
交互性银行业务标志着金融服务迈入新时代，客户可以通过数字平台进行互动，而这些平台能够实时预测、理解并满足他们的需求。
该方法利用生成式人工智能 (gen AI) 技术，如聊天机器人和虚拟助手，改进了基本的日常银行业务运营。利用生成式 AI，银行可以启用自助服务数字渠道，同时通过量身定制的情境感知型交互提升客户体验。从即时解答查询的 AI 驱动型聊天机器人，到提供定制化财务建议的预测分析技术，交互式银行业务已不再仅仅关注便利性，而是致力于为每位用户打造更智能、更具互动性且更直观的银行体验。
通过将 AI 驱动的顾问集成到数字银行体验中，银行可以打造一个无缝的应用内解决方案，来提供即时且相关的回答。这样客户便无需离开应用去页数众多的银行文件中寻找答案，更加不用忍受拨打客服电话所带来的不便。最终实现了更流畅、对用户更加友好的交互体验，客户可在自助服务过程中感受到支持，并彻底摆脱传统的繁琐信息检索造成的困扰。整个体验始终在数字空间内完成，提升了便利性和效率。
参考架构
传统条款和条件的问题在于，它们内容繁杂、结构混乱，且在数字银行环境中不易使用。为了解决此问题，MongoDB 及其合作伙伴提出了以下参考架构：
图1。AI 驱动的交互式银行架构
MongoDB 的定位是操作数据存储 (ODS)，充当 AI 技术和应用程序层之间的中间层，使组织能够使用更统一的数据集进行操作。这一整合简化了数据管理流程，确保结构化、半结构化和非结构化数据能够协同共存，从而实现更快的开发周期和更精准的 AI 驱动型数据管理见解。通过打破数据孤岛，企业能够在数字平台上为客户提供更丰富、更一致的体验。
数据模型方法
我们将 PDF 中的文本数据块及其嵌入直接存储在 MongoDB 集合中的同一文档中。如下图所示，这种简化的方法能够实现高效且统一的数据访问。
利用 MongoDB 灵活且可扩展的文档模型，我们可以将文本和向量嵌入存储在一起，简化查询并确保高性能，且无需额外添加其他解决方案。借助此方法，公司能够在 MongoDB 现代化的多云数据库平台上构建 AI 增强的应用程序，并整合实时数据、运营数据、非结构化数据和 AI 驱动的数据。在此基础上，企业便可以高效地调整、扩展和迭代其应用程序，把握新兴技术机遇。
构建该解决方案
文档预处理和数据块
第一步是处理和转换基于文本的非结构化数据（例如《条款和条件》PDF），这些数据将作为回答客户查询的依据。
该文档被划分为 N 个数据块，且这些数据块存储在 MongoDB Atlas 中。一个自定义脚本会扫描文档，创建数据块，并对齐进行向量化（如下图所示）。分块过程中使用了滑动窗口技术，确保数据块之间的过渡数据得以保留，同时保持上下文连贯性。
一旦文档被转换为向量化的数据块，它们就会通过嵌入模型生成向量嵌入。内嵌模型可以根据用户的要求进行选择。为了进行说明，我们在 AWS Bedrock 上使用 Cohere 的 “cohere.embed-english-v3” 来创建嵌入。
数据块及其对应的向量都存储在 MongoDB Atlas 中。在此示例场景中，我们将 SuperDuper（一种开源的 Python 框架，能够将 AI 模型和工作流直接与 MongoDB 集成）用作流程协调器，实现了更灵活且可扩展的定制化企业 AI 解决方案。
向量搜索与查询
将数据块及其嵌入向量存储到 MongoDB 后，您可以开始利用 MongoDB Atlas Vector Search 进行语义查询。
构建聊天机器人用户界面
下一步是构建一个应用程序，在我们的例子中，是打造一个交互式聊天机器人。该聊天机器人由 MongoDB Atlas Vector Search 和一个预训练的 LLM 提供支持。当用户输入一个问题时，首先对问题进行向量化，然后使用 MongoDB Atlas Vector Search 查找包含相似嵌入向量的文档。
检索到相关文档后，下一步是将此类数据发送给 LLM。在这种情况下，我们会将 Amazon Bedrock 用作 LLM 容器。对于这一特定用例，我们利用的是 Anthropic 推出的 Claude。LLM 接收问题和检索到的文档，将这些文档用作上下文来生成更全面、更准确的响应。该框架被称为检索增强生成 (RAG) 架构。RAG 通过结合语义搜索与强大的语言模型生成，让聊天机器人能够提供更加准确的回答。
图2。Leafy Bank 聊天机器人操作演示
关键要点
AI 驱动的技术（如聊天机器人）通过提供即时、情境感知的响应来简化客户互动，这样用户无需费力阅读复杂的条款和条件，也能自主完成银行业务操作。
利用 Atlas Vector Search 和文档分块，MongoDB 能够高效查询繁杂的法律文档，确保客户获得准确且上下文关联的答案。
利用 MongoDB 与向量搜索、LLM 和专用搜索基础架构的集成，金融机构能够扩展 AI 解决方案，并随着客户需求的增长，提高性能和响应能力。
使用的技术和产品
MongoDB 开发者数据平台
合作伙伴技术
作者
MongoDB 欧洲、中东和非洲地区 FSI 负责人 Luis Pazmino Diaz
Ainhoa Múgica，MongoDB行业解决方案高级专家
Pedro Bereilh，行业解决方案专家，MongoDB
Andrea Alaman Calderon，行业解决方案高级专家，MongoDB