对于 AI 代理:可在 https://www.mongodb.com/zh-cn/docs/llms.txt 获取文档索引—通过在任何 URL 路径后添加 .md 可获取所有页面的 Markdown 版本。
Docs 菜单

使用 Azure AI Foundry 部署 MongoDB Models 的 Voyage AI

Azure AI Foundry 可用于在 Azure 环境中发现和部署 MongoDB 模型的 Voyage AI。Azure AI Foundry 为模型发现、部署、计费和访问管理提供 Azure 原生路径。

通过 Azure AI Foundry 使用 Voyage AI 可以获得以下优势:

  1. 数据流和访问控制。Azure AI Foundry 支持专用网络和 Azure 原生访问控制,因此您可以使模型访问与 Azure 网络和安全要求保持一致。对于专用设置,请在 Azure 门户中验证 Foundry 项目使用的具体部署模式和网络配置。

  2. Azure 提供可靠性和合规保障。 计费、身份和基础设施控制通过 Azure 托管。

  3. 通过 Azure 进行采购和计费。您可以使用 Azure 订阅、计费关系和适用的信用,而不必为模型主机建立单独的商业关系。

要查看Azure AI Foundry 当前可用的 Voyage AI by MongoDB模型,请打开Azure AI Foundry 中的 Voyage AI发布者页面。

模型可用性可能会随着时间的推移而变化。要学习;了解有关 Voyage AI模型功能和推荐使用案例的更多信息,请参阅 Voyage AI嵌入和重排名模型概述。

Azure AI Foundry 定价取决于 Azure 对所选 Voyage AI 模型使用的部署类型以及部署模型的区域。

定价组件
预期内容

Azure 订阅计费

费用通过 Azure 订阅计费。

模型费用

Azure AI Foundry 部署用户界面将在部署前显示所选模型或部署选项的定价详情。

基础架费用

专用或托管计算部署可能包括每小时基础设施费用,该费用因加速器 SKU 和区域而异。

区域敏感度

总费用可能因 Azure 区域和部署配置而异。

Azure AI Foundry 提供两种部署计费模型:

  • 标准 Foundry 部署通常根据部署类型按词元使用量或预配吞吐量计费。

  • 托管计算部署按加速器 SKU 每小时计费。

Azure门户或Azure AI Foundry部署流程是部署时显示的确切价格的来源。有关更多信息,请参阅Microsoft文档了解Azure AI Foundry 中的部署选项和Azure定价计算器。

在通过 Azure AI Foundry 部署 Voyage AI 模型之前,请确保具备以下条件:

  • 活跃的 Azure 订阅。

  • 在目标订阅中创建或使用 Azure AI Foundry 资源的权限。

  • 访问 Azure AI Foundry 项目或创建项目的权限。

  • 目标区域中的配额充足,可满足 Azure AI Foundry 对所选 Voyage AI 模型的部署类型要求。

  • 您计划通过Azure AI Foundry部署Voyage AI模型的同一地区中的Azure AI中心资源。有关设置指导,请参阅有关创建中心和项目的Microsoft文档。

  • 如果您的组织需要私有网络,则需要现有的虚拟网络和创建和批准任何所需私有端点连接所需的 Azure 权限。

本节指导如何在部署前验证和请求配额。

Azure AI Foundry 中的配额模型取决于部署类型:

  • 某些部署路径使用 Azure AI Foundry 配额而不是 Azure 虚拟机配额。

  • 其他部署路径可能会在部署流程中显示面向基础设施的大小和区域可用性选择。

由于 Azure AI Foundry 可以通过不同的部署模式路由不同的模型系列,因此,在开始之前,请从 Azure 门户和 Azure AI Foundry 部署用户界面验证配额。

1

登录 Azure 门户。

2

打开您计划使用的订阅。

3

查看 Foundry 部署中涉及的服务和区域的配额相关设置。

4

在 Azure AI Foundry 中,开始部署流程,以使用您想使用的 Voyage AI 模型,并查看用户界面中显示的任何配额或容量要求。

5

确认目标区域具有足够的容量来支持所选的部署选项。

有关Azure AI Foundry 配额指导,请参阅有关部署选项的Microsoft文档。

如果您没有足够的配额或容量:

  • 使用 Azure 门户请求增加所需服务或区域的相关配额。

  • 如果部署流程指示 Azure AI Foundry 特定的配额要求,请从 Azure 用户界面链接的配额工作流。

  • 增加获批准后重试部署。

由于 Azure AI Foundry 部署类型会不断变化,因此请使用 Azure 门户和部署工作流作为准确配额过程的信息来源。

如果您的组织不需要专用网络,则可以使用部署支持的默认 Azure AI Foundry 网络选项。

如果您的组织需要私有连接,请在部署前准备网络:

  • 确定 Azure AI Foundry 项目或客户端应用程序将使用的虚拟网络和子网。

  • 如果您的组织使用私有端点,请确认您有权限创建私有端点并批准私有端点连接。

  • 确认专用访问的 DNS 解析和路由要求。

  • 验证应用程序、验证托管或代理工具所需的任何出站访问策略。

有关 Azure AI Foundry 专用网络指导,请参阅 Microsoft 有关 Azure AI Foundry 网络隔离性的文档。

在本节中,您将从 Azure AI Foundry 部署 MongoDB 的 Voyage AI 模型。

由于 Voyage AI 在 Azure AI Foundry 中作为第三方托管计算产品提供,因此 Azure 使用部署导向器预配 GPU 支持的基础设施,并在其上部署所选的 Voyage AI 模型。

1

打开 Azure AI Foundry 门户。

2

将 New Foundry 切换到左侧(关闭位置)。

3

在左侧边栏中,选择 Model Catalogue。

4

单击 See All Models(连接)。

5

搜索 Voyage 系列模型。

6

选择所需模型的模型卡。

7

单击 Use this model(连接)。

8

选择要使用模型的项目。

9

单击 Create(连接)。

10

按照部署导向中的说明操作,然后单击 Deploy。

Azure AI Foundry 门户会为所选模型选择适当的部署路径。根据模型和 Azure 对该列表的当前集成,这可能会影响您在部署过程中看到的字段以及连接到已部署模型的方式。

在部署过程中,请仔细查看以下设置:

设置
指南

订阅

使用应收取部署费用的 Azure 订阅。

项目

使用应拥有模型部署的 Azure AI Foundry 项目。

区域

选择具有足够容量和组织所需网络配置文件的支持区域。

部署类型

使用 Azure 为选定的 Voyage AI 模型提供的部署类型。

身份验证

使用 Azure AI Foundry 为部署提供的项目密钥。

网络

如有需要,请应用 Foundry 资源和项目支持的私有网络或私有端点设置。

部署成功后:

  • 在 Azure AI Foundry 中打开部署模型或部署详情页面。

  • 捕获终结点信息、部署名称、身份验证方法以及客户端所需的任何区域或网络详情。

  • 记录部署是否使用统一的 Azure AI Foundry 项目终结点或门户显示的其他 Azure 托管连接模式。

Azure AI Foundry 连接详情取决于 Azure 对所选模型使用的部署模式。使用 Azure AI Foundry 中的部署详情页面作为信息来源。

部署后,从 Azure AI Foundry 捕获以下值:

值
为何需要它

项目终结点或模型终结点

客户端使用此基本 URL 发送推理请求。

deploymentName

某些 SDK 和 API 路由需要部署标识符。

身份验证方法

您需要 Azure AI Foundry 为部署提供的密钥或令牌。

区域

有助于治理、疑难排除和延迟预期。

网络限制

指示客户端是否必须从经批准的网络连接或通过私有访问连接。

Azure AI Foundry 通常会暴露以下连接模式之一:

  • 统一 Foundry 项目终结点。某些 Azure AI Foundry 部署通过项目的统一终结点调用,部署名称在请求路径或有效负载中提供。

  • 私有或网络隔离访问。如果您的 Foundry 项目配置为私有访问,则客户端必须从经批准的网络运行并正确解析 Azure 私有端点。

对于部署的模型,请使用 Azure AI Foundry 中显示的身份验证方法。Voyage AI 模型部署目前仅支持基于密钥的身份验证:

  • 部署暴露的 Azure AI Foundry 项目密钥或其他基于密钥的凭证。

部署后,验证应用程序是否可以连接到已部署的模型。

1

在 Azure AI Foundry 中打开部署详情页面。

2

复制终结点和身份验证信息。

3

使用 Azure 提供的示例代码、SDK 示例或部署显示的 API 演示场发送小型测试请求,并确认响应成功且返回的模型元数据与您创建的部署匹配。

如果您的部署使用专用网络,还请执行以下操作:

  • 从经批准的网络边界内的客户端运行测试。

  • 如果适用,验证与预期私有终结点的 DNS 解析。

  • 确认防火墙、子网和私有端点设置允许该请求。

有关专用网络验证,请参阅 Microsoft 有关 Azure AI Foundry 网络隔离性的文档。

使用以下工作流来验证端到端部署:

1

在 Azure AI Foundry 中部署模型。

2

打开部署页面,并记下终结点、部署名称和身份验证要求。

3

运行单个嵌入请求,并使用小示例 string。

4

确认请求成功返回嵌入。

5

记录 Azure 曝露的准确连接模式,以便您的生产应用程序可以遵循相同的路径。

如果您无法连接到部署:

  • 确认模型部署已成功完成。

  • 确认您使用的是正确的终结点和部署名称。

  • 确认您的身份验证方法与 Azure AI Foundry 中显示的方法匹配。

  • 如果启用了私有网络,请确认 DNS、私有端点批准、子网路由和防火墙配置。

  • 如果部署在完成前失败,请查看 Azure 配额、区域可用性以及部署流程中显示的任何容量限制。

为避免持续收费,请删除不再需要的模型部署。

1

打开 Azure AI Foundry 项目。

2

查找已部署的 Voyage AI 模型。

3

从 Azure 用户界面删除部署并确认删除。

如果您的设置包含仅为此部署创建的私有端点或其他支持网络资源,请查看是否也应将其删除。