重要
原生重新排序可作为预览功能使用。在预览期间,功能和相应的文档可能随时更改。因此,我们不建议在生产环境中使用此功能。我们目前不使用此功能中的任何客户数据来训练我们的模型。要了解更多信息,请参阅预览功能。
您可以在Atlas用户界面中执行以下任务:
所需权限
要启用或禁用原生重新排序 (Native Reranking),您必须拥有项目 Project Owner 的访问权限。如果您有 Organization Owner 访问权限,则必须将自己添加为项目的 Project Owner,以启用或禁用原生 Reranking。
要查看限制和使用指标,您必须对项目具有 Project Read Only 或 Project Search Index Editor 访问权限或更高的权限。
启用或禁用项目的原生重新排名
在使用 $rerank 阶段之前,您必须为项目启用原生重新排序。
启用或禁用原生重新排序
要启用或禁用 reranking,请完成以下步骤:
在Atlas中,转到 Project Settings 页面。
如果尚未显示,请从导航栏上的 Organizations 菜单中选择包含所需项目的组织。
如果尚未显示,请从导航栏的Projects菜单中选择所需的项目。
在侧边栏中,单击 图标 Project Overview 旁边的图标。
显示项目设置页面。
启用或禁用重新排名。
要启用重新排序,请执行以下操作:
在 Project Settings标签页中,将 Native Reranking: $rerank in the Aggregation Pipeline 开关设立为 On。
在 Confirm Rerank Model Usage窗口中,选中复选框以确认您了解与使用
$rerank阶段相关的成本,然后单击 Confirm。
要禁用重新排序,请完成以下步骤:
在 Project Settings标签页中,将 Native Reranking: $rerank in the Aggregation Pipeline 开关设立为 Off。
在 Disable Native Reranking 确认窗口中,键入
Disable并单击 Disable。禁用重新排名可能会导致使用
$rerank阶段的查询运行失败。
使用资源策略限制原生重排序
您可以在组织级别配置资源策略,以完全阻止 $rerank 或允许例外。为此,请添加一条以 Cedar 编写的 forbid 规则,并将其目标设置为 $rerank 操作。如果配置此策略,则新项目无法启用 $rerank。但是,该策略不会禁用已启用 $rerank 的项目。对于已启用 $rerank 的每个项目,必须单独禁用 。要禁用项目的 $rerank,请参阅 启用或禁用原生重新排序。
您可以通过使用 forbid 规则中的 unless 子句来禁用 $rerank(例外情况)。
forbid (principal, action == ResourcePolicy::Action::"$rerank", resource) unless { <exception> };
要学习;了解有关设置资源策略的更多信息,请参阅Atlas资源策略。
监控令牌使用情况
在Atlas 用户界面 的Usage 页面监控令牌使用情况。要查看使用情况:
单击导航栏中 Native Reranking 下的 Usage。
Usage 页面提供多个视图,用于监控和分析令牌使用情况。要了解更多信息,请参阅令牌使用情况。
管理速率限制
Atlas 用户界面中的 Rate Limits 页面提供了项目的速率限制以及如何增加这些限制的指导。
使用层级和速率限制
Atlas对您在特定时间范围内可以发出的请求数量实施速率限制,以每分钟令牌 (TPM) 或每分钟请求数 (RPM) 来衡量。速率限制采用分层系统,层级越高,限制越多。
模型 | 每分钟请求数 (RPM) | 每分钟令牌数 (TPM) |
|---|---|---|
| 4 , 000 | 4,000,000 |
| 4 , 000 | 8,000,000 |
| 4 , 000 | 4,000,000 |
| 4 , 000 | 8,000,000 |
查看速率限制
提高速率限制
MongoDB 会随着使用量的增加而自动提高限速。如果仍需要更高的限速,请联系 MongoDB 支持。
监控原生重排名的指标
您可以通过 Atlas 用户界面 (UI) 中的以下指标监控 $rerank 的使用情况:
衡量标准 | 说明 |
|---|---|
$rerank Query Status Rate |
|
$rerank Token Usage Rate |
|
要查看 $rerank 使用情况的指标: