Overview
Atlas 代理引擎用户界面中的 Monitoring 页面显示了您的项目及其工作区的用法和运行状况指标。使用该页面可追踪代理调用、错误率、令牌使用情况、内存活动和随时间变化的资源消耗。该页面仅显示当前项目的数据。
页面的每个部分都以磁贴和趋势卡片的形式显示指标。磁贴显示所选时间段内的单个值。趋势卡片显示指标在所选时间段内的变化情况。趋势卡片将 5 期间的数据分为 1h 分钟的存储桶,将 24h 期间的数据分为每小时的存储桶,将 7d 和 30d 期间的数据分为每天的存储桶。
要了解如何查看日志、部署事件和实时工作区运行状况,请参阅监控 代理 指南。要了解如何调试特定的代理运行,请参阅检查代理执行跟踪指南。
查看指标
要查看项目的指标,请执行以下步骤:
页面每 60 秒自动刷新一次数据。
工作区视图
当您查看单个工作区时,页面会显示与项目范围视图相同的区域,但针对该工作区进行了限定,以下情况除外:
Networking 部分不可用。
By workspace 和 Compute by workspace 表不可用。
自定义页面
您可以选择在每个部分中显示哪些趋势卡片,还可以显示 Compute 和 Networking 部分(默认情况下这些部分是隐藏的)。您可以在项目范围视图或单个工作区视图中自定义页面。
要自定义页面,请执行以下步骤:
默认情况下,Usage、Memory 和 Policy 部分会显示四个数据量最大的指标的趋势卡片。您无法自定义 Health 趋势卡片。
您的浏览器会存储您的选择,因此它们会在同一浏览器的不同会话中保持不变。您的选择不适用于其他浏览器或其他设备。
指标参考
本节介绍了 Monitoring 页面各部分中的指标。每个指标显示所选时间段的总数。
健康
Health 部分显示了代理运行的结果和持续时间。该部分还包含 Invocations 和 Errors 趋势卡片。Errors 趋势卡片仅在所选期间发生错误时才会出现。
下表描述了该部分中的指标:
衡量标准 | 说明 | 单位 |
|---|---|---|
Invocations | 已完成或失败的代理运行次数。等待批准的运行不计入在内。 | 数数 |
Error rate | 失败次数除以调用次数。如果没有调用,该值为零。 | 百分比 |
Failures | 以错误结束的运行次数。等待批准的运行不计入在内。 | 数数 |
Latency p50 | 从运行开始到完成或出错的中位数时间,包括等待批准的时间。 | 毫秒或秒 |
Latency p95 | 95 的运行完成时间,从运行开始到完成或出错,包括等待批准的时间。 | 毫秒或秒 |
仅当所选期间有延迟数据时,才会显示延迟指标。要了解有关审批的更多信息,请参阅Human-in-the-Loop 代理 Execution。
使用
Usage 部分显示模型、工具和运行时消耗。下表描述了该部分中的指标:
衡量标准 | 说明 | 单位 |
|---|---|---|
LLM calls | 对语言模型的调用次数。 | 数数 |
Input tokens | 发送到语言模型的令牌数量。 | 数数 |
Output tokens | 语言模型返回的令牌数量。 | 数数 |
Tool sandbox calls | 工具沙盒的调用次数。 | 数数 |
Tool sandboxes | 已使用的工具沙盒数量。 | 数数 |
Workload runtime | 在选定期间内代理和工具沙盒运行的总时间。 | duration |
Platform uptime | 在选定期间内,始终在线的平台服务(包括编排引擎和内存服务器)运行的总时间。此值包含空闲时间。 | duration |
Pod runtime 趋势卡片结合了工作负载运行时和平台正常运行时间,可通过 Customize 获取。
内存
Memory 部分显示了代理内存活动。下表描述了该部分中的指标:
衡量标准 | 说明 | 单位 |
|---|---|---|
Docs written | 在选定期间内写入内存的文档数量。此值并非当前的内存大小。 | 数数 |
Docs retrieved | 从内存中检索的文档数量。 | 数数 |
Embedding tokens | 用于生成嵌入的令牌数量。 | 数数 |
Searches | 内存搜索调用次数。 | 数数 |
Context tokens | 添加到代理上下文的内存令牌数量。 | 数数 |
Memories consolidated | 通过整合添加的记忆数量。 | 数数 |
如需了解有关代理内存的更多信息,请参阅 代理内存。
Policy
Policy 部分显示了 Policy denials 指标,该指标用于统计 Policy 引擎 拒绝的调用。
该指标计算来自 AUTHORIZED_TOOLS 策略类型以及执行和会话预算策略的拒绝次数。该指标不计算来自 AUTHORIZED_MODELS 策略类型的拒绝次数。要了解更多信息,请参阅 策略类型。
内存延迟
Memory latency 部分显示了内存操作的性能。仅当您的代理在选定时间段内执行了相关内存操作时,才会显示每个指标。
下表描述了该部分中的指标:
衡量标准 | 说明 | 单位 |
|---|---|---|
Context latency p50 | 检索内存上下文的中位数时间。 | 毫秒或秒 |
Context latency p95 | 95% 的内存上下文检索完成所需的时间。 | 毫秒或秒 |
Write latency p95 | 95 百分比的内存写入完成的时间。 | 毫秒或秒 |
Retrieval success | 内存检索成功的百分比。 | 百分比 |
计算
Compute 部分显示资源使用情况。该部分默认隐藏。要显示该部分,请在选择 Customize 后选择 Show Compute。该部分包括 CPU 和 Memory 趋势卡。
下表描述了该部分中的指标:
衡量标准 | 说明 | 单位 |
|---|---|---|
CPU | 所选期间的 CPU 使用率平均值。 | Cores |
CPU user | 用户模式下的平均值 CPU 使用率。 | Cores |
CPU system | 系统模式下的平均值 CPU 使用率。 | Cores |
Memory | 当前内存使用量。 | 字节 |
Disk | 当前磁盘使用量。 | 字节 |
Processes | 当前进程数。 | 数数 |
网络
Networking 部分显示项目范围的出站流量。该部分默认隐藏,仅在项目范围视图中可用。要显示该部分,请在选择 Customize 后选择 Show networking。
衡量标准 | 说明 | 单位 |
|---|---|---|
Egress throughput | 平均值出站流量速率。 | 每秒字节数 |
Egress packets | 平均值出站数据包速率。 | 每秒数据包数 |
Active peers | 当前活跃的对等互连数量。 | 数数 |
Peer registrations | 已注册的对等互连数量。 | 数数 |
Peer removals | 已移除的对等互连数量。 | 数数 |
Stale peers reaped | 自动移除的非活动对等互连数量。 | 数数 |
当流量使用多个 IP 系列时,该部分还会显示一个 By IP family 表,其中包含每个系列的吞吐量和流量份额。要了解有关出口的更多信息,请参阅 管理网络出口策略。
细分
Breakdowns 部分展示了使用情况是如何分布的。本节包含以下表格:
By model:每个模型的令牌使用量和份额。
By pod type:每种 Pod 类型的总运行时间及其占所有 Pod 类型总运行时间的百分比。即使在空闲时,编排引擎和内存服务器也会产生运行时间。
By tool:每个工具的调用次数和错误率。
Compute by workspace:每个工作区的 CPU 使用率和份额。仅当您显示 Compute 部分时,此表才在项目范围视图中可用。
By workspace:每个工作区的令牌使用量和份额。没有使用量的已部署工作区显示
0。此表仅在项目范围视图中可用。
空状态和错误状态
根据原因,当数据不可用时,页面会显示以下消息:
No metrics in this time range:1h 或 24h 时间段内不存在指标。请选择更长的时间段,或调用代理。
No metrics yet:7d 或 30d 时间段内不存在指标。在项目中运行代理后,指标才会出现。
No data in this time range:所选期间的部分或表格没有数据。选择更长的时间段,或调用使用所选功能的代理。
Monitoring data isn't available in this environment yet:未为您的环境配置监控。要了解更多信息,请参阅 监控代理。
Monitoring data couldn't be loaded:页面或部分无法加载数据。页面会自动重试。