流媒体物化视图是 Atlas Stream Processing 流处理器保持最新的集合。为此,流处理器会读取源集合的每个变更,计算该变更的影响,并将结果应用于视图。该视图反映源数据的当前省/市/自治区,无需手动或定时刷新。
流式物化视图适用于读取计算结果的频率高于源数据变化的工作负载,例如仪表盘、运行总计和未结算项目计数。视图会随着数据的到达而更新,因此读取会以低延迟返回当前结果。
与按需物化视图的对比
MongoDB 支持两种物化视图方法:
按需物化视图存储您手动运行或按安排运行的聚合管道的结果。
流媒体物化视图存储持续运行的 Atlas Stream Processing 流处理器的结果。
这两种方法都将计算结果存储在磁盘上,并直接从视图中提供读取服务。它们的区别在于视图更新的方式和时间。
特征 | 按需(On-Demand)实体化(Materialized)视图 | 流式物化视图 |
|---|---|---|
更新 trigger | 手动或定时 | 变更驱动、连续 |
延迟 | 分钟到天 | 几分之一秒到几秒 |
数据新鲜度 | 时间点快照 | 永久同步 |
计算模型 | 重新计算完整结果 | 计算增量效应 |
Best fit | 批处理报告、周期聚合 | 实时仪表盘、操作分析 |
流媒体物化视图处理器的特征
维护流式物化视图是一种模式,您可以从标准 Atlas Stream Processing 聚合阶段中组装该模式。实现此模式的流处理器可以具有以下特征:
读取变更流源。
$source阶段从源集合读取,将fullDocument和fullDocumentBeforeChange设置为required,以便管道可以比较变更前后每个文档的省/市/自治区。计算每个事件的签名差值。
$addFields阶段可以使用$switch表达式根据变更对计算结果的影响为每个插入、更新或删除分配正值或负值。在窗口中分组结果。由于流处理器在无界流上运行,因此每个
$group阶段都必须在窗口阶段内运行。窗口$group汇总窗口间隔内每个密钥的差值。窗口间隔还可作为视图的刷新间隔,因此它决定视图的新鲜程度。可设置的最小间隔是一毫秒。累加应用结果。
$merge阶段可以使用whenMatched管道,该管道将每个窗口的结果添加到视图中的运行总计中,而不是替换它。结束于汇集阶段。Stream Processing 管道必须结束于汇集阶段。使用
$merge向 Atlas 集合写入。
只有增量聚合才能转换为流媒体物化视图。需要完整集合扫描的聚合不符合条件。
需考虑的行为差异
流式物化视图的行为与批处理聚合的行为不同,这会影响下游消费者:
创建流式物化视图
以下教程将创建一个流媒体传输物化视图,该视图按购买方式维护已完成销售的计数。流处理器读取 sample_supplies.sales 集合的变更流并写入 sample_supplies.sales_by_channel 集合。
注意
流处理器还可以从 Apache Kafka 主题读取并写入 Apache Iceberg 表到 Amazon Web Services S3 。要了解更多,请参阅 Apache Kafka Broker 和 $iceberg 聚合阶段。
先决条件
在创建 Stream Processor 之前,您必须拥有一个具有 Atlas 连接的 Stream Processing 工作区,该连接可以连接到包含源数据的集群。要添加连接,请参阅管理连接。
对集群运行本节中的命令。要连接,请参阅 通过 mongosh 连接到集群。
完成以下步骤以准备源集合并为视图提供种子:
加载示例数据集。
此过程使用 sample_supplies 数据集中的 sales 集合。要了解如何加载示例数据,请参阅 将示例数据导入 Atlas 部署。
使用当前结果为视图提供种子。
对集群运行以下批处理聚合,以使视图填充当前计数:
db.sales.aggregate([ { $match: { status: "completed" } }, { $group: { _id: "$purchaseMethod", active_count: { $sum: 1 } } }, { $merge: { into: "sales_by_channel", whenMatched: "replace", whenNotMatched: "insert" } }])要确认种子计数,请查询该视图。sales_by_channel 集合包含每种购买方法的一个文档:
db.sales_by_channel.find()该种子聚合本身就是一个 按需物化视图。这两种视图类型相辅相成:您可以使用批处理聚合初始化按需物化视图,然后启动流处理器以保持同一集合的当前状态。按需视图成为流媒体物化视图。
注意
如果您的管道未使用窗口阶段,则可以使用 initialSync 代替视图种子。在此情况下,流处理器首先将源集合中的每个现有文档作为插入事件挑选,然后处理新的更改事件。要了解 $source 选项 initialSync,请参阅 MongoDB 集合更改流。
步骤
选择 Atlas 用户界面或 mongosh 创建流处理器。
验证视图保持最新
对集群运行本节中的命令。要连接,请参阅 通过 mongosh 连接到集群。
启动处理器后,sales 集合的变更将在几秒内更新 sales_by_channel。为确认这一点,请插入一个新的已完成的在线销售:
db.sales.insertOne({ saleDate: new Date(), purchaseMethod: "Online", status: "completed", items: [], customer: {}, couponUsed: false})处理器增加 Online 计数并在 lastWindowStart 中记录窗口边界:
db.sales_by_channel.find()[ { _id: 'Phone', active_count: 596 }, { _id: 'Online', active_count: 1586, lastWindowStart: ISODate('2026-07-23T15:18:01.000Z') }, { _id: 'In store', active_count: 2819 }]当客户退还该销售时,Online 计数将返回其种子值:
db.sales.updateOne( { purchaseMethod: "Online", status: "completed" }, { $set: { status: "returned" } })db.sales_by_channel.find()[ { _id: 'Phone', active_count: 596 }, { _id: 'Online', active_count: 1585, lastWindowStart: ISODate('2026-07-23T15:18:13.000Z') }, { _id: 'In store', active_count: 2819 }]示例
这些示例将介绍 Atlas Stream Processing 示例存储库中的 smv 示例。它维护一个 queue_stats 集合,其中包含开放支持工单的运行计数,每个优先级对应一个文档。当工单打开、解决和删除时,流处理器会读取 support_tickets 变更流并更新每个计数。
更多信息
要了解有关本指南中阶段和概念的更多信息,请参阅以下资源:
要了解如何创建、启动、停止和监控流处理器,请参阅 开发和管理流处理器。
要了解 Atlas Stream Processing 支持的聚合阶段,请参阅 《用于 Stream Processing 的聚合管道阶段》。
要了解 Stream Processing 可以读取的源,请参阅
$source阶段 (Stream Processing)。要了解窗口阶段,请参阅 Stream Processor Windows。
要了解按需物化视图,请参阅按需物化视图。