为Atlas Stream Processing $iceberg 阶段配置 Databricks Unity Catalog 或 Snowflake Horizon 目录。然后,该阶段可以更新该目录中的Apache Iceberg 表。首先在目录提供商中完成此设置。然后,创建数据目录连接。
关于此任务
$iceberg 阶段支持以下目录类型:
Catalog Type | 支持的存储 | 数据目录连接 | 设置 |
|---|---|---|---|
| AWS S3 和Azure Blob 存储 | 未使用 | 无需目录设置。您只需要存储连接。 |
| AWSS3 | 未使用 | 授予您的 IAM角色对 AWS Glue 的访问权限。要学习;了解更多信息,请参阅添加Atlas Stream Processing连接。 |
| AWS S3 和Azure Blob 存储 | 必需 | 按照本页上的 Databricks Unity步骤进行操作。 |
| AWS S3 和Azure Blob 存储 | 必需 | 按照本页上的 Snowflake Horizon 步骤进行操作。 |
数据目录连接存储Atlas Stream Processing用于对目录进行身份验证的URL和凭证。 Databricks Unity将 OAuth M2M身份验证与服务主体结合使用。 Snowflake Horizon 使用密钥对身份身份验证。
开始之前
确保您具备以下条件:
一个流处理工作区,可连接到要在其中写入Apache Iceberg 表的 S3 存储桶或Azure Blob 存储容器。
有权创建本页所述资源的 Databricks 或 Snowflake 帐户。
步骤
选择目录类型和云提供商。
后续步骤
要使用收集的凭证创建数据目录连接,请参阅添加Atlas Stream Processing连接。然后,要引用流处理器中的连接,请参阅 $iceberg 阶段的目录字段。