Atlas Stream Processing には次の制限が適用されます。
Atlas Stream Processing は、少なくとも 1 回のプロセシングのみをサポートします。
Atlas Stream Processing は水平スケーリングをサポートしていません。
Atlas Stream Processing は、
parallelism値を指定できるステージを除き、変換パイプラインステージに単一のコアを使用します。ストリーム プロセッサの
state.stateSizeは、そのポッドで使用可能なRAMの 80% を超えることはできません。例、8 GBのRAMを備えたSP30階層のストリーム プロセッサの最大サイズは、6.4 GBです。いずれかのストリーム プロセッサのstate.stateSizeが使用可能なRAMの 80% に近づく場合は、プロセッサを停止して、より高い階層で再起動することを検討してください。ストリーム プロセッサがすでにストリーム処理ワークスペースで有効になっている最大階層で実行されている場合は、ストリーム処理ワークスペースの構成を調整して、上位階層のストリーム プロセッサを有効にすることを検討してください。ストリーム プロセッサが 80% の RAM のしきい値を超えると、
Worker out of memoryエラーで失敗します。各ストリーム プロセッサのstate.stateSize値はsp.processor.stats()コマンドで確認できます。詳しくは、「ストリーム プロセッサの統計を表示する」をご覧ください。Atlas Stream Processing パイプラインの定義は16 MB を超えることはできません。
Atlas Stream Processing は、
Organization Stream Processing Admin、Project Owner、Project Stream Processing Owner、またはAtlas adminロールを持つユーザーのみが使用できます。Apache Kafka $source ステージの場合、実行中のプロセッサの $source として機能するApache Kafkaトピックがパーティションを追加する場合、開始オフセットは auto_ffset_resetプロパティによって決定されます。
Apache Kafkaの場合、$source ステージはストリーム処理ワークスペース階層のパーティション制限の対象となります。ストリーム処理ワークスペース階層のパーティション制限を超えると、影響を受けるストリーム プロセッサは失敗します。追加のパーティションをサポートするには、ストリーム処理ワークスペースをアップグレードする必要があります。
Atlas Stream Processing では、他のコンシューマーと同じコンシューマー グループ内のApache Kafkaコンストラクターへの接続をサポートしていません。 Atlas Stream Processing で使用されるすべてのKafkaコンシューマーが専用のコンシューマー グループで実行されるようにします。
Apache Kafka接続の場合、Atlas Stream Processing は現在、次のセキュリティ プロトコルのみをサポートしています。
SASL_PLAINTEXTSASL_SSLSSL
SASLの場合、Atlas Stream Processing は次のメカニズムをサポートしています。PLAINSCRAM-SHA-256SCRAM-SHA-512OAUTHBEARER
の場合、Atlas
SSLStream Processing とのApache Kafkaシステムの相互 TLS認証用に次のアセットを提供する必要があります。認証局(デフォルトのApache Kafka CA 以外を使用している場合)
クライアントTLS 証明書
TLS 証明書に署名するために使用される TLS キーファイル
Atlas Stream Processing は、Atlas で利用可能な 集計パイプライン ステージ のサブセットをサポートしており、保管中のデータで実行できる操作をストリーミング データに対して多数実行できます。 サポートされている集計パイプライン ステージの完全なリストについては、ストリーム集計 のドキュメントを参照してください。
Atlas Stream Processing は集計変数
$$NOW、$$CLUSTER_TIME、$$USER_ROLES、および$SEARCH_METAをサポートしていません。Atlas Stream Processing では、$emit ステージを AWS S3 バケットに使用して、
125 MBより大きいBSONドキュメントの書き込みをサポートしていません。メソッドを使用して既存のストリーム プロセッサのオプションを上書きするには、
mongoshバージョン2.3.4 以降を使用する必要があります。mongosh例、sp.processor.start()を使用して、起動するプロセッサの階層を指定します。を使用してストリーム プロセッサを管理する方法の詳細については、 ストリーム プロセッサの開発
mongoshを参照してください。Atlas Stream Processing は、次の構成を持つプロセッサーのみフェイルオーバー プロセッサーをサポートします。
Atlas ソースとシンク
Atlas ソースと Apache Kafka シンク
Atlas Stream Processing は、階層
SP10以上のプロセッサーのみフェイルオーバープロセッサーをサポートします。フェイルオーバープロセッサーで構成されたプロセッサーの場合、いつでもアクティブにできるプロセッサーは 1 つだけです。アクティブなプロセッサーのみを編集できます。