The following diagram shows the Ops Manager Application, the Application Database, the Backup Daemon, and the corresponding Persistent Volumes deployed on multiple Kubernetes clusters.
この図では、次のことが行われます。
Member Cluster 0は、Kubernetes Operator をインストールするため、「演算子クラスター」でもあります。 これは「ノードクラスター」でもあり、任意のマルチクラスター カスタム リソースをホストできます。The
Member Cluster 0stores the kubeconfig files, which describe the Kubernetes configuration for member clusters, users, and contexts. When you configure the Kubernetes Operator for multi-cluster deployments using thekubectl mongodbplugin, it creates the following resource:- Kubernetes Operator が管理するすべての Kubernetes クラスターへの認証情報を含む
mongodb-enterprise-operator-multi-cluster-kubeconfigシークレット。 演算子クラスターをノード クラスターとして使用する予定の場合、このシークレットには Kubernetes Operator をインストールするのと同じクラスターへの認証情報が含まれることがあります。
Kubernetes Operator がマルチクラスター モードで実行されると、ConfigMap や管理するクラスターに関するシークレットなど、必要なリソースが保存されます。 これらのリソースは、Kubernetes Operator と同じ名前空間に属します。 Kubernetes Operator はこれらのリソースを使用して、 MongoDB Ops Managerアプリケーションとアプリケーション データベースを複数のKubernetesクラスターに配置します。
Kubernetes Operator は、管理対象のMongoDB Ops Managerアプリケーションおよびアプリケーション データベース配置ごとに、追加のマルチクラスター配置状態 ConfigMap を作成して維持します。
Member Cluster 0は、次の ConfigMap を含むこの構成を保存します。<om_resource_name>-cluster-mappingConfigMap には、spec.clusterSpecListにリストされているメンバークラスター名と、このドキュメントではcluster_indexとして参照されているクラスター インデックス(Cluster 0やCluster 1など)へのマッピングが含まれています。 Kubernetes Operator はこれらのインデックスを各クラスター名に割り当てます。<om_resource_name>-db-cluster-mappingConfigMap には、spec.applicationDatabase.clusterSpecListにリストされているノードクラスター名とクラスター インデックスへのマッピングが含まれています。<om_resource_name>-db-member-specConfigMap には、各ノード クラスターに対して構成されたアプリケーション データベースのレプリカの数が含まれています。 この情報を取得することで、Kubernetes Operator は、ノード クラスター全体が失われた後など、障害復旧の一環としてレプリカセットを正しくスケーリングまたは再構成することができます。
MongoDBOpsManagerリソースの構成は、マルチクラスターのMongoDB Ops Manager配置を説明するユーザーが作成するファイルです。 Kubernetes Operator はこのファイルを使用してMongoDB Ops Managerコンポーネントを配置します。次の例は、この図で説明されているKubernetes MongoDB Ops Managerコンポーネントを Operator が配置するための構成を示しています。この例では、 TLS構成など、この図に関連しない設定は省略されています。
1 apiVersion: mongodb.com/v1 2 kind: MongoDBOpsManager 3 metadata: 4 name: om 5 namespace: om-ns 6 spec: 7 replicas: 1 # You can set this value and use it as a global or default 8 # setting for all clusters. The spec.clusterSpecList.members 9 # setting overrides this setting. 10 topology: MultiCluster 11 version: 8.0.0 12 adminCredentials: om-admin-secret 13 clusterSpecList: 14 - clusterName: "Member Cluster 1" # Ops Manager settings for "Member Cluster 1" 15 members: 2 16 backup: # Backup settings for "Member Cluster 1" 17 members: 2 # Overrides spec.backup.members 18 - clusterName: "Member Cluster 2" # Ops Manager settings for "Member Cluster 2" 19 members: 1 20 backup: # Backup settings for "Member Cluster 2" 21 members: 2 # Overrides spec.backup.members 22 applicationDatabase: # Global {+appdb+} settings 23 topology: MultiCluster 24 version: 8.0.0 25 members: 3 # In multi-cluster mode, the Operator ignores this field. 26 # The Operator sets the number of members for the Application 27 # Database in spec.applicationDatabase.clusterSpecList.members. 28 clusterSpecList: 29 - clusterName: "Member Cluster 1" 30 members: 3 31 - clusterName: "Member Cluster 2" 32 members: 2 33 backup: # Global settings for the Backup Daemon 34 enabled: true 35 members: 1 # Set this value and use it as a global or default setting. 36 # To override this value, set the value for 37 # spec.clusterSpecList.backup.members. 38 # The Backup Daemon's configuration for each cluster isn't 39 # stored here. Use the Ops Manager's spec.clusterSpecList.backup to 40 # specify the Backup Daemon configuration for each member cluster. Kubernetes Operator は、次のいずれかを参照するMongoDB Ops Managerインスタンスに接続します。
The default FQDN of the service it creates for the Ops Manager resource,
<om_resource_name>-svc.<namespace>.svc.cluster.local, orThe URL that you specify in
spec.opsManagerURL. In some deployments, such as when the cluster where you installed the Kubernetes Operator isn't attached to the service mesh, the default service FQDN might be unreachable. In this case, the Kubernetes Operator reports theMongoDBOpsManagerresource status asFailedindicating a connection error. To account for such cases, provide the URL to Ops Manager in thespec.opsManagerURL. This URL might be a hostname of an externally exposed Ops Manager instance. To learn more, see Networking Overview.
Two member clusters host the Ops Manager Application. In each cluster, the Kubernetes Operator deploys a StatefulSet named
<om_resource_name>-<cluster_index>.ステートフルセットは、 MongoDB Ops Managerアプリケーションの 2 つのインスタンスを
Member Cluster 1に、1 つのインスタンスをMember Cluster 2に配置します。インスタンスの数を
spec.clusterSpecList.membersで定義します。 このクラスターは MongoDB Ops Manager アプリケーション インスタンスを配置しないように、 インスタンスの数を 0 に設定することができます。 これは、たとえばこのクラスターをバックアップデーモン インスタンスのみのホストに使用する場合に便利です。spec.clusterSpecListからクラスターを削除する場合、これはspec.clusterSpecList.membersとspec.clusterSpecList[*].backup.membersで 0 のメンバーを指定するのと同じになります。For each StatefulSet in each cluster, the Kubernetes Operator configures a service of type
ClusterIP, named<om_resource_name>-svc, that contains all Pods on the cluster's endpoints list. This service's FQDN,<om_resource_name>-svc.<namespace>.svc.cluster.local, is a default hostname that the Kubernetes Operator uses to access the deployed endpoint for the Ops Manager Application.spec.externalConnectivityを指定すると、Kubernetes Operator は各クラスターに対して<om_resource_name>-svc-extという名前の外部 KubernetesLoadBalancerタイプのサービスも作成します。 各クラスターで、spec.clusterSpecList.externalConnectivityを使用して、この外部サービスの独自の構成を指定できます。 たとえば、サービスのタイプを変更したり、注釈を定義したりできます。
アプリケーション データベース。 Kubernetes Operator は、アプリケーション データベースを 2 つのクラスターに配置します。
You define the Application Database configuration using the
spec.applicationDatabasesettings. On each member cluster, the Kubernetes Operator creates a StatefulSet named<om_resource_name>-db-<cluster_index>with the number of member clusters defined inspec.applicationDatabase.clusterSpecList.members. In multi-cluster mode, the Kubernetes Operator ignores values that you set for thespec.applicationDatabase.membersfield. The Kubernetes Operator configures one replica set formed frommongodprocesses deployed across all member clusters.For each Pod in
<statefulset_name>-<pod_index>hosting a MongoDB process named<om_resource_name>-db-<cluster_index>-<pod_index>, the Kubernetes Operator creates a KubernetesClusterIP-type service for accessing the individualmongodprocesses by its FQDN,<om_resource_name>-db-<cluster_index>-<pod_index>-svc. Eachmongodprocess in the replica set must be uniquely addressable.The processes in the replica set configuration must have their process hostnames configured to that Pod service's FQDN:
<om_resource_name>-db-<cluster_index>-<pod_index>-svc.<namespace>.svc.cluster.local.To form a replica set from all
mongodprocesses, each process must connect to each other process for replication purposes. To achieve this, include all member clusters on which you deploy the Application Database into the same service mesh configuration.サービス メトリクスはクロスクラスター DNS クエリを処理し、それに応じてトラフィックをルーティングします。サービス メトリクスは、すべてのクラスターにわたって各 ポッド サービスの FQDN
<om_resource_name>-db-<cluster_index>-<pod-index>-svc.<namespace>.svc.cluster.localの解決を支援し、公開されたmongodポート(デフォルトでは 27017)での接続を可能にします。For example, when a
mongodprocess running in theom-db-1-0Pod inMember Cluster 1connects to amongodrunning in theom-db-2-1Pod inMember Cluster 2, the firstmongodprocess uses its hostname from the Automation Configuration,om-db-2-1-svc.om-ns.svc.cluster.local:27017, and the service mesh routes this request toMember Cluster 2to theom-db-2-1-svcservice. Without the service mesh, the KubernetesMember Cluster 1has no information about theom-db-2-1-svcservice deployed in theMember Cluster 2and the DNS resolution ofom-db-2-1-svc.om-ns.svc.cluster.localwould fail.アプリケーション データベースとMongoDB Ops Managerのアプリケーション インスタンスが
Running状態にある場合、 Kubernetes演算子はアプリケーション データベースのステートメントに追加の監視コンテナを追加します。 これにより、すべてのクラスター内のすべてのアプリケーション データベース ポッドがローリング再起動されます。 Kubernetes Operator は、すべてのクラスターのステートメントを順番に更新するため、ローリング再起動プロセス中に各クラスターで 1 つのレプリカセットのノードのみが一時的に使用できなくなります。The Monitoring Agent connects to the Ops Manager Application instances using the Ops Manager service's FQDN,
<om_resource_name>-svc.<namespace>.svc.cluster.local, or the value inspec.opsManagerURLif you specify it.MongoDB Ops Managerアプリケーションとバックアップデーモンは、すべてのレプリカセット ノードを含むアプリケーションデータベースへの接続stringを常に使用します。 接続stringは常に、サービスごとの FQDN を使用して構築されます。
spec.backup.enabledをtrueに設定すると、Kubernetes 演算子はバックアップデーモンのステートメントを配置します。spec.clusterSpecListにリストされている各ノードクラスター上に、Kubernetes Operator は 1 つのバックアップデーモンのステートメントセットを作成し、バックアップデーモンのインスタンス数を<om_resource_name>-backup-daemon-<cluster_index>spec.backup.membersに設定します。あるいは、
spec.clusterSpecList[*].backup.membersで各クラスターのバックアップデーモン インスタンスの数を構成することもできます。バックアップデーモン インスタンスは、 アプリケーション インスタンスと同じ接続 を使用して、アプリケーションstring データベースMongoDB Ops Manager レプリカセットにのみ接続します。
さらに、この図では、サービス メトリクスとコンポーネント間のネットワーク接続を確認できます。
図を囲むドットラインは、すべてのクラスターのネットワーク構成を含む単一のサービス メトリクスを示しています。
ノードクラスター全体でMongoDB Ops Managerアプリケーションを囲むドットラインは、これらのインスタンスがステートレスであり、トラフィックはすべてのインスタンスに均等に分散できることを示しています(例: ラウンドロギングのロード バランサーを使用する場合など)。
ノードクラスターにわたってアプリケーションデータベースを囲むドットラインは、これらのインスタンスが相互に通信し、単一の MongoDB レプリカセットを形成することを示します。