Você pode distribuir clusters fragmentados do MongoDB em vários clusters Kubernetes. Com a funcionalidade de vários clusters, você pode:
Melhore a resiliência de sua implantação distribuindo-a em vários clusters Kubernetes, cada um em uma região geográfica diferente.
Configure sua implantação para fragmentação geográfica implantando nós primários de fragmentos especificados em diferentes clusters Kubernetes localizados mais próximos do aplicação ou dos clientes que dependem desses dados, reduzindo a latência.
Ajuste seu sistema para melhorar o desempenho. Por exemplo, você pode implantar nós analíticos somente leitura para todos ou para shards especificados em diferentes clusters Kubernetes ou com alocações de recursos personalizadas.
Além disso, você pode configurar detalhes de shards, mongos e servidor de configuração em diferentes níveis. Isso significa que você pode definir uma configuração padrão de nível superior para shards, servidor de configuração e mongos, e personalizá-los para cada cluster do Kubernetes independentemente. Além disso, é possível personalizar shards individuais para atender às suas necessidades específicas.
Importante
A funcionalidade de cluster fragmentado torna possível distribuir recursos do MongoDB em vários clusters Kubernetes em várias regiões geográficas; no entanto, isso provavelmente aumentará a latência para as operações de replicação.
Para saber mais sobre as opções de configuração específicas da topologia de cluster fragmentado de vários clusters, consulte a referência de cluster fragmentado.
Limitações
O suporte do HashiCorp Vault não está disponível para injeção de segredo do Kubernetes.
O operador Kubernetes não transfere automaticamente recursos de clusters Kubernetes com falha para clusters saudáveis. Em caso de falha de um cluster nó, você deve redistribuir os recursos entre os clusters Kubernetes saudáveis restantes manualmente, atualizando o recurso CRD implantado no cluster central.
No caso de uma falha no cluster de membros, você deve primeiro reduzir manualmente os clusters com falha para zero para remover os processos não íntegros. Em seguida, você pode redistribuir os recursos entre os clusters Kubernetes restantes manualmente, atualizando o recurso CRD distribuído no cluster central. Consulte Recuperação de desastres para saber mais.
Pré-requisitos
Prepare seus clusters Kubernetes para um sistema de vários clusters.
Instale e configure o Kubernetes Operator para sistemas de vários clusters em um de seus clusters Kubernetes.
Opção 1: Implementar uma malha de serviço entre clusters de membros. Você pode encontrar um procedimento detalhado nas etapas 1 a 6 do Guia de sistema de vários clusters do Ops Manager. Observe que este procedimento é obrigatório e apenas uma das muitas configurações possíveis.
Opção 2: configure seus clusters do Kubernetes para uma implantação de rede sem serviço.
Implante um mapa de configuração com detalhes do projeto Ops Manager ou Cloud Manager e MongoDB em seu cluster central, que o Kubernetes Operator exige para distribuir o recurso de banco de dados MongoDB .
Crie credenciais para Ops seu gerente ou instância do Cloud Manager e sua organização e projeto MongoDB .
Exemplo de implantação de cluster fragmentado
Quando aplicado ao cluster central, o exemplo abaixo implementa um cluster MongoDB fragmentado com 3 fragmentos configurados da seguinte forma:
Cada shard tem nós distribuídos em todos os clusters do Kubernetes (1 nó por cluster).
Por padrão, o conjunto de réplicas de cada shard:
Tem 3 membros votantes no total distribuídos em 3 clusters (1 nó em cada cluster)
É preferível que o fragmento primário esteja em
kind-e2e-cluster-1.
Com um
shardOverridepara o shardsc-0, alteramos os valores padrão (especificados nospec.shard) para o seguinte:5 membros no total
2 membros em
kind-e2e-cluster-12 membros em
kind-e2e-cluster-21 nó em
kind-e2e-cluster-3Quando possível, é preferível que o fragmento primário esteja em
kind-e2e-cluster-2
Configurações de armazenamento padrão personalizadas para todos os shards em todos os clusters, conforme definido em
spec.shardPodSpecUm conjunto de réplicas de servidor de configuração com 3 membros, com 1 membro em cada cluster
3 instâncias mongos implantadas no total, com 1 instância em cada cluster
A configuração padrão consiste em três fragmentos, cada um com um membro em cada um dos três clusters, para um total de três membros por fragmento. Mas nas substituições, alteramos o fragmento sc-0 para ter cinco membros, dois no cluster 1, dois no cluster 2 e o cluster 3 ainda tem um fragmento conforme o padrão.
Observação
Somente o dimensionamento unidirecional é suportado.
Ao escalar réplicas de shard, servidor de configuração ou mongos, você só pode aumentar ou diminuir os recursos para garantir a correção do dimensionamento. Esta regra se aplica tanto a sistemas de cluster Kubernetes únicos quanto aquelas distribuídas entre vários clusters Kubernetes. Além disso, em sistemas de vários clusters, a regra de dimensionamento unidirecional se aplica a todos os tipos de recursos. Por exemplo, você não pode adicionar mais nós (aumento) a shards e, ao mesmo tempo, remover servidores de configuração ou mongos (redução). Não é mais possível "mover" um nó de um cluster para outro sem alterar o número total de membros. Em vez disso, você deve primeiro executar uma operação de expansão e, em seguida, executar uma alteração separada para a redução.
Essa configuração de exemplo também muda (com shardOverrides) o primário para o cluster 2, para o fragmento sc-0, o que pode reduzir a latência para usuários que operam na região onde o cluster 2 está localizado. Dessa forma, você ainda tem resiliência nos clusters (e suas regiões), mas se os dados no fragmento 0 forem dados mais relevantes para os usuários no qual o cluster 2 está implantado, eles terão uma latência mais baixa.
apiVersion: mongodb.com/v1kind: MongoDBmetadata: name: scspec: topology: MultiCluster type: ShardedCluster # this deployment will have 3 shards shardCount: 3 # you cannot specify mongodsPerShardCount, configServerCount and mongosCount # in MultiCluster topology version: 8.0.3 opsManager: configMapRef: name: my-project credentials: my-credentials persistent: true
shardPodSpec: # applies to all shards on all clusters persistence: single: # all pods for all shards on all clusters will use that storage size in their # PersistentVolumeClaim unless overridden in spec.shard.clusterSpecList or # spec.shardOverrides. storage: 10G
configSrvPodSpec: # applies to all config server nodes in all clusters persistence: multiple: data: storage: 2G journal: storage: 1G logs: storage: 1G
# consider this section as a default configuration for ALL shards shard: clusterSpecList: - clusterName: kind-e2e-cluster-1 # each shard will have only one mongod process deployed in this cluster members: 1 memberConfig: - votes: 1 priority: "20" # we increase the priority to have primary in this cluster - clusterName: kind-e2e-cluster-2 # one member in this cluster, no votes and priority defined means it'll get # the default values votes=1, priority="1" members: 1 - clusterName: kind-e2e-cluster-3 members: 1 # one member in this cluster
shardOverrides: # here you specify customizations for specific shards # here you specify to which shard names the following configuration will # apply - shardNames: - sc-0 clusterSpecList: - clusterName: kind-e2e-cluster-1 # all fields here are optional # shard "sc-0" will have two members instead of one, which was defined as the # default for all shards in spec.shard.clusterSpecList[0].members members: 2 memberConfig: - votes: 1 # shard "sc-0" should not have primary in this cluster like every other shard priority: "1" - votes: 1 priority: "1" - clusterName: kind-e2e-cluster-2 members: 2 # shard "sc-0" will have two members instead of one memberConfig: - votes: 1 # both processes of shard "sc-0" in this cluster will have the same # likelihood to become a primary member priority: "20" - votes: 1 priority: "20" # We need to specify the list of all clusters on which this shard will be # deployed. - clusterName: kind-e2e-cluster-3 # If the clusterName element is omitted here, it will be considered as an # override for this shard, so that the operator shouldn't deploy any member # to it. # No fields are mandatory in here, though. In case a field is not set, it's # not overridden and the default value is taken from a top level spec.shard # settings.
configSrv: # the same configuration fields are available as in # spec.shard.clusterSpecList. clusterSpecList: - clusterName: kind-e2e-cluster-1 members: 1 - clusterName: kind-e2e-cluster-2 members: 1 - clusterName: kind-e2e-cluster-3 members: 1
mongos: # the same configuration fields are available as in # spec.shard.clusterSpecList apart from storage and replica-set related # fields. clusterSpecList: - clusterName: kind-e2e-cluster-1 members: 1 - clusterName: kind-e2e-cluster-2 members: 1 - clusterName: kind-e2e-cluster-3 members: 1Substituições de fragmentos
Para implantar um cluster em vários clusters Kubernetes, você aplica a configuração do cluster (yaml de recurso personalizado do MongoDB) ao seu cluster central - o cluster Kubernetes no qual sua instância do operador MongoDB está implantada. A definição spec.shard desta configuração é considerada a definição de shard base da sua implantação.
Se quiser personalizar shards específicos em clusters específicos do Kubernetes, você pode usar substituições de shards para atualizar a definição de shard base para um determinado shard.
As tabelas a seguir listam campos que você pode definir para atualizar ou estender sua definição base de shard. Os campos estão listados em ordem de precedência. O campo mais alto em uma determinada tabela representa a configuração com a menor precedência, e o campo mais baixo , se definido, substitui todos os outros campos (por exemplo fragmento específico, em um cluster específico).
Além disso, a política de substituição indicada para cada tipo de campo descreve se esse campo específico é substituído pelo valor recém-definido ou se o objeto completo no qual esse campo está definido é substituído. Se o objeto inteiro for substituído, todos os campos definidos na definição de shard base que também não estejam explicitamente definidos na definição de substituição serão removidos. O valor merge indica que um único campo é atualizado, e o valor replace indica que o objeto pai completo é substituído.
Personalizar configurações de persistência e statefulset
Campo ShardedClusterSpec | Para especificar | Aplica-se a |
|---|---|---|
| Modelo de persistência e pod | Todos os pods |
| Modelo de persistência e pod | Todos os pods |
| Persistência ( o campo Modelo do Pod é ignorado) | Todos os shards no cluster |
| Pod Template | Todos os shards no cluster |
| Persistência ( o campo Modelo do Pod é ignorado) | Todos os shards no cluster |
| Pod Template | Um shard no cluster |
| Persistência ( o campo Modelo do Pod é ignorado) | Um fragmento em um cluster específico |
| Pod Template | Um fragmento em um cluster específico |
Observação
Descontinuação do ShardSpecificPodSpec
O campo ShardSpecificPodSpec está obsoleto, mas ainda é suportado. Ele foi usado anteriormente para especificar os parâmetros Persistence e Pod Template, por shards, para cluster fragmentado de cluster único. Agora que está obsoleto, você deve migrar para ShardOverrides.PodSpec e ShardOverrides.StatefulSetConfiguration. Consulte o exemplo de arquivo YAML fornecido para obter orientações sobre como atualizar do shardSpecificPodSpec e shardOverrides para sistemas de um único cluster.
Substituir o modelo de pod e as configurações de persistência em clusterSpecList
O exemplo seguinte ilustra como substituir modelos de pod personalizados e configurações de persistência no clusterSpecList.
shardPodSpec: # applicable to all shards in all clusters persistence: single: storage: "5G" podTemplate: spec: containers: - name: mongodb-enterprise-database resources: requests: cpu: 0.5 memory: 1.0G limits: cpu: 1.0 memory: 2.0G shard: clusterSpecList: - clusterName: kind-e2e-cluster-1 members: 2 # The below statefulset override is applicable only to pods in kind-e2e-cluster-1 # Specs will be merged, the "request" field defined above will still be # applied to containers in this cluster. # However, limits will be replaced with below values, because # clusterSpecList.statefulSet.spec.template has a # higher priority than shardPodSpec.podTemplate statefulSet: spec: template: spec: containers: - name: mongodb-enterprise-database resources: limits: cpu: 1.0 memory: 2.5G # In clusterSpecList.podSpec, only persistence field must be used, the # podTemplate field is ignored. # In kind-e2e-cluster-1, we replace the persistence settings defined in # shardPodSpec podSpec: persistence: multiple: journal: storage: "6G" data: storage: "7G" logs: storage: "6G" - clusterName: kind-e2e-cluster-2 members: 1Para saber mais, você pode revisar o arquivo completo.
Defina modelos de pod personalizados e configurações de persistência com shardOverrides
O exemplo seguinte ilustra como definir modelos de pod personalizados e configurações de persistência no shardOverrides.
# In clusterSpecList.podSpec, only persistence field must be used, the # podTemplate field is ignored. # In kind-e2e-cluster-1, we define custom persistence settings podSpec: persistence: multiple: journal: storage: "5G" data: storage: "5G" logs: storage: "5G" - clusterName: kind-e2e-cluster-2 members: 1
shardOverrides: - shardNames: [ "pod-template-shards-1-2" ] # This override will apply to shard of index 2 # Statefulset settings defined at this level (shardOverrides.statefulSet) # apply to members of shard 2 in ALL clusters. # This field has higher priority than shard.clusterSpecList.statefulSet, but # lower than shardOverrides.clusterSpecList.statefulSet # It has a merge policy, which means that the limits defined above for the # mongodb-enterprise-database container field still apply to all members in # that shard, except if overridden. statefulSet: spec: template: spec: containers: - name: sidecar-shard-2 image: busybox command: [ "sleep" ] args: [ "infinity" ] clusterSpecList: - clusterName: kind-e2e-cluster-1 members: 2 - clusterName: kind-e2e-cluster-2 members: 1 # The below statefulset override is applicable only to members of shard 2, in cluster 1 # Specs will be merged, the "limits" field defined above will still be applied # to containers in this cluster together with the requests field below. statefulSet: spec: template: spec: containers: - name: mongodb-enterprise-database resources: requests: # We add a requests field in shard 2, cluster 1 cpu: 0.5 memory: 1.0G
podSpec: # In shardOverrides.clusterSpecList.podSpec, only persistence field must be # used, the podTemplate field is ignored. persistence: # we assign additional disk resources in shard 2, cluster 1 multiple: journal: storage: "6G" data: storage: "6G" logs: storage: "6G"Para saber mais, você pode revisar o arquivo completo.
Migrando do campo shardSpecificPodSpec obsoleto
O exemplo seguinte ilustra como atualizar do campo shardSpecificPodSpec obsoleto para o novo campo shardOverrides.
# This file is an example of how to migrate from the old deprecated# ShardSpecificPodSpec field to the new shardOverrides fields# for single cluster deployments.# The settings specified in shardOverrides are the exact equivalent to the# ones in shardSpecificPodSpec, showing how to replicate themapiVersion: mongodb.com/v1kind: MongoDBmetadata: name: shardspecificpodspec-migration namespace: mongodb-testspec: # There are 4 shards in this cluster, but the shardSpecificPodSpec field # doesn't need to have on entry per shard, it can have less shardCount: 4 mongodsPerShardCount: 2 mongosCount: 1 configServerCount: 3 topology: SingleCluster type: ShardedCluster version: 8.0.3 opsManager: configMapRef: name: my-project credentials: my-credentials persistent: true
shardPodSpec: # default persistence configuration for all shards in all clusters persistence: single: storage: "5G" shardSpecificPodSpec: # deprecated way of overriding shards (array) - persistence: # shard of index 0 single: storage: "6G" # Specify resources settings to enterprise database container in shard 0 podTemplate: spec: containers: - name: mongodb-enterprise-database resources: requests: cpu: 0.5 memory: 1G limits: cpu: 1.0 memory: 2.0G - persistence: # shard of index 1 single: storage: "7G" - persistence: # shard of index 2 single: storage: "7G"
# The below shardOverrides replicate the same shards configuration as the one # specified above in shardSpecificPodSpec shardOverrides: - shardNames: [ "shardspecificpodspec-migration-0" ] # overriding shard #0 podSpec: persistence: single: storage: "6G" statefulSet: spec: template: spec: containers: - name: mongodb-enterprise-database resources: requests: cpu: 0.5 memory: 1G limits: cpu: 1.0 memory: 2.0G
# The ShardSpecificPodSpec field above has the same configuration for shards # 1 and 2. It is possible to specify both shard names in the override and not # duplicate that configuration - shardNames: [ "shardspecificpodspec-migration-1", "shardspecificpodspec-migration-2" ] podSpec: persistence: single: storage: "7G"Para saber mais, você pode revisar o arquivo completo.
Configuração de acesso externo
Campo | Quais clusters | Quais shards |
|---|---|---|
| todos | todos |
| um | todos |
| um | todos |
Membros, MemberConfig, MongodConfig adicional, AgentConfig
Campo ShardedClusterSpec | Para especificar | Aplica-se a |
|---|---|---|
| Não aplicável | Não aplicável |
| aplica-se | aplica-se |
| aplica-se | aplica-se |
| Não aplicável | Não aplicável |
| aplica-se | aplica-se |
Substituições de servidor de configuração
Campo ShardedClusterSpec | Para especificar | Aplica-se a |
|---|---|---|
| Não aplicável | Não aplicável |
| aplica-se | aplica-se |
| Não aplicável | Não aplicável |
| aplica-se | ignorado |
| Não aplicável | aplica-se |
configSrv: clusterSpecList: - clusterName: kind-e2e-cluster-1 members: 2 # The below statefulset override is applicable only to pods in kind-e2e-cluster-1 # Specs will be merged, the "request" field defined above will still be applied to containers in this cluster # However, limits will be replaced with below values, because clusterSpecList.statefulSet.spec.template has a # higher priority than configSrvPodSpec.podTemplate statefulSet: spec: template: spec: containers: - name: mongodb-enterprise-database resources: limits: cpu: 1.0 memory: 2.5G # In clusterSpecList.podSpec, only persistence field must be used, the podTemplate field is ignored. podSpec: # In kind-e2e-cluster-1, we replace the persistence settings defined in configSrvPodSpec persistence: multiple: journal: storage: "6G" data: storage: "7G" logs: storage: "6G" - clusterName: kind-e2e-cluster-2 members: 1 # doc-highlight-end: configSrv mongos: clusterSpecList: - clusterName: kind-e2e-cluster-1 members: 2 - clusterName: kind-e2e-cluster-2 members: 1
shard: clusterSpecList: - clusterName: kind-e2e-cluster-1 members: 2 - clusterName: kind-e2e-cluster-2 members: 1Para saber mais, você pode revisar o arquivo completo.
Substituições de Mongos
Campo ShardedClusterSpec | Para especificar | Aplica-se a |
|---|---|---|
| Não aplicável | Não aplicável |
| aplica-se | Não aplicável |
| Não aplicável | aplica-se |
| ignorado | Não aplicável |
| aplica-se | Não aplicável |