配置密钥存储

在目标集群中安装密钥配置工具。

要将外部密钥操作符用作密钥预配工具，请执行以下操作：

1. 运行以下命令以安装带有 Helm Charts 的外部 Secrets Operator 并启动该服务：

   helm repo add external-secrets https://charts.external-secrets.io

   helm upgrade -i --atomic \
   -n external-secrets --create-namespace --set extraArgs.loglevel=debug \
   external-secrets external-secrets/external-secrets`

2. 确保外部密钥成功运行：

   kubectl get pod -n external-secrets -l app.kubernetes.io/name=external-secrets

   隐藏输出

   NAME                                READY   STATUS    RESTARTS   AGE
   external-secrets-5779d5d6f6-2lhgd   1/1     Running   0          70s

设置身份验证以访问密钥。

要设立OIDC JSON web token和Kubernetes身份验证：

1. 运行以下命令，为挂载路径启用OIDC JSON web token身份验证。 如果设置了多个Kubernetes集群，则必须为每个集群的挂载路径启用OIDC JSON web token身份验证。

   vault auth enable -path=jwt-kube01 jwt

2. 运行以下命令以允许对kube01.internal.io集群上的OIDC发现 URL 进行未经身份验证的访问：

   $ kubectl create clusterrolebinding oidc-reviewer  \
     --clusterrole=system:service-account-issuer-discovery \
     --group=system:unauthenticated

3. 运行以下命令以指示 HashiCorp Vault 信任该集群。https://kube01.internal.io/ 集群的颁发者必须与 .well-known/openid-configuration 的 OIDC 发现文档中的 URL 匹配。

   curl https://kube01.internal.io/.well-known/openid-configuration | jq .issuer
   https://kube01.internal.io/
   vault write auth/jwt-kube01/config jwks_url="https://kube01.internal.io/openid/v1/jwks"

4. 创建策略，允许访问要向集群公开的密钥。

   以下示例创建您在后续步骤中指定的external-secrets策略。

   echo external-secrets-policy.hcl
   path "secret/data/kube01/external-secrets/*" {
     capabilities = ["read"]
   }

5. 运行以下命令创建HashiCorp Vault角色，并将Kubernetes服务帐户绑定到该角色，从而限制该服务帐户在HashiCorp Vault中的访问权限。

   以下命令为 vault 受众创建JSON web token (OIDC) 类型的 jwt-kube01-system角色。该命令指定 sub 用户声明和 mongodb-atlas-system命名空间中的 default Kubernetes服务帐户作为绑定主题。此命令将角色与HashiCorp Vault中的 external-secrets 策略权限设立绑定。

   vault write auth/jwt-kube01/role/jwt-kube01-system role_type="jwt" bound_audiences=vault \
     user_claim="sub" bound_subject="system:serviceaccount:mongodb-atlas-system:default" \
     policies="external-secrets"

6. 运行命令为外部密钥操作符创建另一个角色，以访问default命名空间。

   以下命令为 vault 受众创建JSON web token (OIDC) 类型的 jwt-kube01-default角色。此命令指定 sub 用户声明和 default命名空间中的 default Kubernetes服务帐户作为绑定主题。此命令将角色与HashiCorp Vault中的 external-secrets 策略权限设立绑定。

   vault write auth/jwt-kube01/role/jwt-kube01-default role_type="jwt" bound_audiences=vault \
     user_claim="sub" bound_subject="system:serviceaccount:default:default" \
     policies="external-secrets"

7. 确保系统服务帐户成功运行OIDC身份验证：

   export TEST_JWT_TOKEN=$(kubectl -n mongodb-atlas-system create token default --audience "vault")
   vault write auth/jwt-kube01/login role=jwt-kube01-system jwt=$(TEST_JWT_TOKEN)

   Atlas Kubernetes Operator返回系统服务帐户的OIDC JSON web token凭证。

8. 确保为默认服务帐户成功运行OIDC身份验证：

   export TEST_JWT_TOKEN=$(kubectl -n default create token default --audience "vault")
   vault write auth/jwt-kube01/login role=jwt-kube01-default jwt=$(TEST_JWT_TOKEN)

   Atlas Kubernetes Operator返回默认服务帐户的OIDC JSON web token凭证。

设置自动密钥预配。

要使用外部密钥操作符预配密钥，请执行以下操作：

1. 在mongodb-atlas-system命名空间中为default服务帐户部署SecretStore自定义资源：

   $ cat external-secrets/vault-system.yaml
   apiVersion: external-secrets.io/v1beta1
   kind: SecretStore
   metadata:
     name: vault-store
     namespace: mongodb-atlas-system
   spec:
     provider:
       vault:
         server: "https://vault.internal.io"
         path: "secret"
         version: "v2"
         auth:
           jwt:
             path: "jwt-kube01"
             role: "jwt-kube01-system"
             kubernetesServiceAccountToken:
               expirationSeconds: 600
               serviceAccountRef:
                 name: "default"
                 audiences:
                 - vault
   $ kubectl apply -f external-secrets/vault-system.yaml

2. 在default命名空间中为default服务帐户部署SecretStore自定义资源：

   $ cat external-secrets/vault-default.yaml
   apiVersion: external-secrets.io/v1beta1
   kind: SecretStore
   metadata:
     name: vault-store
     namespace: default
   spec:
     provider:
       vault:
         server: "https://vault.internal.io"
         path: "secret"
         version: "v2"
         auth:
           jwt:
             path: "jwt-kube01"
             role: "jwt-role"
             kubernetesServiceAccountToken:
               expirationSeconds: 600
               serviceAccountRef:
                 name: "default"
                 audiences:
                 - vault
   $ kubectl apply -f external-secrets/vault-default.yaml

3. 部署引用包含 API 密钥的密钥的ExternalSecret自定义资源。 您必须将spec.target.template.metadata.labels设置为atlas.mongodb.com/type ，值为credentials ，Atlas Kubernetes Operator 才能找到外部密钥 操作符 创建的密钥。

   在运行以下命令之前，请确保HashiCorp Vault已在 Kv V2 路径 secret/data/kube01/external-secrets/atlas-account 中填充具有以下属性的密钥：

   • orgId

   • publicApiKey

   • privateApiKey

   $ cat external-secrets/atlas.yaml
   apiVersion: external-secrets.io/v1beta1
   kind: ExternalSecret
   metadata:
     name: atlas
     namespace: mongodb-atlas-system
   spec:
       refreshInterval: "15s"
       secretStoreRef:
         name: vault-store
         kind: SecretStore
       target:
         name: mongodb-atlas-operator-api-key
         template:
           metadata:
             labels:
               atlas.mongodb.com/type: credentials
       data:
       - secretKey: orgId
         remoteRef:
           key: secret/data/kube01/external-secrets/atlas-account
           property: orgId
       - secretKey: publicApiKey
         remoteRef:
           key: secret/data/kube01/external-secrets/atlas-account
           property: publicApiKey
       - secretKey: privateApiKey
         remoteRef:
           key: secret/data/kube01/external-secrets/atlas-account
           property: privateApiKey
     $ kubectl apply -f external-secrets/atlas.yaml

   此命令在 mongodb-atlas-system 命名空间中创建 Kubernetes 密钥 mongodb-atlas-operator-api-key。

4. 部署引用包含数据库用户档案的密钥的ExternalSecret自定义资源。 您必须将spec.target.template.metadata.labels设置为atlas.mongodb.com/type ，值为credentials ，Atlas Kubernetes Operator 才能找到外部密钥 Operator 创建的密钥。

   在运行以下命令之前，请确保HashiCorp Vault已在 Kv V2 路径 secret/data/kube01/external-secrets/db-user 中使用 password属性填充密钥。

   $ cat external-secrets/dbuser.yaml
   apiVersion: external-secrets.io/v1beta1
   kind: ExternalSecret
   metadata:
     name: dbuser
     namespace: default
   spec:
       refreshInterval: "15s"
       secretStoreRef:
         name: vault-store
         kind: SecretStore
       target:
         name: dbuser-password
         template:
           metadata:
             labels:
               atlas.mongodb.com/type: credentials
       data:
       - secretKey: password
         remoteRef:
           key: secret/data/kube01/external-secrets/db-user
           property: password
     $ kubectl apply -f external-secrets/atlas.yaml

5. 确保运行以下命令时按预期返回密钥：

   $ kubectl get -n mongodb-atlas-system secrets/mongodb-atlas-operator-api-key

   $ kubectl get -n default secrets/dbuser-password

部署 Atlas Kubernetes Operator 自定义资源。

现在，您可以部署Atlas Kubernetes Operator自定义资源。Atlas Kubernetes Operator引用 HashiCorp Vault 的Kubernetes密钥进行身份验证。根据部署需要调整 timeout 值。

kubectl apply -f ako/project.yaml
kubectl apply -f ako/deployment.yaml
kubectl apply -f ako/user.yaml
kubectl wait --for=condition=ready atlasdeployment/serverless-deployment --timeout=10m
kubectl wait --for=condition=ready atlasdatabaseuser/user --timeout=10m

要了解有关这些自定义资源的更多信息，请参阅自定义资源。

测试 Atlas Kubernetes Operator 部署。

要测试 Atlas Kubernetes Operator 部署，请运行以下命令：

export ATLAS_DEPLOYMENT_CONN_STR=$(kubectl get secrets/test-atlas-operator-project-test-serverless-deployment-dbuser -o jsonpath='{.data.connectionStringStandardSrv}' |base64 -d)
mongosh $(ATLAS_DEPLOYMENT_CONN_STR) --apiVersion 1 --eval "show dbs"

Atlas Kubernetes Operator 返回您的数据库部署列表。