在集群中自动扩展 DNS 服务

此页面展示了如何在 Kubernetes 集群中启用和配置 DNS 服务的自动伸缩。

开始之前

  • 您需要拥有一个 Kubernetes 集群，并且 kubectl 命令行工具必须配置为与您的集群通信。建议在至少有两个节点（不作为控制平面主机）的集群上运行本教程。如果您还没有集群，可以使用 minikube 创建一个集群，或者使用以下 Kubernetes 游乐场之一

    要检查版本，请输入 kubectl version。

  • 本指南假设您的节点使用 AMD64 或 Intel 64 CPU 架构。

  • 确保 Kubernetes DNS 已启用。

确定 DNS 水平自动伸缩是否已启用

列出您集群中 kube-system 命名空间 中的 部署

kubectl get deployment --namespace=kube-system

输出类似于以下内容

NAME                   READY   UP-TO-DATE   AVAILABLE   AGE
...
kube-dns-autoscaler    1/1     1            1           ...
...

如果您在输出中看到 “kube-dns-autoscaler”，则 DNS 水平自动伸缩已启用，您可以跳过 调整自动伸缩参数。

获取 DNS 部署的名称

列出您集群中 kube-system 命名空间中的 DNS 部署

kubectl get deployment -l k8s-app=kube-dns --namespace=kube-system

输出类似于以下内容

NAME      READY   UP-TO-DATE   AVAILABLE   AGE
...
coredns   2/2     2            2           ...
...

如果您没有看到 DNS 服务的部署，您也可以按名称查找它

kubectl get deployment --namespace=kube-system

并查找名为 coredns 或 kube-dns 的部署。

您的扩展目标是

Deployment/<your-deployment-name>

其中 <your-deployment-name> 是 DNS 部署的名称。例如，如果 DNS 部署的名称为 coredns，则您的扩展目标为 Deployment/coredns。

启用 DNS 水平自动伸缩

在本节中，您将创建一个新的部署。部署中的 Pod 运行基于 cluster-proportional-autoscaler-amd64 镜像的容器。

创建一个名为 dns-horizontal-autoscaler.yaml 的文件，其中包含以下内容

admin/dns/dns-horizontal-autoscaler.yaml 
kind: ServiceAccount
apiVersion: v1
metadata:
  name: kube-dns-autoscaler
  namespace: kube-system
---
kind: ClusterRole
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: system:kube-dns-autoscaler
rules:
  - apiGroups: [""]
    resources: ["nodes"]
    verbs: ["list", "watch"]
  - apiGroups: [""]
    resources: ["replicationcontrollers/scale"]
    verbs: ["get", "update"]
  - apiGroups: ["apps"]
    resources: ["deployments/scale", "replicasets/scale"]
    verbs: ["get", "update"]
# Remove the configmaps rule once below issue is fixed:
# kubernetes-incubator/cluster-proportional-autoscaler#16
  - apiGroups: [""]
    resources: ["configmaps"]
    verbs: ["get", "create"]
---
kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: system:kube-dns-autoscaler
subjects:
  - kind: ServiceAccount
    name: kube-dns-autoscaler
    namespace: kube-system
roleRef:
  kind: ClusterRole
  name: system:kube-dns-autoscaler
  apiGroup: rbac.authorization.k8s.io

---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: kube-dns-autoscaler
  namespace: kube-system
  labels:
    k8s-app: kube-dns-autoscaler
    kubernetes.io/cluster-service: "true"
spec:
  selector:
    matchLabels:
      k8s-app: kube-dns-autoscaler
  template:
    metadata:
      labels:
        k8s-app: kube-dns-autoscaler
    spec:
      priorityClassName: system-cluster-critical
      securityContext:
        seccompProfile:
          type: RuntimeDefault
        supplementalGroups: [ 65534 ]
        fsGroup: 65534
      nodeSelector:
        kubernetes.io/os: linux
      containers:
      - name: autoscaler
        image: registry.k8s.io/cpa/cluster-proportional-autoscaler:1.8.4
        resources:
            requests:
                cpu: "20m"
                memory: "10Mi"
        command:
          - /cluster-proportional-autoscaler
          - --namespace=kube-system
          - --configmap=kube-dns-autoscaler
          # Should keep target in sync with cluster/addons/dns/kube-dns.yaml.base
          - --target=<SCALE_TARGET>
          # When cluster is using large nodes(with more cores), "coresPerReplica" should dominate.
          # If using small nodes, "nodesPerReplica" should dominate.
          - --default-params={"linear":{"coresPerReplica":256,"nodesPerReplica":16,"preventSinglePointFailure":true,"includeUnschedulableNodes":true}}
          - --logtostderr=true
          - --v=2
      tolerations:
      - key: "CriticalAddonsOnly"
        operator: "Exists"
      serviceAccountName: kube-dns-autoscaler

在文件中，将 <SCALE_TARGET> 替换为您的扩展目标。

转到包含配置文件的目录，然后输入以下命令来创建部署

kubectl apply -f dns-horizontal-autoscaler.yaml

成功命令的输出为

deployment.apps/kube-dns-autoscaler created

DNS 水平自动伸缩现已启用。

调整 DNS 自动伸缩参数

验证 kube-dns-autoscaler 配置映射 是否存在

kubectl get configmap --namespace=kube-system

输出类似于以下内容

NAME                  DATA      AGE
...
kube-dns-autoscaler   1         ...
...

修改配置映射中的数据

kubectl edit configmap kube-dns-autoscaler --namespace=kube-system

查找以下行

linear: '{"coresPerReplica":256,"min":1,"nodesPerReplica":16}'

根据您的需要修改字段。 “min” 字段指示 DNS 后端的最小数量。使用以下公式计算实际的后端数量

replicas = max( ceil( cores × 1/coresPerReplica ) , ceil( nodes × 1/nodesPerReplica ) )

请注意，coresPerReplica 和 nodesPerReplica 的值都是浮点数。

基本思想是，当集群使用具有许多核心的节点时，coresPerReplica 占主导地位。当集群使用具有较少核心的节点时，nodesPerReplica 占主导地位。

还有其他支持的扩展模式。有关详细信息，请参阅 cluster-proportional-autoscaler。

禁用 DNS 水平自动伸缩

调整 DNS 水平自动伸缩有几个选项。使用哪个选项取决于不同的条件。

选项 1：将 kube-dns-autoscaler 部署缩放到 0 个副本

此选项适用于所有情况。输入以下命令

kubectl scale deployment --replicas=0 kube-dns-autoscaler --namespace=kube-system

输出为

deployment.apps/kube-dns-autoscaler scaled

验证副本计数是否为零

kubectl get rs --namespace=kube-system

输出在 DESIRED 和 CURRENT 列中显示 0

NAME                                  DESIRED   CURRENT   READY   AGE
...
kube-dns-autoscaler-6b59789fc8        0         0         0       ...
...

选项 2：删除 kube-dns-autoscaler 部署

此选项适用于 kube-dns-autoscaler 处于您自己控制之下，这意味着没有人会重新创建它

kubectl delete deployment kube-dns-autoscaler --namespace=kube-system

输出为

deployment.apps "kube-dns-autoscaler" deleted

选项 3：从主节点中删除 kube-dns-autoscaler 清单文件

此选项适用于 kube-dns-autoscaler 处于（已弃用）Addon Manager 的控制之下，并且您对主节点具有写入权限。

登录到主节点并删除相应的清单文件。kube-dns-autoscaler 的常见路径为

/etc/kubernetes/addons/dns-horizontal-autoscaler/dns-horizontal-autoscaler.yaml

删除清单文件后，Addon Manager 将删除 kube-dns-autoscaler 部署。

了解 DNS 水平自动伸缩的工作原理

  • cluster-proportional-autoscaler 应用程序与 DNS 服务分开部署。

  • 自动伸缩 Pod 运行一个客户端，该客户端轮询 Kubernetes API 服务器以获取集群中的节点数和核心数。

  • 根据当前可调度节点和核心以及给定的扩展参数计算所需的副本数量并将其应用于 DNS 后端。

  • 扩展参数和数据点通过配置映射提供给自动伸缩器，并且它在每次轮询间隔刷新其参数表以保持最新所需的扩展参数。

  • 允许更改扩展参数，而无需重建或重新启动自动伸缩 Pod。

  • 自动伸缩器提供控制器接口以支持两种控制模式：线性和阶梯。

下一步

上次修改时间为 2024 年 1 月 25 日下午 3:51 PST：修复 dns-horizontal-autoscaling 页面中的部署和配置映射名称 (7e2f696572)