基于基于日志的指标自动缩放 Kubernetes

Question

我在 GKE 上使用 Autopilot。我创建了一些基于日志的指标，我想用它们来扩展 pod。

首先 - 我不确定这是否是个好主意 - 指标只是数据库中要处理的记录数......我感觉使用日志来扩展应用程序可能会带来一些奇怪的无限循环或其他东西。 ...

无论如何 - 我尝试输入 logging.googleapis.com|user|celery-person-count 作为外部指标并得到 HPA cannot read metric value。已安装 Stackdriver 适配器，但也不太清楚如何使用它。

Answer 1

GKE Autopilot 集群启用了 Workload Identity 以使用其他 GCP 服务，包括 Cloud Monitoring。

您需要按照here 的步骤在 Autopilot 集群上部署自定义指标适配器。

kubectl create clusterrolebinding cluster-admin-binding \
    --clusterrole cluster-admin --user "$(gcloud config get-value account)"

kubectl create namespace custom-metrics

kubectl create serviceaccount --namespace custom-metrics \
custom-metrics-stackdriver-adapter

gcloud iam service-accounts create GSA_NAME

gcloud projects add-iam-policy-binding PROJECT_ID \
    --member "serviceAccount:GSA_NAME@PROJECT_ID.iam.gserviceaccount.com" \
    --role "roles/monitoring.viewer"

gcloud iam service-accounts add-iam-policy-binding \
  --role roles/iam.workloadIdentityUser \
  --member "serviceAccount:PROJECT_ID.svc.id.goog[custom-metrics/custom-metrics-stackdriver-adapter]" \
  GSA_NAME@PROJECT_ID.iam.gserviceaccount.com

kubectl annotate serviceaccount \
  --namespace custom-metrics custom-metrics-stackdriver-adapter \
  iam.gke.io/gcp-service-account=GSA_NAME@PROJECT_ID.iam.gserviceaccount.com

kubectl apply -f manifests/adapter_new_resource_model.yaml

鉴于您已经部署了适配器，您需要先删除部署，尽管您可能只能运行从 gcloud iam ... 开始的步骤

您需要将 GSA_NAME 替换为您选择的名称，并将 PROJECT_ID 替换为您的 Google Cloud 项目 ID。

Answer 2

是的，水平 Pod 自动缩放可以使用度量值完成。如果您的应用程序在 Kubernetes 中运行，则您必须使用自定义指标进行自动缩放；如果您的应用程序未在 Kubernetes 中运行，则您必须使用外部指标进行自动缩放。

可以为以下任何一项选择自定义指标：

• 特定节点、Pod 或任何类型的任何 Kubernetes 对象， 包括一个 CustomResourceDefinition (CRD)。

• 部署中所有 Pod 报告的指标的平均值。

  参考这个documentation了解使用自定义的详细解释 水平 Pod 自动缩放的指标。

Answer 3

自定义指标

GitHublink:

kubectl create clusterrolebinding cluster-admin-binding \
    --clusterrole cluster-admin --user "$(gcloud config get-value account)"

资源：kubectl apply -f https://raw.githubusercontent.com/GoogleCloudPlatform/k8s-stackdriver/master/custom-metrics-stackdriver-adapter/deploy/production/adapter_new_resource_model.yaml

使用指标部署应用程序

git clone https://github.com/GoogleCloudPlatform/kubernetes-engine-samples.git
cd kubernetes-engine-samples/custom-metrics-autoscaling/direct-to-sd

HPA 示例

apiVersion: autoscaling/v2beta2
kind: HorizontalPodAutoscaler
metadata:
  name: custom-metric-sd
  namespace: default
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: custom-metric-sd
  minReplicas: 1
  maxReplicas: 5
  metrics:
  - type: Pods
    pods:
      metric:
        name: custom-metric
      target:
        type: AverageValue
        averageValue: 20

您可以查看此link 了解更多信息。

如果您的工作负载在 VM 上运行或不在 K8s 上运行，则使用外部指标而不是自定义指标。

请参阅documentation，了解自动扩展工作负载的自定义和外部指标。