【发布时间】:2020-02-18 01:09:18
【问题描述】:
我正在尝试为两个 Kubernetes 服务定义一个 Horizontal Pod Autoscaler。
Autoscaler 策略依赖于 3 个指标:
- CPU
- pubsub.googleapis.com|subscription|num_undelivered_messages
- loadbalancing.googleapis.com|https|request_count
CPU 和 num_undelivered_messages 正确获取,但无论我做什么,我都无法获取 request_count 指标。
第一个服务是后端服务(服务 A),另一个(服务 B)是一个 API,它使用 Ingress 来管理对服务的外部访问。
自动缩放策略基于 Google 文档:Autoscaling Deployments with External Metrics。
对于服务 A,以下定义了用于自动缩放的指标:
apiVersion: autoscaling/v2beta1
kind: HorizontalPodAutoscaler
metadata:
name: ServiceA
spec:
scaleTargetRef:
apiVersion: extensions/v1beta1
kind: Deployment
name: ServiceA
minReplicas: 1
maxReplicas: 3
metrics:
- type: Resource
resource:
name: cpu
targetAverageUtilization: 80
- external:
metricName: pubsub.googleapis.com|subscription|num_undelivered_messages
metricSelector:
matchLabels:
resource.labels.subscription_id: subscription_id
targetAverageValue: 100
type: External
对于服务 B,以下定义了用于自动缩放的指标:
apiVersion: autoscaling/v2beta1
kind: HorizontalPodAutoscaler
metadata:
name: ServiceB
spec:
scaleTargetRef:
apiVersion: extensions/v1beta1
kind: Deployment
name: ServiceB
minReplicas: 1
maxReplicas: 3
metrics:
- type: Resource
resource:
name: cpu
targetAverageUtilization: 80
- external:
metricName: loadbalancing.googleapis.com|https|request_count
metricSelector:
matchLabels:
resource.labels.forwarding_rule_name: k8s-fws-default-serviceb--3a908157de956ba7
targetAverageValue: 100
type: External
如上篇文章中定义的那样,metrics server 正在运行,metrics server 适配器已经部署:
$ kubectl get apiservices |egrep metrics
v1beta1.custom.metrics.k8s.io custom-metrics/custom-metrics-stackdriver-adapter True 2h
v1beta1.external.metrics.k8s.io custom-metrics/custom-metrics-stackdriver-adapter True 2h
v1beta1.metrics.k8s.io kube-system/metrics-server True 2h
v1beta2.custom.metrics.k8s.io custom-metrics/custom-metrics-stackdriver-adapter True 2h
对于服务 A,所有指标 CPU 和 num_undelivered_messages 都正确获取:
$ kubectl get hpa ServiceA
NAME REFERENCE TARGETS MINPODS MAXPODS REPLICAS AGE
ServiceA Deployment/ServiceA 0/100 (avg), 1%/80% 1 3 1 127m
对于服务 B,HPA 无法获取 Request Count:
$ kubectl get hpa ServiceB
NAME REFERENCE TARGETS MINPODS MAXPODS REPLICAS AGE
ServiceB Deployment/ServiceB <unknown>/100 (avg), <unknown>/80% 1 3 1 129m
访问 Ingress 时,我收到以下警告:
无法获取外部指标 default/loadbalancing.googleapis.com|https|request_count/&LabelSelector{MatchLabels:map[string]string{resource.labels.forwarding_rule_name: k8s-fws-default-serviceb--3a908157de956ba7,},MatchExpressions :[],}: 没有从外部指标 API 返回指标
转发规则的 metricSelector 是正确的,在描述入口时已确认(仅显示相关信息):
$ kubectl describe ingress serviceb
Annotations:
ingress.kubernetes.io/https-forwarding-rule: k8s-fws-default-serviceb--3a908157de956ba7
我尝试使用不同的指标选择器,例如,使用 url_map_name,但无济于事,我遇到了类似的错误。
我已遵循 Google 文档中的确切指南,并查看了一些参考完全相同过程的在线教程,但我无法理解我缺少什么。 我可能缺少一些配置或一些具体细节,但我在任何地方都找不到它的文档。
我缺少什么,这解释了为什么我无法获得 loadbalancing.googleapis.com|https|request_count 指标?
【问题讨论】: