更新使用 ReadWriteOnce 卷的部署将在挂载时失败

Question

我的部署使用了几个卷，都定义为ReadWriteOnce。

将部署应用到干净的集群时，pod 已成功创建。

但是，如果我更新我的部署（即更新容器映像），当为我的部署创建新 pod 时，它总是会在卷挂载时失败：

/Mugen$ kubectl get pods
NAME                            READY     STATUS              RESTARTS   AGE
my-app-556c8d646b-4s2kg         5/5       Running             1          2d
my-app-6dbbd99cc4-h442r         0/5       ContainerCreating   0          39m

/Mugen$ kubectl describe pod my-app-6dbbd99cc4-h442r
      Type     Reason                  Age                 From                                             Message
      ----     ------                  ----                ----                                             -------
      Normal   Scheduled               9m                  default-scheduler                                Successfully assigned my-app-6dbbd99cc4-h442r to gke-my-test-default-pool-671c9db5-k71l
      Warning  FailedAttachVolume      9m                  attachdetach-controller                          Multi-Attach error for volume "pvc-b57e8a7f-1ca9-11e9-ae03-42010a8400a8" Volume is already used by pod(s) my-app-556c8d646b-4s2kg
      Normal   SuccessfulMountVolume   9m                  kubelet, gke-my-test-default-pool-671c9db5-k71l  MountVolume.SetUp succeeded for volume "default-token-ksrbf"
      Normal   SuccessfulAttachVolume  9m                  attachdetach-controller                          AttachVolume.Attach succeeded for volume "pvc-2cc1955a-1cb2-11e9-ae03-42010a8400a8"
      Normal   SuccessfulAttachVolume  9m                  attachdetach-controller                          AttachVolume.Attach succeeded for volume "pvc-2c8dae3e-1cb2-11e9-ae03-42010a8400a8"
      Normal   SuccessfulMountVolume   9m                  kubelet, gke-my-test-default-pool-671c9db5-k71l  MountVolume.SetUp succeeded for volume "pvc-2cc1955a-1cb2-11e9-ae03-42010a8400a8"
      Normal   SuccessfulMountVolume   9m                  kubelet, gke-my-test-default-pool-671c9db5-k71l  MountVolume.SetUp succeeded for volume "pvc-2c8dae3e-1cb2-11e9-ae03-42010a8400a8"
      Warning  FailedMount             52s (x4 over 7m)    kubelet, gke-my-test-default-pool-671c9db5-k71l  Unable to mount volumes for pod "my-app-6dbbd99cc4-h442r_default(affe75e0-1edd-11e9-bb45-42010a840094)": timeout expired waiting for volumes to attach or mount for pod "default"/"my-app-6dbbd99cc4-h442r". list of unmounted volumes=[...]. list of unattached volumes=[...]

那么，将更改应用于此类部署的最佳策略是什么？为了使用相同的持久性卷，是否必须发生一些服务中断？ （我不想创建新卷 - 数据应该保持）

Answer 1

由于访问模式，您需要容忍这里的中断。这将在创建新 Pod 之前删除现有 Pod（卸载卷）。

“重新创建”的部署策略 - .spec.strategy.type - 将有助于实现这一目标：https://github.com/ContainerSolutions/k8s-deployment-strategies/blob/master/recreate/README.md

Answer 2

由于ReadWriteOnce 访问模式，这似乎是一个错误。请记住，当您更新部署时，会创建新的 Pod，然后会杀死旧的 Pod。所以，也许新的 pod 尝试挂载一个已经挂载的卷，这就是你收到该消息的原因。

您是否尝试过使用允许多个读取器/写入器的卷？你可以在Kubernetes Volumes documentation看到当前卷的列表。

Answer 3

我以一个更好的解决方案结束，我的所有客户端 pod 都只是内容的读者，并且我有一个独立的 CI 流程来编写内容，我执行以下操作：

• 来自 CI：将内容写入 Google Cloud Storage 存储桶：gs://my-storage，然后重新启动所有前端 pod
• 在部署定义时，我将整个存储桶同步（下载）到 pod 易失性存储，并从具有最佳性能的文件系统提供服务。

如何实现： 在前端 docker 镜像上，我添加了来自 https://github.com/GoogleCloudPlatform/cloud-sdk-docker/blob/master/debian_slim/Dockerfile 的 gcloud 安装块：

ARG CLOUD_SDK_VERSION=249.0.0
ENV CLOUD_SDK_VERSION=$CLOUD_SDK_VERSION
ARG INSTALL_COMPONENTS
ENV PATH "$PATH:/opt/google-cloud-sdk/bin/"
RUN apt-get update -qqy && apt-get install -qqy \
        curl \
        gcc \
        python-dev \
        python-setuptools \
        apt-transport-https \
        lsb-release \
        openssh-client \
        git \
        gnupg \
    && easy_install -U pip && \
    pip install -U crcmod && \
    export CLOUD_SDK_REPO="cloud-sdk-$(lsb_release -c -s)" && \
    echo "deb https://packages.cloud.google.com/apt $CLOUD_SDK_REPO main" > /etc/apt/sources.list.d/google-cloud-sdk.list && \
    curl https://packages.cloud.google.com/apt/doc/apt-key.gpg | apt-key add - && \
    apt-get update && apt-get install -y google-cloud-sdk=${CLOUD_SDK_VERSION}-0 $INSTALL_COMPONENTS && \
    gcloud config set core/disable_usage_reporting true && \
    gcloud config set component_manager/disable_update_check true && \
    gcloud config set metrics/environment github_docker_image && \
    gcloud --version
VOLUME ["/root/.config"]

并且在 Pod 部署中frontend.yaml 我添加了以下lifecycle 事件：

...
spec:
  ...
  containers:
  ...
    lifecycle:
    postStart:
      exec:
       command: ["gsutil", "-m", "rsync", "-r", "gs://my-storage", "/usr/share/nginx/html"]

要在更新存储桶内容时“刷新”前端 pod，我只需从我的 CI 中运行以下命令：

kubectl set env deployment/frontend K8S_FORCE=date +%s``