【问题标题】:GCP compute engine bandwidth bottleneck with multiprocessing多处理的 GCP 计算引擎带宽瓶颈
【发布时间】:2021-10-20 23:51:48
【问题描述】:

我最近创建了 a tool 以使用多处理后端并行获取 BigQuery 表。当这个工具在 GCP 计算引擎上运行时,我看不到使用多核时的任何带宽改进。但是,参考GCE documentation,每个 vCPU 可以处理 2GB 的入口,最多可处理 6 个 vCPU。 我使用的机器是 e2-standard-32 :32 vCPU,128 GB 内存,使用的带宽峰值约为 100MiB/S,但我预计约为 2GB/s * 6 个 vCPU。 在查看 GCP 中的网络带宽监控时,我看不出使用多处理获取时有什么不同。

有人知道如何改善计算引擎施加的带宽限制吗?

【问题讨论】:

    标签: google-cloud-platform google-bigquery multiprocessing google-compute-engine


    【解决方案1】:

    我的猜测是限制来自 BigQuery 服务,而不是您的 VM 带宽。

    【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2019-01-08
    • 2017-12-10
    • 2018-07-30
    • 2019-10-18
    • 1970-01-01
    • 2019-09-10
    • 2016-07-06
    • 1970-01-01
    相关资源
    最近更新 更多