【问题标题】:stackdriver monitoring api in a dataflow project数据流项目中的stackdriver监控api
【发布时间】:2020-03-27 11:31:01
【问题描述】:

我刚开始在 Google Cloud Dataflow 上使用 Apache Beam。我有一个使用结算帐户设置的项目。我计划使用这个项目的唯一目的是: 1. 数据流——用于所有数据处理 2. pubsub - 用于导出 Stackdriver 日志以供 Datadog 使用

现在,在我写这篇文章时,我目前没有运行任何数据流作业。

回顾过去一个月,我发现数据流成本约为 15 美元,Stackdriver Monitor API 成本约为 18 美元。看起来 Stackdriver Monitor API 接近固定的 1.46 美元/天。

我很好奇如何缓解这种情况。我认为我不需要或不需要 Stackdriver Monitoring。它是强制性的吗?此外,虽然我觉得我什么都没有运行,但我在过去的一个小时里看到了这一点:

所以我想问题是这些: 1. 这些电话是什么? 2. 是否可以为数据流禁用 Stackdriver Monitoring 或以其他方式降低成本?

【问题讨论】:

  • 在 Stackdriver Monitoring API 的“Metrics”控制台中,我按凭据绘制图表,发现这些调用来自第三方应用(在我的例子中是 Datadog)。所以,这个谜团解开了。
  • 我建议您发布一个问题的答案,说明按凭证绘制图表是确定使用来源的好方法。
  • 如果可以限制 datadog 以减少 api 请求(保持在 100 万个请求/月的免费堆栈驱动程序配额内),我会很有趣

标签: google-cloud-platform google-cloud-dataflow stackdriver google-cloud-stackdriver


【解决方案1】:

考虑到发布的答案和问题,如果我们认为不需要 Stackdriver 监控,我们可以使用以下步骤禁用 stackdriver 监控 API:

  1. 在 Cloud Console 中,转到 API 和服务。
  2. 选择 Stackdriver Monitoring API。
  3. 点击禁用 API。

此外,您可以按结算帐号查看 Stackdriver 使用情况,还可以使用 Stackdriver 定价计算器 [a] [b] 估算费用。

按结算帐号查看 Stackdriver 使用情况:

  1. 在 Cloud Console 中的任意位置,点击导航菜单并选择结算。
  2. 如果您有多个计费帐户,请选择转到关联的计费帐户以 查看当前项目的计费帐户。要查找其他结算帐号, 选择管理结算帐户,然后选择您想要获取的帐户 使用情况报告。
  3. 选择报告。

4. 选择分组依据 > SKU。此菜单可能被隐藏;您可以通过单击显示来访问它 过滤器。

  1. 从 SKU 下拉列表中,进行以下选择:
    1. 日志量(Stackdriver 日志使用情况)
    2. 已提取跨度(Stackdriver Trace 使用情况)
    3. 指标量和监控 API 请求(Stackdriver Monitoring 使用情况)
  2. 将显示您的使用数据(按您选择的 SKU 过滤)。

如果您不想对使用数据进行分组,也可以只选择其中一个或部分 SKU。

注意:如果您对这些 SKU 的使用率为 0,则它们不会出现在 Group By > SKU 下拉菜单中。例如,仅使用 Cloud 控制台的用户可能永远不会生成 API 请求,因此 Monitoring API Requests 不会出现在列表中。

使用 Stackdriver 定价计算器 [b]:

  1. 将您当前或预计的监控使用数据添加到“指标”部分,然后单击“添加以进行估算”。
  2. 将您当前或预计的日志记录使用数据添加到日志部分,然后单击添加以进行估算。
  3. 将您当前的 Trace 使用数据添加到 Trace spans 部分,然后单击 Add to estimate。
  4. 输入使用数据后,单击估算。 系统会显示您未来的 Stackdriver 帐单估算值。您还可以通过电子邮件发送估价或保存估价。

[a]https://cloud.google.com/stackdriver/estimating-bills#billing-acct-usage

[b]https://cloud.google.com/products/calculator/#tab=google-stackdriver

【讨论】:

  • 似乎无法为 Dataflow 项目停用 Stackdriver Monitoring API。它将禁用许多后台操作(例如自动缩放)可能需要的“googleapis”。
  • 我一直在寻找根据要求降低成本的选项,但除了:1 之外什么都没有。要禁用 Stackdriver 监控 API,但如果存在对后端服务的依赖,在这种情况下禁用 API 不是正确的举措。 2. 修改应用程序以停止向 Stackdriver 发送指标数据。 [c]cloud.google.com/monitoring/workspaces/…
【解决方案2】:

根据 Yuri 的建议,我找到了罪魁祸首,这就是(感谢 Google 支持人员引导我完成此过程):

  • 在 GCP Cloud Console 中,导航到“API 和服务”-> 库
  • 搜索“Strackdriver Monitoring Api”并点击
  • 点击下一个屏幕上的“管理”
  • 点击左侧菜单中的“指标”
  • 在“选择图表”下拉菜单中,选择“凭据流量”并单击“确定”

这向我展示了一张图表,清楚地表明我的所有请求都来自名为 datadog-metrics-collection 的凭据,这是我之前设置的一个服务帐户,用于收集 GCP 指标并发送到 Datadog。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2018-11-24
    • 2020-04-27
    • 1970-01-01
    • 1970-01-01
    • 2018-07-29
    • 2019-06-03
    • 2019-04-05
    • 1970-01-01
    相关资源
    最近更新 更多