【发布时间】:2020-12-20 06:41:29
【问题描述】:
如何测量 Apache Spark 和 Flink 的能耗 有什么工具或技术可以测量 Spark 和 Flink 的能耗
【问题讨论】:
标签: apache-spark hadoop mapreduce apache-flink
如何测量 Apache Spark 和 Flink 的能耗 有什么工具或技术可以测量 Spark 和 Flink 的能耗
【问题讨论】:
标签: apache-spark hadoop mapreduce apache-flink
欢迎来到堆栈溢出!
Apache spark 和 Flink 是分别用于分布式计算和流处理的框架。没有什么比框架更消耗计算能力了。
如果我的意思是正确的,那么您是在询问使用上述框架开发的应用程序的计算功耗。
因此,回答这个问题,通常此类应用程序部署在任何服务器/云提供商上。这些云提供商提供内置指标来跟踪 CPU/内存消耗。
如果您在本地运行这些应用程序,您可以使用jprofiler、jconsole、visualVM 等工具。这些工具为您提供 CPU 消耗、内存消耗等的直观表示。
附注:
软件框架是一种抽象,其中提供通用功能的软件可以通过其他用户编写的代码有选择地更改,从而提供特定于应用程序的软件。
分布式计算、流处理或者说任何计算都可以在没有上述框架的情况下实现。但这将是混乱的。框架使开发人员的生活变得轻松。由于过度抽象,容易权衡取舍,这是一个不同的整体讨论。
【讨论】: