【问题标题】:Where should i learn Apache Beam我应该在哪里学习 Apache Beam
【发布时间】:2022-06-15 04:26:10
【问题描述】:

学习 Apache Beam 的最佳方式是什么?我想通过实践来学习。

我应该学习哪种语言,Java 还是 Python?

我看到大多数 Dataflow 管道都是内置的 Java SDK,但我更喜欢 Python。

【问题讨论】:

  • 如果您刚开始使用 Apache Beam,您可以参加 Udemy 上的课程,有两门流行的课程,一门是 Java,一门是 Python,您可以选择两者中的任何一个。既然你说你对python更舒服,也许你可以选择python。有一些特定的功能尚未在 Python SDK 中实现,但存在于 Java SDK 中,但对于大多数用例来说,这两个世界中的任何一个都很好。除了课程之外,如果您对阅读文档感到满意,那么 Apache Beam 也有一个非常好的文档页面。
  • 如果您对使用 Splittable DoFn 的自定义 IO 连接器等一些高级概念更感兴趣,那么您可以查看 YouTube 上名为 Beam College 的频道

标签: google-cloud-dataflow apache-beam


【解决方案1】:

根据我的经验,当您使用 Apache Beam 进行数据处理和数据管道时,Python 将比 java 更灵活。

以下是 python 文档的链接。 https://beam.apache.org/releases/pydoc/current/

您还将在 Github 上获得示例源代码。 https://github.com/asaharland/apache-beam-python-examples https://github.com/apache/beam/tree/master/sdks/python/apache_beam/examples 还有更多 github repos 你可以参考。

【讨论】:

    【解决方案2】:

    Python 是执行此类数据处理工作的绝佳语言。

    我的建议是让您尝试使用 Apache Beam Katas 来学习 Python:https://stepik.org/course/54532/promo

    您可以使用 PyCharm 的 Edu 插件运行它们。安装方法如下:https://beam.apache.org/blog/beam-kata-release/

    【讨论】:

      猜你喜欢
      • 2018-12-20
      • 1970-01-01
      • 1970-01-01
      • 2022-06-18
      • 1970-01-01
      • 1970-01-01
      • 2010-10-08
      • 1970-01-01
      • 2010-11-03
      相关资源
      最近更新 更多