【问题标题】:Ingest data from http endpoint in Dataflow (python)从 Dataflow 中的 http 端点摄取数据(python)
【发布时间】:2018-03-15 13:56:53
【问题描述】:

您是否知道有任何方法可以从使用 Python 编码的 Dataflow 管道中的 HTTP 端点摄取数据?

我当前的解决方案是安排对该端点的调用,以检索 JSON 格式的数据,将文件保存在磁盘上并让管道接收它。

我现在想做的是 Dataflow 定期读取这个 HTTP 端点。

【问题讨论】:

  • 我想您可以使用 requests 模块在转换实现中进行同步 API 调用。

标签: google-cloud-dataflow apache-beam


【解决方案1】:

正如 Andrew 建议的那样,您可以尝试在转换中读取数据(par do)。然后可以对数据进行下游处理。

【讨论】:

  • 好的。不过,我有一个审问,ParDo 从定义上看似乎是并行的。我应该(如果可能的话)指定不并行化 api 调用吗?
  • 如果您有少量数据,不并行化它可能没问题(例如在内存 PCollection 中发送 1 个键)。如果你有很多简单的并行化方法,你也可以并行化它。例如,如果您正在读取文件名的集合,您可以使用 ParDo 来为每个键读取文件。这样,您将阅读所有文件。如果您有某种方法可以知道您为此创建 RPC 的数据的哪一部分应该可以正常工作。否则,并行化可能会更加困难。
  • 谢谢拉拉,我会试试的!
猜你喜欢
  • 2016-04-22
  • 2020-05-28
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多