【发布时间】:2018-03-15 13:56:53
【问题描述】:
您是否知道有任何方法可以从使用 Python 编码的 Dataflow 管道中的 HTTP 端点摄取数据?
我当前的解决方案是安排对该端点的调用,以检索 JSON 格式的数据,将文件保存在磁盘上并让管道接收它。
我现在想做的是 Dataflow 定期读取这个 HTTP 端点。
【问题讨论】:
-
我想您可以使用 requests 模块在转换实现中进行同步 API 调用。
标签: google-cloud-dataflow apache-beam