【问题标题】:How to convert row from bigtable to Avro generic records如何将行从 bigtable 转换为 Avro 通用记录
【发布时间】:2019-06-03 18:35:33
【问题描述】:

我正在 Pcollection 中读取 bigtable,然后尝试将读取的记录转换为 Avro Generic Records。是否可以直接将读取从大表更改为通用记录而不在 pCollection 中编写任何函数?

例如:我正在尝试做类似下面的事情

 pipeline
    .apply("Read from Bigtable", read)
    .apply("Transform to generic records using Avro.IO", AvroIO.<<>> 
     (read));

【问题讨论】:

    标签: google-cloud-platform google-cloud-dataflow apache-beam google-cloud-bigtable


    【解决方案1】:

    为了用AvroIO 编写Generic Records,您需要提供一个Avro Schema,我认为它与BigtableIO 的输出不兼容,因此如果没有BigtableIO 和AvroIO 之间的转换,这是不可能的.

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2022-12-06
      • 1970-01-01
      • 2016-06-08
      • 2019-12-17
      相关资源
      最近更新 更多