【问题标题】:Can the avro json be extened with additional information?可以使用附加信息扩展 avro json 吗?
【发布时间】:2017-05-11 11:27:30
【问题描述】:

在hadoop中使用avro格式作为header来描述后面的二进制文件的内容。我的问题是是否可以扩展 avro 文件的 json 部分以包含 hadoop 不需要的信息?典型的用例是将元数据(如文件的创建者和日期)附加到文件中,而不需要是数据和文件的一部分。

【问题讨论】:

    标签: json hadoop avro


    【解决方案1】:

    是的。 Avro 文件可以使用 json 模式中的附加信息或特定的附加名称:值对进行注释。此外,我们已经能够使用 Pentaho 和 Google Big Query 读取这些 avro 文件。一个警告是模式和名称:值对在导入过程中被丢弃。因此,如果您觉得以后需要它们,您应该提取并存储它们的本地副本。

    【讨论】:

      猜你喜欢
      • 2014-10-02
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-06-15
      • 2013-08-21
      • 1970-01-01
      • 1970-01-01
      • 2018-05-08
      相关资源
      最近更新 更多