【发布时间】:2017-05-11 11:27:30
【问题描述】:
在hadoop中使用avro格式作为header来描述后面的二进制文件的内容。我的问题是是否可以扩展 avro 文件的 json 部分以包含 hadoop 不需要的信息?典型的用例是将元数据(如文件的创建者和日期)附加到文件中,而不需要是数据和文件的一部分。
【问题讨论】:
在hadoop中使用avro格式作为header来描述后面的二进制文件的内容。我的问题是是否可以扩展 avro 文件的 json 部分以包含 hadoop 不需要的信息?典型的用例是将元数据(如文件的创建者和日期)附加到文件中,而不需要是数据和文件的一部分。
【问题讨论】:
是的。 Avro 文件可以使用 json 模式中的附加信息或特定的附加名称:值对进行注释。此外,我们已经能够使用 Pentaho 和 Google Big Query 读取这些 avro 文件。一个警告是模式和名称:值对在导入过程中被丢弃。因此,如果您觉得以后需要它们,您应该提取并存储它们的本地副本。
【讨论】: