【问题标题】:Adding parquet-avro support to scalding为烫伤添加 parquet-avro 支持
【发布时间】:2014-09-12 13:28:15
【问题描述】:

如何创建一个Scalding Source 来处理avroparquet 之间的转换。

解决方案应该:

 1. Read from parquet format and convert to avro memory representation
 2. Write avro objects into a parquet file

注意:我注意到 Cascading 有一个用于利用 thrift 和 parquet 的模块。我突然想到这将是一个开始寻找的好地方。我还在google-groups/scalding-dev上开了一个帖子@

【问题讨论】:

    标签: hadoop avro cascading scalding parquet


    【解决方案1】:

    试试我们在这个分叉中的最新变化 - https://github.com/epishkin/scalding/tree/parquet_avro/scalding-parquet

    【讨论】:

    • 这正是我想要的。投影功能是我寻找镶木地板的原因。我将使用 Typed API 和这些资源来真正拥有一个漂亮的应用程序。非常感谢!
    • 我们还一直致力于添加对谓词的支持。我很快就会分享那个代码。但它使用 parquet-1.6.0rc2 - 不是 parquet 的发布版本
    • 那真是太棒了:)
    • 嘿 Oleksii,你打算什么时候将它合并到 master 中?
    • @Oleksii 你有没有计划对烫伤项目提出合并请求?
    猜你喜欢
    • 2014-06-19
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-11-08
    • 2013-06-12
    • 1970-01-01
    相关资源
    最近更新 更多