【问题标题】:Editing Parquet Files as Binary将 Parquet 文件编辑为二进制文件
【发布时间】:2018-11-08 22:49:04
【问题描述】:

假设 AWS S3 上的 Parquet 文件(用于 AWS Athena 查询)。

我需要通过更改数值来匿名化具有特定数字字段的记录(更改一位就足够了)。

  1. 我可以将镶木地板文件扫描为二进制文件并找到一个数值吗?或者压缩会导致无法找到这样的字符串?
  2. 假设我可以做到 #1 - 我可以通过在二进制级别更改此数字上的数字来匿名记录而不损坏镶木地板文件吗?

10 倍

【问题讨论】:

    标签: hive parquet amazon-athena presto orc


    【解决方案1】:

    不,这是不可能的。 Parquet 的格式有两层,这使得这不可能:编码和压缩。它们都重新排序数据以适应更小的空间,它们之间的区别在于 CPU 使用率和通用性。有时数据可以被压缩,如果所有值都相同/非常相似,我们每个值需要的字节数少于一个字节。更改单个值会导致使用更多空间,从而使您无法进行编辑。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2010-12-27
      • 2020-03-21
      • 2020-08-23
      • 2013-06-06
      • 1970-01-01
      • 2013-06-25
      相关资源
      最近更新 更多