【问题标题】:Increase the performance of the insert overwrite in hive managed table提高 hive 托管表中插入覆盖的性能
【发布时间】:2020-07-18 21:11:29
【问题描述】:

我是 Hive 新手,我想知道表属性列表,以提高 hive 托管表中插入覆盖的性能。 有人可以帮忙吗?

【问题讨论】:

    标签: performance hive insert hiveql overwrite


    【解决方案1】:

    一些建议:

    1. 关闭统计信息自动收集:

      set hive.stats.autogather=false;

    2. 如果可能,请提前删除分区文件夹或表文件夹,或使用 PURGE 选项:https://stackoverflow.com/a/39623927/2700344

    3. 如果您使用的是 S3 并且表是 ORC,请禁用块填充:

      ALTER TABLE your_table SET TBLPROPERTIES ("orc.block.padding"="false", "orc.block.padding.tolerance"="1.0");

    4. 使用矢量化ConfigurationProperties-Vectorization 和 Tez:

      set hive.execution.engine=tez;

    5. 优化查询。

    【讨论】:

      猜你喜欢
      • 2014-11-27
      • 1970-01-01
      • 2017-03-01
      • 2017-01-29
      • 2015-09-13
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2015-01-10
      相关资源
      最近更新 更多