【问题标题】:clickhouse - Clickhouse imported data is forcibly killed by the systemclickhouse - Clickhouse 导入的数据被系统强杀
【发布时间】:2021-07-22 09:53:57
【问题描述】:

当我将一个 120g 的文本文件导入到Clickhouse 时,其中有 4 亿条数据。导入一亿多数据后,我就被杀了。

导入语句如下: clickhouse-client --user default --password xxxxx --port 9000 -hbd4 --database="dbs" --input_format_allow_errors_ratio=0.1 --query="insert into ... FORMAT CSV" < /1.csv

错误如下: 2021.04.29 10:20:23.135790 [ 19694 ] {} <Fatal> Application: Child process was terminated by signal 9 (KILL). If it is not done by 'forcestop' command or manually, the possible cause is OOM Killer (see 'dmesg' and look at the '/var/log/kern.log' for the details).

是不是导入的文件太大,爆内存?我应该再次细分文件吗?

【问题讨论】:

    标签: database clickhouse


    【解决方案1】:

    看看系统日志——他们应该有一些线索:

    1. 按照错误消息中的建议 - 运行 dmesg 并查看是否提到 OOM Killer [内核自我保护机制触发内存不足事件]。如果是这种情况 - 你的内存不足或者你给 clickhouse 分配了太多的内存。

    2. 看看 clickhouse 自己的日志告诉我们什么。日志文件的路径在 clickhouse-server/config.xml 中定义,位于 yandex/logger/log 下 - 可能是 /var/log/clickhouse-server/clickhouse-server.log + /var/log/clickhouse-server/clickhouse -server.err.log

    【讨论】:

      猜你喜欢
      • 2021-07-22
      • 2016-10-23
      • 2019-04-13
      • 2023-02-07
      • 2017-01-16
      • 1970-01-01
      • 2018-05-22
      • 2019-04-17
      • 2019-03-04
      相关资源
      最近更新 更多