【问题标题】:Kitchen getting killed厨房被杀
【发布时间】:2013-03-05 10:32:26
【问题描述】:

我正在为 ETL 使用 pentaho 数据集成。我在 ubuntu 服务器中将作业作为 shell 脚本运行。它运行了一段时间后被杀死而没有抛出任何错误。请帮我解决问题并告诉我是否遗漏任何问题。

日志:

INFO  14-03 11:46:52,369 - set_var - Dispatching started for transformation         [set_variable]
INFO  14-03 11:46:52,370 - Get rows from result - Finished processing (I=0, O=0, R=1, W=1, U=0, E=
INFO  14-03 11:46:52,370 - Set var - Setting environment variables...
INFO  14-03 11:46:52,371 - Set var - Set variable BOOK_PATH to value [...........]
INFO  14-03 11:46:52,371 - Set var - Set variable FOLDER_NAME to value [...........]
INFO  14-03 11:46:52,375 - Set var - Finished after 1 rows.
INFO  14-03 11:46:52,375 - Set var - Finished processing (I=0, O=0, R=1, W=1, U=0, E=0)
INFO  14-03 11:46:52,377 - validate - Starting entry [file]
INFO  14-03 11:46:52,378 - file - Loading transformation from XML file 
INFO  14-03 11:46:52,386 - file - Dispatching started for transformation [file][file:///c:/check/file.txt]
INFO  14-03 11:46:52,390 - path - Optimization level set to 9.
INFO  14-03 11:46:52,391 - filename - Finished processing (I=0, O=0, R=0, W=13, U=0, E=0)
INFO  14-03 11:46:52,403 - path - Finished processing (I=0, O=0, R=13, W=13, U=0, E=0)
INFO  14-03 11:46:52,407 - filenames - Finished processing (I=0, O=14, R=13, W=13, U=0, E=0)
INFO  14-03 11:46:52,409 - validate - Starting entry [Check_database]
INFO  14-03 11:46:52,410 - Check_database - Loading transformation from XML file[file:///c:/check/missing.ktr]
INFO  14-03 11:46:52,418 - count - Dispatching started for transformation [count]
INFO  14-03 11:46:52,432 - count - Finished reading query, closing connection.
INFO  14-03 11:46:52,433 - Set var - Setting environment variables...
INFO  14-03 11:46:52,433 - count - Finished processing (I=1, O=0, R=0, W=1, U=0, E=0)
INFO  14-03 11:46:52,433 - Set var - Set variable Count to value [0]
INFO  14-03 11:46:52,436 - Set var - Finished after 1 rows.
INFO  14-03 11:46:52,436 - Set var - Finished processing (I=0, O=0, R=1, W=1, U=0, E=0)
Killed `

【问题讨论】:

  • 当它死亡时,日志中有什么内容?即使作业/转换出错,Kitchen 和 Pan 进程通常也会返回 0 状态。
  • 它显示进度卡在没有错误被杀死
  • 请发布日志:信息有限,很难评估问题。
  • 我已附上日志文件。你能告诉我文件的大小会导致这个问题吗
  • 我们在 Win2003 机器中运行 JIRA 实例,该实例开始随机“闪烁”(如,消失)。事实证明,当 JVM 达到它分配的 HEAP 空间的上限时,它只会在系统日志(它是 JVM 的日志)中消失,而不是应用程序日志。因此,经过几天的努力,我们发现 Win2003 机器无法以我们遇到的并发用户数量运行 JIRA,所以午夜切换到具有 8 倍内存的 Win2008RC2,我们很好。因此,如果您还没有,请向下查看 JVM 和它的队列。

标签: pentaho kettle data-integration


【解决方案1】:

您的机器很可能无法提供转换所需的内存,因此默默地杀死它。您可以通过调整spoon.sh 文件中的PENTAHO_DI_JAVA_OPTIONS 选项来修改PDI 内存分配。我有同样的问题,下面是我所做的:

  • 在我的系统中创建了一个环境变量 PENTAHO_DI_JAVA_OPTIONS。如果未设置此变量,厨房将使用其默认值。通过创建此系统变量,我可以控制根据转换复杂性减少或增加内存分配(至少在我的本地机器上进行测试)。
  • 我的机器有8G内存,包括厨房在内的所有进程都已经用完了。因此将 PDI 内存需求减少了 export PENTAHO_DI_JAVA_OPTIONS=-Xms1g -Xmx3g 。分钟。 1G 和最大 3G。

我可能错了,但它对我有用,即使转换引发了 GC 内存中断错误。至少它没有被默默杀死。

不必在专用的独立服务器中进行上述设置,因为除了 PDI 之外没有其他进程在其中工作。

当进程被静默杀死时,我正在使用 PDI 8.3,iOS BigSur。

希望这可以帮助某人:)。

【讨论】:

    【解决方案2】:

    您很可能内存不足。在运行 ETL 时检查您机器的资源。

    【讨论】:

      猜你喜欢
      • 2017-08-06
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-05-19
      • 1970-01-01
      • 2017-03-15
      相关资源
      最近更新 更多