【问题标题】:how to write a sqoop job using shell script and run them sequentially?如何使用 shell 脚本编写 sqoop 作业并按顺序运行它们?
【发布时间】:2015-08-07 23:53:24
【问题描述】:

我需要在 shell 脚本中一个接一个地运行一组 sqoop 作业。我怎样才能实现它?默认情况下,它并行运行所有作业,这会导致性能受到影响。我应该删除“-m”参数并运行吗?

【问题讨论】:

    标签: shell jobs sqoop


    【解决方案1】:

    -m 参数用于为每个 sqoop 命令运行多个仅映射作业,但不是为您发出的所有命令。

    所以去掉 -m 参数并不能帮助你解决问题。

    首先你需要用你的 sqoop 命令编写一个 shell 脚本文件

    #!/bin/bash
    
    sqoop_command_1
    
    sqoop_command_2
    
    sqoop_command_3
    

    使用类似 sqoop_jobs.sh 的名称保存上述命令

    然后授予在 shell 文件上运行的权限

    chmod 777 sqoop_jobs.sh
    

    现在您可以通过在终端中发出以下命令来运行/执行您的 shell 文件

    >./sqoop_jobs.sh
    

    我希望这会有所帮助

    【讨论】:

    • 是的,我现在就是这样做的,但问题是所有 sqoop 命令都被执行并开始并行运行。
    • 这是我之前使用的可行方案,这里sqoop命令会一个接一个地执行。请记住为每个命令提供换行符,以及您正在处理的发行版是什么...
    • 这对你有用吗?我面临同样的问题。 sqoop 命令不会一一运行。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2019-11-10
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2010-12-16
    • 2019-03-27
    相关资源
    最近更新 更多