hadoop 流：如何查看应用程序日志？

Question

我可以在我的/usr/local/hadoop/logs 路径上看到所有 hadoop 日志

但是我在哪里可以看到应用程序级别的日志？例如：

mapper.py

import logging

def main():
    logging.info("starting map task now")
    // -- do some task -- //
    print statement  

reducer.py

import logging
def main():
    for line in sys.stdin:
        logging.info("received input to reducer - " + line)  
        // -- do some task -- //
        print statement

在哪里可以看到logging.info 或我的应用程序的相关日志语句？
我正在使用Python 并使用hadoop-streaming

谢谢

Answer 1

Hadoop 流使用STDIN/STDOUT 在映射器和reducer 之间传递键/值对，因此必须将日志消息写入特定的日志文件——查看sample code 和python logging documentation 了解更多详细信息。这个Query 也可能有帮助。

Answer 2

Hadoop 收集 stderr，可以在 hadoop map/reduce status 站点上查看。所以你可以写到stderr。