【问题标题】:How to configure hadoop with eclipse如何使用eclipse配置hadoop
【发布时间】:2013-12-29 15:57:36
【问题描述】:

我是 hadoop 新手,我已经下载了 hortonworks sanbox 映像并使用 virtualBox 安装了它。当我在 Chrome 中输入 192.168.56.101/ 时,sanbox ui 将进入 localhost。我也可以使用 hue/hadoop 用户名密码登录到 hadoop shell。现在我想在eclipse中运行一个简单的程序。我已经在eclipse中添加了hadoop-0.18.3-eclipse-plugin,然后尝试了以下步骤。

1.choosed map/reduce from eclipse.
2.went to hadoop location editer 

localhost name:localhost
under map/reduce master
port:9000
under DFS master
port:9001

但是我收到了这个错误

无法连接到 Map/Reduce 位置:localhost 调用 localhost/127.0.0.1:9001 连接异常失败: java.net.ConnectException:连接被拒绝:没有更多信息

虚拟盒子正在运行。

【问题讨论】:

  • 192.168.56.101 还是localhost?这两者相互矛盾。
  • @RemusRusanu 是我在本地运行 hortonworks 沙箱的 url,但我看到了使用 eclipse 配置 hadoop 的教程,请参阅youtube.com/watch?v=TavehEdfNDk
  • 对于任何关注此线程的人:如果您使用的是 Hortonworks 2.4 沙盒,那么您要查找的端口是 8020,而不是 9000。

标签: java eclipse hadoop mapreduce


【解决方案1】:
  1. 将所需的 hadoop 依赖 jar 文件添加到您的 eclipse 类路径中。

  2. 在你的 mapreduce 程序的 main 方法中添加这些行

    Configuration conf = new Configuration();
    conf.set("fs.default.name", "hdfs://localhost:50000");
    conf.set("mapreduce.job.tracker", "localhost:50001");
    
  3. 如果您在虚拟机中运行,请将 localhost 更改为 所需的IP地址(hadoop恶魔运行的地方)。你可以得到IP 地址输入ifconfig

  4. 将 mapreduce 程序作为简单的 java 程序运行 .您将在 Eclipse 控制台中获得输出。

【讨论】:

    猜你喜欢
    • 2014-05-23
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2014-02-27
    • 2013-03-22
    • 1970-01-01
    • 2017-12-18
    • 2010-12-10
    相关资源
    最近更新 更多