【问题标题】:running hadoop on Google app engine?在 Google 应用引擎上运行 hadoop?
【发布时间】:2011-08-18 15:31:27
【问题描述】:

是否可以在 Google 应用引擎上运行 map reduce 作业?

任何参考或教程都会有所帮助

谢谢

【问题讨论】:

    标签: python google-app-engine hadoop mapreduce


    【解决方案1】:

    有点。

    您不能使用实际的 MapReduce 框架 - 该架构与 AppEngine 太不兼容了。

    但是,有一个专门为 GAE 构建的等效系统 - appengine-mapreduce。该站点有点混乱,因为代码的第一个版本仅支持映射器,没有后续的 reduce 步骤 - 最近他们发布了一个完全支持 mapreduce 的版本,但一些文档仍然引用了早期的仅映射器。

    最好的介绍是 GoogleIO talk from Mike Aizatskyi

    【讨论】:

      【解决方案2】:

      您不能在 Appengine 上运行 Hadoop(也不能访问文件系统)。

      您可能需要检查 AWS ElasticMapreduce。它是一个基于云的平台,用于运行 Mapreduce 作业。

      ElasticMapreduce

      【讨论】:

        【解决方案3】:
        【解决方案4】:

        看到这个 Google Cloud Platform 广告:
        Google Compute Engine 虚拟机上的 Hadoop
        https://cloud.google.com/solutions/hadoop

        【讨论】:

          猜你喜欢
          • 1970-01-01
          • 1970-01-01
          • 1970-01-01
          • 2017-07-28
          • 1970-01-01
          • 2016-04-04
          • 1970-01-01
          • 1970-01-01
          • 2011-08-08
          相关资源
          最近更新 更多