【发布时间】:2011-08-18 15:31:27
【问题描述】:
是否可以在 Google 应用引擎上运行 map reduce 作业?
任何参考或教程都会有所帮助
谢谢
【问题讨论】:
标签: python google-app-engine hadoop mapreduce
是否可以在 Google 应用引擎上运行 map reduce 作业?
任何参考或教程都会有所帮助
谢谢
【问题讨论】:
标签: python google-app-engine hadoop mapreduce
有点。
您不能使用实际的 MapReduce 框架 - 该架构与 AppEngine 太不兼容了。
但是,有一个专门为 GAE 构建的等效系统 - appengine-mapreduce。该站点有点混乱,因为代码的第一个版本仅支持映射器,没有后续的 reduce 步骤 - 最近他们发布了一个完全支持 mapreduce 的版本,但一些文档仍然引用了早期的仅映射器。
最好的介绍是 GoogleIO talk from Mike Aizatskyi。
【讨论】:
您不能在 Appengine 上运行 Hadoop(也不能访问文件系统)。
您可能需要检查 AWS ElasticMapreduce。它是一个基于云的平台,用于运行 Mapreduce 作业。
【讨论】:
看到这个 Google Cloud Platform 广告:
Google Compute Engine 虚拟机上的 Hadoop
https://cloud.google.com/solutions/hadoop
【讨论】: