【问题标题】:Which Map-Reduce library and/or platform to use with java哪个 Map-Reduce 库和/或平台与 java 一起使用
【发布时间】:2011-01-13 12:46:46
【问题描述】:

我最近正在阅读和听到一些关于 云计算map-reduce 技术的内容。我正在考虑使用一些算法来获得该领域的实践经验,看看现在有什么可能。

这是我想做的: 我想使用一些带有内置 map reduce 功能的公共云平台(例如 Google App Engine、Google Map Reduce、Amazon ECS、Amazon Map Reduce),或者如果它没有内置支持,请使用额外的 map reduce java 库(例如 Hadoop、Hive),并实现/部署一些算法。

有没有人在该领域取得了一些经验并指出了一个好的起点?或者列举一些在实践中效果很好的组合?

提前致谢!

【问题讨论】:

    标签: java amazon-ec2 cloud mapreduce


    【解决方案1】:

    Amazon EC2 具有一些预先捆绑的 Hadoop AMI。教程见Running Hadoop on Amazon EC2

    特别是 Cloudera 分布,我想到了 - 它也带有 Pig 和 Hive。

    【讨论】:

    • 我看了你引用的那篇文章,很有用。我想我会从 hadoop 开始,可能会使用我的一些本地计算机,然后尝试将其部署到 EC2。感谢您的回答。
    【解决方案2】:

    Apache Hadoop 是一个主要的开源 Java 分布式计算框架,它包含一个基于原始 Google MapReduce 的 MapReduce 子项目。

    【讨论】:

    • 您是否还建议使用 Amazon EC2 在其上运行 Hadoop?是否可以将基于 Hadoop 的应用程序部署到 Google 应用程序引擎上?
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2013-04-22
    • 2011-06-01
    • 1970-01-01
    • 1970-01-01
    • 2011-01-20
    • 1970-01-01
    • 2019-05-16
    相关资源
    最近更新 更多