【问题标题】:How can i create a RESTFul application which uses Apache Spark, specially Streaming at the back end [closed]我如何创建一个使用 Apache Spark 的 RESTFul 应用程序,特别是后端的流式处理 [关闭]
【发布时间】:2016-03-01 18:12:18
【问题描述】:

我对 Apache Spark 很陌生。我想要一个 RESTFul 服务,它使用 Apache Spark 接收一个文件(大文件),以便在后端近乎实时地处理这个文件。我想用Java实现这个。

  1. 建议的轻量级框架有哪些?
  2. 我如何打包这个应用程序(分发)。说我有一个服务器 (例如 Tomcat)。我应该在 Web 服务中打包 Spark 吗?

  3. 如何以编程方式运行 Spark 集群?像服务一样 这总是按需上下。

  4. 是否有遵循这种架构或实现的示例?

谢谢

【问题讨论】:

    标签: java apache-spark architecture streaming restful-architecture


    【解决方案1】:

    使用Akka HTTP 实现 REST 服务。 如何集成 Akka 和 Spark 的完整工作示例是 killrweather。

    【讨论】:

    • 感谢 Rado 的链接。如果它是在Java中会更有帮助。上面的一个是在 Scala 中的。但是我看到 Akka 同时支持 Java 和 Scala。所以我想我可以从中学习基础知识。
    • 嗨@NehaM 您是否为您的问题提出了不同的解决方案,或者您最终使用了 Rado 提出的解决方案?谢谢
    • @Mero 我使用 Rado 的示例来了解解决方案。因为我有不同的语言要求,所以我不得不使用其他替代方案。所以我的解决方案包含由Clojure 包装的 Spark 服务,我使用Ring server 将其公开为 Web 服务。
    • @NehaM 谢谢 :) 我想我现在会尝试Livy.io 看看我如何继续使用它
    • @Mero 听起来是个不错的选择。
    猜你喜欢
    • 2017-01-11
    • 2013-10-21
    • 2015-08-15
    • 2015-08-19
    • 2017-01-25
    • 1970-01-01
    • 2017-09-13
    • 2015-04-23
    • 2020-08-02
    相关资源
    最近更新 更多