【问题标题】:Twitter Popular Tags On Apache SparkTwitter Apache Spark 上的热门标签
【发布时间】:2014-09-22 21:41:41
【问题描述】:

我是 apache spark 的新手。我试图运行https://github.com/prabeesh/SparkTwitterAnalysis/tree/0.2.0 示例,但控制台给了我以下错误:

 WARN scheduler.TaskSchedulerImpl: Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient memory

我已经使用nc -lk 9999 启动了服务器,并且我已经通过 sbt/sbt 包编译了代码
并使用sbt/ sbt 'run spark://localhost:9999 <keys as specifies> hashtag' 执行了代码

这个错误的原因是什么以及如何解决它

提前致谢。

【问题讨论】:

    标签: scala apache-spark spark-streaming


    【解决方案1】:

    如消息中所述,您的工作人员未在集群中注册,或者他们没有足够的内存来运行您的任务。从浏览器转到集群 UI 页面,并确保您的工作节点配置正确。如果节点正常工作,则尝试增加它们的可用内存。

    【讨论】:

    • 您好,感谢您的回复。我检查了它们并为它们分配了高达 5GB 的节点内存。 stackoverflow.com/questions/25975250/…我已经详细解释了我的问题
    • 我认为您的集群运行不正常。您是否重新启动了集群?
    • 能否分享一下初始化 spark 上下文的代码。
    猜你喜欢
    • 2015-01-03
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-04-11
    • 2015-03-08
    • 2015-09-10
    相关资源
    最近更新 更多