【问题标题】:Jupyter(Windows) not recognizing SPARK_HOMEJupyter(Windows) 无法识别 SPARK_HOME
【发布时间】:2016-12-19 05:30:11
【问题描述】:

我已经在 Windows 中将我的 SPARK_ENV 变量设置为以下路径:C:\Users\xxx\spark-1.6.2-bin-hadoop2.6。当我在 Jupyter 中运行以下命令时:

import
findspark.init()

我得到这个错误:

---------------------------------------------------------------------------
ValueError                                Traceback (most recent call last)
<ipython-input-3-a4bc4c9af84d> in <module>()
----> 1 findspark.init()

C:\Users\xxx\Anaconda3\lib\site-packages\findspark.py in init(spark_home, python_path, edit_rc, edit_profile)
    119 
    120     if not spark_home:
--> 121         spark_home = find()
    122 
    123     if not python_path:

C:\Users\xxx\Anaconda3\lib\site-packages\findspark.py in find()
     30 
     31     if not spark_home:
---> 32         raise ValueError("Couldn't find Spark, make sure SPARK_HOME env is set"
     33                          " or Spark is in an expected location (e.g. from homebrew installation).")
     34 

ValueError: Couldn't find Spark, make sure SPARK_HOME env is set or Spark is in an expected location (e.g. from homebrew installation).

我不知道还有什么办法可以解决这个问题。我正在使用这些说明

【问题讨论】:

    标签: apache-spark pyspark jupyter-notebook


    【解决方案1】:

    您可以在命令行上尝试SET 列出所有环境变量吗?问题是,findspark 在默认位置找不到 Spark,可能是 SPARK_HOME 设置不正确。

    请尝试设置SPARK_HOME=C:\Users\xxx\spark-1.6.2-bin-hadoop2.6\libexec,另外SPARK_ENV的位置不是必须的。

    【讨论】:

    • 我尝试将 SPARK_HOME 设置为您提到的路径,但仍然出现相同的错误
    • 关于我为什么会遇到这个问题的任何其他想法?
    • 您是否尝试打印所有环境变量的概览。这将是调试的第一步。
    猜你喜欢
    • 2021-01-11
    • 2020-05-16
    • 1970-01-01
    • 2017-09-30
    • 2019-02-14
    • 1970-01-01
    • 2014-05-03
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多