【问题标题】:system cannot find the path specified in spark-shell系统找不到 spark-shell 中指定的路径
【发布时间】:2021-09-08 22:02:57
【问题描述】:

我正在尝试在 Win7 中安装 Spark,但出现错误。

这些是我的环境设置:

SPARK_HOME : C:\spark(这是我解压 spark 文件的地方)

JAVA_HOME : C:\Program Files\Java\jdk1.7.0_71;

SCALA_HOME: C:\Program Files (x86)\scala

路径:C:\Program Files\Java\jdk1.7.0_71\bin;C:\app\Sampad\product\11.2.0\dbhome_1\bin;C:\Python27;C:\Program Files\Python27\ ;C:\Program Files\Python27\Scripts;C:\Program Files (x86)\Intel\iCLS Client\;C:\Program Files\Intel\iCLS Client\;C:\Program Files (x86)\NVIDIA Corporation\ PhysX\Common;%SystemRoot%\system32;%SystemRoot%;%SystemRoot%\System32\Wbem;%SYSTEMROOT%\System32\WindowsPowerShell\v1.0\;C:\Program Files\Intel\Intel(R) 管理引擎组件\DAL;C:\Program Files\Intel\Intel(R) Management Engine Components\IPT;C:\Program Files (x86)\Intel\Intel(R) Management Engine Components\DAL;C:\Program Files (x86) \Intel\Intel(R) 管理引擎组件\IPT;C:\Program Files\Java\jdk1.6.0_45\bin;C:\Program Files\nodejs\;C:\Program Files\Python27;C:\Anaconda; C:\Anaconda\Scripts;C:\HashiCorp\Vagrant\bin;C:\Program Files (x86)\scala\bin;C:\spark\bin;

HADOOP_HOME : C:\winutils; (set this after reading this blog

请告诉我我犯了什么错误。提前致谢。

【问题讨论】:

  • 请有人告诉我我犯了什么错误。我已经搜索了很多网站并尝试了所有方法,但它不起作用。
  • 您没有说明您遇到了什么错误。在命令行中键入“spark-shell”会发生什么?
  • 请检查这个答案 stackoverflow.com/a/52831841/2516356
  • 我遇到了同样的问题,通常检查您的 PATH 并确认您没有错误地设置任何 SPARK、SCALA 和 JAVA 路径 - 同时按照教程设置环境容易误加额外的“\”或“\bin”。

标签: apache-spark


【解决方案1】:

我在没有空格的文件夹中安装了 java 和 spark,我使用的是 Windows 10。

就我而言,我添加了

JAVA_HOME=C:\Java\jdk1.8.0_191\bin

所以它试图在“C:\Program Files\Java\jdk1.8.0_191\bin\bin”中搜索可执行文件

确保将变量添加为

JAVA_HOME = C:\Java\jdk1.8.0_191

并在路径环境变量中添加

%JAVA_HOME%\bin

""SPARK_HOME 相同""

它现在对我有用!!!

【讨论】:

    【解决方案2】:

    可能会发生,因为不同的java版本:

    JAVA_HOME : C:\Program Files\Java\jdk1.7.0_71;

    C:\Program Files\Java\jdk1.6.0_45\bin

    使用“%JAVA_HOME%\bin”代替“C:\Program Files\Java\jdk1.6.0_45\bin”

    Spark: Trying to run spark-shell, but get 'cmd' is not recognized as an internal or

    【讨论】:

    • 对我来说,事实上 JAVA_HOME 是错误的,但它在 PATH 上是正确的,所以“java -version”可以正常工作。修复它解决了问题。
    【解决方案3】:

    尝试修改 spark-shell2.cmd 文件的第一行

    @echo off
    

    rem @echo off
    

    对我来说,它显示它正在尝试从 c:\spark\bin\bin 加载文件,位于以下行

    "%SPARK_HOME%\bin\spark-submit2.cmd" --class org.apache.spark.repl.Main --name "Spark shell" %*
    

    在我的环境中,%SPARK_HOME% 设置为 c:\spark\bin。我的安装在 c:\spark\bin

    所以我将 %SPARK_HOME% 设置为 c:\Spark 并将 %SPARK_HOME%\bin 添加到我的 PATH 中。

    【讨论】:

      【解决方案4】:

      你需要设置 JAVA_HOME 和路径 第一件事是你必须去

      edit system Environment variable -> Environment variable -> under the User varibales for <user> 
      

      添加新的

      1. JAVA_HOME = C:\Program Files\Java\jdk1.8.0_191
      In path 
      add %JAVA_HOME%\bin
      
      2. SPARK_HOME = C:\spark   //*spark is my folder where i have installed spark*
      In path
      add %SPARK_HOME%\bin
      

      这将解决您的问题

      【讨论】:

        【解决方案5】:

        对我来说,上面指定的一切都是正确的,但仍然无法正常工作。

        我发现的原因是在 “系统变量” 部分中添加了所有环境变量,所以当我在 “用户变量” 部分中添加它们时,它就开始工作了。

        我在用户变量中添加了JAVA_HOME,SPARK_HOME, HADOOP_HOMEPATH

        【讨论】:

          【解决方案6】:

          我有类似的问题,我重新安装了 java(新版本)并更正了 JAVA_HOME。这为我解决了问题

          【讨论】:

            【解决方案7】:

            我在 Windows 10 上遇到了同样的问题,请确保只有 JAVA_HOME 值是绝对路径,其余一切都是相对于 %JAVA_HOME%

            【讨论】:

              【解决方案8】:

              其中一个原因是 JAVA_HOME 或 SPARK_HOME 在路径中有空格。在这种情况下:

              "SCALA_HOME: C:\Program Files (x86)\scala"

              “Program Files (x86)”之后的路径中有空格。尝试将文件移动到完整路径中不包含空间的位置。就我而言,我在 JAVA_HOME 路径中有空间。

              【讨论】:

                【解决方案9】:

                我有同样的问题,但我通过正确设置 JAVA_HOME 环境变量解决了它。基本上,您需要 JAVA 版本 8 来运行 Spark。所以你需要安装 JAVA 8 并正确设置环境和路径,就像你设置 SPARK_HOME 的方式一样。例如变量名:JAVA_HOME,变量值:C:\JAVA。然后你去路径并将java的路径设置为:%JAVA_HOME%

                【讨论】:

                  【解决方案10】:

                  在我的情况下,我注意到我的 JAVA_HOME env 变量在路径末尾有分号 (;) 导致上述错误(因为这会导致不正确的路径解析)。 我可以通过评论 @echo off 来找到这个问题。

                  【讨论】:

                    猜你喜欢
                    • 2018-01-08
                    • 1970-01-01
                    • 1970-01-01
                    • 1970-01-01
                    • 1970-01-01
                    • 2020-11-11
                    • 1970-01-01
                    • 2011-02-23
                    相关资源
                    最近更新 更多