Pyspark 错误：Java 网关进程在发送其端口号之前已退出

Question

我正在使用 Pyspark 在 Jupyter Notebook 中运行一些命令，但它会抛出错误。我尝试了此链接中提供的解决方案 (Pyspark: Exception: Java gateway process exited before sending the driver its port number) 我尝试执行此处提供的解决方案（例如更改 C:Java 的路径、卸载 Java SDK 10 并重新安装 Java 8，但它仍然给我同样的错误。

我尝试卸载并重新安装 pyspark，并尝试从 anaconda 提示符运行，但仍然遇到相同的错误。我使用的是 Python 3.7，pyspark 版本是 2.4.0。

如果我使用此代码，我会收到此错误。“异常：Java 网关进程在发送其端口号之前退出”。

from pyspark import SparkContext
from pyspark.sql import SQLContext
sc = SparkContext() 
sqlContext = SQLContext(sc)
from pyspark.mllib.linalg import Vector, Vectors
from nltk.stem.wordnet import WordNetLemmatizer
from pyspark.ml.feature import RegexTokenizer, StopWordsRemover, Word2Vec

但如果我从此代码中删除 sparkcontext 运行良好，但我的解决方案需要 spark 上下文。下面没有火花上下文的代码不会引发任何错误。

from pyspark import SparkContext
from pyspark.sql import SQLContext
from pyspark.mllib.linalg import Vector, Vectors
from nltk.stem.wordnet import WordNetLemmatizer
from pyspark.ml.feature import RegexTokenizer, StopWordsRemover, Word2Vec

如果我能得到任何帮助来解决这个问题，我将不胜感激。我使用的是 Windows 10 64 位操作系统。

这是完整的错误代码图片。

Answer 1

在你的 bash 终端中输入这个，它就会被修复：

export PYSPARK_SUBMIT_ARGS="--master local[2] pyspark-shell"

这只是将pyspark-shell 导出到shell 环境变量PYSPARK_SUBMIT_ARGS。

Answer 2

试试这个

sudo add-apt-repository ppa:webupd8team/java
sudo apt-get update
sudo apt-get install oracle-java8-installer

使用 linux 为我工作。它也适用于 windows

此链接将对您有所帮助，因为您是 Windows 用户 https://superuser.com/questions/947220/how-to-install-packages-apt-get-install-in-windows

Answer 3

你是如何安装火花的？显然，您在启动 java 进程时遇到了问题，这就是该错误的含义。

您可能希望按照信中的说明再次安装 Spark，无论您在哪里找到它们。但是，您也可以使用conda，（anaconda 或miniconda），在这种情况下，安装 pyspark 也会为您获取当前的 java

conda install pyspark