【发布时间】:2016-07-21 22:27:31
【问题描述】:
我使用了jupyter notebook,pyspark,然后,我的第一个命令是:
rdd = sc.parallelize([2, 3, 4])
然后,它表明
NameError Traceback (most recent call last)
<ipython-input-1-c540c4a1d203> in <module>()
----> 1 rdd = sc.parallelize([2, 3, 4])
NameError: name 'sc' is not defined.
如何解决这个错误'sc'未定义。
【问题讨论】:
-
你导入了
SparkContext吗?目前尚不清楚您的 PySpark 内核是如何加载的。 -
我用的是终端,先换到我的spark的根目录,然后在终端输入pyspark来加载spark。
-
PySpark 加载一个火花上下文。 Jupyter 不会,除非您设置它这样做
-
我也有同样的问题,最后发现是因为python版本不对
标签: apache-spark pyspark jupyter