【问题标题】:How do we initialize SparkSession and SparkContext in python 3.6? [duplicate]我们如何在 python 3.6 中初始化 SparkSession 和 SparkContext? [复制]
【发布时间】:2017-05-08 08:51:32
【问题描述】:

所以,我正在尝试使用以下代码在 python 3.6 中初始化 SparkSession 和 SparkContext:

from pyspark.sql import SparkSession
from pyspark import SparkContext  

#Create a Spark Session
SpSession = SparkSession \
    .builder \
    .master("local[2]") \
    .appName("V2 Maestros") \
    .config("spark.executor.memory", "1g") \
    .config("spark.cores.max","2") \
    .config("spark.sql.warehouse.dir", "file:///c:/temp/spark-warehouse")\
    .getOrCreate()

每次我尝试这样做时都会收到以下错误:

module 'pyspark' has no attribute 'heapq3'

请让我知道我在哪里弄错了。我对火花很陌生。

【问题讨论】:

    标签: python python-3.x apache-spark pyspark apache-spark-sql


    【解决方案1】:

    我认为 python 3.6 存在问题。请参考here。我建议您现在使用旧版本的 python。一旦问题得到修复和测试,您就可以开始使用 python 3.6

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2019-06-08
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2017-11-15
      • 1970-01-01
      • 2020-11-20
      相关资源
      最近更新 更多