【问题标题】:Why does spark-shell not start SQL context?为什么 spark-shell 不启动 SQL 上下文?
【发布时间】:2017-05-03 17:47:41
【问题描述】:

我使用 spark-2.0.2-bin-hadoop2.7 并正在设置 Spark 环境。我已经完成了大部分安装和配置的步骤,但最后我发现了与在线教程不同的地方。

日志缺少这一行:

可作为 sqlContext 使用的 SQL 上下文。

当我运行 spark-shell 时,它只是启动 Spark 上下文。为什么 SQL 上下文没有启动?

正常情况下,下面两行代码应该同时运行吗?

Spark context available as sc
SQL context available as sqlContext.

【问题讨论】:

    标签: apache-spark apache-spark-sql


    【解决方案1】:

    从 Spark 2.0 开始改用 SparkSession(因为 SQL Context/sqlContext 被“重命名”为 SparkSession/spark)。

    当你运行 spark-shell 时,你会得到这个 spark 会话的引用为spark。您应该看到以下内容:

    Spark 会话可用作“spark”。

    如果您想访问底层 SQL 上下文,您可以执行以下操作:

    spark.sqlContext
    

    请不要,因为它不再需要,并且大多数操作可以在没有它的情况下执行。

    【讨论】:

      猜你喜欢
      • 2017-06-17
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2017-12-17
      • 2015-07-23
      • 2016-09-23
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多