【问题标题】:Error connecting to databricks in python with databricks-connect使用databricks-connect连接到python中的databricks时出错
【发布时间】:2019-09-25 19:16:32
【问题描述】:

我在 mac 上使用 pycharm 使用 databricks-connect,但在完成配置并尝试运行 databricks-connect test 后,我收到以下错误,不知道问题出在哪里。我遵循了这个文档:https://docs.databricks.com/user-guide/dev-tools/db-connect.html

错误信息如下:

斯卡拉>温泉 回溯(最近一次通话最后): 文件“/Library/Frameworks/Python.framework/Versions/3.7/bin/databricks-connect”,第 11 行,在 load_entry_point('databricks-connect==5.3.1', 'console_scripts', 'databricks-connect')() 文件“/Library/Frameworks/Python.framework/Versions/3.7/lib/python3.7/site-packages/pyspark/databricks_connect.py”,第 244 行,主要 测试() 文件“/Library/Frameworks/Python.framework/Versions/3.7/lib/python3.7/site-packages/pyspark/databricks_connect.py”,第 213 行,在测试中 raise ValueError("Scala 命令未能产生正确的结果") ValueError:Scala 命令无法产生正确的结果

【问题讨论】:

    标签: scala apache-spark pyspark databricks databricks-connect


    【解决方案1】:

    也许您的 Java/Python 版本不符合要求。检查您的集群,它使用哪个 Python 版本(在我的例子中是 3.5)。

    最重要的是:检查您的计算机上的 JDK 版本。 就我而言,我有最新的,databricks-connect 不支持。它需要在 JDK 8 上运行。

    【讨论】:

      【解决方案2】:

      我会确保您使用的是正确版本的 Databricks Runtime(DB Connect 目前仅支持 5.1-5.5)。由于这些是与 DB connect 一起使用的 DBR 的限制,因此您必须确保您也匹配 python 版本(对于基本 Databricks 运行时,我相信它是 3.5.x)。

      【讨论】:

        【解决方案3】:

        要忽略 RUNTIME 版本,请导出解析的环境变量:

        导出 DEBUG_IGNORE_VERSION_MISMATCH=1

        【讨论】:

          猜你喜欢
          • 1970-01-01
          • 1970-01-01
          • 1970-01-01
          • 2019-10-16
          • 2016-08-01
          • 2019-07-27
          • 1970-01-01
          • 2020-06-16
          • 2020-03-23
          相关资源
          最近更新 更多