【发布时间】:2020-06-16 01:33:37
【问题描述】:
我正在尝试从我的 Mac(Mojave) 连接到 Databricks。
我做了一个pip install -U databricks-connect==5.5.*
我启动了一个 spark-shell,但是当我尝试在 spark 中查询时出现以下错误
原因:com.databricks.service.SparkServiceConnectionException:无效令牌
To connect to a Databricks cluster, you must specify an API token.
API Token: The API token used to confirm your identity to Databricks
- Learn more about API tokens here: https://docs.databricks.com/api/latest/authentication.html#generate-a-token
- Get current value: spark.conf.get("spark.databricks.service.token")
- Set via conf: spark.conf.set("spark.databricks.service.token", <your API token>)
- Set via environment variable: export DATABRICKS_API_TOKEN=<your API token>
然后我运行 spark.conf.get("spark.databricks.service.token") 并取回我创建的令牌。我们尝试在 Windows 机器上使用此令牌,它可以工作。
【问题讨论】:
-
您是否尝试过创建新令牌并使用它?
-
是的,我确实有。
-
您通常如何将令牌提供给火花?通过 conf 文件、环境变量或 spark.conf.set?
-
我正在通过 conda 使用 dbconnect。有一个 databricks-connect 配置命令,其中配置了主机名、集群名、令牌等。
-
我相信你一直在关注this documentation
databricks-connect test返回什么?
标签: apache-spark databricks azure-databricks databricks-connect