【发布时间】:2020-03-29 07:20:55
【问题描述】:
我想使用 dbutils 命令访问我的 pyspark 作业中的机密,该作业通过 Databricks 上的 Jobs 内的 Spark-Submit 提交。使用 dbutils 命令时出现错误 dbutils not defined。
除了 notebook 之外,还有其他方法可以在 pyspark 作业中使用 dbutils 吗?
尝试了以下解决方案:
1) 根据solution 导入 DBUtils。但这不是 Databricks dbutils。
2) import pyspark.dbutils import DBUtils ,根据这个solution。但这也没有用。
pyspark 作业如下图所示: image
【问题讨论】:
标签: pyspark databricks azure-databricks