【发布时间】:2019-07-26 08:15:19
【问题描述】:
我是 pyspark 的新手,请您建议如何使用 jupyter-notebook 从 Pyspark 连接 SQL DW。我没有使用 HDinsight 或 DataBricks。
我已经使用this 链接设置了 pyspark 和 Jupyter-note book。
【问题讨论】:
标签: azure pyspark jupyter-notebook
我是 pyspark 的新手,请您建议如何使用 jupyter-notebook 从 Pyspark 连接 SQL DW。我没有使用 HDinsight 或 DataBricks。
我已经使用this 链接设置了 pyspark 和 Jupyter-note book。
【问题讨论】:
标签: azure pyspark jupyter-notebook
首先,请确保您已从此处 (Download Microsoft JDBC Driver for SQL Server) 下载 Microsoft JDBC Driver for SQL Server,并将其添加到您的 spark jar 库路径中。
其次,听起来您在本地或本地设置了 pyspark 和 Jupyter notebook。如果没有在Azure云上,你必须将你的客户端ip添加到你的Azure SQL DW防火墙中,如下图,请参考官方文档Quickstart: Create and query an Azure SQL data warehouse in the Azure portal的Create a server-level firewall rule部分了解更多。
接下来,您需要找到 Azure SQL DW 的 JDBC 连接字符串,如文档 Connection strings for Azure SQL Data Warehouse 中的部分 Sample JDBC connection string 所述,您应该在 Azure 门户上的标签 Overview 或 SQL databases 中看到它。
然后,您可以参考博客PySpark connection with MS SQL Server 尝试通过您的jupyter notebook 中的pyspark 连接Azure SQL DW。
希望对你有帮助。
【讨论】: