【问题标题】:Connect SQL DW from Jupyter notebook using pyspark使用 pyspark 从 Jupyter 笔记本连接 SQL DW
【发布时间】:2019-07-26 08:15:19
【问题描述】:

我是 pyspark 的新手,请您建议如何使用 jupyter-notebook 从 Pyspark 连接 SQL DW。我没有使用 HDinsight 或 DataBricks。

我已经使用this 链接设置了 pyspark 和 Jupyter-note book。

【问题讨论】:

    标签: azure pyspark jupyter-notebook


    【解决方案1】:

    首先,请确保您已从此处 (Download Microsoft JDBC Driver for SQL Server) 下载 Microsoft JDBC Driver for SQL Server,并将其添加到您的 spark jar 库路径中。

    其次,听起来您在本地或本地设置了 pyspark 和 Jupyter notebook。如果没有在Azure云上,你必须将你的客户端ip添加到你的Azure SQL DW防火墙中,如下图,请参考官方文档Quickstart: Create and query an Azure SQL data warehouse in the Azure portal的Create a server-level firewall rule部分了解更多。

    接下来,您需要找到 Azure SQL DW 的 JDBC 连接字符串,如文档 Connection strings for Azure SQL Data Warehouse 中的部分 Sample JDBC connection string 所述,您应该在 Azure 门户上的标签 Overview 或 SQL databases 中看到它。

    然后,您可以参考博客PySpark connection with MS SQL Server 尝试通过您的jupyter notebook 中的pyspark 连接Azure SQL DW。

    希望对你有帮助。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2021-02-16
      • 2022-12-30
      • 1970-01-01
      • 2017-09-24
      • 1970-01-01
      • 1970-01-01
      • 2018-12-01
      相关资源
      最近更新 更多