【问题标题】:Databricks notebook hardcodingDatabricks 笔记本硬编码
【发布时间】:2021-11-01 09:11:17
【问题描述】:

我有一个用于开发和生产环境的数据块和一个存储帐户。从 dev 区域到 prod 区域的代码提升是通过 Azure DevOps CI/CD 管道完成的。在 dev 中,目标文件路径配置为 dev adls,在 prod 环境中应将其更改为 prod adls。有没有办法可以删除这种硬编码并使用 DevOps 实现代码提升?

【问题讨论】:

    标签: azure azure-devops azure-databricks cicd


    【解决方案1】:

    是的,你绝对可以做到。

    在 prod Databricks 中,只需将它们存储为环境变量(可以手动设置或使用 cluster configure 设置)

    通常,我只设置这些变量:

    • ADLS 存储名称
    • 访问键

    这样,您无需在代码中硬编码这些变量。而且,这样更安全。

    参考:https://docs.databricks.com/data/data-sources/azure/adls-gen2/azure-datalake-gen2-get-started.html#get-an-azure-adls-access-key

    【讨论】:

    • 感谢您的回复,但我无法使用此方法,因为我对工作区的访问级别不允许我在集群中配置环境变量。还有其他方法吗?
    • 哦,我明白了,如果您无法管理集群的环境变量。您仍然可以使用 Databricks 机密。你可以在这里阅读更多内容:docs.databricks.com/security/secrets/index.html - 所以基本上,你可以在 prod 和 dev 上创建相同的秘密名称但不同的值
    猜你喜欢
    • 1970-01-01
    • 2019-04-05
    • 1970-01-01
    • 2022-11-16
    • 2020-12-21
    • 1970-01-01
    • 2022-07-27
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多