【发布时间】:2019-01-03 22:12:28
【问题描述】:
我们想要一个生产气流环境,但不知道如何正确处理机密,尤其是 google bigquery 客户端 JSON 文件
我们尝试在自动创建的 kubernetes 集群上设置 kubernetes 机密(通过创建 google cloud composer (airflow) 环境自动创建)。我们目前只是将文件放在存储桶上,但希望有更好的方法。
def get_bq_client ():
""" returns bq client """
return bq.Client.from_service_account_json(
join("volumes", "bigquery.json")
)
我们希望对所需机密进行某种形式的适当管理。遗憾的是,使用 Airflow 变量不起作用,因为我们无法使用 json 文件作为文本创建客户端对象
【问题讨论】:
标签: python airflow airflow-scheduler