【问题标题】:Google Cloud Dataproc - Encryption in transit?Google Cloud Dataproc - 传输中的加密?
【发布时间】:2017-12-14 04:22:09
【问题描述】:
有谁知道常见问题解答中的以下内容(https://cloud.google.com/dataproc/docs/resources/faq)实际上是什么意思?
“数据可以在进出集群的传输过程中被用户加密,在
集群创建或作业提交。”
我找不到在集群创建期间启用加密的选项。这是否基本上意味着,您自己配置所有组件以确保通信是加密的。
我们很想了解 Spark/Hive/Tez 作业在执行作业时是否使用加密通信通道或通过 jdbc 连接连接到 Hive。
是否有任何现有的初始化操作,或者这个声明基本上意味着它完全取决于你?
【问题讨论】:
标签:
encryption
google-cloud-dataproc
【解决方案1】:
我假设在与 GCP API 交谈时谈论的是身份验证/授权/加密。重要的是,如果您的数据在 GCS 或 BigQuery 中,则数据传输是安全的。此外,与 Dataproc 控制平面的所有通信(例如集群的创建、作业的提交)都是安全的。
您说得对,集群内的通信不安全,但它本质上是气隙的。节点到节点的通信通过您隔离的VPC network 上的内部 IP 进行。 Dataproc 有关于如何配置防火墙规则的guidance。
您还可以使用 Dataproc private IP clusters 来避免在虚拟机上使用外部 IP 地址。
我不知道设置 Kerberos 的任何初始化操作——所以是的,你必须自己动手做。