【发布时间】:2021-07-20 23:00:18
【问题描述】:
我正在考虑使用流和任务将数据从 Kafka Snowflake 连接器创建的 CDC 表(JSON 格式)转换和传输到完全结构化的 Snowflake 表中。
我想知道流可以处理的数据量是否有任何限制。我说的是每天处理数百万条记录。
有人已经在大数据上测试过流吗?
提前致谢。
【问题讨论】:
标签: snowflake-cloud-data-platform
我正在考虑使用流和任务将数据从 Kafka Snowflake 连接器创建的 CDC 表(JSON 格式)转换和传输到完全结构化的 Snowflake 表中。
我想知道流可以处理的数据量是否有任何限制。我说的是每天处理数百万条记录。
有人已经在大数据上测试过流吗?
提前致谢。
【问题讨论】:
标签: snowflake-cloud-data-platform
流只是一个偏移指针。它不存储数据的副本。只要数据在基表中,它就会在流中,并且具有与基表相同的性能特征。基表上有两个额外的更改跟踪列,因此类似于这些列上的“位置”条件。
【讨论】: