【问题标题】:Do the Snowflake streams have any limitation on amount of data they can process雪花流对它们可以处理的数据量有任何限制吗
【发布时间】:2021-07-20 23:00:18
【问题描述】:

我正在考虑使用流和任务将数据从 Kafka Snowflake 连接器创建的 CDC 表(JSON 格式)转换和传输到完全结构化的 Snowflake 表中。

我想知道流可以处理的数据量是否有任何限制。我说的是每天处理数百万条记录。

有人已经在大数据上测试过流吗?

提前致谢。

【问题讨论】:

    标签: snowflake-cloud-data-platform


    【解决方案1】:

    流只是一个偏移指针。它不存储数据的副本。只要数据在基表中,它就会在流中,并且具有与基表相同的性能特征。基表上有两个额外的更改跟踪列,因此类似于这些列上的“位置”条件。

    【讨论】:

      猜你喜欢
      • 2021-12-25
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2017-05-02
      • 2020-11-26
      • 2021-03-15
      • 1970-01-01
      相关资源
      最近更新 更多