【问题标题】:Spark Couchbase connector DCPSpark Couchbase 连接器 DCP
【发布时间】:2016-03-21 17:16:42
【问题描述】:

我想知道基于 DCP 的流在 Spark Couchbase 官方连接器中是否稳定?这些文件表明它们还没有准备好在生产中使用。我们有 Java 的例子吗?

另外,如果有人可以阐明我正在尝试解决的用例以及火花连接器在这里是否有意义:

我们每天都会从 couchbase lite db 到同步网关获取有关一些徽章的更新。现在,在 10 天的窗口中,如果有人获得 5 个或更多徽章,那么我们需要推送一个祝贺徽章。这需要每 10 天后进行一次。

所以,我的计划是使用 DCP,每天检查更改,运行作业,然后将其推送到同步网关。如果在 10 天的时间间隔内,获得了 5 个或更多徽章,那么我将其推送到同步网关..

这是解决此问题的正确方法还是有更好的方法?

还有一个可以使用的东西是:

http://developer.couchbase.com/documentation/mobile/1.2/develop/guides/sync-gateway/server-integration/changes-worker/index.html..

那么这里哪种方法更好?

【问题讨论】:

  • 你这里有两个问题,最好把它们分开。

标签: apache-spark couchbase-lite couchbase-sync-gateway


【解决方案1】:

支持来自 Spark 连接器的 DCP 流,因为该产品是 GA 并且该功能未标记为实验性。 Couchbase 确实会提前引入功能,如果该功能不受支持,则会通过注释将其标记为实验性。

也就是说,在撰写本文时,我知道 JVM Core DCP 实现存在一些已知问题,预计会在接下来的几周内得到解决,如果不是更早的话。我肯定知道的一个在这里被跟踪:https://issues.couchbase.com/browse/JVMCBC-312

已添加新的测试场景,Couchbase 正在努力确保它在下一个版本之前在不同的故障/重新平衡模式下通过这些测试。

【讨论】:

  • 感谢您的回复。如果它被用于从同步网关的更改源中读取流,它是否会跟踪 lastSequnce 编号,即它读取到什么时候?还是它总是从存储桶中读取所有数据?
  • 那里的问题不太适用,因为最后一个序列号在 Couchbase 存储桶级别不是概念,仅在 Couchbase 同步网关级别。 Spark 连接器直接使用 DCP,而不是 Sync Gateway,后者抽象出一些集群概念并添加了更多概念。在此处的文档中查看更多信息:developer.couchbase.com/documentation/mobile/current/develop/…
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2020-02-13
  • 2019-12-20
  • 2022-08-24
  • 1970-01-01
  • 2017-02-15
  • 2019-10-16
  • 1970-01-01
相关资源
最近更新 更多