【发布时间】:2016-11-22 00:33:09
【问题描述】:
我有两张桌子
CREATE TABLE IF NOT EXISTS QueueBucket (
queueName text,
bucketId int,
scheduledMinute timestamp,
scheduledTime timestamp,
messageId uuid,
PRIMARY KEY ((queueName, bucketId, scheduledMinute), scheduledTime, messageId)
) WITH compaction = { 'class' : 'LeveledCompactionStrategy' } AND speculative_retry='NONE' ;
CREATE TABLE IF NOT EXISTS InDelivery (
queueName text,
nodeId uuid,
dequeuedMinute timestamp,
messageId uuid,
bucketid int,
dequeuedTime timestamp,
PRIMARY KEY ((queueName, nodeId,bucketId, dequeuedMinute),dequeuedTime, messageId)
);
在代码中,我执行插入到 QueueBucket 并批量从未交付中删除(记录)。但是在负载测试过程中,尽管插入到 QueueBucket 中有效,但有时无法从交付中删除。要确认这一点,请立即从未交付检查中读取,然后如果 messageId 仍然存在,则读取已删除的 messageId 并打印 WARN 日志。
queueDao.insertMsgInfo(queueName, bucketId, QueueUtils.getMinute(scheduledTime), scheduledTime, messageId);
queuDao.deleteInDelivery(queueName, nodeId, bucketId, bucketMinute, dequeuedTime, messageId);
if(queueServiceMetaDao.hasIndeliveryMessage(inDeliveryPK)) {
log.warn("messageId {} of queue {} bucket {} with node {} dequuedTime {} dequeud minute {} could not get deleted from indelivery.",
messageId,queueName,bucketId, nodeId,QueueUtils.dateToString(dequeuedTime),QueueUtils.dateToString(bucketMinute));
}
在 insertMsgInfo 和 deleteInDelivery 方法中,我正在重用准备好的语句。
"INSERT INTO queuebucket (queuename, bucketid , scheduledminute, scheduledtime, messageid ) VALUES ( ? , ? , ? , ? , ? );"
"DELETE FROM indelivery WHERE queuename = ? AND nodeId = ? AND bucketId=? AND dequeuedMinute=? AND dequeuedTime =? AND messageId=? ;"
在 hasIndeliveryMessage 中,我将相同的值传递到 inDeliveryPrimaryKey 中,就像我在 moveBackToQueueBucket 方法中为删除 indelivery 数据传递的一样。
"SELECT messageId FROM indelivery WHERE queuename = ? AND nodeId = ? AND bucketId=? AND dequeuedMinute=? AND dequeuedTime=? AND messageId=? ;"
我不知道为什么我会看到多条警告消息“无法从未送达中删除”。 .请帮忙
我使用的是 cassandra 2.2.7 版,它是 6 节点 cassandra 集群 复制因子为 5,使用的读写一致性为 QUORUM。
我还通过链接Cassandra - deleted data still there 和https://issues.apache.org/jira/browse/CASSANDRA-7810 但是这个问题很久以前就修复了。在 2.0.11 中。
进一步更新根据Cassandra - Delete not working,我也运行了nodetool repair,但问题仍然存在。 我也应该运行紧凑吗?
进一步更新: 我不再使用批处理,我只是简单地插入 queuebucket 并删除以进行交付,然后读取数据,但问题仍然存在
添加一些日志:
2016-07-19 20:39:42,440[http-nio-8014-exec-12]INFO QueueDaoImpl -deleting from indelivery queueName pac01_deferred nodeid 1349d57f-28f5-37d4-9fe1-dfa14dba4a9f bucketId 382 dequeuedMinute 20160719203900000 dequeuedTime 20160719203942310 messageId cc4fb158-f61e-345b-8dcf-3f842fe52d50:
2016-07-19 20:39:42,442[http-nio-8014-exec-12]INFO QueueDaoImpl -Reading from indelivery : queue pac01_deferred nodeId 1349d57f-28f5-37d4-9fe1-dfa14dba4a9f dequeueMinute 20160719203900000 dequeueTime 20160719203942310 messageid cc4fb158-f61e-345b-8dcf-3f842fe52d50 bucketId 382 indeliveryRow Row[cc4fb158-f61e-345b-8dcf-3f842fe52d50]
2016-07-19 20:39:42,442[http-nio-8014-exec-12]WARN QueueImpl -messageId cc4fb158-f61e-345b-8dcf-3f842fe52d50 of queue pac01_deferred bucket 382 with node 1349d57f-28f5-37d4-9fe1-dfa14dba4a9f dequuedTime 20160719203942310 dequeud minute 20160719203900000 could not get deleted from indelivery .
我应该尝试将一致性 ALL 吗???
【问题讨论】:
-
检查所有节点之间的时间戳是否同步
-
所有 cassandra 节点都在同一个时区。
-
您是否为插入和删除操作指定时间戳?避免 Cassandra 中的突变操作顺序错误是一个好习惯。详情请查看datastax.github.io/java-driver/2.1.7/features/query_timestamps
-
非常感谢您的回复。不,在从交付表中插入和删除时,我没有指定任何时间戳。由于我是 cassandra 的新手,因此我想了解它的重要性并将其应用它。让我们看看它是否能解决我的问题。如果可能,请提供相同的链接以了解时间戳概念。
-
@Laxmikant, planetcassandra.org/blog/… 这里是时间戳的一个很好的解释
标签: java cassandra datastax cassandra-2.0 datastax-java-driver