c#如何向Cassandra表中插入大量数据

Question

亲爱的，

我正在尝试使用 C# 应用程序将大约 100 000 行插入 Cassandra 数据库。

为了实现这一点，我正在使用 nuget：

https://www.nuget.org/packages/CassandraCSharpDriver/

我已在笔记本电脑（i5、32GB RAM、Windows 10）上本地安装 Cassandra。

我的 Cassandra 的设置是默认的：

var cluster = Cluster.Builder()
                                 .AddContactPoints(CassandraContactPoint)
                                 .WithPort(CassandraPort)
                                 .WithLoadBalancingPolicy(new DCAwareRoundRobinPolicy("datacenter1"))
                                 .WithAuthProvider(new PlainTextAuthProvider(UserName, Password))
                                 .Build();

Cassandra 表如下所示：

            session.Execute("DROP KEYSPACE IF EXISTS eventstore");
            session.Execute("CREATE KEYSPACE eventstoreWITH REPLICATION = { 'class' : 'NetworkTopologyStrategy', 'datacenter1' : 1 };");

            session.Execute(@"
                                CREATE TABLE IF NOT EXISTS eventstore.Event(
                                Id uuid, 
                                Data text, 
                                Version int,
                                AgregateId uuid,
                                EventIdentity uuid,
                                Date timestamp,
                                  PRIMARY KEY (AgregateId,Version)
                                ) WITH CLUSTERING ORDER BY (Version ASC)");

要插入事件，我使用以下代码：

events 变量包含 2000 个在 3 秒内插入的事件。

            var tasks = events.Select(async @event =>
            {
                await mapper.InsertAsync(@event);
            });

            await Task.WhenAll(tasks);

目前此解决方案的性能约为 2000 个事件的 3 秒。 可以更快地插入数据吗？？

Answer 1

您可以使用多种技术来发送稳定的执行流，同时限制并发级别。

驱动程序库中有一个示例：https://github.com/datastax/csharp-driver/blob/master/examples/ConcurrentExecutions/ExecuteInLoop/Program.cs

DataStax 驱动的开发者指南中还有一个主题：https://docs.datastax.com/en/devapp/doc/devapp/driverManagingConcurrency.html

并行提交多个请求时，请求会在以下三个级别之一排队：驱动程序端、网络堆栈或服务器端。任何这些级别上的过多排队都会影响完成每个操作所需的总时间。调整并发级别或同时请求的数量，以减少排队数量并获得高吞吐量和低延迟。