MySQL并发写入GORM报错答案

【问题标题】：Concurrent MySQL writing with GORM leads to an errorMySQL并发写入GORM报错
【发布时间】：2023-01-26 23:04:01
【问题描述】：

我在 Golang 中实现了一个复杂的 csv 导入脚本。我为此使用了 Workerpool 实现。在该工作池中，工作人员处理 1000 多个小型 csv 文件，对产品进行分类、标记和标记。他们都写入同一个数据库表。到目前为止，一切都很好。

我面临的问题是，如果我选择了 2 个以上的工人，该过程会随机崩溃并显示以下消息

工作流程是

foreach (csv) {
 workerPool.submit(csv)
}

func worker(csv) {
 foreach (line) {
   import(line)
 }
}

import(line) {
 product = get(line)
 product.category = determine_category(product)
 product.brand = determine_brand(product)
 save(brand)
 product.tags = determine_tags(product)
 //and after all
 save(product)
}

我试图将 save() 调用包装在事务中，但没有帮助。

现在我有以下问题：

MySQL适合并发保存到1张表吗？
如果需要交易来完成这个，他们应该在哪里设置？
Go SQL 驱动程序（错误总是发生在 packets.go:1102 中）是否适合执行此操作？
有人可以帮助我吗（也许可以雇用几个小时）？
我完全卡住了。如果有帮助，我也可以分享源代码。但我首先想知道你猜这是我的代码还是一般问题。

【问题讨论】：

您是否尝试在多个 goroutine 中使用单个数据库连接？你不能那样做，因为 MySQL 的协议是有状态的。每个 goroutine 都需要打开自己的连接。
Don't paste images of text。特别是没有透明背景，很难阅读！
@BillKarwin 是的，都是 1 个连接。我不知道……
@JonathanHall 对不起 :D
别抱歉。：）修理它：）

标签： mysql go concurrency segmentation-fault go-gorm

【解决方案1】：

在每个 goroutine（或线程，对于使用线程的语言）中打开一个新的数据库连接。

MySQL 的协议是有状态的，这意味着如果多个 goroutine 尝试使用同一个连接，请求和响应会变得非常混乱。

尝试在 goroutine 之间共享任何其他类型的有状态协议连接时，您会遇到同样的问题。

例如 ftp 也是一个有状态的协议，这可能更容易理解。客户端 goroutine 可能会发送一条消息，如“获取文件 x”，响应应该是一系列包含该文件内容的消息。如果另一个 goroutine 在该请求/响应正在进行时尝试使用相同的连接，则两个客户端都会感到困惑。第二个 goroutine 将读取属于它未请求的文件的数据包。第一个请求该文件的 goroutine 会发现它期望的一些数据包已经被读取。

同样，MySQL 的协议也不支持多个客户端 goroutine 共享一个连接。

【讨论】：