使用大量字符串理解 Golang 内存管理答案

【问题标题】：Understanding Golang memory management with large slice of strings使用大量字符串理解 Golang 内存管理
【发布时间】：2018-09-07 20:07:51
【问题描述】：

我正在为 Twitch.tv 网站开发一个用 Go 编写的聊天机器人。

机器人的一个功能是奖励用户观看特定流的积分系统。此数据存储在 SQLite3 数据库中。

为了获得观众，机器人会调用 API 来 twitch 并收集流的所有当前观众。然后将这些查看器放入一段字符串中。

观看者总数可以从几个到 20,000 或更多不等。

机器人的作用

进行 API 调用
将所有查看器存储在一个字符串切片中
对于每个查看器，机器人会相应地迭代并添加点。
Bot 在下一次迭代之前清除此切片

代码

type Viewers struct {
    Chatters struct {
        CurrentModerators []string `json:"moderators"`
        CurrentViewers    []string `json:"viewers"`
    } `json:"chatters"`
}    

func RunPoints(timer time.Duration, modifier int, conn net.Conn, channel string) {
    database := InitializeDB() // Loads database through SQLite3 driver
    var Points int
    var allUsers []string
    for range time.NewTicker(timer * time.Second).C {
        currentUsers := GetViewers(conn, channel)
        tx, err := database.Begin()
        if err != nil {
            fmt.Println("Error starting points transaction: ", err)
        }

        allUsers = append(allUsers, currentUsers.Chatters.CurrentViewers...)
        allUsers = append(allUsers, currentUsers.Chatters.CurrentModerators...)

        for _, v := range allUsers {
            userCheck := UserInDB(database, v)
            if userCheck == false {
                statement, _ := tx.Prepare("INSERT INTO points (Username, Points) VALUES (?, ?)")
                statement.Exec(v, 1)
            } else {

                err = tx.QueryRow("Select Points FROM points WHERE Username = ?", v).Scan(&Points)
                if err != nil {

                } else {
                    Points = Points + modifier
                    statement, _ := tx.Prepare("UPDATE points SET Points = ? WHERE username = ?")
                    statement.Exec(Points, v)
                }
            }
        }

        tx.Commit()
        allUsers = allUsers[:0]
        currentUsers = Viewers{} // Clear Viewer object struct

    }

预期行为

当吸引成千上万的观众时，我自然希望系统资源会变得相当高。这可以将使用 3.0 MB RAM 的机器人变成高达 20 MB+。数以千计的元素当然会占用大量空间！

但是，发生了其他事情。

实际行为

每次调用 API 时，RAM 都会按预期增加。但是因为我清除了切片，所以我预计它会回落到“正常”的 3.0 MB 使用量。

但是，每次 API 调用的 RAM 使用量都会增加，并且即使流的观看者总数增加也不会减少。

因此，给定几个小时，该机器人将轻松消耗 100 + MB 的内存，这对我来说似乎不合适。

我在这里缺少什么？总的来说，我对编程和 CS 还很陌生，所以也许我正在尝试解决一些不成问题的问题。但这对我来说几乎听起来像是内存泄漏。

我尝试通过 Golang 的运行时库强制垃圾回收和释放内存，但这并不能解决问题。

【问题讨论】：

“也许我正在尝试修复一些不成问题的东西” 是的。内存管理很复杂。例如。 Go 不会将未使用的内存直接释放到操作系统。因此，即使内存已释放，您也不会看到它已释放。如果你没有遇到 OOM，那就别想了。

标签： go memory-management memory-leaks bots slice

【解决方案1】：

要了解这里发生了什么，您需要了解切片的内部结构以及它发生了什么。你应该从https://blog.golang.org/go-slices-usage-and-internals开始

给出一个简短的答案：切片提供了对底层数组一部分的视图，当您尝试截断切片时，您所做的只是减少您对数组的视图，但底层数组不受影响，仍然占用同样多的内存。事实上，通过继续使用相同的数组，您永远不会减少正在使用的内存量。

我鼓励您阅读它的工作原理，但作为一个示例，说明为什么不会释放实际内存，请查看这个简单程序的输出，该程序演示了对切片的更改如何不会截断在后台分配的内存：https://play.golang.org/p/PLEZba8uD-L

【讨论】：

【解决方案2】：

当你重新切片切片时：

allUsers = allUsers[:0]

所有元素仍在后备数组中，无法收集。内存仍然被分配，这将在下一次运行中节省一些时间（它不必调整数组的大小，节省了缓慢的分配），这就是将其重新切片为零长度而不是仅仅转储它的关键。

如果您希望将内存释放给 GC，您只需将其完全转储并每次创建一个新切片。这会更慢，但在运行之间使用更少的内存。但是，这并不一定意味着您会看到该进程使用的内存更少。 GC 收集未使用的堆对象，然后可能最终将该内存释放给操作系统，如果其他进程正在施加内存压力，操作系统最终可能会回收它。

【讨论】：