如何限制 Go API 的并发连接

Question

我正在启动一个带有 listenandserve 的 Go API 来接受 HTTP 请求。

我怎样才能实现以下目标？

1. 最多允许 100 个并发 HTTP 请求
2. 第 101 个请求（以及任何其他请求）应等待 10 分钟以尝试进入此“100 个同时”限制（即，希望前 100 个请求中的一些应完成）
3. 如果 10 分钟过去了，并且没有打开可用的请求“槽”，则为该等待的请求返回错误
4. 接下来运行的请求 101...102...x 的顺序并不重要

当前版本完全不可用：

    timeout := time.After(10 * time.Minute)
    tick := time.Tick(15 * time.Second)
    fullcmdfirst := fmt.Sprintf("netstat -anp | grep procname | grep ESTABLISHED | grep -v grep | wc -l")
    outputfirst, err1first := exec.Command("/bin/sh", "-c", fullcmdfirst).CombinedOutput()
    if strconv.ParseFloat(string(outputfirst)) < 100 {
        return nil
    }

    // Keep trying until we're timed out or lock acquired
    for {
        select {
        // Got a timeout! fail with a timeout error
        case <-timeout:
            return errors.New("Error: timed out ")
        // Got a tick, we should check if we can acquire
        case <-tick:
            fullcmd := fmt.Sprintf("netstat -anp | grep procname | grep ESTABLISHED | grep -v grep | wc -l")
            output, err1 := exec.Command("/bin/sh", "-c", fullcmd).CombinedOutput()
            if strconv.ParseFloat(string(outputfirst)) < 100 {
                l.Printf("start req")
                return nil
            }
        }
    }

Answer 1

不需要 netstats 或代码或任何这些（它无论如何都不会工作 - 只要 netstat 看到 connections 完全是一个不同的问题）。只需使用缓冲通道作为信号量；它已经是线程安全的了。

sem := make(chan struct{}, 100)

func myHandler(w http.ResponseWriter, r *http.Request) {
    timeout := time.After(10 * time.Minute)
    select {
        case <- timeout:
            http.Error(w, "Sorry", http.StatusUnavailable)
            return
        case sem <- struct{}:
            w.Write([]byte("Hello"))
            <- sem
            return
    }
}

请注意，大多数客户端在 10 分钟之前就已经超时了。