Goroutines、Channels、WaitGroups 和 select（只是想理解）

Question

我不一定要尝试完成特定的事情，更多只是了解 goroutines、channels、waitgroups 和 select（on channels）如何一起发挥作用。我正在编写一个简单的程序，它遍历一段 URL，获取 URL，然后基本上就结束了。简单的想法是，我希望所有的提取都发生并返回，通过通道发送它们的数据，然后在所有提取发生后结束。我快到了，我知道我的选择中缺少一些将结束循环的东西，可以说“嘿，等待组现在是空的”，但我不确定如何最好地做到这一点。介意看一下并为我清理吗？现在一切都运行得很好，它只是不会终止，所以很明显我错过了一些东西和/或不理解其中一些组件应该如何协同工作。

package main

import (
    "fmt"
    "io/ioutil"
    "net/http"
    "sync"
)

var urls = []string{
    "https://www.google.com1",
    "https://www.gentoo.org",
}

var wg sync.WaitGroup

// simple struct to store fetching
type urlObject struct {
    url     string
    success bool
    body    string
}

func getPage(url string, channelMain chan urlObject, channelError chan error) {

    // increment waitgroup, defer decrementing
    wg.Add(1)
    defer wg.Done()
    fmt.Println("fetching " + url)

    // create a urlObject
    uO := urlObject{
        url:     url,
        success: false,
    }

    // get URL
    response, getError := http.Get(url)

    // close response later on
    if response != nil {
        defer response.Body.Close()
    }

    // send error over error channel if one occurs
    if getError != nil {
        channelError <- getError
        return
    }

    // convert body to []byte
    body, conversionError := ioutil.ReadAll(response.Body)
    // convert []byte to string
    bodyString := string(body)

    // if a conversion error happens send it over the error channel
    if conversionError != nil {
        channelError <- conversionError
    } else {
        // if not send a urlObject over the main channel
        uO.success = true
        uO.body = bodyString
        channelMain <- uO
    }

}

func main() {

    var channelMain = make(chan urlObject)
    var channelError = make(chan error)

    for _, v := range urls {
        go getPage(v, channelMain, channelError)
    }

    // wait on goroutines to finish
    wg.Wait()

    for {
        select {
        case uO := <-channelMain:
            fmt.Println("completed " + uO.url)
        case err := <-channelError:
            fmt.Println("error: " + err.Error())
        }
    }

}

Answer 1

您需要进行以下更改：

• 正如人们所提到的，在调用 goroutine 之前，您可能希望在 main 函数中调用 wg.Add(1)。这样你就知道它发生在defer wg.Done() 调用之前。
• 您的通道读取将阻塞，除非您能找到一种方法来关闭您的 goroutine 中的通道，或使它们缓冲。可能最简单的方法是让它们缓冲，例如，var channelMain = make(chan urlObject, len(urls))
• 您的 select 语句中的 break 只会退出 select，而不是包含 for 循环。您可以标记 for 循环并中断，或使用某种条件变量。

工作版本的 Playground 链接：https://play.golang.org/p/WH1fm2MhP-L

package main

import (
    "fmt"
    "io/ioutil"
    "net/http"
    "sync"
)

var urls = []string{
    "https://www.google.com1",
    "https://www.gentoo.org",
}

var wg sync.WaitGroup

// simple struct to store fetching
type urlObject struct {
    url     string
    success bool
    body    string
}

func getPage(url string, channelMain chan urlObject, channelError chan error) {

    // increment waitgroup, defer decrementing
    defer wg.Done()
    fmt.Println("fetching " + url)

    // create a urlObject
    uO := urlObject{
        url:     url,
        success: false,
    }

    // get URL
    response, getError := http.Get(url)

    // close response later on
    if response != nil {
        defer response.Body.Close()
    }

    // send error over error channel if one occurs
    if getError != nil {
        channelError <- getError
        return
    }

    // convert body to []byte
    body, conversionError := ioutil.ReadAll(response.Body)
    // convert []byte to string
    bodyString := string(body)

    // if a conversion error happens send it over the error channel
    if conversionError != nil {
        channelError <- conversionError
    } else {
        // if not send a urlObject over the main channel
        uO.success = true
        uO.body = bodyString
        channelMain <- uO
    }

}

func main() {

    var channelMain = make(chan urlObject, len(urls))
    var channelError = make(chan error, len(urls))

    for _, v := range urls {
        wg.Add(1)
        go getPage(v, channelMain, channelError)
    }

    // wait on goroutines to finish
    wg.Wait()

    for done := false; !done; {
        select {
        case uO := <-channelMain:
            fmt.Println("completed " + uO.url)
        case err := <-channelError:
            fmt.Println("error: " + err.Error())
        default:
            done = true
        }
    }

}