【发布时间】:2016-09-22 14:43:35
【问题描述】:
我有以下实现工作队列的代码:
package main
import (
"fmt"
"net/http"
"io"
"time"
)
var (
linkQueue chan Link
scraperQueue chan chan Link
)
func CycleDirectory(page int) {
linkQueue <- Link{Name: "asd"}
}
type Link struct {
Name string
}
func (s Scraper) Start() {
fmt.Println("Started")
go func() {
for {
s.ScraperQueue <- s.Link
select {
case link := <-s.Link:
fmt.Println(fmt.Sprintf("%v", s.Id) + ": Received " + link.Name)
case <-s.QuitChan:
fmt.Println("Closed")
return
}
}
}()
}
func (s Scraper) Stop() {
go func() {
s.QuitChan <- true
}()
}
type Scraper struct {
Id int
Link chan Link
ScraperQueue chan chan Link
QuitChan chan bool
}
func InitScraper(id int, scraperQueue chan chan Link) Scraper {
return Scraper {
Id: id,
Link: make(chan Link),
ScraperQueue: scraperQueue,
QuitChan: make(chan bool),
}
}
func HelloServer(w http.ResponseWriter, req *http.Request) {
io.WriteString(w, "hello, world!\n")
}
func main() {
linkQueue = make(chan Link, 2000)
numScrapers := 2
scraperQueue = make(chan chan Link, numScrapers)
for i := 0; i < numScrapers; i++ {
s := InitScraper(i+1, scraperQueue)
s.Start()
}
go func() {
for {
select {
case link := <-linkQueue:
go func() {
scraper := <-scraperQueue
scraper <- link
}()
}
}
}()
CycleDirectory(1)
// time.Sleep(1 * time.Millisecond)
for {
// select {
// }
}
// http.HandleFunc("/hello", HelloServer)
// http.ListenAndServe(":12345", nil)
}
使用包含 if 语句(或内部没有任何内容)的 for 循环运行此代码,刮板不会打印收到的消息。使用来自 net/http 的 ListenAndServe 函数进行阻塞,它会打印接收到的消息。使用睡眠阻塞 1 毫秒,我收到消息。并在 for 循环中添加一个 select 语句,我也收到了消息。
为什么没有 select 语句的 for 循环不允许执行在工作队列中发送的消息,我将如何处理这个问题。我需要在 for 循环中使用 if 语句来检查是否所有工作都已完成,以便我可以退出循环并结束程序。
更新
amd 的建议就是解决这个问题。这是我使用 sync.WaitGroup 更新的代码 主包
import (
"fmt"
"sync"
)
var (
linkQueue chan Link
scraperQueue chan chan Link
wg sync.WaitGroup
)
func CycleDirectory(page int) {
wg.Add(1)
linkQueue <- Link{Name: "asd"}
}
type Link struct {
Name string
}
func (s Scraper) Start() {
fmt.Println("Started")
go func() {
for {
s.ScraperQueue <- s.Link
select {
case link := <-s.Link:
Scrape(s.Id, link.Name)
s.Stop()
case <-s.QuitChan:
fmt.Println("Closed")
wg.Done()
return
}
}
}()
}
func (s Scraper) Stop() {
go func() {
s.QuitChan <- true
}()
}
type Scraper struct {
Id int
Link chan Link
ScraperQueue chan chan Link
QuitChan chan bool
}
func Scrape(id int, name string) {
fmt.Println(fmt.Sprintf("%v", id) + ": Received " + name)
}
func InitScraper(id int, scraperQueue chan chan Link) Scraper {
return Scraper {
Id: id,
Link: make(chan Link),
ScraperQueue: scraperQueue,
QuitChan: make(chan bool),
}
}
func main() {
linkQueue = make(chan Link, 2000)
numScrapers := 2
scraperQueue = make(chan chan Link, numScrapers)
for i := 0; i < numScrapers; i++ {
s := InitScraper(i+1, scraperQueue)
s.Start()
}
go func() {
for {
select {
case link := <-linkQueue:
go func() {
scraper := <-scraperQueue
scraper <- link
}()
}
}
}()
CycleDirectory(1)
wg.Wait()
fmt.Println("Done")
}
【问题讨论】:
-
empty
for{}循环使用 100% 的 CPU 内核。使用空的 for 根本不是一个好习惯。 -
繁忙的循环最终会阻塞你的整个程序。 (当您只有一个案例时,您也不需要选择)
-
@Amd 我需要停止程序退出,直到所有工作完成。是否可以在没有 for 循环的情况下执行此操作。 for 循环会不断检查,直到工作完成。
-
使用
select {}来防止main 退出。 -
是的,你可以使用
sync.WaitGroup
标签: go concurrency goroutine