go语言实现并发网络爬虫的示例代码

go语言做爬虫也是很少尝试，首先我的思路是看一下爬虫的串行实现，然后通过两个并发实现：一个使用锁，另一个使用通道

这里不涉及从页面中提取URL的逻辑（请查看Go框架colly的内容）。网络抓取只是作为一个例子来考察Go的并发性。

我们想从我们的起始页中提取所有的URL，将这些URL保存到一个列表中，然后对列表中的每个URL做同样的处理。页面的图很可能是循环的，所以我们需要记住哪些页面已经经历了这个过程（或者在使用并发时，处于这个过程的中间）。

串行爬虫首先检查我们是否已经在获取地图中获取了该页面。如果我们没有，那么它就在页面上找到的每个URL上调用自己。注意：map 在Go中是引用类型，所以每次调用都会得到相同的 map。

func Serial(url string, fetcher Fetcher, fetched map[string]bool) {
   if fetched[url] {
       return
   }
   fetched[url] = true
   urls, err := fetcher.Fetch(url)
   if err != nil {
       return
   }
   for _, u := range urls {
       Serial(u, fetcher, fetched)
   }
   return
}
func main() {
   Serial(<page>, fetcher, make(map[string]bool))
}

fetcher将包含提取URLs到列表中的逻辑（也可以对页面的内容做一些处理）。这个实现不是本讲的重点。

由于网络速度很慢，我们可以使用并发性来加快这个速度。为了实现这一点，我们需要使用锁（在读/写时锁定已经获取的页面地图）和 waitgroup（等待所有的goroutine完成）。

已经获取的页面的 map 只能由持有锁的线程访问，因为我们不希望多个线程开始处理同一个URL。如果在一个线程的读和写之间，另一个线程在第一个线程更新之前从 map 上得到了相同的读数，这就可能发生。

我们定义了fetchState结构，将 map 和锁组合在一起，并定义了一个方法来初始化它。

爬虫程序的开始是一样的，检查我们是否已经获取了URL，但这次使用sync.Mutex来锁定 map，如前所述。然后，对于页面上发现的每个URL，我们在一个新的goroutine中启动相同的函数。在启动之前，我们将WaitGroup的计数器增加1，done.Wait()在退出之前等待所有的抓取工作完成。

func ConcurrentMutex(url string, fetcher Fetcher, f *fetchState) {
   f.mu.Lock()
   already := f.fetched[url]
   f.fetched[url] = true
   f.mu.Unlock()
   if already {
       return
   }
   urls, err := fetcher.Fetch(url)
   if err != nil {
       return
   }
   var done sync.WaitGroup
   for _, u := range urls {
       done.Add(1)
       go func(u string) {
           defer done.Done()
           ConcurrentMutex(u, fetcher, f)
       }(u)
   }
   done.Wait()
   return
}
type fetchState struct {
   mu      sync.Mutex
   fetched map[string]bool
}
func makeState() *fetchState {
   f := &fetchState{}
   f.fetched = make(map[string]bool)
   return f
}
func main() {
   ConcurrentMutex(<page>, fetcher, makeState())
}

注意：

[1] done.Done()的调用被推迟了，以防我们在其中一个调用中出现错误，在这种情况下，我们仍然要递减WaitGroup的计数器。

[2] 这段代码的一个问题是，我们没有限制线程的数量。但值得一提的是，goroutines比其他语言的线程更轻量级，并且由Go运行时管理，系统调用更少。

[3] 我们把字符串u传给立即函数，以便制作一个URL的副本，然后才把它送到goroutine，因为变量u在外层for循环中发生了变化。要理解这样做的必要性，一个更简单的例子是，在没有WaitGroup的情况下。

func checkThisOut() {
 s := "abc"
 sec := time.Second
 go func() {time.Sleep(sec); fmt.Printf("s = ％v\n", s)}()
 go func(u string) {time.Sleep(sec); fmt.Printf("u = ％v\n", u)}(s)
 s = "def"
 time.Sleep(2 * sec)
}
// this prints out: u = abc, s = def

[4] 我们可以运行内置的数据竞赛检测器，通过运行go run -race .来帮助检测竞赛条件。它在这个例子中非常有效。

下一个并发版本在线程之间完全不共享内存！嗯，这并不准确。我们只是不会自己同步访问共享数据。相反，我们使用一个通道在goroutine之间进行通信。

在这个最后的版本中，我们有一个主函数在主线程上运行。只有这个函数能看到 map 并从通道中读取。channel ，像 map 一样，也是引用类型。所以这里只有一个通道。

在启动时，我们将第一个URL写到通道上。这是在一个goroutine中完成的，因为向一个没有缓冲的通道的写入会导致goroutine暂停，直到该值被另一个goroutine读取。

我们在一个for循环中从通道中读取URL的列表（从一个没有缓冲的通道中读取也会阻塞）。然后，我们以与之前的实现类似的方式浏览该列表。通过使用一个计数器，一旦没有更多的工作者，这个循环就会中断。

工作者获取URL的列表，将它们传递给通道。如果出现错误，会传递一个空列表，这样从通道读取的for循环最终会退出（计数器的设置方式是，我们等待从每个goroutine读取一个值）。

func ConcurrentChannel(url string, fetcher Fetcher) {
   ch := make(chan []string)
   go func() {
       ch <- []string{url}
   }()
   master(ch, fetcher)
}
func master(ch chan []string, fetcher Fetcher) {
   n := 1
   fetched := make(map[string]bool)
   for urls := range ch {
       for _, u := range urls {
           if fetched[u] == false {
               fetched[u] = true
               n += 1
               go worker(u, ch, fetcher)
           }
       }
       n -= 1
       if n == 0 {
           break
       }
   }
}
func worker(url string, ch chan []string, fetcher Fetcher) {
   urls, err := fetcher.Fetch(url)
   if err != nil {
       ch <- []string{}
   } else {
       ch <- urls
   }
}

来源：https://blog.csdn.net/weixin_44617651/article/details/129744675