欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

golang抓取网页并分析页面包含的链接方法

程序员文章站 2022-05-14 15:13:45
1. 下载非标准的包,"golang.org/x/net/html" 2. 先安装git,使用git命令下载 git clone https://github....

1. 下载非标准的包,"golang.org/x/net/html"

2. 先安装git,使用git命令下载

git clone https://github.com/golang/net

3. 将net包,放到goroot路径下

比如:

我的是:goroot = e:\go\

所以最终目录是:e:\go\src\golang.org\x\net

注意:如果没有golang.org和x文件夹,就创建

4. 创建fetch目录,在其下创建main.go文件,main.go文件代码内容如下:

package main
 
import (
 "os"
 "net/http"
 "fmt"
 "io/ioutil"
)
 
func main() {
 for _, url := range os.args[1:] {
 resp, err := http.get(url)
 if err != nil {
  fmt.fprintf(os.stderr, "fetch: %v\n", err)
 }
 b, err := ioutil.readall(resp.body)
 resp.body.close()
 if err != nil {
  fmt.fprintf(os.stderr, "fetch: reading %s: %v\n", url, err)
  os.exit(1)
 }
 fmt.printf("%s",b)
 }
}

5. 编译fetch

go build test.com\justin\demo\fetch

注意:test.com\justin\demo\ 是我的项目路径,具体编译根据自己项目路径编译。

6. 执行fetch.exe 文件

fetch.exe https://www.qq.com

注意:https://www.qq.com是要爬的网址,配置正确的话,会打印出网址的html内容。如果没有,请检查以上步骤是否正确。

7. 网页已经抓取了,那么剩下就分析页面包含的链接了,创建findlinks目录,在其下创建main.go文件,main.go文件代码内容如下:

package main
 
import (
 "os"
 "fmt"
 "golang.org/x/net/html"
)
 
func main() {
 doc, err := html.parse(os.stdin)
 if err != nil {
 fmt.fprint(os.stderr, "findlinks: %v\n", err)
 os.exit(1)
 }
 for _, link := range visit(nil, doc) {
 fmt.println(link)
 }
}
 
func visit(links []string, n *html.node) []string {
 if n.type == html.elementnode && n.data == "a" {
 for _, a := range n.attr {
  if a.key == "href" {
  links = append(links, a.val)
  }
 }
 }
 for c := n.firstchild; c != nil; c = c.nextsibling {
 links = visit(links, c)
 }
 return links
}

8. 编译findlinks

go build test.com\justin\demo\findlinks

注意:test.com\justin\demo\ 是我的项目路径,具体编译根据自己项目路径编译。

9. 执行findlinks.exe 文件

fetch.exe https://www.qq.com | findlinks.exe

> 10. 执行后结果:获取到各种不同形式的超链接

以上这篇golang抓取网页并分析页面包含的链接方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。