golang中怎么抓取网页并分析页面包含的链接-创新互联
golang中怎么抓取网页并分析页面包含的链接,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。
创新互联专注为客户提供全方位的互联网综合服务,包含不限于网站制作、做网站、河曲网络推广、小程序开发、河曲网络营销、河曲企业策划、河曲品牌公关、搜索引擎seo、人物专访、企业宣传片、企业代运营等,从售前售中售后,我们都将竭诚为您服务,您的肯定,是我们大的嘉奖;创新互联为所有大学生创业者提供河曲建站搭建服务,24小时服务热线:18980820575,官方网址:www.cdcxhl.com1. 下载非标准的包,"golang.org/x/net/html"
2. 先安装git,使用git命令下载
git clone https://github.com/golang/net
3. 将net包,放到GOROOT路径下
比如:
我的是:GOROOT = E:\go\
所以最终目录是:E:\go\src\golang.org\x\net
注意:如果没有golang.org和x文件夹,就创建
4. 创建fetch目录,在其下创建main.go文件,main.go文件代码内容如下:
package main import ( "os" "net/http" "fmt" "io/ioutil" ) func main() { for _, url := range os.Args[1:] { resp, err := http.Get(url) if err != nil { fmt.Fprintf(os.Stderr, "fetch: %v\n", err) } b, err := ioutil.ReadAll(resp.Body) resp.Body.Close() if err != nil { fmt.Fprintf(os.Stderr, "fetch: reading %s: %v\n", url, err) os.Exit(1) } fmt.Printf("%s",b) } }
5. 编译fetch
go build test.com\justin\demo\fetch
注意:test.com\justin\demo\ 是我的项目路径,具体编译根据自己项目路径编译。
6. 执行fetch.exe 文件
fetch.exe https://www.qq.com
注意:https://www.qq.com是要爬的网址,配置正确的话,会打印出网址的HTML内容。如果没有,请检查以上步骤是否正确。
7. 网页已经抓取了,那么剩下就分析页面包含的链接了,创建findlinks目录,在其下创建main.go文件,main.go文件代码内容如下:
package main import ( "os" "fmt" "golang.org/x/net/html" ) func main() { doc, err := html.Parse(os.Stdin) if err != nil { fmt.Fprint(os.Stderr, "findlinks: %v\n", err) os.Exit(1) } for _, link := range visit(nil, doc) { fmt.Println(link) } } func visit(links []string, n *html.Node) []string { if n.Type == html.ElementNode && n.Data == "a" { for _, a := range n.Attr { if a.Key == "href" { links = append(links, a.Val) } } } for c := n.FirstChild; c != nil; c = c.NextSibling { links = visit(links, c) } return links }
8. 编译findlinks
go build test.com\justin\demo\findlinks
注意:test.com\justin\demo\ 是我的项目路径,具体编译根据自己项目路径编译。
9. 执行findlinks.exe 文件
fetch.exe https://www.qq.com | findlinks.exe
> 10. 执行后结果:获取到各种不同形式的超链接
看完上述内容,你们掌握golang中怎么抓取网页并分析页面包含的链接的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注创新互联成都网站设计公司行业资讯频道,感谢各位的阅读!
另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。
当前标题:golang中怎么抓取网页并分析页面包含的链接-创新互联
URL标题:http://myzitong.com/article/dejeee.html