Python常用爬虫代码总结方便查询-创新互联

beautifulsoup解析页面

创新互联公司主营南岔网站建设的网络公司,主营网站建设方案,重庆APP软件开发,南岔h5微信小程序搭建,南岔网站营销推广欢迎南岔等地区企业咨询
from bs4 import BeautifulSoup
soup = BeautifulSoup(htmltxt, "lxml")
# 三种装载器
soup = BeautifulSoup("

", "html.parser") ### 只有起始标签的会自动补全,只有结束标签的会自动忽略 ### 结果为:
soup = BeautifulSoup("

", "lxml") ### 结果为:
soup = BeautifulSoup("

", "html5lib") ### html5lib则出现一般的标签都会自动补全 ### 结果为:

# 根据标签名、id、class、属性等查找标签 ### 根据class、id、以及属性alog-action的值和标签类别查询 soup.find("a",class_="title",id="t1",attrs={"alog-action": "qb-ask-uname"})) ### 查询标签内某属性的值 pubtime = soup.find("meta",attrs={"itemprop":"datePublished"}).attrs['content'] ### 获取所有class为title的标签 for i in soup.find_all(class_="title"): print(i.get_text()) ### 获取特定数量的class为title的标签 for i in soup.find_all(class_="title",limit = 2): print(i.get_text()) ### 获取文本内容时可以指定不同标签之间的分隔符,也可以选择是否去掉前后的空白。 soup = BeautifulSoup('

The Dormouses story

The Dormouses story

', "html5lib") soup.find(class_="title").get_text("|", strip=True) #结果为:The Dormouses story|The Dormouses story ### 获取class为title的p标签的id soup.find(class_="title").get("id") ### 对class名称正则: soup.find_all(class_=re.compile("tit")) ### recursive参数,recursive=False时,只find当前标签的第一级子标签的数据 soup = BeautifulSoup('abc','lxml') soup.html.find_all("title", recursive=False)</pre> <br> 网站名称:Python常用爬虫代码总结方便查询-创新互联 <br> 链接地址:<a href="http://myzitong.com/article/hoihh.html">http://myzitong.com/article/hoihh.html</a> </div> </div> <div class="contentr fr"> <h3>其他资讯</h3> <ul> <li> <a href="/article/doopcdo.html">vb.net时钟怎么用的简单介绍</a> </li><li> <a href="/article/doopcee.html">go语言与区块链技能图谱 go语言开发区块链教程</a> </li><li> <a href="/article/doopccc.html">php连接数据库中的表 php数据库联表查询</a> </li><li> <a href="/article/doopced.html">vb.net开源代码 vb源代码网站</a> </li><li> <a href="/article/doopccj.html">go语言的薪资高吗 go语言工资高吗</a> </li> </ul> </div> </div> </div> <!--底部--> <footer> <div class="foot"> <div class="container"> <h1>梓潼大橙子建站您身边的网站制作服务商</h1> <div class="foot1"> <ul> <li> <dl><i class="iconfont"></i><b>地址ADDRESS</b></dl> <p>四川-成都青羊区太升南路288号<br> 锦天国际A座10楼 </p> </li> <li> <dl><i class="iconfont"></i><b>电话/TEL</b></dl> <p><a href="tel:02886922220" target="_blank">028 86922220</a> (工作日)<br> <a href="tel:18980820575" target="_blank">1898082 0575</a> ( 7x24 ) </p> </li> <li> <dl><i class="iconfont"></i><b>QQ咨询</b></dl> <p> 244261566 (售前)<br> 631063699 (售后) </p> </li> <li> <dl><i class="iconfont"></i><b>邮箱/E: mail</b></dl> <p> service@cdcxhl.com (业务)<br> hr@cdcxhl.com (求职) </p> </li> </ul> </div> <div class="link"> 友情链接: <a href="https://www.cdcxhl.cn/ " title="香港虚拟主机腾讯云" target="_blank">香港虚拟主机腾讯云</a>   <a href="https://www.cdcxhl.com/seo.html" title="seo优化排名" target="_blank">seo优化排名</a>   <a href="https://www.cdxwcx.com/tuiguang/weibo.html" title="微博营销" target="_blank">微博营销</a>   <a href="http://www.cdxswst.cn/" title="成都康明斯发电机组" target="_blank">成都康明斯发电机组</a>   <a href="http://m.cdxwcx.com/xcx.html" title="成都小程序开发" target="_blank">成都小程序开发</a>   <a href="https://www.cdxwcx.com/wangzhan/case/dfjg.html" title="东电技改" target="_blank">东电技改</a>   <a href="http://chengdu.xwcx.net/mobile/" title="手机网站建设套餐" target="_blank">手机网站建设套餐</a>   <a href="https://www.cdxwcx.com/jifang/ershu.html" title="中国电信成都枢纽中心" target="_blank">中国电信成都枢纽中心</a>   <a href="http://www.xnruijie.cn/" title="赛亚人环保" target="_blank">赛亚人环保</a>   <a href="http://chengdu.cdxwcx.cn/" title="成都网站制作" target="_blank">成都网站制作</a>    </div> </div> </div> <div class="copy container"> Copyright