Python常用爬虫代码总结方便查询-创新互联

beautifulsoup解析页面

创新互联公司主营南岔网站建设的网络公司,主营网站建设方案,重庆APP软件开发,南岔h5微信小程序搭建,南岔网站营销推广欢迎南岔等地区企业咨询
from bs4 import BeautifulSoup
soup = BeautifulSoup(htmltxt, "lxml")
# 三种装载器
soup = BeautifulSoup("

", "html.parser") ### 只有起始标签的会自动补全,只有结束标签的会自动忽略 ### 结果为:
soup = BeautifulSoup("

", "lxml") ### 结果为:
soup = BeautifulSoup("

", "html5lib") ### html5lib则出现一般的标签都会自动补全 ### 结果为:

# 根据标签名、id、class、属性等查找标签 ### 根据class、id、以及属性alog-action的值和标签类别查询 soup.find("a",class_="title",id="t1",attrs={"alog-action": "qb-ask-uname"})) ### 查询标签内某属性的值 pubtime = soup.find("meta",attrs={"itemprop":"datePublished"}).attrs['content'] ### 获取所有class为title的标签 for i in soup.find_all(class_="title"): print(i.get_text()) ### 获取特定数量的class为title的标签 for i in soup.find_all(class_="title",limit = 2): print(i.get_text()) ### 获取文本内容时可以指定不同标签之间的分隔符,也可以选择是否去掉前后的空白。 soup = BeautifulSoup('

The Dormouses story

The Dormouses story

', "html5lib") soup.find(class_="title").get_text("|", strip=True) #结果为:The Dormouses story|The Dormouses story ### 获取class为title的p标签的id soup.find(class_="title").get("id") ### 对class名称正则: soup.find_all(class_=re.compile("tit")) ### recursive参数,recursive=False时,只find当前标签的第一级子标签的数据 soup = BeautifulSoup('abc','lxml') soup.html.find_all("title", recursive=False)</pre> <br> 文章名称:Python常用爬虫代码总结方便查询-创新互联 <br> 文章链接:<a href="http://myzitong.com/article/hoihh.html">http://myzitong.com/article/hoihh.html</a> </div> </div> <div class="contentr fr"> <h3>其他资讯</h3> <ul> <li> <a href="/article/diedesc.html">jquery匹配数字 jquery获取文本元素</a> </li><li> <a href="/article/diedeoi.html">vue更改css样式 vue修改div样式</a> </li><li> <a href="/article/diedess.html">mysql递归语句怎么写 mysql8 递归</a> </li><li> <a href="/article/diedsig.html">html5交互动画 h5交互视频</a> </li><li> <a href="/article/diedeco.html">jquery左右添加 jquery左右移动动画效果</a> </li> </ul> </div> </div> </div> <!--底部--> <footer> <div class="foot"> <div class="container"> <h1>梓潼大橙子建站您身边的网站制作服务商</h1> <div class="foot1"> <ul> <li> <dl><i class="iconfont"></i><b>地址ADDRESS</b></dl> <p>四川-成都青羊区太升南路288号<br> 锦天国际A座10楼 </p> </li> <li> <dl><i class="iconfont"></i><b>电话/TEL</b></dl> <p><a href="tel:02886922220" target="_blank">028 86922220</a> (工作日)<br> <a href="tel:18980820575" target="_blank">1898082 0575</a> ( 7x24 ) </p> </li> <li> <dl><i class="iconfont"></i><b>QQ咨询</b></dl> <p> 244261566 (售前)<br> 631063699 (售后) </p> </li> <li> <dl><i class="iconfont"></i><b>邮箱/E: mail</b></dl> <p> service@cdcxhl.com (业务)<br> hr@cdcxhl.com (求职) </p> </li> </ul> </div> <div class="link"> 友情链接: <a href="https://www.cdcxhl.com/waimao.html" title="成都外贸网站建设公司" target="_blank">成都外贸网站建设公司</a>   <a href="http://www.cdxwcx.cn/tuoguan/liantong.html" title="联通机房服务器托管" target="_blank">联通机房服务器托管</a>   <a href="https://www.cdxwcx.com/city/pengzhou/" title="彭州网站建设" target="_blank">彭州网站建设</a>   <a href="http://www.cxjianzhan.cn/fwxm/pinpai.html" title="品牌官网设计" target="_blank">品牌官网设计</a>   <a href="http://www.csruijie.cn/" title="成都公司变更" target="_blank">成都公司变更</a>   <a href="http://www.cddcz.com/" title="大橙子建站" target="_blank">大橙子建站</a>   <a href="http://www.hongyifilm.cn/" title="鸿艺文化传播" target="_blank">鸿艺文化传播</a>   <a href="http://www.xhgfhy.com/ " title="郫县封阳台" target="_blank">郫县封阳台</a>   <a href="https://www.cdxwcx.com/tuiguang/ruanwen.html" title="软文推广公司" target="_blank">软文推广公司</a>   <a href="http://www.zaowang.cn/" title="zaowang.cn" target="_blank">zaowang.cn</a>    </div> </div> </div> <div class="copy container"> Copyright