如何通过Python爬取网页抖音热门视频
如何通过Python爬取网页抖音热门视频,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。
巩留网站制作公司哪家好,找创新互联公司!从网页设计、网站建设、微信开发、APP开发、成都响应式网站建设公司等网站项目制作,到程序开发,运营维护。创新互联公司公司2013年成立到现在10年的时间,我们拥有了丰富的建站经验和运维经验,来保证我们的工作的顺利进行。专注于网站建设就选创新互联公司。
前言
抖音短视频相信大家都听过,也不陌生对吧!可以看到海量的短视频,涵盖了各大行业。个人觉得抖音有毒,刷着刷着根本停不下来,一看时间就是凌晨3、4点。今天带大家爬取抖音网页版的视频数据!一睹为快吧
1、系统分析网页性质
2、正则提取数据(难点)
3、海量音频数据保存
环境介绍:
python 3.6
pycharm
requests
re
爬虫的一般思路
1、分析目标网页,确定爬取的url路径,headers参数
2、发送请求 -- requests 模拟浏览器发送请求,获取响应数据
3、解析数据 -- 正则表达式
4、保存数据 -- 保存在目标文件夹中
步骤:
1、导入工具
base_url = 'http://douyin.bm8.com.cn/d_1.html' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36'}
2、分析目标网页,确定爬取的url路径,headers参数
base_url = 'http://douyin.bm8.com.cn/d_1.html' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36'}
3、发送请求 -- requests 模拟浏览器发送请求,获取响应数据
response = requests.get(url=base_url, headers=headers) html_data = response.text
4、解析数据 -- 正则表达式
pattern = re.compile('onclick="open1\(\'(.*?)\',\'(.*?)\',\'\'\)') result = pattern.findall(html_data) print(result)
5、构建一个for循环
for page in range(8, 10): print('===================正在取第{}页数据================='.format(page)) # 1、分析目标网页,确定爬取的url路径,headers参数 base_url = 'http://douyin.bm8.com.cn/d_{}.html'.format(page) headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36'}
6、处理文件名非法字符
def change_title(title): pattern = re.compile(r"[\/\\\:\*\?\"\<\>\|]") # '/ \ : * ? ">
7、保存数据 -- 保存在目标文件夹中
for title, url in result: # 请求抖音视频数据 data = requests.get(url=url, headers=headers).content new_title = change_title(title) with open('videos\\' + new_title + '.mp4', mode='wb') as f: f.write(data) print('保存完成:', title)
看完上述内容,你们掌握如何通过Python爬取网页抖音热门视频的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注创新互联行业资讯频道,感谢各位的阅读!
网站标题:如何通过Python爬取网页抖音热门视频
浏览路径:http://myzitong.com/article/ggsdhj.html