资料分享——Python分析拉钩职位-创新互联

视频

创新互联公司从2013年成立，是专业互联网技术服务公司，拥有项目成都网站设计、成都网站建设网站策划，项目实施与项目整合能力。我们以让每一个梦想脱颖而出为使命，1280元精河做网站,已为上家服务,为精河各地企业和个人服务,联系电话:18982081108

PPT+ 视频

链接: https://pan.baidu.com/s/1tzG1adgpn23TSKvnR6XmYg 提取码: 2p2t

项目代码：https://github.com/nicksors/JobAnalysis

前言

近年来 Python 之火大家都有感而知，那亲们知道北京的 Python 开发岗位、运维开发岗位招聘地域都是如何分布的吗？薪水如何？是否有前景等等，这些数据呢直接通过招聘信息来了解到企业用人是最直接的，也是最简单的途径。

那本次将通过分享 Python 来抓取拉钩的招聘信息，然后加以分析，做一个北京的 Python 职位地域分布、薪资范围、福利待遇等维度出一个简单的分析报告，希望能帮助到想在 Python 这片田地耕耘的童鞋在发展方向上有所参考。

使用到的工具

使用 Python 的 requests 工具到招聘网站爬取我们想要的数据，分析和可视化也使用 Python 的相关模块来实现，主要有如下：
Python 版本：Python 3.x
requests：发起请求，从网站抓取数据
math：数学运算函数，向上取整，这里主要用于分析数据
time：时间模块，主要是控制爬虫不会因为频繁请求而被网站拉进小黑屋
pandas：数据抓取后使用该模块保存为 csv 文件到本地
matplotlib：可视化画图
pylab：设置画图能显示中文
wordcloud、scipy、jieba（字符串分割成单词）：生成中文词云

如何进行数据抓取

使用 Chrome 打开拉钩网站，在网站输入“Python开发” 职位，使用 “检查” 功能查看网页源码。发现拉钩有反爬机制，职位信息并不在源代码里，而是在 JSON 文件里，因此直接通过 JSON 获取数据即可。
资料分享—— Python 分析拉钩职位

抓取信息时，需要加上头部信息，才能获取到数据。（原理很简单：你得伪装成一个正常的 client 去请求网页才能拿到想要的数据）

def get_json(url, num):
   '''从网页获取JSON,使用POST请求,加上头部信息'''
   headers = {
       'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.139 Safari/537.36',
       'Host': 'www.lagou.com',

     'Referer':'https://www.lagou.com/jobs/list_python%E5%BC%80%E5%8F%91?labelWords=&;fromSearch=true&suginput=',
       'X-Anit-Forge-Code': '0',
     'X-Anit-Forge-Token': 'None',
     'X-Requested-With': 'XMLHttpRequest'
   }

   data = {
       'first': 'true',
       'pn': num,
       'kd': 'Python开发'}
   res = requests.post(url, headers=headers, data=data)
   res.raise_for_status()
   res.encoding = 'utf-8'
   # 得到包含职位信息的字典
   page = res.json()
   return page

在搜索结果的第一页，我们可以从 JSON 里读取总职位数，按照每页15个职位，获得要爬取的页数。再使用循环按页爬取，将职位信息汇总，输出为 CSV 格式。

序运行如下：
资料分享—— Python 分析拉钩职位

抓取结果如下：
资料分享—— Python 分析拉钩职位

数据可视化画图展示

1、根据薪资制作直方图

薪资比例描述和可视化出图
资料分享—— Python 分析拉钩职位

资料分享—— Python 分析拉钩职位

2、根据岗位地域分布制作饼图

资料分享—— Python 分析拉钩职位

3、制作词云

将职位福利这一列数据进行汇总，按照词语出现的频率生成云词实现 Python 可视化，以下是原图和云词图对比：
资料分享—— Python 分析拉钩职位

Python 第20期入门班正在火热招生中

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。

网站题目：资料分享——Python分析拉钩职位-创新互联
浏览地址：http://myzitong.com/article/cddpoc.html

资料分享——Python分析拉钩职位-创新互联

前言

使用到的工具

如何进行数据抓取

数据可视化画图展示

其他资讯