爬虫目的
本文想通过爬取拉勾网Python相关岗位数据，简单梳理
Requests
和
xpath
的使用方法。
代码部分并没有做封装，数据请求也比较简单，所以该项目只是为了熟悉requests爬虫的基本原理，无法用于稳定的爬虫项目。
爬虫工具
这次使用
Requests
库发送http请求，然后用
lxml.etree
解析HTML文档对象，并使用
xpath
提取职位信息。Requests简介
Requests是一款目前非常流行的http请求库，使用python编写，能非常方便的对网页Requests进行爬取。
官网里介绍说：Requests is an elegant and simple HTTP library for Python, built for human beings.
Requests优雅、简易，专为人类打造！
总而言之，Requests用起来简单顺手。
Requests库可以使用
pip
或者
conda
安装，本文python环境为py3.6。
试试对百度首页进行数据请求：
# 导入requests模块import requests# 发出http请求re = requests.get("https://www.baidu.com/")# 查看响应状态print(re.status_code)# 查看urlprint(re.url)# 查看响应内容print(re.text)# 查看编码print(re.encoding)# 二进制响应内容print(re.content)# json响应内容print(re.json)
xpath简介
xpath 是一门在 XML 文档中查找信息的语言，可用来在 XML 文档中对元素和属性进行遍历。
对获取的数据进行解析需要用到lxml库，lxml库是Python的一个解析库，支持HTML和XML的解析，支持XPath。
开始数据采集
1、请求地址：
https://www.lagou.com/zhaopin/Python/
2、需要爬取的内容
提取职位概况信息，包括：
- 职位名称
- 公司名称
- 公司简介
- 薪水
- 职位招聘对象
- 工作职责
- 工作要求
3、查看html
如果你使用chrome浏览器，登陆拉勾网，按
F12
可以进入开发者工具页面：
这时候你会看到该页面的html网页源码。
接下来需要寻找岗位信息对应的源码，比如说我想要获取职位名称：
你会看到开发者工具页面左上角有个箭头标志，你需要点击它，然后再点击岗位名称，就能看到对应的源码。
知道对应的源码后，我们就可以利用xpath提取里面的文本。
4、利用requests发出数据请求
# 请求头headers = { 'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/47.0.2526.80 Safari/537.36 Core/1.47.933.400 QQBrowser/9.4.8699.400', }# 发出数据请求，返回response响应对象r = requests.get('https://www.lagou.com/zhaopin/Python/',headers=headers)# 进行utf-8编码r.encoding = "utf-8"
5、利用xpath提取数据
# 构造一个xpath解析对象selector = etree.HTML(r.text)# 职位编号，一页共有14个职位，所以这里可以传递0~13任意数字row_num = str(0)'''获取职位概况信息，包括：职位名称、公司名称、公司简介、薪水、职位招聘对象'''# p_name 职位名称p_name = selector.xpath('//ul[@class="item_con_list"]/li[@data-index={}]//h3/text()'.format(row_num))[0]# p_company 招聘公司名称p_company = selector.xpath('//ul[@class="item_con_list"]/li[@data-index={}]//div[@class="company_name"]/a/text()'.format(row_num))[0]# p_industry 招聘公司简介p_industry = selector.xpath('//ul[@class="item_con_list"]/li[@data-index={}]//div[@class="industry"]/text()'.format(row_num))[0]# p_money 职位薪资p_money = selector.xpath('//ul[@class="item_con_list"]/li[@data-index={}]//span[@class="money"]/text()'.format(row_num))[0]# p_require 职位招聘对象p_require = selector.xpath('//ul[@class="item_con_list"]/li[@data-index={}]//div[@class="li_b_l"]/text()'.format(row_num))[2]
岗位职责、要求的数据在另外的网页，所以要先获取对应网址，再进行数据请求。
''' 获取工作职责和工作要求等详细信息'''# 该职位详细信息跳转链接p_href = selector.xpath('//ul[@]/li[@data-index={}]//a[@]/@href'.format(row_num))[0]# 返回response响应对象r_detail = requests.get(p_href,headers=headers)# 进行utf-8编码r_detail.encoding = "utf-8"# 解析HTML对象selector_detail = etree.HTML(r_detail.text)# p_detail 工作职责和工作要求信息p_detail = selector_detail.xpath('//div[@]/p//text()')
将所有信息放进列表并打印：
'''将获取到的有效信息放到列表中'''p_list = [p_name, p_company, p_industry.strip(), p_money, p_require.strip(),"\n ".join(p_detail)]for i in p_list: print(i)
输出：
总结
本文使用requests和xpath工具对拉勾网python职位数据进行爬取并解析，旨在了解requests和xpath的使用方法。
对于想翻页爬取所有岗位信息，本文并无介绍。有兴趣的童鞋可以更改地址参数，对代码进行动态包装，尝试爬取所有python岗位信息。
Requests库官网地址：
http://2.python-requests.org/zh_CN/latest/index.html
-END-
往期精彩 Python自动化用这些知识点就够了!如何用 Python 处理 B 站下载视频？小白入门Python数据科学全教程50个关于IPython的使用技巧，快收藏！ 如何用Python和数据分析鉴别网络刷单 ？使用Python伪装黑客，批量获取网站密码！用Python打造实时截图识别OCRPython+Matplotlib 制作排序算法的动画Python项目：让你的文字会说话利用Python开发智能阅卷系统Scrapy 爬取二手房信息，进行可视化数据分析
END
关注【程序IT圈】，更多的Python好文输出