pyspider 简介
pyspider是一个国人编写的强大的网络爬虫系统并带有强大的webui。采用python语言编写，分布式架构，支持多种数据库后端，强大的webui支持脚本编辑器、任务监视器，项目管理器以及结果查看器。
pyspider 来源于以前做的一个垂直搜索引擎使用的爬虫后端。我们需要从200个站点(由于站点失效，不是都同时啦，同时有100+在跑吧)采集数据，并要求在5分钟内将对方网站的更新更新到库中。所以，灵活的抓取控制是必须的。
同时，由于100个站点，每天都可能会有站点失效或者改版，所以需要能够监控模板失效，以及查看抓取状态。
为了达到5分钟更新，我们使用抓取最近更新页上面的最后更新时间，以此来判断页面是否需要再次抓取。
可见，这个项目对于爬虫的监控和调度要求是非常高的。
pyspider 特性
python 脚本控制，可以用任何你喜欢的html解析包(内置 pyquery)
web 界面编写调试脚本、起停脚本、监控执行状态，查看活动历史，获取结果产出
数据存储支持mysql、mongodb、redis、sqlite、 elasticsearch; postgresql 及 sqlalchemy
队列服务支持rabbitmq、beanstalk、redis、kombu
支持抓取 javascript 的页面
组件可替换，支持单机/分布式部署，支持 docker 部署
强大的调度控制，支持超时重爬及优先级设置
支持python 2.{6, 7}, 3.{3, 4, 5, 6}
pyspider 安装
1) pip 安装
pip可以在以下版本的cpython下运行：2.6, 2.7, 3.1, 3.2, 3.3, 3.4 和 pypy.
pip可以在unix/linux、mac os x、windows系统中运行.
a)脚本安装
python get-pip.py
如果 setuptools (或 distribute) 未安装， get-pip.py
会 自动为你安装 setuptools
如果需要升级 setuptools (或 distribute)，运行 pip install -u setuptools
b)命令安装
sudo apt-get install python-pip // debian、ubuntu
sudo yum install python-pip // centos、redhat、fedora
2)phantomjs 安装
phantomjs 是一个基于 webkit 的服务器端 javascript
api。它全面支持web而不需浏览器支持，其快速、原生支持各种web标准：dom 处理、css 选择器、json、canvas 和 svg。
phantomjs 可以用于页面自动化、网络监测、网页截屏以及无界面测试等。支持windows、linux、mac os x等多操作系统。
phantomjs 下载：http://phantomjs.org/download.html
phantomjs不需要安装，解压后，配置环境变量后，便可直接使用，详见 phantomjs 安装与开发
phantomjs 安装命令：
sudo apt-get install phantomjs // debian、ubuntu
sudo pkg install phantomjs // freebsd
brew install phantomjs // mac os x
3)pyspider 安装
pyspider 安装的依赖包 requirements.txt
flask>=0.10
jinja2>=2.7
chardet>=2.2
cssselect>=0.9
lxml
pycurl
pyquery
requests>=2.2
tornado>=3.2
mysql-connector-python>=1.2.2
pika>=0.9.14
pymongo>=2.7.2
unittest2>=0.5.1
flask-login>=0.2.11
u-msgpack-python>=1.6
click>=3.3
sqlalchemy>=0.9.7
six>=1.5.0
amqp>=1.3.0,<2.0
redis
redis-py-cluster
kombu
psycopg2
elasticsearch
tblib
pyspider 安装命令：
pip install pyspider
ubuntu 用户，请提前安装好以下支持类库：
sudo apt-get install python python-dev python-distribute python-pip libcurl4-openssl-dev libxml2-dev libxslt1-dev python-lxml
4)验证安装成功
控制台输入命令：
pyspider all
使用浏览器访问 http://localhost:5000
正常出现 pyspider 的页面，那证明一切 ok
pyspider 示例
1)示例1：爬取米扑科技首页(mimvp.com)
#!/usr/bin/env python
# -*- encoding: utf-8 -*-
# created on 2017-07-28 13:44:53
# project: pyspiderdemo
# mimvp.com
from pyspider.libs.base_handler import *
class handler(basehandler):
crawl_config = {
}
@every(minutes=24 * 60)
def on_start(self):
self.crawl('mimvp.com', callback=self.index_page)
@config(age=10 * 24 * 60 * 60)
def index_page(self, response):
for each in response.doc('a[href^="http"]').items():
self.crawl(each.attr.href, callback=self.detail_page)
@config(priority=2)
def detail_page(self, response):
return {
"url": response.url,
"title": response.doc('title').text(),
}
运行结果：
2)示例2：设置代理爬取网页
pyspider 支持使用代理爬取网页，其使用代理有两种方式：
方式1：
--phantomjs-proxy text phantomjs proxy ip:port
启动命令例如：
pyspider --phantomjs-proxy "188.226.141.217:8080" all
方式2：
设置代理全局变量，如下图：
crawl_config = { 'proxy' : '188.226.141.217:8080'}
示例代码：
# created on 2017-07-28 14:13:14
# project: mimvp_proxy_pyspider
#
'proxy' : 'http://188.226.141.217:8080', # http
'proxy' : 'https://182.253.32.65:3128' # https
self.crawl('http://proxy.mimvp.com/exist.php', callback=self.index_page)
作者：mimvp
来源：51cto