爬虫一般是指网络爬虫。网络爬虫又称为网页蜘蛛,网络机器人,是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。网页URL爬虫是指爬取html网页上所有URL的爬虫。 获取网页上所有url 把获取到的url存放到txt文件中