爬虫框架Scrapy的简单使用

1、新建项目

$ scrapy startproject projectName//最后的'projectName'替换为想要的项目名称

e.g: scrapy startproject jianshu

2、新建spider文件

$ scrapy genspider -t basic filename(spider文件名) domain(域名)

e.g: scrapy genspider -t basic myjianshu  jianshu.com

3、运行程序

$scrapy crawl spider_name#将spider_name改为爬虫的名称(即name的值)

e.g: scrapy crawl jianshu

推荐阅读更多精彩内容