scrapy开始项目

开始一个项目

scrapy startproject douban

生成一个爬虫文件

scrapy genspider doubantest douban.com

新建一个启动文件main.py

from scrapy.cmdline import execute
execute("scrapy crawl doubantest".split())

最后的目录结构

scrapy项目目录结构

启动爬虫

# IDE里面运行main.py,或者
python main.py

推荐阅读更多精彩内容

  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 158,301评论 24 688
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 121,746评论 17 134
  • 今天是2017年1月1日,昨晚和朋友吃着火锅喝着小酒等着零点的到来,当窗外的烟花突然响起时我并没有像前几天那么兴奋...
    我叫垚垚我姓王阅读 95评论 0 1
  • 写几首诗然后老去 *诗琦 一切都是瞬息 茫茫无际的天宇 千百万颗星球中的这一颗 像一艘不朽的巨轮 承载过无数万年的...
    地球村人阅读 190评论 0 0
  • 现在7月底 而我正在写6月23号日报。 同样周一,我好像不再像以往那么不开心了。 我们有很多很多等着995结束以后...
    Ermao阅读 29评论 0 1