Python爬虫Scrapy(二)_入门案例

本章将从案例开始介绍python scrapy框架,更多内容请参考:python学习指南

入门案例

学习目标

  • 创建一个Scrapy项目
  • 定义提取的结构化数据(Item)
  • 编写爬取网站的Spider并提取出结构化数据(Item)
  • 编写Item Pipelines来存储提取到的Item(即结构化数据)

一、新建项目(scrapy startproject)

  • 在开始爬取之前,必须创建一个新的Scrapy项目。进入自定义的项目目录中,运行下列命令:
scrapy startproject cnblogSpider
  • 其中,cnblogSpider为项目名称,可以看到将会创建一个cnblogSpider文件夹,目录结构大致如下:
scrapy目录结构

scrapy.cfg:项目部署文件
cnblogSpider/: 该项目的python模块,之后可以在此加入代码
cnblogSpider/items.py: 项目中的item文件。
cnblogSpider/pipelines.py: 项目中的Pipelines文件。
cnblogSpider/settings.py: 项目的配置文件。
cnblogSpider/spiders/: 放置Spider代码的目录。

二、明确目标(mySpider/items.py)

我们打算抓取:"http://www.cnblogs.com/miqi1992/default.html?page=2" 网站里博客地址、标题、创建时间、文本。

  1. 打开cnblogSpider目录下的items.py

  2. item定义结构化数据字段,用来保存爬取到的数据,有点像Python中的dict,但是提供了一些额外的保护减少错误。

  3. 可以通过创建一个scrapy.item类,并且定义类型为scrapy.Field的类属性来定义一个Item(可以理解成类似于ORM的映射关系)。

  4. 接下来,创建一个CnblogspiderItem类,和模型item模型(model)。

import scrapy


class CnblogspiderItem(scrapy.Item):
    # define the fields for your item here like:
    url = scrapy.Field()
    time = scrapy.Field()
    title = scrapy.Field()
    content = scrapy.Field()

三、制作爬虫(spiders/cnblogsSpider.py)

爬虫功能主要分两步:

1. 爬数据

  • 在当前目录下输入命令,将在cnblogSpider/spiders目录下创建一个名为cnblog的爬虫,并制定爬取域的范围:
scrapy genspider cnblog "cnblogs.com"
  • 打开cnblogSpider/spiders目录下的cnblog,默认增加了下列代码:
# -*- coding: utf-8 -*-
import scrapy


class CnblogSpider(scrapy.Spider):
    name = 'cnblog'
    allowed_domains = ['cnblogs.com']
    start_urls = ['http://cnblogs.com/']

    def parse(self, response):
        pass

其实也可以由我们自行创建cnblog.py并编写上面的代码,只不过使用命令可以免去编写固定代码的麻烦

要建立一个Spider,你必须用scrapy.Spider类创建一个子类,并确定了三个强制的属性和一个方法。

  • name = "": 这个爬虫的识别名称,必须是唯一的,在不同的爬虫必须定义不同的名字。
  • allow_domains=[]: 是搜索的域名范围,也就是爬虫的约束区域,规定爬虫只爬取这个域名下的网页,不存在的URL会被忽略。
  • start_urls=():爬取的URL元祖/列表。爬虫从这里开始爬取数据,所以,第一次下载的数据将会从这些urls开始。其他子URL将会从这些起始URL中继承性生成。
  • parse(self, response):解析的方法,每个初始URL完成下载后将被调用,调用的时候传入从每一个URL传回的Response对象来作为唯一参数,主要作用如下:
    1. 负责解析返回的网页数据(respose.body),提取结构化数据(生成item)
    2. 生成需要下一页的URL请求

将start_urls的值改为需要爬取的第一个url

start_urls=("http://www.cnblogs.com/miqi1992/default.html?page=2")

修改parse()方法

def parse(self, response):
    filename = "cnblog.html"
    with open(filename, 'w') as f:
        f.write(response.body)

然后运行一下看看,在cnblogSpider目录下运行:

scrapy crawl cnblog

是的,就是cnblog,看上面代码,它是CnblogSpider类的name属性,也就是scrapy genspider命令的唯一爬虫名。

运行之后,如果打印的日志出现[scrapy]INFO: Spider closed(finished),代表执行完成。之后当前文件夹中就出现了一个cnblog.html文件,里面就是我们刚刚要爬取的网页的全部源代码信息。

#注意,Python2.x默认编码环境是ASCII,当和取回的数据编码格式不一致时,可能会造成乱码;
#我们可以指定保存内容的编码格式,一般情况下,我们可以在代码最上方添加:
import os
reload(sys)
sys.setdefaultencoding('utf-8')
#这三行代码是Python2.x里面解决中文编码的万能钥匙,警告这么多年的吐槽后Python3学乖了,默认编码是Unicode了

2.爬数据

  • 爬取整个网页完毕,接下来就是取过程了,首先观察页面源码:


    页面结构
<div class="day">
    <div class="dayTitle">...</div>
    <div class="postTitle">...</div>
    <div class="postCon">...</div>
</div>
  • XPath表达式如下:
    • 所有文章:.//*[@class='day']
    • 文章发表时间:.//*[@class='dayTitle']/a/text()
    • 文章标题内容:.//*[@class='postTitle']/a/text()
    • 文章摘要内容:.//*[@class='postCon']/div/text()
    • 文章链接:.//*[@class='postTitle']/a/@href

是不是一目了然?直接上XPath开始提取数据吧。

  • 我们之前在cnblogSpider/items.py里定义了一个CnblogItem类。这里引入进来
from cnblogSpider.items import CnblogspiderItem
  • 然后将我们得到的数据封装到一个CnblogspiderItem对象中,可以保存每个博客的属性:

form cnblogSpider.items import CnblogspiderItem

def parse(self, response):
        # print(response.body)
        # filename = "cnblog.html"
        # with open(filename, 'w') as f:
        #     f.write(response.body)

        #存放博客的集合
        items = []

        for each in response.xpath(".//*[@class='day']"):
            item = CnblogspiderItem()
            url = each.xpath('.//*[@class="postTitle"]/a/@href').extract()[0]
            title = each.xpath('.//*[@class="postTitle"]/a/text()').extract()[0]
            time = each.xpath('.//*[@class="dayTitle"]/a/text()').extract()[0]
            content = each.xpath('.//*[@class="postCon"]/div/text()').extract()[0]

            item['url'] = url
            item['title'] = title
            item['time'] = time
            item['content'] = content 
            
            items.append(item)

        #直接返回最后数据
        return items
  • 我们暂时先不处理管道,后面会详细介绍。

保存数据

scrapy保存信息的最简单的方法主要有四种, -o 输出指定格式的文件,命令如下:

#json格式,默认为Unicode编码
scrapy crawl cnblog -o cnblog.json

#json lines格式,默认为Unicode编码
scrapy crawl cnblog -o cnblog.jsonl

#csv逗号表达式,可用excel打开
scrapy crawl cnblog -o cnblog.csv

#xml格式
scrapy crawl cnblog -o cnblog.xml

思考

如果将代码改成下面形式,结果完全一样

请思考yield在这里的作用:

form cnblogSpider.items import CnblogspiderItem

def parse(self, response):
        # print(response.body)
        # filename = "cnblog.html"
        # with open(filename, 'w') as f:
        #     f.write(response.body)

        #存放博客的集合
        # items = []

        for each in response.xpath(".//*[@class='day']"):
            item = CnblogspiderItem()
            url = each.xpath('.//*[@class="postTitle"]/a/@href').extract()[0]
            title = each.xpath('.//*[@class="postTitle"]/a/text()').extract()[0]
            time = each.xpath('.//*[@class="dayTitle"]/a/text()').extract()[0]
            content = each.xpath('.//*[@class="postCon"]/div/text()').extract()[0]

            item['url'] = url
            item['title'] = title
            item['time'] = time
            item['content'] = content 
            
            # items.append(item)
            #将获取到的数据交给pipelines
            yield item

        #直接返回最后数据,不经过pipelines
        #return items

参考:

  1. Python参考手册
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 151,688评论 1 330
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 64,559评论 1 273
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 101,749评论 0 226
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 42,581评论 0 191
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 50,741评论 3 271
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 39,684评论 1 192
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,122评论 2 292
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 29,847评论 0 182
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 33,441评论 0 228
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 29,939评论 2 232
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,333评论 1 242
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 27,783评论 2 236
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,275评论 3 220
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 25,830评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,444评论 0 180
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 34,553评论 2 249
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 34,618评论 2 249

推荐阅读更多精彩内容