2018-08-28

  • 一、http和https
    • HTTP的全称是Hyper Transfer Protocol ---->超文本传输协议,主要从网络传输超文本数据到本地浏览器的传输协议。
      HTTPS的全称Hpyer Text Transfer Protocol over Secure Socket Layer,试验权为目标的HTTP通道。
      HTTPS的安全基础为SSL,因此通过它传输的内容都经过的SSL加密,其主要分为两种:
      • 建立一个信息通道保证数据传输的安全
      • 确认网站的真实性,可以通过点击浏览器地址栏的锁头标志来查看网站认证之后的真实信息,可以通过CA机制panda的安全签章查询。
    • 爬取SSL加密的网站需要设置忽略证书的选项,否则提示SSL连接错误。
  • 二、HTTP请求过程
    • 1、请求:有客服端向服务端发出,分为4部分内容:
      请求方式(Request Method)、请求网址(Request URL)、请求头(Request Header)、请求体(Request Body)。
      • 常见的请求方法两种:GET和POST
        1. GET 请求:GET请求中的参数包含在URL里面,数据可以在URL中看到,而POST请求的URL不会包含这些数据,数据都是通过表单形式传输的,包含在请求体中。
        2. GET请求提交的数据最多只有1024字节,而POST方式没有限制。
          HTTP1.0定义了三种请求方法: GET, POST 和 HEAD方法。
          HTTP1.1新增了五种请求方法:OPTIONS, PUT, DELETE, TRACE 和 CONNECT 方法。
          序号 方法 描述
          1 GET 请求指定的页面信息,并返回实体主体。
          2 HEAD 类似于get请求,只不过返回的响应中没有具体的内容,用于获取报头
          3 POST 向指定资源提交数据进行处理请求(例如提交表单或者上传文件)。数据被包含在请求体中。POST请求可能会导致新的资源的建立和/或已有资源的修改。
          4 PUT 从客户端向服务器传送的数据取代指定的文档的内容。
          5 DELETE 请求服务器删除指定的页面。
          6 CONNECT HTTP/1.1协议中预留给能够将连接改为管道方式的代理服务器。
          7 OPTIONS 允许客户端查看服务器的性能。
          8 TRACE 回显服务器收到的请求,主要用于测试或诊断。
    • 2、请求的网址:
      • 请求的网址。及统一资源定位符URL,它可以唯一确定我们想请求的资源。
    • 3、请求头:用来说明服务器使用的附加信息有cookie、Referer、User-Agent等。
      • Accept:请求报头域,用于指定客服端可接受的信息类型
      • Accept-Language:指定客服端可接受的语言类型
      • Accept-Encoding:指定客服端可接受的内容编码
      • Host:用于指定请求资源的IP和端口号,其内容为请求的URL的原始服务器或弯管的位置。
      • cookie:网站为了辨别用户会话而存储在用户本地的数据,用于维持当前访问的会话。
      • Referer:用来表示这个请求是从那个页面发过来的,可以做来源统计、防盗链处理等。
      • User-Agent:简称UA ,他是一个特殊的字符串头,可以是服务器识别客服使用的操作系统及版本、浏览器及版本等信息,在爬虫时可以伪装成浏览器。
      • Content-Type:用来表示请求中的媒体类型
    • 4、请求体
      • 请求体一般承载POST请求中的表达数据,对于GET请求,请求体则为空。
  • 响应
    响应,由服务器返回给客服端,可以分为三部分:响应状态码(Response Code)、响应头(Rsponse Headers)和响应体(Response Body)
    • 响应状态码:表示服务器响应状态
      • 200 成功 服务器已成功处理了请求
      • 307 临时重定向 请求的网页展示跳转到其他页面,即暂时重定向
      • 403 禁止访问 服务器拒绝请求
      • 400 错误请求 服务器无法解析该请求
      • 404 未找到 服务器找不到亲球的网页
      • 500 服务器内部错误 服务器错误无法完成请求
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 161,326评论 4 369
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 68,228评论 1 304
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 110,979评论 0 252
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,489评论 0 217
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,894评论 3 294
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,900评论 1 224
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 32,075评论 2 317
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,803评论 0 205
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,565评论 1 249
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,778评论 2 253
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,255评论 1 265
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,582评论 3 261
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,254评论 3 241
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,151评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,952评论 0 201
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 36,035评论 2 285
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,839评论 2 277

推荐阅读更多精彩内容