我所理解的HTTP协议

96
斜杠Allen
2018.08.05 15:29* 字数 5756

前言

对于HTTP协议,想必大家都不陌生,在工作中经常用到,特别是针对移动端和前端开发人员来说,要获取服务端数据,基本走的网络请求都是基于HTTP协议,特别是RESTFUL + JSON 这种搭配特别主流。那如果让大家具体讲讲HTTP协议背后的历史、原理、交互流程、与HTTPS区别、身份认证、Web攻防技术等等信息,大家能讲的出来吗,反正我讲的也是一知半解,虽然会经常看这方面的文章,但也只是在具体项目进行开发过程中碰到对某个概念不清楚,才会去特意看下,却没有特意去总结归纳为一直知识点,没有完整的表达描述过,其实对这个知识点还是没掌握好的,所以用写作方式来进行阐述是很好一个方式,目前也正在践行着。

思维导图

在写作之前,这篇文章主要想讲的内容在以下这张图中,通过做思维导图方式来表达一篇文章内容,我觉得逻辑会特别清楚,同时也是对某个知识点会很好进行总结归纳。


HTTP

HTTP历史

发展由来

在1989 年 3 月, 互联网还只属于少数人。 在这一互联网的黎明期, HTTP 诞生了。CERN( 欧洲核子研究组织)的蒂姆 • 伯纳斯 - 李( Tim BernersLee)博士提出了一种能让远隔两地的研究者们共享知识的设想。 最初设想 的 基本理念是: 借助多文档之间相互关联形成的超文本( HyperText),连成可相互参阅的 WWW( World Wide Web,万维网)。并且版本从 HTTP 1.0 到 HTTP 1.1 再到现在的 HTTP 2.0,目前主流版本还是基于 HTTP 1.1,HTTP 协议同时也是目前互联网上应用最为广泛的一种网络协议,所有的 WWW 文件都必须遵守这个标准,设计HTTP 最初的目的是为了提供一种发布和接收 HTML 页面的方法。

TCP/IP

我们都知道 HTTP 协议在 根据 TCP/IP 网络分层来看,它是属于应用层,TCP/IP 网络分层总共有5层,它是属于最上层,它的下一层则是 TCP/IP 传输层,如图所示:

TCP通信过程

从逻辑平行来看,发送方和接受方都是处于同一平行层,发送方每层传递的信息会在下一层进行信息封装加密,然后逐层传递,通过实际物理链路进行传递,然后接收方接收到信息进行解密分析,不断把报文头信息进行还原,最后处理发送方发送过来的信息,处理完之后,再用同样的方式传递回去,两者传输通信方式是全双工模式。在此之前需要一个建立连接过程,所谓的三次握手,通信结束也有断开连接过程,也就是四次握手断开操作。

在讲述 HTTP 协议为何了解 TCP/IP 内容呢,因为我们需要知道 HTTP 协议实际通信过程是怎么样的,它所依赖的环境是怎么样的,从切面角度去看,实际是经历了这5层通信,从平面去看,默认以为是客户端与服务端仅仅进行平层通信而已,那是因为封装的方便。

HTTP 1.1

因为目前主流在用的还是以 HTTP 1.1 版本为主,那就用这个版本来分析。

HTTP请求协议详解

一个典型HTTP1.1的请求协议报文结构,大体上可以分为三块,即请求行、头部、消息主体。

HTTP请求报文协议

请求行

请求行包含HTTP请求方法、请求的URL、HTTP协议版本三个内容,它们之间以空格间隔,并以回车+换行结束。HTTP请求方法有下面几种,常用的有GET、POST请求。

  • OPTIONS
  • GET
  • HEAD
  • POST
  • DELETE
  • TRACE
  • CONNECT

请求头部

头部可以分成三个部分,为常用头域、请求头域、实体头域。其中常用头域和实体头域部分内容在响应协议部分也有相同的定义。

常用头域

常用头域名称 作用描述
Cache-Control 缓存控制
Connection HTTP 1.1默认是支持长连接的(Keep-Alive),如果不希望支持长连接则需要在此域中写入close
Date 表明消息产生的日期和时间
Pragma
Trailer
Transfer-Encoding 告知接收端为了保证报文的可靠传输,对报文采用了什么编码方式
Upgrade 给出了发送端可能想要”升级”使用的新版本或协议
Via 显示了报文经过的中间节点(代理、网关)
Warning

请求头域

请求头域名称 作用描述
Accept 指明请求端可以接受处理的媒体类型
Accept-Charset 指明请求端可以接受的字符集
Accept-Encoding 指明请求端可以接受的编码格式
Authorization 授权
Expect 允许客户端列出某请求所要求的服务器行为
From 提供了客户端用户的E-mail地址
Host 指明请求端的网络主机和端口号
If-Match 服务端在响应头部里面返回ETag信息,客户端请求时在头部添加If-Match(值为响应的ETag),服务端接收后判断ETag是否相同,若相同则处理请求,否则不处理请求。
If-Modified-Since 客户端在请求某一资源文件时,在头部加上If-Modified-Since(值为该资源文件的最后修改时间),服务端接收后将客户端上报的修改时间与服务器存储的文件的最后修改时间做对比,如果相同,说明资源文件没有更新,返回304状态码,告诉客户端使用原来的缓存文件。否则返回资源内容。
If-None-Match 服务端在响应头部里面返回ETag信息,客户端请求时在头部添加If-None-Match(值为响应的ETag),服务端接收后判断ETag是否相同,若相同,说明资源没有更新,返回304状态码,告诉客户端使用原来的缓存文件。否则返回资源内容。
If-Range 该头域与Range头域一起使用,服务端在响应头部里面返回ETag信息,客户端请求时在头部添加If-Range(值为响应的ETag),服务端接收后判断ETag是否相同,若相同,则返回状态码206,返回内容为Range指定的字节范围。若不相同,则返回状态码200,返回内容为整个实体。
If-Unmodified-Since 客户端在请求某一资源文件时,在头部加上If-Modified-Since(值为该资源文件的最后修改时间),端接收后将客户端上报的修改时间与服务器存储的文件的最后修改时间做对比,如果相同,则返回资源内容,如果不相同则返回状态码412。
Max-Forwards 配合TRACE、OPTIONS方法使用,限制在通往服务器的路径上的代理或网关的数量。
Proxy-Authorization 代理授权
Range 表示客户端向服务端请求指定范围的字节数量:Range:bytes=0-500表示请求第1个到第501个的字节数量。Range:bytes=100-表示请求第101到文件倒数第一个字节的字节数量。Range:bytes=-500表示请求最后500个字节的数量。Range可以同时指定多组(Range:bytes=500-600,601-999)。并不是所有的服务端都支持字节范围请求的,如果支持字节范围请求,服务端会返回状态码206,若不支持则会返回200,客户端需要根据状态码来判断服务端是否支持字节范围操作。此域可用于断点下载,即在断点处请求后面的内容,也可用于多线程下载同一个文件,每个线程负责一个文件的一部分下载工作,多个线程协同完成整个文件的下载。
Referer 用于指定客户端请求的来源,是从搜索引擎过来的?还是从其它网站链接过来的?服务器根据此域,有时可以用做防盗链处理,不在指定范围内的来源,统统拒绝。
TE 指明客户端可以接受哪些传输编码。

实体头域

实体头域名称 作用描述
Allow 指明被请求的资源所支持的方法,如GET、HEAD、PUT
Content-Encoding 指明实体内容所采用的编码方式
Content-Language 指明实体内容使用的语言
Content-Length 指明请求实体的字节数量
Content-Location 可以用来为实体提供对应资源的位置
Content-MD5 指定实体内容的MD5,用于内容的完整性校验(base64的128位MD5)
Content-Range
Content-Type 指定实体的媒体类型
Expires 指明实体的过期时间
Last-Modified 指明实体最后被修改的时间

HTTP响应协议详解

HTTP1.1的响应协议报文结构,大体上可以分为三块,即状态行、头部、消息主体。

HTTP响应报文协议

状态行

状态行包含HTTP协议版本、状态码、原因短语三个内容,它们之间以空格间隔,并以回车+换行结束。

状态码由三位数字组成,第一位数字定义了响应类型,主要有如下五种类型的状态码

状态码类型 作用描述
1xx 报告(请求被接收,继续处理)
2xx 成功(请求被成功的接收并处理)
3xx 重发
4xx 客户端出错(客户端错误的协议格式和不能处理的请求)
5xx 服务器出错(服务器无法完成有效的请求处理)

状态码和对应的原因短语详细描述

状态码 原因短语 中文描述
100 Continue 继续
101 Switching Protocols 切换协议
200 OK 成功
201 Created 已创建
202 Accepted 接受
203 Non-Authoritative information 非权威信息
204 No Content 无内容
205 Reset Content 重置内容
206 Partial Content 部分内容
300 Multiple Choices 多个选择
301 Moved Permanently 永久移动
302 Found 发现
303 See Other 见其它
304 Not Modified 没有改变
305 Use Proxy 使用代理
307 Temporary Redirect 临时重发
400 Bad Request 坏请求
401 Unauthorized 未授权的
402 Payment Required 必需的支付
403 Forbidden 禁用
404 Not Found 没有找到
405 Method Not Allowed 方法不被允许
406 Not Acceptable 不可接受的
407 Proxy Authentication Required 需要代理验证
408 Request Timeout 请求超时
409 Confilict 冲突
410 Gone 不存在
411 Length Required 长度必需
412 Precondition Failed 先决条件失败
413 Request Entity Too Large 请求实体太大
414 Request-URI Too Long 请求URI太长
415 Unsupported Media Type 不支持的媒体类型
416 Requested Range Not Satisfiable 请求范围不被满足
417 Expectation Failed 期望失败
500 Internal Server Error 内部服务器错误
501 Not Implemented 服务端没有实现
502 Bad Gateway 坏网关
503 Service Unavailable 服务不能获得
504 Gateway Timeout 网关超时
505 HTTP Version Not Supported HTTP协议版本不支持

响应头域

响应头域名称 作用描述
Accept-Ranges 服务器向客户端指明服务器对范围请求的接受度
Age 从原始服务器到代理缓存形成的估算时间(以秒计,非负)
ETag 实体标签
Location 指定重定向的URI
Proxy-Autenticate 它指出认证方案和可应用到代理的该URL上的参数
Retry-After 如果实体暂时不可取,通知客户端在指定时间之后再次尝试
Server 指明服务器用于处理请求的软件信息
Vary 告诉下游代理是使用缓存响应还是从原始服务器请求
WWW-Authenticate 表明客户端请求实体应该使用的授权方案

交互流程

HTTP通信过程

整体通信其实就是发送/响应过程,一个请求过去,对方有响应内容来返回,请求发送和响应回答方式,同时 HTTP 1.1 的特点是无状态的、快速响应的,一次连接则马上就断开。HTTP 2.0 则是相反,完善了 HTTP 1.1 出现的问题,两者连接是可复用的,同时可支持并行发送,一次多个文件传递,多个文件响应,支持传递的文件大小以二进制方式,这样确保可支持更大文件,在安全性上比 HTTP 1.1上更强大,具体细节可查阅相关文档。

URL 和 URI

这里有必要提下 URL 和 URI 这个两个名词的区别。URL表示标记了一个WWW互联网资源(用地址标记),并给出了他的访问地址。而URI表示一个网络资源,仅此而已。

HTTPS

通信流程

HTTPS通信过程

具体步骤:

步骤 1:客户端通过发送 Client Hello 报文开始 SSL 通信。 报文中包含客户端支持的 SSL 的指定版本、 加密组件(Cipher Suite)列表(所使用的加密算法及密钥长度等)。

步骤 2:服务器可进行 SSL 通信时, 会以 Server Hello 报文作为应答。 和客户端一样, 在报文中包含 SSL 版本 以及加密组件。 服务器的加密组件内容是从接收到的客户端加密组件内筛选出来的。

步骤 3:之后服务器发送 Certificate 报文。 报文中包含公开密钥证书。

步骤 4:最后服务器发送 Server Hello Done 报文通知客户端, 最初阶段的 SSL 握手协商部分结束。

步骤 5:SSL 第一次握手结束之后, 客户端以 Client Key Exchange 报文作为回应。 报文中包含通信加密中使用 的一种被称为 Pre- master secret 的随机密码串。 该报文已用步骤 3 中的公开密钥进行加密。

步骤 6:接着客户端继续发送 Change Cipher Spec 报文。 该报文会提示服务器, 在此报文之后的通信会采用 Pre- master secret 密钥加密。

步骤 7:客户端发送 Finished 报文。 该报文包含连接至今全部报文的整体校验值。 这次握手协商是否能够成功, 要以服务器是否能够正确解密该报文作为判定标准。

步骤 8:服务器同样发送 Change Cipher Spec 报文。

步骤 9:服务器同样发送 Finished 报文。

步骤 10:服务器和客户端的 Finished 报文交换完毕之后, SSL 连接就算建立完成。 当然, 通信会受到 SSL 的保护。 从此处开始进行应用层协议的通信, 即发送 HTTP 请求。

步骤 11: 应用层协议通信, 即发送 HTTP 响应。

步骤 12: 最后 由 客户 端断开连接。 断开连接时, 发送 close_ notify 报文。 上图做了一些省略, 这步之后再 发送 TCP FIN 报文来关闭与 TCP 的通信。

加密算法

常见的加密算法可以分成三类,对称加密算法,非对称加密算法和Hash算法。

对称加密

指加密和解密使用相同密钥的加密算法。对称加密算法的优点在于加解密的高速度和使用长密钥时的难破解性。假设两个用户需要使用对称加密方法加密然后交换数据,则用户最少需要2个密钥并交换使用,如果企业内用户有n个,则整个企业共需要n×(n-1) 个密钥,密钥的生成和分发将成为企业信息部门的恶梦。对称加密算法的安全性取决于加密密钥的保存情况,但要求企业中每一个持有密钥的人都保守秘密是不可能的,他们通常会有意无意的把密钥泄漏出去——如果一个用户使用的密钥被入侵者所获得,入侵者便可以读取该用户密钥加密的所有文档,如果整个企业共用一个加密密钥,那整个企业文档的保密性便无从谈起。

常见的对称加密算法:DES、3DES、DESX、Blowfish、IDEA、RC4、RC5、RC6和AES

非对称加密

指加密和解密使用不同密钥的加密算法,也称为公私钥加密。假设两个用户要加密交换数据,双方交换公钥,使用时一方用对方的公钥加密,另一方即可用自己的私钥解密。如果企业中有n个用户,企业需要生成n对密钥,并分发n个公钥。由于公钥是可以公开的,用户只要保管好自己的私钥即可,因此加密密钥的分发将变得十分简单。同时,由于每个用户的私钥是唯一的,其他用户除了可以可以通过信息发送者的公钥来验证信息的来源是否真实,还可以确保发送者无法否认曾发送过该信息。非对称加密的缺点是加解密速度要远远慢于对称加密,在某些极端情况下,甚至能比非对称加密慢上1000倍。

常见的非对称加密算法:RSA、ECC(移动设备用)、Diffie-Hellman、El Gamal、DSA(数字签名用)

Hash算法

Hash算法特别的地方在于它是一种单向算法,用户可以通过Hash算法对目标信息生成一段特定长度的唯一的Hash值,却不能通过这个Hash值重新获得目标信息。因此Hash算法常用在不可还原的密码存储、信息完整性校验等。

常见的Hash算法:MD2、MD4、MD5、HAVAL、SHA、SHA-1、HMAC、HMAC-MD5、HMAC-SHA1

数字证书和数字签名证书

数字证书是由权威的CA机构颁发的无法被伪造的证书,用于校验发送方实体身份的认证。解决如上问题,只需要发送方A找一家权威的CA机构申请颁发数字证书,证书内包含A的相关资料信息以及A的公钥,然后将正文A、数字证书以及A生成的数字签名发送给B,此时中间人M是无法篡改正文内容而转发给B的,因为M不可能拥有这家CA的私钥,无法随机制作数字证书。当然,如果M也申请了同一家CA的数字证书并替换发送修改后的正文、M的数字证书和M的数字签名,此时B接收到数据时,会校验数字证书M中的信息与当前通信方是否一致,发现数字证书中的个人信息为M并非A,说明证书存在替换风险,可以选择中断通信。

为什么CA制作的证书是无法被伪造的?其实CA制作的数字证书内还包含CA对证书的数字签名,接收方可以使用CA公开的公钥解密数字签名,并使用相同的摘要算法验证当前数字证书是否合法。制作证书需要使用对应CA机构的私钥,因此CA颁发的证书是无法被非法伪造的(CA的私钥泄露不在考虑讨论与考虑范围内)。

数字证书签名的基础就是非对称加密算法和数字签名,其无法伪造的特性使得其应用面较广,HTTPS中就使用了数字证书来保证握手阶段服务端传输的公钥的可靠性。

数字签名是非对称加密算法和摘要算法的一种应用,能够保证信息在传输过程中不被篡改,也能保证数据不能被伪造。使用时,发送方使用摘要算法获得发布内容的摘要,然后使用私钥对摘要进行加密(加密后的数据就是数字签名),然后将发布内容、数字签名和公钥一起发送给接收方即可。接收方接收到内容后,首选取出公钥解密数字签名,获得正文的摘要数据,然后使用相同的摘要算法计算摘要数据,将计算的摘要与解密的摘要进行比较,若一致,则说明发布内容没有被篡改。

身份认证

计算机本身无法判断坐在显示器前的使用者的身份。 进一步说, 也无法确认网络的那头究竟有谁。 可见,为了 弄清究竟是谁在访问服务器, 就得让对方的客户端自报家门。 比如,就算正在访问服务器的对方声称自己是 小明, 身份是否属实这点却也无从谈起。 为确认小明本人是否真的具有访问系统的权限, 就需要核对“ 登录者 本人才知道的信息”、“ 登录者本人才会有的信息”。所以才需要以下几种验证。

  • Basic认证:Basic 认证是HTTP中非常简单的认证方式,因为简单,所以不是很安全,不过仍然非常常用。当一个客户端向一个需要认证的HTTP服务器进行数据请求时,如果之前没有认证过,HTTP服务器会返回401状态码,要求客户端输入用户名和密码。用户输入用户名和密码后,用户名和密码会经过BASE64加密附加到请求信息中再次请求HTTP服务器,HTTP服务器会根据请求头携带的认证信息,决定是否认证成功及做出相应的响应。
  • Digest认证:Digest 认证试图解决 Basic 认证的诸多缺陷而设计,用户密码在整个认证过程中是个关键性要素。
  • SSL客户端认证:从使用用户 ID 和密码的认证方式方面来讲, 只要二者的内容正确, 即可认证是本人的 行为。 但如果用户 ID 和密码被盗, 就很有可能被第三者冒充。 利用 SSL 客户端认证则可以避免 该情况的发生。 SSL 客户端认证是借由 HTTPS 的客户端证书完成认证的方式。 凭借客户端证书认证, 服务器可确认访问是否来自已登录的客户 端。

Web攻防技术

常见的web攻击技术有哪些呢,如下:

1,XSS 跨站攻击技术:主要是攻击者往网页里嵌入恶意脚本,或者通过改变 HTML 元素属性来实现攻击,主要原因在于开发者对用户的变量直接使用导致进入 HTML 中会被直接编译成 JS,通常的 GET 请求通过 URL 来传参,可以在 URL 中传入恶意脚本,从而获取信息,解决方法:特殊字符过滤。

2,SQL 注入攻击:主要是就是通过把 SQL 命令插入到 Web 表单提交或输入域名或页面请求的查询字符串,最终达到欺骗服务器执行恶意的 SQL 命令,比如 select * from test where username="wuxu" or 1=1,这样会使用户跳过密码直接登录,具体解决方案:

  • 特殊字符过滤,不要用拼接字符串的方法来凑sql语句。
  • 对 sql 语句进行预编译,比如 java 的 preparedstatement。
  • 关闭错误信息,攻击者可能会通过不断的尝试来得到数据库的一些信息,所以关闭错误信息变得重要起来。
  • 客户端对数据进行加密,使原来传进来的参数因为加密而被过滤掉。
  • 控制数据库的权限,比如只能 select,不能 insert,防止攻击者通过 select * from test ;drop tables这种操作。

3,OS 命令注入攻击:系统提供命令执行类函数主要方便处理相关应用场景的功能.而当不合理的使用这类函数,同时调用的变量未考虑安全因素,就会执行恶意的命令调用,被攻击利用。主要原因是服务端在调用系统命令时采用的是字符串连接的方式,比如 a="a.txt;rm -rf *",system("rm -rf {$a}"),这会给服务端带去惨痛的代价,具体解决方案:

  • 在程序开发时少用系统命令,执行命令的参数尽量不要从外部获取。
  • 参数特殊字符过滤

4,HTTP 首部注入攻击

5,邮件首部注入攻击:它允许恶意攻击者注入任何邮件头字段,BCC、CC、主题等,它允许黑客通过注入手段从受害者的邮件服务器发送垃圾邮件。主要是利用邮件系统传参的bug来进行攻击,解决方法:1、使用正则表达式来过滤用用户提交的数据。例如,我们可以在输入字符串中搜索(r 或 n)。2、永远不要信任用户的输入。3、使用外部组建和库

6,目录遍历攻击:目录遍历是Http所存在的一个安全漏洞,它使得攻击者能够访问受限制的目录,并在Web服务器的根目录以外执行命令。

7,远程目录包含攻击,原理就是注入一段用户能控制的脚本或代码,并让服务端执行。比如 php 中的include($filename),而此 filename 由用户传入,用户即可传入一段恶意脚本,从而对服务其造成伤害,解决方法:当采用文件包含函数的时候,不应动态传入,而应该有具体的文件名,如果动态传入,要保证动态变量不被用户所控制

8,会话劫持:这是一种通过获取用户Session ID后,使用该 Session ID 登录目标账号的攻击方法,此时攻击者实际上是使用了目标账户的有效 Session。会话劫持的第一步是取得一个合法的会话标识来伪装成合法用户,因此需要保证会话标识不被泄漏,通俗一点就是用户在登录时,唯一标示用户身份的 session id被劫持,使得攻击者可以用这个 session id 来进行登录后操作,而攻击者主要是通过 窃取:使用网络嗅探,XSS 攻击等方法获得。而第一种方式网络嗅探,我们可以通过 ssl 加密,也就是 https 来对报文进行加密,从而防止报文被截获,而第二种方式xss 攻击,方式在第一种已经给出,不再赘述。此外通过设置 HttpOnly。通过设置 Cookie 的 HttpOnly 为 true,可以防止客户端脚本访问这个 Cookie,从而有效的防止 XSS 攻击,还有就是设置 token 验证。关闭透明化Session ID。透明化 Session ID 指当浏览器中的 Http 请求没有使用 Cookie 来存放 Session ID 时,Session ID 则使用URL来传递。

9,会话固定:会话固定是会话劫持的一种,区别就是,会话固定是攻击者通过某种手段重置目标用户的SessionID,然后监听用户会话状态;用户携带sessionid进行登录,攻击者获取sessionid来进行会话,解决方案:服务端设置用户登录后的sessionid与登录前不一样即可,另外会话劫持的方法也可以用在会话固定上

10,csrf跨站伪造请求攻击:其实就是攻击者盗用了你的身份,以你的名义发送恶意请求。

总的来说,通过输出这么一篇文章,自己的对 HTTP 协议有了进一步的认知,同时也通过写作整理过程让自己对某一个知识点有很好的联想和串联,积累从点开始,然后形成面,最后就会有一个知识树生长起来。

基础知识
Web note ad 1