Web开发须知的浏览器内幕 缓存与存储篇(2)

简介: 本文禁止转载,由UC浏览器内部出品。3. HTTP Cache综述HTTP Cache是完全按照IETF规范实现的,最新的RFC规范地址是 https://tools.ietf.org/html/rfc7234。
+关注继续查看

本文禁止转载,由UC浏览器内部出品。

3. HTTP Cache

综述

HTTP Cache是完全按照IETF规范实现的,最新的RFC规范地址是
https://tools.ietf.org/html/rfc7234。它的作用就是保存可缓存的响应以备重新使用,在下次请求时可减少响应时间和网络带宽。只有GET和HEAD method会缓存。

浏览器的优化

浏览器是过滤了部分没有意义进行缓存的响应头才保存到磁盘,例如Connection(keep-alive)、www-authenticate等。这能减少耗时较多的磁盘IO时间。另外Cookie也不会保存在HTTP Cache,而是存到专门的Cookie Storage。

新的规范允许先使用后验证(stale-while-revalidate)https://tools.ietf.org/html/rfc5861

在隐身模式下,不存在磁盘读写的HTTP Cache。
http://www.chromium.org/user-experience/incognito
但是某些浏览器厂商可能做优化,在临时文件夹中读写,退出或重启即删。

容量

容量是以整体计算的,不区分Domain。

Android WebView是20MB。iOS WebView也可能是20MB(根据https://github.com/gnustep/base/blob/master/Source/NSURLCache.m,不确定GNUstep是否也是Apple的源码)。

PC上的Chromium是以80MB为基准结合磁盘可用空间来考虑的,最大是320MB。算法是:

// js伪代码
if (可用空间 < 100MB)
  容量 = 80%的可用空间  // < 80MB
else if (可用空间 < 800MB)
  容量 = 80MB
else if (可用空间 < 2000MB)  // 约2GB
  容量 = 10%的可用空间  // < 200MB
else if (可用空间 < 20000MB)  // 约20GB
  容量 = 200MB
else  // >= 20000MB
  容量 = Math.min(1%的可用空间, 320MB)  // 200MB <= 容量 <= 320MB

其它基于Chromium开发的浏览器可能会修改这个算法,特别是移动浏览器会扩大那个常量值,以更高容量来提高资源复用数(嗯,不是复用率)。

淘汰

淘汰算法是一般是LRU,但在一些场景会结合文件大小、时间因素等做进一步优化。Cache的管理模块会记录总的缓存大小,每次创建新的缓存时会判断是否缓存是否超出容量限制,满了就会按LRU淘汰一定比例的缓存。

浏览器需要对缓存的文件进行索引,如果这个索引损坏,浏览器会删除所有的缓存。用户也可以通过设置界面来删除。此外,第三方程序也会做清理。

Revalidation

用户点击刷新按钮,会强制走revalidate流程,其它的情况都按照规范来执行。

RFC规范不只是为服务器和浏览器设计的,还考虑了网络中的各种节点,比如代理服务器、CDN服务器、智能路由等。

Chromium肯定是严格遵守RFC规范的,但第三方浏览器通常会破坏这些规范来获得一定的性能提升。比如更宽松的缓存条件。

Chromium代码参考:http_response_headers.cc : RequiresValidation

后端优化

后端需要在响应中添加Cache-Control来利用浏览器缓存。

  • Expires不要超过一年。
  • 稳定的文件应该加上max-age。max-age不要大于2^31,以免大于int32而变成负数。
  • Some HTTP/1.0 caches might not implement Cache-Control.对HTTP 1.0可以使用Pragma

没有任何与过期相关的指令的话,是由client端决定是否缓存的。Chromium有缓存,但再次请求的时候并不会走Revalidate流程,还是会得到200 OK。

因为HTTP Cache以URL为key,所以不想用以前的缓存,则可以更换URL,例如加不同的query、改文件名(如加上MD5或版本号)等。URL是忽略锚点的。

要做性能优化的同学,可以在协议文档里淘金。鉴于网上也有不少文章,这里不做整理了。

4. Cookie Storage

综述

因为Cookie是在多个请求头中复用数据的,所以需要从响应头中抽取出来另外保存。而且Cookie有自己的生命周期管理语法,就有独立的模块来管理。Cookie数据同时保存在内存和磁盘。

容量

容量是规范里就有建议最小值的。最新规范是RFC6265,它引用两个比较旧的规范RFC2965RFC2109

其中最老的规范RFC2109的6.3.1节中就有说明:

拒绝服务攻击
   浏览器应该按照host或域名设置Cookie的数量和数据大小上限。
Denial of Service Attacks
   User agents may choose to set an upper bound on the number of cookies
   to be stored from a given host or domain name or on the size of the
   cookie information.  Otherwise a malicious server could attempt to
   flood a user agent with many cookies, or large cookies, on successive
   responses, which would force out cookies the user agent had received
   from other servers.  However, the minima specified above should still
   be supported.

Chromium的实现是:
- 每个Cookie的最大长度为4096 bytes。大于这个长度的Cookie将不被处理,即不会保存。
- 每个域的最大数量是180个
- 总体的个数是3300个

这里有各个浏览器的Cookie限制列表:http://browsercookielimits.squawky.net/

内存缓存

从容量可知,所有Cookie占用的最大内存为3300*4K ≈ 13M。这点内存在手机上也是支撑得了的,所以Chromium会把硬盘上的全部Cookie数据都读到内存,每次发送请求都是在内存中查找,所以速度很快。在收到响应,需要创建或更新Cookie时,Chromium才会去写硬盘。而这个写操作是在非网络线程中完成的,避免慢速的文件IO占用网络线程的时间。

内存中的组织是以eTLD+1为key放在multimap里。

Chromium用SQLite存放cookie。在PC上是对value加密的。在iOS不加密,因为它的沙箱机制足够完善了,除非越狱。

Chromium把增删改表示为操作,向数据库发指令,而不是全部写一次。它是在后台线程flush。每30秒或满512次操作就直接Flush。

参考
http://www.quantum-step.com/download/sources/mystep/Foundation/Sources/NSHTTPCookieStorage.m
Apple是用了系统的NSHTTPCookieStorage。是全写的。

(注:本节的描述经过简化,非真实完整的实现)

淘汰

每次创建或更新Cookie就会进行垃圾回收的判断。有下列的规则:
1. 先淘汰过期的。即超出Max-Age指定时间。
2. 如果超出容量,则会按LRU规则(这里的used是指accessed)淘汰掉300个Cookie。
3. 如果最近30天内有访问过,即使超出容量也不会淘汰掉。

下面是Chromium源码中的部分注释供参考。

// Any cookies accessed more recently than kSafeFromGlobalPurgeDays will not
// be evicted by global garbage collection, even if we have more than
// kMaxCookies.  This does not affect domain garbage collection.
const int CookieMonster::kSafeFromGlobalPurgeDays = 30;


const size_t CookieMonster::kPurgeCookies = 300;

const size_t CookieMonster::kDomainCookiesQuotaLow = 30;
const size_t CookieMonster::kDomainCookiesQuotaMedium = 50;
const size_t CookieMonster::kDomainCookiesQuotaHigh =
    kDomainMaxCookies - kDomainPurgeCookies - kDomainCookiesQuotaLow -
    kDomainCookiesQuotaMedium;

开发建议

  • 浏览器可能会被用户设置成禁用Cookie。当确实需要Cookie而发现获取不了时,请做好一定的提示,提升用户体验。
  • 设好max-age,不要让冗余的cookie加入到请求头里,可加速连网过程。
  • 因为都在内存,Cookie操作的时耗较少,但太大的cookie会在连网阶段造成较高的延时。还是乖乖地加上Expire吧。
目录
相关文章
|
3月前
|
存储 缓存 前端开发
Web Server 设置缓存响应字段的一些推荐方案
Web Server 设置缓存响应字段的一些推荐方案
32 1
|
9月前
|
存储 缓存 负载均衡
CDN前传:Internet Web 复制和缓存分类法
自 1990 年推出以来,万维网已从简单的客户端服务器模型演变为复杂的分布式体系结构。这种演变主要是由于与指数增长相关的扩展问题。已经出现了不同的范例和解决方案来满足特定的要求。为满足这种增长需求而采用的两个核心基础架构组件是复制和缓存。在许多情况下,需要 Web 缓存和复制服务能够共存。
151 0
CDN前传:Internet Web 复制和缓存分类法
|
存储 缓存 安全
Web缓存服务——Squid代理服务器应用(下)
正向代理:代替客户端向服务端发送请求。 反向代理:代理服务端,将请求转发给多个服务端。
125 0
|
缓存 网络安全 Apache
Web缓存服务——Squid代理服务器应用(中)
正向代理:代替客户端向服务端发送请求。 反向代理:代理服务端,将请求转发给多个服务端。
139 0
|
缓存 前端开发 JavaScript
Web缓存服务——Squid代理服务器应用(上)
正向代理:代替客户端向服务端发送请求。 反向代理:代理服务端,将请求转发给多个服务端。
340 1
|
存储 移动开发 缓存
HTML5相关面试题:1.H5新特性;2. HTML5 新标签的浏览器兼容问题;3.H5 的离线存储;4.H5缓存和常规缓存有什么差别;5:H5缓存优势;6.Web Worker 和Web作用
●拖放(Drag and drop) API. ●语义化更好的内容标签( header、nav、footer、 aside、 article、 section )。 ●音频、 视频(audio、video) API。 ●画布( Canvas) API。 ●地理( Geolocation) API。 ●本地离线存储( localStorage),即长期存储数据,浏览器关闭后数据不丢失。 ●会话 存储( sessionStorage),即数据在浏览器关闭后自动删除。 ●表单控件包括calendar、date、 time、 email、 url、 search ●新的技术包括webworker、we
162 0
|
缓存 监控 网络协议
Web的缓存加速
Web的缓存加速(Squid的安装与配置) 1.Squid代理服务器基础知识
148 0
Web的缓存加速
|
缓存 负载均衡 应用服务中间件
Nginx - Web 缓存技术简述
Nginx - Web 缓存技术简述
120 0
|
存储 缓存 监控
RH358优化Web服务器流量--使用Varnish缓存静态网页
RH358优化Web服务器流量--使用Varnish缓存静态网页
198 0
RH358优化Web服务器流量--使用Varnish缓存静态网页
|
存储 缓存 开发框架
Web缓存:通过Java实现更好的经济战略
  我读取 缓存的最好的比喻 来自Peter Chester,他在WordPress会议期间使用。他问观众,“3,485,250分为23,235”?最初的沉默之后,有些人把他们的计算器拿出来,最后有人大声喊道:“150.”切斯特先生又问了一个同样的问题,能够回应 这是缓存!   总而言之,这是一个非常简单的缓存情况,因为答案总是一样的。但隐喻是太棒了!实质上,缓存是关于经济。我们为等待响应的客户节省时间。我们节省资源,重新计算我们已经知道的答案。我们节省带宽。   我们该怎么做?通过保持一些响应“更接近”请求者并再次服务,而不必返回原始服务器并再次计算答案。
88 0
热门文章
最新文章
相关产品
云迁移中心
推荐文章
更多