ESLint的缓存机制及其在CI中的应用

简介: 背景ESLint是一个前端、Node领域中流行的代码规范检查工具,使用起来很方便。之前为了强制推行代码规范,我在CI任务中加入了ESLint检查。保障了规范的同时,也引入了痛点:CI的时长延长了2~3分钟左右。因为现在开发的工程体量比较大,ESLint会占用很多的内存、CPU资源,且运行时间较长。


背景



ESLint是一个前端、Node领域中流行的代码规范检查工具,使用起来很方便。


640 (3).png


之前为了强制推行代码规范,我在CI任务中加入了ESLint检查。保障了规范的同时,也引入了痛点:CI的时长延长了2~3分钟左右。因为现在开发的工程体量比较大,ESLint会占用很多的内存、CPU资源,且运行时间较长。


在了解到ESLint有缓存机制之后,我尝试过在CI中加ESLint缓存,但是效果不太理想。怀疑是缓存未能命中,所以我尝试分析了下ESLint中的缓存逻辑。


ESLint的缓存机制



ESLint在命中缓存时,执行速度是极快的。而在无法命中缓存时,可能就需要消耗很多时间了。


ESLint中与缓存相关的选项有三个:--cache--cache-file--cache-location,其中--cache-file作用与--cache-location类似,都是用于修改默认的cache存储位置,--cache-file已经被废弃。


在运行eslint的时候,加上--cache参数,就会自动生成一个.eslintcache文件,用于储存上次缓存的结果。


.eslintcache文件的内容格式如下所示:


1[
2  {
3    "commitlint.config.js": "1",
4    "packages/frontend/babel.config.js": "2"
5  },
6  {
7    "size": 71,
8    "mtime": 1605752807612,
9    "results": "1230",
10    "hashOfConfig": "1231"
11  },
12  {
13    "size": 1489,
14    "mtime": 1605752807627,
15    "results": "1232",
16    "hashOfConfig": "1231"
17  },
18]


它的整体结构是一个数组。


其中第一项元素是一个"文件路径->数组序号"的对象。根据它的Value中的序号,在数组中找到相应的元素,即为它的属性。


可以看出文件里面存储了:sizemtime等属性,eslint在决定文件是否发生变更时,使用的是file-entry-cache中的默认方式,即根据文件大小(size)和最后修改时间(mtime)决定文件是否发生了变更。


另外还有hashOfConfig属性,是存储的配置文件的HASH值,这样当配置文件发生变化时,所有的缓存都会失效。


缓存失效的原因



在CI中,每次执行任务时,大部分的文件都没有发生变化,所以 size 属性肯定是没变的。那么为什么会出现缓存未命中的情况?原因就在于 mtime 发生了变化。


git 在 clone / fetch 的时候,并没有保证 mtime 的值与文件最后提交时间相同,而是使用了 git clone 时的系统时间。所以每次CI执行时,mtime发生了变更,继而导致file-entry-cache的缓存失效,eslint重新执行。


从这里也可以看出,只要解决了 mtime 的问题,就可以解决缓存失效的问题了。


解决缓存失效问题



解决缓存失效问题,核心问题还是在file-entry-cache中。它支持两种方式判断缓存是否命中,一是根据mtime和size,二是根据md5 checksum值。


理论上来说,如果eslint使用hash码的方式,也就不会受mtime影响了。但是考虑到一要改eslint的逻辑,二是计算hash码涉及到大量I/O,应该也有不小的消耗,所以还是优先考虑从mtime着手处理。


要使一个文件在多次clonefetch之间mtime不发生变化,可以将其设置为它在Git中的最后提交时间。直观的做法是遍历每一个文件,使用git log获取其最后提交时间,然后再设置mtime。


这种方式理论上可行,但是实际操作中应该会有性能优化空间。


好在有人提供了现成的脚本工具git-restore-mtime,可以直接拿来用。这个脚本虽然也要花费一些时间,但时间不长,可以接受。


这样一来,原来的eslint命令就变成了:


1$ git restore-mtime
2$ eslint --cache .


还有一些其它的方法,如将mtime修改为文件的hash值。这个实际上还是md5 checksum的套路,性能上不会很优。


git-restore-mtime的安装和使用


git-restore-mtime依赖于Python3,需要先安装好Python3。


配置好python3之后,根据系统不同选择如下的安装命令之一:

Debian/Ubuntu系列:


1sudo apt install git-restore-mtime


RedHat/Centos系列:


1sudo yum install git-tools


如果是在其它的系统上,如alpine。则可以直接从Git仓库中复制最新的 git-restore-mtime 文件到PATH中即可,如复制到 /usr/local/bin/git-remote-mtime


使用的方法很简单,运行 git restore-mtime 即可。


总结



ESLint的cache很高效,但是要注意在CI环境中可能会有缓存无法命中的情况,可以考虑使用git-restore-mtime来解决无法命中的情况。


相关文章
|
2月前
|
缓存 Java 数据库连接
mybatis复习05,mybatis的缓存机制(一级缓存和二级缓存及第三方缓存)
文章介绍了MyBatis的缓存机制,包括一级缓存和二级缓存的配置和使用,以及如何整合第三方缓存EHCache。详细解释了一级缓存的生命周期、二级缓存的开启条件和配置属性,以及如何通过ehcache.xml配置文件和logback.xml日志配置文件来实现EHCache的整合。
mybatis复习05,mybatis的缓存机制(一级缓存和二级缓存及第三方缓存)
|
3月前
|
缓存 应用服务中间件 nginx
Web服务器的缓存机制与内容分发网络(CDN)
【8月更文第28天】随着互联网应用的发展,用户对网站响应速度的要求越来越高。为了提升用户体验,Web服务器通常会采用多种技术手段来优化页面加载速度,其中最重要的两种技术就是缓存机制和内容分发网络(CDN)。本文将深入探讨这两种技术的工作原理及其实现方法,并通过具体的代码示例加以说明。
358 1
|
3月前
|
缓存 NoSQL Java
Redis深度解析:解锁高性能缓存的终极武器,让你的应用飞起来
【8月更文挑战第29天】本文从基本概念入手,通过实战示例、原理解析和高级使用技巧,全面讲解Redis这一高性能键值对数据库。Redis基于内存存储,支持多种数据结构,如字符串、列表和哈希表等,常用于数据库、缓存及消息队列。文中详细介绍了如何在Spring Boot项目中集成Redis,并展示了其工作原理、缓存实现方法及高级特性,如事务、发布/订阅、Lua脚本和集群等,帮助读者从入门到精通Redis,大幅提升应用性能与可扩展性。
76 0
|
17天前
|
缓存 NoSQL 数据库
运用云数据库 Tair 构建缓存为应用提速,完成任务得苹果音响、充电套装等好礼!
本活动将带大家了解云数据库 Tair(兼容 Redis),通过体验构建缓存以提速应用,完成任务,即可领取罗马仕安卓充电套装,限量1000个,先到先得。邀请好友共同参与活动,还可赢取苹果 HomePod mini、小米蓝牙耳机等精美好礼!
|
1月前
|
存储 缓存 数据库
缓存技术有哪些应用场景呢
【10月更文挑战第19天】缓存技术有哪些应用场景呢
|
1月前
|
存储 缓存 负载均衡
Nginx代理缓存机制
【10月更文挑战第2天】
71 4
|
1月前
|
缓存 移动开发 前端开发
HTML5 应用程序缓存详解
HTML5 应用程序缓存(Application Cache)通过缓存 HTML、JavaScript、CSS 和图像等资源,使 Web 应用能在离线状态下运行。它利用 Manifest 文件(`.appcache`)定义缓存资源列表,浏览器会在加载页面时下载并缓存这些资源。此外,应用程序缓存还提供了事件处理机制,允许开发者监控缓存状态并进行手动管理。尽管这一技术已被视为过时,建议使用 Service Workers 和 Cache API 等现代替代方案来实现更强大的离线功能和缓存控制。
|
1月前
|
存储 缓存 NoSQL
深入理解后端缓存机制的重要性与实践
本文将探讨在后端开发中缓存机制的应用及其重要性。缓存,作为提高系统性能和用户体验的关键技术,对于后端开发来说至关重要。通过减少数据库访问次数和缩短响应时间,缓存可以显著提升应用程序的性能。本文将从缓存的基本概念入手,介绍常见的缓存策略和实现方式,并通过实例展示如何在后端开发中有效应用缓存技术。最后,我们将讨论缓存带来的一些挑战及其解决方案,帮助您在实际项目中更好地利用缓存机制。
|
2月前
|
缓存 JavaScript 中间件
优化Express.js应用程序性能:缓存策略、请求压缩和路由匹配
在开发Express.js应用时,采用合理的缓存策略、请求压缩及优化路由匹配可大幅提升性能。本文介绍如何利用`express.static`实现缓存、`compression`中间件压缩响应数据,并通过精确匹配、模块化路由及参数化路由提高路由处理效率,从而打造高效应用。
163 11
|
2月前
|
存储 缓存 Android开发
Android RecyclerView 缓存机制深度解析与面试题
本文首发于公众号“AntDream”,详细解析了 `RecyclerView` 的缓存机制,包括多级缓存的原理与流程,并提供了常见面试题及答案。通过本文,你将深入了解 `RecyclerView` 的高性能秘诀,提升列表和网格的开发技能。
72 8