关于鲁棒性的思考-阿里云开发者社区

开发者社区> 新零售淘系技术> 正文
登录阅读全文

关于鲁棒性的思考

简介: 在计算机科学中,鲁棒性(英语:Robustness)是指一个计算机系统在执行过程中处理错误,以及算法在遭遇输入、运算等异常时继续正常运行的能力。 鲁棒性关注的重点在于系统的稳定性,在不同场景下衍生了复杂的设计考量,且本身是一个广泛且难以具像化的特性。因此,针对特定目标实现鲁棒性分析,形成切实可行的鲁棒性意识,保障安全性。 基于鲁棒性分析,以设计规约为目标,有三个维度可以拆解:输入、处理、输出;以代码规范为核心,我们可以从三个方面来分析,分别为:代码质量、代码性能以及代码优雅。

原创 锂昂 淘系技术  5月25日

640.gif


在计算机科学中,鲁棒性(英语:Robustness)是指一个计算机系统在执行过程中处理错误,以及算法在遭遇输入、运算等异常时继续正常运行的能力。 


鲁棒性关注的重点在于系统的稳定性,在不同场景下衍生了复杂的设计考量,且本身是一个广泛且难以具像化的特性。因此,针对特定目标实现鲁棒性分析,形成切实可行的鲁棒性意识,保障安全性。
基于鲁棒性分析,以设计规约为目标,有三个维度可以拆解:输入、处理、输出;以代码规范为核心,我们可以从三个方面来分析,分别为:代码质量、代码性能以及代码优雅。


image.png



设计规


  失败设计思维


针对输入和处理环节,失败设计思维是保证鲁棒性的有效设想。该思维要贯穿代码生命周期始终,把失败当作代码设计中合理存在,提前准备好从运行失败的场景中恢复。倡导防御式编程思想,拒绝契约式编程。

  • 入参判空、有效性检验。
  • 系统设计时识别弱依赖,并针对性地设计降级、限流等应急预案,保证核心逻辑正常可用。
  • 在考虑主干功能的同时,要充分考虑评估异常流程与业务边界。
  • ......


正例:当系统弱依赖于多个外部服务时,如果下游服务耗时过长,则会严重影响当前调用者,必须采取相应降级措施,比如,当调用链路中某个下游服务调用的平均响应时间或错误率超过阈值时,系统自动进行降级或熔断操作,屏蔽弱依赖负面影响,保护当前系统主干功能可用。


反例:用户在淘宝付款过程中,银行扣款成功,发送给用户扣款成功短信,但是支付宝入款时由于断网演练产生异常,淘宝订单页面依然显示未付款,导致用户投诉。


  图式表达设计


针对处理环节,图式表达设计保证鲁棒性的有效举措。在复杂多变的业务场景中,图式表达往往能够以清晰、结构化的展现业务关联关系,对技术链路包括失败异常分支也有充分的分析帮助。


  • 如果某个业务对象状态超过3个,使用状态图来表达并且明确状态变化的触发条件;状态图的核心是对象状态,首先明确对象有多少种状态,然后明确状态间是否存在直接转换关系,再明确触发状态转换的条件是什么,最终输出状态转移图。注:状态图中的状态在代码中必须集中定义。
  • 如果系统中某个功能的调用链路上涉及对象超过3个,使用时序图来表达并且明确调用环节的输入与输出。时序图反映了一些列对象间的交互和协作关系,可以清晰立体地反映系统间调用纵深链路。
  • 如果系统中模型类超过5个,并且存在复杂的依赖关系,使用类图来表达并且明确类之间的关系。
  • 如果系统中超过2个对象之间存在协作关系,并且需要表示复杂的处理流程,使用活动图来表示。
  • ......


正例:淘宝订单状态有已下单、待付款、已付款、待发货、已发货、已收货等。比如已下单与已收货这两种状态之间是不可能有直接转换关系的。


  异常错误处理


针对输出环节,异常错误处理是保障鲁棒性的重要依据。业务代码必然会有错误失败出现,是否符合预期表现,是否在正常处理流中,是否可以快速对错误定位,往往要有一定的判断依据。面对异常分支,就需要异常错误输出,也是系统监控的基础。

  • 错误码设计。错误码能够快速知晓错误来源,同时也能给予依赖者的确定性表达,提高鲁棒性。
  • 异常日志输出。控制异常日志输出级别,error级别只记录系统逻辑出错、异常或者其他重要的错误信息。
  • ......


  实战Case


  • 需求背景

聚划算章鱼互动升级为“聚财气”频道,新增气泡奖励玩法。气泡奖励分登录奖励和时长奖励,其中时长奖励包括奖励1倒计时30秒、奖励2每日9点以及奖励3每日20点。
场景演示:用户在10:00进入频道后,收取完登陆奖励,唤起了一个30秒后的奖励的气泡;30秒后用户点击领奖,唤起了一个提示今日20:00可领的提示(该奖励未领);用户次日再来,收取完登陆奖励后唤起了30秒后的奖励气泡....


image.png


实现效果


image.png


  • 技术设计

通过气泡任务的需求描述,简单分析可以得知,任务开始到权益发放间有状态变更,气泡任务间有优先级逻辑。因此,基于设计规约,我们可以对需求进行清晰的分析和开发设计。


1、图式表达设计气泡任务的复杂度主要在于多状态的变更,所以采用图式表达方式完成状态的变迁。可以看出,运用状态图是较合适的。(状态图:主要用于描述一个对象在其生存期间的动态行为,表现为一个对象所经历的状态序列,引起状态转移的事件,以及因状态转移而伴随的动作)


气泡任务状态图


image.png



气泡任务间展示状态图


image.png



2、失败设计思维


针对气泡任务,失败设计思维的侧重在于防御式编程和服务降级限流。在防御式编程中,利用断言型接口,对气泡透传前置条件校验、状态扭转识别以及有效性检验。同时,在服务降级预案中,考虑到气泡任务并不影响玩法频道的用户主流程,因此设计了两种预案:一是奖励资格和权益发放大面积失败或异常时,气泡任务全部降级处理;二是特定气泡逻辑存在异常问题时,该气泡降级关闭。此外,设定服务限流阈值,在大促流量高峰时保护系统稳定。


3、异常错误处理

异常错误处理主要在于失败后的反应动作和前台用户表达。气泡任务状态转移中,会存在奖励资格和权益发放失败的现象。失败的发生有着难以枚举的原因。针对失败,首先保持幂等性,进行系统重试或者用户行为重试;其次,失败异常日志输出,利用错误码设计尽可能准确描述失败原因;最后,异常和错误监控,基于分钟级错误日志统计报警,开发同学可第一时间介入定位问题。另外重要的一点是,由于真正使用的是用户,所以前台表达一定要是友好的、便于理解的,不然歧义的表述会造成大面积舆情发生。


  • 小结

基于上述三点,贯穿气泡任务的设计、开发等过程,不同维度地保证了系统鲁棒性。此外,在实际开发阶段,气泡任务采用了责任链模式来实现的,可动态调整气泡间依赖关系,提供一定的扩展性。


代码鲁棒性


以具体场景和实例来描述代码规范和技巧,提升代码鲁棒性和系统稳定性。

  代码质量


  • 集合处理

在使用java.util.stream.Collectors类的toMap()方法转为Map集合时,一定要使用含有参数类型为BinaryOperator,参数名为mergeFunction的方法,否则当出现相同key值时会抛出IllegalStateException异常。
「说明」参数mergeFunction的作用是当出现key重复时,自定义对value的处理策略。


正例:


List<Pair<String, Double>> pairArrayList = new ArrayList<>(3);
pairArrayList.add(new Pair<>("version", 6.19));
pairArrayList.add(new Pair<>("version", 10.24));
pairArrayList.add(new Pair<>("version", 13.14));
Map<String, Double> map = pairArrayList.stream().collect(
// 生成的map集合中只有一个键值对:{version=13.14}
Collectors.toMap(Pair::getKey, Pair::getValue, (v1, v2) -> v2));


反例:

String[] departments = new String[] {"iERP", "iERP", "EIBU"};
// 抛出IllegalStateException异常
Map<Integer, String> map = Arrays.stream(departments)
    .collect(Collectors.toMap(String::hashCode, str -> str));



在使用java.util.stream.Collectors类的toMap()方法转为Map集合时,一定要注意当value为null时会抛NPE异常。
「说明」在java.util.HashMap的merge方法里会进行如下的判断


 public static <T> T requireNonNull(T obj) {
        if (obj == null)
            throw new NullPointerException();
        return obj;
    }


反例:


List<Pair<String, Double>> pairArrayList = new ArrayList<>(2);
pairArrayList.add(new Pair<>("version1", 4.22));
pairArrayList.add(new Pair<>("version2", null));
Map<String, Double> map = pairArrayList.stream().collect(
// 抛出NullPointerException异常
Collectors.toMap(Pair::getKey, Pair::getValue, (v1, v2) -> v2));


Collections类返回的对象,如:emptyList()/singletonList()等都是immutable list,不可对其进行添加或者删除元素的操作。


ArrayList的subList结果不可强转成ArrayList,否则会抛出ClassCastException异常:在subList场景中,高度注意对父集合元素的增加或删除,均会导致子列表的遍历、增加、删除产生ConcurrentModificationException 异常。


「说明」subList()返回的是ArrayList的内部类SubList,并不是 ArrayList本身,而是ArrayList 的一个视图,对于SubList的    所有操作最终会反映到原列表上。列表改动均会引起checkForComodification异常



private void checkForComodification() {
        if (this.modCount != l.modCount)
            throw new ConcurrentModificationException();
    }



在使用Collection接口任何实现类的addAll()方法时,都要对输入的集合参数进行NPE判断。


「说明」在ArrayList#addAll方法的第一行代码即Object[] a = c.toArray();其中c为输入集合参数,如果为null,则直接抛出异常。



泛型通配符<? extends T>允许调用读方法T get()获取T的引用,但不允许调用写方法set(T)传入T的引用(传入null除外);<? super T>允许调用写方法set(T)传入T的引用,但不允许调用读方法T get()获取T的引用(获取Object除外)。


「说明」PECS (Producer Extends Consumer Super)原则:如果需要返回T,它是生产者(Producer),要使用extends通配符;如果需要写入T,它是消费者(Consumer),要使用super通配符。因此,频繁往外读取内容的,适合用<? extends T>。经常往里插入的,适合用<? super T>。


不要在foreach循环里进行元素的remove/add操作。remove元素请使用Iterator方式,如果并发操作,需要对Iterator迭代器对象加锁。
image.gif反例:


List<String> list = new ArrayList<>();
list.add("targetItem");
list.add("other");

for (String item : list) {
    if ("targetItem".equals(item)) {
        list.remove(item);
    }
}


正例:


Iterator<String> iterator = list.iterator();
while (iterator.hasNext()) {
    String item = iterator.next();
    if (删除元素的条件) {
        iterator.remove();
    }
}

  • 计算处理


禁止使用构造方法BigDecimal(double)的方式把double值转化为BigDecimal对象。


「说明」BigDecimal(double)存在精度损失风险,在精确计算或值比较的场景中可能会导致业务逻辑异常。如:BigDecimal g = new BigDecimal(0.1f); 实际的存储值为:0.100000001490116119384765625


正例:


优先推荐入参为String的构造方法,或使用BigDecimal的valueOf方法,此方法内部其实执行了Double的toString,而Double的toString按double的实际能表达的精度对尾数进行了截断。



    BigDecimal recommend1 = new BigDecimal("0.1");
    BigDecimal recommend2 = BigDecimal.valueOf(0.1);

  • 日期处理

获取当前毫秒数:System.currentTimeMillis(); 而不是new Date().getTime()


「说明」如果想获取更加精确的纳秒级时间值,使用System.nanoTime的方式。在JDK8中,针对统计时间等场景,推荐使用Instant类。


日期格式化时,传入pattern中表示年份统一使用小写的y。


「说明」日期格式化时,yyyy表示当天所在的年,而大写的YYYY代表是week in which year,意思是 当天所在的周属于的年份,一周从周日开始,周六结束,只要本周跨年,返回的YYYY就是下一年。


正例:表示日期和时间的格式如下所示


new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");


  代码性能


判断所有集合内部的元素是否为空,使用isEmpty()方法,而不是size()==0的方式。


「说明」任何 Collection.isEmpty() 实现的时间复杂度都是O(1),但是某些 Collection.size() 实现的时间复杂度可能是O(n) 。

如ConcurrentLinkedQueue的size()是将所有元素重新统计了一遍,因此时间复杂度为O(n)。


正例:


Map<String, Object> map = new HashMap<>(16);
if(map.isEmpty()) {
    System.out.println("no element in this map.");
}

集合初始化时,指定集合初始值大小。


「说明」HashMap使用如下构造方法进行初始化,如果暂时无法确定集合大小,那么指定默认值(16)即可;如果hashMap存放元素较多,由于没有设置容量初始大小,随着元素增加而被迫不断扩容,resize()方法不断调用,反复重建哈希表和数据迁移。当放置的集合元素个数达千万级时会影响程序性能。



/**
     * Constructs an empty <tt>HashMap</tt> with the default initial capacity
     * (16) and the default load factor (0.75).
     */
    public HashMap() {
        this.loadFactor = DEFAULT_LOAD_FACTOR; // all other fields defaulted
    }


利用Set元素唯一的特性,可以快速对另一个集合进行去重操作,避免使用List的contains()进行遍历去重或者判断包含操作


  代码优雅


外部正在调用或者二方库依赖的接口,不允许修改方法签名,避免对接口调用方产生影响。接口过时必须加@Deprecated注解,并清晰地说明采用的新接口或者新服务是什么。


Object的equals方法容易抛空指针异常,应使用常量或确定有值的对象来调用equals。


「说明」推荐使用JDK7引入的工具类java.util.Objects#equals(Object a, Object b)


正例:"test".equals(object)


反例:object.equals("test")


循环体内,字符串的联接方式,使用StringBuilder的append方法进行扩展。


「说明」若直接用两字符串拼接,反编译出的字节码文件显示每次循环都会new出一个StringBuilder对象,然后进行append操作,最后通过toString方法返回String对象,造成内存资源浪费。


反例:


String str = "start";
for (int i = 0; i < 100; i++) {
    str = str + "hello";
}


  实战Case


代码鲁棒性是运用在编程过程中的,是过程导向结果产出的特性,所以并不能用一个典型案例覆盖全部。但结合上文气泡任务需求的设计,我们可以针对特定细节详细表述。
当用户进入互动玩法频道后,代码逻辑是先获取所有当前气泡任务列表,然后判断其状态,最后根据气泡优先级进行过滤展示。其中气泡过滤过程采用了责任链模式。流程图如下所示:


image.png


核心Filter



/**
 * 过滤器抽象
 *
 * @author la.lda
 * @date 4/12/21
 */
@Data
@Slf4j
public abstract class Filter {
    /**
     * 气泡类型
     */
    public BubbleType bubbleType;
    /**
     * 上一气泡过滤器
     */
    public Filter nextFilter;
    /**
     * 下一气泡过滤器
     */
    public Filter beforeFilter;

    public Boolean beforeFilter(BubbleContext bubbleContext) {
        return true;
    }

    public void afterFilter(BubbleContext bubbleContext) {
    }

    /**
     * 气泡过滤逻辑
     *
     * @param bubbleContext
     */
    abstract void Filter(BubbleContext bubbleContext);

    /**
     * 链式过滤器核心逻辑
     *
     * @param bubbleContext
     */
    void doFilter(BubbleContext bubbleContext) {
        if (bubbleType == null || bubbleContext == null || !bubbleContext.bubbleContextEffective()) {
            return;
        }
        if (!beforeFilter(bubbleContext)) {
            return;
        }
        Filter(bubbleContext);
        afterFilter(bubbleContext);
        if (nextFilter != null) {
            nextFilter.doFilter(bubbleContext);
        }
     }
}

在doFilter核心逻辑中,多处进行了判空和有效性检查,是防御式编程的典型行为。此处没有用到try catch捕获异常,其考虑是为了将异常传导到业务层,利于定位问题,因此在业务调用处存在try catch的异常处理。


总结


鲁棒性,是一种具有自我保护的系统特性,落实到细节的地方绝不止设计和开发环节。此外,上述设计和代码建议,意图不在于消除代码的创新性,也不是以一种标准化的姿态限定代码魔幻的边界,而更多的是给出一种较好的方式处理做事。


系统鲁棒性的构建绝不是一朝一夕就能搞定的,保持匠心精神、积累经验、不断学习才是其根本。如何做到系统稳如泰山,也许是每一位开发同学共同的使命之一吧。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:

淘系技术部隶旗下包含淘宝技术、天猫技术、农村淘宝技术、闲鱼、iHome等团队和业务,是一支是具有商业和技术双重基因的螺旋体。 我们致力于成为全球最懂商业的技术创新团队,打造消费者和商家一体化的新零售智能商业平台,创新商业赛道。随着新零售业务的持续探索与快速发展,我们不断吸引用户增长、机器学习、视觉算法、音视频通信、数字媒体、端侧智能等领域全球顶尖专业人才加入,让科技引领面向未来的商业创新和进步。欢迎投递简历至ruoqi.zlj@taobao.com

官方博客
最新文章
相关文章
淘系开源,欢迎star哟