日志框架 - 基于spring-boot - 实现3 - 关键字与三种消息解析器

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
云解析 DNS,旗舰版 1个月
全局流量管理 GTM,标准版 1个月
简介: 日志框架系列讲解文章日志框架 - 基于spring-boot - 使用入门日志框架 - 基于spring-boot - 设计日志框架 - 基于spring-boot - 实现1 - 配置文件日志框架 - 基于spring-boot - 实现2 - 消...

日志框架系列讲解文章
日志框架 - 基于spring-boot - 使用入门
日志框架 - 基于spring-boot - 设计
日志框架 - 基于spring-boot - 实现1 - 配置文件
日志框架 - 基于spring-boot - 实现2 - 消息定义及消息日志打印
日志框架 - 基于spring-boot - 实现3 - 关键字与三种消息解析器
日志框架 - 基于spring-boot - 实现4 - HTTP请求拦截
日志框架 - 基于spring-boot - 实现5 - 线程切换
日志框架 - 基于spring-boot - 实现6 - 自动装配

上一篇我们讲了日志框架实现的第二部分:消息定义及消息日志打印
本篇我们主讲框架实现的第三部分:如何自动解析消息

设计中是这样描述的

根据关键字(Keyword),使用解析器(MessageResolver)提取消息(Message)中的值。关键字(Keyword)及其值保存于MDC之中。

下面是自动消息解析器的实现

关键字(Keyword)定义

/**
 * 关键字
 */
public class Keyword {
    
    private String key;
    
    private RelaxedNames relaxedNames;
    
    public Keyword(String key) {
        this.key = key;
        this.relaxedNames = new RelaxedNames(key);
    }
    
    public String getKey() {
        return key;
    }
    
    public RelaxedNames getRelaxedNames() {
        return relaxedNames;
    }
}

使用入门一文中提到,Relaxed binding允许进行单词的模糊匹配,例如Req-Sys可以指定模糊查找消息中可能包含的Req-Sys, Req_Sys, ReqSys, reqSys, req-sys, req_sys, reqsys, REQ-SYS, REQ_SYS, REQSYS等10种情况的内容。

其中,之所以使用RelaxedNames,是为了实现关键字(Keyword)的模糊匹配(Relaxed binding)。

解析器(MessageResolver)定义

/**
 * 从Message中根据Keywords解析得到关键信息
 */
public interface MessageResolver {
    
    public Map<String, String> resolve(
            Message message, MessageResolverChain chain);
    
}

根据使用入门文档的说明,解析器必须支持Json、XML、KeyValue三种格式的消息。因此解析器会有三种实现。
由于无法提前确定请求消息会以何种格式发送,因此,采用责任链模式,将不同的解析器拼装为责任链。下面是MessageResolverChain 的定义。

/**
 * MessageResolver责任链
 */
public interface MessageResolverChain {
    
    public Map<String, String> dispose(Message message);
}

XML解析器的实现

解析XML并从中查找关键字对应的值,最简单的办法就是构造XPath并在消息中查找对应的值。本框架解析XML使用Dom4j组件,代码如下。

/**
 * xml消息解析器,从消息中获取keyword值
 */
public class XmlMessageResolver implements MessageResolver {
    
    private Map<String, List<String>> xmlPathCache = new ConcurrentHashMap<>();
    
    public XmlMessageResolver(List<Keyword> keywordList) {
        keywordList.stream()
                   .forEach(keyword -> {
                       List<String> xmlPathList = new ArrayList<>();
                       for (String s : keyword.getRelaxedNames()) {
                           String xmlPath = "//" + s;
                           xmlPathList.add(xmlPath);
                       }
                       xmlPathCache.putIfAbsent(keyword.getKey(), xmlPathList);
                   });
    }
    
    @Override
    public Map<String, String> resolve(
            Message message, MessageResolverChain chain) {
        MessageType messageType = message.getType();
        Document document;
        if (MessageType.XML.equals(messageType) || MessageType.TEXT.equals
                (messageType)) {
            try {
                document = DocumentHelper.parseText((String) message
                        .getContent());
            } catch (DocumentException e) {
                if (MessageType.XML.equals(messageType)) {
                    return Collections.emptyMap();
                } else {
                    return chain.dispose(message);
                }
            }
        } else {
            return chain.dispose(message);
        }
        return doResolve(document, xmlPathCache);
    }
    
    private Map<String, String> doResolve(
            Document document, Map<String, List<String>> xmlPathCache) {
        HashMap<String, String> resultMap = new HashMap<>();
        xmlPathCache.forEach((key, paths) -> {
            String value = queryStringInDocument(document, paths);
            if (!StringUtils.isEmpty(value)) {
                resultMap.putIfAbsent(key, value);
            }
        });
        return CollectionUtils.isEmpty(resultMap) ? Collections.emptyMap() :
               resultMap;
    }
    
    public String queryStringInDocument(
            Document document, List<String> xmlPathList) {
        return xmlPathList.stream()
                          .map(document::selectSingleNode)
                          .filter(node -> !ObjectUtils.isEmpty(node))
                          .map(node -> node.getText())
                          .findAny().orElse(null);
    }
}

在查找关键字的值时使用了Java8新增的Stream编程,会使代码看起来更简洁一此,如果对Stream特性不熟悉的话,可以不使用。

Json解析器实现

类似于XML消息的解析,对Json消息使用JsonPath查找关键字最方便可行。本框架用了Github上一个开源的 JsonSurfer 组件,其与各种Json处理框架的结合都较好,具体代码如下。

/**
 * json消息解析器,从消息中获取keyword值
 */
public class JsonMessageResolver implements MessageResolver {
    
    private Map<String, List<JsonPath>> jsonPathCache = new
            ConcurrentSkipListMap<>();
    
    private ObjectMapper objectMapper = new ObjectMapper();
    
    public JsonMessageResolver(List<Keyword> keywordList) {
        keywordList.stream()
                   .forEach(keyword -> {
                       List<JsonPath> jsonPathList = new ArrayList<>();
                       for (String s : keyword.getRelaxedNames()) {
                           String jsonPathStr = "$.." + s;
                           JsonPath jsonPath = JsonPathCompiler.compile
                                   (jsonPathStr);
                           jsonPathList.add(jsonPath);
                       }
                       jsonPathCache
                               .putIfAbsent(keyword.getKey(), jsonPathList);
                   });
    }
    
    @Override
    public Map<String, String> resolve(
            Message message, MessageResolverChain chain) {
        MessageType messageType = message.getType();
        
        if (MessageType.JSON.equals(messageType)) {
            return doResolve((String) message.getContent(), jsonPathCache);
        } else if (MessageType.TEXT.equals(messageType)) {
            if (canResolveAsJson((String) message.getContent())) {
                return doResolve((String) message.getContent(), jsonPathCache);
            } else {
                return chain.dispose(message);
            }
        }
        
        return chain.dispose(message);
    }
    
    public Map<String, String> doResolve(
            String content, Map<String, List<JsonPath>> jsonPathCache) {
        Map<String, String> resultMap = new HashMap<>();
        for (Map.Entry<String, List<JsonPath>> entry : jsonPathCache
                .entrySet()) {
            String value = queryStringInJsonMessage(content, entry.getValue());
            if (!StringUtils.isEmpty(value)) {
                resultMap.putIfAbsent(entry.getKey(), value);
            }
        }
        return CollectionUtils.isEmpty(resultMap) ? Collections.emptyMap() :
               resultMap;
    }
    
    public boolean canResolveAsJson(String maybeJson) {
        try {
            objectMapper.readTree(maybeJson);
        } catch (IOException e) {
            return false;
        }
        return true;
    }
    
    /**
     * 从json中同时查询多个jsonPath的匹配值
     * <p>
     * 参考@{@link JsonSurfer#collectOne(String, Class, JsonPath...)}进行自定义实现
     */
    @SuppressWarnings("unchecked")
    public String queryStringInJsonMessage(
            String json, List<JsonPath> pathList) {
        JsonSurfer surfer = JsonSurferJackson.INSTANCE;
        CollectOneListener listener = new CollectOneListener(true);
        SurfingConfiguration.Builder builder = surfer.configBuilder()
                                                     .skipOverlappedPath();
        pathList.stream()
                .forEach(jsonPath -> builder.bind(jsonPath, listener));
        surfer.surf(json, builder.build());
        Object value = listener.getValue();
        JsonProvider provider = JacksonProvider.INSTANCE;
        if (value == null) {
            return null;
        } else {
            return (String)  provider.cast(value, String.class);
        }
    }
}

由于JsonSurfer组件缺少我需要的API, 因此queryStringInJsonMessage函数提供了JsonSurfer的自定义实现。

KeyValue解析器

所谓的KeyValue字符串,其格式相当于HTTP请求中的QueryString,但不局限于此,也可以认为是form表单提交的字符串请求。

KeyValue解析器的代码实现如下:

public class KeyValueMessageResolver implements MessageResolver {
    
    private List<Keyword> keywordList;
    
    public KeyValueMessageResolver(List<Keyword> keywordList) {
        this.keywordList = keywordList;
    }
    
    @Override
    @SuppressWarnings("unchecked")
    public Map<String, String> resolve(
            Message message, MessageResolverChain chain) {
        MessageType messageType = message.getType();
        final Map<String, String> contentMap;
        if (MessageType.KEY_VALUE.equals(messageType)) {
            Object messageContent = message.getContent();
            if (messageContent instanceof Map) {
                contentMap = (Map<String, String>) messageContent;
            } else {
                contentMap = KeyValueUtil
                        .keyValueStringToMap(messageContent.toString());
            }
        } else if (MessageType.TEXT.equals(messageType)) {
            String content = (String) message.getContent();
            if (KeyValueUtil.isKeyValueString(content)) {
                contentMap = KeyValueUtil.keyValueStringToMap(content);
            } else {
                contentMap = Collections.EMPTY_MAP;
            }
        } else {
            contentMap = null;
        }
        
        if (CollectionUtils.isEmpty(contentMap)) {
            return chain.dispose(message);
        }
        
        Map<String, String> resultMap = new HashMap<>();
        keywordList.forEach(keyword -> {
            for (String s : keyword.getRelaxedNames()) {
                if (contentMap.containsKey(s)) {
                    resultMap.putIfAbsent(keyword.getKey(), contentMap.get(s));
                    return;
                }
            }
        });
        return CollectionUtils.isEmpty(resultMap) ? Collections.emptyMap()
                                                  : resultMap;
    }
}

代码中使用了一个KeyValueUtil的工具类,其代码附在文章最后,有需要者自取。

责任链实现

前文定义了责任链的接口。现需要将各种解析器拼成责任链,其代码如下。

public class MessageResolverChainImpl implements MessageResolverChain {
    
    private List<MessageResolver> chain;
    
    public int currentPosition = 0;
    
    public MessageResolverChainImpl(List<MessageResolver> messageResolvers) {
        chain = messageResolvers;
    }
    
    @Override
    public Map<String, String> dispose(Message message) {
        int pos = currentPosition;
        currentPosition++;
        if (pos < chain.size()) {
            MessageResolver resolver = chain.get(pos);
            return resolver.resolve(message, this);
        }
        return Collections.emptyMap();
    }
}

至此,解析消息日志部分功能已经实现。

附:KeyValueUtil工具类

提供了如下功能:

  1. 判断字符串是否为KeyValue值字符串
  2. 实现KeyValue字符串与Map间的相互转换
/**
 * {@code KeyValutUtil}主要用于处理类似"key=value&key=value"的字符串
 * 
 * <p>
 * {@code KeyValueUtil}主要提供将key-value字符串转换成{@link Map}的功能{@link #keyValueStringToMap(String)
 * keyValueStringToMap} 和将{@link Map}转换成key-value的功能{@link #mapToString(Map)
 * mapToString}
 * </p>
 * 
 * <p>
 * <Strong>设计思路:</Strong>Map转换成key-value字符串时,一次取出每个实体(Entity),将key与value用“=”连接,每个实体间用“&”连接,
 * 组成如:key1=value1&key2=value2的字符串。 ​
 * key-value转字符串的时候需要区分含有value子串的形式:key1=value1&key2={key21=value21&key22=value22},
 * 设计思路对key-value字符串逐个字符进行处理,利用状态机判断当前状态为key还是value。
 * </p>
 * 
 * @author fonoisrev(Java大坑)
 * @since xpay-common 0.0.1
 */
public class KeyValueUtil {

    private static final Pattern PATTERN = Pattern.compile("^(\\S+?=(.|\\n)*&)+\\S+=(.|\\n)*$");

    public static boolean isKeyValueString(String str) {
        return  PATTERN.matcher(str).matches();
    }

    /**
     * 识别字符串状态机转换:<br/>
     * STATUS_KEY --[=]--> STATUS_SIMPLEVALUE <br/>
     * STATUS_SIMPLEVALUE --[&]--> STATUS_KEY <br/>
     * STATUS_SIMPLEVALUE --[{]--> STATUS_COMPLEXVALUE <br/>
     * STATUS_COMPLEXVALUE --[}]--> STATUS_SIMPLEVALUE <br/>
     * STATUS_COMPLEXVALUE --[=]--> STATUS_COMPLEXVALUE <br/>
     * STATUS_COMPLEXVALUE --[&]--> STATUS_COMPLEXVALUE
     */
    private static int STATUS_KEY = 1;
    private static int STATUS_SIMPLEVALUE = 2;
    private static int STATUS_COMPLEXVALUE = 4;

    /**
     * 将key1=value1&key2=value2形式的字符串转转换为一个排序的map<br>
     * 此方法忽略字符串前后可能存在的"{}"字符<br>
     * 样例字符串:{accessType=0&bizType=000201&currencyCode=156&encoding=UTF-8&
     * issuerIdentifyMode=0&merId=777290058110048&orderId=20160317150838&
     * origRespCode=00&origRespMsg=成功[0000000]&payCardType=01&queryId=
     * 201603171508382661928&reqReserved={a=aaa&b=bbb&c=ccc}&respCode=00&respMsg
     * =成功[0000000]&settleAmt=10000&settleCurrencyCode=156&settleDate=0317&
     * signMethod=01&traceNo=266192&traceTime=0317150838&txnAmt=10000&txnSubType
     * =01&txnTime=20160317150838&txnType=01&version=5.0.0&certId=68759585097&
     * signature=EpwPj3OIQgCmr9FfdJIs/dYG+
     * CVnYOm9JwoC4dyaEjtgdSCzRNyWGOCbToHs5sAbVfjqSUi/o3ctqAaOJEyMEIdbZt+
     * hVQcWDmUovQs6ruQM5VN0tNdRsR+QANo1f1LYNs6q89UhGo+OIpFMMB+jdb2Sg54XFH++
     * ywqXoL0WCWWwtzeu2Haqq8LM5P1j4p0FqrAYuEI58zy40g/T4S+
     * eTBrZZx8MGGNcAQDMsk2IEsuEa1IVzzAIW5ZvsG2Ypf74DJpPEGMgzInKUyC1+BblJ/
     * oYGIRQyeYan0jd/7nZuvTB5nmoTdSgSsPZlnuSsPvHP+BK48MyrvsWRJXH983VFw==}
     * 
     * @param keyValueString
     * @return
     */
    public static SortedMap<String, String> keyValueStringToMap(String keyValueString) {
        if (!StringUtils.hasText(keyValueString)) {
            return null;
        }

        StringBuilder sb = new StringBuilder(keyValueString.trim());
        if (sb.charAt(0) == '{') {
            sb.deleteCharAt(0);
        }
        if (sb.charAt(sb.length() - 1) == '}') {
            sb.deleteCharAt(sb.length() - 1);
        }

        SortedMap<String, String> map = new TreeMap<String, String>();

        int currentIndex = 0;
        String key = null;
        String value = null;

        int status = STATUS_KEY;

        for (int i = 0; i < sb.length(); ++i) {
            char c = sb.charAt(i);
            // 状态转换
            if (status == STATUS_KEY && c == '=') {
                status = STATUS_SIMPLEVALUE;
                key = sb.substring(currentIndex, i);
                currentIndex = i + 1;
            } else if (status == STATUS_SIMPLEVALUE && c == '&') {
                status = STATUS_KEY;
                value = sb.substring(currentIndex, i);
                map.put(key, value);
                currentIndex = i + 1;
            } else if (status == STATUS_SIMPLEVALUE && c == '{') {
                status = STATUS_COMPLEXVALUE;
            } else if (status == STATUS_COMPLEXVALUE && c == '}') {
                status = STATUS_SIMPLEVALUE;
            }
        }
        value = sb.substring(currentIndex, sb.length());
        map.put(key, value);

        return map;
    }

    /**
     * 将Map中的数据转换成按照Key的ascii码排序后的key1=value1&key2=value2的形式
     * 
     * @param map
     * @return
     */
    public static String mapToString(Map<String, String> map) {
        SortedMap<String, String> sortedMap = new TreeMap<String, String>(map);

        StringBuilder sb = new StringBuilder();

        for (Map.Entry<String, String> entry : sortedMap.entrySet()) {
            if (!StringUtils.hasText(entry.getValue())) {
                continue;
            }
            sb.append(entry.getKey()).append('=').append(entry.getValue()).append('&');
        }
        sb.deleteCharAt(sb.length() - 1);

        return sb.length() == 0 ? "" : sb.toString();
    }

}

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
8天前
|
负载均衡 算法 Java
Spring Cloud全解析:负载均衡算法
本文介绍了负载均衡的两种方式:集中式负载均衡和进程内负载均衡,以及常见的负载均衡算法,包括轮询、随机、源地址哈希、加权轮询、加权随机和最小连接数等方法,帮助读者更好地理解和应用负载均衡技术。
|
6天前
|
XML 监控 Java
Spring Cloud全解析:熔断之Hystrix简介
Hystrix 是由 Netflix 开源的延迟和容错库,用于提高分布式系统的弹性。它通过断路器模式、资源隔离、服务降级及限流等机制防止服务雪崩。Hystrix 基于命令模式,通过 `HystrixCommand` 封装对外部依赖的调用逻辑。断路器能在依赖服务故障时快速返回备选响应,避免长时间等待。此外,Hystrix 还提供了监控功能,能够实时监控运行指标和配置变化。依赖管理方面,可通过 `@EnableHystrix` 启用 Hystrix 支持,并配置全局或局部的降级策略。结合 Feign 可实现客户端的服务降级。
51 23
|
5天前
|
Java
日志框架log4j打印异常堆栈信息携带traceId,方便接口异常排查
日常项目运行日志,异常栈打印是不带traceId,导致排查问题查找异常栈很麻烦。
|
7天前
|
运维 NoSQL Java
SpringBoot接入轻量级分布式日志框架GrayLog技术分享
在当今的软件开发环境中,日志管理扮演着至关重要的角色,尤其是在微服务架构下,分布式日志的统一收集、分析和展示成为了开发者和运维人员必须面对的问题。GrayLog作为一个轻量级的分布式日志框架,以其简洁、高效和易部署的特性,逐渐受到广大开发者的青睐。本文将详细介绍如何在SpringBoot项目中接入GrayLog,以实现日志的集中管理和分析。
37 1
|
17天前
|
缓存 Java 开发者
Spring高手之路22——AOP切面类的封装与解析
本篇文章深入解析了Spring AOP的工作机制,包括Advisor和TargetSource的构建与作用。通过详尽的源码分析和实际案例,帮助开发者全面理解AOP的核心技术,提升在实际项目中的应用能力。
15 0
Spring高手之路22——AOP切面类的封装与解析
|
19天前
|
Java 微服务 Spring
Spring Cloud全解析:配置中心之解决configserver单点问题
但是如果该configserver挂掉了,那就无法获取最新的配置了,微服务就出现了configserver的单点问题,那么如何避免configserver单点呢?
|
26天前
|
Java Shell Linux
【Linux入门技巧】新员工必看:用Shell脚本轻松解析应用服务日志
关于如何使用Shell脚本来解析Linux系统中的应用服务日志,提供了脚本实现的详细步骤和技巧,以及一些Shell编程的技能扩展。
22 0
【Linux入门技巧】新员工必看:用Shell脚本轻松解析应用服务日志
|
28天前
|
存储 运维 监控
深入Linux核心:文件系统与日志解析
【8月更文挑战第20天】
35 2
|
17天前
|
人工智能 Java Spring
Spring框架下,如何让你的日志管理像‘AI’一样智能,提升开发效率的秘密武器!
【8月更文挑战第31天】日志管理在软件开发中至关重要,不仅能帮助开发者追踪问题和调试程序,还是系统监控和运维的重要工具。在Spring框架下,通过合理配置Logback等日志框架,可大幅提升日志管理效率。本文将介绍如何引入日志框架、配置日志级别、在代码中使用Logger,以及利用ELK等工具进行日志聚合和分析,帮助你构建高效、可靠的日志管理系统,为开发和运维提供支持。
26 0
|
19天前
|
消息中间件 Java RocketMQ
微服务架构师的福音:深度解析Spring Cloud RocketMQ,打造高可靠消息驱动系统的不二之选!
【8月更文挑战第29天】Spring Cloud RocketMQ结合了Spring Cloud生态与RocketMQ消息中间件的优势,简化了RocketMQ在微服务中的集成,使开发者能更专注业务逻辑。通过配置依赖和连接信息,可轻松搭建消息生产和消费流程,支持消息过滤、转换及分布式事务等功能,确保微服务间解耦的同时,提升了系统的稳定性和效率。掌握其应用,有助于构建复杂分布式系统。
33 0

推荐镜像

更多