日志服务(原SLS)2018-2 月功能发布

本文涉及的产品
对象存储 OSS,OSS 加速器 50 GB 1个月
简介: 发布Json类型、中文分词、新增窗口/逻辑运算/二进制处理/Lamdba等分析函数,支持Kubernetes数据采集

[新地域] 亚太东南5(雅加达)访问入口

[新功能] 新增窗口/逻辑运算/二进制处理/Lambda等分析函数 文档

分析功能新增窗口、逻辑运算、二进制处理、Lamdba等分析函数,提升日志处理分析能力。新增处理函数如下:

  1. 窗口函数:支持跨行计算与聚合
  2. 二进制字符串:支持二进制与字符串操作处理
  3. 位运算:支持二进制位操作
  4. 映射函数:支持Map、数组、Lambda运算结果转化
  5. 比较运算符:判断参数的大小关系,可以应用于任何可比较类型:int , bigint, double ,text
  6. Lamdba函数:进行Lambda表达式运算
  7. 逻辑运算:支持布尔逻辑运算操作

新增函数能够扩展数据处理与运算能力,提供更强的数据统计与分析支持。

[新功能] 发布嵌入式客户端Lite版本(C Producer Lite)

使用说明(Lite分支)

C Producer Lite版本大幅优化内存占用,能够支持在内存受限的环境中使用。

C Producer Lite是用纯C编写的日志采集客户端,提供更加精简的环境依赖以及更低的资源占用,试用于各类嵌入式/智能设备的日志采集。

该版本性能相对C Producer有30%以上提升,资源占用相比C Producer大大降低(详细请参考性能测试): 除去libcurl占用,运行期间内存占用80KB左右, 编译后的动态库仅有65KB(strip后)。

C Producer Lite 会简化您程序开发的步骤,您无需关心日志采集细节实现、也不用担心日志采集会影响您的业务正常运行,大大降低数据采集门槛。

[新功能] 查询引擎增加对中文支持 文档使用说明

日志服务查询分析功能(LogSearch)新增中文支持,查询分析时会理解中文语义进行自动分词,提升查询准确率。

日志服务提升了查询引擎处理能力,除英文字符外新增中文字符支持,在中英文混杂或全中文日志中,只要打开爆开中文选项就会自动解析日志中的中文部分,并对日志和查询条件进行智能分词,提升日志查询友好度与准确性。

[新功能] 查询分析引擎新增JSON格式支持 文档 , 使用案例

日志服务查询分析新增Json格式支持,提升日志分析能力。

由于Json类自描述字段的灵活性,在日志中被大量使用。日志服务提供Json字段功能,能够智能解析字段中的嵌套文本、布尔类型,识别对应实体。对于数值等类型,在配置完路径后能够像普通字段类型一样进行查询与分析。

通过该功能,在无需清洗的情况下就可以一站式解决Json类数据解析困难问题,便捷地进行查询与分析。

[新功能] 客户端完整支持Kubernetes 文档功能介绍

客户端Logtail新增原生K8S支持,完善Docker日志方案。

用户只需要在Kubernetes集群中的部署Logtail的DaemonSet,即可实现该集群上所有宿主机日志、容器日志/stdout等所有数据源的一站式采集。该方案主要优势:

  1. 大大简化K8S日志采集运维负担,1分钟内即可完成整个集群部署,并且后续集群动态伸缩无需对采集做任何二次部署
  2. 支持容器自动发现:容器生命周期与启停自动维护,支持自定义Label筛选待采集的容器
  3. 支持容器文件自动渲染:只需要配置容器内的文件路径(支持各种采集模式),无需关心容器路径等变化细节
  4. 保证可靠性:针对容器数据采集的动态特点,新增了容器标准输出及容器文件的checkpoint维护机制

通过该功能,用户可以完整解决k8s上日志采集难的问题。

[新功能] SLB访问日志集成 文档功能介绍

日志服务与负载均衡(SLB)产品打通,支持访问日志实时处理与分析。方案可以在几十秒内,实时将负载均衡产生访问日志与日志服务联通,用户可以进行日志实时订阅与处理,将日志与数据仓库打通,对日志进行实时查询与分析等。该方案有如下优势:

  • 海量:访问日志与SLB实例请求PV成正比,往往数据规模很大,处理访问日志需要考虑性能和成本问题。日志服务可以1秒钟分析一亿日志,且相较于开源方案有明显成本优势
  • 实时:DevOps、监控、报警等场景要求日志数据的实时性。传统手段无法满足这一需求,例如将数据ETL到离线处理工具分析耗时很长,其中大量的工作花费在数据集成阶段。负载均衡访问日志结合阿里云日志服务强大的大数据计算能力,秒级分析处理实时产生的日志
  • 弹性:可按负载均衡实例级别开通或关闭访问日志功能。可任意设置存储周期(1-365天),并且日志Logstore容量可以动态伸缩满足业务增长需求

该方案将开发、运维人员从日志处理的繁琐耗时中解放出来,快速进行业务诊断与分析。

[新功能] WAF日志集成

日志服务与WAF产品打通,支持访问日志实时处理与分析,请联系我们开通。

[新功能] 态势感知日志集成

日志服务与态势感知产品打通,支持访问日志实时处理与分析,请联系我们开通。

[控制台] 控制台2月份发布功能介绍

用户在控制台上可以使用如下新增功能:

  1. 支持索引窗口配置Json和中文分词
  2. 同步升级阿里云控制台顶部导航和左侧导航
  3. 支持日本站数据接入向导
  4. 支持世界地图和高德地图

通过日志服务控制台功能提升,优化用户分析能力和便捷性。

相关实践学习
通过日志服务实现云资源OSS的安全审计
本实验介绍如何通过日志服务实现云资源OSS的安全审计。
目录
相关文章
|
9月前
|
监控 容灾 算法
阿里云 SLS 多云日志接入最佳实践:链路、成本与高可用性优化
本文探讨了如何高效、经济且可靠地将海外应用与基础设施日志统一采集至阿里云日志服务(SLS),解决全球化业务扩展中的关键挑战。重点介绍了高性能日志采集Agent(iLogtail/LoongCollector)在海外场景的应用,推荐使用LoongCollector以获得更优的稳定性和网络容错能力。同时分析了多种网络接入方案,包括公网直连、全球加速优化、阿里云内网及专线/CEN/VPN接入等,并提供了成本优化策略和多目标发送配置指导,帮助企业构建稳定、低成本、高可用的全球日志系统。
980 54
|
存储 SQL 关系型数据库
MySQL日志详解——日志分类、二进制日志bin log、回滚日志undo log、重做日志redo log
MySQL日志详解——日志分类、二进制日志bin log、回滚日志undo log、重做日志redo log、原理、写入过程;binlog与redolog区别、update语句的执行流程、两阶段提交、主从复制、三种日志的使用场景;查询日志、慢查询日志、错误日志等其他几类日志
943 35
MySQL日志详解——日志分类、二进制日志bin log、回滚日志undo log、重做日志redo log
|
12月前
|
存储 缓存 关系型数据库
图解MySQL【日志】——Redo Log
Redo Log(重做日志)是数据库中用于记录数据页修改的物理日志,确保事务的持久性和一致性。其主要作用包括崩溃恢复、提高性能和保证事务一致性。Redo Log 通过先写日志的方式,在内存中缓存修改操作,并在适当时候刷入磁盘,减少随机写入带来的性能损耗。WAL(Write-Ahead Logging)技术的核心思想是先将修改操作记录到日志文件中,再择机写入磁盘,从而实现高效且安全的数据持久化。Redo Log 的持久化过程涉及 Redo Log Buffer 和不同刷盘时机的控制参数(如 `innodb_flush_log_at_trx_commit`),以平衡性能与数据安全性。
684 5
图解MySQL【日志】——Redo Log
|
11月前
|
监控 Java 应用服务中间件
Tomcat log日志解析
理解和解析Tomcat日志文件对于诊断和解决Web应用中的问题至关重要。通过分析 `catalina.out`、`localhost.log`、`localhost_access_log.*.txt`、`manager.log`和 `host-manager.log`等日志文件,可以快速定位和解决问题,确保Tomcat服务器的稳定运行。掌握这些日志解析技巧,可以显著提高运维和开发效率。
1275 13
|
11月前
|
缓存 Java 编译器
|
11月前
|
存储 SQL Oracle
|
11月前
|
运维 监控 虚拟化
除了实时性能监控,Hyper-V还支持日志记录和警报功能你知道吗?
Hyper-V不仅支持实时性能监控,还具备强大的日志记录和警报功能。通过事件查看器可访问详细的日志文件,涵盖虚拟机管理、配置及Hypervisor事件,帮助故障排查和性能分析。警报功能支持预定义和自定义规则,可通过多种方式通知管理员,确保及时响应问题,保障虚拟化环境的稳定运行。
|
SQL 关系型数据库 MySQL
MySQL事务日志-Undo Log工作原理分析
事务的持久性是交由Redo Log来保证,原子性则是交由Undo Log来保证。如果事务中的SQL执行到一半出现错误,需要把前面已经执行过的SQL撤销以达到原子性的目的,这个过程也叫做"回滚",所以Undo Log也叫回滚日志。
743 7
MySQL事务日志-Undo Log工作原理分析
|
11月前
|
SQL 存储 关系型数据库
简单聊聊MySQL的三大日志(Redo Log、Binlog和Undo Log)各有什么区别
在MySQL数据库管理中,理解Redo Log(重做日志)、Binlog(二进制日志)和Undo Log(回滚日志)至关重要。Redo Log确保数据持久性和崩溃恢复;Binlog用于主从复制和数据恢复,记录逻辑操作;Undo Log支持事务的原子性和隔离性,实现回滚与MVCC。三者协同工作,保障事务ACID特性。文章还详细解析了日志写入流程及可能的异常情况,帮助深入理解数据库日志机制。
1368 0

相关产品

  • 日志服务