1秒10亿数据!阿里云日志服务再次升级

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介:

日前,在“2017杭州·云栖大会”上阿里云宣布,日志服务与Splunk打通合作,同时面向亿级实时日志分析功能上线。兼容SQL92标准与JDBC协议,集中解决各类环境日志一站式需求,包括采集、存储、投递与查询分析等,将日志分析提升到全新高度,达到国内领先水平。

日常生活中人和物的活动会产生大量的数据,而日志是一种常用记录这类活动的载体。通过日志处理,分析可以帮助我们通过大数据找到背后的运作规律,做到业务的智能运维和运营。日志分析最终是拿到结果,但过程中往往需要通过软件(例如kafka、ELK、Flume)等组合搭建日志处理系统,这给使用日志分析工作带来很多问题和困扰。而阿里云日志服务是一种无托管的方案,无需用户关心琐碎的数据采集、扩容、维护、错误处理等工作,将精力集中投入在“分析”结果上。

在国外云厂商方案中,一般需要通过几个产品连接+组合才能搭建日志处理方案。就如要开一辆车,得购买几个组件,在一些连接点上还需要写一些处理程序才能运行起来,在使用过程中需要到不同产品中关注水位,以确保服务可用性。阿里云日志服务提供的是完整的解决方案,整体易用性更佳。

据了解,阿里云日志服务商业化一年内大约推出30+新功能,同时也将日志分析提升到新的高度,具备以下几个特点:

  1. 快:传统方案从数据产生到拿到结果往往最快需要接近分钟。今天日志服务下的LogAnalytics功能够在1秒内,完成数据采集 + 存储 + 10亿查询 + 1亿计算所有功能,这就意味着日志分析实时性达到前所未有速度。
  2. 强:传统方案一般只支持有限的查询+聚合分析。但LogAnaltyics完整支持SQL 92语法,可以像分析报表数据一样分析你的日志。
  3. 广:除了与Docker、Storm、Spark Streaming、Hadoop、Hive、Presto + 阿里云大数据对接外,还支持了Grafana等著名开源数据可视化插件,方便与上层业务系统集成。
  4. 省:费用接近自建10%,就是这么任性。具体情况可以参见自建费用对比,
    阿里云日志服务负责人介绍,目前主要有三个功能:LogHub,LogShipper,LogAnalytics。其中LogHub使用成本与其他方案相比,能节省60%以上时间和费用,极大节省了日志系统的投入。而目前阿里云提供的LogShipper功能也可以免费使用,能为用户提供海量、高并发、高性价比的日志处理系统。如果采集公网上用户一天10 GB压缩后的数据,如果通过自建方案需要16元/天,而使用LogHub 只需要2元,大约为前者10%,且不需要任何运维上的投入。LogAnalytics在同样规模,性能条件下,价格是自建方案10%。例如一天写入50GB数据(其中27GB 为实际的内容),保存90天,平均一个月的耗费对比如下图:image

同样性能,使用LogSearch/Analytics与ELK(SSD)费用比为 13.6%。

阿里云日志产品使用起来也非常简单,主要分为两个步骤:一是接入日志数据;二是在控制台配置并进行分析。之后无论是对接实时计算,还是数仓,或仪表盘还是报警都非常方便。
image

据了解,该产品适合对日志处理、分析有需求的用户场景。例如电子商务,媒体直播,游戏,广告,IoT和App开发用户。这些场景上都有大量用户、设备产生的数据需要进行实时分析。而使用阿里云日志产品,则能更快更省更好地处理分析。

想了解更多阿里云日志产品,欢迎点击www.aliyun.com/product/sls。

相关实践学习
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
相关文章
|
4月前
|
监控 Kubernetes Go
日志采集效能跃迁:iLogtail 到 LoongCollector 的全面升级
LoongCollector 在日志场景中实现了全面的重磅升级,从功能、性能、稳定性等各个方面均进行了深度优化和提升,本文我们将对 LoongCollector 的升级进行详细介绍。
390 86
|
4月前
|
存储 缓存 Apache
StarRocks+Paimon 落地阿里日志采集:万亿级实时数据秒级查询
本文介绍了阿里集团A+流量分析平台的日志查询优化方案,针对万亿级日志数据的写入与查询挑战,提出基于Flink、Paimon和StarRocks的技术架构。通过Paimon存储日志数据,结合StarRocks高效计算能力,实现秒级查询性能。具体包括分桶表设计、数据缓存优化及文件大小控制等措施,解决高并发、大数据量下的查询效率问题。最终,日志查询耗时从分钟级降至秒级,显著提升业务响应速度,并为未来更低存储成本、更高性能及更多业务场景覆盖奠定基础。
|
20天前
|
存储 关系型数据库 数据库
【赵渝强老师】PostgreSQL数据库的WAL日志与数据写入的过程
PostgreSQL中的WAL(预写日志)是保证数据完整性的关键技术。在数据修改前,系统会先将日志写入WAL,确保宕机时可通过日志恢复数据。它减少了磁盘I/O,提升了性能,并支持手动切换日志文件。WAL文件默认存储在pg_wal目录下,采用16进制命名规则。此外,PostgreSQL提供pg_waldump工具解析日志内容。
|
21天前
|
数据采集 运维 监控
|
5月前
|
SQL 监控 数据挖掘
SLS 重磅升级:超大规模数据实现完全精确分析
SLS 全新推出的「SQL 完全精确」模式,通过“限”与“换”的策略切换,在快速分析与精确计算之间实现平衡,满足用户对于超大数据规模分析结果精确的刚性需求。标志着其在超大规模日志数据分析领域再次迈出了重要的一步。
465 117
|
3月前
|
存储 NoSQL MongoDB
Docker中安装MongoDB并配置数据、日志、配置文件持久化。
现在,你有了一个运行在Docker中的MongoDB,它拥有自己的小空间,对高楼大厦的崩塌视而不见(会话丢失和数据不持久化的问题)。这个MongoDB的数据、日志、配置文件都会妥妥地保存在你为它精心准备的地方,天旋地转,它也不会失去一丁点儿宝贵的记忆(即使在容器重启后)。
303 4
|
4月前
|
自然语言处理 监控 安全
阿里云发布可观测MCP!支持自然语言查询和分析多模态日志
阿里云可观测官方发布了Observable MCP Server,提供了一系列访问阿里云可观测各产品的工具能力,包含阿里云日志服务SLS、阿里云应用实时监控服务ARMS等,支持用户通过自然语言形式查询
451 0
阿里云发布可观测MCP!支持自然语言查询和分析多模态日志
|
10月前
|
XML 安全 Java
【日志框架整合】Slf4j、Log4j、Log4j2、Logback配置模板
本文介绍了Java日志框架的基本概念和使用方法,重点讨论了SLF4J、Log4j、Logback和Log4j2之间的关系及其性能对比。SLF4J作为一个日志抽象层,允许开发者使用统一的日志接口,而Log4j、Logback和Log4j2则是具体的日志实现框架。Log4j2在性能上优于Logback,推荐在新项目中使用。文章还详细说明了如何在Spring Boot项目中配置Log4j2和Logback,以及如何使用Lombok简化日志记录。最后,提供了一些日志配置的最佳实践,包括滚动日志、统一日志格式和提高日志性能的方法。
2762 31
【日志框架整合】Slf4j、Log4j、Log4j2、Logback配置模板
|
9月前
|
监控 安全 Apache
什么是Apache日志?为什么Apache日志分析很重要?
Apache是全球广泛使用的Web服务器软件,支持超过30%的活跃网站。它通过接收和处理HTTP请求,与后端服务器通信,返回响应并记录日志,确保网页请求的快速准确处理。Apache日志分为访问日志和错误日志,对提升用户体验、保障安全及优化性能至关重要。EventLog Analyzer等工具可有效管理和分析这些日志,增强Web服务的安全性和可靠性。
236 9

相关产品

  • 日志服务