日志审计服务新功能介绍(全局数据视图及DRDS接入)

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,内容安全 1000 次 1年
对象存储OSS,敏感数据保护2.0 200GB 1年
简介: 阿里云日志服务作为行业领先的日志大数据解决方案,一站式提供数据收集、清洗、分析、可视化和告警功能。日志审计APP提供多账户下跨多云产品审计相关日志进行实时自动化中心化采集,并提供审计需要的存储、查询、信息汇总支持。

阿里云日志服务作为行业领先的日志大数据解决方案,一站式提供数据收集、清洗、分析、可视化和告警功能。日志审计APP提供多账户下跨多云产品审计相关日志进行实时自动化中心化采集,并提供审计需要的存储、查询、信息汇总支持。覆盖Actiontrail、OSS、SLB、RDS、DRDS、API网关等基础产品并支持自由对接到其他生态产品或自有SOC中心。

一、背景

《简化云上等保,阿里云发布日志审计服务》中详细介绍了日志审计的相关背景。总体来说有如下几点:

  • 日志审计是法律刚性需求。网络安全法及等保2.0都对日志审计提出了要求,包括相关日志留存时间及日志集中收集、分析能力。
  • 日志审计是客户安全合规依赖的基础。日志审计有以下集中形式:
    • 客户有成熟的内部合规团队,可以直接消费原生各类日志。
    • 客户也可以直接使用日志审计服务提供的审计支持,直接构建并输出合规审计信息。
    • 客户有安全中心(SOC)可以直接消费日志审计中日志。
      image
  • 日志审计是安全防护的重要一环。长期、可靠、无篡改的日志记录与审计支持来持续安全问题发现解决的时间。

二、日志审计典型场景

image

  • 基础需求:大部分中小企业客户需要自动化采集存储日志。他们的主要诉求是满足《网络安全等保2.0标准》中的最低要求,并脱离手工维护。
  • 高级需求:跨国企业、大企业以及部分中型企业,存在多个部门之间独立结算并且在阿里云账号的使用上各自隔离,但是在审计的时候,需要自动化、统一采集相关日志。他们的主要诉求是除上述的基础诉求外,还希望中心化采集日志并支持多个账号的简单管理。这部分企业一般拥有审计系统,因此对日志审计的需求是能够实时、简单的对接。
  • 更上层的需求:拥有专门合规团队的大公司,他们需要对日志进行监控、告警和分析。一部分客户采集数据到审计系统中进行操作。另一部分客户(尤其是计划在云上搭建一套新审计系统的客户)可以使用日志服务提供的审计支持(查询、分析、告警、可视化等)进行审计操作。
  • 最顶端需求:拥有专业成熟审计合规团队的大企业,一般拥有自己的安全中心或审计系统,他们的核心需求是对接数据进行统一操作。

三、阿里云日志服务

日志服务作为行业领先的日志大数据解决方案,提供一站式数据采集、清洗、分析、可视化和告警功能。一直很好的支持日志服务相关场景:DevOps、运营、安全、审计。
image

1、审计服务APP

image

2、技术功能及优势

  • 实时中心化采集
    • 多云产品支持: 支持阿里云SLB、OSS、RDS等多个主流产品。
    • 一键式采集:一次性配置采集策略后,即可完成跨账号自动实时发现新资源 并实时采集日志。
    • 跨账号:支持将多个主账号下的日志采集到一个主账号下的Project中。
    • 中心化存储:将采集到的日志存储到某个地域的中心化Project中,方便后续查询分析、可视化与告警、二次开发等。
  • 支持丰富的审计功能
    • 继承日志服务现有的所有功能,包括查询分析、加工、报表、告警、导出等功能,支持审计场景下中心化的审计等需求。
    • 生态开放对接:与开源软件、阿里云大数据产品、第三方SOC软件无缝对接,充分发挥数据价值。

阿里云日志服务审计APP的上述优势,可以很好的满足上文提到的日志审计典型场景。

3、产品支持

日志审计服务在继承现有日志服务所有功能外,还支持多账户下实时自动化、中心化采集云产品日志并进行审计,以及支持审计所需的存储、查询及信息汇总。覆盖基础(ActionTrail)、存储(OSS、NAS)、网络(SLB、API网关)、数据库(RDS、DRDS)、安全(WAF、Cloud Firewall、云安全中心)等产品以及支持自由对接其他生态产品或自有SOC中心。
image

四、全局数据视图

为了丰富日志审计APP监控、告警、分析方面的能力,我们提供了日志审计全局视图及云产品的全局视图。可以方便用户查看日志的整体分布及变化趋势。

1、日志审计全局数据视图

image
image

2、云产品全局数据视图

2.1、OSS全局数据视图

image

2.2、RDS全局数据视图

image
image

2.3、SLB全局数据视图

image

五、DRDS接入

DRDS 是一款基于 MySQL 存储、采用分库分表技术进行水平扩展的分布式 OLTP 数据库服务产品,支持 RDS for MySQL 以及 POLARDB for MySQL,产品目标旨在提升数据存储容量、并发吞吐、复杂计算效率三个方面的扩展性需求。
数据库作为企业业务的数据核心,对数据库的操作行为尤其是所有SQL执行的行为进行记录并审计的日志,就显得尤为重要。分布式关系型数据库 DRDS 接入日志审计APP,不仅能够完成DRDS日志的一键采集,而且可以对 SQL 执行状况、性能指标、安全问题的实时诊断分析能力。

1、DRDS日志审计支持

  • 支持一键实时采集,并自动识别新建或删除实例。
  • 支持跨账号采集。
  • 支持中心化日志存储。
  • 丰富的SQL审计分析能力,方便用户对DRDS日志进行查询分析、加工、报表、告警、导出能力。SQL执行日志包括了对数据库进行的所有SQL操作,DRDS提供的SQL执行日志通过网络监听的方式收集,对实际执行几乎没有性能的影响,包括但不限于如下类型的SQL执行以及信息提取:
    • DDL(Data Definition Language):基于SQL的对数据库结构定义的SQL,例如CREATE、ALTER
      DROP、TRUNCATE、COMMENT等
    • DML(Data Manipulation Language):SQL操作语句,包括SELECT、INSERT、UPDATE、DELETE等
    • 其他SQL执行,包括任何其他通过SQL执行的控制,例如回滚、控制等
    • 失败的SQL执行也会被记录
    • 对SQL执行的时间、执行结果、影响的行数等信息的提取
    • 支持多SQL的事务执行关联
    • 支持对SQL提取模板、类型解析
    • 支持历史执行的导入

2、DRDS报表分析

报表具体SQL分析详见 DRDS SQL审计与分析

2.1、实时数据库访问异常排查与问题分析,事务、SQL模板类读写延时等

image

2.2、安全分析,重要表格、异常SQL类型、异常删除修改、危险SQL攻击等分析

2.3、运营分析,活跃数据库与表格,关键数据添加修改删除动向

image

目录
相关文章
|
4月前
|
存储 缓存 Apache
StarRocks+Paimon 落地阿里日志采集:万亿级实时数据秒级查询
本文介绍了阿里集团A+流量分析平台的日志查询优化方案,针对万亿级日志数据的写入与查询挑战,提出基于Flink、Paimon和StarRocks的技术架构。通过Paimon存储日志数据,结合StarRocks高效计算能力,实现秒级查询性能。具体包括分桶表设计、数据缓存优化及文件大小控制等措施,解决高并发、大数据量下的查询效率问题。最终,日志查询耗时从分钟级降至秒级,显著提升业务响应速度,并为未来更低存储成本、更高性能及更多业务场景覆盖奠定基础。
|
23天前
|
存储 关系型数据库 数据库
【赵渝强老师】PostgreSQL数据库的WAL日志与数据写入的过程
PostgreSQL中的WAL(预写日志)是保证数据完整性的关键技术。在数据修改前,系统会先将日志写入WAL,确保宕机时可通过日志恢复数据。它减少了磁盘I/O,提升了性能,并支持手动切换日志文件。WAL文件默认存储在pg_wal目录下,采用16进制命名规则。此外,PostgreSQL提供pg_waldump工具解析日志内容。
|
23天前
|
数据采集 运维 监控
|
5月前
|
SQL 监控 数据挖掘
SLS 重磅升级:超大规模数据实现完全精确分析
SLS 全新推出的「SQL 完全精确」模式,通过“限”与“换”的策略切换,在快速分析与精确计算之间实现平衡,满足用户对于超大数据规模分析结果精确的刚性需求。标志着其在超大规模日志数据分析领域再次迈出了重要的一步。
468 117
|
3月前
|
存储 NoSQL MongoDB
Docker中安装MongoDB并配置数据、日志、配置文件持久化。
现在,你有了一个运行在Docker中的MongoDB,它拥有自己的小空间,对高楼大厦的崩塌视而不见(会话丢失和数据不持久化的问题)。这个MongoDB的数据、日志、配置文件都会妥妥地保存在你为它精心准备的地方,天旋地转,它也不会失去一丁点儿宝贵的记忆(即使在容器重启后)。
310 4
|
6月前
|
存储 JSON Go
PHP 日志系统的最佳搭档:一个 Go 写的远程日志收集服务
为了不再 SSH 上去翻日志,我写了个 Go 小脚本,用来接收远程日志。PHP 负责记录日志,Go 负责存储和展示,按天存储、支持 API 访问、可远程管理,终于能第一时间知道项目炸了。
103 10
|
11月前
|
Web App开发 存储 监控
iLogtail 开源两周年:UC 工程师分享日志查询服务建设实践案例
本文为 iLogtail 开源两周年的实践案例分享,讨论了 iLogtail 作为日志采集工具的优势,包括它在性能上超越 Filebeat 的能力,并通过一系列优化解决了在生产环境中替换 Filebeat 和 Logstash 时遇到的挑战。
314 94
|
10月前
|
存储 Oracle 关系型数据库
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
本文介绍了MySQL InnoDB存储引擎中的数据文件和重做日志文件。数据文件包括`.ibd`和`ibdata`文件,用于存放InnoDB数据和索引。重做日志文件(redo log)确保数据的可靠性和事务的持久性,其大小和路径可由相关参数配置。文章还提供了视频讲解和示例代码。
328 11
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
|
11月前
|
数据采集 机器学习/深度学习 存储
使用 Python 清洗日志数据
使用 Python 清洗日志数据
184 2

相关产品

  • 日志服务