日志审计服务新功能介绍(全局数据视图及DRDS接入)

本文涉及的产品
对象存储 OSS,20GB 3个月
文件存储 NAS,50GB 3个月
对象存储 OSS,恶意文件检测 1000次 1年
简介: 阿里云日志服务作为行业领先的日志大数据解决方案,一站式提供数据收集、清洗、分析、可视化和告警功能。日志审计APP提供多账户下跨多云产品审计相关日志进行实时自动化中心化采集,并提供审计需要的存储、查询、信息汇总支持。

阿里云日志服务作为行业领先的日志大数据解决方案,一站式提供数据收集、清洗、分析、可视化和告警功能。日志审计APP提供多账户下跨多云产品审计相关日志进行实时自动化中心化采集,并提供审计需要的存储、查询、信息汇总支持。覆盖Actiontrail、OSS、SLB、RDS、DRDS、API网关等基础产品并支持自由对接到其他生态产品或自有SOC中心。

一、背景

《简化云上等保,阿里云发布日志审计服务》中详细介绍了日志审计的相关背景。总体来说有如下几点:

  • 日志审计是法律刚性需求。网络安全法及等保2.0都对日志审计提出了要求,包括相关日志留存时间及日志集中收集、分析能力。
  • 日志审计是客户安全合规依赖的基础。日志审计有以下集中形式:
    • 客户有成熟的内部合规团队,可以直接消费原生各类日志。
    • 客户也可以直接使用日志审计服务提供的审计支持,直接构建并输出合规审计信息。
    • 客户有安全中心(SOC)可以直接消费日志审计中日志。
      image
  • 日志审计是安全防护的重要一环。长期、可靠、无篡改的日志记录与审计支持来持续安全问题发现解决的时间。

二、日志审计典型场景

image

  • 基础需求:大部分中小企业客户需要自动化采集存储日志。他们的主要诉求是满足《网络安全等保2.0标准》中的最低要求,并脱离手工维护。
  • 高级需求:跨国企业、大企业以及部分中型企业,存在多个部门之间独立结算并且在阿里云账号的使用上各自隔离,但是在审计的时候,需要自动化、统一采集相关日志。他们的主要诉求是除上述的基础诉求外,还希望中心化采集日志并支持多个账号的简单管理。这部分企业一般拥有审计系统,因此对日志审计的需求是能够实时、简单的对接。
  • 更上层的需求:拥有专门合规团队的大公司,他们需要对日志进行监控、告警和分析。一部分客户采集数据到审计系统中进行操作。另一部分客户(尤其是计划在云上搭建一套新审计系统的客户)可以使用日志服务提供的审计支持(查询、分析、告警、可视化等)进行审计操作。
  • 最顶端需求:拥有专业成熟审计合规团队的大企业,一般拥有自己的安全中心或审计系统,他们的核心需求是对接数据进行统一操作。

三、阿里云日志服务

日志服务作为行业领先的日志大数据解决方案,提供一站式数据采集、清洗、分析、可视化和告警功能。一直很好的支持日志服务相关场景:DevOps、运营、安全、审计。
image

1、审计服务APP

image

2、技术功能及优势

  • 实时中心化采集
    • 多云产品支持: 支持阿里云SLB、OSS、RDS等多个主流产品。
    • 一键式采集:一次性配置采集策略后,即可完成跨账号自动实时发现新资源 并实时采集日志。
    • 跨账号:支持将多个主账号下的日志采集到一个主账号下的Project中。
    • 中心化存储:将采集到的日志存储到某个地域的中心化Project中,方便后续查询分析、可视化与告警、二次开发等。
  • 支持丰富的审计功能
    • 继承日志服务现有的所有功能,包括查询分析、加工、报表、告警、导出等功能,支持审计场景下中心化的审计等需求。
    • 生态开放对接:与开源软件、阿里云大数据产品、第三方SOC软件无缝对接,充分发挥数据价值。

阿里云日志服务审计APP的上述优势,可以很好的满足上文提到的日志审计典型场景。

3、产品支持

日志审计服务在继承现有日志服务所有功能外,还支持多账户下实时自动化、中心化采集云产品日志并进行审计,以及支持审计所需的存储、查询及信息汇总。覆盖基础(ActionTrail)、存储(OSS、NAS)、网络(SLB、API网关)、数据库(RDS、DRDS)、安全(WAF、Cloud Firewall、云安全中心)等产品以及支持自由对接其他生态产品或自有SOC中心。
image

四、全局数据视图

为了丰富日志审计APP监控、告警、分析方面的能力,我们提供了日志审计全局视图及云产品的全局视图。可以方便用户查看日志的整体分布及变化趋势。

1、日志审计全局数据视图

image
image

2、云产品全局数据视图

2.1、OSS全局数据视图

image

2.2、RDS全局数据视图

image
image

2.3、SLB全局数据视图

image

五、DRDS接入

DRDS 是一款基于 MySQL 存储、采用分库分表技术进行水平扩展的分布式 OLTP 数据库服务产品,支持 RDS for MySQL 以及 POLARDB for MySQL,产品目标旨在提升数据存储容量、并发吞吐、复杂计算效率三个方面的扩展性需求。
数据库作为企业业务的数据核心,对数据库的操作行为尤其是所有SQL执行的行为进行记录并审计的日志,就显得尤为重要。分布式关系型数据库 DRDS 接入日志审计APP,不仅能够完成DRDS日志的一键采集,而且可以对 SQL 执行状况、性能指标、安全问题的实时诊断分析能力。

1、DRDS日志审计支持

  • 支持一键实时采集,并自动识别新建或删除实例。
  • 支持跨账号采集。
  • 支持中心化日志存储。
  • 丰富的SQL审计分析能力,方便用户对DRDS日志进行查询分析、加工、报表、告警、导出能力。SQL执行日志包括了对数据库进行的所有SQL操作,DRDS提供的SQL执行日志通过网络监听的方式收集,对实际执行几乎没有性能的影响,包括但不限于如下类型的SQL执行以及信息提取:
    • DDL(Data Definition Language):基于SQL的对数据库结构定义的SQL,例如CREATE、ALTER
      DROP、TRUNCATE、COMMENT等
    • DML(Data Manipulation Language):SQL操作语句,包括SELECT、INSERT、UPDATE、DELETE等
    • 其他SQL执行,包括任何其他通过SQL执行的控制,例如回滚、控制等
    • 失败的SQL执行也会被记录
    • 对SQL执行的时间、执行结果、影响的行数等信息的提取
    • 支持多SQL的事务执行关联
    • 支持对SQL提取模板、类型解析
    • 支持历史执行的导入

2、DRDS报表分析

报表具体SQL分析详见 DRDS SQL审计与分析

2.1、实时数据库访问异常排查与问题分析,事务、SQL模板类读写延时等

image

2.2、安全分析,重要表格、异常SQL类型、异常删除修改、危险SQL攻击等分析

2.3、运营分析,活跃数据库与表格,关键数据添加修改删除动向

image

相关实践学习
快速体验PolarDB开源数据库
本实验环境已内置PostgreSQL数据库以及PolarDB开源数据库:PolarDB PostgreSQL版和PolarDB分布式版,支持一键拉起使用,方便各位开发者学习使用。
目录
相关文章
|
27天前
|
存储 缓存 Apache
StarRocks+Paimon 落地阿里日志采集:万亿级实时数据秒级查询
本文介绍了阿里集团A+流量分析平台的日志查询优化方案,针对万亿级日志数据的写入与查询挑战,提出基于Flink、Paimon和StarRocks的技术架构。通过Paimon存储日志数据,结合StarRocks高效计算能力,实现秒级查询性能。具体包括分桶表设计、数据缓存优化及文件大小控制等措施,解决高并发、大数据量下的查询效率问题。最终,日志查询耗时从分钟级降至秒级,显著提升业务响应速度,并为未来更低存储成本、更高性能及更多业务场景覆盖奠定基础。
|
2月前
|
SQL 监控 数据挖掘
SLS 重磅升级:超大规模数据实现完全精确分析
SLS 全新推出的「SQL 完全精确」模式,通过“限”与“换”的策略切换,在快速分析与精确计算之间实现平衡,满足用户对于超大数据规模分析结果精确的刚性需求。标志着其在超大规模日志数据分析领域再次迈出了重要的一步。
360 116
|
3月前
|
存储 JSON Go
PHP 日志系统的最佳搭档:一个 Go 写的远程日志收集服务
为了不再 SSH 上去翻日志,我写了个 Go 小脚本,用来接收远程日志。PHP 负责记录日志,Go 负责存储和展示,按天存储、支持 API 访问、可远程管理,终于能第一时间知道项目炸了。
70 10
|
8月前
|
Web App开发 存储 监控
iLogtail 开源两周年:UC 工程师分享日志查询服务建设实践案例
本文为 iLogtail 开源两周年的实践案例分享,讨论了 iLogtail 作为日志采集工具的优势,包括它在性能上超越 Filebeat 的能力,并通过一系列优化解决了在生产环境中替换 Filebeat 和 Logstash 时遇到的挑战。
239 53
|
7月前
|
存储 Oracle 关系型数据库
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
本文介绍了MySQL InnoDB存储引擎中的数据文件和重做日志文件。数据文件包括`.ibd`和`ibdata`文件,用于存放InnoDB数据和索引。重做日志文件(redo log)确保数据的可靠性和事务的持久性,其大小和路径可由相关参数配置。文章还提供了视频讲解和示例代码。
300 11
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
|
8月前
|
数据采集 机器学习/深度学习 存储
使用 Python 清洗日志数据
使用 Python 清洗日志数据
140 2
|
7月前
|
SQL Oracle 关系型数据库
【赵渝强老师】Oracle的联机重做日志文件与数据写入过程
在Oracle数据库中,联机重做日志文件记录了数据库的变化,用于实例恢复。每个数据库有多组联机重做日志,每组建议至少有两个成员。通过SQL语句可查看日志文件信息。视频讲解和示意图进一步解释了这一过程。
115 0
|
8月前
|
开发工具 git
git显示开发日志+WinSW——将.exe文件注册为服务的一个工具+图床PicGo+kubeconfig 多个集群配置 如何切换
git显示开发日志+WinSW——将.exe文件注册为服务的一个工具+图床PicGo+kubeconfig 多个集群配置 如何切换
104 1
|
9月前
|
SQL 人工智能 运维
在阿里云日志服务轻松落地您的AI模型服务——让您的数据更容易产生洞见和实现价值
您有大量的数据,数据的存储和管理消耗您大量的成本,您知道这些数据隐藏着巨大的价值,但是您总觉得还没有把数据的价值变现出来,对吗?来吧,我们用一系列的案例帮您轻松落地AI模型服务,实现数据价值的变现......
399 3
|
8月前
|
存储 缓存 网络协议
搭建dns服务常见报错--查看/etc/named.conf没有错误日志信息却显示出错(/etc/named.conf:49: missing ‘;‘ before ‘include‘)及dns介绍
搭建dns服务常见报错--查看/etc/named.conf没有错误日志信息却显示出错(/etc/named.conf:49: missing ‘;‘ before ‘include‘)及dns介绍
486 0

相关产品

  • 日志服务