SQL Server 最小化日志操作解析,应用

本文涉及的产品
云数据库 RDS SQL Server,基础系列 2核4GB
RDS SQL Server Serverless,2-4RCU 50GB 3个月
推荐场景:
全局流量管理 GTM,标准版 1个月
简介: SQL Server在满足相应条件的基础上时进行一些特定的操作如Rebuild Index时会进行最小化Tran Log记录操作,从而改善系统性能. 本文介绍最小化日志相关知识,及应用场景实践。

最小化日志

 

概念:SQL Server在满足相应条件的基础上时进行一些特定的操作如Rebuild Index时会进行最小化Tran Log记录操作,从而改善系统性能.

注意:含最小化操作日志操作段日志无法按时间点恢复(point in time)

     需要还原模式为简单或大容量日志

 

最小化日志的操作

Create Index,Alter Index Rebulid

Bulk import操作(BCP,Bulk insert)

Select into

Blob数据操作(使用Write等)

Insert select(sql 2008后特定条件下可以)

Merge(特定条件)

 

应用:实际应用过程中我们实际使用insert select的时候居多,就此介绍

关于insert select操作的最小化日志

聚集表

当聚集表为空时,使用TABLOCK 锁提示将会最小化日志

当聚集表非空时,无论如何将不会最小化日志

非聚集表

当堆表为空时,使用TABLOCK锁提示,表中行数据,索引数据(非聚集索引)都会最小化日志

当堆表非空时,使用TABLOCK锁提示,表中存在非聚集索引,则行数据,索引数据均非最小化日志

注:表非复制表

    一些文档中在堆表有索引非空的情况认为堆行数据会最小化日志,实际是错误的.见图b-2中说明

聚集表实例

聚集空最小化日志 图a-1

create database testbulk

go

use master

ALTER DATABASE [testbulk] SET RECOVERY BULK_LOGGED WITH NO_WAIT

go

use testbulk

go

 

create table t1(id int not null identity (1,1),dystr varchar(200),fixstr char(500));

go

set nocount on

declare @i int

set @i=0

while(@i<20000)

begin

  insert into t1(dystr,fixstr)values('aaa'+str(RAND()*100000000),'bbb'+str(RAND()*100000000))

  set @i=@i+1

end

 

 

 

create table tcls

(

id int ,

dystr varchar(200),

fixstr char(500)

)

go

CREATE UNIQUE CLUSTERED INDEX inx_id ON dbo.tcls (id)

 

 

insert into dbo.tcls with(tablockx)

select * from dbo.t1 ----cluster table empty

 

select operation,CONTEXT,[Log Record Length],AllocUnitName from fn_dblog(null,null)

where AllocUnitName like '%tcls%'

 

 

图a-1

聚集非空非最小化日志图a-2

truncate table tcls

DBCC SHRINKFILE (N'testbulk_log' , 0, TRUNCATEONLY)

 

insert into dbo.tcls with(tablockx) values  (100000,'aaa','bbb')----made not empty clustered table

go

insert into dbo.tcls with(tablockx)

select * from dbo.t1

----cluster table not empty

 

select operation,CONTEXT,[Log Record Length],AllocUnitName from fn_dblog(null,null)

where AllocUnitName like '%tcls%'


图a-2

 

非聚集索引实例

 非聚集非空堆表无索引实例 图b-1

create table tnoncls

(

id int ,

dystr varchar(200),

fixstr char(500)

)

go

 

 

insert into dbo.tnoncls with(tablockx) values (100000,'aaa','bbb')----made not empty heap table no index

go

insert into dbo.tnoncls with(tablockx)

select * from dbo.t1  with(tablockx)----heap table not empty with no index

 

 

select operation,CONTEXT,[Log Record Length],AllocUnitName from fn_dblog(null,null)

where AllocUnitName like '%tnoncls%'

 

图b-1

非聚集非空堆表含索引实例 图b-2

truncate table tnoncls----truncate table

DBCC SHRINKFILE (N'testbulk_log' , 0, TRUNCATEONLY)

 

CREATE UNIQUE NONCLUSTERED INDEX inx_id ON dbo.tnoncls (id)----add non clustered index

 

insert into dbo.tnoncls with(tablockx) values (100000,'aaa','bbb')----made not empty heap table with index

go

insert into dbo.tnoncls with(tablockx)

select * from dbo.t1  with(tablockx)----heap table not empty with  index

 

select operation,CONTEXT,[Log Record Length],AllocUnitName from fn_dblog(null,null)

where AllocUnitName like '%tnoncls%'----both datapage and indexpage full log

 

图b-2

 

关于trace flag 610

Sql2008新引进的TF,用于非空B-tree结构中仍可最小化日志操作.

 

关于TF610的使用我个人建议是特殊场景谨慎使用.

一般来说我们在对非空表导入数据的场景,堆表在Online的过程中最小化日志锁表本身就会影响线上的应用.聚集表数据在插入过程中批量导入的可能性又极低.(好好的聚集表数据批量导入,情况甚微).

TF610本身是为了减少记录的tran-log大小而设计,并非加快导入而设计.

 

使用时注意:

1:特定情况下session级打开 dbcc traceon(610)

2:当批量事务提交时所有数据页需落盘,如果此之前没有检查点执行落盘会带来大量的随机IO从而导致性能下降,有时甚至不如全日志记录的插入.

3:避免单个事务过大.超大事务可能导致其他问题.


最小化日志(Minimal Log)最佳实践

BULK_LOGGED模式:现实生产环境中的数据库一般是简单,或者全日志. BULK_LOGGED模式使用常态下寥寥无几.但当我们的数据操作中存在大量可最小化的日志操作中(如索引重建维护)我们可以开启BULK_LOGGED模式从而提高操作效率.

例:索引维护

1:选取操作时间窗口:日常全备份前

2:全备份完成后,人工干预执行一次日志备份.

3:修改数据库模式由Full->BULK_LOGGED

4:大容量日志操作(索引维护)

5:人工干预备份日志

6:重新调整为全日志(模式)

BULK_LOGGED模式下是不会破坏日志链,在这样的模式下我们把Non point time的时间段降到了最低.

注:当数据库有应用全日志模式的情况下,如镜像,不宜修改的数据库模式而破坏应用,当全日志情形下产生的大量日志可能导致实例级的全局问题,应仔细权衡操作.

    对有审计需求的数据库来说,注意具体审计需求:是否需要恢复到时间点.

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
12天前
|
SQL 存储 缓存
MySQL进阶突击系列(02)一条更新SQL执行过程 | 讲透undoLog、redoLog、binLog日志三宝
本文详细介绍了MySQL中update SQL执行过程涉及的undoLog、redoLog和binLog三种日志的作用及其工作原理,包括它们如何确保数据的一致性和完整性,以及在事务提交过程中各自的角色。同时,文章还探讨了这些日志在故障恢复中的重要性,强调了合理配置相关参数对于提高系统稳定性的必要性。
|
28天前
|
SQL IDE 数据库连接
IntelliJ IDEA处理大文件SQL:性能优势解析
在数据库开发和管理工作中,执行大型SQL文件是一个常见的任务。传统的数据库管理工具如Navicat在处理大型SQL文件时可能会遇到性能瓶颈。而IntelliJ IDEA,作为一个强大的集成开发环境,提供了一些高级功能,使其在执行大文件SQL时表现出色。本文将探讨IntelliJ IDEA在处理大文件SQL时的性能优势,并与Navicat进行比较。
30 4
|
29天前
|
监控 安全 网络安全
使用EventLog Analyzer日志分析工具监测 Windows Server 安全威胁
Windows服务器面临多重威胁,包括勒索软件、DoS攻击、内部威胁、恶意软件感染、网络钓鱼、暴力破解、漏洞利用、Web应用攻击及配置错误等。这些威胁严重威胁服务器安全与业务连续性。EventLog Analyzer通过日志管理和威胁分析,有效检测并应对上述威胁,提升服务器安全性,确保服务稳定运行。
|
22天前
|
SQL Java 数据库连接
canal-starter 监听解析 storeValue 不一样,同样的sql 一个在mybatis执行 一个在数据库操作,导致解析不出正确对象
canal-starter 监听解析 storeValue 不一样,同样的sql 一个在mybatis执行 一个在数据库操作,导致解析不出正确对象
|
2月前
|
存储 监控 安全
深入解析Sysmon日志:增强网络安全与威胁应对的关键一环
在不断演进的网络安全领域中,保持对威胁的及时了解至关重要。Sysmon日志在这方面发挥了至关重要的作用,通过提供有价值的见解,使组织能够加强其安全姿态。Windows在企业环境中是主导的操作系统,因此深入了解Windows事件日志、它们的独特特性和局限性,并通过Sysmon进行增强,变得至关重要。
|
2月前
|
SQL 监控 数据库
SQL语句是否都需要解析及其相关技巧和方法
在数据库管理中,SQL(结构化查询语言)语句的使用无处不在,它们负责数据的查询、插入、更新和删除等操作
|
1月前
|
SQL 监控 安全
员工上网行为监控软件:SQL 在数据查询监控中的应用解析
在数字化办公环境中,员工上网行为监控软件对企业网络安全和管理至关重要。通过 SQL 查询和分析数据库中的数据,企业可以精准了解员工的上网行为,包括基础查询、复杂条件查询、数据统计与分析等,从而提高网络管理和安全防护的效率。
29 0
|
2月前
|
SQL 数据库
为什么 SQL 日志文件很大,我应该如何处理?
为什么 SQL 日志文件很大,我应该如何处理?
|
2月前
|
SQL 存储 数据库
SQL语句是否都需要解析及其相关技巧与方法
在数据库管理系统中,SQL(Structured Query Language)语句作为与数据库交互的桥梁,其执行过程往往涉及到一个或多个解析阶段
|
2月前
|
网络协议 定位技术 Windows
Windows Server 2019 DNS服务器搭建
Windows Server 2019 DNS服务器搭建

推荐镜像

更多