SQL Server数据库系统的IO性能受到物理硬盘的IO延迟和SQL Server请求执行的IO操作的影响。在监控硬盘性能时,主要的度量值(metric)是IO延迟,IO延迟是指从应用程序创建IO请求,到硬盘完成IO请求的时间延迟。如果物理硬盘不能及时完成IO请求,跟不上请求负载的速度,那么SQL Server就容易出现性能问题。SQL Server内部在执行一些特定的操作时,会和硬盘做读写交互,这也会影响物理硬盘响应SQL Server的IO请求的性能,使查询进程处于PageIOLatch或WriteLog等待。
一,使用性能计数器(Performance counter)监控硬盘 IO
首先要了解操作系统的存储管理,硬盘在操作系统分为:物理硬盘(Physical Disk)和逻辑硬盘(Logical Disk)。Windows可以在一个Physical Disk上划出若干个逻辑分区,每一个逻辑分区是一个Logical Disk。对于分配在同一个Physical Disk上的Logical Disks,其读写操作共享Physical Disk的IO带宽。Windows给每一个Logical Disk分配一个盘符,App通过盘符来读写数据。
对应地,硬盘的性能有两组计数器:Logical Disk 和 Physical Disk,其中逻辑硬盘是物理硬盘的逻辑分区:
- Logical Disk 计数器按照逻辑分区记录每个逻辑分区的读写IO信息,由于App通过盘符来读写数据,通过logical Disk 计数器可以了解不同App向不同盘符发出的读写请求有多少。
- Physical Disk 计数器是按照物理磁盘,记录每一个物理磁盘的读写IO,如果该物理硬盘上有多个逻辑分区,那么把所有逻辑分区的IO加和到一起,统计物理硬盘的IO性能,监控硬盘的响应速度,能够真正了解硬件的实际IO量。推荐监控某一块Physical Disk,而不要粗暴地监控所有的物理硬盘,多数情况下,一块Physical Disk的IO很忙,而其他Physical Disk很空闲,原因是数据库文件分布的逻辑硬盘是同一块物理硬盘,导致单块物理硬盘需要处理的IO请求过多,为了避免这种情况的发生,需要把数据库文件均匀分布在不同的物理硬盘上。
那么,Windows性能监控器都有哪些硬盘的性能计数器了?
1,Disk Queue Length
硬盘队列长度是等待被Physical Disk处理的IO请求的数目。如果一个App发出一条读请求,但是目标Disk正在处理其他IO Task,那么这个新的请求就会被放在Disk queue中,Disk queue Length就是1,硬盘的请求队列的长度,能够衡量硬盘的工作负载,队列长度越长,说明硬盘接收到的IO请求越多,完成一次IO请求需要的处理时间就越长,从一定程度上表明,硬盘性能不能满足业务的需求了。
- Avg. Disk Queue Length
- Avg.Disk Read Queue Length
- Avg.Disk Wirte Queue Length
- Current Disk Queue length
2,传输(Transfer)时间
Transfer是Disk 的一次完整的I/O动作,表示从寻道,读写数据,到传输完成。在统计时,Transfer 是 Read 和 Write的加和。
- Avg. Disk sec/Transfer : 磁盘每一次读写所用的平均时间。
- Disk Transfers/sec : 磁盘每秒处理的读写次数。
- Avg.Disk Bytes/Transfer:Disk 每次IO传送的Bytes数
3,读写时间百分比
硬盘的工作时间(elapsed time)是指硬盘用于执行read/write操作的时间
- % Disk Time:硬盘的工作时间( elapsed time)和处理IO请求的总时间的比值。
- % Disk Read Time
- % Disk Write Time
- % Idle Time
4,IO拆分
一次IO拆分成多次IO来实现,IO拆分的原因是文件出现碎片,一次IO请求读取的非连续的数据段,那么硬盘子系统会把该请求分成多次执行,测量IO拆分的比例能够反映文件存储的分散程度。
还有一个原因会导致IO拆分,这就是一次读取的数据过大,导致无法通过一次IO请求返回,这就需要把IO请求拆分成多次。
Split IO/Sec reports the rate at which I/Os to the disk were split into multiple I/Os. A split I/O may result from requesting data of a size that is too large to fit into a single I/O or that the disk is fragmented.
二,在系统级别监控物理Disk的IO性能
使用性能监控器来侦测IO性能,用于监控IO性能的计数器主要是物理硬盘的读写:
- Physical Disk\Disk Reads/sec
- Physical Disk\Disk Writes/sec
这两个计数器的性能指标:
- <10 ms 没有性能问题
- 10~20ms 存在问题
- 20~50ms 性能较低
- >50ms 存在严重的性能问题
1,监控物理Disk的IO延迟
在Windows级别上对Physical Disk的IO延迟进行分析,主要依赖于Performance Monitor的计数器,衡量物理Disk的IO延迟的计数器主要有三个:
- Avg. Disk sec/Transfer:Disk每一次读写操作所用的平均时间
- Avg. Disk sec/Read:Disk每一次读操作所用的平均时间
- Avg. Disk sec/Write:Disk每一次写操作所用的平均时间
avg.Disk sec/(Transfer,Read,Write),能够很好的反映Disk的IO速度,推荐的衡量Disk的IO速度的基线(baseline):
- 很快:<10ms
- 一般:10-20ms
- 有点慢:20-50ms
- 非常慢:>50ms
2,分析Data Collector收集的计数器数值
下图是产品环境中一台Server的计数器数值图表,将IO延迟的度量值按比例放大1000倍,这样图表显示的单位就是ms。
- %Idle Time:在60%左右浮动,说明Disk不是很忙碌
- Avg.Disk sec/Write:大多数情况下都是10ms以下,偶尔波动,说明Disk的写延迟比较低
- Avg.Disk sec/Read:读延迟大多数情况下都是在40ms以上,鲜有低于40ms,偶尔达到峰值,说明Disk的读延迟非常高
- Avg.Disk sec/Transfer:读写延迟的均值在30ms左右,时有波动,在%Idle Time曲线不波动时,Disk的读写延迟也有波动,说明Disk的读写延迟不稳定
初步判断,Disk的读写延迟非常高,Disk的IO性能较差,IO速度慢
3,监控物理Disk的IO次数
根据Disk的IO次数来界定Disk性能,没有统一的阈值,一般通过监控计数值来获取一个趋势,设置一个基线,如果在Disk比较忙碌时,遇到异常的谷值,那么就需要查看是否出现参数嗅探问题和Disk IO密集的查询,异常的谷值一般是由查询语句请求的数据量太多造成的,需要对查询语句进行性能调优。
系统级经常用到的Disk性能计数器是PhysicalDisk计数器:
- Avg. Disk Queue Length :提供Disk阻塞程度的主要度量值,表示在 sample interval期间,Disk等待处理的IO请求队列的平均长度,即等待被Disk处理的IO请求的数量
- % Idle Time:Disk的空闲程度,可以反推出Disk的忙碌程度
- Disk (Reads/Writes/Transfers)/sec:每秒Disk执行读写操作数量
队列长度波动很大,在%Idle Time 升高时,IO数量降低,没有发现明显的异常谷值。
4,监控物理Disk读写的数据量
这几个计数值,对监控物理Disk的读写性能,意义不大,仅仅作为参考。
- Avg.Disk Bytes/(Read,Write,Transfer)表示:在物理Disk执行读写操作时,物理Disk从Disk读取到内存的字节数量,从内存写入到Disk的字节数量,以及两者的总字节数量
- Disk Bytes/sec:在物理Disk执行读写操作时,数据从Disk传输到内存,或从内存写入到Disk的字节速度,好的Disk,其值在20-40MB之间,一般Disk,其值在20MB以下
三,SQL Server内部操作对Disk IO性能的影响
SQL Server能够缓存从Disk加载的数据页,正常情况下,大部分操作不需要任何物理读操作,不需要Disk的物理IO参与就能完成,但是,有一些操作,必须和物理Disk进行IO操作,才能完成。SQL Server和物理Disk进行IO交互的操作:
- 对于内存中没有缓存的数据,次访问时,需要将数据从数据文件读取到内存中,SQL Server访问的任何数据必须缓存到内存中,如果不在内存中,SQL Server发送读请求,将数据页从物理Disk读取到内存中,这个过程叫做物理读;如果数据存在于内存中,SQL Server直接访问,这个过程叫做逻辑读。
- 在任何修改操作提交之前,预写事务日志记录到日志文件,在CheckPoint和LazyWriter运行时,数据被写入数据文件。
- 执行CheckPoint时,将缓存中的脏页写入数据文件,脏页是指载入内存之后被修改过的数据页,内存中的数据和数据文件中的数据不一致,由CheckPoint触发的物理写操作和内压没有关系,和用户修改的数据量有关,用于控制还原的时间间隔。
- 当Buffer Pool空间不足,Free Buffer List减少到临界值时,LazyWriter进程主动将内存中的一些很久没有访问过数据页面和执行计划清空,如果数据页面是脏页,那么将其写入到数据文件,LazyWriter和内存压力有关,由于内存可用的Free Buffer不足导致LazyWriter进程执行清理操作。
- IO密集型操作,比如检查数据库的一致性(DBCC CheckDB),重建索引,更新统计信息,数据库备份等,会带来大量的Disk IO操作
SQL Server只会读取数据文件,只要数据缓存在内存中,理想情况下,SQL Server不会执行任何物理读操作,也不需要从物理Disk加载数据到内存,SQL Server执行读取操作性能和内存的缓存能力有直接关系,也和用户读取的数据量有关。
SQL Server的写操作分为写数据文件和写日志文件。写入日志文件的数据量,完全由数据修改量决定,和内存压力没有关系;写入数据文件的数量,主要和修改量有关。LazyWriter和内存压力有关系,一旦内存有压力,LazyWriter自动启动,负责清理久未被访问的缓存,释放内存,增加可用的Free buffer数量。
因此,SQL Server请求的物理Disk的读操作数量和内存有直接关系,内存越充足,缓存的数据量越多,物理Disk的读操作的数量就会越少,逻辑读的数量不会减少;SQL Server请求的物理Disk的写操作数量和用户执行的数据修改量有直接关系,和内存是否存在压力关系很微小。在执行物理disk的读写请求时,SQL Server的查询进程产生PageIOLatch等待,表示进程正在执行物理读操作,该等待可以从DMV:sys.dm_exec_requests 查看到:
select r.session_id,
r.blocking_session_id as blocking,
r.wait_type as Current_Wait_Type,
r.wait_resource,
r.last_wait_type,
r.wait_time,
r.status,
r.command,
r.cpu_time,r.reads,r.writes,r.logical_reads,
r.total_elapsed_time,
r.start_time,
db_name(r.database_id) as database_name,
SUBSTRING( st.text,
r.statement_start_offset/2+1,
( CASE WHEN r.statement_end_offset = -1
THEN LEN(CONVERT(NVARCHAR(MAX), st.text))
ELSE (r.statement_end_offset - r.statement_start_offset)/2
END
)
) as IndividualQueryStatement
from sys.dm_exec_requests r
outer APPLY sys.dm_exec_sql_text(r.sql_handle) as st
where (r.wait_type<>'MISCELLANEOUS' or r.wait_type is null)
and r.session_id>50
and r.session_id<>@@spid
PageIOLatch 等待:表示进程正在从物理Disk加载数据到内存,即进程在进行物理读操作,从Reads字段能够看到物理读的数量
WriteLog 等待:表示事务正在修改数据,SQL Server将预先将事务日志记录写入到事务日志文件
参考文档:
Memory - Lazy Writer and Checkpoint
SQL Server disk performance metrics – Part 1 – the most important disk performance metrics
Measuring Disk Latency with Windows Performance Monitor (Perfmon)
本文来源https://www.cnblogs.com/ljhdo/p/5149584.html