《linux系统性能优化及瓶颈分析.doc》由会员分享，可在线阅读，更多相关《linux系统性能优化及瓶颈分析.doc（40页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、如有侵权，请联系网站删除，仅供学习与交流linux系统性能优化及瓶颈分析【精品文档】第 40 页linux系统性能优化及瓶颈分析一，用vmstat分析系统I/O情况rootlocalhost # vmstat -n 3 (每个3秒刷新一次）procs-memory-swap- -io- -system- -cpu-r b swpd free buff cache si so bi bo in cs us sy id wa1 0 144 186164 105252 2386848 0 0 18 166 83 2 48 21 31 02 0 144 189620 105252 2386848 0
2、0 0 177 1039 1210 34 10 56 00 0 144 214324 105252 2386848 0 0 0 10 1071 670 32 5 63 00 0 144 202212 105252 2386848 0 0 0 189 1035 558 20 3 77 02 0 144 158772 105252 2386848 0 0 0 203 1065 2832 70 14 15 0IO-bi:从块设备读入的数据总量（读磁盘）（KB/S）-bo:写入到块设备的数据总量（写磁盘）（KB/S）随机磁盘读写的时候，这2个值越大（如超出1M),能看到CPU在IO等待的值也会越大二，
3、用iostat分析I/O子系统情况 如果你的系统没有iostat，sar，mpstat等命令，安装sysstat- 7.0.2-1.el5.i386.rpm包，iostat工具将对系统的磁盘操作活动进行监视。它的特点是汇报磁盘活动统计情况，同时也会汇报出CPU 使用情况。同vmstat一样，iostat也有一个弱点，就是它不能对某个进程进行深入分析，仅对系统的整体情况进行分析。iostat的语法如下：程序代码iostat -c | -d -k -t -V -x device interval count -c为汇报CPU的使用情况；-d为汇报磁盘的使用情况；-k表示每秒按kilobytes字节
4、显示数据；-t为打印汇报的时间；-v表示打印出版本信息和用法；-x device指定要统计的设备名称，默认为所有的设备；interval指每次统计间隔的时间；count指按照这个时间间隔统计的次数。iostat在内核2.4和内核2.6中数据来源不太一样，对于kernel 2.4, iostat 的数据的主要来源是 /proc/partitions；在2.6中，数据来源主要是/proc/diskstats和/sys/block/sd*/stat这两个文件#cat /proc/diskstats | grep sda 8 0 sda 17945521 1547188 466667211 17404
5、2714 15853874 42776252 469241932 2406054445 0 137655809 2580960422 8 1 sda1 936 1876 6 12 8 2 sda2 19489178 466659986 58655070 469240224 8 3 sda3 1270 1441 33 264 8 4 sda4 4 8 0 0 8 5 sda5 648 1442 0 0 8 6 sda6 648 1442 0 0第1列 : 磁盘主设备号(major)第2列 : 磁盘次设备号(minor)第3列 : 磁盘的设备名(name)第4列 : 读请求总数(rio)第5列 :
6、 合并的读请求总数(rmerge)第6列 : 读扇区总数(rsect)第7列 : 读数据花费的时间，单位是ms.(从_make_request到 end_that_request_last)(ruse)第8列 : 写请求总数(wio)第9列 : 合并的写请求总数(wmerge)第10列 : 写扇区总数(wsect)第11列 : 写数据花费的时间，单位是ms. (从_make_request到 end_that_request_last)(wuse)第12列 : 现在正在进行的I/O数(running),等于I/O队列中请求数第13列 : 系统真正花费在I/O上的时间，除去重复等待时间(aveq
7、)第14列 : 系统在I/O上花费的时间(use)。#iostat -x 1Linux 2.6.18-53.el5PAE (localhost.localdomain) 03/27/2009avg-cpu: %user %nice %system %iowait %steal %idle 30.72 0.00 5.00 5.72 0.00 58.56Device: rrqm/s wrqm/s r/s w/s rsec/s wsec/s avgrq-sz avgqu-sz await svctm %utilsda 0.79 21.81 9.15 8.08 237.99 239.29 27.69
8、1.32 76.31 4.07 7.02sdb 0.69 19.13 3.26 2.99 153.08 176.92 52.85 0.43 68.80 5.96 3.72sdc 3.47 89.30 10.95 7.30 213.30 772.94 54.04 1.32 72.43 4.18 7.63每项数据的含义如下，rrqm/s: 每秒进行 merge 的读操作数目。即 rmerge/swrqm/s: 每秒进行 merge 的写操作数目。即 wmerge/sr/s: 每秒完成的读 I/O 设备次数。即 rio/sw/s: 每秒完成的写 I/O 设备次数。即 wio/srsec/s: 每秒读
9、扇区数。即 rsect/swsec/s: 每秒写扇区数。即 wsect/srkB/s: 每秒读K字节数。是 rsect/s 的一半，因为每扇区大小为512字节。wkB/s: 每秒写K字节数。是 wsect/s 的一半。avgrq-sz: 平均每次设备I/O操作的数据大小 (扇区)。即 (rsect+wsect)/(rio+wio)avgqu-sz: 平均I/O队列长度。即 aveq/1000 (因为aveq的单位为毫秒)。await: 平均每次设备I/O操作的等待时间 (毫秒)。即 (ruse+wuse)/(rio+wio)svctm: 平均每次设备I/O操作的服务时间 (毫秒)。即 use/
10、(rio+wio)%util: 一秒中有百分之多少的时间用于 I/O 操作，或者说一秒中有多少时间I/O队列是非空的,即use/1000 (因为use的单位为毫秒),如果 %util 接近 100%，说明产生的I/O请求太多，I/O系统已经满负荷，该磁盘可能存在瓶颈。svctm 一般要小于 await (因为同时等待的请求的等待时间被重复计算了)，svctm 的大小一般和磁盘性能有关，CPU/内存的负荷也会对其有影响，请求过多也会间接导致 svctm 的增加。await 的大小一般取决于服务时间(svctm) 以及 I/O 队列的长度和 I/O 请求的发出模式。如果 svctm 比较接近 aw
11、ait，说明 I/O 几乎没有等待时间；如果 await 远大于 svctm，说明 I/O 队列太长，应用得到的响应时间变慢，如果响应时间超过了用户可以容许的范围，这时可以考虑更换更快的磁盘，调整内核 elevator 算法，优化应用，或者升级 CPU。 队列长度(avgqu-sz)也可作为衡量系统 I/O 负荷的指标，但由于 avgqu-sz 是按照单位时间的平均值，所以不能反映瞬间的 I/O 洪水。io/s = r/s +w/sawait=(ruse+wuse)/io（每个请求的等待时间）await*io/s=每秒内的I/O请求总共需要等待的msavgqu-sz=await*(r/s+w/
12、s)/1000(队列长度)以下数据其实与/proc/diskstats中除设备号与设备名外的其它数据是一一对应关系，只是统计的方法略有差别而已。#cat /sys/block/sda/stat17949157 1547772 466744707 174070520 15855905 42781288 469298468 2406092114 2 137680700 2581025934三，sar -b 监控I/O#sar -b 1 10Linux 2.6.18-53.el5PAE (localhost.localdomain) 03/29/200912:19:40 AM tps rtps wt
13、ps bread/s bwrtn/s12:19:42 AM 21.48 9.40 12.08 187.92 429.5312:19:43 AM 14.00 14.00 0.00 840.00 0.0012:19:44 AM 10.29 8.82 1.47 235.29 217.6512:19:45 AM 12.87 10.89 1.98 752.48 142.5712:19:46 AM 19.82 12.61 7.21 425.23 381.9812:19:47 AM 19.00 19.00 0.00 512.00 0.0012:19:49 AM 9.29 9.29 0.00 262.86 0
14、.0012:19:50 AM 16.00 5.00 11.00 144.00 536.0012:19:51 AM 17.65 8.82 8.82 211.76 235.2912:19:52 AM 41.41 29.29 12.12 614.14 363.64Average: 17.75 12.30 5.45 397.19 231.99-tps:每秒钟对磁盘发送transfer的总数，一个transfer就是一个I/O，多个逻辑请求组合成一个对磁盘的I/O请求，一个transfer的大小不确定。-rtps:每秒钟的物理读的总数-wtps:每秒钟的物理写的总数-bread/s:每秒钟从磁盘读取的数
15、据总数-bwrtn/s:每秒钟写入磁盘的数据的总数四，sar -d 1 10Linux 2.6.18-53.el5PAE (localhost.localdomain) 03/29/200912:38:56 AM DEV tps rd_sec/s wr_sec/s avgrq-sz avgqu-sz await svctm %util12:38:57 AM dev8-0 15.00 232.00 0.00 15.47 0.01 0.87 0.87 1.3012:38:57 AM dev8-16 6.00 80.00 320.00 66.67 0.05 8.67 8.67 5.2012:38:5
16、7 AM dev8-32 10.00 224.00 0.00 22.40 0.09 9.20 9.20 9.20 tps：每秒钟对磁盘发送transfer的总数，一个transfer就是一个I/O，多个逻辑请求组合成一个对磁盘的I/O请求，一个transfer的大小不确定 rd_sec/s 每秒钟读取的扇区数，每个扇区512 bytes. wr_sec/s 每秒钟写入的扇区数，每个扇区512 bytes. avgrq-sz 对磁盘请求的扇区的平均大小。 avgqu-sz 对磁盘请求的平均队列长度. await 请求响应的平均时间（毫秒）.包括在请求队列中的时间和响应消耗时间 svctm 对IO
17、请求的服务时间. %util I/O请求占用的CPU时间百分比。Linux命令-分析内存的瓶颈为了提高磁盘存取效率, Linux做了一些精心的设计, 除了对dentry进行缓存(用于VFS,加速文件路径名到inode的转换), 还采取了两种主要Cache方式:Buffer Cache和Page Cache.前者针对磁盘块的读写,后者针对文件inode的读写.这些Cache有效缩短了I/O系统调用(比如 read,write,getdents)的时间. 内存活动基本上可以用3个数字来量化:活动虚拟内存总量,交换(swapping)率和调页(paging)率.其中第一个数字表明内存的总需求 量,后
18、两个数字表示那些内存中有多少比例正处在使用之中.目标是减少内存活动或增加内存量,直到调页率保持在一个可以接受的水平上为止. 活动虚拟内存的总量(VM)=实际内存大小(size of real memory)(物理内存)+使用的交换空间大小(amount of swap space used) 当程序运行需要的内存大于物理内存时，UNIX系统采用了调页机制，即系统copy一些内存中的页面到磁盘上，腾出来空间供进程使用。大多数系统可以忍受偶尔的调页，但是频繁的调页会使系统性能急剧下降。UNIX内存管理：UNIX系统通过2种方法进行内存管理，“调页算法”，“交换技术”。调页算法是将内存中最近不常使用
19、的页面换到磁盘上，把常使用的页面（活动页面）保留在内存中供进程使用。交换技术是系统将整个进程，而不是部分页面，全部换到磁盘上。正常情况下，系统会发生一些交换过程。当内存严重不足时，系统会频繁使用调页和交换，这增加了磁盘I/O的负载。进一步降低了系统对作业的执行速度，即系统I/O资源问题又会影响到内存资源的分配。Unix的虚拟内存Unix的虚拟内存是一个十分复杂的子系统，它实现了进程间代码与数据共享机制的透明性，并能够分配比系统现有物理内存更多的内存，某些操作系统的虚存甚至能通过提供缓存功能影响到文件系统的性能，各种风格的UNIX的虚存的实现方式区别很大，但都离不开下面的4个概念。1:实际内存实
20、际内存是指一个系统中实际存在的物理内存，称为RAM。实际内存是存储临时数据最快最有效的方式，因此必须尽可能地分配给应用程序，现在的RAM的形式有多种：SIMM、DIMM、Rambus、DDR等，很多RAM都可以使用纠错机制（ECC）。2:交换空间交换空间是专门用于临时存储内存的一块磁盘空间，通常在页面调度和交换进程数据时使用，通常推荐交换空间的大小应该是物理内存的二到四倍。3:页面调度页面调度是指从磁盘向内存传输数据，以及相反的过程，这个过程之所以被称为页面调度，是因为Unix内存被平均划分成大小相等的页面；通常页面大小为 4KB和8KB（在Solaris中可以用pagesize命令查看）。当
21、可执行程序开始运行时，它的映象会一页一页地从磁盘中换入，与此类似，当某些内 存在一段时间内空闲，就可以把它们换出到交换空间中，这样就可以把空闲的RAM交给其他需要它的程序使用。4:交换页面调度通常容易和交换的概念混淆，页面调度是指把一个进程所占内存的空闲部分传输到磁盘上，而交换是指当系统中实际的内存已不够满足新的分配需求时，把整个进程传输到磁盘上，交换活动通常意味着内存不足。rootlocalhost # vmstat -n 3 (每个3秒刷新一次）procs-memory-swap-io- -system- -cpu-r b swpd free buff cache si so bi bo
22、in cs us sy id wa1 0 144 186164 105252 2386848 0 0 18 166 83 2 48 21 31 02 0 144 189620 105252 2386848 0 0 0 177 1039 1210 34 10 56 00 0 144 214324 105252 2386848 0 0 0 10 1071 670 32 5 63 00 0 144 202212 105252 2386848 0 0 0 189 1035 558 20 3 77 02 0 144 158772 105252 2386848 0 0 0 203 1065 2832 70
23、 14 15 0MEMORY-swap:切换到交换内存上的内存（默认以KB为单位）如果SWAP的值不为0，或者还比较大，比如超过100M了，但是SI，SO的值长期为0，这种情况我们可以不用担心，不会影响系统性能。-free:空闲的物理内存- buff:作为buffer cache的内存，对块设备的读写进行缓冲-cache：作为page cache的内存，文件系统的cache如果cache的值大的时候，说明cache处的文件数多，如果频繁访问到的文件都能被cache处，那么磁盘的读IO bi会非常小。SWAP-si:交换内存使用，由磁盘调入内存-so:交换内存使用，由内存调入磁盘内存够用的时候，
24、这2个值都是0，如果这2个值长期大于0时，系统性能会受到影响，磁盘IO和CPU资源都会被消耗。我发现有些朋友看到空闲内存（FREE）很少的或接近于0时，就认为内存不够用了，实际上不能光看这一点，Linux是抢占内存式的OS，还要结合si,so，如果free很少，但是si,so也很少（大多时候是0），那么不用担心，系统性能这时不会受到影响的。Linux命令-分析CPU的瓶颈衡量CPU性能的指标：1，用户使用CPU的情况；CPU运行常规用户进程CPU运行niced processCPU运行实时进程2，系统使用CPU情况；用于I/O管理：中断和驱动用于内存管理：页面交换用户进程管理：进程开始和上下文
25、切换3，WIO：用于进程等待磁盘I/O而使CPU处于空闲状态的比率。4，CPU的空闲率，除了上面的WIO以外的空闲时间5，CPU用于上下文交换的比率6，nice7，real-time8，运行进程队列的长度9，平均负载Linux中常用的监控CPU整体性能的工具有：? mpstat： mpstat 不但能查看所有CPU的平均信息，还能查看指定CPU的信息。? vmstat：只能查看所有CPU的平均信息；查看cpu队列信息；? iostat: 只能查看所有CPU的平均信息。? sar： 与mpstat 一样，不但能查看CPU的平均信息，还能查看指定CPU的信息。? top：显示的信息同ps接近，但是
26、top可以了解到CPU消耗，可以根据用户指定的时间来更新显示。下面一一介绍：一，vmstatrootlocalhost #vmstat -n 3 (每个3秒刷新一次）procs-memory-swap- -io- -system- -cpu-r b swpd free buff cache si so bi bo in cs us sy id wa10 144 186164 105252 2386848 0 0 18 166 83 2 48 21 31 020 144 189620 105252 2386848 0 0 0 177 1039 1210 34 10 56 000 144 2143
27、24 105252 2386848 0 0 0 10 1071 670 32 5 63 000 144 202212 105252 2386848 0 0 0 189 1035 558 20 3 77 020 144 158772 105252 2386848 0 0 0 203 1065 2832 70 14 15 0红色内容标示CPU相关的参数PROC(ESSES)-r:如果在processes中运行的序列(process r)是连续的大于在系统中的CPU的个数表示系统现在运行比较慢,有多数的进程等待CPU.如果r的输出数大于系统中可用CPU个数的4倍的话,则系统面临着CPU短缺的问题,或
28、者是CPU的速率过低,系统中有多数的进程在等待CPU,造成系统中进程运行过慢.SYSTEM-in:每秒产生的中断次数-cs:每秒产生的上下文切换次数上面2个值越大，会看到由内核消耗的CPU时间会越大CPU-us:用户进程消耗的CPU时间百分us的值比较高时，说明用户进程消耗的CPU时间多，但是如果长期超50%的使用，那么我们就该考虑优化程序算法或者进行加速（比如PHP/PERL）-sy:内核进程消耗的CPU时间百分比（sy的值高时，说明系统内核消耗的CPU资源多，这并不是良性表现，我们应该检查原因）-wa:IO等待消耗的CPU时间百分比wa的值高时，说明IO等待比较严重，这可能由于磁盘大量作随
29、机访问造成，也有可能磁盘出现瓶颈（块操作）。-id:CPU处于空闲状态时间百分比,如果空闲时间(cpu id)持续为0并且系统时间(cpu sy)是用户时间的两倍(cpu us) 系统则面临着CPU资源的短缺.解决办法:当发生以上问题的时候请先调整应用程序对CPU的占用情况.使得应用程序能够更有效的使用CPU.同时可以考虑增加更多的CPU. 关于CPU的使用情 况还可以结合mpstat, ps aux top prstat ?a等等一些相应的命令来综合考虑关于具体的CPU的使用情况,和那些进程在占用大量的CPU时间.一般情况下，应用程序的问题会比较大一些.比如一些 SQL语句不合理等等都会造成
30、这样的现象.二，sarsar options -A -o file t n在命令行中，n 和t 两个参数组合起来定义采样间隔和次数，t为采样间隔，是必须有的参数，n为采样次数，是可选的，默认值是1，-o file表示将命令结果以二进制格式存放在文件中，file 在此处不是关键字，是文件名。options 为命令行选项，sar命令的选项很多，下面只列出常用选项：-A：所有报告的总和。-u：CPU利用率-v：进程、I节点、文件和锁表状态。-d：硬盘使用报告。-r：内存和交换空间的使用统计。-g：串口I/O的情况。-b：缓冲区使用情况。-a：文件读写情况。-c：系统调用情况。-q：报告队列长度和系统
31、平均负载-R：进程的活动情况。-y：终端设备活动情况。-w：系统交换活动。-x pid | SELF | ALL ：报告指定进程ID的统计信息，SELF关键字是sar进程本身的统计，ALL关键字是所有系统进程的统计。用sar进行CPU利用率的分析#sar -u 2 10Linux 2.6.18-53.el5PAE (localhost.localdomain) 03/28/200907:40:17 PM CPU %user %nice %system %iowait %steal %idle07:40:19 PM all 12.44 0.00 6.97 1.74 0.00 78.8607:40
32、:21 PM all 26.75 0.00 12.50 16.00 0.00 44.7507:40:23 PM all 16.96 0.00 7.98 0.00 0.00 75.0607:40:25 PM all 22.50 0.00 7.00 3.25 0.00 67.2507:40:27 PM all 7.25 0.00 2.75 2.50 0.00 87.5007:40:29 PM all 20.05 0.00 8.56 2.93 0.00 68.4607:40:31 PM all 13.97 0.00 6.23 3.49 0.00 76.3107:40:33 PM all 8.25 0
33、.00 0.75 3.50 0.00 87.5007:40:35 PM all 13.25 0.00 5.75 4.00 0.00 77.0007:40:37 PM all 10.03 0.00 0.50 2.51 0.00 86.97Average: all 15.15 0.00 5.91 3.99 0.00 74.95在显示内容包括：%user：CPU处在用户模式下的时间百分比。 %nice：CPU处在带NICE值的用户模式下的时间百分比。%system：CPU处在系统模式下的时间百分比。%iowait：CPU等待输入输出完成时间的百分比。 %steal：管理程序维护另一个虚拟处理器时，虚
34、拟CPU的无意识等待时间百分比。%idle：CPU空闲时间百分比。 在所有的显示中，我们应主要注意%iowait和%idle，%iowait的值过高，表示硬盘存在I/O瓶颈，%idle值高，表示CPU较空 闲，如果%idle值高但系统响应慢时，有可能是CPU等待分配内存，此时应加大内存容量。%idle值如果持续低于10，那么系统的CPU处理能力相对 较低，表明系统中最需要解决的资源是CPU。用sar进行运行进程队列长度分析：#sar -q 2 10Linux 2.6.18-53.el5PAE (localhost.localdomain) 03/28/200907:58:14 PM runq-
35、sz plist-sz ldavg-1 ldavg-5 ldavg-1507:58:16 PM 0 493 0.64 0.56 0.4907:58:18 PM 1 491 0.64 0.56 0.4907:58:20 PM 1 488 0.59 0.55 0.4907:58:22 PM 0 487 0.59 0.55 0.4907:58:24 PM 0 485 0.59 0.55 0.4907:58:26 PM 1 483 0.78 0.59 0.5007:58:28 PM 0 481 0.78 0.59 0.5007:58:30 PM 1 480 0.72 0.58 0.5007:58:32
36、 PM 0 477 0.72 0.58 0.5007:58:34 PM 0 474 0.72 0.58 0.50Average: 0 484 0.68 0.57 0.49runq-sz 准备运行的进程运行队列。plist-sz 进程队列里的进程和线程的数量ldavg-1 前一分钟的系统平均负载(load average)ldavg-5 前五分钟的系统平均负载(load average)ldavg-15 前15分钟的系统平均负载(load average)顺便说一下load avarage的含义load average可以理解为size=+0每秒钟CPU等待运行的进程个数.在Linux系统中，s
37、ar -q、uptime、w、top等命令都会有系统平均负载load average的输出，那么什么是系统平均负载呢？系统平均负载被定义为在特定时间间隔内运行队列中的平均任务数。如果一个进程满足以下条件则其就会位于运行队列中：- 它没有在等待I/O操作的结果- 它没有主动进入等待状态(也就是没有调用wait)- 没有被停止(例如：等待终止)例如：# uptime20:55:40 up 24 days, 3:06, 1 user, load average: 8.13, 5.90, 4.94命令输出的最后内容表示在过去的1、5、15分钟内运行队列中的平均进程数量。一般来说只要每个CPU的当前活动
38、进程数不大于3那么系统的性能就是良好的，如果每个CPU的任务数大于5，那么就表示这台机器的性能有严重问题。对 于上面的例子来说，假设系统有两个CPU，那么其每个CPU的当前任务数为：8.13/2=4.065。这表示该系统的性能是可以接受的。三，iostat#iostat -c 2 10Linux 2.6.18-53.el5PAE (localhost.localdomain) 03/28/2009avg-cpu: %user %nice %system %iowait %steal %idle 30.10 0.00 4.89 5.63 0.00 59.38avg-cpu: %user %nice %system %iowait %steal %idle 8.46 0.00