《Inix查询语句(SELECT)的优化.doc》由会员分享，可在线阅读，更多相关《Inix查询语句(SELECT)的优化.doc（30页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、,查询语句（SELECT）的优化 程序设计中的一个著名定律是20的代码用去了80的时间，在数据库应用程序中也同样如此。数据库应用程序的优化通常可分为两个方面：源代码的优化和SQL语句的优化。源代码的优化在时间成本和风险上代价很高；另一方面，源代码的优化对数据库系统性能的提升收效有限。 许多程序员认为查询优化是DBMS（数据库管理系统）的任务，与程序员所编写的SQL语句关系不大，这是错误的。一个好的查询计划往往可以使程序性能提高数十倍。查询计划是用户所提交的SQL语句的集合，查询规划是经过优化处理之后所产生的语句集合。DBMS处理查询计划的过程是这样的：在做完查询语句的词法、语法检查之后，将语句
2、提交给DBMS的查询优化器，优化器做完代数优化和存取路径的优化之后，由预编译模块对语句进行处理并生成查询规划，然后在合适的时间提交给系统处理执行，最后将执行结果返回给用户。虽然现在的数据库产品在查询优化方面已经做得越来越好，但由用户提交的SQL语句是系统优化的基础，很难设想一个原本糟糕的查询计划经过系统的优化之后会变得高效，因此用户所写语句的优劣至关重要。 1、对查询语句进行优化的理由 下列几方面的原因是我们进行SQL语句优化的理由： SQL语句是对数据库(数据)进行操作的惟一途径； SQL语句消耗了70%90%的数据库资源； SQL语句独立于程序设计逻辑，相对于对程序源代码的优化，对SQL语
3、句的优化在时间成本和风险上的代价都很低； SQL语句可以有不同的写法； SQL语句易学，难精通。 从大多数数据库应用系统的实例来看，查询操作在各种数据库操作中所占据的比重最大，而查询操作所基于的SELECT语句在SQL语句中又是代价最大的语句。 2、查询语句（SELECT）的优化建议 （1）、合理使用索引：where子句中变量顺序应与索引字键顺序相同。 如：createindextest_idxontest(bdh,rq,xz) 索引字键顺序：首先是保单号bdh，其次是日期rq，最后是险种xz，所以where子句变量顺序应是wherebdh=“P1234”andrq=“06/06/1999”a
4、ndxz=“DAA”,不应是wherexz=“DAA”andrq=“06/06/1999”andbdh=“P1234”这样的不按索引字键顺序写法。 （2）、将最具有限制性的条件放在前面，大值在前，小值在后。 如：wherecolA=1效率高 wherecolA=1ANDcolA=10000效率低 （3）、避免采用MATCHES和LIKE通配符匹配查询 通配符匹配查询特别耗费时间。即使在条件字段上建立了索引，在这种情况下也还是采用顺序扫描的方式。 例如语句：SELECTFROMcustomerWHEREzipcodeMATCHES“524*” 可以考虑将它改为SELECTFROMcustomer
5、WHEREZipCode=“524000”，则在执行查询时就会利用索引来查询，显然会大大提高速度。 （4）、避免非开始的子串 例如语句：SELECTFROMcustomerWHEREzipcode2，3“24”，在where子句中采用了非开始子串，因而这个语句也不会使用索引。 （5）、避免相关子查询 一个字段的标签同时在主查询和where子句中的查询中出现，那么很可能当主查询中的字段值改变之后，子查询必须重新查询一次。查询嵌套层次越多，效率越低，因此应当尽量避免子查询。如果子查询不可避免，那么要在子查询中过滤掉尽可能多的行。 例如：将下面的语句 selectbdh,bffromTabA whe
6、reitemIN(selectitemformTabBwhereTabB.num=50) 改为：selectbdh,bffromTabA,TabB whereTabA.item=TabB.itemANDTabB.num=50 （6）、避免或简化排序 应当简化或避免对大型表进行重复的排序。当能够利用索引自动以适当的次序产生输出时，优化器就避免了排序的步骤。以下是一些影响因素： 索引中不包括一个或几个待排序的字段； groupby或orderby子句中字段的次序与索引的次序不一样； 排序的字段来自不同的表。 为了避免不必要的排序，就要正确地增建索引，合理地合并数据库表（尽管有时可能影响表的规范化，
7、但相对于效率的提高是值得的）。如果排序不可避免，那么应当试图简化它，如缩小排序的字段的范围等。 （7）、消除对大型表行数据的顺序存取 在嵌套查询中，对表的顺序存取对查询效率可能产生致命的影响。比如采用顺序存取策略，一个嵌套3层的查询，如果每层都查询1000行，那么这个查询就要查询10亿行数据。避免这种情况的主要方法就是对连接的字段进行索引。例如，两个表：学生表（学号、姓名、年龄）和选课表（学号、课程号、成绩）。如果两个表要做连接，就要在“学号”这个连接字段上建立索引。 还可以使用并集来避免顺序存取。尽管在所有的检查列上都有索引，但某些形式的where子句强迫优化器使用顺序存取。下面的查询将强迫
8、对orders表执行顺序操作： SELECTFROMordersWHERE(cust_num=126ANDorder_num1001)ORorder_num=1008 虽然在cust_num和order_num上建有索引，但是在上面的语句中优化器还是使用顺序存取路径扫描整个表。因为这个语句要检索的是分离的行的集合，所以应该改为如下语句： SELECTFROMordersWHEREcust_num=126ANDorder_num1001 UNION SELECTFROMordersWHEREorder_num=1008 这样就能利用索引路径处理查询。 （8）、对于大数据量的求和应避免使用单一的s
9、um命令处理，可采用groupby方式与其结合，有时其效率可提高几倍甚至百倍。 （9）、避免会引起磁盘读写的rowid操作。在where子句中或select语句中，用rowid要产生磁盘读写，是一个物理过程，会影响性能。 （10）、使用临时表加速查询 把表的一个子集进行排序并创建临时表，有时能加速查询。它有助于避免多重排序操作，而且在其他方面还能简化优化器的工作。 但要注意：临时表创建后不会反映主表的修改。在主表中数据频繁修改的情况下，注意不要丢失数据。 五、 其他措施 如何优化一套数据库应用程序，除了以上所述的措施外，还有一些分析并提高效率的措施在实际工作中亦应注意使用。 （1）、利用set
10、explainon语句来分析数据库查找策略。 当发现某一部分INFORMIX语句运行特别慢又找不到原因时，可在程序中的查询语句之前加入“setexplainon”语句，当程序运行时，在程序运行的当前目录下产生一个“sqexplain.out”文件，记录了INFORMIX数据库服务器采用何种优化策略来查找数据库。在该文件中可以发现查找中有无使用索引条件，估计的查找代价等信息。 （2）、数据库在做dbimport后应运行updatestatistics语句。 当数据库系统用dbimport实用程序完成数据库装载后，应运行updatestatistics数据库语句保证系统表中统计信息准确，否则将影响
11、数据库优化器的策略和系统运行性能。 例如：selectfromtestwherebdhmatches“PC2002” test表在bdh字段上建立了索引，但在数据库运行updatestatistics前，数据库优化查找策略是按顺序查找而不是按索引查找，严重影响了查找速度。 （3）、经常插入和删除的大表应定期运行updatestatisticshigh语句。 对经常插入和删除的大表应定期运行updatestatistics语句保证系统表中统计信息准确，保证数据库优化器作出正确的优化策略提高系统运行性能。 （4）、对大文件采用load命令装载入库前可先去掉原有的日志方式和去掉索引，等load装载完
12、成后再重建索引和日志，能大幅提高装载效率，避免出错产生。 去掉原有的日志方式：ontapeSNdbname 删除索引：deleteindexindexname 用load装入数据：loadfromfilenameinsertintotabname 重建索引：createindextoindexnameontabname(colA,colB,) 重建日志：ontapeCBdbname 值此春节之际，献给广大informix学习者、爱好者 聚集函数： avg,求平均值 count,统计记录的条数 max,求最大值 min,求最小值 range,计算所选行的最大值与最小值的差 stdev,计算所选行
13、的标准偏差 sum,求和函数 variance，函数返回值样本的方差做为所有选择行的方差的无偏估计。 它的公式，(sum(xi*2)-sum(xi)*2)/N)/(N-1) 其中xi是列中的每个值，N是列中值的总和。 时间函数： day,mdy,month,weekday,year这些函数返回与用来调用函数的表达式或自身变量的值。Current返回当前的日期和时间值，可以用extend函数来调整date或datetime值的精度。 使用day和current函数来将列值与当前日期进行比较。 Date函数将字符串函数转换为DATE值。例date(12/7/04) To_char函数将dateti
14、me和date值转化为字符值。 To_date函数将字符值转化为datetime类型的值。例to_date(“1978-10-0710:00”,”%Y-%m-%d%H:%M) 基数函数： cardinality（仅适用IDS）函数对集合包含的元素数目计数。 智能大对象函数，（仅适用与IDS） filetoblob()，将文件复制到BLOB列中 filetoclob(),将文件复制到CLOB列中 locopy(),将BLOB或CLOB类型的数据复制到另一个BLOB或CLOB列中 lotofile(),将BLOB或CLOB复制到文件中 字符串处理函数： lower,将字符串中每个大写字母转换为小写
15、字母 upper，将字符串中每个小写字母转换为大写字母 initcap，将字符串中每个词的首写字母转换成大写 replace，将字符串中的某一组字符转换成其他字符，例replace(col,”each”,”eve”) substr，返回字符串中的某一部分，例substr(col,1,2) substring，返回字符串中的某一部分，例substring(col,from1to4) lpad，使用lpad函数已用重复次数达到必要次数的字符序列在左边填充或截断的字符串的副本，这取决于字符串中填充部分的指定长度。 举例：字段col为char(15)类型，selectlpad(col,21,”_”)f
16、romtab_name则显示为在col前加上六个_。 Rpad，使用rpad函数已用重复次数达到必要次数的字符序列在右边填充或截断的字符串的副本，这取决于字符串中填充部分的指定长度。 举例：字段col为char(15)类型，selectrpad(col,21,”_”)fromtab_name则显示为在col后边加上六个_。 其他函数： hex，返回表达式的十六进制数 round，返回表达式的四舍五入值 trunc，返回表达式的截断值 length，计算表达式的长度 user，返回执行查询的用户的用户名（登陆帐户名） today，返回当前系统日期 dbservername，返回数据库服务器的名称
17、，同sitename dbinfo，返回数据库的相关信息 decode，函数来将一个具有一个值的表达式转换为另一个值 decode(test,a,a_value,b,b_value,c,c_value),decode函数不支持TEXT和BYTE类型。 Nvl，来将求值为空的表达式转化为另一个想要指定的值。 另外还可以在select语句中使用存储过程，如selectspl($test)fromtab_name 如有不对或不全面的地方请大家跟贴说明，谢谢。1合理使用索引 索引是数据库中重要的数据结构，它的根本目的就是为了提高查询效率。现在大多数的数据库产品都采用IBM最先提出的ISAM索引结构。索
18、引的使用要恰到好处，其使用原则如下： 在经常进行连接，但是没有指定为外键的列上建立索引，而不经常连接的字段则由优化器自动生成索引。 在频繁进行排序或分组（即进行groupby或orderby操作）的列上建立索引。 在条件表达式中经常用到的不同值较多的列上建立检索，在不同值少的列上不要建立索引。比如在雇员表的“性别”列上只有“男”与“女”两个不同值，因此就无必要建立索引。如果建立索引不但不会提高查询效率，反而会严重降低更新速度。 如果待排序的列有多个，可以在这些列上建立复合索引（compoundindex）。 使用系统工具。如Informix数据库有一个tbcheck工具，可以在可疑的索引上进行
19、检查。在一些数据库服务器上，索引可能失效或者因为频繁操作而使得读取效率降低，如果一个使用索引的查询不明不白地慢下来，可以试着用tbcheck工具检查索引的完整性，必要时进行修复。另外，当数据库表更新大量数据后，删除并重建索引可以提高查询速度。 2避免或简化排序 应当简化或避免对大型表进行重复的排序。当能够利用索引自动以适当的次序产生输出时，优化器就避免了排序的步骤。以下是一些影响因素： 索引中不包括一个或几个待排序的列； groupby或orderby子句中列的次序与索引的次序不一样； 排序的列来自不同的表。 为了避免不必要的排序，就要正确地增建索引，合理地合并数据库表（尽管有时可能影响表的规
20、范化，但相对于效率的提高是值得的）。如果排序不可避免，那么应当试图简化它，如缩小排序的列的范围等。 3消除对大型表行数据的顺序存取 在嵌套查询中，对表的顺序存取对查询效率可能产生致命的影响。比如采用顺序存取策略，一个嵌套3层的查询，如果每层都查询1000行，那么这个查询就要查询10亿行数据。避免这种情况的主要方法就是对连接的列进行索引。例如，两个表：学生表（学号、姓名、年龄）和选课表（学号、课程号、成绩）。如果两个表要做连接，就要在“学号”这个连接字段上建立索引。 还可以使用并集来避免顺序存取。尽管在所有的检查列上都有索引，但某些形式的where子句强迫优化器使用顺序存取。下面的查询将强迫对o
21、rders表执行顺序操作： SELECTFROMordersWHERE(customer_num=104ANDorder_num1001)ORorder_num=1008 虽然在customer_num和order_num上建有索引，但是在上面的语句中优化器还是使用顺序存取路径扫描整个表。因为这个语句要检索的是分离的行的集合，所以应该改为如下语句： SELECTFROMordersWHEREcustomer_num=104ANDorder_num1001 UNION SELECTFROMordersWHEREorder_num=1008 这样就能利用索引路径处理查询。 4避免相关子查询 一个列
22、的标签同时在主查询和where子句中的查询中出现，那么很可能当主查询中的列值改变之后，子查询必须重新查询一次。查询嵌套层次越多，效率越低，因此应当尽量避免子查询。如果子查询不可避免，那么要在子查询中过滤掉尽可能多的行。 5避免困难的正规表达式 MATCHES和LIKE关键字支持通配符匹配，技术上叫正规表达式。但这种匹配特别耗费时间。例如：SELECTFROMcustomerWHEREzipcodeLIKE“98_” 即使在zipcode字段上建立了索引，在这种情况下也还是采用顺序扫描的方式。如果把语句改为SELECTFROMcustomerWHEREzipcode“98000”，在执行查询时就
23、会利用索引来查询，显然会大大提高速度。 另外，还要避免非开始的子串。例如语句：SELECTFROMcustomerWHEREzipcode2，3“80”，在where子句中采用了非开始子串，因而这个语句也不会使用索引。 6使用临时表加速查询 把表的一个子集进行排序并创建临时表，有时能加速查询。它有助于避免多重排序操作，而且在其他方面还能简化优化器的工作。例如： SELECTcust.name，rcvbles.balance，othercolumns FROMcust，rcvbles WHEREcust.customer_id=rcvlbes.customer_id ANDrcvblls.bal
24、ance0 ANDcust.postcode“98000” ORDERBYcust.name 如果这个查询要被执行多次而不止一次，可以把所有未付款的客户找出来放在一个临时文件中，并按客户的名字进行排序： SELECTcust.name，rcvbles.balance，othercolumns FROMcust，rcvbles WHEREcust.customer_id=rcvlbes.customer_id ANDrcvblls.balance0 ORDERBYcust.name INTOTEMPcust_with_balance 然后以下面的方式在临时表中查询： SELECTFROMcust
25、_with_balance WHEREpostcode“98000” 临时表中的行要比主表中的行少，而且物理顺序就是所要求的顺序，减少了磁盘I/O，所以查询工作量可以得到大幅减少。 注意：临时表创建后不会反映主表的修改。在主表中数据频繁修改的情况下，注意不要丢失数据。 7用排序来取代非顺序存取 非顺序磁盘存取是最慢的操作，表现在磁盘存取臂的来回移动。SQL语句隐藏了这一情况，使得我们在写应用程序时很容易写出要求存取大量非顺序页的查询。 有些时候，用数据库的排序能力来替代非顺序的存取能改进查询。 下面我们举一个制造公司的例子来说明如何进行查询优化。制造公司数据库中包括3个表，模式如下所示： 1p
26、art表 零件号零件描述其他列 （part_num）（part_desc）（othercolumn） 102，032Seageat30Gdisk 500，049Novel10Mnetworkcard 2vendor表 厂商号厂商名其他列 （vendor_num）（vendor_name）（othercolumn） 910，257SeageatCorp 523，045IBMCorp 3parven表 零件号厂商号零件数量 （part_num）（vendor_num）（part_amount） 102，032910，2573,450,000 234，423321，0014，000，000 下面的查
27、询将在这些表上定期运行，并产生关于所有零件数量的报表： SELECTpart_desc，vendor_name，part_amount FROMpart，vendor，parven WHEREpart.part_num=parven.part_num ANDparven.vendor_num=vendor.vendor_num ORDERBYpart.part_num 如果不建立索引，上述查询代码的开销将十分巨大。为此，我们在零件号和厂商号上建立索引。索引的建立避免了在嵌套中反复扫描。关于表与索引的统计信息如下： 表行尺寸行数量每页行数量数据页数量 （table）(rowsize)（Rowco
28、unt）（Rows/Pages）（DataPages） part15010，00025400 Vendor1501，0002540 Parven1315，00030050 索引键尺寸每页键数量页面数量 （Indexes）(KeySize)（Keys/Page)(LeafPages） part450020 Vendor45002 Parven825060 看起来是个相对简单的3表连接，但是其查询开销是很大的。通过查看系统表可以看到，在part_num上和vendor_num上有簇索引，因此索引是按照物理顺序存放的。parven表没有特定的存放次序。这些表的大小说明从缓冲页中非顺序存取的成功率很小
29、。此语句的优化查询规划是：首先从part中顺序读取400页，然后再对parven表非顺序存取1万次，每次2页（一个索引页、一个数据页），总计2万个磁盘页，最后对vendor表非顺序存取1.5万次，合3万个磁盘页。可以看出在这个索引好的连接上花费的磁盘存取为5.04万次。 实际上，我们可以通过使用临时表分3个步骤来提高查询效率： 1从parven表中按vendor_num的次序读数据： SELECTpart_num，vendor_num，price FROMparven ORDERBYvendor_num INTOtemppv_by_vn 这个语句顺序读parven（50页），写一个临时表（50
30、页），并排序。假定排序的开销为200页，总共是300页。 2把临时表和vendor表连接，把结果输出到一个临时表，并按part_num排序： SELECTpv_by_vn，vendor.vendor_num FROMpv_by_vn，vendor WHEREpv_by_vn.vendor_num=vendor.vendor_num ORDERBYpv_by_vn.part_num INTOTMPpvvn_by_pn DROPTABLEpv_by_vn 这个查询读取pv_by_vn(50页)，它通过索引存取vendor表1.5万次，但由于按vendor_num次序排列，实际上只是通过索引顺序地读
31、vendor表（402=42页），输出的表每页约95行，共160页。写并存取这些页引发5160=800次的读写，索引共读写892页。 3把输出和part连接得到最后的结果： SELECTpvvn_by_pn.，part.part_desc FROMpvvn_by_pn，part WHEREpvvn_by_pn.part_num=part.part_num DROPTABLEpvvn_by_pn 这样，查询顺序地读pvvn_by_pn(160页)，通过索引读part表1.5万次，由于建有索引，所以实际上进行1772次磁盘读写，优化比例为301。笔者在InformixDynamicSever上做同
32、样的实验，发现在时间耗费上的优化比例为51(如果增加数据量，比例可能会更大)。 小结 20的代码用去了80的时间，这是程序设计中的一个著名定律，在数据库应用程序中也同样如此。我们的优化要抓住关键问题，对于数据库应用程序来说，重点在于SQL的执行效率。查询优化的重点环节是使得数据库服务器少从磁盘中读数据以及顺序读页而不是非顺序读页。人们在使用SQL时往往会陷入一个误区，即太关注于所得的结果是否正确，而忽略了不同的实现方法之间可能存在的 性能差异，这种性能差异在大型的或是复杂的数据库环境中（如联机事务处理OLTP或决策支持系统DSS）中表现得尤为明 显。笔者在工作实践中发现，不良的SQL往往来自于
33、不恰当的索引设计、不充份的连接条件和不可优化的where子句。在对 它们进行适当的优化后，其运行速度有了明显地提高！下面我将从这三个方面分别进行总结： -为了更直观地说明问题，所有实例中的SQL运行时间均经过测试，不超过秒的均表示为（ 19991201anddate 2000(25秒) selectdate,sum(amount)fromrecordgroupbydate (55秒) selectcount(*)fromrecordwheredate 19990901andplacein(BJ,SH)(27秒) -分析： -date上有大量的重复值，在非群集索引下，数据在物理上随机存放在数据页
34、上，在范围查找时，必须执行一次表扫描 才能找到这一范围内的全部行。 -2.在date上的一个群集索引 selectcount(*)fromrecordwheredate 19991201anddate 2000（14秒） selectdate,sum(amount)fromrecordgroupbydate （28秒） selectcount(*)fromrecordwheredate 19990901andplacein(BJ,SH)（14秒） -分析： -在群集索引下，数据在物理上按顺序在数据页上，重复值也排列在一起，因而在范围查找时，可以先找到这个范围的 起末点，且只在这个范围内扫描数据
35、页，避免了大范围扫描，提高了查询速度。 -3.在place，date，amount上的组合索引 selectcount(*)fromrecordwheredate 19991201anddate 2000（26秒） selectdate,sum(amount)fromrecordgroupbydate （27秒） selectcount(*)fromrecordwheredate 19990901andplacein(BJ,SH)（ 19991201anddate 2000( 19990901andplacein(BJ,SH)（,=,=）和orderby 、groupby发生的列，可考虑建立群
36、集索引； -.经常同时存取多列，且每列都含有重复值可考虑建立组合索引； -.组合索引要尽量使关键查询形成索引覆盖，其前导列一定是使用最频繁的列。 二、不充份的连接条件： -例：表card有7896行，在card_no上有一个非聚集索引，表account有191122行，在account_no上有一个非聚集索 引，试看在不同的表连接条件下，两个SQL的执行情况： selectsum(a.amount)fromaccounta, cardbwherea.card_no=b.card_no（20秒） -将SQL改为： selectsum(a.amount)fromaccounta, cardbwhe
37、rea.card_no=b.card_noanda. account_no=b.account_no（1秒） -分析： -在第一个连接条件下，最佳查询方案是将account作外层表，card作内层表，利用card上的索引，其I/O次数可由以下 公式估算为： -外层表account上的22541页+（外层表account的191122行*内层表card上对应外层表第一行所要查找的3页）=595907 次I/O -在第二个连接条件下，最佳查询方案是将card作外层表，account作内层表，利用account上的索引，其I/O次数可由 以下公式估算为： -外层表card上的1944页+（外层表ca
38、rd的7896行*内层表account上对应外层表每一行所要查找的4页）=33528次I/O -可见，只有充份的连接条件，真正的最佳方案才会被执行。 -总结： -1.多表操作在被实际执行前，查询优化器会根据连接条件，列出几组可能的连接方案并从中找出系统开销最小的最佳 方案。连接条件要充份考虑带有索引的表、行数多的表；内外表的选择可由公式：外层表中的匹配行数*内层表中每一次查 找的次数确定，乘积最小为最佳方案。 -2.查看执行方案的方法-用setshowplanon，打开showplan选项，就可以看到连接顺序、使用何种索引的信息；想 看更详细的信息，需用sa角色执行dbcc(3604,310,
39、302)。 三、不可优化的where子句 -1.例：下列SQL条件语句中的列都建有恰当的索引，但执行速度却非常慢： select*fromrecordwhere substring(card_no,1,4)=5378(13秒) select*fromrecordwhere amount/301000（11秒） select*fromrecordwhere convert(char(10),date,112)=19991201（10秒） -分析： -where子句中对列的任何操作结果都是在SQL运行时逐列计算得到的，因此它不得不进行表搜索，而没有使用该列上面 的索引；如果这些结果在查询编译时就能得到，那么就可以被SQL优化器优化，使用索引，避免表搜索，因此将SQL重写成 下面这样： select*fromrecordwherecard_nolike 5378%（1秒） select*fromrecordwhereamo