关系查询处理和查询优化精选PPT.ppt

关系查询处理和查询优化第1页，此课件共31页哦第九章关系查询处理及其查询优化9.1关系数据库系统的查询处理9.2关系数据库系统的查询优化9.3代数优化-关系代数表达式的优化9.4物理优化-存取路径和底层操作算法的选择第2页，此课件共31页哦9.1关系数据库系统的查询处理查询处理的任务：是把用户提交给RDBMS的查询语句转换为高效的执行计划.9.1.1查询处理步骤查询分析查询检查查询优化查询执行第3页，此课件共31页哦9.1.1查询处理步骤：词法分析语法分析语义分析符号名转换安全性检查完整性检查查询树代数优化物理优化等执行策略描述代码生成查询计划的执行代码查询语句数据库数据字典查询分析查询检查查询优化查询执行第4页，此课件共31页哦9.1.2实现查询操作的算法示例一、选择操作的实现例1SELECT*FROMStudentWHERE；：C1：无条件C2：Sno=200215121；C3：Sage20；C4：Sdept=CSANDSage20；1、简单的全表扫描方法顺序扫描，逐一检查每个元组是否满足选择条件，把满足条件的元组作为结果输出。适合：小表2、索引（或散列）扫描方法如果条件表达式的属性上有索引（如B+树索引或Hash索引）,通过索引先找到满足条件的元组主码或元组指针，再通过元组指针直接在查询的基本表中找到元组。如C2：第5页，此课件共31页哦二、连接操作的实现例2SELECT*FROMStudent，SCWHEREStudent.Sno=SC.Sno；1、嵌套循环方法(nestedloop)简单。对外层循环Student的每一个元组，检查内层循环SC中的每一个元组，并检查连接属性是否相等2、排序-合并方法(sort-mergejoin)常用，适合有序表步骤：若没排序，首先对Student、SC按连接属性Sno排序；取Student第一个Sno，一次扫描SC中具有相同Sno元组，连接起来；当扫描到SC中第一个不相同Sno元组时，返回Student扫描下一个元组，在扫描SC中具有相同Sno元组，把它们连接起来；重复上述步骤，直到Student扫描完。第6页，此课件共31页哦二、连接操作的实现3、索引连接法在SC上建立属性Sno索引；对Student的每一个元组，由Sno值通过索引查找相应SC元组；把这些SC元组和Student元组连接起来；循环执行，直到Student元组处理完。4、HashJoin方法把连接属性作为Hash码，用同一个Hash函数把R和S中的元组散列到同一个Hash文件中；第一步，划分阶段，对小表R进行一遍处理，把它的元组按Hash函数分散到Hash表的桶中；（假设：R完全装入内存）第二步，试探阶段（连接阶段），对表S进行一遍处理，把它的元组散列到适当的Hash桶中，并把元组与来自R并与之匹配的元组连接起来。第7页，此课件共31页哦9.2关系数据库系统的查询优化9.2.1查询优化概述查询优化的必要性查询优化极大地影响RDBMS的性能。查询优化是RDBMS关键技术、关系系统的优点（关系系统：支持表结构、选择连接（自然）操作）查询优化的可能性关系表达式语义的级别很高，使DBMS可以从关系表达式中分析查询语义。第8页，此课件共31页哦由DBMS进行查询优化的好处4用户不必考虑如何最好地表达查询以获得较好的效率4系统可以比用户程序的优化做得更好(1)优化器可以从数据字典中获取许多统计信息，而用户程序则难以获得这些信息(2)如果数据库的物理统计信息改变了，系统可以自动对查询重新优化以选择相适应的执行计划。在非关系系统中必须重写程序，而重写程序在实际应用中往往是不太可能的(3)优化器可以考虑数百种不同的执行计划，而程序员一般只能考虑有限的几种可能性。(4)优化器中包括了很多复杂的优化技术第9页，此课件共31页哦代价模型4集中式数据库总代价=I/O代价+CPU代价+内存代价4分布式数据库总代价=I/O代价+CPU代价+内存代价+通信代价查询优化的总目标：选择有效策略有效策略,求得给定关系表达式的值,使得查询代价最小。第10页，此课件共31页哦9.2.2一个实例例：求选修了课程2的学生姓名SELECTStudent.SnameFROMStudent,SCWHEREStudent.Sno=SC.SnoANDSC.Cno=2;假设1：外存：Student:1000条,SC:10000条,选修2号课程:50条假设2：一个内存块装元组:10个Student,或100个SC或10个连接结果元组;内存中一次可以存放:5块Student元组,1块SC元组假设3：读写速度：20块/秒假设4：连接方法：基于数据块的嵌套循环法第11页，此课件共31页哦执行策略11name(Student.Sno=SC.SnoSC.Cno=2(StudentSC)StudentSC读取总块数=读Student表块数+读SC表遍数*每遍块数=1000/10+(1000/(105)(10000/100)=100+20100=2100读数据时间=2100/20=105秒中间结果大小=1000*10000=107(1千万条元组)写中间结果时间=10000000/10/20=50000秒读数据时间=50000秒总时间=1055000050000秒=100105秒=27.8小时第12页，此课件共31页哦执行策略22name(SC.Cno=2(StudentSC)读取总块数=2100块读数据时间=2100/20=105秒中间结果大小=10000（减少1000倍）写中间结果时间=10000/10/20=50秒读数据时间=50秒总时间1055050秒205秒=3.4分第13页，此课件共31页哦执行策略32Sname(StudentSC.Cno=2(SC)读SC表总块数=10000/100=100块读数据时间=100/20=5秒中间结果大小=50条不必写入外存读Student表总块数=1000/10=100块读数据时间=100/20=5秒总时间55秒10秒第14页，此课件共31页哦执行策略42name(StudentSC.Cno=2(SC)假设SC表在Cno上有索引，Student表在Sno上有索引读SC表索引读SC表总块数=50/1001块读数据时间中间结果大小=50条不必写入外存读Student表索引=读Student表总块数=50/10=5块读数据时间总时间连接运算例：Student.Sno=SC.Sno(StudentSC)StudentSC5.找出公共子表达式（如：视图定义表达式）第21页，此课件共31页哦关系代数表达式的优化算法算法：关系表达式的优化输入：一个关系表达式的查询树。输出：优化的查询树。方法：（1）分解选择运算利用规则4把形如F1F2Fn(E)变换为F1(F2(Fn(E)（2）通过交换选择运算，将其尽可能移到叶端对每一个选择，利用规则48尽可能把它移到树的叶端。（3）通过交换投影运算，将其尽可能移到叶端对每一个投影利用规则3，9，l0，5中的一般形式尽可能把它移向树的叶端。第22页，此课件共31页哦关系代数表达式的优化算法(续)（4）合并串接的选择和投影，以便能同时执行或在一次扫描中完成利用规则35把选择和投影的串接合并成单个选择、单个投影或一个选择后跟一个投影。使多个选择或投影能同时执行，或在一次扫描中全部完成尽管这种变换似乎违背“投影尽可能早做”的原则，但这样做效率更高。（5）对内结点分组把上述得到的语法树的内节点分组。每一双目运算(，-)和它所有的直接祖先为一组(这些直接祖先是，运算)。如果其后代直到叶子全是单目运算，则也将它们并入该组，但当双目运算是笛卡尔积()，而且其后的选择不能与它结合为等值连接时除外。把这些单目运算单独分为一组。（6）生成程序生成一个程序，每组结点的计算是程序中的一步。各步的顺序是任意的，只要保证任何一组的计算不会在它的后代组之前计算。第23页，此课件共31页哦例题例：求选修了课程2的学生姓名SELECTStudent.SnameFROMStudent,SCWHEREStudent.Sno=SC.SnoANDSC.Cno=2;第24页，此课件共31页哦语法树结果结果project(Sname)select(SC.Cno=2)join(Student.Sno=SC.Sno)StudentSC关系代数语法树Sname SC.Cno=2 Student.Sno=SC.S StudentSC第25页，此课件共31页哦利用优化算法把语法树转换成标准（优化）形式Sname Student.Sno=SC.Sno SC.Cno=2 StudentSCSname SC.Cno=2 StudentSC第26页，此课件共31页哦9.4物理优化：选择低层的存取路径代数优化改变查询语句中操作的次序和组合，不涉及底层的存取路径物理优化就是要选择高效合理的操作算法或存取路径，求得优化的查询计划，达到查询优化的目标。方法：基于规则的启发式优化基于代价估算的优化两者结合的优化方法9.4.1基于启发式规则的存取路径优化基于启发式规则的存取路径优化一、选择操作的启发式规则二、连接操作的启发式规则第27页，此课件共31页哦一、选择操作的启发式规则1、对于小关系，使用全表顺序扫描，即使选择列上有索引；对于大关系2、对于选择条件是主码=值的查询，查询结果最多是一个元组，可选择主码索引；3、对于选择条件是非主属性=值的查询，且选择列上有索引，则要估算查询结果的元组数目，若比例小(10%)，可用索引扫描法，否则用全表扫描法。4、对于选择条件是属性上的非等值查询或范围查询，且选择列上有索引，同样要估算查询结果的元组数目，若比例小(10%)，可用索引扫描法，否则用全表扫描法。5、对于用AND的合取选择条件，如果有涉及这些属性的组合索引，则优先采用组合索引扫描法，否则使用全表扫描；6、对于用OR连接的析取选择条件，一般使用全表顺序扫描。第28页，此课件共31页哦二、连接操作的启发式规则1.如果两个表都已按连接属性排序，则选用合并-排序方法；2.如果一个表在连接属性上有索引，则选用索引连接方法；3.如果上面2个规则都不适用，其中一个表较小，则选用HashJoin方法；4.最后选用嵌套循环法，并选用其中较小的表（占用的块数较小）作为外表。？第29页，此课件共31页哦9.4.2基于代价的优化启发式规则优化：定性选择、比较粗糙基于代价的优化：精细复杂一、统计信息表列索引二、代价估算示例第30页，此课件共31页哦实际系统的查询优化步骤1.将查询转换成某种内部表示，通常是语法树2.根据一定的等价变换规则把语法树转换成标准（优化）形式3.选择低层的操作算法，对于语法树中的每一个操作计算各种执行算法的执行代价执行代价选择代价小的执行算法4.生成查询计划(查询执行方案)查询计划是由一系列内部操作组成的。第31页，此课件共31页哦