数据库优化方法论
这部分为理论知识,不感兴趣的同学可以直接跳到后面参数配置部分。
数据库优化目标
根据角色的不同,数据库优化分为以下几个目标:
- 业务角度(关键用户): 减少用户页面响应时间
- 数据库角度(开发): 减少数据库SQL响应时间
- 数据库服务器角度(运维): 充分使用数据库服务器物理资源 减少数据库服务器CPU使用率 减少数据库服务器IO使用率 减少数据库服务器内存使用率
数据库优化指标
SQL平均响应时间变短
- 优化前:数据库平均响应时间500ms
- 优化目标:数据库平均响应时间200ms
数据库服务器CPU占用率变少
- 优化前:数据库高峰期CPU使用率70%
- 优化目标:数据库高峰期CPU使用率50%
数据库服务器IO使用率变低
- 优化前:数据库IO WAIT为30%
- 优化目标:数据库IO WAIT低于10%
数据库优化误区
在进行数据库优化的时候可能会有以下几个误区:
优化之前一定要深入了解数据库内部原理 优化是有“套路”的,照着这些“套路”你也可以很好的完成数据库优化
不断调整数据库参数就可以最终实现优化 有时候设计不合理怎么调整参数都不行
不断调整操作系统参数就可以最终实现优化 同上
数据库性能由应用、数据库架构决定,与应用开发关系不大 恰恰相反,应用开发的关系很大
必须要做读写分离,必须要弄分库分表 数据量级只有达到一定的比例才有必要做读写分离,分表分库,否则徒增复杂度。一般来说Oracle的单表量级可以达到1亿,MySQL到1000万~2000万
数据库优化流程
完整的数据库优化流程如下:
首先需要尽可能的了解优化问题,收集问题期间系统信息并做好存档。根据当前系统问题表现制定优化目标并与客户沟通目标达成一致;通过一系列工具分析系统问题,制定优化方案,方案评审完成后由各负责人员进行实施。若达到优化目标则编写优化报告,否则需要重新制定优化方案。
数据库实例优化
数据库实例优化遵循三句口诀:日志不能小、缓存足够大、连接要够用。
数据库事务提交后需要将事务对数据页的修改刷( fsync)到磁盘上,才能保证数据的持久性。这个刷盘,是一个随机写,性能较低,如果每次事务提交都要刷盘,会极大影响数据库的性能。数据库在架构设计中都会采用如下两个优化手法:
- 先将事务写到日志文件RedoLog(WAL),将随机写优化成顺序写
- 加一层缓存结构Buffer,将每次写优化成批量写
所以日志跟缓存对数据库实例尤其重要。而连接如果不够用,数据库会直接抛出异常,系统无法访问。
数据库参数优化
主流数据库架构都有如下的共同点:
- 数据缓存
- SQL解析区
- 排序内存
- REDO及UNDO
- 锁、LATCH、MUTEX
- 监听及连接
- 文件读写性能
接下来我们根据不同的数据库调整参数以使数据库达到最佳性能。
ORACLE
MYSQL(INNODB)
POSTGRES
达梦数据库
总结
数据库的优化手法太多太多,有换磁盘阵列升级硬件,有改写SQL脚本添加索引,还有数据库参数调整优化性能,甚至还可以调整数据库架构。本文从数据库本身参数进行调优,大家根据上面几张表中的参数进行调整基本能达到数据库最佳性能的80%。