首页 资讯频道 互联频道 智能频道 网络 数据频道 安全频道 服务器频道 存储频道

如何保证数据库的效率? 做好这四个方面的工作

2020-10-16 11:46:58 来源 : 一角钱技术 头条号

前两篇说完了索引底层数据结构、性能优化原理的基本概念。本篇将讲讲具体实践。分两篇来讲,这是实践的第一篇。对于一个以数据为中心的应用,数据库的好坏直接影响到程序的性能,因此数据库性能至关重要。一般来说,要保证数据库的效率,要做好以下四个方面的工作:

数据库表设计

SQL语句优化

数据库参数配置

恰当的硬件资源和操作系统

此外,使用适当的存储过程,也能提升性能。这个顺序也表现了四个方面对性能影响的大小。

数据库表设计

通俗地理解三个范式,对于数据库设计大有好处。在数据库设计当中,为了更好地应用三个范式,就必须通俗地理解三个范式。

第一范式:1NF - 确保原子性

是对属性的原子性约束,要求属性(列)具有原子性,不可再分解;(只要是关系型数据库都满足 1NF)

第二范式:2NF - 确保表中每列都和主键相关

是对记录的唯一性约束,要求记录有唯一标识,即实体的唯一性;

先满足1NF,然后每张表要有主键,并且确保每一列都和主键相关,而不是主键的一部分(主要针对联合主键)。换言之,一个表中只保存一种数据而不是多种数据。

错误示范:

商品订单信息错误设计

正确示范:

商品订单信息正确设计

第三范式:3NF - 确保每列都和主键直接相关,而不是间接相关

3NF 是对字段冗余性的约束,它要求字段没有冗余。

第三范式需要确保数据表中的每一列数据都和主键直接相关,而不能间接相关。不能传递依赖,如非主键列A依赖非主键列B,非主键列B依赖主键。

关键字段 -> 非关键字段x -> 非关键字段y

案例1:

比如在设计一个订单数据表的时候,可以将客户编号作为一个外键和订单表建立相应的关系。而不可以在订单表中添加关于客户其它信息(比如姓名、所属公司等)字段。如下这两个表所示的设计就是一个满足第三范式的数据库表。

案例2:

假定学生关系表为 Student (学号、姓名、年龄、所在学院、学院地点、学院电话),关键字为单一关键字“学号”,因为存在如下决定关系:

(学号)-> (姓名、年龄、所在学院、学院地点、学院电话)

复制代码

即存在非关键字段“学院地点”、“学院电话”对关键字段“学号”的传递函数依赖。 它也会存在数据冗余,更新异常、插入异常和删除异常的情况。正确应把学生关系表分为如下两个表:

学生:(学号、姓名、年龄、所在学院)

学院:(学院、地点、电话)

范式化优缺点

范式化的优点:

重复数据少,不冗余;

维护更新快;

范式化的表更小,可在内存中运行。

范式化的缺点:

查询的时候经常需要很多关联,增加查询的代价。也可能使一些索引策略失效,因为范式化将列放在不同的表中,而这些列在一个表中本可以属于同一个索引。

反范式化的优缺点

反范式化的优点:

避免关联,几乎所有数据可以在一张表中显示。

可以设计有效的索引。

反范式化的缺点:

冗余数据多,更小维护麻烦,删除数据时也容易丢失重要信息。

数据表设计的建议

没有冗余的数据库设计可以做到,但是,没有冗余的数据库未必是最好的数据库,有时为了提高运行效率,就必须降低范式标准,适当保留冗余数据。具体做法:在概念数据模型设计时遵守第三范式,降低范式标准的工作放到物理数据模型设计时考虑。降低范式就是增加字段,允许冗余。

另外,《阿里巴巴Java开发手册》,数据库的表设计允许适当冗余,以提升SQL查询的性能,避免表的关联查询。

适度冗余,减少join的关联

冗余更新频率不高,但是查询频率极高的字段。如订单中的商品名称、微博发帖中的用户昵称。

MySQL性能优化—实践篇1

大字段垂直拆分

MySQL性能优化—实践篇1

如把博客列表中的内容拆分出去,访问列表的时候不读取博客内容,为纵深的逻辑关系。

大表水平拆分

举例说明:在一个论坛系统里,管理员经常会发一些帖子,这些帖子要求在每个分类列表里都要置顶。

设计方案一:在发帖表里增加一列用来标示是否是管理员发帖,这样在每个分类列表展示时就需要对发帖表查询两次,一次是置顶帖,一次是普通帖,然后将两次结果合并。如果发帖表内容较大时,查询置顶帖的性能开销会比较大。

设计方案二:将置顶帖存放在一个单独的置顶表里。因为置顶帖数量相比会很少,但访问频率很高,这样从发帖表里分拆开来,访问的性能开销会少很多。

合适的数据类型

如果数据量一样,但数据类型更小的话,数据存放同样的数据就会占用更少的空间,这样检索同样的数据所带来的IO 消耗自然会降低,性能也就很自然的得到提升。此外,MySQL 对不同类型的数据,处理方式也不一样,比如在运算或者排序操作中,越简单的数据类型操作性能越高,所以对于要频繁进行运算或者排序的字段尽量选择简单的数据类型。

SQL语句优化

SQL语句优化

SQL优化的一般步骤

通过show status命令了解各种SQL的执行频率;

定位执行效率较低的SQL语句-(重点select);

通过explain分析低效率的SQL;

确定问题并采取相应的优化措施。

--select语句分类

Select

Dml数据操作语言(insertupdatedelete)

dtl数据事物语言(commitrollbacksavepoint)

Ddl数据定义语言(createalterdrop..)

Dcl(数据控制语言)grantrevoke

--Showstatus常用命令

--查询本次会话

Showsessionstatuslike'com_%';//showsessionstatuslike'Com_select'

--查询全局

Showglobalstatuslike'com_%';

--给某个用户授权

grantallprivilegeson*.*to'abc'@'%';

--为什么这样授权'abc'表示用户名'@'表示host,查看一下mysql->user表就知道了

--回收权限

revokeallon*.*from'abc'@'%';

--刷新权限[也可以不写]

flushprivileges;

SQL语句优化-show参数

MySQL客户端连接成功后,通过使用 show [session|global] status 命令可以提供服务器状态信息。其中的session来表示当前的连接的统计结果,global来表示自数据库上次启动至今的统计结果。默认是session级别的。

showstatuslike'Com_%';

其中, Com_XXX 表示 XXX 语句所执行的次数。 重点注意:Com_select,Com_insert,Com_update,Com_delete 通过这几个参数,可以了解到当前数据库的应用是以插入更新为主还是以查询操作为主,以及各类的SQL大致的执行比例是多少。

还有几个常用的参数便于用户了解数据库的基本情况。 Connections:试图连接MySQL服务器的次数 Uptime:服务器工作的时间(单位秒) Slow_queries:慢查询的次数 (默认是慢查询时间10s)

showstatuslike'Connections';

showstatuslike'Uptime';

showstatuslike'Slow_queries';

查询MySQL的慢查询时间

showvariableslike'long_query_time';

修改MySQL慢查询时间

setlong_query_time=2;

SQL语句优化-定位慢查询

上面我们介绍了获取MySQL数据库的一些运行状态是如何查询

比如当前MySQL运行的时间: show status like 'Uptime';

一共执行了多少次: select/update/delete.. / : show status like 'Com_%';

当前连接数

定位慢查询

如何从一个项目中快速定位执行速度慢的语句(定位慢查询)

showvariableslike'%query%';

slow_query_log 默认是off关闭的,使用时,需要改为on 打开

slow_query_log_file 记录的是慢日志的记录文件

long_query_time 默认是10S,每次执行的sql达到这个时长,就会被记录

查看慢查询状态

Slow_queries 记录的是慢查询数量 当有一条sql执行一次比较慢时,这个vlue就是1 (记录的是本次会话的慢sql条数)

showstatuslike'%slow_queries%';

注意:

1. 如何打开慢查询 : SET GLOBAL slow_query_log = ON;

2. 将默认时间改为1S: SET GLOBAL long_query_time = 1;

(设置完需要重新连接数据库,PS:仅在这里改的话,当再次重启数据库服务时,所有设置又会自动恢复成默认值,永久改变需去my.ini中改)

SQL语句优化-Explain工具

使用EXPLAIN关键字可以模拟优化器执行SQL语句,分析你的查询语句或是结构的性能瓶颈 在 select 语句之前增加 explain 关键字,MySQL 会在查询上设置一个标记,执行查询会返回执行计划的信息,而不是执行这条SQL。

注意:如果 from 中包含子查询,仍会执行该子查询,将结果放入临时表中

Explain分析示例

DROPTABLEIFEXISTS`actor`;

CREATETABLE`actor`(

`id`int(11)NOTNULL,

`name`varchar(45)DEFAULTNULL,`update_time`datetimeDEFAULTNULL,PRIMARYKEY(`id`)

)ENGINE=InnoDBDEFAULTCHARSET=utf8;

INSERTINTO`actor`(`id`,`name`,`update_time`)VALUES(1,'a','2020-09-1614:26:11'),(2,'b','2020-09-1614:26:11'),(3,'c','2020-09-1614:26:11');

DROPTABLEIFEXISTS`film`;

CREATETABLE`film`(

`id`int(11)NOTNULLAUTO_INCREMENT,`name`varchar(10)DEFAULTNULL,PRIMARYKEY(`id`),

KEY`idx_name`(`name`)

)ENGINE=InnoDBDEFAULTCHARSET=utf8;

INSERTINTO`film`(`id`,`name`)VALUES(3,'film0'),(1,'film1'),(2,'film2');

DROPTABLEIFEXISTS`film_actor`;

CREATETABLE`film_actor`(

`id`int(11)NOTNULL,

`film_id`int(11)NOTNULL,

`actor_id`int(11)NOTNULL,

`remark`varchar(255)DEFAULTNULL,

PRIMARYKEY(`id`),

KEY`idx_film_actor_id`(`film_id`,`actor_id`)

)ENGINE=InnoDBDEFAULTCHARSET=utf8;

INSERTINTO`film_actor`(`id`,`film_id`,`actor_id`)VALUES(1,1,1),(2,1,2),(3,2,1);

explainselect*fromactor;

查询中的每个表会输出一行,如果有两个表通过join连接查询,那么会输出两行。每一列具体的说明在后面进行说明。

Explain 两个变种

1.explain extended

会在 explain 的基础上额外提供一些查询优化的信息。紧随其后通过 show warnings 命令可以得到优化后的查询语句,从而看出优化器优化了什么。额外还有 filtered 列,是一个半分比的值,rows * filtered/100 可以估算出将要和 explain 中前一个表进行连接的行数(前一个表指 explain 中的id值比当前表id值小的表)。

explainextendedselect*fromfilmwhereid=1;

showwarnings;

2.explain partitions

相比 explain 多了个 partitions 字段,如果查询是基于分区表的话,会显示查询将访问的分区。

Explain中的列

接下来我们将展示 explain 中每个列的信息。

id 列

id 列的编号是 select 的序列号,有几个 select 就有几个 id,并且id的顺序是按 select 出现的顺序递增的。id列越大执行优先级越高,id相同则从上往下执行,id为 NULL 最后执行。

select_type 列

select_type 表示对应行是简单还是复杂的查询。

simple :简单查询。查询不包含子查询和union

explainselect*fromfilmwhereid=2;

primary :复杂查询中最外层的 select

subquery :包含在 select 中的子查询(不在 from 子句中)

derived :包含在 from 子句中的子查询。MySQL 会将结果存放在一个临时表中,也称为派生表(derived的英文含义)

用下面这个例子来了解 primary、subquery、derived类型。

explainselect(select1fromactorwhereid=1)from(select*fromfilmwhereid=1)der;

未关闭MySQL5.7新特性对衍生表的合并优化,如下:

#关闭mysql5.7新特性对衍生表的合并优化

setsessionoptimizer_switch='derived_merge=off';

#还原默认配置

setsessionoptimizer_switch='derived_merge=on';

union :在 union 中的第二个和随后的 select

explainselect1unionallselect1;

table 列

这一列表示 explain 的一行正在访问哪个表。 当 from 子句中有子查询时,table列是 格式,表示当前查询依赖 id=N 的查 询,于是先执行 id=N 的查询。 当有 union 时,UNION RESULT 的 table 列的值为,1和2表示参与 union 的 select 行id。

type 列

这一列表示关联类型或访问类型,即MySQL决定如何查找表中的行,查找数据行记录的大概范围。

依次从最优到最差分别为:

system>const>eq_ref>ref>range>index>ALL

一般来说,得保证查询达到 range 级别,最好达到 ref。

NULL:MySQL 能够在优化阶段分解查询语句,在执行阶段用不着再访问表或索引。例如:在索引列中选取最小值,可以单独查找索引来完成,不需要在执行时访问表。

explainselectmin(id)fromfilm;

system、const :MySQL 能对查询的某部分进行优化并将其转化成一个常量(可以看 show warnings 的)。用于 primary key 或 unique key 的所有列与常数比较时,所以表最多有一个匹配行,读取1次,速度比较快。system 是 const 的特例,表里只有一条元组匹配时为 system。

explainextendedselect*from(select*fromfilmwhereid=1)tmp;

showwarnings;

eq_ref :primary key 或 unique key 索引的所有部分被连接使用,最多只会返回一条符合条件的记录。这可能是在 const 之外最好的连接类型了,简单的 select 查询不会出现这种 type。

explainselect*fromfilm_actorleftjoinfilmonfilm_actor.film_id=film.id;

ref :相比 eq_ref ,不使用唯一索引,而是使用普通索引或者唯一性索引的部分前缀,索引要和某个值相比较,可能会找到多个符合条件的行。

(1)简单 select 查询,name 是普通索引(非唯一索引)

explainselect*fromfilmwherename='film1';

(2)关联表查询, idx_film_actor_id 是 film_id 和 actor_id 的联合索引,这里使用到了 film_actor 的左边前缀 film_id 部分。

explainselectfilm_idfromfilmleftjoinfilm_actoronfilm.id=film_actor.film_id;

range :范围扫描通常出现在 in()、betwwen、>、<、>= 等操作中。使用一个索引来检索给定范围的行。

explainselect*fromactorwhereid>1;

index :扫描全表索引,通过比 ALL 快一些。

explainselect*fromfilm;

ALL :即全表扫描,意味着MySQL需要从头到尾去查找所需要的行。通常情况下这需要增加索引来进行优化了。

explainselect*fromactor;

possible_keys 列

这一列显示查询可能使用哪些索引来查找。 explain 时可能出现 possible_keys 有列,而 key 显示 NULL 的情况,这种情况是因为表中数据不多,mysql认为索引对此查询帮助不大,选择了全表查询。 如果该列是NULL,则没有相关的索引。在这种情况下,可以通过检查 where 子句看是否可以创造一个适当的索引来提高查询性能,然后用 explain 查看效果。

key 列

这一列显示mysql实际采用哪个索引来优化对该表的访问。 如果没有使用索引,则该列是 NULL。如果想强制mysql使用或忽视possible_keys列中的索 引,在查询中使用 force index、ignore index。

key_len 列

这一列显示了mysql在索引里使用的字节数,通过这个值可以算出具体使用了索引中的哪些 列。 举例来说,film_actor的联合索引 idx_film_actor_id 由 film_id 和 actor_id 两个int列组成, 并且每个int是4字节。通过结果中的key_len=4可推断出查询使用了第一个列:film_id列来执 行索引查找。

explainselect*fromfilm_actorwherefilm_id=2;

key_len计算规则如下:

字符串

char(n): n字节长度

varchar(n): 2字节存储字符串长度,如果是utf-8,则长度 3n +2

数值类型

tinyint: 1字节

smallint: 2字节

int: 4字节

bigint: 8字节

时间类型

date: 3字节

timestamp: 4字节

datetime: 8字节

如果字段允许为 NULL,需要1字节记录是否为 NULL

索引最大长度是768字节,当字符串过长时,mysql会做一个类似左前缀索引的处理,将前半部分的字符提取出来做索引。

ref 列

这一列显示了在key列记录的索引中,表查找值所用到的列或常量,常见的有:const(常 量),字段名(例:film.id)

rows 列

这一列是mysql估计要读取并检测的行数,注意这个不是结果集里的行数。

Extra 列

这一列展示的是额外信息。常见的重要值如下:

(1)Using index :使用覆盖索引

explainselectfilm_idfromfilm_actorwherefilm_id=1;

(2)Using where :使用 where 语句来处理结果,查询的列未被索引覆盖

explainselect*fromactorwherename='a';

(3)Using index condition :查询的列不完全被索引覆盖,where 条件中是一个前导列的范围

explainselect*fromfilm_actorwherefilm_id>1;

(4)Using temporary :MySQL 需要创建一张临时表来处理查询。出现这种情况一般是要进行优化的,首先是想到用索引来优化。

actor.name没有索引,此时创建了张临时表来distinct

explainselectdistinctnamefromactor;

film.name建立了idx_name索引,此时查询时extra是using index,没有用临时表

explainselectdistinctnamefromfilm;

(5)Using filesort :将用外部排序而不是索引排序,数据较小时从内存排序,否则需要在磁盘 完成排序。这种情况下一般也是要考虑使用索引来优化的。

actor.name没有索引,会浏览 actor 整个表,保存排序关键字 name 和对应的 id,然后排序 name 并检索行记录。

explainselect*fromactororderbyname;

film.name建立了idx_name索引,此时查询时extra是using index

explainselect*fromfilmorderbyname;

(6)Select tables optimized away :使用某些聚合函数(比如 max、min)来访问存在索引 的某个字段是

explainselectmin(id)fromfilm;

#示例表

CREATETABLE`employees`(

`id`int(11)NOTNULLAUTO_INCREMENT,

`name`varchar(24)NOTNULLDEFAULT''COMMENT'姓名',

`age`int(11)NOTNULLDEFAULT'0'COMMENT'年龄',

`position`varchar(20)NOTNULLDEFAULT''COMMENT'职位',

`hire_time`timestampNOTNULLDEFAULTCURRENT_TIMESTAMPCOMMENT'入职时间',

PRIMARYKEY(`id`),

KEY`idx_name_age_position`(`name`,`age`,`position`)USINGBTREE

)ENGINE=InnoDBAUTO_INCREMENT=4DEFAULTCHARSET=utf8COMMENT='员工记录表';

INSERTINTOemployees(name,age,position,hire_time)VALUES('ZhangSan',23,'Manager',NOW());

INSERTINTOemployees(name,age,position,hire_time)VALUES('HanMeimei',23,'dev',NOW());

INSERTINTOemployees(name,age,position,hire_time)VALUES('Lucy',23,'dev',NOW());

全值匹配

EXPLAINSELECT*FROMemployeesWHEREname='ZhangSan';

EXPLAINSELECT*FROMemployeesWHEREname='ZhangSan'ANDage=22;

EXPLAINSELECT*FROMemployeesWHEREname='ZhangSan'ANDage=22ANDposition='manager';

最左前缀法则

如果索引了多列,要遵守最左前缀法则。指的是查询从索引的最左前列开始并且不跳过索引中的列。

EXPLAINSELECT*FROMemployeesWHEREage=22ANDposition='manager';

EXPLAINSELECT*FROMemployeesWHEREposition='manager';

EXPLAINSELECT*FROMemployeesWHEREname='ZhangSan';

不在索引列上做任何操作

不在索引列上做任何操作(计算、函数、(自动or手动)类型转换),会导致索引失效而转向全表扫描。

EXPLAINSELECT*FROMemployeesWHEREname='ZhangSan';

EXPLAINSELECT*FROMemployeesWHEREleft(name,3)='ZhangSan';

给hire_time增加一个普通索引:

ALTERTABLE`employees`

ADDINDEX`idx_hire_time`(`hire_time`)USINGBTREE;

EXPLAINselect*fromemployeeswheredate(hire_time)='2020-09-30';

转化为日期范围查询,会走索引:

EXPLAINselect*fromemployeeswherehire_time>='2020-09-3000:00:00'andhire_time<='2020-09-3023:59:59';

还原最初索引状态

ALTERTABLE`employees`

DROPINDEX`idx_hire_time`;

存储引擎不能使用索引中范围条件右边的列

EXPLAINSELECT*FROMemployeesWHEREname='ZhangSan'ANDage=22ANDposition='manager';

EXPLAINSELECT*FROMemployeesWHEREname='ZhangSan'ANDage>22ANDposition='manager';

EXPLAINSELECTname,ageFROMemployeesWHEREname='ZhangSan'ANDage=23ANDposition='manager';

尽量使用覆盖索引

尽量使用覆盖索引(只访问索引的查询(索引列包含查询列)),减少select *语句。

EXPLAINSELECTname,ageFROMemployeesWHEREname='ZhangSan'ANDage=23ANDposition='manager';

EXPLAINSELECT*FROMemployeesWHEREname='ZhangSan'ANDage=23ANDposition='manager';

mysql在使用不等于(!=或者<>)的时候无法使用索引会导致全表扫描

EXPLAINSELECT*FROMemployeesWHEREname!='ZhangSan';

is null、is not null 也无法使用索引

EXPLAINSELECT*FROMemployeesWHEREnameisnull

like以通配符开头('%abc...')mysql索引失效会变成全表扫描操作

EXPLAINSELECT*FROMemployeesWHEREnamelike'%Zhang'

EXPLAINSELECT*FROMemployeesWHEREnamelike'Zhang%'

问题:解决like'%字符串%'索引不被使用的方法?

使用覆盖索引,查询字段必须是建立覆盖索引字段

EXPLAINSELECTname,age,positionFROMemployeesWHEREnamelike'%Zhang%';

如果不能使用覆盖索引则可能需要借助搜索引擎

字符串不加单引号索引失效

EXPLAINSELECT*FROMemployeesWHEREname='1000';

EXPLAINSELECT*FROMemployeesWHEREname=1000;

少用or或in

少用or或in,用它查询时,mysql不一定使用索引,mysql内部优化器会根据检索比例、 表大小等多个因素整体评估是否使用索引,详见范围查询优化。

EXPLAINSELECT*FROMemployeesWHEREname='ZhangSan'orname='HanMeimei';

范围查询优化

给年龄添加单值索引

ALTERTABLE`employees`

ADDINDEX`idx_age`(`age`)USINGBTREE;

explainselect*fromemployeeswhereage>=1andage<=2000;

没走索引原因:mysql内部优化器会根据检索比例、表大小等多个因素整体评估是否使用索引。比如这个例子,可能是由于单次数据量查询过大导致优化器最终选择不走索引 优化方法:可以将大的范围拆分成多个小范围。

explainselect*fromemployeeswhereage>=1andage<=1000;

explainselect*fromemployeeswhereage>=1001andage<=2000;

还原最初索引状态:

ALTERTABLE`employees`

DROPINDEX`idx_age`;

索引使用总结

假设 index(a,b,c)

like KK% 相当于=常量,%KK 和 %KK% 相当于范围

关键词:数据库 效率

最近更新