一、范式
1.1 范式简介
在关系型数据库中,关于数据表设计的基本原则、规则就称为 范式。可以理解为,一张数据表的设计结构需要满足的某种设计标准的级别。要想设计一个结构合理的关系型数据库,必须满足一定的范式。
目前关系型数据库有六种常见范式,按照范式级别,从低到高分别是: 第一范式(1NF)、第二范式(2NF)、第三范式(3NF)、巴斯-科德范式(BCNF)、第四范式(4NF) 和 第五范式(5NF,又称完美范式)。
数据库的范式设计越高阶,冗余度就越低,同时高阶的范式一定符合低阶范式的要求,满足最低要求的范式是第一范式。一般来说,在关系型数据库设计中,最高也就遵循到BCNF,普遍还是3NF。
键和相关属性的概念:
- 超键:能唯─标识元组的属性集叫做超键。
- 候选键:如果超键不包括多余的属性,那么这个超键就是候选键。
- 主键:用户可以从候选键中选择一个作为主键。
- 外键:如果数据表R1中的某属性集不是R1的主键,而是另一个数据表R2的主键,那么这个属性集就是数据表R1的外键。
- 主属性:包含在任一候选键中的属性称为主属性。
- 非主属性:与主属性相对,指的是不包含在任何一个候选键中的属性。
通常,将候选键称之为“码”,把主键也称为“主码”。因为键可能是由多个属性组成的,针对单个属性,还可以用主属性和非主属性来进行区分。
第一范式(1st NF): 第一范式主要是确保数据表中每个字段的值必须具有原子性,也就是说数据表中每个字段的值为不可再次拆分的最小数据单位。
第二范式(2nd NF): 第二范式要求,在满足第一范式的基础上,还要满足数据表里的每一条数据记录,都是可唯一标识的,而且所有非主键字段,都必须完全依赖主键,不能只依赖主键的一部分,如果知道主键的所有属性的值,就可以检索到任何元组(行)的任何属性的任何值。
对非主属性来说,并非完全依赖候选键。
第三范式(3rd NF): 第三范式是在第二范式的基础上,确保数据表中的每一个非主键字段都和主键字段直接相关,也就是说, 要求数据表中的所有非主键字段不能依赖于其它非主键字段。 (即,不能存在非主属性A依赖于非主属性B,非主属性B依赖于主键C的情况,即存在"A–>B–>C"的决定关系)通俗地讲,该规则的意思是所有非主键属性之间不能有依赖关系,必须相互独立。
BCNF(巴斯范式): 在3NF的基础上进行了改进,提出了 巴斯范式(BCNF),也叫作 巴斯-科德范式,BCNF被认为没有新的设计规范加入,只是对第三范式中涉及规范要求更强,是的数据库冗余度更小。所以是 修正的第三范式,或 扩充的第三范式。
若一个关系达到了第三范式,并且它只有一个候选键,或者它的每个候选键都是单属性,则该关系自然达到 BC范式。
1.2 范式的优缺点
范式的优点: 数据的标准化有助于消除数据库中的数据冗余,第三范式(3NF)通常被认为在性能、拓展性和数据完整性方面达到了最好的平衡。
范式的缺点: 范式的使用,可能降低查询的效率。因为范式等级越高,设计出来的数据表就越多、越精细,数据的冗余度就越低,进行数据查询的时候就可能需要关联多张表,这不但代价昂贵,也可能使一些索引策略无效。
范式只是提出了设计的标准,实际上设计数据表时,未必一定要符合这些标准。开发中,会出现为了性能和读取效率违反范式化的原则,通过 增加少量的冗余 或 重复的数据 来提高数据库的 读性能,减少关联查询,join表的次数,实现 空间换取时间 的目的。因此在实际的设计过程中要理论结合实际,灵活运用。
二、反范式化
2.1 反范式化概述
规范化 vs 性能:
- 为满足某种商业目标,数据库性能比规范化数据库更重要
- 在数据规范化的同时,要综合考虑数据库的性能
- 通过在给定的表中添加额外的字段,以大量减少需要从中搜索信息所需的时间
- 通过在给定的表中插入计算列,以方便查询
2.2 反范式的新问题
- 存储空间变大了
- 一个表中字段做了修改,另一个表中冗余的字段也需要做同步修改,否则数据不一致
- 若采用存储过程来支持数据的更新、删除等额外操作,如果更新频繁,会非常消耗系统资源
- 在数据量小的情况下,反范式不能体现性能的优势,可能还会让数据库的设计更加复杂
2.2 反范式的适用场景
当冗余信息有价值或者能大幅度提高查询效率的时候,才应采取反范式的优化。 1、增加冗余字段的建议:
- 一个冗余字段
不需要经常进行修改
- 一个冗余字段
查询的时候不可或缺
2、历史快照、历史数据的需要
在现实工作和生活中,经常需要一些冗余信息,比如订单中的收货人信息,包括姓名、电话和地址等。每次发生的订单收货信息都属于 历史快照,需要进行保存,但用户可以随时修改自己的信息,这时保存这些冗余信息是非常有必要的。
反范式优化也常用在 数据仓库 的设计中,因为数据仓库通常存储历史数据,对增删改的实时性要求不强历史数据的分析需求强,这时适当允许数据的冗余度,更方便进行数据分析。
三、ER模型
3.1 ER模型简介
ER模型 也叫做 实体关系模型,是用来描述现实生活中客观存在的事物、事物的属性,以及事物之间关系的一种数据模型。在开发基于数据库的信息系统的设计阶段,通常使用ER模型来描述信息需要和信息特性,帮助理清业务逻辑,从而设计出优秀的数据库。
ER模型中有三个要素,分别是: 实体、属性 和 关系。
实体,可以看做是数据对象,往往对应于现实生活中的真实存在的个体。在 ER 模型中,用矩形来表示。实体分为两类,分别是 强实体 和 弱实体。
- 强实体是指不依赖于其它实体的实体;
- 弱实体是指对另一个实体有很强的依赖关系的实体;
属性,则是指实体的特性。比如超市的地址、联系电话、员工数等。在 ER 模型中用椭圆形来表示。
关系,则是指实体之间的联系。比如超市把商品卖给顾客,就是一种超市与顾客之间的联系。在 ER 模型中用菱形来表示。
注意:实体 和 属性不容易区分。这里提供一个原则:从系统整体的角度出发去看, 可以独立存在的是实体,不可再分的是属性,也就是说,属性不能包含其它属性。
3.2 关系的类型
在 ER 模型的 3 个要素中,关系又可以分为 3 种类型,分别是 一对一、一对多、多对多。
- 一对一:指实体之间的关系是一一对应的;
- 一对多:指一边的实体通过关系,可以对应多个另外一边的实体。相反,另外一边的实体通过这个关系,则只能对应唯一的一边的实体;
- 多对多:指关系两边的实体都可以通过关系对应多个对方的实体;
四、数据表的设计原则
4.1 数据表设计的一般原则:三少一多
数据表的个数越少越好: RDBMS的核心在于对实体和联系的定义,也就是E-R图(Entity Relationship Diagram),数据表越少,证明实体和联系设计得越简洁,既方便理解又方便操作。
数据表中的字段个数越少越好: 字段个数越多,数据冗余的可能性越大。设置字段个数少的前提是各个字段相互独立,而不是某个字段的取值可以由其它字段计算出来。当然字段个数少是相对的,通常会在数据冗余和检索效率中进行平衡。
数据表中联合主键的字段个数越少越好: 设置主键是为了确定唯一性,当一个字段无法确定唯一性的时候,就需要采用联合主键的方式(也就是用多个字段来定义一个主键)。联合主键中的字段越多,占用的索引空间越大,不仅会加大理解难度,还会增加运行时间和索引空间,因此联合主键的字段个数越少越好。
使用主键和外键越多越好: 数据库的设计实际上就是定义各种表,以及各种字段之间的关系。这些关系越多,证明这些实体之间的冗余度越低,利用度越高。这样做的好处在于不仅保证了数据表之间的独立性,还能提升相互之间的关联使用率。
注意:这个原则并不是绝对的,有时候需要牺牲数据的冗余度来换取数据处理的效率。
五、数据库对象编写建议
5.1 关于库
- 【强制】库的名称必须控制在32个字符以内,只能使用英文字母、数字和下划线,建议以英文字母开头;
- 【强制】库名中英文一律小写,不同单词采用下划线分割,须见名知意;
- 【强制】库的名称格式:业务系统名称_子系统名;
- 【强制】库名禁止使用关键字(如type,order等);
- 【强制】创建数据库时必须显式指定字符集,并且字符集只能是utf8或者utf8mb4,创建数据库SQL举例:
CREATE DATABASE crm_fund DEFAULT CHARACTER SET 'utf8';
- 【建议】对于程序连接数据库账号,遵循权限最小原则。使用数据库账号只能在一个DB下使用,不准跨库。程序;用的账号原则上不准有drop权限。
- 【建议】临时库以tmp_为前缀,并以日期为后缀;备份库以bak_为前缀,并以日期为后缀;
5.2 关于表、列
- 【强制】表和列的名称必须控制在32个字符以内,表名只能使用英文字母、数字和下划线,建议以英文字母开头;
- 【强制】 表名、列名一律小写,不同单词采用下划线分割。须见名知意;
- 【强制】表名要求有模块名强相关,同一模块的表名尽量使用统一前缀,比如:
crm_fund_item
; - 【强制】创建表时必须显式指定字符集为
utf8
或utf8mb4
; - 【强制】表名、列名禁止使用关键字(如type,order等);
- 【强制】创建表时必须显式指定表存储引擎类型。如无特殊需求,一律为InnoDB;
- 【强制】建表必须有comment;
- 【强制】字段命名应尽可能使用表达实际含义的英文单词或缩写,如:公司 ID,不要使用 corporation_id, 而用corp_id 即可;
- 【强制】布尔值类型的字段命名为is_描述。如member表上表示是否为enabled的会员的字段命名为 is_enabled;
- 【强制】禁止在数据库中存储图片、文件等大的二进制数据;
- 通常文件很大,短时间内造成数据量快速增长,数据库进行数据库读取时,通常会进行大量的随机IO操作,文件很大时,IO操作很耗时。通常存储于文件服务器,数据库只存储文件地址信息;
- 【建议】建表时表必须有主键:
- 强制要求主键为id,类型为int或bigint,且为auto_increment 建议使用unsigned无符号型;
- 标识表里每一行主体的字段不要设为主键,建议设为其它字段如user_id,order_id等,并建立unique key索引;因为如果设为主键且主键值为随机插入,则会导致innodb内部页分裂和大量随机I/O,性能下降;
- 【建议】核心表(如用户表)必须有行数据的创建时间字段(create_time)和最后更新时间字段(update_time),便于查问题;
- 【建议】表中所有字段尽量都是NOT NULL属性,业务可以根据需要定义DEFAULT值;
- 因为使用NULL值会存在每一行都会占用额外存储空间、数据迁移容易出错、聚合函数计算结果偏差等问题;
- 【建议】所有存储相同数据的列名和列类型必须一致(一般作为关联列,如果查询时关联列类型不一致会自动进行数据类型隐式转换,会造成列上的索引失效,导致查询效率降低);
- 【建议】中间表(或临时表)用于保留中间结果集,名称以tmp_开头;
- 备份表用于备份或抓取源表快照,名称以bak_开头。中间表和备份表定期清理
- 【示范】一个较为规范的建表语句:
|
|
- 【建议】创建表时,可以使用可视化工具,这样可以确保表、字段相关的约定都能设置上。实际上,通常很少自己写 DDL 语句,可以使用一些可视化工具来创建和操作数据库和数据表,可视化工具除了方便,还能直接将数据库的结构定义转化成 SQL 语言,方便数据库和数据表结构的导出和导入;
5.3 关于索引
- 【强制】InnoDB表主键必须为id int/bigint auto_increment,且主键值禁止被更新;
- 【强制】InnoDB和MyISAM存储引擎表,索引类型必须为BTREE;
- 【建议】主键的名称以pk_开头,唯一键以uni_或uk_开头,普通索引以idx_开头,一律使用小写格式,以字段的名称或缩写作为后缀;
- 【建议】多单词组成的columnname,取前几个单词首字母,加末单词组成column_name,如: sample 表 member_id 上的索引:idx_sample_mid;
- 【建议】单个表上的索引个数不能超过6个;
- 【建议】在建立索引时,多考虑建立联合索引,并把区分度最高的字段放在最前面;
- 【建议】在多表 JOIN 的SQL里,保证被驱动表的连接列上有索引,这样JOIN 执行效率最高;
- 【建议】建表或加索引时,保证表里互相不存在冗余索引, 比如:如果表里已经存在key(a,b), 则key(a)为冗余索引,需要删除;
5.4 关于SQL编写
- 【强制】程序端SELECT语句必须指定具体字段名称,禁止写成
*
; - 【建议】程序端insert语句指定具体字段名称,不要写成INSERT INTO t1 VALUES(…);
- 【建议】除静态表或小表(100行以内),DML语句必须有WHERE条件,且使用索引查找;
- 【建议】INSERT INTO…VALUES(XX),(XX),(XX)… 这里XX的值不要超过5000个, 值过多虽然上线很快,但会引起主从同步延迟;
- 【建议】SELECT语句不要使用UNION,推荐使用UNION ALL,并且UNION子句个数限制在5个以内;
- 【建议】线上环境,多表 JOIN 不要超过5个表;
- 【建议】减少使用ORDER BY,和业务沟通能不排序就不排序,或将排序放到程序端去做,
ORDER BY
、GROUP BY
、DISTINCT
这些语句较为耗费CPU,数据库的CPU资源是极其宝贵的; - 【建议】包含了ORDER BY、GROUP BY、DISTINCT 这些查询的语句,WHERE 条件过滤出来的结果集请保持在1000行以内,否则SQL会很慢;
- 【建议】对单表的多次alter操作必须合并为一次。对于超过100W行的大表进行alter table,必须经过DBA审核,并在业务低峰期执行,多个alter需整合在一起, 因为alter table会产生表锁,期间阻塞对于该表的所有写入,对于业务可能会产生极大影响;
- 【建议】批量操作数据时,需要控制事务处理间隔时间,进行必要的sleep;
- 【建议】事务里包含SQL不超过5个。因为过长的事务会导致锁数据较久,MySQL内部缓存、连接消耗过多等问题;
- 【建议】事务里更新语句尽量基于主键或UNIQUE KEY,如UPDATE… WHERE id=XX;否则会产生间隙锁,内部扩大锁定范围,导致系统性能下降,产生死锁;