Mysql-58到家军规

Mysql相关的内容,由于当前工作上原因接触并不多,但数据库方面作为一名后端工程师不可轻废,这篇文章来源自无缺哥分享的Mysql索引分享会的资料,在此做个整理和备份。

58到家MySQL军规升级版

一、基础规范

  1. 必须使用InnoDB存储引擎
    • InnoDB:支持事务、行级锁、并发性能更好、CPU及内存缓存页优化使得资源利用率更高
    • MyISAM:不支持事务,不支持外键,优势是访问速度快,若项目只需要Select和Insert可以考虑。
    • Merge:将MyISAM表合并为一张表,方便数据查询。
    • Memory:使用内存来存储文件,数据并不会持久化。
  2. 必须使用utf8mb4字符集:utf8mb4是utf8的超集,emoji表情以及部分不常见汉字在utf8下会表现为乱码,故需要升级至utf8mb4,标准,万国码,无需转码,无乱码风险
  3. 数据表、数据字段必须加入中文注释 :为了日后维护,注释必需
  4. 禁止使用存储过程、视图、触发器、Event :高并发大数据的互联网业务,架构设计思路是“解放数据库CPU,将计算转移到服务层”,并发量大的情况下,这些功能很可能将数据库拖死,业务逻辑放到服务层具备更好的扩展性,能够轻易实现“增机器就加性能”。数据库擅长存储与索引,CPU计算还是上移吧
  5. 禁止存储大文件或者大照片 :大文件和照片存储在文件系统,数据库里只需要存放存URI。让数据库存放他适合的数据,发挥最大的作用。

二、命名规范

  1. 只允许使用内网域名,而不是ip连接数据库 : 虽然域名多了一层IP地址解析的过程,但如果服务器IP地址变化,只需要修改DNS即可。
  2. 线上环境、开发环境、测试环境数据库内网域名遵循命名规范
  3. 库名、表名、字段名:小写,下划线风格,不超过32个字符,必须见名知意,禁止拼音英文混用
  4. 表名t_xxx,非唯一索引名idx_xxx,唯一索引名uniq_xxx

三、表设计规范

  1. 单实例表数目必须小于500
  2. 单表列数目必须小于30
  3. 表必须有主键,例如自增主键
    • 主键要选择较短的数据类型, Innodb引擎普通索引都会保存主键的值,较短的数据类型可以有效的减少索引的磁盘空间,提高索引的缓存效率
    • 无主键的表删除,在row模式的主从架构,会导致备库夯住 。binlog:binary log 二进制日志,对数据库的增删改操作都会生成日志,通过binlog我们可以做数据恢复, 做主从复制等。这对于数据库运维而言很重要。
      • Row:日志中会记录成每一行数据被修改的形式,然后在slave端再对相同的数据进行修改,只记录要修改的数据,只有value,不会有sql多表关联的情况。
      • Statement:每一条会修改数据的sql都会记录到master的binlog中,slave在复制的时候sql进程会解析成和原来master端执行多相同的sql再执行。
      • Mixed:会根据执行的每一条具体的SQL来区分对待记录的日志形式。也就是在Row和Statement中选择一种合适的形式。
    • 主键递增,数据行写入可以提高插入性能,可以避免page分裂,减少表碎片提升空间和内存的使用
  4. 禁止使用外键,如果有外键完整性约束,需要应用程序控制 :外键会导致表与表之间耦合,update与delete操作都会涉及相关联的表,十分影响sql 的性能,甚至会造成死锁。高并发情况下容易造成数据库性能,大数据高并发业务场景数据库使用以性能优先

四、字段设计规范

  1. 必须把字段定义为NOT NULL并且提供默认值
    • null的列使索引/索引统计/值比较都更加复杂,对MySQL来说更难优化
    • null 这种类型MySQL内部需要进行特殊处理,增加数据库处理记录的复杂性;同等条件下,表中有较多空字段的时候,数据库的处理性能会降低很多
    • null值需要更多的存储空间,无论是表还是索引中每行中的null的列都需要额外的空间来标识
    • 对null 的处理时候,只能采用is null或is not null,而不能采用=、in、<、<>、!=、not in这些操作符号。如:where name!=’shenjian’,如果存在name为null值的记录,查询结果就不会包含name为null值的记录
  2. 禁止使用TEXT、BLOB类型 :会浪费更多的磁盘和内存空间,非必要的大量的大字段查询会淘汰掉热数据,导致内存命中率急剧降低,影响数据库性能
  3. 禁止使用小数存储货币 :使用decimal(10,1)而不是float,float容易导致钱对不上,因为会自动四舍五入。
  4. 必须使用varchar(20)存储手机号 :varchar可以支持模糊查询,例如:like “138%”,在涉及到国家时会出现字符。
  5. 禁止使用ENUM,可使用TINYINT代替 :ENUM内部实际存储的就是整数。

五、索引设计规范

  1. 单表索引建议控制在5个以内: 当索引超过5个时,实际已经不能有效的过滤数据了。
  2. 禁止在更新十分频繁、区分度不高的属性上建立索引:
    • 更新会变更B+树,更新频繁的字段建立索引会大大降低数据库性能
    • “性别”这种区分度不大的属性,建立索引是没有什么意义的,不能有效过滤数据,性能与全表扫描类似
  3. 建立组合索引,必须把区分度高的字段放在前面 :能够更加有效的过滤数据

六、SQL使用规范:规避全表扫描

  1. *禁止使用SELECT ,只获取必要的字段,需要显示说明列属性
    • 不必要的字段,是对CPU,IO,NET资源的消耗,每条SQL语句就查询需要的数据。
    • 不能有效的覆盖索引
    • 使用SELECT * 容易在增加或删除字段后出现程序BUG
  2. 禁止使用INSERT INTO t_xxx VALUES(xxx),必须显示指定插入的列属性:在Go语言中也是如此,新建结构体的时候指明字段既增加了代码可读性,也规避了日后结构/表变更的危险。
  3. 禁止使用属性隐式转换
  4. 禁止在WHERE条件的属性上使用函数或者表达式
    • SELECT uid FROM t_user WHERE from_unixtime(day)>=’2017-02-15’ 会导致全表扫描
    • SELECT uid FROM t_user WHERE day>= unix_timestamp(‘2017-02-15 00:00:00’)
  5. 禁止负向查询,以及%开头的模糊查询
    • 负向查询条件:NOT、!=、<>、!<、!>、NOT IN、NOT LIKE等,会导致全表扫描
    • %开头的模糊查询,会导致全表扫描
  6. 禁止大表使用JOIN查询,禁止大表使用子查询 :会产生临时表,消耗较多内存与CPU,极大影响数据库性
  7. 禁止使用OR条件,必须改为IN查询 :旧版本Mysql的OR查询是不能命中索引的,即使能命中索引,为何要让数据库耗费更多的CPU帮助实施查询优化
  8. 应用程序必须捕获SQL异常,并有相应处理
  9. 禁止使用应用程序配置文件内的帐号手工访问线上数据库
  10. 禁止非DBA对线上数据库进行写操作,修改线上数据需要提交工单,由DBA执行,提交的SQL语句必须经过测试
  11. 分配非DBA以只读帐号,必须通过VPN+跳板机访问授权的从库
  12. 开发、测试、线上环境隔离