MySQL 知识总结
# 一、索引
# B+ Tree 原理
# 1. 数据结构
B Tree 指的是 Balance Tree,也就是平衡树。平衡树是一颗查找树,并且所有叶子节点位于同一层。
B+ Tree 是基于 B Tree 和叶子节点顺序访问指针进行实现,它具有 B Tree 的平衡性,并且通过顺序访问指针来提高区间查询的性能。
在 B+ Tree 中,一个节点中的 key 从左到右非递减排列,如果某个指针的左右相邻 key 分别是 keyi 和 keyi+1,且不为 null,则该指针指向节点的所有 key 大于等于 keyi 且小于等于 keyi+1。
# 2. 操作
进行查找操作时,首先在根节点进行二分查找,找到一个 key 所在的指针,然后递归地在指针所指向的节点进行查找。直到查找到叶子节点,然后在叶子节点上进行二分查找,找出 key 所对应的 data。
插入删除操作会破坏平衡树的平衡性,因此在进行插入删除操作之后,需要对树进行分裂、合并、旋转等操作来维护平衡性。
# 3. 与红黑树的比较
红黑树等平衡树也可以用来实现索引,但是文件系统及数据库系统普遍采用 B+ Tree 作为索引结构,这是因为使用 B+ 树访问磁盘数据有更高的性能。
(一)B+ 树有更低的树高
平衡树的树高 O(h)=O(logdN),其中 d 为每个节点的出度。红黑树的出度为 2,而 B+ Tree 的出度一般都非常大,所以红黑树的树高 h 很明显比 B+ Tree 大非常多。
(二)磁盘访问原理
操作系统一般将内存和磁盘分割成固定大小的块,每一块称为一页,内存与磁盘以页为单位交换数据。数据库系统将索引的一个节点的大小设置为页的大小,使得一次 I/O 就能完全载入一个节点。
如果数据不在同一个磁盘块上,那么通常需要移动制动手臂进行寻道,而制动手臂因为其物理结构导致了移动效率低下,从而增加磁盘数据读取时间。B+ 树相对于红黑树有更低的树高,进行寻道的次数与树高成正比,在同一个磁盘块上进行访问只需要很短的磁盘旋转时间,所以 B+ 树更适合磁盘数据的读取。
(三)磁盘预读特性
为了减少磁盘 I/O 操作,磁盘往往不是严格按需读取,而是每次都会预读。预读过程中,磁盘进行顺序读取,顺序读取不需要进行磁盘寻道,并且只需要很短的磁盘旋转时间,速度会非常快。并且可以利用预读特性,相邻的节点也能够被预先载入。
# 4. B 树与 B+树的区别
The Difference Between B-trees and B+trees | Baeldung on Computer Science (opens new window)
B 树和 B+树之间最明显的比较点:
- 在 B+树中,搜索键可以重复,但 B 树不是;
- B+树只允许将卫星数据存储在叶节点中,而 B 树则将数据存储在叶节点和内部节点中;
- 在 B+树中,存储在叶节点上的数据使搜索更加高效,因为我们可以在内部节点中存储更多键——而这意味着我们需要访问更少的节点;
- 从 B+树中删除数据更容易,更不耗时,因为我们只需要从叶节点中删除数据;
- B+树中的叶节点链接在一起,使范围搜索操作高效、快速
最后,虽然 B 树很有用的,但是 B+树更受欢迎。事实上,99% 的数据库系统使用 B+树进行索引。
这是因为 B+树在内部节点中不保存任何数据。这将最大化存储在节点中的键数,从而最大限度地减少树中所需的级别数。 较小的树深度总是意味着更快的搜索速度。
# MySQL 索引
索引是在存储引擎层实现的,而不是在服务器层实现的,所以不同存储引擎具有不同的索引类型和实现。同样,即使对于同一类型的索引,不同的存储引擎实现的方式也可能是不同的,比如MyISAM
和InnoDB
对B-Tree
索引,具体的实现是有差别的。
# 1. B+Tree 索引
是大多数 MySQL 存储引擎的默认索引类型。
因为不再需要进行全表扫描,只需要对树进行搜索即可,所以查找速度快很多。
因为 B+ Tree 的有序性,所以除了用于查找,还可以用于排序和分组。
可以指定多个列作为索引列,多个索引列共同组成键。
适用于全键值、键值范围和键前缀查找,其中键前缀查找只适用于最左前缀查找。如果不是按照索引列的顺序进行查找,则无法使用索引。
InnoDB 的 B+Tree 索引分为主索引和辅助索引。主索引的叶子节点 data 域记录着完整的数据记录,这种索引方式被称为聚簇索引。因为无法把数据行存放在两个不同的地方,所以一个表只能有一个聚簇索引。
辅助索引的叶子节点的 data 域记录着主键的值,因此在使用辅助索引进行查找时,需要先查找到主键值,然后再到主索引中进行查找。
# 索引种类
B+Tree
只是底层的算法实现,唯一索引,主键索引,普通索引都是基于B-Tree
索引算法的,只不过又有各自的特点。
普通索引: 基本的索引类型,没有唯一性的限制,允许为
NULL
值。alter table table_name add index index_name(column); drop index index_name on table_name; ALTER TABLE table_name DROP INDEX index_name
1
2
3唯一索引: 数据列不允许重复,允许为
NULL
值,一个表允许多个列创建唯一索引。# 创建唯一索引 ALTER TABLE table_name ADD UNIQUE (`column`) # 删除索引 drop index index_name on table_name;
1
2
3
4主键索引: 数据列不允许重复,不允许为
NULL
。一个表只能有一个主键。主键索引在 Innodb 中用来维护索引组织的性质,所以,在使用 Innodb 引擎时,建议你的表都设置主键。# 当表里面没有主键索引时,增加主键索引 ALTER TABLE table_name ADD PRIMARY KEY ( `id` ) # 删除主键索引 ALTER TABLE table_name DROP INDEX name_index
1
2
3
4联合索引:将多个列组合在一起创建索引,可以覆盖多个列。(也叫复合索引,组合索引)。
外键索引:只有 InnoDB 类型的表才可以使用外键索引,保证数据的一致性、完整性和实现级联操作。
# 2. 哈希索引
它是基于哈希表来实现的,对于要索引的列,存储引擎会计算出一一对应的哈希码
,然后把哈希码存放在哈希表中作为key
,value
值是指向该行数据的指针。哈希索引能以 O(1) 时间进行查找,但是失去了有序性:
- 限制
- 只支持精确查找,无法用于部分查找和范围查找。比如
where price > 150
,因为是基于哈希计算,支持等值比较; - 哈希表是无序存储的,因此索引数据无法用于排序。
- 主流存储引擎不支持该类型,比如
MyISAM
和InnoDB
。哈希索引只有 Memory, NDB 两种引擎支持。
- 只支持精确查找,无法用于部分查找和范围查找。比如
- 优势
- 只需比对哈希值,因此速度非常快,性能优势明显;
当 InnoDB 注意到某些索引值被使用的非常频繁时,它会在内存中基于 B-Tree 索引上在创建一个 hash 索引,这样就让 B-tree 索引也具有 hash 索引的一些优点。这是一个完全自动的内部的行为,用户无法控制或配置,不过,如果有需要,完全可以关闭该功能。
InnoDB 存储引擎有一个特殊的功能叫“自适应哈希索引”,当 InnoDB 注意到某些索引值被使用的非常频繁时,它会在内存中基于 B-Tree 索引上在创建一个 hash 索引,这样就让 B-tree 索引也具有 hash 索引的一些优点,比如快速的哈希查找。这是一个完全自动的内部的行为,用户无法控制或配置。
# 3. 全文索引
MyISAM 存储引擎支持全文索引,用于查找文本中的关键词,而不是直接比较是否相等。
查找条件使用 MATCH AGAINST,而不是普通的 WHERE。
全文索引使用倒排索引实现,它记录着关键词到其所在文档的映射。
InnoDB 存储引擎在 MySQL 5.6.4 版本中也开始支持全文索引,功能没有专业的搜索引擎比如Sphinx
或Solr
丰富,如果你的需求比较简单,可以尝试一下MySQL
的全文索引,否则建议使用专业的搜索引擎。
# 4. 空间数据索引
MyISAM 存储引擎支持空间数据索引(R-Tree),可以用于地理数据存储。空间数据索引会从所有维度来索引数据,可以有效地使用任意维度来进行组合查询。
必须使用 GIS 相关的函数来维护数据。
# 总结
- B-Tree 索引使用最广泛,主流引擎都支持。
- 哈希索引性能高,适用于特殊场合。
R-Tree
不常用。- 全文索引适用于海量数据的关键字模糊搜索。
能够使用 SHOW ENGINES
语句查看你的 MySql Server 所支持的存储引擎
ENGINE | SUPPORT | COMMENT | TRANSACTIONS | XA | SAVEPOINTS |
---|---|---|---|---|---|
FEDERATED | NO | Federated MySQL storage engine | NULL | NULL | NULL |
BLACKHOLE | YES | /dev/null storage engine (anything you write to it disappears) | NO | NO | NO |
XENGINE | NO | X-Engine storage engine | NULL | NULL | NULL |
MEMORY | YES | Hash based | stored in memory | useful for temporary tables | NO |
InnoDB | DEFAULT | Supports transactions | row-level locking | and foreign keys | YES |
PERFORMANCE_SCHEMA | YES | Performance Schema | NO | NO | NO |
Sequence | YES | Sequence Storage Engine Helper | NO | NO | NO |
MyISAM | YES | MyISAM storage engine | NO | NO | NO |
MRG_MYISAM | YES | Collection of identical MyISAM tables | NO | NO | NO |
CSV | YES | CSV storage engine | NO | NO | NO |
ARCHIVE | YES | Archive storage engine | NO | NO | NO |
警惕 InnoDB 和 MyISAM 创建 Hash 索引陷阱 - cynchanpin - 博客园 (opens new window)
# 优化
# 1. 独立的列
在进行查询时,索引列不能是表达式的一部分,也不能是函数的参数,否则无法使用索引。
例如下面的查询不能使用 actor_id 列的索引:
SELECT actor_id FROM sakila.actor WHERE actor_id + 1 = 5;
# 2. 多列索引
在需要使用多个列作为条件进行查询时,使用多列索引比使用多个单列索引性能更好。例如下面的语句中,最好把 actor_id 和 film_id 设置为多列索引。
SELECT film_id, actor_ id FROM sakila.film_actor
WHERE actor_id = 1 AND film_id = 1;
2
# 3. 索引列的顺序
让选择性最强的索引列放在前面。
索引的选择性是指:不重复的索引值和记录总数的比值。最大值为 1,此时每个记录都有唯一的索引与其对应。选择性越高,每个记录的区分度越高,查询效率也越高。
例如下面显示的结果中 customer_id 的选择性比 staff_id 更高,因此最好把 customer_id 列放在多列索引的前面。
SELECT COUNT(DISTINCT staff_id)/COUNT(*) AS staff_id_selectivity,
COUNT(DISTINCT customer_id)/COUNT(*) AS customer_id_selectivity,
COUNT(*)
FROM payment;
2
3
4
staff_id_selectivity: 0.0001
customer_id_selectivity: 0.0373
COUNT(*): 16049
2
3
# 4. 前缀索引
对于 BLOB、TEXT 和 VARCHAR 类型的列,必须使用前缀索引,只索引开始的部分字符。
前缀长度的选取需要根据索引选择性来确定。
笔记
对于 varchar 字段,一般情况下,使用普通索引比前缀索引更合适。普通索引可以完整地对字段进行索引,而不仅仅是字段的前几个字符。这样可以提高索引的选择性和查询的准确性。
前缀索引适用于以下情况:
- 字段的长度较长,但是只有前几个字符对查询有用。例如,一个较长的 URL 字段,但是只需要根据前几个字符进行查询。
- 字段的选择性较低,即字段的取值不够唯一。在这种情况下,使用前缀索引可以减少索引的大小,提高查询性能。
需要注意的是,使用前缀索引可能会导致索引的选择性降低,因为只考虑了字段的前几个字符。因此,在决定使用前缀索引还是普通索引时,需要综合考虑字段的长度、选择性以及查询的需求。如果字段较短或者索引的选择性较高,使用普通索引更合适。
# 5. 覆盖索引
索引包含所有需要查询的字段的值。
具有以下优点:
- 索引通常远小于数据行的大小,只读取索引能大大减少数据访问量。
- 一些存储引擎(例如 MyISAM)在内存中只缓存索引,而数据依赖于操作系统来缓存。因此,只访问索引可以不使用系统调用(通常比较费时)。
- 对于 InnoDB 引擎,若辅助索引能够覆盖查询,则无需访问主索引。
# 优点
- 大大减少了服务器需要扫描的数据行数。
- 帮助服务器避免进行排序和分组,以及避免创建临时表(B+Tree 索引是有序的,可以用于 ORDER BY 和 GROUP BY 操作。临时表主要是在排序和分组过程中创建,不需要排序和分组,也就不需要创建临时表)。
- 将随机 I/O 变为顺序 I/O(B+Tree 索引是有序的,会将相邻的数据都存储在一起)。
# 注意事项
- 如果 MySQL 估计使用索引比全表扫描更慢,会放弃使用索引;
- 如果关键词 or 前面的条件中的列有索引,后面的没有,所有列的索引都不会被用到;
- 更新频繁的字段不适合创建索引
- 列类型是字符串,查询时一定要给值加引号,否则索引失效,例如:
列
name varchar(16)
,存储了字符串"100"WHERE name = 100;
以上 SQL 语句能搜到,但无法用到索引。
# 原则
- 最适合创建索引的列是出现在 WHERE 或 ON 子句中的列,或连接子句中的列而不是出现在 SELECT 关键字后的列。
- 索引列的基数越大,数据区分度越高,索引的效果越好。
- 对于字符串进行索引,应该制定一个前缀长度,可以节省大量的索引空间。
- 根据情况创建联合索引,联合索引可以提高查询效率。联合索引遵循前缀原则:联合索引中的字段,只有某个字段(笔画)左边的所有字段(部首)都被使用了,才能使用该字段上的索引。
- 避免创建过多的索引,索引会额外占用磁盘空间,降低写操作效率。
- 主键尽可能选择较短的数据类型,可以有效减少索引的磁盘占用提高查询效率。
# 使用条件
- 对于非常小的表、大部分情况下简单的全表扫描比建立索引更高效;
- 对于中到大型的表,索引就非常有效;
- 但是对于特大型的表,建立和维护索引的代价将会随之增长。这种情况下,需要用到一种技术可以直接区分出需要查询的一组数据,而不是一条记录一条记录地匹配,例如可以使用分区技术。
# 参考链接
MySQL 索引专题一 认识索引 - SegmentFault 思否 (opens new window)
最常问的 MySQL 面试题集合(一)_个人文章 - SegmentFault 思否 (opens new window)
Mysql 索引不会怎么办?6000 字长文教会你_胖琪的升级之路 - SegmentFault 思否 (opens new window)
数据库索引是什么?新华字典来帮你_Java 后端火箭班 - SegmentFault 思否 (opens new window)
20 分钟数据库索引设计实战 (opens new window)
# 二、查询性能优化
# 使用 Explain 进行分析
Explain 用来分析 SELECT 查询语句,开发人员可以通过分析 Explain 结果来优化查询语句。
比较重要的字段有:
- select_type : 查询类型,有简单查询、联合查询、子查询等
- key : 使用的索引
- rows : 扫描的行数
# 优化数据访问
# 1. 减少请求的数据量
- 只返回必要的列:最好不要使用 SELECT * 语句。
- 只返回必要的行:使用 LIMIT 语句来限制返回的数据。
- 缓存重复查询的数据:使用缓存可以避免在数据库中进行查询,特别在要查询的数据经常被重复查询时,缓存带来的查询性能提升将会是非常明显的。
# 2. 减少服务器端扫描的行数
最有效的方式是使用索引来覆盖查询。
# 重构查询方式
# 1. 切分大查询
一个大查询如果一次性执行的话,可能一次锁住很多数据、占满整个事务日志、耗尽系统资源、阻塞很多小的但重要的查询。
DELETE FROM messages WHERE create < DATE_SUB(NOW(), INTERVAL 3 MONTH);
rows_affected = 0
do {
rows_affected = do_query(
"DELETE FROM messages WHERE create < DATE_SUB(NOW(), INTERVAL 3 MONTH) LIMIT 10000")
} while rows_affected > 0
2
3
4
5
# 2. 分解大连接查询
将一个大连接查询分解成对每一个表进行一次单表查询,然后在应用程序中进行关联,这样做的好处有:
- 让缓存更高效。对于连接查询,如果其中一个表发生变化,那么整个查询缓存就无法使用。而分解后的多个查询,即使其中一个表发生变化,对其它表的查询缓存依然可以使用。
- 分解成多个单表查询,这些单表查询的缓存结果更可能被其它查询使用到,从而减少冗余记录的查询。
- 减少锁竞争;
- 在应用层进行连接,可以更容易对数据库进行拆分,从而更容易做到高性能和可伸缩。
- 查询本身效率也可能会有所提升。例如下面的例子中,使用 IN() 代替连接查询,可以让 MySQL 按照 ID 顺序进行查询,这可能比随机的连接要更高效。
SELECT * FROM tag
JOIN tag_post ON tag_post.tag_id=tag.id
JOIN post ON tag_post.post_id=post.id
WHERE tag.tag='mysql';
2
3
4
SELECT * FROM tag WHERE tag='mysql';
SELECT * FROM tag_post WHERE tag_id=1234;
SELECT * FROM post WHERE post.id IN (123,456,567,9098,8904);
2
3
# 三、存储引擎
# InnoDB
是 MySQL 默认的事务型存储引擎,只有在需要它不支持的特性时,才考虑使用其它存储引擎。
实现了四个标准的隔离级别,默认级别是可重复读(REPEATABLE READ)。在可重复读隔离级别下,通过多版本并发控制(MVCC)+ Next-Key Locking 防止幻影读。
主索引是聚簇索引,在索引中保存了数据,从而避免直接读取磁盘,因此对查询性能有很大的提升。
内部做了很多优化,包括从磁盘读取数据时采用的可预测性读、能够加快读操作并且自动创建的自适应哈希索引、能够加速插入操作的插入缓冲区等。
支持真正的在线热备份。其它存储引擎不支持在线热备份,要获取一致性视图需要停止对所有表的写入,而在读写混合场景中,停止写入可能也意味着停止读取。
# MyISAM
设计简单,数据以紧密格式存储。对于只读数据,或者表比较小、可以容忍修复操作,则依然可以使用它。
提供了大量的特性,包括压缩表、空间数据索引等。
不支持事务。
不支持行级锁,只能对整张表加锁,读取时会对需要读到的所有表加共享锁,写入时则对表加排它锁。但在表有读取操作的同时,也可以往表中插入新的记录,这被称为并发插入(CONCURRENT INSERT)。
可以手工或者自动执行检查和修复操作,但是和事务恢复以及崩溃恢复不同,可能导致一些数据丢失,而且修复操作是非常慢的。
如果指定了 DELAY_KEY_WRITE 选项,在每次修改执行完成时,不会立即将修改的索引数据写入磁盘,而是会写到内存中的键缓冲区,只有在清理键缓冲区或者关闭表的时候才会将对应的索引块写入磁盘。这种方式可以极大的提升写入性能,但是在数据库或者主机崩溃时会造成索引损坏,需要执行修复操作。
# 比较
锁粒度方面:由于锁粒度不同,InnoDB 比 MyISAM 支持更高的并发;InnoDB 的锁粒度为行锁、MyISAM 的锁粒度为表锁、行锁需要对每一行进行加锁,所以锁的开销更大,但是能解决脏读和不可重复读的问题,相对来说也更容易发生死锁 可恢复性上:由于 InnoDB 是有事务日志的,所以在产生由于数据库崩溃等条件后,可以根据日志文件进行恢复。而 MyISAM 则没有事务日志。 查询性能上:MyISAM 要优于 InnoDB,因为 InnoDB 在查询过程中,是需要维护数据缓存,而且查询过程是先定位到行所在的数据块,然后在从数据块中定位到要查找的行;而 MyISAM 可以直接定位到数据所在的内存地址,可以直接找到数据。 表结构文件上: MyISAM 的表结构文件包括:.frm(表结构定义),.MYI(索引),.MYD(数据);而 InnoDB 的表数据文件为:.ibd 和.frm(表结构定义);
事务:InnoDB 是事务型的,可以使用 Commit 和 Rollback 语句。
并发:MyISAM 只支持表级锁,而 InnoDB 还支持行级锁。
外键:InnoDB 支持外键。
备份:InnoDB 支持在线热备份。
崩溃恢复:MyISAM 崩溃后发生损坏的概率比 InnoDB 高很多,而且恢复的速度也更慢。
其它特性:MyISAM 支持压缩表和空间数据索引。
::: count(*)
问题
MyISAM 在统计表的总行数的时候会很快,但是有个大前提,不能加有任何 WHERE 条件。这是因为:MyISAM 对于表的行数做了优化,具体做法是有一个变量存储了表的行数,如果查询条件没有 WHERE 条件则是查询表中一共有多少条数据,MyISAM 可以做到迅速返回,所以也解释了如果加 WHERE 条件,则该优化就不起作用了。
COUNT()有两个非常不同的作用:它可以统计某个列值的数量,也可以统计行数。在统计列值时要求列值是非空的(不统计 NULL)。如果在 COUNT()的括号中定了列或者列表达式,则统计的就是这个表达式有值的结果数。……COUNT()的另一个作用是统计结果集的行数。当 MySQL 确认括号内的表达式值不可能为空时,实际上就是在统计行数。最简单的就是当我们使用COUNT(*)
的时候,这种情况下通配符*并不像我们猜想的那样扩展成所有的列,实际上,他会忽略所有列而直接统计所有的行数“——《高性能 MySQL》。
在高版本中(5.5+),对于 COUNT(1)和COUNT(*)
执行优化器的优化是完全一样的,并没有 COUNT(1)会比COUNT(*)
快这个说法。
高性能 MySQL——Count(1) OR Count(*)? - 知乎 (opens new window) :::
# 四、数据类型
# 整型
TINYINT, SMALLINT, MEDIUMINT, INT, BIGINT 分别使用 8, 16, 24, 32, 64 位存储空间,一般情况下越小的列越好。
INT(11) 中的数字只是规定了交互工具显示字符的个数,对于存储和计算来说是没有意义的。
# 浮点数
FLOAT 和 DOUBLE 为浮点类型,DECIMAL 为高精度小数类型。CPU 原生支持浮点运算,但是不支持 DECIMAl 类型的计算,因此 DECIMAL 的计算比浮点类型需要更高的代价。
FLOAT、DOUBLE 和 DECIMAL 都可以指定列宽,例如 DECIMAL(18, 9) 表示总共 18 位,取 9 位存储小数部分,剩下 9 位存储整数部分。
# 字符串
主要有 CHAR 和 VARCHAR 两种类型,一种是定长的,一种是变长的。
VARCHAR 这种变长类型能够节省空间,因为只需要存储必要的内容。但是在执行 UPDATE 时可能会使行变得比原来长,当超出一个页所能容纳的大小时,就要执行额外的操作。MyISAM 会将行拆成不同的片段存储,而 InnoDB 则需要分裂页来使行放进页内。
在进行存储和检索时,会保留 VARCHAR 末尾的空格,而会删除 CHAR 末尾的空格。
# 时间和日期
MySQL 提供了两种相似的日期时间类型:DATETIME 和 TIMESTAMP。
# 1. DATETIME
能够保存从 1000 年到 9999 年的日期和时间,精度为秒,使用 8 字节的存储空间。
它与时区无关。
默认情况下,MySQL 以一种可排序的、无歧义的格式显示 DATETIME 值,例如“2008-01-16 22:37:08”,这是 ANSI 标准定义的日期和时间表示方法。
# 2. TIMESTAMP
和 UNIX 时间戳相同,保存从 1970 年 1 月 1 日午夜(格林威治时间)以来的秒数,使用 4 个字节,只能表示从 1970 年到 2038 年。
它和时区有关,也就是说一个时间戳在不同的时区所代表的具体时间是不同的。
MySQL 提供了 FROM_UNIXTIME() 函数把 UNIX 时间戳转换为日期,并提供了 UNIX_TIMESTAMP() 函数把日期转换为 UNIX 时间戳。
默认情况下,如果插入时没有指定 TIMESTAMP 列的值,会将这个值设置为当前时间。
应该尽量使用 TIMESTAMP,因为它比 DATETIME 空间效率更高。
# 五、切分
# 水平切分
水平切分又称为 Sharding,它是将同一个表中的记录拆分到多个结构相同的表中。
当一个表的数据不断增多时,Sharding 是必然的选择,它可以将数据分布到集群的不同节点上,从而缓存单个数据库的压力。
# 垂直切分
垂直切分是将一张表按列切分成多个表,通常是按照列的关系密集程度进行切分,也可以利用垂直切分将经常被使用的列和不经常被使用的列切分到不同的表中。
在数据库的层面使用垂直切分将按数据库中表的密集程度部署到不同的库中,例如将原来的电商数据库垂直切分成商品数据库、用户数据库等。
# Sharding 策略
- 哈希取模:hash(key) % N;
- 范围:可以是 ID 范围也可以是时间范围;
- 映射表:使用单独的一个数据库来存储映射关系。
# Sharding 存在的问题
# 1. 事务问题
使用分布式事务来解决,比如 XA 接口。
# 2. 连接
可以将原来的连接分解成多个单表查询,然后在用户程序中进行连接。
# 3. ID 唯一性
- 使用全局唯一 ID(GUID)
- 为每个分片指定一个 ID 范围
- 分布式 ID 生成器 (如 Twitter 的 Snowflake 算法)
# 六、复制
# 主从复制
主数据库的写操作,从数据库上自动同步。主要涉及三个线程:binlog 线程、I/O 线程和 SQL 线程。
- binlog 线程 :负责将主服务器上的数据更改写入二进制日志(Binary log)中。
- I/O 线程 :负责从主服务器上读取二进制日志,并写入从服务器的中继日志(Relay log)。
- SQL 线程 :负责读取中继日志,解析出主服务器已经执行的数据更改并在从服务器中重放(Replay)。
# 读写分离
主服务器处理写操作以及实时性要求比较高的读操作,而从服务器处理读操作。
读写分离能提高性能的原因在于:
- 主从服务器负责各自的读和写,极大程度缓解了锁的争用;
- 从服务器可以使用 MyISAM,提升查询性能以及节约系统开销;
- 增加冗余,提高可用性。
读写分离常用代理方式来实现,代理服务器接收应用层传来的读写请求,然后决定转发到哪个服务器。
# 参考资料
- BaronScbwartz, PeterZaitsev, VadimTkacbenko, 等. 高性能 MySQL[M]. 电子工业出版社, 2013.
- 姜承尧. MySQL 技术内幕: InnoDB 存储引擎 [M]. 机械工业出版社, 2011.
- 20+ 条 MySQL 性能优化的最佳经验 (opens new window)
- 服务端指南 数据存储篇 | MySQL(09) 分库与分表带来的分布式困境与应对之策 (opens new window)
- How to create unique row ID in sharded databases? (opens new window)
- SQL Azure Federation – Introduction (opens new window)
- MySQL 索引背后的数据结构及算法原理 (opens new window)
- MySQL 性能优化神器 Explain 使用分析 (opens new window)
- How Sharding Works (opens new window)
- 大众点评订单系统分库分表实践 (opens new window)
- B + 树 (opens new window)