作者:Yrion
原文連結:cnblogs.com/wyq178/p/12548864.html
在mysql中設計表的時候,mysql官方推薦不要使用uuid或者不連續不重複的雪花id(long形且唯一),而是推薦連續自增的主鍵id,官方的推薦是auto_increment,那麼為什麼不建議采用uuid,使用uuid究竟有什麼壞處?本篇部落格我們就來分析這個問題,探讨一下内部的原因。
MySQL 和程式執行個體
要說明這個問題,我們首先來建立三張表,分别是user_auto_key,user_uuid,user_random_key,分别表示自動增長的主鍵,uuid作為主鍵,随機key作為主鍵,其它我們完全保持不變.根據控制變量法,我們隻把每個表的主鍵使用不同的政策生成,而其他的字段完全一樣,然後測試一下表的插入速度和查詢速度:
注:這裡的随機key其實是指用雪花算法算出來的前後不連續不重複無規律的id:一串18位長度的long值
id自動生成表:
使用者uuid表
随機主鍵表:
測試代碼
光有理論不行,直接上程式,使用spring的jdbcTemplate來實作增查測試:
技術架構:springboot+jdbcTemplate+junit+hutool,程式的原理就是連接配接自己的測試資料庫,然後在相同的環境下寫入同等數量的資料,來分析一下insert插入的時間來進行綜合其效率,為了做到最真實的效果,所有的資料采用随機生成,比如名字、郵箱、位址都是随機生成,程式已上傳自gitee,位址在文底。
package com.wyq.mysqldemo;
import cn.hutool.core.collection.CollectionUtil;
import com.wyq.mysqldemo.databaseobject.UserKeyAuto;
import com.wyq.mysqldemo.databaseobject.UserKeyRandom;
import com.wyq.mysqldemo.databaseobject.UserKeyUUID;
import com.wyq.mysqldemo.diffkeytest.AutoKeyTableService;
import com.wyq.mysqldemo.diffkeytest.RandomKeyTableService;
import com.wyq.mysqldemo.diffkeytest.UUIDKeyTableService;
import com.wyq.mysqldemo.util.JdbcTemplateService;
import org.junit.jupiter.api.Test;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.util.StopWatch;
import java.util.List;
@SpringBootTest
class MysqlDemoApplicationTests {
@Autowired
private JdbcTemplateService jdbcTemplateService;
@Autowired
private AutoKeyTableService autoKeyTableService;
@Autowired
private UUIDKeyTableService uuidKeyTableService;
@Autowired
private RandomKeyTableService randomKeyTableService;
@Test
void testDBTime() {
StopWatch stopwatch = new StopWatch("執行sql時間消耗");
/**
* auto_increment key任務
*/
final String insertSql = "INSERT INTO user_key_auto(user_id,user_name,sex,address,city,email,state) VALUES(?,?,?,?,?,?,?)";
List<UserKeyAuto> insertData = autoKeyTableService.getInsertData();
stopwatch.start("自動生成key表任務開始");
long start1 = System.currentTimeMillis();
if (CollectionUtil.isNotEmpty(insertData)) {
boolean insertResult = jdbcTemplateService.insert(insertSql, insertData, false);
System.out.println(insertResult);
}
long end1 = System.currentTimeMillis();
System.out.println("auto key消耗的時間:" + (end1 - start1));
stopwatch.stop();
/**
* uudID的key
*/
final String insertSql2 = "INSERT INTO user_uuid(id,user_id,user_name,sex,address,city,email,state) VALUES(?,?,?,?,?,?,?,?)";
List<UserKeyUUID> insertData2 = uuidKeyTableService.getInsertData();
stopwatch.start("UUID的key表任務開始");
long begin = System.currentTimeMillis();
if (CollectionUtil.isNotEmpty(insertData)) {
boolean insertResult = jdbcTemplateService.insert(insertSql2, insertData2, true);
System.out.println(insertResult);
}
long over = System.currentTimeMillis();
System.out.println("UUID key消耗的時間:" + (over - begin));
stopwatch.stop();
/**
* 随機的long值key
*/
final String insertSql3 = "INSERT INTO user_random_key(id,user_id,user_name,sex,address,city,email,state) VALUES(?,?,?,?,?,?,?,?)";
List<UserKeyRandom> insertData3 = randomKeyTableService.getInsertData();
stopwatch.start("随機的long值key表任務開始");
Long start = System.currentTimeMillis();
if (CollectionUtil.isNotEmpty(insertData)) {
boolean insertResult = jdbcTemplateService.insert(insertSql3, insertData3, true);
System.out.println(insertResult);
}
Long end = System.currentTimeMillis();
System.out.println("随機key任務消耗時間:" + (end - start));
stopwatch.stop();
String result = stopwatch.prettyPrint();
System.out.println(result);
}
程式寫入結果
user_key_auto寫入結果:
user_random_key寫入結果:
user_uuid表寫入結果:
效率測試結果
在已有資料量為130W的時候:我們再來測試一下插入10w資料,看看會有什麼結果:
可以看出在資料量100W左右的時候,uuid的插入效率墊底,并且在後序增加了130W的資料,uudi的時間又直線下降。時間占用量總體可以打出的效率排名為:auto_key>random_key>uuid,uuid的效率最低,在資料量較大的情況下,效率直線下滑。那麼為什麼會出現這樣的現象呢?帶着疑問,我們來探讨一下這個問題:
使用uuid和自增id的索引結構對比
使用自增id的内部結構
自增的主鍵的值是順序的,是以Innodb把每一條記錄都存儲在一條記錄的後面。當達到頁面的最大填充因子時候(innodb預設的最大填充因子是頁大小的15/16,會留出1/16的空間留作以後的修改):
- 下一條記錄就會寫入新的頁中,一旦資料按照這種順序的方式加載,主鍵頁就會近乎于順序的記錄填滿,提升了頁面的最大填充率,不會有頁的浪費
- 新插入的行一定會在原有的最大資料行下一行,mysql定位和尋址很快,不會為計算新行的位置而做出額外的消耗
- 減少了頁分裂和碎片的産生
使用uuid的索引内部結構
因為uuid相對順序的自增id來說是毫無規律可言的,新行的值不一定要比之前的主鍵的值要大,是以innodb無法做到總是把新行插入到索引的最後,而是需要為新行尋找新的合适的位置進而來配置設定新的空間。這個過程需要做很多額外的操作,資料的毫無順序會導緻資料分布散亂,将會導緻以下的問題:
- 寫入的目标頁很可能已經重新整理到磁盤上并且從緩存上移除,或者還沒有被加載到緩存中,innodb在插入之前不得不先找到并從磁盤讀取目标頁到記憶體中,這将導緻大量的随機IO
- 因為寫入是亂序的,innodb不得不頻繁的做頁分裂操作,以便為新的行配置設定空間,頁分裂導緻移動大量的資料,一次插入最少需要修改三個頁以上
- 由于頻繁的頁分裂,頁會變得稀疏并被不規則的填充,最終會導緻資料會有碎片
在把随機值(uuid和雪花id)載入到聚簇索引(innodb預設的索引類型)以後,有時候會需要做一次OPTIMEIZE TABLE來重建表并優化頁的填充,這将又需要一定的時間消耗。
結論: 使用innodb應該盡可能的按主鍵的自增順序插入,并且盡可能使用單調的增加的聚簇鍵的值來插入新行
使用自增id的缺點
那麼使用自增的id就完全沒有壞處了嗎?并不是,自增id也會存在以下幾點問題:
- 别人一旦爬取你的資料庫,就可以根據資料庫的自增id擷取到你的業務增長資訊,很容易分析出你的經營情況
- 對于高并發的負載,innodb在按主鍵進行插入的時候會造成明顯的鎖争用,主鍵的上界會成為争搶的熱點,因為所有的插入都發生在這裡,并發插入會導緻間隙鎖競争
- Auto_Increment鎖機制會造成自增鎖的搶奪,有一定的性能損失
附: Auto_increment的鎖争搶問題,如果要改善需要調優innodb_autoinc_lock_mode的配置
總結
本篇部落格首先從開篇的提出問題,建表到使用jdbcTemplate去測試不同id的生成政策在大資料量的資料插入表現,然後分析了id的機制不同在mysql的索引結構以及優缺點,深入的解釋了為何uuid和随機不重複id在資料插入中的性能損耗,詳細的解釋了這個問題。在實際的開發中還是根據mysql的官方推薦最好使用自增id,mysql博大精深,内部還有很多值得優化的點需要我們學習。
今天,又被Java8的時間庫惡心到了,有同感的舉手...
Docker從入門到幹活,看這一篇足矣
程式員需知的 58 個網站
騰訊 Code Review 規範出爐!你還敢亂寫代碼??
誰總結的JavaWeb會話技術了?太全面了...
2萬字20個執行個體解析Java8 Stream,帶你玩轉集合四大點!
好文章,我在看