資料庫開發設計規範及表結構設計原則

文章目錄

• 一. 命名規範
• 二. 庫表基礎規範
• 三. 字段規範
• 四. 索引規範
• 五. SQL設計
• • ①.正規化表設計原則
  • ②.SQL設計
  • ③.“三少原則”
• 六. 行為規範

一. 命名規範

1.庫名、表名、字段名必須使用小寫字母，并采用下劃線分割

(1)MySQL有配置參數lower_case_table_names=1，即庫表名以小寫存儲，大小寫不敏感。如果是0，則庫表名以實際情況存儲，大小寫敏感；如果是2，以實際情況存儲，但以小寫比較。

(2)如果大小寫混合使用，可能存在abc，Abc，ABC等多個表共存，容易導緻混亂。

(3)字段名顯示區分大小寫，但實際使⽤時不區分，即不可以建立兩個名字一樣但大小寫不一樣的字段。

(4)為了統一規範， 庫名、表名、字段名使用小寫字母。

2.庫名以 d 開頭，表名以 t 開頭，字段名以 f_ 開頭

(1)比如表 t_crm_relation，中間的 crm 代表業務子產品名

(2)視圖以view_開頭，事件以event_開頭，觸發器以trig_開頭，存儲過程以proc_開頭，函數以func_開頭

(3)普通索引以idx_col1_col2命名，唯一索引以uk_col1_col2命名（可去掉f_公共部分）。如 idx_companyid_corpid_contacttime(f_company_id,f_corp_id,f_contact_time)

3.庫名、表名、字段名禁止超過32個字元，需見名知意

庫名、表名、字段名支援最多64個字元，但為了統一規範、易于辨識以及減少傳輸量，禁止超過32個字元

4.臨時庫、表名須以tmp加日期為字尾

如 t_crm_relation_tmp0425。備份表也類似，形如 _bak20160425 。

5.按日期時間分表須符合_YYYY[MM][DD]格式

這也是為将來有可能分表做準備的，比如t_crm_ec_record_201403，但像 t_crm_contact_at201506就打破了這種規範。

不具有時間特性的，直接以 t_tbname_001 這樣的方式命名。

二. 庫表基礎規範

1.使用Innodb存儲引擎

5.5版本開始mysql預設存儲引擎就是InnoDB，5.7版本開始，系統表都放棄MyISAM了。

2.表字元集統一使用UTF8

(1)UTF8字元集存儲漢字占用3個位元組，存儲英文字元占用一個位元組

(2)校對字元集使用預設的 utf8_general_ci

(3)連接配接的用戶端也使用utf8，建立連接配接時指定charset或SET NAMES UTF8;。（對于已經在項目中長期使用latin1的，救不了了）

(4)如果遇到EMOJ等表情符号的存儲需求，可申請使用UTF8MB4字元集

3.所有表都要添加注釋

(1)盡量給字段也添加注釋

(2)類status型需指明主要值的含義，如”0-離線，1-線上”

4.控制單表字段數量

(1)單表字段數上限30左右，再多的話考慮垂直分表，一是冷熱資料分離，二是大字段分離，三是常在一起做條件和傳回列的不分離。

(2)表字段控制少而精，可以提高IO效率，記憶體緩存更多有效資料，進而提高響應速度和并發能力，後續 alter table 也更快。

5.所有表都必須要顯式指定主鍵

(1)主鍵盡量采用自增方式，InnoDB表實際是一棵索引組織表，順序存儲可以提高存取效率，充分利用磁盤空間。還有對一些複雜查詢可能需要自連接配接來優化時需要用到。

(2)需要全局唯一主鍵時，使用外部發号器ticket server（建設中）

(3)如果沒有主鍵或唯一索引，update/delete是通過所有字段來定位操作的行，相當于每行就是一次全表掃描

(4)少數情況可以使用聯合唯一主鍵，需與DBA協商

6.不強制使用外鍵參考

即使2個表的字段有明确的外鍵參考關系，也不使用 FOREIGN KEY ，因為新紀錄會去主鍵表做校驗，影響性能。

7.适度使用存儲過程、視圖，禁止使用觸發器、事件

(1)存儲過程（procedure）雖然可以簡化業務端代碼，在傳統企業寫複雜邏輯時可能會用到，而在網際網路企業變更是很頻繁的，在分庫分表的情況下要更新一個存儲過程相當麻煩。又因為它是不記錄log的，是以也不友善debug性能問題。如果使用過程，一定考慮如果執行失敗的情況。

(2)使用視圖一定程度上也是為了降低代碼裡SQL的複雜度，但有時候為了視圖的通用性會損失性能（比如傳回不必要的字段）。

(3)觸發器（trigger）也是同樣，但也不應該通過它去限制資料的強一緻性，mysql隻支援“基于行的觸發”，也就是說，觸發器始終是針對一條記錄的，而不是針對整個sql語句的，如果變更的資料集非常大的話，效率會很低。掩蓋一條sql背後的工作，一旦出現問題将是災難性的，但又很難快速分析和定位。再者需要ddl時無法使用pt-osc工具。放在transaction執行。

(4)事件（event）也是一種偷懶的表現，目前已經遇到數次由于定時任務執行失敗影響業務的情況，而且mysql無法對它做失敗預警。建立專門的 job scheduler 平台。

a.單表資料量控制在5000w以内

b.資料庫中不允許存儲明文密碼

三. 字段規範

1.char、varchar、text等字元串類型定義

(1)對于長度基本固定的列，如果該列恰好更新又特别頻繁，适合char

(2)varchar雖然存儲變長字元串，但不可太小也不可太大。UTF8最多能存21844個漢字，或65532個英文

(3)varbinary(M)儲存的是二進制字元串，它儲存的是位元組而不是字元，是以沒有字元集的概念，M長度0-255（位元組）。隻用于排序或比較時大小寫敏感的類型，不包括密碼存儲

(4)TEXT類型與VARCHAR都類似，存儲可變長度，最大限制也是2^16，但是它20bytes以後的内容是在資料頁以外的空間存儲（row_format=dynamic），對它的使用需要多一次尋址，沒有預設值。

一般用于存放容量平均都很大、操作沒有其它字段那樣頻繁的值。

網上部分文章說要避免使用text和blob，要知道如果純用varchar可能會導緻行溢出，效果差不多，但因為每行占用位元組數過多，會導緻buffer_pool能緩存的資料行、頁下降。另外text和blob上面一般不會去建索引，而是利用sphinx之類的第三方全文搜尋引擎，如果确實要建立（字首）索引，那就會影響性能。凡事看具體場景。

另外盡可能把text/blob拆到另一個表中

(5)BLOB可以看出varbinary的擴充版本，内容以二進制字元串存儲，無字元集，區分大小寫，有一種經常提但不用的場景：不要在資料庫裡存儲圖檔。

2.int、tinyint、decimal等數字類型定義

(1)使用tinyint來代替 enum和boolean

ENUM類型在需要修改或增加枚舉值時，需要線上DDL，成本較高；ENUM列值如果含有數字類型，可能會引起預設值混淆

tinyint使用1個位元組，一般用于status,type,flag的列

(2)建議使用 UNSIGNED 存儲非負數值

相比不使用 unsigned，可以擴大一倍使用數值範圍

(3)int使用固定4個位元組存儲，int(11)與int(4)隻是顯示寬度的差別

(4)使用Decimal 代替float/double存儲精确浮點數

對于貨币、金額這樣的類型，使用decimal，如 decimal(9,2)。float預設隻能能精确到6位有效數字

3.timestamp與datetime選擇

(1)datetime 和 timestamp類型所占的存儲空間不同，前者8個位元組，後者4個位元組，這樣造成的後果是兩者能表示的時間範圍不同。前者範圍為1000-01-01 00:00:00 ~ 9999-12-31 23:59:59，後者範圍為 1970-01-01 08:00:01 到 2038-01-19 11:14:07 。是以 TIMESTAMP 支援的範圍比 DATATIME 要小。

(2)timestamp可以在insert/update行時，自動更新時間字段（如 f_set_time timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP），但一個表隻能有一個這樣的定義。

(3)timestamp顯示與時區有關，内部總是以 UTC 毫秒 來存的。還受到嚴格模式的限制

(4)優先使用timestamp，datetime也沒問題

(5)where條件裡不要對時間列上使用時間函數

4.建議字段都定義為NOT NULL

(1)如果是索引字段，一定要定義為not null 。因為null值會影響cordinate統計，影響優化器對索引的選擇

(2)如果不能保證insert時一定有值過來，定義時使用default ‘’ ，或 0

5.同一意義的字段定義必須相同

比如不同表中都有 f_user_id 字段，那麼它的類型、字段長度要設計成一樣

四. 索引規範

1.任何新的select,update,delete上線，都要先explain，看索引使用情況

盡量避免extra列出現：Using File Sort，Using Temporary，rows超過1000的要謹慎上線。

explain解讀

(1)type：ALL, index, range, ref, eq_ref, const, system, NULL（從左到右，性能從差到好）

(2)possible_keys：指出MySQL能使用哪個索引在表中找到記錄，查詢涉及到的字段上若存在索引，則該索引将被列出，但不一定被查詢使用

(3)key：表示MySQL實際決定使用的鍵（索引）

如果沒有選擇索引，鍵是NULL。要想強制MySQL使用或忽視possible_keys列中的索引，在查詢中使用FORCE INDEX、USE INDEX或者IGNORE INDEX

(4)ref：表示選擇 key 列上的索引，哪些列或常量被用于查找索引列上的值

(5)rows：根據表統計資訊及索引選用情況，估算的找到所需的記錄所需要讀取的行數

(6)Extra

a.Using temporary：表示MySQL需要使用臨時表來存儲結果集，常見于排序和分組查詢

b.Using filesort：MySQL中無法利用索引完成的排序操作稱為“檔案排序”

1.索引個數限制

(1)索引是雙刃劍，會增加維護負擔，增大IO壓力，索引占用空間是成倍增加的

(2)單張表的索引數量控制在5個以内，或不超過表字段個數的20%。若單張表多個字段在查詢需求上都要單獨用到索引，需要經過DBA評估。

2.避免備援索引

(1.)InnoDB表是一棵索引組織表，主鍵是和資料放在一起的聚集索引，普通索引最終指向的是主鍵位址，是以把主鍵做最後一列是多餘的。如f_crm_id作為主鍵，聯合索引(f_user_id,f_crm_id)上的f_crm_id就完全多餘

(2)(a,b,c)、(a,b)，後者為備援索引。可以利用字首索引來達到加速目的，減輕維護負擔

3.沒有特殊要求，使用自增id作為主鍵

(1.)主鍵是一種聚集索引，順序寫入。組合唯一索引作為主鍵的話，是随機寫入，适合寫少讀多的表

(2)主鍵不允許更新

4.索引盡量建在選擇性高的列上

(1)不在低基數列上建立索引，例如性别、類型。但有一種情況，idx_feedbackid_type (f_feedback_id,f_type)，如果經常用 f_type=1 比較，而且能過濾掉90%行，那這個組合索引就值得建立。有時候同樣的查詢語句，由于條件取值不同導緻使用不同的索引，也是這個道理。

(2)索引選擇性計算方法（基數 ÷ 資料行數）

Selectivity = Cardinality / Total Rows = select count(distinct col1)/count(*) from tbname，越接近1說明col1上使用索引的過濾效果越好

(3)走索引掃描行數超過30%時，改全表掃描

5.最左字首原則

(1)mysql使用聯合索引時，從左向右比對，遇到斷開或者範圍查詢時，無法用到後續的索引列

比如索引idx_c1_c2_c3 (c1,c2,c3)，相當于建立了(c1)、(c1,c2)、(c1,c2,c3)三個索引，where條件包含上面三種情況的字段比較則可以用到索引，但像 where c1=a and c3=c 隻能用到c1列的索引，像 c2=b and c3=c等情況就完全用不到這個索引

(2)遇到範圍查詢(>、<、between、like)也會停止索引比對，比如 c1=a and c2 > 2 and c3=c，隻有c1,c2列上的比較能用到索引，(c1,c2,c3)排列的索引才可能會都用上

(3)where條件裡面字段的順序與索引順序無關，mysql優化器會自動調整順序

6.字首索引

(1)對超過30個字元長度的列建立索引時，考慮使用字首索引，如 idx_cs_guid2 (f_cs_guid(26))表示截取前26個字元做索引，既可以提高查找效率，也可以節省空間

(2)字首索引也有它的缺點是，如果在該列上 ORDER BY 或 GROUP BY 時無法使用索引，也不能把它們用作覆寫索引(Covering Index)

(3)如果在varbinary或blob這種以二進制存儲的列上建立字首索引，要考慮字元集，括号裡表示的是位元組數

7.合理使用覆寫索引減少IO

INNODB存儲引擎中，secondary index(非主鍵索引，又稱為輔助索引、二級索引)沒有直接存儲行位址，而是存儲主鍵值。

如果使用者需要查詢secondary index中所不包含的資料列，則需要先通過secondary index查找到主鍵值，然後再通過主鍵查詢到其他資料列，是以需要查詢兩次。覆寫索引則可以在一個索引中擷取所有需要的資料列，進而避免回表進行二次查找，節省IO是以效率較高。

例如SELECT email，uid FROM user_email WHERE uid=xx，如果uid不是主鍵，适當時候可以将索引添加為index(uid，email)，以獲得性能提升。

8.盡量不要在頻繁更新的列上建立索引

如不在定義了 ON UPDATE CURRENT_STAMP 的列上建立索引，維護成本太高（好在mysql有insert buffer，會合并索引的插入）

五. SQL設計

①.正規化表設計原則

零狀态形式：所需要的所有字段組成的表，未經過任何處理。

第一級正規化形式處理原則：1.消除每個表格中重複的組2.為每套相關的資料建立一個獨立的表格3.使用一個主鍵來辨別每套相關的資料。

第二級正規化形式處理原則：1.為應用在多條記錄的字段建立獨立的表格；2.通過一個foreign key來關聯這些表格的值。

第三級正規化形式處理原則：1.消除不依賴于該鍵的字段。

第四個正規化形式處理原則：1.在一個多對多的關系中，獨立的實體不能存放在同一個表格中。由于它僅應用于多對多的關系，是以大多數的開發者可以忽略這條規定。不過在某些情況下，它是非常實用的。

第五級正規化形式處理原則：1.原來的表格必須可以通過由它分離出去的表格重新建構，使用這個規定的好處是，你可以確定不會在分離的表格中引入多餘的列，所有你建立的表格結構都與它們的實際需要一樣大。應用這條規定是一個好習慣，不過除非你要處理一個非常大型的資料，否則你将不需要用到它。

②.SQL設計

1.杜絕直接 SELECT * 讀取全部字段

即使需要所有字段，減少網絡帶寬消耗，能有效利用覆寫索引，表結構變更對程式基本無影響

2.能确定傳回結果隻有一條時，使用 limit 1

在保證資料不會有誤的前提下，能确定結果集數量時，多使用limit，盡快的傳回結果。

3.小心隐式類型轉換

(1)轉換規則

a. 兩個參數至少有一個是 NULL 時，比較的結果也是 NULL，例外是使用 <=> 對兩個 NULL 做比較時會傳回 1，這兩種情況都不需要做類型轉換

b. 兩個參數都是字元串，會按照字元串來比較，不做類型轉換

c. 兩個參數都是整數，按照整數來比較，不做類型轉換

d. 十六進制的值和非數字做比較時，會被當做二進制串

e. 有一個參數是 TIMESTAMP 或 DATETIME，并且另外一個參數是常量，常量會被轉換為 timestamp

f. 有一個參數是 decimal 類型，如果另外一個參數是 decimal 或者整數，會将整數轉換為 decimal 後進行比較，如果另外一個參數是浮點數，則會把 decimal 轉換為浮點數進行比較

g. 所有其他情況下，兩個參數都會被轉換為浮點數再進行比較。

(2)如果一個索引建立在string類型上，如果這個字段和一個int類型的值比較，符合第 g 條。如f_phone定義的類型是varchar，但where使用f_phone in (098890)，兩個參數都會被當成成浮點型。發生這個隐式轉換并不是最糟的，最糟的是string轉換後的float，mysql無法使用索引，這才導緻了性能問題。如果是 f_user_id = ‘1234567’ 的情況，符合第 b 條,直接把數字當字元串比較。

4.禁止在where條件列上使用函數

(1)會導緻索引失效，如lower(email)，f_qq % 4。可放到右邊的常量上計算

(2)傳回小結果集不是很大的情況下，可以對傳回列使用函數，簡化程式開發

5.使用like模糊比對，%不要放首位

會導緻索引失效，有這種搜尋需求是，考慮其它方案，如sphinx全文搜尋

6.涉及到複雜sql時，務必先參考已有索引設計，先explain

(1)簡單SQL拆分，不以代碼處理複雜為由。

(2)比如 OR 條件： f_phone=‘10000’ or f_mobile=‘10000’，兩個字段各自有索引，但隻能用到其中一個。可以拆分成2個sql，或者union all。

(3)先explain的好處是可以為了利用索引，增加更多查詢限制條件

7.使用join時，where條件盡量使用充分利用同一表上的索引

(1)如 select t1.a,t2.b * from t1,t2 and t1.a=t2.a and t1.b=123 and t2.c= 4 ，如果t1.c與t2.c字段相同，那麼t1上的索引(b,c)就隻用到b了。此時如果把where條件中的t2.c=4改成t1.c=4，那麼可以用到完整的索引

(2)這種情況可能會在字段備援設計（反範式）時出現

(3)正确選取inner join和left join

8.少用子查詢，改用join

小于5.6版本時，子查詢效率很低，不像Oracle那樣先計算子查詢後外層查詢。5.6版本開始得到優化

9.考慮使用union all，少使用union，注意考慮去重

(1)union all不去重，而少了排序操作，速度相對比union要快，如果沒有去重的需求，優先使用union all

(2)如果UNION結果中有使用limit，在2個子SQL可能有許多傳回值的情況下，各自加上limit。如果還有order by，請找DBA。

10.IN的内容盡量不超過200個

超過500個值使用批量的方式，否則一次執行會影響資料庫的并發能力，因為單SQL隻能且一直占用單CPU，而且可能導緻主從複制延遲

11.拒絕大事務

比如在一個事務裡進行多個select，多個update，如果是高頻事務，會嚴重影響MySQL并發能力，因為事務持有的鎖等資源隻在事務rollback/commit時才能釋放。但同時也要權衡資料寫入的一緻性。

12.避免使用is null, is not null這樣的比較

13.order by … limit

這種查詢更多的是通過索引去優化，但order by的字段有講究，比如主鍵id與f_time都是順序遞增，那就可以考慮order by id而非 f_time 。

14.c1 < a order by c2

與上面不同的是，order by之前有個範圍查詢，由前面的内容可知，用不到類似(c1,c2)的索引，但是可以利用(c2,c1)索引。另外還可以改寫成join的方式實作。

15.分頁優化

建議使用合理的分頁方式以提高分頁效率，大頁情況下不使用跳躍式分頁

假如有類似下面分頁語句:

SELECT FROM table1 ORDER BY ftime DESC LIMIT 10000,10;

這種分頁方式會導緻大量的io，因為MySQL使用的是提前讀取政策。

推薦分頁方式：

SELECT FROM table1 WHERE ftime < last_time ORDER BY ftime DESC LIMIT 10

即傳入上一次分頁的界值

SELECT * FROM table as t1 inner JOIN (SELECT id FROM table ORDER BY time LIMIT 10000，10) as t2 ON t1.id=t2.id

16.count計數

(1)首先count()、count(1)、count(col1)是有差別的，count()表示整個結果集有多少條記錄，count(1)表示結果集裡以primary key統計數量，絕大多數情況下count()與count(1)效果一樣的，但count(col1)表示的是結果集裡 col1 列 NOT null 的記錄數。優先采用count()

(2)大資料量count是消耗資源的操作，甚至會拖慢整個庫，查詢性能問題無法解決的，應從産品設計上進行重構。例如當頻繁需要count的查詢，考慮使用彙總表

(3)遇到distinct的情況，group by方式可能效率更高。

17.delete,update語句改成select再explain

select最多導緻資料庫慢，寫操作才是鎖表的罪魁禍首

18.減少與資料庫互動的次數，盡量采用批量SQL語句

(1)INSERT … ON DUPLICATE KEY UPDATE …，插入行後會導緻在一個UNIQUE索引或PRIMARY KEY中出現重複值，則執行舊行UPDATE，如果不重複則直接插入，影響1行。

(2)REPLACE INTO類似，但它是沖突時删除舊行。INSERT IGNORE相反，保留舊行，丢棄要插入的新行。

(3)INSERT INTO VALUES(),(),()，合并插入。

19.杜絕危險SQL

(1)去掉where 1=1 這樣無意義或恒真的條件，如果遇到update/delete或遭到sql注入就恐怖了

(2)SQL中不允許出現DDL語句。一般也不給予create/alter這類權限，但阿裡雲RDS隻區分讀寫使用者

③.“三少原則”

防止資料庫設計打更新檔的方法是“三少原則”

　　(1)一個資料庫中表的個數越少越好。隻有表的個數少了，才能說明系統的E–R圖少而精，去掉了重複的多餘的實體，形成了對客觀世界的高度抽象，進行了系統的資料內建，防止了打更新檔式的設計；

(2)一個表中組合主鍵的字段個數越少越好。因為主鍵的作用，一是建主鍵索引，二是做為子表的外鍵，是以組合主鍵的字段個數少了，不僅節省了運作時間，而且節省了索引存儲空間；

(3)一個表中的字段個數越少越好。隻有字段的個數少了，才能說明在系統中不存在資料重複，且很少有資料備援，更重要的是督促讀者學會“列變行”，這樣就防止了将子表中的字段拉入到主表中去，在主表中留下許多空餘的字段。所謂“列變行”，就是将主表中的一部分内容拉出去，另外單獨建一個子表。這個方法很簡單，有的人就是不習慣、不采納、不執行。

資料庫設計的實用原則是：在資料備援和處理速度之間找到合适的平衡點。“三少”是一個整體概念，綜合觀點，不能孤立某一個原則。該原則是相對的，不是絕對的。“三多”原則肯定是錯誤的。試想：若覆寫系統同樣的功能，一百個實體(共一千個屬性)的E–R圖，肯定比二百個實體(共二千個屬性)的E–R圖，要好得多。

六. 行為規範

(1)不允許在DBA不知情的情況下導現網資料

(2)大批量更新，如修複資料，避開高峰期，并通知DBA。直接執行sql的由運維或DBA同僚操作

(3)及時處理已下線業務的SQL

(4)複雜sql上線稽核，因為目前還沒有SQL審查機制，複雜sql如多表join,count,group by，主動上報DBA評估。

(5)重要項目的資料庫方案選型和設計必須提前通知DBA參與