面試官:“小陳,說一下你常用的SQL優化方式吧。” 陳小哈:“那很多啊,比如不要用SELECT *,查詢效率低。巴拉巴拉...” 面試官:“為什麼不要用SELECT * ?它在哪些情況下效率低呢?” 陳小哈:“SELECT * 它好像比寫指定列名多一次全表查詢吧,還多查了一些無用的字段。” 面試官:“嗯...” 陳小哈:“emmm~ 沒了” 陳小哈:“....??(幾個意思)” 面試官:“嗯...好,那你還有什麼要問我的麼?” 陳小哈:“我問你個錘子,把老子履歷還我!”
無論在工作還是面試中,關于SQL中不要用“SELECT *”,都是大家聽爛了的問題,雖說聽爛了,但普遍了解還是在很淺的層面,并沒有多少人去追根究底,探究其原理。
廢話不多說,本文帶你深入了解一下"SELECT * "效率低的原因及場景。
本文很幹!請自備茶水,沒時間看記得先收藏 -- 來自一位被技術經理毒打多年的程式員的忠告
先看一下最新《阿裡Java開發手冊(泰山版)》中 MySQL 部分描述:
4 - 1. 【強制】在表查詢中,一律不要使用 * 作為查詢的字段清單,需要哪些字段必須明确寫明。
說明:
增加查詢分析器解析成本。
增減字段容易與 resultMap 配置不一緻。
無用字段增加網絡 消耗,尤其是 text 類型的字段。
開發手冊中比較概括的提到了幾點原因,讓我們深入一些看看:
1. 不需要的列會增加資料傳輸時間和網絡開銷
用“SELECT * ”資料庫需要解析更多的對象、字段、權限、屬性等相關内容,在 SQL 語句複雜,硬解析較多的情況下,會對資料庫造成沉重的負擔。
增大網絡開銷;* 有時會誤帶上如log、IconMD5之類的無用且大文本字段,資料傳輸size會幾何增漲。如果DB和應用程式不在同一台機器,這種開銷非常明顯
即使 mysql 伺服器和用戶端是在同一台機器上,使用的協定還是 tcp,通信也是需要額外的時間。
2. 對于無用的大字段,如 varchar、blob、text,會增加 io 操作
準确來說,長度超過 728 位元組的時候,會先把超出的資料序列化到另外一個地方,是以讀取這條記錄會增加一次 io 操作。(MySQL InnoDB)
3. 失去MySQL優化器“覆寫索引”政策優化的可能性
SELECT * 杜絕了覆寫索引的可能性,而基于MySQL優化器的“覆寫索引”政策又是速度極快,效率極高,業界極為推薦的查詢優化方式。
例如,有一個表為t(a,b,c,d,e,f),其中,a為主鍵,b列有索引。
那麼,在磁盤上有兩棵 B+ 樹,即聚集索引和輔助索引(包括單列索引、聯合索引),分别儲存(a,b,c,d,e,f)和(a,b),如果查詢條件中where條件可以通過b列的索引過濾掉一部分記錄,查詢就會先走輔助索引,如果使用者隻需要a列和b列的資料,直接通過輔助索引就可以知道使用者查詢的資料。
如果使用者使用select *,擷取了不需要的資料,則首先通過輔助索引過濾資料,然後再通過聚集索引擷取所有的列,這就多了一次b+樹查詢,速度必然會慢很多。
由于輔助索引的資料比聚集索引少很多,很多情況下,通過輔助索引進行覆寫索引(通過索引就能擷取使用者需要的所有列),都不需要讀磁盤,直接從記憶體取,而聚集索引很可能資料在磁盤(外存)中(取決于buffer pool的大小和命中率),這種情況下,一個是記憶體讀,一個是磁盤讀,速度差異就很顯著了,幾乎是數量級的差異。
上面提到了輔助索引,在MySQL中輔助索引包括單列索引、聯合索引(多列聯合),單列索引就不再贅述了,這裡提一下聯合索引的作用
聯合索引 (a,b,c)
聯合索引 (a,b,c) 實際建立了 (a)、(a,b)、(a,b,c) 三個索引
我們可以将組合索引想成書的一級目錄、二級目錄、三級目錄,如index(a,b,c),相當于a是一級目錄,b是一級目錄下的二級目錄,c是二級目錄下的三級目錄。要使用某一目錄,必須先使用其上級目錄,一級目錄除外。
如下:
聯合索引的優勢
1) 減少開銷
建一個聯合索引 (a,b,c) ,實際相當于建了 (a)、(a,b)、(a,b,c) 三個索引。每多一個索引,都會增加寫操作的開銷和磁盤空間的開銷。對于大量資料的表,使用聯合索引會大大的減少開銷!
2)覆寫索引
對聯合索引 (a,b,c),如果有如下 sql 的,
那麼 MySQL 可以直接通過周遊索引取得資料,而無需回表,這減少了很多的随機 io 操作。減少 io 操作,特别是随機 io 其實是 DBA 主要的優化政策。是以,在真正的實際應用中,覆寫索引是主要的提升性能的優化手段之一。
3)效率高
索引列多,通過聯合索引篩選出的資料越少。比如有 1000W 條資料的表,有如下SQL:
假設:假設每個條件可以篩選出 10% 的資料。
A. 如果隻有單列索引,那麼通過該索引能篩選出 1000W10%=100w 條資料,然後再回表從 100w 條資料中找到符合 col2=2 and col3= 3 的資料,然後再排序,再分頁,以此類推(遞歸);
B. 如果是(col1,col2,col3)聯合索引,通過三列索引篩選出 1000w10% 10% *10%=1w,效率提升可想而知!
索引是建的越多越好嗎
答案自然是否定的
資料量小的表不需要建立索引,建立會增加額外的索引開銷
不經常引用的列不要建立索引,因為不常用,即使建立了索引也沒有多大意義
經常頻繁更新的列不要建立索引,因為肯定會影響插入或更新的效率
資料重複且分布平均的字段,是以他建立索引就沒有太大的效果(例如性别字段,隻有男女,不适合建立索引)
資料變更需要維護索引,意味着索引越多元護成本越高。
更多的索引也需要更多的存儲空間
相信能看到這裡這老鐵要麼是對MySQL有着一腔熱血的,要麼就是喜歡滾滑鼠的。來了就是緣分,如果從本文學到了東西,請不要吝啬手中的贊哦,拒絕白嫖~
有朋友問我,你對SQL規範那麼上心,平時你寫代碼不會用SELECT * 吧?
咋可能啊,天天用。。代碼裡也在用(一臉羞愧),其實我們的項目普遍很小,資料量也上不去,性能上還沒有遇到瓶頸,是以比較放縱。
寫本篇文章主要是這個知識點網上總結的很少很散,也不規範,算是給自己也是給大家總結一份比較詳細的,值得記一下的。以後給面試官說完讓他沒法找你茬
順便吹波牛B,謝謝各位。
作者:_陳哈哈 連結:https://blog.csdn.net/qq_39390545/article/details/106766965 來源:CSDN