PERCONA PERFORMANCE CONFERENCE 2009上,來自雅虎的幾位工程師帶來了一篇”Efficient Pagination Using MySQL“的報(bào)告,有很多亮點(diǎn),本文是在原文基礎(chǔ)上的進(jìn)一步延伸。 分頁 首先看一下分頁的基本原理: 本文來自leo108's blog mysql explain SELECT * FROM
PERCONA PERFORMANCE CONFERENCE 2009上,來自雅虎的幾位工程師帶來了一篇”Efficient Pagination Using MySQL“的報(bào)告,有很多亮點(diǎn),本文是在原文基礎(chǔ)上的進(jìn)一步延伸。分頁
首先看一下分頁的基本原理:
本文來自leo108's blog
mysql> explain SELECT * FROM message ORDER BY id DESC LIMIT 10000, 20\G
***************** 1. row **************
id: 1
select_type: SIMPLE
table: message
type: index
possible_keys: NULL
key: PRIMARY
key_len: 4
ref: NULL
rows: 10020
Extra:
1 row in set (0.00 sec)
http://leo108.com/pid-1914.asp
limit 10000,20的意思掃描滿足條件的10020行,扔掉前面的10000行,返回最后的20行,問題就在這里,如果是limit 100000,100,需要掃描100100行,在一個(gè)高并發(fā)的應(yīng)用里,每次查詢需要掃描超過10W行,性能肯定大打折扣。文中還提到limit n性能是沒問題的,因?yàn)橹粧呙鑞行。
本文來自http://leo108.com
文中提到一種”clue”的做法,給翻頁提供一些”線索”,比如還是SELECT * FROM message ORDER BY id DESC,按id降序分頁,每頁20條,當(dāng)前是第10頁,當(dāng)前頁條目id最大的是9527,最小的是9500,如果我們只提供”上一頁”、”下一頁”這樣的跳轉(zhuǎn)(不提供到第N頁的跳轉(zhuǎn)),那么在處理”上一頁”的時(shí)候SQL語句可以是:
本文來自http://leo108.com
SELECT * FROM message WHERE id > 9527 ORDER BY id ASC LIMIT 20;
處理”下一頁”的時(shí)候SQL語句可以是:http://leo108.com/pid-1914.asp
SELECT * FROM message WHERE id <p>?</p><p class="Gar360">本文來自leo108's blog </p> <p>不管翻多少頁,每次查詢只掃描20行。</p><p class="Gar360">Mysql</p> <p>缺點(diǎn)是只能提供”上一頁”、”下一頁”的鏈接形式,但是我們的產(chǎn)品經(jīng)理非常喜歡”5?6 7 8 9 下一頁>”這樣的鏈接方式,怎么辦呢?<span class="Gar360">分頁</span> </p> <p>如果LIMIT m,n不可避免的話,要優(yōu)化效率,只有盡可能的讓m小一下,我們擴(kuò)展前面的”clue”做法,還是SELECT * FROM message ORDER BY id DESC,按id降序分頁,每頁20條,當(dāng)前是第10頁,當(dāng)前頁條目id最大的是9527,最小的是9500,比如要跳到第8頁,我看的SQL語句可以這樣寫:</p><p class="Gar360">分頁</p> <pre class="brush:php;toolbar:false">SELECT * FROM message WHERE id > 9527 ORDER BY id ASC LIMIT 20,20;
跳轉(zhuǎn)到第13頁:
本文來自leo108's blog
SELECT * FROM message WHERE id <p>?<span class="Gar360">采集者爛JJ</span> </p> <p>原理還是一樣,記錄住當(dāng)前頁id的最大值和最小值,計(jì)算跳轉(zhuǎn)頁面和當(dāng)前頁相對(duì)偏移,由于頁面相近,這個(gè)偏移量不會(huì)很大,這樣的話m值相對(duì)較小,大大減少掃描的行數(shù)。其實(shí)傳統(tǒng)的limit m,n,相對(duì)的偏移一直是第一頁,這樣的話越翻到后面,效率越差,而上面給出的方法就沒有這樣的問題。</p><p class="Gar360">http://leo108.com/pid-1914.asp</p> <p>注意SQL語句里面的ASC和DESC,如果是ASC取出來的結(jié)果,顯示的時(shí)候記得倒置一下。</p><p class="Gar360">Mysql</p> <p>已在60W數(shù)據(jù)總量的表中測(cè)試,效果非常明顯。<span class="Gar360">分頁</span> </p> <p>轉(zhuǎn)自:http://www.fuchaoqun.com/2009/04/efficient-pagination-using-mysql/</p><p class="Gar360">Mysql</p>

熱AI工具

Undress AI Tool
免費(fèi)脫衣圖片

Undresser.AI Undress
人工智慧驅(qū)動(dòng)的應(yīng)用程序,用於創(chuàng)建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費(fèi)的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

記事本++7.3.1
好用且免費(fèi)的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強(qiáng)大的PHP整合開發(fā)環(huán)境

Dreamweaver CS6
視覺化網(wǎng)頁開發(fā)工具

SublimeText3 Mac版
神級(jí)程式碼編輯軟體(SublimeText3)

熱門話題

mysqldump是用於執(zhí)行MySQL數(shù)據(jù)庫邏輯備份的常用工具,它生成包含CREATE和INSERT語句的SQL文件以重建數(shù)據(jù)庫。 1.它不備份原始文件,而是將數(shù)據(jù)庫結(jié)構(gòu)和內(nèi)容轉(zhuǎn)換為可移植的SQL命令;2.適用於小型數(shù)據(jù)庫或選擇性恢復(fù),不適合TB級(jí)數(shù)據(jù)快速恢復(fù);3.常用選項(xiàng)包括--single-transaction、--databases、--all-databases、--routines等;4.恢復(fù)時(shí)使用mysql命令導(dǎo)入,並可關(guān)閉外鍵檢查以提升速度;5.建議定期測(cè)試備份、使用壓縮、自動(dòng)化調(diào)

處理MySQL中的NULL值需注意:1.設(shè)計(jì)表時(shí)關(guān)鍵字段設(shè)為NOTNULL,可選字段允許NULL;2.查詢判斷必須用ISNULL或ISNOTNULL,不能用=或!=;3.可用IFNULL或COALESCE函數(shù)替換顯示默認(rèn)值;4.插入或更新時(shí)直接使用NULL值需謹(jǐn)慎,注意數(shù)據(jù)源和ORM框架處理方式。 NULL表示未知值,不等於任何值,包括自身,因此查詢、統(tǒng)計(jì)、連接表時(shí)要特別小心,避免漏數(shù)據(jù)或邏輯錯(cuò)誤。合理使用函數(shù)和約束可以有效減少因NULL帶來的干擾。

GROUPBY用於按字段分組數(shù)據(jù)並執(zhí)行聚合操作,HAVING用於過濾分組後的結(jié)果。例如,使用GROUPBYcustomer_id可計(jì)算每個(gè)客戶的總消費(fèi)金額;配合HAVING可篩選出總消費(fèi)超過1000的客戶。 SELECT後的非聚合字段必須出現(xiàn)在GROUPBY中,HAVING可使用別名或原始表達(dá)式進(jìn)行條件篩選。常見技巧包括統(tǒng)計(jì)每組數(shù)量、多字段分組、結(jié)合多個(gè)條件過濾。

MySQL分頁常用LIMIT和OFFSET實(shí)現(xiàn),但大數(shù)據(jù)量下性能較差。 1.LIMIT控制每頁數(shù)量,OFFSET控制起始位置,語法為L(zhǎng)IMITNOFFSETM;2.性能問題源於OFFSET掃描過多記錄並丟棄,導(dǎo)致效率低;3.優(yōu)化建議包括使用游標(biāo)分頁、索引加速、懶加載;4.游標(biāo)分頁通過上一頁最後一條記錄的唯一值定位下一頁起點(diǎn),避免OFFSET,適合“下一頁”操作,不適合隨機(jī)跳轉(zhuǎn)。

MySQL支持事務(wù)處理,使用InnoDB存儲(chǔ)引擎可確保數(shù)據(jù)一致性和完整性。 1.事務(wù)是一組SQL操作,要么全部成功,要么全部失敗回滾;2.ACID屬性包括原子性、一致性、隔離性和持久性;3.手動(dòng)控制事務(wù)的語句為STARTTRANSACTION、COMMIT和ROLLBACK;4.四種隔離級(jí)別包括讀未提交、讀已提交、可重複讀和串行化;5.正確使用事務(wù)需注意避免長(zhǎng)時(shí)間運(yùn)行、關(guān)閉自動(dòng)提交、合理處理鎖及異常。通過這些機(jī)制,MySQL可實(shí)現(xiàn)高可靠與並發(fā)控制。

要查看MySQL數(shù)據(jù)庫和表的大小,可直接查詢information_schema或使用命令行工具。 1.查看整個(gè)數(shù)據(jù)庫大小:執(zhí)行SQL語句SELECTtable_schemaAS'Database',SUM(data_length index_length)/1024/1024AS'Size(MB)'FROMinformation_schema.tablesGROUPBYtable_schema;可獲取所有數(shù)據(jù)庫的總大小,也可加WHERE條件限定具體數(shù)據(jù)庫;2.查看單個(gè)表大小:通過SELECTta

字符集和排序規(guī)則問題常見於跨平臺(tái)遷移或多人開發(fā)時(shí),導(dǎo)致亂碼或查詢不一致。核心解決方法有三:一要檢查並統(tǒng)一數(shù)據(jù)庫、表、字段的字符集為utf8mb4,通過SHOWCREATEDATABASE/TABLE查看,用ALTER語句修改;二要在客戶端連接時(shí)指定utf8mb4字符集,在連接參數(shù)或執(zhí)行SETNAMES中設(shè)置;三要合理選擇排序規(guī)則,推薦使用utf8mb4_unicode_ci以確保比較和排序準(zhǔn)確性,並在建庫建表時(shí)指定或通過ALTER修改。

要設(shè)置MySQL的異步主從復(fù)制,請(qǐng)按以下步驟操作:1.準(zhǔn)備主服務(wù)器,啟用二進(jìn)制日誌並設(shè)置唯一server-id,創(chuàng)建複製用戶並記錄當(dāng)前日誌位置;2.使用mysqldump備份主庫數(shù)據(jù)並導(dǎo)入到從服務(wù)器;3.配置從服務(wù)器的server-id和relay-log,使用CHANGEMASTER命令連接主庫並啟動(dòng)複製線程;4.檢查常見問題,如網(wǎng)絡(luò)、權(quán)限、數(shù)據(jù)一致性及自增沖突,並監(jiān)控複製延遲。按照上述步驟操作可確保配置正確完成。
