無(wú)線網(wǎng)絡(luò)優(yōu)化平臺(tái)數(shù)據(jù)庫(kù)性能優(yōu)化設(shè)計(jì)思路

王志海

（中通服網(wǎng)優(yōu)技術(shù)有限公司，上海 200050）

1 引言

隨著移動(dòng)互聯(lián)網(wǎng)的迅速發(fā)展，運(yùn)營(yíng)商成為一個(gè)海量信息的制造者和處理者，信息的爆炸式增長(zhǎng)速度已遠(yuǎn)遠(yuǎn)超過(guò)比摩爾定律。由于IT環(huán)境日趨復(fù)雜，數(shù)據(jù)量暴增，給電信運(yùn)營(yíng)支撐系統(tǒng)帶來(lái)了巨大的壓力，傳統(tǒng)的IT系統(tǒng)出現(xiàn)不同程度的性能問(wèn)題亟待解決。

無(wú)線網(wǎng)絡(luò)優(yōu)化平臺(tái)是運(yùn)營(yíng)商重要的IT支撐系統(tǒng)，需要抽取各廠商設(shè)備的性能、參數(shù)、告警、話單等各類數(shù)據(jù)源，3G的快速發(fā)展使得用戶上網(wǎng)記錄數(shù)據(jù)快速增長(zhǎng)，逐月呈現(xiàn)指數(shù)級(jí)增長(zhǎng)速度，給數(shù)據(jù)平臺(tái)帶來(lái)了巨大的壓力，數(shù)據(jù)加載、數(shù)據(jù)處理和數(shù)據(jù)查詢出現(xiàn)不同程度的性能下降，網(wǎng)絡(luò)優(yōu)化平臺(tái)運(yùn)維工作面臨巨大壓力和嚴(yán)峻挑戰(zhàn)。如何解決性能下降，保證系統(tǒng)平穩(wěn)運(yùn)行成為平臺(tái)運(yùn)維支撐的首要任務(wù)。

2 性能概述

不同系統(tǒng)會(huì)有不同的資源需求，當(dāng)資源需求不能滿足時(shí)，便會(huì)產(chǎn)生不同性能瓶頸。系統(tǒng)資源中的CPU、內(nèi)存、磁盤和網(wǎng)絡(luò)都有可能成為性能瓶頸。要確定一個(gè)系統(tǒng)的性能瓶頸，可以通過(guò)逐項(xiàng)排查進(jìn)行問(wèn)題診斷，在此基礎(chǔ)上進(jìn)行問(wèn)題分析和定位。

通常系統(tǒng)資源在達(dá)到一定利用率時(shí)便會(huì)對(duì)系統(tǒng)性能產(chǎn)生嚴(yán)重影響，不同的系統(tǒng)和硬件可能會(huì)對(duì)資源利用率的定義有所不同。CPU僅僅只能決定運(yùn)算速度，即使是運(yùn)算速度都還取決于與內(nèi)存之間的總線帶寬以及內(nèi)存本身的速度；內(nèi)存大小決定了所能緩存的數(shù)據(jù)量，主要決定了熱點(diǎn)數(shù)據(jù)的訪問(wèn)速度；磁盤的轉(zhuǎn)速?zèng)Q定了每次I/O請(qǐng)求的延時(shí)時(shí)間。硬件資源所能提供的處理能力一定是它們多方面共同決定的整體能力，任何一個(gè)方面出現(xiàn)瓶頸，都能導(dǎo)致整體性能出現(xiàn)下降。

3 問(wèn)題分析

系統(tǒng)資源中，CPU負(fù)責(zé)所有計(jì)算任務(wù)，是最重要的一個(gè)子系統(tǒng)，基于摩爾定律，CPU是發(fā)展最快的一個(gè)硬件，所以瓶頸很少出現(xiàn)在CPU上。對(duì)于無(wú)線網(wǎng)絡(luò)優(yōu)化平臺(tái)，線上環(huán)境通常是配置較好的小型機(jī)做RAC，CPU資源充裕，通過(guò)診斷觀察顯示CPU的利用率持續(xù)保持在20%以下，利用率很低，CPU出現(xiàn)性能瓶頸的情況基本排除。通過(guò)對(duì)內(nèi)存的檢查發(fā)現(xiàn)，物理可用內(nèi)存free持續(xù)維持在大于20%的范圍內(nèi)，數(shù)據(jù)庫(kù)實(shí)例的內(nèi)存利用率也在80%以下，故內(nèi)存出現(xiàn)性能瓶頸的情況也可以排除。一般來(lái)說(shuō)，應(yīng)用與數(shù)據(jù)庫(kù)之間的網(wǎng)絡(luò)交互所需的資源并不是非常大，所以這個(gè)環(huán)境遇到瓶頸的可能也并不是非常大。平臺(tái)運(yùn)行在運(yùn)營(yíng)商內(nèi)部局域網(wǎng)通常采用千兆帶寬，通過(guò)對(duì)線上網(wǎng)絡(luò)環(huán)境的檢查也排除網(wǎng)絡(luò)資源瓶頸的可能。

對(duì)于數(shù)據(jù)庫(kù)系統(tǒng)，如果數(shù)據(jù)保存在磁盤中，磁盤性能對(duì)于系統(tǒng)性能就非常重要；如果要對(duì)流數(shù)據(jù)進(jìn)行壓縮和解壓縮，CPU的速度和內(nèi)存容量也非常重要。由于無(wú)線網(wǎng)絡(luò)優(yōu)化平臺(tái)數(shù)據(jù)庫(kù)要傳輸和讀取大量的數(shù)據(jù)，因此磁盤比CPU、內(nèi)存等更加重要。

無(wú)線網(wǎng)絡(luò)優(yōu)化平臺(tái)采用單I/O節(jié)點(diǎn)服務(wù)多個(gè)計(jì)算節(jié)點(diǎn)的模式。數(shù)據(jù)都存儲(chǔ)在I/O節(jié)點(diǎn)上，系統(tǒng)發(fā)起一個(gè)計(jì)算任務(wù)時(shí)，首先將計(jì)算任務(wù)分配給多個(gè)計(jì)算節(jié)點(diǎn)，而每個(gè)計(jì)算節(jié)點(diǎn)又要訪問(wèn)同一個(gè)I/O節(jié)點(diǎn)以獲取請(qǐng)求的數(shù)據(jù)。這樣I/O節(jié)點(diǎn)的負(fù)載在整個(gè)數(shù)據(jù)請(qǐng)求和返回過(guò)程中都非常大，要處理所有計(jì)算節(jié)點(diǎn)發(fā)來(lái)的請(qǐng)求，而計(jì)算節(jié)點(diǎn)只需要等待I/O的返回結(jié)果，處理自身分配的計(jì)算任務(wù)，負(fù)載非常小。當(dāng)請(qǐng)求的數(shù)據(jù)量以及查詢數(shù)據(jù)量越大時(shí)，I/O的負(fù)載和處理壓力就越大。當(dāng)需要處理的數(shù)據(jù)急劇增長(zhǎng)時(shí)，I/O效率就會(huì)嚴(yán)重下降，出現(xiàn)瓶頸。因此，改進(jìn)I/O效率成為問(wèn)題解決的關(guān)鍵所在。

4 優(yōu)化設(shè)計(jì)

運(yùn)營(yíng)商IT支撐系統(tǒng)性能問(wèn)題的解決思路通常有：一是優(yōu)化系統(tǒng)、深化設(shè)計(jì)，通過(guò)技術(shù)設(shè)計(jì)解決或緩解當(dāng)前性能問(wèn)題；二是技術(shù)架構(gòu)的重構(gòu)，引入新技術(shù)和新產(chǎn)品來(lái)解決性能問(wèn)題。技術(shù)架構(gòu)的重構(gòu)的一個(gè)有效途徑是引入大數(shù)據(jù)產(chǎn)品，需重點(diǎn)考慮現(xiàn)有數(shù)據(jù)架構(gòu)與大數(shù)據(jù)產(chǎn)品的融合和互補(bǔ)，形成有效應(yīng)用模式，這通常需要投入大量人力物力，對(duì)現(xiàn)網(wǎng)環(huán)境的影響也較大，要達(dá)到成熟應(yīng)用的目標(biāo)通常需要較長(zhǎng)周期的過(guò)渡。在現(xiàn)有資源和技術(shù)架構(gòu)條件下，既要保證對(duì)現(xiàn)網(wǎng)環(huán)境的影響減到最小，又要在短時(shí)間內(nèi)解決性能問(wèn)題，通常現(xiàn)實(shí)可行的思路就是進(jìn)行系統(tǒng)優(yōu)化、深入設(shè)計(jì)，保證現(xiàn)網(wǎng)系統(tǒng)正常運(yùn)行。在現(xiàn)網(wǎng)系統(tǒng)正常運(yùn)行的前提下，再根據(jù)問(wèn)題診斷的結(jié)果預(yù)測(cè)數(shù)據(jù)增長(zhǎng)可能帶來(lái)的后續(xù)問(wèn)題，以及是否需要進(jìn)行技術(shù)架構(gòu)的重構(gòu)和升級(jí)。結(jié)合無(wú)線網(wǎng)絡(luò)優(yōu)化平臺(tái)線上實(shí)際情況，本文主要介紹以下方面的優(yōu)化設(shè)計(jì)思路：

4.1 時(shí)間價(jià)值分級(jí)

從應(yīng)用訪問(wèn)方式上，有些數(shù)據(jù)需要頻繁進(jìn)行查詢，而有些數(shù)據(jù)需要進(jìn)行頻繁修改。如果數(shù)據(jù)查詢頻繁但是幾乎不進(jìn)行修改，在數(shù)據(jù)庫(kù)設(shè)計(jì)時(shí)可以考慮應(yīng)用訪問(wèn)的內(nèi)容，考慮進(jìn)行一些物理的不規(guī)范化處理，使得盡量通過(guò)簡(jiǎn)單的查詢就可以得到結(jié)果；而對(duì)于需要頻繁修改的數(shù)據(jù)，在進(jìn)行設(shè)計(jì)時(shí)就需要按著范式的要求進(jìn)行設(shè)計(jì)。無(wú)線網(wǎng)絡(luò)平臺(tái)是一個(gè)數(shù)據(jù)倉(cāng)庫(kù)系統(tǒng)，多數(shù)的數(shù)據(jù)屬于一次寫入頻繁訪問(wèn)，所以在物理不規(guī)范化設(shè)計(jì)上需要多考慮應(yīng)用系統(tǒng)的需要。

時(shí)間作為一個(gè)信息維度，是很多日志類的數(shù)據(jù)查詢和統(tǒng)計(jì)的關(guān)鍵條件，通過(guò)對(duì)應(yīng)用請(qǐng)求的統(tǒng)計(jì)，約95%的請(qǐng)求訪問(wèn)近7天的數(shù)據(jù)，其中80%的請(qǐng)求訪問(wèn)近24小時(shí)的數(shù)據(jù)，因此在數(shù)據(jù)存儲(chǔ)和數(shù)據(jù)模型設(shè)計(jì)時(shí)可以考慮在物理上將近期數(shù)據(jù)單獨(dú)存放在高性能的存儲(chǔ)設(shè)備上，甚至可根據(jù)實(shí)際應(yīng)用將近期實(shí)時(shí)數(shù)據(jù)存儲(chǔ)在內(nèi)存中，如圖1所示。這樣可以大大提高應(yīng)用訪問(wèn)的效率和速度，減少查詢和統(tǒng)計(jì)對(duì)數(shù)據(jù)庫(kù)的負(fù)載。

圖1 數(shù)據(jù)的時(shí)間價(jià)值分級(jí)示意圖

4.2 精準(zhǔn)索引設(shè)計(jì)

有效地使用索引是數(shù)據(jù)庫(kù)應(yīng)用系統(tǒng)取得高性能的基礎(chǔ)。同時(shí)，索引的建立需要占用額外的存儲(chǔ)空間，并且在增、刪、改操作中也會(huì)增加一定的工作量。因此，增加適當(dāng)?shù)乃饕h除不適當(dāng)?shù)乃饕?，將有助于?yōu)化數(shù)據(jù)庫(kù)性能。合理的索引設(shè)計(jì)是建立在對(duì)各種查詢的分析和預(yù)測(cè)的基礎(chǔ)上，只有精準(zhǔn)索引設(shè)計(jì)，使索引與程序有效地結(jié)合起來(lái)，才能產(chǎn)生最佳的索引優(yōu)化方案。

索引能大大加快數(shù)據(jù)庫(kù)的查詢速度，快速定位數(shù)據(jù)的物理地址。但是，對(duì)于大型表建索引卻不一定能取得預(yù)期的優(yōu)化效果，有時(shí)反而會(huì)降低數(shù)據(jù)庫(kù)的整體性能。由于大型表存儲(chǔ)數(shù)據(jù)量較大，對(duì)其建立索引，其索引數(shù)據(jù)會(huì)優(yōu)化使用系統(tǒng)的數(shù)據(jù)塊緩存，導(dǎo)致系統(tǒng)不得不頻繁地訪問(wèn)磁盤來(lái)獲取請(qǐng)求數(shù)據(jù)，從而導(dǎo)致數(shù)據(jù)庫(kù)整體性能下降。在這種情況下，可以考慮根據(jù)應(yīng)用數(shù)據(jù)特點(diǎn)進(jìn)行分區(qū)及建立分區(qū)索引。所以，對(duì)大型表有時(shí)不建索引反而更好，即使創(chuàng)建索引也應(yīng)盡量保證索引盡可能地符合應(yīng)用訪問(wèn)的需求以及數(shù)據(jù)的特點(diǎn)，在建立索引時(shí)不能簡(jiǎn)單地認(rèn)為創(chuàng)建索引就可以提高查詢性能。索引必須指定一個(gè)適合所需的訪問(wèn)路徑，這就要求在進(jìn)行索引設(shè)計(jì)時(shí)應(yīng)避免簡(jiǎn)單設(shè)計(jì)，一定要結(jié)合應(yīng)用和數(shù)據(jù)的特點(diǎn)進(jìn)行精準(zhǔn)設(shè)計(jì)。

4.3 混合分區(qū)設(shè)計(jì)

分區(qū)技術(shù)提供了一種在物理上將大數(shù)據(jù)庫(kù)對(duì)象分解為多個(gè)小的、易管理的實(shí)體的機(jī)制，其使得那些令人畏縮、難以實(shí)施的海量數(shù)據(jù)操作變得簡(jiǎn)單、易于管理和控制。分區(qū)將大的數(shù)據(jù)表或者索引分割為獨(dú)立管理和并行處理的小對(duì)象，使得大型數(shù)據(jù)庫(kù)的整體性能得以優(yōu)化。

分區(qū)在物理上將數(shù)據(jù)分開存儲(chǔ)，對(duì)一個(gè)表建立分區(qū)，當(dāng)查詢這個(gè)分區(qū)表時(shí)，系統(tǒng)根據(jù)查詢條件只需要在對(duì)應(yīng)的表分區(qū)中進(jìn)行掃描，避開全表掃描，從而大大縮短掃描的時(shí)間。同時(shí)，分區(qū)分散在不同的磁盤上，當(dāng)多個(gè)分區(qū)并行工作時(shí)也就大大減少了I/O的負(fù)載，此時(shí)分區(qū)將多個(gè)數(shù)據(jù)傳輸請(qǐng)求對(duì)磁盤I/O訪問(wèn)分散開來(lái)，如圖2所示。實(shí)際應(yīng)用中，數(shù)據(jù)訪問(wèn)經(jīng)常會(huì)涉及到多個(gè)維度的組合，此時(shí)可以根據(jù)實(shí)際業(yè)務(wù)查詢場(chǎng)景來(lái)設(shè)計(jì)混合分區(qū)模式，對(duì)于維度多、查詢條件復(fù)雜、查詢場(chǎng)景多的業(yè)務(wù)表的訪問(wèn)性能會(huì)有顯著的性能提升。網(wǎng)優(yōu)平臺(tái)中對(duì)于像無(wú)線上網(wǎng)記錄這樣的大型表，可以考慮根據(jù)頻繁訪問(wèn)的時(shí)間和網(wǎng)元維度建立混合分區(qū)，這樣可以根據(jù)應(yīng)用將數(shù)據(jù)分散到不同的磁盤I/O，快速定位查詢數(shù)據(jù)，減少大量數(shù)據(jù)訪問(wèn)的時(shí)間。

圖2 分區(qū)表的多任務(wù)并行執(zhí)行模式圖

4.4 并行處理機(jī)制

數(shù)據(jù)庫(kù)并行處理機(jī)制的目標(biāo)是高性能和高可用性，通過(guò)多個(gè)處理節(jié)點(diǎn)并行執(zhí)行數(shù)據(jù)庫(kù)任務(wù)，可以提高整個(gè)數(shù)據(jù)庫(kù)系統(tǒng)的性能和可用性。

數(shù)據(jù)庫(kù)并行處理機(jī)制高性能可以從2個(gè)方面理解：速度提升、范圍提升。速度提升是指通過(guò)并行處理，可以用更少的時(shí)間完成成倍的任務(wù)；范圍提升是指通過(guò)并行處理，在相同時(shí)間內(nèi)可以完成更多任務(wù)。CPU的快速發(fā)展使得利用多CPU的并行技術(shù)來(lái)提升性能成為可能，對(duì)于多CPU系統(tǒng)盡量采用并行查詢方式進(jìn)行數(shù)據(jù)庫(kù)操作，此時(shí)系統(tǒng)可以將查詢請(qǐng)求分配給多個(gè)CPU間并行處理，每個(gè)獨(dú)立的進(jìn)程同時(shí)進(jìn)行請(qǐng)求的處理，大大提高了應(yīng)用訪問(wèn)的速度。對(duì)于大型的數(shù)據(jù)倉(cāng)庫(kù)系統(tǒng)，一般都會(huì)定期進(jìn)行大量的數(shù)據(jù)加載工作，此時(shí)采用并行加載機(jī)制加載數(shù)據(jù)，也可以大大提高數(shù)據(jù)裝載的速度，減少數(shù)據(jù)裝載對(duì)數(shù)據(jù)庫(kù)影響的時(shí)間。

4.5 高效SQL設(shè)計(jì)

由于應(yīng)用程序SQL語(yǔ)句早于數(shù)據(jù)量的增長(zhǎng)，所以對(duì)于很多SQL可能并沒有考慮大數(shù)據(jù)量情況下對(duì)系統(tǒng)資源和消耗，SQL優(yōu)化對(duì)無(wú)線網(wǎng)絡(luò)優(yōu)化平臺(tái)來(lái)說(shuō)是提升性能的一個(gè)有效途徑。SQL語(yǔ)句優(yōu)化時(shí)必須要考慮：一是根據(jù)數(shù)據(jù)庫(kù)系統(tǒng)的技術(shù)特點(diǎn)進(jìn)行優(yōu)化的技巧；二是根據(jù)應(yīng)用需求進(jìn)行的針對(duì)性設(shè)計(jì)。特別是對(duì)于大數(shù)據(jù)量的數(shù)據(jù)庫(kù)系統(tǒng)，在設(shè)計(jì)SQL時(shí)一定要關(guān)注查詢的數(shù)據(jù)量大小，避免需求理解偏差以及返回的大記錄集等情況，從而避免功能設(shè)計(jì)引起對(duì)大數(shù)據(jù)量訪問(wèn)的性能下降。在很多情況下，用戶真的不需要大量數(shù)據(jù)的返回，通過(guò)功能設(shè)計(jì)完全可以避免或緩解。SQL優(yōu)化和設(shè)計(jì)技巧有很多，針對(duì)類似無(wú)線網(wǎng)絡(luò)優(yōu)化平臺(tái)的大數(shù)據(jù)量查詢問(wèn)題提出幾個(gè)關(guān)鍵設(shè)計(jì)技巧如下：

（1）限制動(dòng)態(tài)SQL的使用。動(dòng)態(tài)SQL也會(huì)重新進(jìn)行語(yǔ)法分析，重新占用資源，不考慮SQL共享池中是否有一個(gè)完全相同的查詢值。

（2）避免不帶任何條件的SQL語(yǔ)句。不帶任何條件的SQL語(yǔ)句通常需要進(jìn)行全表掃描，對(duì)于大型表將耗費(fèi)相當(dāng)多的資源和相當(dāng)長(zhǎng)的時(shí)間。

（3）盡量設(shè)計(jì)相同的或類似的SQL語(yǔ)句，以充分利用SQL共享池資源，查詢數(shù)據(jù)在SGA中命中的幾率也會(huì)大大提升。

（4）如果查詢確實(shí)需要返回大量數(shù)據(jù)時(shí)，可以考慮先返回少量結(jié)果，等待用戶發(fā)出新的指令，再查詢返回全部結(jié)果集。

5 結(jié)束語(yǔ)

數(shù)據(jù)庫(kù)面臨的性能瓶頸大多數(shù)是因?yàn)樾聵I(yè)務(wù)的增加導(dǎo)致資源耗盡，因此要解決數(shù)據(jù)庫(kù)的性能瓶頸，就需要對(duì)數(shù)據(jù)庫(kù)系統(tǒng)業(yè)務(wù)進(jìn)行深入了解，明確業(yè)務(wù)需求和數(shù)據(jù)增長(zhǎng)趨勢(shì)，再采取針對(duì)性的應(yīng)對(duì)措施。數(shù)據(jù)庫(kù)性能問(wèn)題沒有一個(gè)統(tǒng)一標(biāo)準(zhǔn)的解決方案，通?？梢詮募夹g(shù)架構(gòu)重組和優(yōu)化設(shè)計(jì)這2個(gè)思路出發(fā)，結(jié)合具體的業(yè)務(wù)需求和技術(shù)實(shí)現(xiàn)來(lái)統(tǒng)籌考慮，從而制定解決方案。本文主要從優(yōu)化設(shè)計(jì)的角度探討了無(wú)線網(wǎng)絡(luò)優(yōu)化平臺(tái)數(shù)據(jù)庫(kù)面臨數(shù)據(jù)增長(zhǎng)帶來(lái)的性能問(wèn)題，分析了數(shù)據(jù)增長(zhǎng)帶來(lái)性能下降和性能瓶頸及其影響，并從技術(shù)層面提出了應(yīng)對(duì)性能瓶頸的優(yōu)化設(shè)計(jì)思路，這些優(yōu)化設(shè)計(jì)思路在上海電信無(wú)線網(wǎng)絡(luò)優(yōu)化平臺(tái)現(xiàn)網(wǎng)實(shí)測(cè)效果明顯，較好地解決了當(dāng)前數(shù)據(jù)增長(zhǎng)帶來(lái)的性能下降問(wèn)題。

[1] 張永,張紅蕊,路婧威. 海量數(shù)據(jù)離散化算法的并行設(shè)計(jì)與實(shí)現(xiàn)[J]. 計(jì)算機(jī)應(yīng)用與軟件, 2014,31(6): 21-23.

[2] 范慶彬,王為. 云計(jì)算在電信運(yùn)營(yíng)商中的應(yīng)用[J]. 信息通信, 2011(3): 167-170.

[3] 陳宏偉,陳喜龍. 數(shù)據(jù)庫(kù)的查詢優(yōu)化技術(shù)[J]. 科技資訊, 2008,15(5): 1-5.

[4] 王凱. MapReduce集群多用戶作業(yè)調(diào)度方法的研究與實(shí)現(xiàn)[D]. 長(zhǎng)沙: 國(guó)防科技大學(xué), 2010.

[5] 郭忠南,孟凡榮. 關(guān)系數(shù)據(jù)庫(kù)性能優(yōu)化研究[J]. 計(jì)算機(jī)工程與設(shè)計(jì), 2006,27(23): 84-90.

[6] 張義德,王國(guó)慶,湯幼寧. 更改的判定條件覆蓋測(cè)試技術(shù)研究[J]. 計(jì)算機(jī)工程與設(shè)計(jì), 2003,24(5): 19-22.

[7] 陳鑫,楊平. 應(yīng)用MC/DC準(zhǔn)則時(shí)需考慮的問(wèn)題及其改進(jìn)方法[J]. 計(jì)算機(jī)工程與設(shè)計(jì), 2004,25(3): 406-409.

[8] 蔣承延,吳思遠(yuǎn). 大型ORACLE數(shù)據(jù)庫(kù)優(yōu)化設(shè)計(jì)方案[J]. 電腦知識(shí)與技術(shù)（學(xué)術(shù)交流）, 2007(12): 1518-1519.

[9] 黃錫滋. 軟件可靠性、安全性與質(zhì)量保證[M]. 北京: 電子工業(yè)出版社, 2002.★