淺談云計算技術

何正玲

（西安文理學院，陜西 西安 710065）

0 引言

云計算(Cloud Computing)是一種基于互聯(lián)網(wǎng)的超級計算模式。它是分布式計算、并行計算和網(wǎng)格計算的發(fā)展。其基本原理為:利用非本地或遠程服務器(集群)的分布式計算機為互聯(lián)網(wǎng)用戶提供服務(計算、存儲、軟硬件等服務)。[1]云是一種思想，一種大規(guī)模資源整合的思想，是IT界發(fā)展的必然趨勢。云計算是一種新型的超級計算方式，以數(shù)據(jù)為中心，是一種數(shù)據(jù)密集型的超級運算，在數(shù)據(jù)存儲、數(shù)據(jù)管理、云計算平臺管理等多方面具有自身獨特的技術。

1 云計算的定義

云計算是從分布式處理(Distributed Computing)、并行處理(Parallel Computing)和網(wǎng)格計算(Grid Computing)發(fā)展而來的。到目前為止，對于云計算的定義還沒有一個確定的說法，可謂仁者見仁、智者見智。狹義的云計算:指廠商通過分布式計算和虛擬化技術搭建數(shù)據(jù)中心或超級計算機，以免費或按需租用方式向技術開發(fā)者或者企業(yè)客戶提供數(shù)據(jù)存儲、分析以及科學計算等服務，比如亞馬遜數(shù)據(jù)倉庫出租生意；廣義的云計算:指廠商通過建立網(wǎng)絡服務器集群，向各種不同類型客戶提供在線軟件服務、硬件租借、數(shù)據(jù)存儲、計算分析等不同類型的服務,廣義的云計算包括了更多的廠商和服務類型，例如國內用友、金蝶等管理軟件廠商推出的在線財務軟件，谷歌發(fā)布的Google應用程序套裝等。[2]

2 云計算的核心技術

云計算系統(tǒng)運用了許多技術，其中以數(shù)據(jù)存儲技術、數(shù)據(jù)管理技術、編程模型、虛擬化技術、云計算平臺管理技術最為關鍵。

2.1 數(shù)據(jù)存儲技術

云計算的數(shù)據(jù)存儲技術主要有谷歌的非開源的 (Google File System)云計算系統(tǒng)由大量服務器組成，同時為大量用戶服務，因此云計算系統(tǒng)采用分布式存儲的方式存儲數(shù)據(jù)，用冗余存儲的方式保證數(shù)據(jù)的可靠性。云計算系統(tǒng)中廣泛使用的數(shù)據(jù)存儲系統(tǒng)是Google的GFS和Hadoop團隊開發(fā)的GFS的開源實現(xiàn)，GFS即Google文件系統(tǒng)（Google File System），是一個可擴展的分布式文件系統(tǒng)，用于大型的、分布式的、對大量數(shù)據(jù)進行訪問的應用。GFS系統(tǒng)由一個Master和多個塊服務器構成。Master存儲著文件系統(tǒng)的所有元數(shù)據(jù),包括名字空間、存取控制、文件分塊信息、文件塊的位置信息等。

GFS是針對大規(guī)模數(shù)據(jù)處理和Google應用特性而設計的。它運行于廉價的普通硬件上，但可以提供容錯功能，它可以給大量的用戶提供總體性能較高的服務，一個GFS集群由一個主服務器（master）和大量的塊服務器(chunkserver)構成，并被許多客戶（Client）訪問。主服務器存儲文件系統(tǒng)所以的元數(shù)據(jù)，包括名字空間、訪問控制信息、從文件到塊的映射以及塊的當前位置。它也控制系統(tǒng)范圍的活動，如塊租約（lease）管理，孤兒塊的垃圾收集，塊服務器間的塊遷移。主服務器定期通過HeartBeat消息與每一個塊服務器通信，給塊服務器傳遞指令并收集它的狀態(tài)。GFS中的文件被切分為64MB的塊并以冗余存儲，每份數(shù)據(jù)在系統(tǒng)中保存3個以上備份。[2]

客戶與主服務器的交換只限于對元數(shù)據(jù)的操作，所有數(shù)據(jù)方面的通信都直接和塊服務器聯(lián)系，這大大提高了系統(tǒng)的效率，防止主服務器負載過重。云計算的數(shù)據(jù)存儲技術未來的發(fā)展將集中在超大規(guī)模的數(shù)據(jù)存儲、數(shù)據(jù)加密和安全性保證以及繼續(xù)提高I/O速率等方面。

2.2 數(shù)據(jù)管理技術(Big Table)

海量的數(shù)據(jù)處理是指對大規(guī)模數(shù)據(jù)的計算和分析，通常數(shù)據(jù)的規(guī)模可以達到TB甚至PB級別?；诨ヂ?lián)網(wǎng)時代的數(shù)據(jù)統(tǒng)計和分析很多是海量數(shù)據(jù)級別的，其典型的例子如搜索引擎、數(shù)字圖書館。由于數(shù)據(jù)量非常大，一臺計算機不可能滿足海量數(shù)據(jù)處理的性能和可靠性等方面的要求。[3]

云計算需要對分布的、海量的數(shù)據(jù)進行處理、分析并向用戶提供高效的服務，因此，數(shù)據(jù)管理技術必需能夠高效的管理大數(shù)據(jù)集。云計算的特點是對海量的數(shù)據(jù)存儲、讀取后進行大量的分析，數(shù)據(jù)的讀操作頻率遠大于數(shù)據(jù)的更新頻率，如何在規(guī)模巨大的數(shù)據(jù)中找到特定的數(shù)據(jù)，也是云計算數(shù)據(jù)管理技術所必須解決的問題。云中的數(shù)據(jù)管理是一種讀優(yōu)化的數(shù)據(jù)管理，因此云系統(tǒng)的數(shù)據(jù)管理往往采用數(shù)據(jù)庫領域中列存儲的數(shù)據(jù)管理模式，將表按列劃分后存儲。

2.3 編程模型

為了給廣大用戶提供更輕松地享受云計算服務的機會，能輕松的利用編程模型編寫簡單的程序來實現(xiàn)特定的目的，云上的編程模型要十分簡單，另外，需要后臺復雜的并行執(zhí)行和任務調度向用戶和編程人員透明。

云計算大部分采用Map2Reduce的編程模式，Map2Reduce不僅僅是一種編程模型,同時也是一種高效的任務調度模型。Map2Reduce是Google開發(fā)的java、Python、C++編程模型，它是一種簡化的分布式編程模型和高效的任務調度模型，用于大規(guī)模數(shù)據(jù)集（大于1TB）的并行運算。嚴格的編程模型使云計算環(huán)境下的編程十分簡單。MapReduce模式的思想是將要執(zhí)行的問題分解成Map(映射)和Reduce(化簡)的方式，先通過Map程序將數(shù)據(jù)切割成不相關的區(qū)塊，分配（調度）給大量計算機處理，達到分布式運算的效果，再通過Reduce程序將結果匯總輸出。

2.4 虛擬化技術

虛擬化(Virtualization)技術是云計算系統(tǒng)的核心技術部分之一，是將各種計算及存儲資源充分整合和高效利用的關鍵技術。通過虛擬化技術可實現(xiàn)軟件應用與底層硬件相隔離，它包括將單個資源劃分成多個虛擬資源的裂分模式，也包括將多個資源整合成一個虛擬資源的聚合模式。虛擬化技術根據(jù)對象可分成:服務器虛擬化、存儲虛擬化、計算虛擬化、網(wǎng)絡虛擬化等，計算虛擬化又分為系統(tǒng)級虛擬化、應用級虛擬化和桌面虛擬化。

利用虛擬化技術，在一個物理服務器上可以運行多個虛擬服務器。把物理CPU抽象成虛擬CPU，無論任何時間一個物理CPU只能運行一個虛擬CPU的指令，而多個虛擬機同時提供服務將會大大提高物理CPU的利用率；同樣，利用虛擬技術，統(tǒng)一管理物理內存，將其包裝成多個虛擬的物理內存分別供給若干個虛擬機使用，使得每個虛擬機擁有各自獨立的內存空間，互不干擾。[4]

2.5 云計算平臺管理技術

云計算資源規(guī)模龐大，服務器數(shù)量眾多并分布在不同的地點，同時運行著數(shù)百種應用，如何有效的管理這些服務器，保證整個系統(tǒng)提供不間斷的服務是巨大的挑戰(zhàn)。云計算系統(tǒng)的平臺管理技術能夠使大量的服務器協(xié)同工作，方便的進行業(yè)務部署和開通，快速發(fā)現(xiàn)和恢復系統(tǒng)故障，通過自動化、智能化的手段實現(xiàn)大規(guī)模系統(tǒng)的可靠運營。

3 云計算技術發(fā)展面臨的主要問題

盡管云計算具有廣闊的發(fā)展前景、其計算模式具有許多優(yōu)點，但是也存在一些問題，如數(shù)據(jù)隱私問題、安全問題、軟件許可證問題、網(wǎng)絡傳輸問題等。數(shù)據(jù)隱私問題:如何保證存放在云服務提供商的數(shù)據(jù)隱私，不被非法利用，不僅需要技術的改進，也需要法律的進一步完善。數(shù)據(jù)安全性:有些數(shù)據(jù)是企業(yè)的商業(yè)機密，數(shù)據(jù)的安全性關系到企業(yè)的生存和發(fā)展。云計算數(shù)據(jù)的安全性問題解決不了會影響云計算在企業(yè)中的應用。用戶使用習慣:如何改變用戶的使用習慣，使用戶適應網(wǎng)絡化的軟硬件應用是長期而艱巨的挑戰(zhàn)。網(wǎng)絡傳輸問題:云計算服務依賴網(wǎng)絡，目前網(wǎng)速低且不穩(wěn)定，使云應用的性能不高。云計算的普及依賴網(wǎng)絡技術的發(fā)展。另外，當前云計算系統(tǒng)的能耗過大，因此，減少能耗，提高能源的使用效率，建造高效的冷卻系統(tǒng)是當前面臨的一個主要問題。

［1］Lizhe Wang,Gregor von Laszewski.Scientific Cloud Computing:Early Definition and Experience[EB/OL].2009(12).

［2］陳全,鄧倩妮.云計算及其關鍵技術[J].計算機應用,2009(9).

［3］王平.云計算關鍵技術在數(shù)字圖書館中的應用研究[J].情報資料工作,2010(5).

［4］戴元順.云計算技術簡述[J].研究與開發(fā),2010(2).