王中成 葉宇飛 周莉
摘 要: 針對跨地域勘察設(shè)計(jì)院電子圖紙存檔的數(shù)據(jù)量大和網(wǎng)絡(luò)帶寬小造成傳輸速度慢、很耗時的問題,介紹了一種運(yùn)用多項(xiàng)互聯(lián)網(wǎng)技術(shù)協(xié)同作用提高傳輸速度的方法。首先通過上網(wǎng)行為管理技術(shù)降低在線視頻及P2P文件共享流量對帶寬的占用;其次通過數(shù)據(jù)壓縮技術(shù)減少所需傳輸數(shù)據(jù)的大??;然后通過協(xié)議優(yōu)化技術(shù)提高數(shù)據(jù)傳輸效率;最后,采用重復(fù)數(shù)據(jù)本地獲取技術(shù)減少數(shù)據(jù)傳輸總量。實(shí)驗(yàn)結(jié)果表明,電子圖紙存檔第一次上傳所需傳輸時間與傳統(tǒng)傳輸方式相比減少7%-25%,第二次上傳所需傳輸時間與傳統(tǒng)傳輸方式相比減少31%-53%,因此,運(yùn)用多項(xiàng)互聯(lián)網(wǎng)技術(shù)協(xié)同作用有利于跨地域勘察設(shè)計(jì)院電子圖紙存檔的快速傳輸,是“互聯(lián)網(wǎng)+”的典型應(yīng)用。
關(guān)鍵詞: 電子圖紙存檔; 上網(wǎng)行為管理; 數(shù)據(jù)壓縮; 重復(fù)數(shù)據(jù)本地獲?。?互聯(lián)網(wǎng)+
中圖分類號:TP393.2 文獻(xiàn)標(biāo)志碼:A 文章編號:1006-8228(2018)08-43-04
Deployment of Internet technology for electronic drawings archiving
of cross region in design industry
Wang Zhongcheng, Ye Yufei, Zhou Li
(China Coal Technology & Engineering Group Chongqing Engineering Co. Ltd, Chongqing 400016, China)
Abstract: In view of the problems of the large amount of data in the electronic drawings and the small network bandwidth, the transmission speed is slow and the time consuming of the electronic drawings in the cross region survey and design institute is high. A method of improving the transmission speed by using the synergy of multiple Internet technology is introduced. First of all, reduce the bandwidth consumption of online video and P2P file sharing through Internet behavior management technology; secondly, reduce the size of the required transmission data by data compression technology; thirdly, improve the efficiency of data transmission through protocol optimization technology; finally, the local data acquisition technology is used to reduce the total amount of data transmission. The experimental results show that the upload time of the electronic drawings archiving for the first time is reduced about 7%-25% compared to the traditional data transmission. Time of the electronic drawings archiving upload for the second time is reduced about 31%-53% compared to the traditional data transmission. Therefore, the application of multiple Internet technologies is conducive to the rapid transmission of electronic drawings in cross regional survey and design institutes, and it is a typical application of "Internet plus".
Key words: electronic drawings archiving;internet behavior management;data compression;local data acquisition technology; Internet plus
0 引言
圖紙作為設(shè)計(jì)行業(yè)的主要工作成果[1],包括紙質(zhì)圖紙和電子圖紙,本文主要研究電子圖紙存檔。電子圖紙的存檔方面經(jīng)歷了三個階段,第一階段,電子圖紙刻錄成光盤,與紙質(zhì)圖紙一起交檔案部門保存,其缺點(diǎn)是時效性差(可能存檔不及時)、光盤易損、光盤數(shù)據(jù)與交付紙質(zhì)圖紙是否一致無法查證。第二階段,使用統(tǒng)一的電子圖紙管理系統(tǒng),將電子圖紙上傳到服務(wù)器存放,時效性、易損性有很大提高,并且引入負(fù)責(zé)人審核機(jī)制,電子圖紙與交付紙質(zhì)圖紙的一致性也有很大提高。第三階段,使用統(tǒng)一的出圖系統(tǒng),打印紙質(zhì)圖紙時由出圖系統(tǒng)生成專業(yè)打印文件(PLT文件及PDF文件),同時自動上傳文件到出圖系統(tǒng)服務(wù)器中(包括PLT文件、PDF文件,以及原始的圖紙DWG文件),解決了存檔電子圖紙與交付客戶的紙質(zhì)圖紙的一致性問題?,F(xiàn)階段的電子圖紙存檔已經(jīng)較為科學(xué)嚴(yán)謹(jǐn),已經(jīng)得到廣泛使用。
1 跨地域電子圖紙存檔存在的問題
局域網(wǎng)的網(wǎng)絡(luò)帶寬至少是百兆,甚至是千兆,在這種網(wǎng)絡(luò)下傳輸一個項(xiàng)目數(shù)據(jù)(大約300M-600M)在數(shù)秒內(nèi)就能完成,但分支機(jī)構(gòu)與總部距離幾百甚至幾千公里,不在同一個局域網(wǎng),分支機(jī)構(gòu)通常在非專線互聯(lián)網(wǎng)線路(ADSL寬帶、小區(qū)寬帶等)基礎(chǔ)上運(yùn)用虛擬專用網(wǎng)絡(luò)(Virtual Private Network,簡稱VPN)技術(shù)與總部互聯(lián)[2],這種技術(shù)以采用互聯(lián)網(wǎng)帶寬為基礎(chǔ),在互聯(lián)網(wǎng)線路上建立一條分支與總部之間的加密隧道實(shí)現(xiàn)遠(yuǎn)程訪問。由于運(yùn)營商對非專線業(yè)務(wù)不承諾上行帶寬,一般上行帶寬低于2Mb/s,一個項(xiàng)目圖紙傳輸時間通常需要1小時以上。設(shè)計(jì)師需要根據(jù)項(xiàng)目進(jìn)展的實(shí)際情況適時對圖紙做出調(diào)整,調(diào)整后的電子圖紙重新上傳又需要1小時以上,嚴(yán)重影響設(shè)計(jì)師的工作效率,減少存檔時間是目前行業(yè)亟待解決的問題。
目前認(rèn)為簡單有效的解決辦法是采用專線互聯(lián)總部與分支機(jī)構(gòu),但專線價格昂貴,要達(dá)到局域網(wǎng)的使用效果,需要租用100M專線,單條100M跨省專線每年租用費(fèi)在五十萬元以上,即使僅租用10M帶寬,單條10M跨省專線年費(fèi)用在六萬至十萬元之間,十個分支機(jī)構(gòu)每年需花費(fèi)至少六十萬元專線租用費(fèi),幾乎沒有設(shè)計(jì)企業(yè)采用專線方式,需要一種低成本的解決方案來解決此問題。
2 問題的原因
電子圖紙文件傳輸要經(jīng)歷三個步驟:分支機(jī)構(gòu)上行鏈路、運(yùn)營商承載鏈路、總部下行鏈路。任何一個鏈路瓶頸都會由于木桶效應(yīng)導(dǎo)致整體傳輸瓶頸。因此,跨地域電子圖紙存檔耗時由三個原因引起。
2.1 分支機(jī)構(gòu)上行帶寬小
由于分支機(jī)構(gòu)通常采用上下行帶寬不一致的非專線寬帶,比如ADSL寬帶、小區(qū)寬帶,這些寬帶近年來下行帶寬不斷提高,已經(jīng)能做到百兆入戶甚至千兆入戶,但上行帶寬沒有提高,一般上行帶寬低于2Mb/s,相比早已普及的局域網(wǎng)百兆帶寬,低50倍。
2.2 帶寬復(fù)用
分支機(jī)構(gòu)在非專線寬帶上采用虛擬專用網(wǎng)絡(luò)技術(shù)與總部建立VPN加密隧道[3],不管是分支機(jī)構(gòu)還是總部都是在互聯(lián)網(wǎng)線路上開辟的一條隧道,即帶寬是復(fù)用的。如今,在線視頻及P2P文件共享應(yīng)用的流行,互聯(lián)網(wǎng)帶寬資源大量被這些應(yīng)用占用,導(dǎo)致互聯(lián)網(wǎng)帶寬長期處于滿負(fù)荷狀態(tài),既擠占分支機(jī)構(gòu)本來就很小的上傳帶寬,又占用總部專線互聯(lián)網(wǎng)的下行帶寬,引起VPN加密隧道的數(shù)據(jù)需要排隊(duì)通過[4],使得電子圖紙上傳速度慢的情況更加雪上加霜。
2.3 延時高
由于是總部與分支跨地域,距離可能達(dá)到幾千公里[5],在internet運(yùn)營商中間的路由過程將經(jīng)過跳數(shù)多,并且省與省之間的帶寬也存在瓶頸可能造成數(shù)據(jù)包排隊(duì)通過的情況,再加上兩端VPN隧道的加密和解密過程會耗時,所以,在跨地域的圖紙傳輸中,延時會相對頻繁,造成丟包現(xiàn)象,造成數(shù)據(jù)需要二次重傳,增加傳輸時間。
3 解決方案
首先,通過上網(wǎng)行為管理技術(shù)降低在線視頻及P2P文件共享流量對帶寬的占用;其次,通過數(shù)據(jù)壓縮技術(shù)減少所需傳輸數(shù)據(jù)的大??;再次,通過協(xié)議優(yōu)化技術(shù)提高數(shù)據(jù)傳輸效率;最后,采用重復(fù)數(shù)據(jù)本地獲取技術(shù)減少數(shù)據(jù)傳輸總量。
如圖1所示,四種互聯(lián)網(wǎng)優(yōu)化技術(shù)綜合運(yùn)用,提高遠(yuǎn)程數(shù)據(jù)傳輸?shù)男省?/p>
3.1 上網(wǎng)行為管理
目前P2P文件共享及在線視頻的廣泛應(yīng)用[6],導(dǎo)致互聯(lián)網(wǎng)帶寬很快被這些應(yīng)用占用,而正常的業(yè)務(wù)流量(如電子圖檔系統(tǒng)的上傳流量、郵件系統(tǒng)流量等)得不到應(yīng)有的帶寬。2015年的華為全球分析師大會上,華為指出:現(xiàn)有網(wǎng)絡(luò)流量中已經(jīng)有70%是視頻,將來會達(dá)到90%。針對這種情況,限制在線視頻及P2P應(yīng)用的流量十分必要,即上網(wǎng)行為管理。
通過限制P2P文件共享、在線視頻(很多在線視頻也采用P2P文件共享的方式),能夠減少大量的非辦公流量,為業(yè)務(wù)流量保留出帶寬。
3.2 數(shù)據(jù)壓縮
采用高效的數(shù)據(jù)流壓縮算法,可以對所有的數(shù)據(jù)先壓縮后傳送[7],減少數(shù)據(jù)傳輸量,大大提高了終端用戶在B/S應(yīng)用和C/S應(yīng)用時的速度,減少數(shù)據(jù)傳輸時間。
3.3 傳輸協(xié)議優(yōu)化
由于電子圖紙采用FTP的方式上傳文件,F(xiàn)TP是TCP協(xié)議,可以通過擴(kuò)充傳輸窗口、改善擁塞控制等技術(shù),提高在高丟包、高延時情況下TCP協(xié)議傳輸效率[8]。
3.4 重復(fù)數(shù)據(jù)本地獲取
通過對電子圖紙存檔系統(tǒng)的數(shù)據(jù)流量進(jìn)行分析,發(fā)現(xiàn)存在大量冗余數(shù)據(jù)傳輸,比如圖紙的一些對圖紙做了一點(diǎn)小改動后重新打印時,所有數(shù)據(jù)均重新上傳,采用內(nèi)容比對技術(shù),避免相同數(shù)據(jù)重復(fù)上傳[9],重復(fù)文件的分片由原來的文件傳輸變?yōu)椤皵?shù)據(jù)標(biāo)簽”的傳輸,收到“數(shù)據(jù)標(biāo)簽”后直接從本地緩存中獲取重復(fù)文件的分片[10],僅上傳修改部分?jǐn)?shù)據(jù),節(jié)約大量時間。
綜上所述,運(yùn)用多種互聯(lián)網(wǎng)技術(shù)的協(xié)同作用能大幅提高傳輸效率,下文統(tǒng)一采用“優(yōu)化”指代解決方案中運(yùn)用到的多種技術(shù)。
4 實(shí)驗(yàn)數(shù)據(jù)與結(jié)果分析
4.1 實(shí)驗(yàn)環(huán)境
⑴ 分支互聯(lián)網(wǎng)帶寬為10M ADSL寬帶,網(wǎng)絡(luò)中沒有除測試機(jī)以外的其他有線或無線終端接入網(wǎng)絡(luò),保證分支10M帶寬獨(dú)占。
⑵ 測試使用的軟件及版本為AutoCAD 2012- Simplified Chinese。
⑶ 隨機(jī)選取一個項(xiàng)目10個圖形文件。
⑷ 原有網(wǎng)絡(luò)環(huán)境是指,未運(yùn)用上網(wǎng)行為管理、數(shù)據(jù)壓縮、傳輸協(xié)議優(yōu)化、重復(fù)數(shù)據(jù)本地獲取等幾種技術(shù)的環(huán)境;優(yōu)化后網(wǎng)絡(luò)環(huán)境是指,運(yùn)用上網(wǎng)行為管理、數(shù)據(jù)壓縮、傳輸協(xié)議優(yōu)化、重復(fù)數(shù)據(jù)本地獲取幾種技術(shù)的環(huán)境。
4.2 實(shí)驗(yàn)方法
每個項(xiàng)目的圖紙數(shù)量不一樣,圖紙大小也不一樣,實(shí)驗(yàn)采用隨機(jī)方法在一個項(xiàng)目中選取10個圖紙文件(圖紙文件格式為dwg文件)進(jìn)行實(shí)驗(yàn),圖紙存檔系統(tǒng)上傳時會生成pdf和plt文件,實(shí)驗(yàn)將統(tǒng)計(jì)dwg、pdf、plt三種文件的大小總和,同時統(tǒng)計(jì)10次上傳的總時間。
4.3 實(shí)驗(yàn)結(jié)果
4.3.1 原網(wǎng)絡(luò)環(huán)境實(shí)驗(yàn)結(jié)果(如表1)
4.3.2 優(yōu)化后第一次測試結(jié)果(如表2)
4.3.3 優(yōu)化后第二次測試結(jié)果(如表3)
4.4 實(shí)驗(yàn)結(jié)果分析
⑴ 圖2對三次測試的上傳時間進(jìn)行了對比,可直觀地看出:互聯(lián)網(wǎng)技術(shù)綜合運(yùn)用后,能夠明顯節(jié)省上傳所需時間。
⑵ 提取優(yōu)化錢上傳時間與優(yōu)化后第一次上傳時間進(jìn)行分析比較,結(jié)果如表4所示。
通過表4可以看出,互聯(lián)網(wǎng)技術(shù)綜合運(yùn)用后,減少了傳統(tǒng)存檔方式7%--25%的傳輸時間。
⑶ 提取優(yōu)化前上傳時間與優(yōu)化后第二次上傳時間分析,結(jié)果如表5所示。
通過表5可以看出,第二次上傳時能夠減少傳統(tǒng)存檔方式31%-53%的傳輸時間。由于“重復(fù)數(shù)據(jù)本地獲取”技術(shù)針對第二上傳文件時相同數(shù)據(jù)從本地獲取,只會在第一次上傳后提高上傳速度,因此,此結(jié)果符合預(yù)期。
5 結(jié)束語
實(shí)驗(yàn)結(jié)果表明,通過數(shù)據(jù)壓縮、協(xié)議優(yōu)化、重復(fù)數(shù)據(jù)本地獲取三種技術(shù)綜合運(yùn)用,電子圖紙第一次上傳時能夠減少傳統(tǒng)存檔方式7%-25%的傳輸時間,第二次上傳時能夠減少31%-53%的傳輸時間,因此,運(yùn)用多項(xiàng)互聯(lián)網(wǎng)技術(shù)協(xié)同作用有利于跨地域勘察設(shè)計(jì)院電子圖紙存檔的快速傳輸,是“互聯(lián)網(wǎng)+”的典型應(yīng)用。
在實(shí)際應(yīng)用中,帶寬不會像實(shí)驗(yàn)環(huán)境中是獨(dú)占使用的方式,會涉及到帶寬的爭搶,所以實(shí)際使用環(huán)境中運(yùn)用“上網(wǎng)行為管理”技術(shù)管理帶寬后,減少的傳輸時間會更多。
參考文獻(xiàn)(References):
[1] 石玥琪,吳東婷,張瑞祥.勘察設(shè)計(jì)企業(yè)電子檔案管理方案探
討[J].中國檔案,2011.12:51-52
[2] R Friend,Making the gigabit IPsec VPN architecture secure[J].
Computer,2004.37(6):54-60
[3] 魏廣科.VPN技術(shù)及其應(yīng)用的研究[J].計(jì)算機(jī)工程與設(shè)計(jì),
2005.26(3):714-715
[4] C Phillips,J Bigham,L He,B Littlefair,Managing dynamic
automated communities with MPLS-based VPNs[J]. BT Technology Journal,2006.24(2):79-84
[5] N Krivokapi, M Islinger, A Kemper. Migrating
Autonomous Objects in a WAN Environment[J]. Journal of Intelligent Information Systems,2000.15(3):221-251
[6] Tran Thi Thu Ha, Jinsul Kim, Jiseung Nam.Design and
Deployment of Low-Delay Hybrid CDN-P2P Architecture for Live Video Streaming Over the Web[J]. Wireless Personal Communications,2017.94(3):513-525
[7] 王建新,彭娜.廣域網(wǎng)加速技術(shù)研究綜述[J].電信快報,
2009.5:11-14
[8] 梅松.一種新的采用TCP封裝的IPSec廣域網(wǎng)加速通信研究[J].
計(jì)算機(jī)工程與科學(xué),2010.32(7):4-7
[9] B Zhou,JT Wen, Metadata Feedback and Utilization for
Data Deduplication Across WAN[J]. Journal of Computer Science and Technology,2016.31(3):604-623
[10] 馬留英,蔡杰明,劉瀏,劉振軍.一種加速廣域文件系統(tǒng)讀寫
訪問的緩存策略[J].計(jì)算機(jī)研究與發(fā)展,2014.s1:38-47