• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于社會(huì)信任的惡意網(wǎng)頁(yè)協(xié)防機(jī)制

    2012-10-26 09:09:36劉昕賈春福劉國(guó)友胡志超王冬
    通信學(xué)報(bào) 2012年12期
    關(guān)鍵詞:好友網(wǎng)頁(yè)信任

    劉昕,賈春福,劉國(guó)友,胡志超,王冬

    (1.中國(guó)石油大學(xué)(華東) 計(jì)算機(jī)與通信工程學(xué)院,山東 青島 266580;2.南開(kāi)大學(xué) 信息技術(shù)科學(xué)學(xué)院,天津 300071;3.南京大學(xué) 計(jì)算機(jī)軟件新技術(shù)國(guó)家重點(diǎn)實(shí)驗(yàn)室,江蘇 南京 210093)

    1 引言

    隨著Web的廣泛應(yīng)用,包含惡意代碼和網(wǎng)上誘騙的網(wǎng)站也日益泛濫,對(duì)Web的安全應(yīng)用構(gòu)成了極大的威脅。網(wǎng)頁(yè)中的惡意代碼是指在用戶不知情的情況下自動(dòng)安裝到用戶計(jì)算機(jī)中的代碼,其目的是危害用戶系統(tǒng)和數(shù)據(jù),或從其中竊取信息。網(wǎng)上誘騙是指冒充他人騙取用戶個(gè)人信息或其他敏感信息的行為,通常采用虛假網(wǎng)站的方式。釣魚攻擊(phishing attack)是一種常用的網(wǎng)絡(luò)欺騙手段,主要通過(guò)電子郵件、網(wǎng)頁(yè)等途徑散布虛假信息,誘騙不知情的網(wǎng)絡(luò)用戶登錄仿冒的網(wǎng)站,如假冒的網(wǎng)上銀行、在線購(gòu)物等,從而騙取用戶的網(wǎng)銀賬號(hào)、信用卡號(hào)和密碼等敏感信息。據(jù)國(guó)際反釣魚工作組(APWG)統(tǒng)計(jì),2010年上半年全球釣魚攻擊為48244次,下半年則達(dá)67677次,增長(zhǎng)的主要原因是中國(guó)釣魚攻擊的增多[1]。

    為了保護(hù)用戶的計(jì)算機(jī)不受惡意網(wǎng)站攻擊,當(dāng)前各種瀏覽器普遍采用的解決方案是附加安全功能,在用戶瀏覽惡意網(wǎng)站之前,向用戶發(fā)出警告信息,比如谷歌瀏覽器的安全瀏覽[2]和 IE瀏覽器的SmartScreen篩選器[3]等,用以幫助用戶防御網(wǎng)上誘騙和惡意代碼的攻擊。這些瀏覽器安全功能通常通過(guò)一種類似黑名單的惡意網(wǎng)址列表機(jī)制來(lái)實(shí)現(xiàn),將給定的URL與惡意網(wǎng)址列表進(jìn)行匹配,判斷該URL是否為惡意網(wǎng)站。

    惡意網(wǎng)址列表通過(guò)自動(dòng)檢測(cè)和人工舉報(bào)結(jié)合的方式獲得,其原理簡(jiǎn)單且易于被瀏覽器和其他應(yīng)用程序?qū)崿F(xiàn)。其不足是第三方專業(yè)服務(wù)機(jī)構(gòu)為用戶提供的惡意網(wǎng)址列表的更新速度遠(yuǎn)遠(yuǎn)跟不上惡意網(wǎng)頁(yè)的更新速度。同時(shí),隨著網(wǎng)絡(luò)犯罪技術(shù)的不斷提高,發(fā)現(xiàn)惡意網(wǎng)頁(yè)的難度也在加大。若要及時(shí)發(fā)現(xiàn)新出現(xiàn)的惡意網(wǎng)站,必須盡可能應(yīng)用多方面的力量,而不能僅僅依賴第三方專業(yè)機(jī)構(gòu)。實(shí)際上,能夠最早發(fā)現(xiàn)新出現(xiàn)惡意網(wǎng)頁(yè)的正是廣大網(wǎng)絡(luò)用戶自己。

    通常,用戶訪問(wèn)惡意欺詐網(wǎng)頁(yè)或者被惡意代碼攻擊之后,會(huì)獲得關(guān)于防御這些惡意網(wǎng)頁(yè)和惡意代碼的經(jīng)驗(yàn)。一用戶訪問(wèn)某個(gè)網(wǎng)站之前,若其好友恰好瀏覽過(guò)該網(wǎng)站,就可以根據(jù)好友提供的安全瀏覽經(jīng)驗(yàn),來(lái)決定是否訪問(wèn)該網(wǎng)站,從而避免登錄惡意網(wǎng)站,減少損失。這種方式實(shí)際上是借助多個(gè)用戶的經(jīng)驗(yàn)來(lái)處理同一問(wèn)題。如果能夠?qū)⒕W(wǎng)絡(luò)用戶的經(jīng)驗(yàn)充分利用起來(lái),將非常有利于對(duì)惡意網(wǎng)頁(yè)的防御。

    用戶只愿意向其信任的好友提供其瀏覽網(wǎng)頁(yè)的經(jīng)驗(yàn),也只愿意接收來(lái)自其信任的好友推薦的信息。許多用戶都已加入到各種不同的社會(huì)交互應(yīng)用,如 Facebook、QQ、MSN、校內(nèi)網(wǎng)、人人網(wǎng)和新浪微博等。截至2011年6月,F(xiàn)acebook的用戶數(shù)量已經(jīng)突破 7.5億[4]。這些在線社會(huì)網(wǎng)絡(luò)將人們之間的信任關(guān)系從現(xiàn)實(shí)生活中轉(zhuǎn)移到網(wǎng)絡(luò)中。

    信任是所有社會(huì)交互的基礎(chǔ)。隨著 Web的演化,社會(huì)信任關(guān)系的使用是實(shí)用的而且是必須的[5]。社會(huì)網(wǎng)絡(luò)應(yīng)用越來(lái)越廣泛,成為一個(gè)良好的通信平臺(tái),在信任的基礎(chǔ)上用戶可以與好友共享資源、分享經(jīng)驗(yàn)。

    本文提出了一種基于社會(huì)信任的分布式網(wǎng)頁(yè)安全評(píng)價(jià)方案。除應(yīng)用第三方提供的惡意網(wǎng)址列表之外,還利用用戶的經(jīng)驗(yàn)和好友間的信任,獲得更為可信的網(wǎng)頁(yè)評(píng)價(jià)結(jié)果,及時(shí)避免用戶訪問(wèn)惡意網(wǎng)頁(yè)。從一個(gè)用戶角度看,以用戶個(gè)體為中心,與好友之間形成協(xié)作防御;從整個(gè)社會(huì)網(wǎng)絡(luò)角度看,基于社會(huì)網(wǎng)絡(luò)平臺(tái),每個(gè)用戶都可以與其好友協(xié)作,充分利用整個(gè)網(wǎng)絡(luò)上的資源、能力和經(jīng)驗(yàn),從而在宏觀上形成一個(gè)網(wǎng)狀的防御體系。

    2 相關(guān)研究

    社會(huì)信任在很多方面都有應(yīng)用。比如,文獻(xiàn)[6]將信任應(yīng)用到推薦系統(tǒng)以提高推薦的正確性;文獻(xiàn)[7,8]將社會(huì)信任用于垃圾郵件過(guò)濾;文獻(xiàn)[9]將社會(huì)網(wǎng)絡(luò)中用戶之間的信任用于檢測(cè) Sybil攻擊等。我們希望將社會(huì)信任引入用戶主機(jī)安全防御系統(tǒng),以減緩惡意代碼傳播。

    Sirivianos[7]提出了一個(gè)基于信任的協(xié)作式垃圾郵件過(guò)濾系統(tǒng)SocialFilter。每一個(gè)SocialFilter的節(jié)點(diǎn)都發(fā)送報(bào)告到一個(gè)中央數(shù)據(jù)庫(kù),中央數(shù)據(jù)庫(kù)形成信任圖進(jìn)行信任推導(dǎo),并計(jì)算一個(gè)節(jié)點(diǎn)到其他所有節(jié)點(diǎn)的最大信任路徑。SocialFilter利用社會(huì)網(wǎng)絡(luò)中的信任關(guān)系來(lái)評(píng)價(jià)對(duì)發(fā)送報(bào)告者的信任程度,其目的是聚集多種垃圾郵件檢測(cè)器的經(jīng)驗(yàn),使每一個(gè)不具備郵件分類功能的用戶主機(jī)通過(guò)查詢,就可以確定一個(gè)主機(jī)是否為垃圾郵件制造者。

    評(píng)級(jí)、信譽(yù)和推薦系統(tǒng)已經(jīng)成為很多Web在線系統(tǒng)的核心組成部分,這些系統(tǒng)通過(guò)綜合用戶對(duì)產(chǎn)品和服務(wù)的評(píng)論,從而形成有價(jià)值的參考信息。比較成功的商業(yè)案例包括Amazon和eBay的推薦系統(tǒng)[10]和Google網(wǎng)頁(yè)評(píng)級(jí)系統(tǒng)[11]等。

    有些學(xué)者研究識(shí)別惡意網(wǎng)頁(yè)的安全機(jī)制。如,Jean Camp提出了一個(gè)NetTrust系統(tǒng)[12],它結(jié)合用戶的瀏覽習(xí)慣和朋友的意見(jiàn)來(lái)識(shí)別惡意網(wǎng)頁(yè),將好友的瀏覽行為信息放到工具欄上,供用戶參考。但該系統(tǒng)缺乏社會(huì)化網(wǎng)絡(luò)中信任傳遞的應(yīng)用,只利用直接好友的意見(jiàn),沒(méi)有對(duì)評(píng)價(jià)信息進(jìn)行綜合,所得到的網(wǎng)頁(yè)評(píng)價(jià)信息有限。

    WOT是一個(gè)基于社區(qū)的、免費(fèi)的瀏覽器插件[13]。當(dāng)用戶在網(wǎng)上瀏覽和購(gòu)物時(shí),WOT可以保護(hù)用戶的安全。WOT用顏色標(biāo)記網(wǎng)頁(yè)上的鏈接來(lái)提醒用戶:紅色代表可疑網(wǎng)站,綠色代表健康網(wǎng)站。每個(gè)網(wǎng)絡(luò)用戶都可以注冊(cè)成為WOT用戶,并對(duì)網(wǎng)站進(jìn)行評(píng)價(jià)。WOT將用戶的所有評(píng)價(jià)綜合起來(lái)形成對(duì)網(wǎng)站的評(píng)價(jià)值,但是該插件沒(méi)有應(yīng)用社會(huì)信任,用戶不能根據(jù)好友的建議訪問(wèn)網(wǎng)站。

    很多研究者提出了社會(huì)網(wǎng)絡(luò)中信任傳遞的計(jì)算方法[14,15]。其中文獻(xiàn)[15]提出的方法非常簡(jiǎn)單,是一個(gè)輕量級(jí)算法。本文將該方法應(yīng)用于分布式防御系統(tǒng)中計(jì)算信任的傳遞,因而不會(huì)明顯增加用戶主機(jī)運(yùn)行開(kāi)銷。

    3 惡意網(wǎng)頁(yè)協(xié)作防御系統(tǒng)

    3.1 系統(tǒng)簡(jiǎn)介

    在網(wǎng)頁(yè)協(xié)作防御系統(tǒng)中,網(wǎng)頁(yè)評(píng)價(jià)分布式地內(nèi)嵌于每個(gè)用戶的瀏覽器中,用戶可以對(duì)訪問(wèn)的網(wǎng)頁(yè)進(jìn)行評(píng)價(jià)。依據(jù)“本地存儲(chǔ)、定期交換、及時(shí)通知”的原則存儲(chǔ)用戶網(wǎng)頁(yè)評(píng)價(jià),獲取好友評(píng)價(jià)信息,警告好友防范惡意網(wǎng)頁(yè)。每個(gè)用戶主機(jī)設(shè)置一個(gè)評(píng)價(jià)表,用于存儲(chǔ)用戶及其好友對(duì)所瀏覽網(wǎng)頁(yè)的安全程度的評(píng)價(jià);用戶通過(guò)社會(huì)網(wǎng)絡(luò)平臺(tái)與好友定期交換網(wǎng)頁(yè)評(píng)價(jià)信息;發(fā)現(xiàn)惡意程度高的網(wǎng)頁(yè),用戶應(yīng)及時(shí)通知其好友。

    社會(huì)網(wǎng)絡(luò)采用MSN用戶構(gòu)成的即時(shí)通信網(wǎng)絡(luò),通過(guò)信任傳遞的計(jì)算獲得對(duì)間接好友的間接信任程度,即間接信任值。根據(jù)用戶直接好友和間接好友的信任值及其對(duì)網(wǎng)頁(yè)的評(píng)價(jià)值,計(jì)算用戶評(píng)價(jià)表中每個(gè)網(wǎng)頁(yè)的綜合評(píng)價(jià)值。由于每個(gè)用戶信任的好友以及信任的程度都是不同的,因此針對(duì)同一個(gè)網(wǎng)頁(yè),在不同用戶主機(jī)上,計(jì)算所得的網(wǎng)頁(yè)綜合評(píng)價(jià)值通常也不相同。

    用戶訪問(wèn)一個(gè)先前沒(méi)有瀏覽過(guò)的網(wǎng)頁(yè)時(shí),瀏覽器插件會(huì)過(guò)濾網(wǎng)頁(yè):首先檢查第三方提供的惡意網(wǎng)址列表,然后檢查用戶評(píng)價(jià)表,根據(jù)計(jì)算得到的綜合評(píng)價(jià)值所處的區(qū)間,給用戶不同的提示。若繼續(xù)訪問(wèn)該頁(yè)面,用戶可以評(píng)價(jià)該頁(yè)面的安全級(jí)別,給網(wǎng)頁(yè)打分。如果用戶評(píng)價(jià)表中沒(méi)有該網(wǎng)址,直接顯示該網(wǎng)頁(yè),用戶即可打分。

    若用戶訪問(wèn)一個(gè)惡意程度很高的網(wǎng)頁(yè),對(duì)其評(píng)分很低,則需要立即發(fā)送其評(píng)價(jià)給好友,及時(shí)提醒好友避免打開(kāi)該網(wǎng)頁(yè)。好友可以繼續(xù)向其好友傳遞該評(píng)價(jià),從而降低惡意網(wǎng)頁(yè)的訪問(wèn)量,減少惡意網(wǎng)頁(yè)帶來(lái)的危害。

    3.2 社會(huì)信任及其傳遞

    通過(guò)對(duì)信任及其傳遞進(jìn)行計(jì)算,獲得達(dá)到一定信任程度的好友,根據(jù)這些好友的信任值計(jì)算網(wǎng)頁(yè)綜合評(píng)價(jià)值。

    3.2.1 信任的概念

    根據(jù)文獻(xiàn)[16]對(duì)信任的定義以及本文的應(yīng)用環(huán)境,對(duì)社會(huì)信任定義如下。

    定義 1 社會(huì)信任是一種建立在已有知識(shí)上的主觀判斷,是用戶A根據(jù)所處環(huán)境,對(duì)用戶B能夠按照用戶A的意愿提供特定服務(wù)的度量,以下簡(jiǎn)稱信任。

    定義2 直接信任(direct trust)是用戶A根據(jù)與用戶B的直接聯(lián)系歷史記錄而得出的對(duì)用戶B的信任。

    定義 3 間接信任(indirect trust)是用戶間根據(jù)第三個(gè)用戶的推薦形成的信任,也稱推薦信任。

    如圖1所示,將3個(gè)用戶的信任關(guān)系進(jìn)行了抽象,其中,TAB表示用戶A對(duì)用戶B的信任值。用戶A與C之間不存在直接關(guān)系,用戶A為獲得對(duì)用戶C的間接信任值,需要求助于用戶B。根據(jù)用戶B的推薦,利用信任傳遞公式計(jì)算,可以得到A對(duì)C的間接信任值。

    圖1 用戶信任關(guān)系傳遞

    3.2.2 信任傳遞機(jī)制

    間接信任通過(guò)信任傳遞機(jī)制來(lái)計(jì)算。

    本文使用Golbeck[15]提出的信任計(jì)算模型,其中,2個(gè)用戶之間的間接信任值計(jì)算公式如式(1)所示。

    其中,Tij表示用戶i對(duì)用戶j的信任值,N(i)表示i的所有好友集合,包括直接好友和間接好友。

    當(dāng)用戶計(jì)算對(duì)間接好友的信任值時(shí),需要獲得好友對(duì)間接好友的信任。通過(guò)與好友互換信息的方式可以獲得這些信任值,然后進(jìn)行信任傳遞計(jì)算。對(duì)于信任值很低的好友,用戶不愿意與其交換信息。為了忽略這些好友的評(píng)價(jià),設(shè)置一個(gè)可信度閾值Tmin。當(dāng)計(jì)算得到的間接信任值大于Tmin時(shí),則記錄該好友信息,同時(shí)與該好友交換網(wǎng)頁(yè)評(píng)價(jià)信息;否則不記錄該用戶及其評(píng)價(jià)信息。

    3.3 個(gè)人評(píng)價(jià)

    用戶訪問(wèn)一個(gè)網(wǎng)頁(yè)時(shí),可以對(duì)該網(wǎng)頁(yè)進(jìn)行評(píng)價(jià),稱為直接評(píng)價(jià)。但要求用戶評(píng)價(jià)所訪問(wèn)的每一個(gè)網(wǎng)頁(yè)比較困難,為了補(bǔ)充評(píng)價(jià)信息,根據(jù)用戶的瀏覽行為增加一種評(píng)價(jià)方式:行為評(píng)價(jià)。

    3.3.1 直接評(píng)價(jià)

    WOT將網(wǎng)頁(yè)分為5個(gè)級(jí)別:極差、較差、令人不滿意、較好、極佳,這種分級(jí)方式比較粗略。NetTrust 允許用戶在區(qū)間[1, 5]和[?1, ?5]指定一個(gè)值為網(wǎng)頁(yè)評(píng)級(jí)。為了精確地對(duì)網(wǎng)頁(yè)分級(jí)且便于計(jì)算網(wǎng)頁(yè)綜合評(píng)價(jià)值,?1、?2、?3、?4、?5 分別表示網(wǎng)頁(yè)的危險(xiǎn)程度:有點(diǎn)低、較低、低、很低、嚴(yán)重。相應(yīng)地,正值代表網(wǎng)站的健康程度。用戶可以指定一個(gè)[?5, 5]之間的數(shù)值來(lái)評(píng)價(jià)一個(gè)網(wǎng)頁(yè)的安全程度。負(fù)值代表用戶認(rèn)為該網(wǎng)頁(yè)存在危險(xiǎn)性,正值代表用戶認(rèn)為該網(wǎng)頁(yè)為健康網(wǎng)頁(yè)。用戶根據(jù)自己的瀏覽經(jīng)驗(yàn)為網(wǎng)頁(yè)打分,將其評(píng)價(jià)結(jié)果存放到本地網(wǎng)頁(yè)評(píng)價(jià)表。最終網(wǎng)頁(yè)上顯示給用戶的綜合評(píng)價(jià)值是[?5, 5]區(qū)間內(nèi)的一個(gè)值,可以使用戶獲得更精確的網(wǎng)頁(yè)安全信息。

    3.3.2 行為評(píng)價(jià)

    用戶只瀏覽網(wǎng)頁(yè)而不對(duì)網(wǎng)頁(yè)的安全性進(jìn)行主動(dòng)評(píng)價(jià)時(shí),可以利用用戶的瀏覽行為對(duì)網(wǎng)頁(yè)形成評(píng)價(jià)。當(dāng)一個(gè)用戶多次重復(fù)訪問(wèn)一個(gè)網(wǎng)站時(shí),說(shuō)明該用戶已經(jīng)足夠信任該網(wǎng)站,默認(rèn)該網(wǎng)站為健康網(wǎng)站。NetTrust系統(tǒng)記錄用戶對(duì)每個(gè)網(wǎng)站的訪問(wèn)頻率,以此作為參數(shù)獲得對(duì)該網(wǎng)站的評(píng)價(jià)[12]。

    行為評(píng)價(jià)使用用戶訪問(wèn)一個(gè)網(wǎng)站的次數(shù)來(lái)評(píng)價(jià)網(wǎng)站的健康程度。對(duì)于一個(gè)給定的網(wǎng)頁(yè),行為評(píng)價(jià)用一個(gè)[0, 5]區(qū)間內(nèi)的整數(shù)值來(lái)評(píng)價(jià)網(wǎng)頁(yè)的健康程度,與直接評(píng)價(jià)的正數(shù)區(qū)間保持一致。根據(jù)用戶的瀏覽行為和綜合評(píng)價(jià)值的計(jì)算需要,為行為評(píng)價(jià)選取 4個(gè)影響因素:最大約束值、開(kāi)始計(jì)數(shù)延遲、最小訪問(wèn)間隔和計(jì)數(shù)衰減期限,用以限制計(jì)數(shù)的最大值和有效性,可以較精確地間接評(píng)價(jià)網(wǎng)頁(yè)的健康程度。

    1) 最大約束值

    用來(lái)設(shè)置行為評(píng)價(jià)值的上限。最大約束值將行為評(píng)價(jià)值限定在5以內(nèi),計(jì)數(shù)達(dá)到5之后就不再增加,使得行為評(píng)價(jià)值和直接評(píng)價(jià)值在數(shù)值上統(tǒng)一,便于綜合評(píng)價(jià)值的計(jì)算。

    2) 開(kāi)始計(jì)數(shù)延遲

    當(dāng)用戶第一次訪問(wèn)一個(gè)網(wǎng)站時(shí),不能立即將這個(gè)網(wǎng)站的行為評(píng)價(jià)值記為 1,要經(jīng)歷一段時(shí)間即開(kāi)始計(jì)數(shù)延遲之后才會(huì)將該網(wǎng)站的評(píng)價(jià)值設(shè)為 1。開(kāi)始計(jì)數(shù)延遲設(shè)置為5天。根據(jù)APWG的統(tǒng)計(jì)[17],釣魚網(wǎng)站的平均存活時(shí)間通常不超過(guò)5天,設(shè)置開(kāi)始計(jì)數(shù)延遲能夠避免對(duì)釣魚網(wǎng)站的錯(cuò)誤計(jì)數(shù)。

    3) 最小訪問(wèn)間隔

    行為評(píng)價(jià)隨著用戶的訪問(wèn)次數(shù)不斷變化。對(duì)網(wǎng)頁(yè)的重復(fù)訪問(wèn)必須達(dá)到一定的時(shí)間間隔,訪問(wèn)次數(shù)才具有一定的意義。如果不設(shè)置該參數(shù),用戶可以通過(guò)不斷刷新某一個(gè)頁(yè)面來(lái)達(dá)到提升該頁(yè)面行為評(píng)價(jià)值的目的。若用戶長(zhǎng)期重復(fù)訪問(wèn)某個(gè)網(wǎng)站,每天訪問(wèn)一次該網(wǎng)站是多數(shù)用戶的習(xí)慣,因此將最小訪問(wèn)間隔設(shè)置為一天。

    4) 計(jì)數(shù)衰減期限

    如果用戶在一段很長(zhǎng)時(shí)間內(nèi)(即衰減期限)都沒(méi)再訪問(wèn)某個(gè)網(wǎng)頁(yè),該網(wǎng)頁(yè)的行為評(píng)價(jià)值縮減到原來(lái)的一半。計(jì)數(shù)衰減期限設(shè)置為 15天。若用戶很久沒(méi)有訪問(wèn)一個(gè)網(wǎng)頁(yè),之后重新開(kāi)始訪問(wèn)該網(wǎng)頁(yè),則根據(jù)前面的計(jì)數(shù)規(guī)則繼續(xù)對(duì)其進(jìn)行行為評(píng)價(jià)。

    對(duì)于同一個(gè)網(wǎng)頁(yè),如果用戶給出了直接評(píng)價(jià),則不再記錄行為評(píng)價(jià)。除了對(duì)一個(gè)網(wǎng)頁(yè)進(jìn)行數(shù)值評(píng)價(jià)外,用戶還可以進(jìn)行文字描述。這些文字描述對(duì)網(wǎng)頁(yè)的數(shù)值評(píng)價(jià)沒(méi)有影響,但當(dāng)用戶訪問(wèn)該網(wǎng)頁(yè)時(shí),相關(guān)描述會(huì)被顯示,用戶可以選擇查看。

    3.4 基于信任的網(wǎng)頁(yè)綜合評(píng)價(jià)

    每個(gè)用戶主機(jī)上設(shè)置一個(gè)網(wǎng)頁(yè)評(píng)價(jià)表,如表 1所示。用于存儲(chǔ)用戶及其好友(包括直接好友與間接好友)對(duì)訪問(wèn)過(guò)網(wǎng)頁(yè)的安全程度評(píng)價(jià),以及用戶對(duì)其好友的信任值。用戶ID使用用戶的MSN賬號(hào),是全局唯一的。該表同時(shí)也保存本地用戶做出的評(píng)價(jià),并以100%作為其信任值。表1中最后一行是綜合評(píng)價(jià)值,在綜合其他用戶對(duì)網(wǎng)頁(yè)評(píng)價(jià)和其信任值的基礎(chǔ)上進(jìn)行計(jì)算得到。這些評(píng)價(jià)具有個(gè)體性,每個(gè)用戶根據(jù)自己的網(wǎng)頁(yè)評(píng)價(jià)表計(jì)算網(wǎng)頁(yè)綜合評(píng)價(jià)值。任何2個(gè)用戶的網(wǎng)頁(yè)評(píng)價(jià)表是不同的。

    好友之間交換網(wǎng)頁(yè)評(píng)價(jià)信息可以幫助用戶利用好友的經(jīng)驗(yàn)豐富自己的網(wǎng)頁(yè)評(píng)價(jià)表。經(jīng)驗(yàn)豐富和值得信賴的好友信任值會(huì)比較高,會(huì)提供更有價(jià)值的信息。

    式(2)給出了計(jì)算一個(gè)網(wǎng)頁(yè)的綜合評(píng)價(jià)值的方法,其中 Ru表示對(duì)網(wǎng)址u的綜合評(píng)價(jià)值,rju表示好友j對(duì)網(wǎng)址u的評(píng)價(jià)值。

    它綜合所有訪問(wèn)過(guò)該網(wǎng)頁(yè)且達(dá)到可信度閾值的好友給出的評(píng)價(jià)值,以對(duì)好友的信任值作為權(quán)重,進(jìn)行加權(quán)評(píng)價(jià),計(jì)算出的綜合評(píng)價(jià)值如表1所示。一個(gè)信任程度高的好友對(duì)網(wǎng)頁(yè)的評(píng)價(jià)值在綜合評(píng)價(jià)值中的貢獻(xiàn)會(huì)多一些。

    表1 網(wǎng)頁(yè)評(píng)價(jià)

    當(dāng)用戶訪問(wèn)一個(gè)網(wǎng)頁(yè)時(shí),根據(jù)綜合評(píng)價(jià)值給用戶不同的提示。若綜合評(píng)價(jià)值不大于?4,直接終止網(wǎng)頁(yè)的顯示,給出嚴(yán)重警告并顯示給出評(píng)價(jià)值的好友及其信任值,向用戶提示該網(wǎng)站可能會(huì)損害用戶計(jì)算機(jī);若綜合評(píng)價(jià)值在(?4,0)范圍內(nèi),顯示網(wǎng)頁(yè)之前給用戶一個(gè)提示,顯示出綜合評(píng)價(jià)值,提示用戶是否繼續(xù)顯示;如果綜合評(píng)價(jià)值是正值,直接顯示網(wǎng)頁(yè),不給用戶提示,同時(shí)仍然顯示綜合評(píng)價(jià)值;若用戶評(píng)價(jià)表中沒(méi)有該網(wǎng)頁(yè),則直接顯示。若只有一個(gè)好友訪問(wèn)過(guò)某個(gè)惡意網(wǎng)頁(yè),對(duì)該網(wǎng)頁(yè)評(píng)價(jià)值不大于?4時(shí),他會(huì)通知其所有好友包括該用戶。若該用戶所有其他好友都沒(méi)有瀏覽過(guò)該網(wǎng)頁(yè),即其他好友對(duì)該網(wǎng)頁(yè)的評(píng)價(jià)值都為 0。最后計(jì)算得到的綜合評(píng)價(jià)值與好友的評(píng)價(jià)值相同。若該好友是一個(gè)惡意用戶,用虛假的網(wǎng)頁(yè)評(píng)價(jià)阻止其好友訪問(wèn)該網(wǎng)頁(yè),多個(gè)用戶會(huì)受其影響不能訪問(wèn)健康網(wǎng)頁(yè)。為了避免這種情況,將評(píng)價(jià)該網(wǎng)頁(yè)的好友顯示給用戶,由用戶決定是否繼續(xù)訪問(wèn)該網(wǎng)頁(yè)。

    對(duì)于用戶以前瀏覽過(guò)的網(wǎng)頁(yè),根據(jù)網(wǎng)頁(yè)評(píng)價(jià)表中用戶自己的評(píng)價(jià)進(jìn)行過(guò)濾。

    3.5 好友之間的協(xié)作方式

    本系統(tǒng)通過(guò)使用MSN提供的開(kāi)放接口來(lái)應(yīng)用社會(huì)網(wǎng)絡(luò)。MSN是微軟公司推出的一款即時(shí)通信軟件,可以與親人、朋友和同事等進(jìn)行即時(shí)交流?,F(xiàn)實(shí)生活中的朋友關(guān)系在MSN中得到很好的體現(xiàn),出現(xiàn)在MSN好友列表中的用戶大多數(shù)是用戶生活中真實(shí)的同學(xué)、朋友和親人。

    用戶可以通過(guò)MSN賬號(hào)登錄我們的系統(tǒng),系統(tǒng)自動(dòng)記錄用戶賬號(hào)信息,并將MSN的好友信息集成到系統(tǒng)中,實(shí)現(xiàn)好友之間的協(xié)作。

    系統(tǒng)提供接口允許用戶對(duì)自己的好友設(shè)定一個(gè)信任值,用百分?jǐn)?shù)來(lái)描述。如用戶非常信任某個(gè)好友,可以用90%以上的數(shù)值表示。這些信任值用于信任傳遞和網(wǎng)頁(yè)綜合評(píng)價(jià)值的計(jì)算。

    每個(gè)用戶對(duì)網(wǎng)頁(yè)的評(píng)價(jià)和對(duì)好友的信任值都保存在本地。為了獲得好友對(duì)網(wǎng)頁(yè)的評(píng)價(jià)值,用戶與其直接好友會(huì)定期交換彼此的網(wǎng)頁(yè)評(píng)價(jià)和對(duì)好友的信任值信息。交換網(wǎng)頁(yè)評(píng)價(jià)信息相當(dāng)于用戶向好友咨詢的過(guò)程。因?yàn)槿魏螢g覽行為都無(wú)法容忍過(guò)長(zhǎng)的等待時(shí)間,用戶不能在訪問(wèn)網(wǎng)頁(yè)的時(shí)候才去向好友咨詢,所以,只有獲取盡可能多可信任用戶的網(wǎng)頁(yè)評(píng)價(jià)值存儲(chǔ)到本地,才能在訪問(wèn)網(wǎng)頁(yè)前及時(shí)獲得準(zhǔn)確的網(wǎng)頁(yè)綜合評(píng)價(jià)信息,對(duì)用戶訪問(wèn)網(wǎng)頁(yè)提供建議。

    圖2是一個(gè)信息交換的例子。用戶A與B1、B2互相交換信息后,A就獲得了B1和B2對(duì)C的信任值,通過(guò)式(1)計(jì)算得到A對(duì)C的間接信任值。B1、B2和C以及C和D也會(huì)互相交換信息,所以B1和B2也可以計(jì)算對(duì)D的信任值。從而在下一次交換信息時(shí)A能夠計(jì)算對(duì)D的間接信任值。用戶通過(guò)與好友之間信息的不斷交換,會(huì)獲得盡可能多的可信任用戶的網(wǎng)頁(yè)評(píng)價(jià)信息。

    圖2 信息交換舉例

    為了及時(shí)向好友發(fā)送惡意網(wǎng)頁(yè)的警告信息,除了定期交換信息外,系統(tǒng)還將被用戶評(píng)價(jià)為高危網(wǎng)頁(yè)的網(wǎng)頁(yè)評(píng)價(jià)信息(如用戶把某個(gè)網(wǎng)站評(píng)價(jià)為?4以下的值)迅速分發(fā)給自己的好友。收到這個(gè)評(píng)價(jià)信息的好友按同樣方法處理。這使得惡意網(wǎng)頁(yè)的評(píng)價(jià)信息能及時(shí)發(fā)送出去,避免更多的用戶訪問(wèn)惡意網(wǎng)頁(yè)。

    3.6 系統(tǒng)實(shí)現(xiàn)

    圖3給出了本文設(shè)計(jì)的系統(tǒng)結(jié)構(gòu)。虛線框表示防御系統(tǒng)在用戶主機(jī)上實(shí)現(xiàn)的功能。瀏覽器工具欄模塊用于顯示網(wǎng)頁(yè)評(píng)價(jià)信息和用戶進(jìn)行網(wǎng)頁(yè)評(píng)價(jià)的接口,評(píng)價(jià)信息主要包括好友對(duì)該網(wǎng)頁(yè)的綜合評(píng)價(jià)值以及第三方資源評(píng)價(jià)。評(píng)價(jià)引擎主要功能是計(jì)算用戶對(duì)其好友的間接信任值和網(wǎng)頁(yè)綜合評(píng)價(jià)值。社會(huì)網(wǎng)絡(luò)模塊主要用于存儲(chǔ)用戶的好友信息,以及通過(guò)MSN接口與其他好友進(jìn)行信息交換功能。同步模塊主要功能是獲取和存儲(chǔ)網(wǎng)頁(yè)評(píng)價(jià)信息。

    用戶啟動(dòng)裝有該插件的瀏覽器后,用其 MSN賬號(hào)登錄系統(tǒng)。系統(tǒng)啟動(dòng)以后,用戶可以通過(guò)瀏覽器工具欄查看網(wǎng)頁(yè)綜合評(píng)價(jià)值以及用戶對(duì)網(wǎng)頁(yè)的相關(guān)文字描述,或者評(píng)價(jià)正在訪問(wèn)的網(wǎng)頁(yè)。用戶評(píng)價(jià)信息通過(guò)同步模塊完成存儲(chǔ)。在用戶瀏覽網(wǎng)頁(yè)的同時(shí),系統(tǒng)會(huì)定期通過(guò)同步模塊和社會(huì)網(wǎng)絡(luò)模塊與其他用戶交換評(píng)價(jià)信息。

    圖3 系統(tǒng)結(jié)構(gòu)

    第三方專業(yè)機(jī)構(gòu)提供的惡意網(wǎng)址列表比較全面,好友之間的經(jīng)驗(yàn)共享比較及時(shí),兩者相互補(bǔ)充能夠更加有效地降低惡意網(wǎng)頁(yè)的訪問(wèn)量。本系統(tǒng)使用Google安全瀏覽API[18],可以根據(jù)Google不斷更新的可疑仿冒網(wǎng)頁(yè)和惡意軟件網(wǎng)頁(yè)列表來(lái)檢查網(wǎng)址。惡意網(wǎng)址列表中出現(xiàn)的網(wǎng)頁(yè)或者好友評(píng)價(jià)的惡意網(wǎng)頁(yè)都要被過(guò)濾,減少對(duì)用戶的威脅。

    4 Sybil攻擊防御

    Sybil攻擊是指一個(gè)惡意節(jié)點(diǎn)可以使用多個(gè)ID偽裝成網(wǎng)絡(luò)系統(tǒng)中多個(gè)不同節(jié)點(diǎn),從而對(duì)評(píng)價(jià)結(jié)果產(chǎn)生影響?;谏鐣?huì)信任的網(wǎng)頁(yè)防御機(jī)制一個(gè)重要的安全特性就是可以有效抵御 Sybil攻擊。系統(tǒng)通過(guò)MSN開(kāi)放接口來(lái)接入社會(huì)網(wǎng)絡(luò)。若一個(gè)惡意用戶偽造多個(gè)MSN賬號(hào)進(jìn)行Sybil攻擊,由于缺乏信任,偽造的賬號(hào)難以與網(wǎng)絡(luò)中其他用戶建立好友關(guān)系,因此無(wú)法獲得其他用戶比較高的信任。系統(tǒng)不接收沒(méi)有達(dá)到可信度閾值的用戶信息,評(píng)價(jià)表中不存放這些用戶對(duì)網(wǎng)頁(yè)的評(píng)價(jià)值,使得偽造賬號(hào)對(duì)網(wǎng)頁(yè)的評(píng)價(jià)無(wú)法影響網(wǎng)頁(yè)綜合評(píng)價(jià)值的計(jì)算。因此本文設(shè)計(jì)的系統(tǒng)能夠有效抵御Sybil攻擊。

    5 仿真實(shí)驗(yàn)

    設(shè)計(jì)的仿真實(shí)驗(yàn)中,100個(gè)用戶隨機(jī)訪問(wèn)1000個(gè)虛擬網(wǎng)頁(yè),其中包括900個(gè)健康網(wǎng)頁(yè)和100個(gè)惡意網(wǎng)頁(yè)。實(shí)驗(yàn)分為3種情況:第一種不應(yīng)用協(xié)作防御系統(tǒng);第二種社會(huì)信任不傳遞,只利用直接好友的瀏覽行為信息,即NetTrust系統(tǒng)采用的方法;第三種在信任傳遞的基礎(chǔ)上,用戶相互協(xié)作,共同防御惡意網(wǎng)頁(yè)。

    實(shí)驗(yàn)記錄所有用戶訪問(wèn)的惡意網(wǎng)頁(yè)的總次數(shù)。對(duì)信任不傳遞和信任傳遞2種情況的實(shí)驗(yàn)結(jié)果進(jìn)行比較。這2種情況下每步惡意網(wǎng)頁(yè)的總訪問(wèn)次數(shù)與第一種情況相比,計(jì)算得到總訪問(wèn)次數(shù)的降低率,如圖4所示。其中橫坐標(biāo)是實(shí)驗(yàn)步數(shù),每訪問(wèn)一次網(wǎng)頁(yè)作為一步;縱坐標(biāo)表示惡意網(wǎng)頁(yè)總訪問(wèn)次數(shù)的減少率,即應(yīng)用防御系統(tǒng)和未應(yīng)用防御系統(tǒng)惡意網(wǎng)頁(yè)訪問(wèn)次數(shù)之差與未應(yīng)用防御系統(tǒng)時(shí)訪問(wèn)次數(shù)的比值。應(yīng)用防御系統(tǒng),30步后,惡意網(wǎng)頁(yè)訪問(wèn)減少率逐漸達(dá)到 100%,說(shuō)明用戶最終都不再訪問(wèn)惡意網(wǎng)頁(yè)。應(yīng)用信任傳遞比沒(méi)有信任傳遞惡意網(wǎng)頁(yè)訪問(wèn)減少率明顯增大,說(shuō)明防御系統(tǒng)的防御能力比NetTrust系統(tǒng)有明顯增強(qiáng)。

    圖4 2種情況下訪問(wèn)惡意網(wǎng)頁(yè)減少率

    用戶對(duì)網(wǎng)頁(yè)的主觀評(píng)價(jià)有可能是不正確的。改變?cè)u(píng)價(jià)的正確率,在60%、75%、90%、100%的用戶評(píng)價(jià)是正確的情況下,與第一種情況進(jìn)行比較,惡意網(wǎng)頁(yè)的總訪問(wèn)量下降比例如圖5所示。實(shí)驗(yàn)表明用戶評(píng)價(jià)的正確率越高,系統(tǒng)防御能力越強(qiáng),但是差別并不明顯,說(shuō)明防御系統(tǒng)對(duì)用戶評(píng)價(jià)正確率具有彈性,系統(tǒng)可以容忍一定程度的用戶錯(cuò)誤評(píng)價(jià)。

    圖5 評(píng)價(jià)準(zhǔn)確率不同時(shí)訪問(wèn)惡意網(wǎng)頁(yè)減少率

    惡意網(wǎng)頁(yè)的數(shù)目會(huì)不斷變化,設(shè)置實(shí)驗(yàn)中惡意網(wǎng)頁(yè)的數(shù)目分別為:100、200和300,惡意網(wǎng)頁(yè)總訪問(wèn)次數(shù)的減少率如圖6所示,表明網(wǎng)絡(luò)中惡意網(wǎng)頁(yè)的數(shù)目對(duì)系統(tǒng)的性能幾乎沒(méi)有影響。

    圖6 惡意網(wǎng)頁(yè)數(shù)目不同時(shí)訪問(wèn)惡意網(wǎng)頁(yè)減少率

    有些用戶不對(duì)網(wǎng)頁(yè)進(jìn)行評(píng)價(jià),做出評(píng)價(jià)的用戶分別為50%、70%、90%和100%時(shí),惡意網(wǎng)頁(yè)總訪問(wèn)次數(shù)減少率如圖7所示。評(píng)價(jià)的用戶越少,系統(tǒng)的性能會(huì)越差。只要有50%的用戶參與評(píng)價(jià),即可避免相當(dāng)一部分用戶訪問(wèn)惡意網(wǎng)頁(yè)。如果所有用戶都不評(píng)價(jià),相當(dāng)于沒(méi)有應(yīng)用協(xié)作防御系統(tǒng)。但是在用戶不直接對(duì)訪問(wèn)的網(wǎng)頁(yè)做出評(píng)價(jià)時(shí),系統(tǒng)可以應(yīng)用行為評(píng)價(jià)獲得網(wǎng)頁(yè)的評(píng)價(jià)值,彌補(bǔ)這個(gè)不足。

    圖7 參與評(píng)價(jià)的用戶的比例不同時(shí)訪問(wèn)惡意網(wǎng)頁(yè)減少率

    由于每個(gè)用戶訪問(wèn)的網(wǎng)頁(yè)數(shù)目有限,而且用戶好友大多是其同學(xué)、同事或者親朋好友,用戶與其可信任好友通常會(huì)有共同的愛(ài)好興趣或者成長(zhǎng)經(jīng)歷,網(wǎng)頁(yè)評(píng)價(jià)表中存儲(chǔ)的信息是有限的。采用的信任傳遞算法是輕量級(jí)的,因此防御系統(tǒng)不會(huì)明顯影響用戶主機(jī)系統(tǒng)的開(kāi)銷。

    6 結(jié)束語(yǔ)

    本文提出了一種輕量級(jí)的基于社會(huì)信任的惡意網(wǎng)頁(yè)分布式協(xié)作防御系統(tǒng)。通過(guò)即時(shí)通信網(wǎng)絡(luò)利用好友間的信任,進(jìn)行信任傳遞,存儲(chǔ)和獲取用戶對(duì)網(wǎng)頁(yè)的評(píng)價(jià)值,并且綜合多個(gè)用戶對(duì)于訪問(wèn)過(guò)的網(wǎng)頁(yè)的安全經(jīng)驗(yàn),協(xié)作防御惡意網(wǎng)頁(yè),整個(gè)社會(huì)網(wǎng)絡(luò)在宏觀上形成一個(gè)網(wǎng)狀的防御體系。由于即時(shí)通信的實(shí)時(shí)性,好友之間的經(jīng)驗(yàn)共享比較及時(shí),另外結(jié)合第三方專業(yè)機(jī)構(gòu)提供的惡意網(wǎng)址列表,利用該列表的全面性對(duì)系統(tǒng)加以補(bǔ)充,更加有效地降低惡意網(wǎng)頁(yè)的訪問(wèn)量。實(shí)驗(yàn)結(jié)果表明該系統(tǒng)顯著提高了社會(huì)網(wǎng)絡(luò)防御惡意網(wǎng)頁(yè)的能力。

    由于系統(tǒng)基于社會(huì)信任實(shí)現(xiàn),可以保證獲得的評(píng)價(jià)信息是可信的。但是在進(jìn)一步分辨高水平評(píng)價(jià)信息的問(wèn)題上還存在缺陷。在以后的工作中,可以采用有效反饋機(jī)制,用戶對(duì)每個(gè)好友做出的評(píng)價(jià)給出一個(gè)反饋。將第三方資源的評(píng)價(jià)結(jié)果作為參考評(píng)判好友對(duì)網(wǎng)頁(yè)評(píng)價(jià)的正確性,如果好友的評(píng)價(jià)正確,則提高其信任值;如果評(píng)價(jià)錯(cuò)誤,則降低其信任值。隨著網(wǎng)絡(luò)的演化動(dòng)態(tài)改變綜合網(wǎng)頁(yè)評(píng)價(jià)值,提高網(wǎng)絡(luò)對(duì)惡意網(wǎng)頁(yè)的實(shí)時(shí)防御能力。

    防御系統(tǒng)未區(qū)分社會(huì)網(wǎng)絡(luò)中不同連接度節(jié)點(diǎn)的能力。在未來(lái)工作中,可以應(yīng)用復(fù)雜網(wǎng)絡(luò)理論分析社會(huì)網(wǎng)絡(luò)特征,充分利用優(yōu)勢(shì)節(jié)點(diǎn)(好友特別多的節(jié)點(diǎn))的作用,更加合理地部署防護(hù)機(jī)制。

    [1]APWG.Anti phishing work group[EB/OL].http://www.antiphishing.org, 2011.

    [2]Google chrome and google safe browsing[EB/OL].http://www.google.com/chrome/intl/zh-cn/more/security.html, 2011.

    [3]SmartScreen filter[EB/OL].http://windows.microsoft.com/en-US/ internet- explorer/products/ie-9/features/smartscreen-filter, 2011.

    [4] Mark zuckerberg officially confirmed that facebook reached 750 million active users milestone[EB/OL].http://www.techsnapr.com/2011/07/07/mark-zuckerberg-officially-confirmed-that-facebook-reach ed-750-million-active-users-milestone/, 2011.

    [5]GOLBECK J.Weaving a Web of trust[J].Science Magazine, AAAS,2008, 321 (5896):1640-1641.

    [6]DONOVAN J O’, SMYTH B.Trust in recommender systems[A].IUI’05:Proceedings of the 10th International Conference on Intelligent User Interfaces[C].New York, NY, USA, 2005.167-174.

    [7]SIRIVIANOS M, KIM K, YANG X.SocialFilter:introducing social trust to collaborative spam mitigation[A].INFOCOM[C].2011.2300-2308.

    [8]BOYKIN P O, ROYCHOWDHURY V.Personal email networks:an effective anti-spam tool[J].IEEE Computer, 2005, 38(4):61-68.

    [9]YU H, KAMINSKY M, GIBBONS P B, et al.Sybilguard:defending against sybil attacks via social networks[A].Proc ACM SIGCOMM[C].2006.576-589.

    [10]RESNICK P, ZECKHAUSER R.Trust among strangers in Internet transactions:empirical analysis of ebay’s reputation system[J].The Economics of the Internet and E-Commerce, Advances in Applied Microeconomics, Elsevier Science, 2002,11:127-157.

    [11]PAGE L, BRIN S, MOTWANI R, et al.The Pagerank Citation Ranking:Bringing order to the Web[R].Stanford University, 1998.

    [12]JEAN CAMP L.Net trust:signaling malicious Web sites[J].I/S A Journal of Law and Policy in the Information Society, 2007, 3(2):211-235.

    [13]Safe browsing tool:WOT (Web of trust) [EB/OL].http://www.mywot.com/,2011.

    [14]HANG C, WANG Y, SINGH M P.Operators for propagating trust and their evaluation in social networks[A].Proceedings of the 8th International Joint Conference on Autonomous Agents and Multiagent Systems[C].2009.1025-1032.

    [15] GOLBECK J.Computing and Applying Trust in Web-based Social Networks[D].University of Maryland, College Park, 2005.

    [16]李勇軍,代亞非.對(duì)等網(wǎng)絡(luò)信任機(jī)制研究[J].計(jì)算機(jī)學(xué)報(bào) 2010, (3):390-405.LI Y J, DAI Y F.Research on trust mechanism for peer-to-peer network[J].Chinese Journal of Computers, 2010, (3):390-405.

    [17]AARON G, RASMUSSEN R.Global phishing survey 2h2010:trends and domain name use[EB/OL].http://www.antiphishing.org/reports/APWG_GlobalPhishingSurvey_2H2010.pdf, 2011.

    [18]Google safe browsing API[EB/OL].http://code.google.com/intl/en/apis/safebrowsing/, 2010.

    猜你喜歡
    好友網(wǎng)頁(yè)信任
    屬羊
    表示信任
    基于CSS的網(wǎng)頁(yè)導(dǎo)航欄的設(shè)計(jì)
    電子制作(2018年10期)2018-08-04 03:24:38
    刪除好友
    雜文月刊(2017年20期)2017-11-13 02:25:06
    基于URL和網(wǎng)頁(yè)類型的網(wǎng)頁(yè)信息采集研究
    電子制作(2017年2期)2017-05-17 03:54:56
    嚶嚶嚶,人與人的信任在哪里……
    桃之夭夭B(2017年2期)2017-02-24 17:32:43
    從生到死有多遠(yuǎn)
    網(wǎng)頁(yè)制作在英語(yǔ)教學(xué)中的應(yīng)用
    信任
    10個(gè)必知的網(wǎng)頁(yè)設(shè)計(jì)術(shù)語(yǔ)
    www.熟女人妻精品国产| 一级a爱视频在线免费观看| 国产成人av教育| 最近最新中文字幕大全免费视频| 草草在线视频免费看| 精品不卡国产一区二区三区| 国产成人av激情在线播放| 99久久国产精品久久久| 亚洲欧美一区二区三区黑人| 99热只有精品国产| 好男人电影高清在线观看| 日韩精品中文字幕看吧| 精品国内亚洲2022精品成人| 中文字幕精品亚洲无线码一区 | 国产欧美日韩精品亚洲av| 99国产极品粉嫩在线观看| 变态另类成人亚洲欧美熟女| 成人精品一区二区免费| 国产单亲对白刺激| 国产高清有码在线观看视频 | av免费在线观看网站| 黄色a级毛片大全视频| 久久草成人影院| 亚洲一卡2卡3卡4卡5卡精品中文| 日韩三级视频一区二区三区| 男女下面进入的视频免费午夜 | 精品国产美女av久久久久小说| 久久婷婷成人综合色麻豆| 国产精品亚洲美女久久久| 欧洲精品卡2卡3卡4卡5卡区| 热99re8久久精品国产| 久久久久九九精品影院| 亚洲av电影在线进入| 国产真人三级小视频在线观看| 每晚都被弄得嗷嗷叫到高潮| 老熟妇乱子伦视频在线观看| 日韩欧美国产在线观看| 制服诱惑二区| 亚洲性夜色夜夜综合| 国产精品免费一区二区三区在线| 免费看a级黄色片| 欧美成人午夜精品| 日本熟妇午夜| 成人精品一区二区免费| 午夜免费鲁丝| 色综合欧美亚洲国产小说| 首页视频小说图片口味搜索| 操出白浆在线播放| 亚洲精品久久国产高清桃花| 欧美成人性av电影在线观看| 波多野结衣高清作品| 欧美午夜高清在线| 国产又色又爽无遮挡免费看| 午夜视频精品福利| 亚洲五月色婷婷综合| 亚洲最大成人中文| 国内久久婷婷六月综合欲色啪| 可以免费在线观看a视频的电影网站| 久99久视频精品免费| 啪啪无遮挡十八禁网站| 国产高清有码在线观看视频 | 女人高潮潮喷娇喘18禁视频| 一二三四在线观看免费中文在| 日日摸夜夜添夜夜添小说| 美女扒开内裤让男人捅视频| 久久久久久亚洲精品国产蜜桃av| 国内精品久久久久久久电影| 男人的好看免费观看在线视频 | 色综合站精品国产| 午夜免费观看网址| 国产真人三级小视频在线观看| 91字幕亚洲| 国产伦一二天堂av在线观看| 国产aⅴ精品一区二区三区波| 性欧美人与动物交配| 国产熟女午夜一区二区三区| a在线观看视频网站| 天天添夜夜摸| 国产欧美日韩精品亚洲av| 日韩精品免费视频一区二区三区| 久久精品人妻少妇| 一区二区三区激情视频| 91成人精品电影| 亚洲久久久国产精品| 日韩三级视频一区二区三区| 99久久无色码亚洲精品果冻| 黄色片一级片一级黄色片| 老司机午夜福利在线观看视频| 日韩欧美在线二视频| 午夜久久久在线观看| 午夜免费鲁丝| 9191精品国产免费久久| 欧美日韩亚洲国产一区二区在线观看| 国产高清videossex| 看黄色毛片网站| 日韩大尺度精品在线看网址| 精品久久久久久久久久免费视频| 亚洲av电影不卡..在线观看| 中文字幕精品亚洲无线码一区 | 国产高清videossex| 中文字幕久久专区| 国产1区2区3区精品| 亚洲av片天天在线观看| 窝窝影院91人妻| 高清在线国产一区| 99久久综合精品五月天人人| 在线av久久热| 欧美日韩福利视频一区二区| 中国美女看黄片| 51午夜福利影视在线观看| av有码第一页| 精品国产美女av久久久久小说| 欧美在线黄色| 国产精品影院久久| 老汉色∧v一级毛片| 在线观看66精品国产| 两性午夜刺激爽爽歪歪视频在线观看 | 国内揄拍国产精品人妻在线 | 国产精品综合久久久久久久免费| 久久国产精品影院| 久久久久国产精品人妻aⅴ院| 精品第一国产精品| 日韩欧美在线二视频| 精品久久蜜臀av无| 久久性视频一级片| 亚洲aⅴ乱码一区二区在线播放 | 国产蜜桃级精品一区二区三区| 无遮挡黄片免费观看| 欧美又色又爽又黄视频| 色哟哟哟哟哟哟| 白带黄色成豆腐渣| 国产亚洲精品一区二区www| 怎么达到女性高潮| 久久久久久久久免费视频了| 色尼玛亚洲综合影院| 午夜福利成人在线免费观看| e午夜精品久久久久久久| 中文字幕人妻熟女乱码| 男人的好看免费观看在线视频 | 亚洲av日韩精品久久久久久密| www.999成人在线观看| АⅤ资源中文在线天堂| 岛国视频午夜一区免费看| 亚洲片人在线观看| 国产亚洲精品第一综合不卡| 自线自在国产av| 国产成人欧美| 国产男靠女视频免费网站| 美女免费视频网站| 天天躁夜夜躁狠狠躁躁| 中文亚洲av片在线观看爽| 曰老女人黄片| 国产熟女xx| 亚洲国产日韩欧美精品在线观看 | 亚洲精品国产一区二区精华液| 久久久久国产一级毛片高清牌| 在线看三级毛片| 99久久国产精品久久久| 1024手机看黄色片| 日韩大码丰满熟妇| 俄罗斯特黄特色一大片| 18禁国产床啪视频网站| 国产精品久久久av美女十八| 亚洲真实伦在线观看| 自线自在国产av| 18禁观看日本| 免费在线观看影片大全网站| 老汉色∧v一级毛片| 不卡一级毛片| 韩国精品一区二区三区| 99国产极品粉嫩在线观看| 老汉色∧v一级毛片| ponron亚洲| 999久久久国产精品视频| 色哟哟哟哟哟哟| 亚洲成人久久性| 欧美三级亚洲精品| 精品国产亚洲在线| 国产99白浆流出| 身体一侧抽搐| 国产爱豆传媒在线观看 | 久久久久久久久久黄片| 亚洲精品日韩在线中文字幕 | 亚洲电影在线观看av| 全区人妻精品视频| 熟女电影av网| .国产精品久久| 九九在线视频观看精品| 国产极品精品免费视频能看的| 免费观看在线日韩| 亚洲一区二区三区色噜噜| 国产亚洲精品久久久久久毛片| 国产视频一区二区在线看| 日本成人三级电影网站| 在线观看免费视频日本深夜| 夜夜看夜夜爽夜夜摸| 亚洲电影在线观看av| 免费在线观看影片大全网站| 悠悠久久av| 久久精品人妻少妇| 波多野结衣高清无吗| 日韩av不卡免费在线播放| av中文乱码字幕在线| 99国产极品粉嫩在线观看| 亚洲乱码一区二区免费版| 少妇被粗大猛烈的视频| 高清日韩中文字幕在线| 国产精品免费一区二区三区在线| 天堂动漫精品| 成人特级av手机在线观看| 久久久久久国产a免费观看| 欧美性猛交黑人性爽| 激情 狠狠 欧美| 嫩草影院新地址| 一个人观看的视频www高清免费观看| 嫩草影院入口| 国产精华一区二区三区| 亚洲国产色片| 麻豆成人午夜福利视频| 午夜激情福利司机影院| 国产亚洲欧美98| 女的被弄到高潮叫床怎么办| 丝袜喷水一区| 日韩一区二区视频免费看| 久久久久久久久久成人| 精品福利观看| 欧美区成人在线视频| 免费在线观看影片大全网站| 最好的美女福利视频网| 一区福利在线观看| 99久久中文字幕三级久久日本| 变态另类丝袜制服| 中国国产av一级| 最近中文字幕高清免费大全6| 国模一区二区三区四区视频| 国产精华一区二区三区| 麻豆乱淫一区二区| 中文字幕免费在线视频6| av在线老鸭窝| 精品久久久久久久久久免费视频| 国产伦在线观看视频一区| 三级经典国产精品| 22中文网久久字幕| 99久久精品热视频| 久久久久久大精品| 中文字幕熟女人妻在线| 男女之事视频高清在线观看| 精品免费久久久久久久清纯| 久久久久国内视频| 欧美色欧美亚洲另类二区| 亚洲国产精品国产精品| 国产伦精品一区二区三区四那| 特级一级黄色大片| 亚洲第一区二区三区不卡| 日韩精品青青久久久久久| 男人舔女人下体高潮全视频| 精品午夜福利在线看| 黄色视频,在线免费观看| 18禁在线无遮挡免费观看视频 | 99热只有精品国产| 色综合站精品国产| 99国产精品一区二区蜜桃av| 男人的好看免费观看在线视频| 麻豆精品久久久久久蜜桃| 日韩欧美国产在线观看| 免费av观看视频| 夜夜看夜夜爽夜夜摸| 亚洲精品日韩在线中文字幕 | 日本五十路高清| 色在线成人网| 国产欧美日韩精品亚洲av| 69人妻影院| 亚洲av免费高清在线观看| 如何舔出高潮| 精品久久久噜噜| av在线亚洲专区| 你懂的网址亚洲精品在线观看 | 最后的刺客免费高清国语| 人妻丰满熟妇av一区二区三区| 悠悠久久av| 丰满人妻一区二区三区视频av| 嫩草影院精品99| 一级毛片我不卡| 在线免费观看不下载黄p国产| 亚洲精品乱码久久久v下载方式| 国产精品野战在线观看| 一级黄色大片毛片| 成人毛片a级毛片在线播放| 亚洲成人精品中文字幕电影| 日本色播在线视频| 国产一区二区亚洲精品在线观看| 男插女下体视频免费在线播放| 欧美zozozo另类| 嫩草影院新地址| 一区二区三区免费毛片| 毛片女人毛片| 尤物成人国产欧美一区二区三区| 国产伦一二天堂av在线观看| 成人亚洲欧美一区二区av| 97人妻精品一区二区三区麻豆| 麻豆国产97在线/欧美| videossex国产| 干丝袜人妻中文字幕| 国产成人a区在线观看| 国产精品国产高清国产av| 在线观看av片永久免费下载| 菩萨蛮人人尽说江南好唐韦庄 | 午夜老司机福利剧场| aaaaa片日本免费| 中文字幕久久专区| 国产视频一区二区在线看| av中文乱码字幕在线| 哪里可以看免费的av片| 日日摸夜夜添夜夜爱| 亚洲精品456在线播放app| 成人精品一区二区免费| 亚洲中文字幕一区二区三区有码在线看| www日本黄色视频网| 亚洲最大成人av| 国产片特级美女逼逼视频| 亚洲国产精品久久男人天堂| 国产亚洲精品综合一区在线观看| 亚洲国产高清在线一区二区三| 男人舔女人下体高潮全视频| 久久久久久大精品| 一边摸一边抽搐一进一小说| 三级毛片av免费| 特大巨黑吊av在线直播| av在线亚洲专区| 亚洲精品在线观看二区| 国产一区二区在线av高清观看| 欧美在线一区亚洲| 97超级碰碰碰精品色视频在线观看| 尤物成人国产欧美一区二区三区| h日本视频在线播放| 在线观看一区二区三区| 欧美性感艳星| 午夜激情欧美在线| 亚洲三级黄色毛片| 免费无遮挡裸体视频| 午夜影院日韩av| 少妇的逼好多水| 一级毛片我不卡| 亚洲精品乱码久久久v下载方式| 亚洲国产精品合色在线| 亚洲精品日韩在线中文字幕 | 国产乱人视频| 久久久精品94久久精品| 免费观看的影片在线观看| 观看免费一级毛片| av福利片在线观看| 久久精品国产清高在天天线| 最近手机中文字幕大全| 日日摸夜夜添夜夜添小说| 国产成人精品久久久久久| 波多野结衣高清作品| 亚洲国产色片| 精品久久久久久久久久免费视频| 高清午夜精品一区二区三区 | 99国产极品粉嫩在线观看| 国产精品三级大全| 成人av在线播放网站| 国内精品久久久久精免费| 国产精品一区二区性色av| 99在线人妻在线中文字幕| 麻豆国产av国片精品| 精品国内亚洲2022精品成人| 免费在线观看影片大全网站| 国产精品一区二区三区四区久久| 国产欧美日韩一区二区精品| 亚洲第一电影网av| 精品福利观看| 久久婷婷人人爽人人干人人爱| 午夜福利在线观看吧| 日本一本二区三区精品| 悠悠久久av| 激情 狠狠 欧美| 亚洲一区高清亚洲精品| 国产成人freesex在线 | 一级毛片我不卡| 成人美女网站在线观看视频| 日本成人三级电影网站| 国产私拍福利视频在线观看| 禁无遮挡网站| 又黄又爽又刺激的免费视频.| 欧美日韩综合久久久久久| 97超视频在线观看视频| 精品免费久久久久久久清纯| 晚上一个人看的免费电影| 搞女人的毛片| 婷婷色综合大香蕉| 女人十人毛片免费观看3o分钟| 极品教师在线视频| 99久久九九国产精品国产免费| 亚洲美女视频黄频| 一区二区三区免费毛片| 乱码一卡2卡4卡精品| 寂寞人妻少妇视频99o| 精品国产三级普通话版| 亚洲国产精品成人综合色| 最新在线观看一区二区三区| 欧美激情国产日韩精品一区| 精品久久久久久久久亚洲| 深爱激情五月婷婷| 日本黄色片子视频| 久久久久国产精品人妻aⅴ院| 在线观看一区二区三区| 91久久精品国产一区二区成人| 国产精品久久电影中文字幕| 一个人看的www免费观看视频| 97人妻精品一区二区三区麻豆| 日本爱情动作片www.在线观看 | 欧美一区二区精品小视频在线| 舔av片在线| 免费看日本二区| 少妇熟女aⅴ在线视频| 国产不卡一卡二| 欧美成人一区二区免费高清观看| av在线老鸭窝| 久久欧美精品欧美久久欧美| 亚洲性夜色夜夜综合| 干丝袜人妻中文字幕| 99久久九九国产精品国产免费| 草草在线视频免费看| 国产亚洲精品久久久com| 国产精品电影一区二区三区| 亚洲精品一区av在线观看| 校园人妻丝袜中文字幕| 色尼玛亚洲综合影院| 精品熟女少妇av免费看| 有码 亚洲区| 精品久久久久久成人av| 在线观看66精品国产| 国产国拍精品亚洲av在线观看| 桃色一区二区三区在线观看| 亚洲色图av天堂| 日韩欧美三级三区| 亚洲人与动物交配视频| 日韩在线高清观看一区二区三区| 久久国产乱子免费精品| 午夜久久久久精精品| 两性午夜刺激爽爽歪歪视频在线观看| 国产成人91sexporn| 国产人妻一区二区三区在| 免费看光身美女| 日韩三级伦理在线观看| 欧美色欧美亚洲另类二区| 国产高清不卡午夜福利| 久久久久久国产a免费观看| 成人亚洲精品av一区二区| 久久精品91蜜桃| 我要搜黄色片| 又黄又爽又刺激的免费视频.| 国产乱人视频| av卡一久久| 欧美潮喷喷水| 无遮挡黄片免费观看| 99久久精品国产国产毛片| 日韩,欧美,国产一区二区三区 | 国产成人freesex在线 | 少妇的逼水好多| 日本色播在线视频| 最新在线观看一区二区三区| 国内精品美女久久久久久| 精品免费久久久久久久清纯| 日韩欧美在线乱码| 国产一区二区在线av高清观看| 男女那种视频在线观看| 亚洲综合色惰| 欧美极品一区二区三区四区| 亚洲一区二区三区色噜噜| 91在线精品国自产拍蜜月| 国产探花在线观看一区二区| 一级a爱片免费观看的视频| 久久综合国产亚洲精品| 精品一区二区三区av网在线观看| 人人妻,人人澡人人爽秒播| 美女内射精品一级片tv| 搡老熟女国产l中国老女人| 天堂动漫精品| 99热全是精品| 久久精品91蜜桃| 亚洲av熟女| av专区在线播放| 精品国产三级普通话版| 狂野欧美白嫩少妇大欣赏| 一级黄色大片毛片| 舔av片在线| 尤物成人国产欧美一区二区三区| 日韩一本色道免费dvd| 亚洲aⅴ乱码一区二区在线播放| 人妻丰满熟妇av一区二区三区| eeuss影院久久| 午夜爱爱视频在线播放| 看十八女毛片水多多多| 欧美一区二区国产精品久久精品| 内地一区二区视频在线| 变态另类丝袜制服| 晚上一个人看的免费电影| 成人av一区二区三区在线看| 免费搜索国产男女视频| 18+在线观看网站| 国产私拍福利视频在线观看| 亚洲一区高清亚洲精品| 色哟哟哟哟哟哟| 国产精品久久久久久av不卡| 亚洲av中文字字幕乱码综合| av免费在线看不卡| 免费看日本二区| 成人毛片a级毛片在线播放| 性插视频无遮挡在线免费观看| 午夜视频国产福利| 亚洲自偷自拍三级| 成年av动漫网址| 日韩精品青青久久久久久| 99riav亚洲国产免费| 伦精品一区二区三区| 99在线人妻在线中文字幕| 高清毛片免费看| 国产av在哪里看| 日本欧美国产在线视频| 三级经典国产精品| 日韩欧美免费精品| 美女被艹到高潮喷水动态| 国产精品久久久久久精品电影| 麻豆精品久久久久久蜜桃| 精品一区二区三区人妻视频| 少妇猛男粗大的猛烈进出视频 | 一级a爱片免费观看的视频| 熟女人妻精品中文字幕| 国产高清不卡午夜福利| 天美传媒精品一区二区| 真人做人爱边吃奶动态| 99热只有精品国产| 直男gayav资源| 五月伊人婷婷丁香| 欧美色欧美亚洲另类二区| 我的老师免费观看完整版| 美女内射精品一级片tv| 一个人看视频在线观看www免费| 国国产精品蜜臀av免费| 老师上课跳d突然被开到最大视频| 看非洲黑人一级黄片| 久久99热6这里只有精品| 国产女主播在线喷水免费视频网站 | 韩国av在线不卡| 寂寞人妻少妇视频99o| 一区二区三区免费毛片| 日韩,欧美,国产一区二区三区 | 如何舔出高潮| 黄色日韩在线| 偷拍熟女少妇极品色| 亚洲三级黄色毛片| 国产精品,欧美在线| 精品午夜福利视频在线观看一区| 亚洲色图av天堂| 五月玫瑰六月丁香| 精品人妻一区二区三区麻豆 | 久久精品人妻少妇| 麻豆成人午夜福利视频| 国产极品精品免费视频能看的| 欧美成人一区二区免费高清观看| 亚洲欧美日韩东京热| 俄罗斯特黄特色一大片| 国产伦精品一区二区三区四那| 97超视频在线观看视频| 色尼玛亚洲综合影院| 成人国产麻豆网| 老司机福利观看| 日本色播在线视频| 亚洲不卡免费看| 国产蜜桃级精品一区二区三区| 国产综合懂色| 亚洲自偷自拍三级| 十八禁国产超污无遮挡网站| 亚洲18禁久久av| 中文字幕人妻熟人妻熟丝袜美| 午夜a级毛片| 国产久久久一区二区三区| 婷婷色综合大香蕉| 久久久国产成人精品二区| 日本与韩国留学比较| 99热全是精品| 亚洲精品在线观看二区| 少妇人妻精品综合一区二区 | 亚洲av不卡在线观看| 国产一区二区三区av在线 | 亚洲欧美中文字幕日韩二区| 国产高潮美女av| 精品人妻熟女av久视频| 日韩一本色道免费dvd| 热99re8久久精品国产| 日日啪夜夜撸| 国产视频内射| 人人妻人人澡欧美一区二区| 午夜激情欧美在线| 99国产极品粉嫩在线观看| 韩国av在线不卡| av在线观看视频网站免费| 三级毛片av免费| 天天躁夜夜躁狠狠久久av| 亚洲国产色片| 国产爱豆传媒在线观看| 成人性生交大片免费视频hd| 一进一出抽搐gif免费好疼| 人妻少妇偷人精品九色| 国产精品久久久久久亚洲av鲁大| 麻豆精品久久久久久蜜桃| 欧美日本亚洲视频在线播放| 日本黄色片子视频| 成人三级黄色视频| 女人被狂操c到高潮| 精品人妻视频免费看| 一级av片app| 国产高清激情床上av|