• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    軟件供應(yīng)鏈安全視角下的安全開(kāi)發(fā)研究和應(yīng)用*

    2023-09-22 09:34:30吳汝鈺付玲玲
    信息安全與通信保密 2023年7期
    關(guān)鍵詞:流水線開(kāi)源組件

    吳汝鈺,袁 忠,付玲玲

    (中電科網(wǎng)絡(luò)安全科技股份有限公司,四川 成都 610041)

    0 引 言

    《“十四五”軟件和信息技術(shù)服務(wù)業(yè)發(fā)展規(guī)劃》指出,軟件是新一代信息技術(shù)的靈魂,是數(shù)字經(jīng)濟(jì)發(fā)展的基礎(chǔ),是制造強(qiáng)國(guó)、網(wǎng)絡(luò)強(qiáng)國(guó)、數(shù)字中國(guó)建設(shè)的關(guān)鍵支撐。隨著現(xiàn)代軟件開(kāi)發(fā)過(guò)程的不斷演進(jìn),以及新技術(shù)平臺(tái)的出現(xiàn),特別是以開(kāi)源為主的開(kāi)發(fā)方式的出現(xiàn),使得軟件供應(yīng)鏈條變得越來(lái)越復(fù)雜,暴露給攻擊者的攻擊面越來(lái)越多,攻擊事件頻發(fā),從而對(duì)用戶隱私、財(cái)產(chǎn)乃至國(guó)家安全造成重大威脅。

    軟件成為支撐社會(huì)正常運(yùn)轉(zhuǎn)的基本組件的同時(shí),軟件的安全問(wèn)題也被認(rèn)為是根本性、基礎(chǔ)性問(wèn)題,保障軟件供應(yīng)鏈安全已經(jīng)成為業(yè)界關(guān)注的焦點(diǎn),同時(shí)也成為企業(yè)的公共訴求。Gartner公司分析指出,“到2025 年,全球45%組織的軟件供應(yīng)鏈將遭受攻擊,比2021 年增加3 倍”[1]。

    基于當(dāng)前突出的軟件供應(yīng)鏈安全問(wèn)題,本文通過(guò)對(duì)業(yè)界軟件供應(yīng)鏈安全相關(guān)體系標(biāo)準(zhǔn)的研究和借鑒,圍繞國(guó)有大型企事業(yè)單位場(chǎng)景,結(jié)合DevSecOps 體系實(shí)踐探索出一套融入企業(yè)現(xiàn)有研發(fā)體系的安全開(kāi)發(fā)方法,可為中大型國(guó)有企事業(yè)單位的實(shí)踐落地提供參考。該安全開(kāi)發(fā)方法通過(guò)在開(kāi)發(fā)過(guò)程中持續(xù)關(guān)注和融入安全,保障軟件出生前的安全。

    1 背景

    2021 年,安全類垂直媒體“安全?!卑l(fā)布了第八版中國(guó)網(wǎng)絡(luò)安全行業(yè)全景圖,軟件供應(yīng)鏈安全成為網(wǎng)絡(luò)安全行業(yè)的重要一級(jí)分類。數(shù)說(shuō)安全發(fā)布的《2022 年中國(guó)網(wǎng)絡(luò)安全十大創(chuàng)新方向》中,軟件供應(yīng)鏈安全與開(kāi)發(fā)安全入圍,其發(fā)布的《2022 年中國(guó)網(wǎng)絡(luò)安全市場(chǎng)年度報(bào)告》顯示,開(kāi)發(fā)安全在2021 年榮登安全行業(yè)融資額同比增速榜首。近幾年,圍繞軟件供應(yīng)鏈安全,各國(guó)陸續(xù)出臺(tái)相關(guān)法律法規(guī)、框架體系,逐步規(guī)范并提升行業(yè)軟件供應(yīng)鏈安全良好生態(tài)。

    國(guó)際上對(duì)軟件供應(yīng)鏈管理早已達(dá)成共識(shí),特別是美國(guó)在2015 年發(fā)布了供應(yīng)鏈風(fēng)險(xiǎn)管理標(biāo)準(zhǔn),2021 年美國(guó)總統(tǒng)拜登簽署了第14017 號(hào)《美國(guó)供應(yīng)鏈行政令》。隨著網(wǎng)絡(luò)安全形勢(shì)的不斷發(fā)展變化,我國(guó)在網(wǎng)絡(luò)安全領(lǐng)域的重要法規(guī)頻頻出臺(tái),頭部的互聯(lián)網(wǎng)企業(yè)和安全廠商也紛紛投入軟件供應(yīng)鏈的安全建設(shè)中,持續(xù)構(gòu)建符合各企業(yè)的安全防護(hù)體系。

    在我國(guó),目前針對(duì)關(guān)鍵基礎(chǔ)設(shè)施的軟件提供商主要集中在中大型國(guó)有企事業(yè)單位。這些企業(yè)因歷史沿革和發(fā)展需要,均存在自有產(chǎn)品體系多、技術(shù)體系覆蓋面廣、業(yè)務(wù)應(yīng)用及環(huán)境復(fù)雜、安全性要求高等特點(diǎn),企業(yè)如何通過(guò)新的平臺(tái)技術(shù)持續(xù)提升研發(fā)效能的同時(shí),加強(qiáng)軟件供應(yīng)鏈安全性是當(dāng)前普遍面臨的問(wèn)題。

    2 業(yè)界軟件供應(yīng)鏈安全體系

    本文主要對(duì)4 個(gè)軟件供應(yīng)鏈安全及安全開(kāi)發(fā)體系進(jìn)行了研究借鑒,包括美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(National Institute of Standards and Technology,NIST)發(fā)布的軟件開(kāi)發(fā)安全框架(Secure Software Development Framework,SSDF)、互聯(lián)網(wǎng)安全中心(Center for Internet Security,CIS)發(fā)布的軟件供應(yīng)鏈安全指南、微軟發(fā)布的安全供應(yīng)鏈消費(fèi)框架(Secure Supply Chain Consumption Framework,S2C2F)和中國(guó)信通院發(fā)布的軟件供應(yīng)鏈安全標(biāo)準(zhǔn)體系。

    2022 年,NIST 發(fā)布了SSDF1.1 版本,該框架致力于減少已發(fā)布軟件中的漏洞數(shù)量,降低未被發(fā)現(xiàn)或未解決的漏洞被利用時(shí)的潛在影響,并從源頭上解決漏洞問(wèn)題,防止漏洞再次發(fā)生[2]。

    2022 年,CIS 發(fā)布了軟件供應(yīng)鏈安全指南1.0版本,該指南主要細(xì)化了從源碼到交付全生命周期的100 多條管理和安全建議,其中包括源代碼、構(gòu)建管道、依賴項(xiàng)、制品、部署全流程主要環(huán)節(jié)。

    微軟發(fā)布的S2C2F 主要專注于開(kāi)發(fā)集成人員對(duì)開(kāi)源軟件的使用安全。

    中國(guó)信通院的軟件供應(yīng)鏈安全標(biāo)準(zhǔn)體系圍繞軟件引入、生產(chǎn)、應(yīng)用3 大環(huán)節(jié),建立了可信研發(fā)運(yùn)營(yíng)安全能力成熟度模型(Trustworthy evaluation of Security maturity Model,TSM)、軟件供應(yīng)鏈安全保障要求、開(kāi)源治理體系、軟件物料清單建設(shè)總體框架、DevSecOps 工具鏈5 大重要模塊,構(gòu)成了整個(gè)軟件供應(yīng)鏈安全管理標(biāo)準(zhǔn)。

    目前,業(yè)界的軟件供應(yīng)鏈安全體系各有偏重,信通院的軟件供應(yīng)鏈安全體系較為全面,各體系僅能作為能力建設(shè)參考,企業(yè)在實(shí)際應(yīng)用場(chǎng)景的實(shí)踐過(guò)程中還需要結(jié)合企業(yè)本身的實(shí)際情況進(jìn)行探索。

    3 軟件供應(yīng)鏈安全解決方案

    3.1 企業(yè)解決方案

    軟件供應(yīng)鏈安全是解決軟件研制生產(chǎn)整個(gè)過(guò)程中的設(shè)計(jì)、編碼、工具、設(shè)備、環(huán)境、供應(yīng)商以及最終交付等所面臨的安全問(wèn)題。本文提出的軟件供應(yīng)鏈安全解決方案框架如圖1 所示。解決方案主要以開(kāi)發(fā)全生命周期安全融入為核心,圍繞開(kāi)源安全、開(kāi)發(fā)過(guò)程安全和開(kāi)發(fā)環(huán)境安全3 個(gè)方面進(jìn)行安全設(shè)計(jì)和實(shí)踐。

    圖1 軟件供應(yīng)鏈安全解決方案框架

    3.2 安全開(kāi)發(fā)流程

    圍繞解決方案,本文提出了開(kāi)發(fā)全流程融入安全工具和質(zhì)量門禁后的安全開(kāi)發(fā)全流程,如圖2 所示。

    圖2 安全開(kāi)發(fā)全流程

    安全開(kāi)發(fā)全流程在實(shí)踐過(guò)程中主要依托企業(yè)原有的研發(fā)流程,在關(guān)鍵環(huán)節(jié)融入安全工具和門限要求,通過(guò)安全融入實(shí)現(xiàn)從安全需求分析、安全設(shè)計(jì)、安全編碼、安全開(kāi)發(fā)流水線、安全測(cè)試、安全交付、持續(xù)反饋全流程的安全活動(dòng)開(kāi)展和反饋閉環(huán)。

    在需求分析階段,圍繞公司業(yè)務(wù)的特殊性,除了產(chǎn)品本身需要考慮一系列國(guó)家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn),還需結(jié)合如開(kāi)放式Web 應(yīng)用程序安全(Open Web Application Security Project,OWASP)組織發(fā)布的應(yīng)用安全驗(yàn)證標(biāo)準(zhǔn),詳細(xì)分析可能涉及的安全需求,確保開(kāi)展各個(gè)層面的安全需求分析,從需求源頭保證業(yè)務(wù)應(yīng)用安全。

    在安全設(shè)計(jì)階段,依托公司戰(zhàn)略規(guī)劃構(gòu)建一系列自帶安全基因的基礎(chǔ)軟件硬件平臺(tái),各產(chǎn)品可快速基于基礎(chǔ)平臺(tái)開(kāi)發(fā),讓產(chǎn)品團(tuán)隊(duì)聚焦業(yè)務(wù)功能,大幅提升產(chǎn)品研發(fā)效率、質(zhì)量和安全性。

    在安全編碼階段,建立各類開(kāi)發(fā)語(yǔ)言的安全編碼規(guī)范,并使用統(tǒng)一安全合規(guī)的開(kāi)發(fā)環(huán)境、開(kāi)發(fā)工具和開(kāi)發(fā)資源,通過(guò)自動(dòng)化流程和工具進(jìn)行門限控制。例如,將安全編碼規(guī)范規(guī)則配置到集成開(kāi)發(fā)環(huán)境(Integrated Development Environment,IDE)中,通過(guò)代碼提交前的自動(dòng)檢查和阻斷控制源代碼的質(zhì)量和安全性。

    在安全開(kāi)發(fā)流水線階段,一方面,建成基于DevSecOps 黃金管道的全環(huán)節(jié)安全自動(dòng)化檢測(cè)工具;另一方面,基于企業(yè)復(fù)雜的產(chǎn)品體系建立了多樣化的標(biāo)準(zhǔn)編譯環(huán)境,可通過(guò)流水線配置自動(dòng)化分配,提升產(chǎn)品編譯環(huán)境的安全管控能力。

    在安全測(cè)試階段,每個(gè)產(chǎn)品版本都必須經(jīng)過(guò)專項(xiàng)的安全測(cè)試,包括但不限于主機(jī)安全、通信安全、客戶端安全、數(shù)據(jù)安全、Web 安全、業(yè)務(wù)安全合規(guī)、云安全、測(cè)評(píng)機(jī)構(gòu)要求等各類針對(duì)業(yè)務(wù)的安全測(cè)試,通過(guò)全面的測(cè)試進(jìn)一步保證制品的安全性。

    在安全交付階段,一方面,針對(duì)專網(wǎng)用戶,由工程售后人員對(duì)部署交付物進(jìn)行完整性校驗(yàn),確保交付物來(lái)源可靠安全后才執(zhí)行用戶環(huán)境部署并上線;另一方面,在公司內(nèi)網(wǎng)建立產(chǎn)品驗(yàn)證試驗(yàn)田,將涉及傳輸安全、邊界安全、安全管理、身份安全、安全應(yīng)用等方面的產(chǎn)品應(yīng)用于公司生產(chǎn)環(huán)境,在產(chǎn)品定版歸檔后,通過(guò)自動(dòng)化流水線自動(dòng)發(fā)布到公司環(huán)境,快速試用進(jìn)而發(fā)現(xiàn)問(wèn)題,進(jìn)一步提升產(chǎn)品的安全可靠性。

    在產(chǎn)品交付后的問(wèn)題反饋階段,建立多種產(chǎn)品反饋渠道,使用戶及公司市場(chǎng)人員、工程實(shí)施人員、售后人員可以通過(guò)如移動(dòng)端產(chǎn)品反饋入口快速反饋產(chǎn)品問(wèn)題,并打通移動(dòng)端與研發(fā)管理工具平臺(tái)的自動(dòng)化轉(zhuǎn)入和反饋處理,實(shí)現(xiàn)產(chǎn)品反饋問(wèn)題的快速閉環(huán)。

    在整個(gè)安全開(kāi)發(fā)流程中嚴(yán)格執(zhí)行安全質(zhì)量門限卡點(diǎn),例如,在需求分析和安全設(shè)計(jì)階段,必須進(jìn)行組織級(jí)需求評(píng)審和設(shè)計(jì)評(píng)審,評(píng)審人員應(yīng)包括安全技術(shù)專家和業(yè)務(wù)安全專家,共同把關(guān)產(chǎn)品安全需求和設(shè)計(jì)的合理性。在開(kāi)發(fā)階段,代碼提交前必須通過(guò)IDE 質(zhì)量門禁以及代碼人工審查。在安全開(kāi)發(fā)流水線環(huán)節(jié),通過(guò)各環(huán)節(jié)門禁卡點(diǎn)控制產(chǎn)品安全質(zhì)量,控制風(fēng)險(xiǎn)軟件的發(fā)布,在自動(dòng)歸檔環(huán)節(jié)對(duì)制品包再次進(jìn)行病毒掃描等,通過(guò)關(guān)鍵環(huán)節(jié)的安全門禁控制持續(xù)提升產(chǎn)品交付后的安全可靠性。

    4 安全開(kāi)發(fā)實(shí)踐

    安全開(kāi)發(fā)是指通過(guò)開(kāi)發(fā)全生命周期的每個(gè)階段都從安全的角度指導(dǎo)開(kāi)發(fā),將安全融入開(kāi)發(fā)過(guò)程,全面保障軟件供應(yīng)鏈安全。在實(shí)踐上重點(diǎn)推進(jìn)了開(kāi)發(fā)環(huán)境安全、開(kāi)源安全和安全工具鏈3 個(gè)方面。

    4.1 開(kāi)發(fā)環(huán)境安全

    在軟件開(kāi)發(fā)過(guò)程中,需要借助提前準(zhǔn)備的開(kāi)發(fā)環(huán)境、開(kāi)發(fā)工具編碼實(shí)現(xiàn)業(yè)務(wù)功能,代碼實(shí)現(xiàn)后需要提交到統(tǒng)一的代碼存儲(chǔ)平臺(tái)進(jìn)行管理,并借助持續(xù)集成(Continuous Integration,CI)、持續(xù)交付(Continuous Delivery,CD)環(huán)境和工具執(zhí)行集成構(gòu)建打包,如果過(guò)程中使用了不安全的環(huán)境和工具,會(huì)導(dǎo)致代碼存在被篡改、惡意植入等安全問(wèn)題[3]。

    針對(duì)大型國(guó)有企事業(yè)單位產(chǎn)品體系和業(yè)務(wù)復(fù)雜性的特點(diǎn),一方面,為保障軟件開(kāi)發(fā)環(huán)境安全,首先需要厘清環(huán)境類別,從開(kāi)發(fā)語(yǔ)言、編譯構(gòu)建依賴環(huán)境、編譯構(gòu)建工具、制品形態(tài)等方面的差異性,將環(huán)境分為以C/C++開(kāi)發(fā)為主的設(shè)備類環(huán)境、以JAVA 開(kāi)發(fā)為主的軟件類環(huán)境、以Python 開(kāi)發(fā)為主的數(shù)據(jù)類環(huán)境、以Windows終端和移動(dòng)端為主的終端類環(huán)境、以go 開(kāi)發(fā)為主的云原生基礎(chǔ)設(shè)施類環(huán)境,通過(guò)梳理形成規(guī)范化的分類模板。另外,根據(jù)各開(kāi)發(fā)過(guò)程不同環(huán)節(jié)的差異性,形成開(kāi)發(fā)類、編譯構(gòu)建類、調(diào)測(cè)類3 類不同需求的標(biāo)準(zhǔn)環(huán)境模板,并持續(xù)根據(jù)開(kāi)發(fā)架構(gòu)的升級(jí)同步更新環(huán)境及各類工具,保證環(huán)境的可管理性和維護(hù)性。通過(guò)環(huán)境模板的版本化管理和基于模板自動(dòng)創(chuàng)建使用能力提升開(kāi)發(fā)過(guò)程環(huán)境一致性、規(guī)范性,保證開(kāi)發(fā)工具來(lái)源安全合規(guī)、使用可靠統(tǒng)一。另一方面,為保障核心資產(chǎn)的安全、可靠管理和存儲(chǔ),企業(yè)需要統(tǒng)一建設(shè)內(nèi)部私有化且配置安全防護(hù)及容災(zāi)策略的代碼存儲(chǔ)平臺(tái)和持續(xù)集成平臺(tái),并通過(guò)定期安全掃描等多種方式保障工具平臺(tái)環(huán)境安全性。

    4.2 開(kāi)源安全

    Gartner 公司表示,現(xiàn)代軟件大多數(shù)是被“組裝”出來(lái)的,不是被“開(kāi)發(fā)出來(lái)的”,80%~90%的代碼來(lái)自開(kāi)源軟件[4]。如何正確使用開(kāi)源軟件,規(guī)避因開(kāi)源漏洞、許可證和政治因素導(dǎo)致的開(kāi)源風(fēng)險(xiǎn),是企業(yè)共同面臨的現(xiàn)實(shí)問(wèn)題。

    針對(duì)持續(xù)高發(fā)的開(kāi)源安全問(wèn)題,各企業(yè)應(yīng)逐步建立企業(yè)內(nèi)部的開(kāi)源治理體系,以保障開(kāi)源組件、框架的穩(wěn)健性,提高企業(yè)對(duì)開(kāi)源組件的維護(hù)、修復(fù)和應(yīng)對(duì)能力。企業(yè)開(kāi)源治理體系的目標(biāo)主要包括4 個(gè)方面:摸清企業(yè)所有開(kāi)源組件的使用情況;定義企業(yè)開(kāi)源組件使用質(zhì)量標(biāo)準(zhǔn);盡可能地通過(guò)工具實(shí)現(xiàn)自動(dòng)化監(jiān)測(cè)和跟蹤;提升開(kāi)源組件漏洞的快速響應(yīng)能力。

    基于上述目標(biāo),各企業(yè)需要建立一套符合本企業(yè)應(yīng)用場(chǎng)景的開(kāi)源組件全生命周期管理工具、流程和規(guī)范,形成從組件引入、使用、應(yīng)急處理、歸檔到停用下線全流程的開(kāi)源組件管理規(guī)范要求,開(kāi)源組件全生命周期管理流程如圖3 所示。

    圖3 開(kāi)源組件全生命周期管理流程

    同時(shí),基于管理規(guī)范建立配套的工具平臺(tái)支撐規(guī)范落地。為減少運(yùn)維及規(guī)范管控環(huán)節(jié)的人力投入和可能出現(xiàn)的問(wèn)題,建議企業(yè)將開(kāi)源組件掃描、審查及管理工具逐步融入DevSecOps工具平臺(tái)中,通過(guò)如CI/CD 流水線能力將各工具系統(tǒng)串聯(lián)的同時(shí),持續(xù)將管理要求和相關(guān)質(zhì)量門禁工具化、自動(dòng)化落實(shí)到日常開(kāi)發(fā)過(guò)程中。

    4.2.1 嚴(yán)格控制開(kāi)源組件引入

    各企業(yè)應(yīng)逐步控制和收斂開(kāi)源組件的引入,通過(guò)開(kāi)發(fā)框架、開(kāi)發(fā)平臺(tái)的規(guī)范化梳理形成企業(yè)自有的開(kāi)源組件白名單,并結(jié)合開(kāi)發(fā)框架和項(xiàng)目腳手架工程在基礎(chǔ)開(kāi)發(fā)平臺(tái)中預(yù)置基礎(chǔ)框架白名單組件,方便同類產(chǎn)品直接復(fù)用框架和白名單組件。同時(shí),依托最小化引入原則對(duì)非白名單組件的引入建立嚴(yán)格的審查機(jī)制。一方面,通過(guò)便捷的自動(dòng)化工具及時(shí)規(guī)避安全漏洞及因協(xié)議不合規(guī)帶來(lái)的知識(shí)產(chǎn)權(quán)問(wèn)題;另一方面,結(jié)合技術(shù)和業(yè)務(wù)評(píng)判組件引入的必要性,通過(guò)嚴(yán)格的引入評(píng)審對(duì)漏洞可利用性、漏洞影響范圍、漏洞組件可替代性進(jìn)行評(píng)估,對(duì)于無(wú)可替換的問(wèn)題組件需要結(jié)合產(chǎn)品業(yè)務(wù)分析漏洞利用可規(guī)避的措施及觸發(fā)條件等嚴(yán)格審核后才能引入。

    在管理上,確保引入的開(kāi)源組件是由專業(yè)團(tuán)隊(duì)根據(jù)引入的組件清單從可信來(lái)源下載并導(dǎo)入企業(yè)統(tǒng)一的安全合規(guī)組件庫(kù),進(jìn)而形成組織級(jí)安全合規(guī)組件資產(chǎn)清單。

    4.2.2 嚴(yán)格把控產(chǎn)品構(gòu)建和歸檔環(huán)節(jié)組件來(lái)源安全合規(guī)

    持續(xù)加強(qiáng)產(chǎn)品集成和歸檔環(huán)節(jié)開(kāi)源組件的安全合規(guī)性。各企業(yè)需要在已有DevSecOps流水線環(huán)節(jié)中增加軟件成分分析(Software Composition Analysis,SCA)檢測(cè)工具和組件來(lái)源檢查工具,一方面,持續(xù)對(duì)產(chǎn)品引用組件的漏洞風(fēng)險(xiǎn)進(jìn)行評(píng)估;另一方面,通過(guò)組件來(lái)源檢查確保產(chǎn)品對(duì)外交付的第三方組件均來(lái)源于組織級(jí)的安全合規(guī)組件資產(chǎn)庫(kù),進(jìn)一步確保對(duì)外交付的開(kāi)源組件的安全合規(guī)性。

    4.2.3 通過(guò)SBOM 提高軟件透明度

    圍繞軟件組成成分方面,各企業(yè)應(yīng)逐步根據(jù)企業(yè)實(shí)際情況,定義形成適合自己企業(yè)標(biāo)準(zhǔn)的軟件物料清單(Software Bill of Materials,SBOM),并通過(guò)開(kāi)發(fā)全流程逐步實(shí)現(xiàn)對(duì)軟件全生命周期SBOM 生成、更新和歸檔標(biāo)識(shí),形成透明的軟件組成成分使用、流轉(zhuǎn)和交付全流程自動(dòng)化審查控制,通過(guò)對(duì)SBOM 進(jìn)行流程化、工具化的管理,可持續(xù)支撐對(duì)0day 漏洞組件進(jìn)行快速定位和應(yīng)急響應(yīng)。

    SBOM 管理在產(chǎn)業(yè)界已有一些標(biāo)準(zhǔn)和工具,在實(shí)踐中需要持續(xù)依托CI/CD 流水線,通過(guò)在流水線中集成適合的工具,可自動(dòng)化、持續(xù)地生成和更新軟件SBOM 清單。例如,在開(kāi)發(fā)階段,通過(guò)流水線自動(dòng)化生成SBOM 清單并標(biāo)識(shí)出新引入的組件和存在的問(wèn)題;在提交測(cè)試的流水線中自動(dòng)生成SBOM 并與安全合規(guī)組件庫(kù)進(jìn)行來(lái)源驗(yàn)證;在歸檔環(huán)節(jié)自動(dòng)生成SBOM 并歸入配置庫(kù),同時(shí)將SBOM導(dǎo)入組織級(jí)組件管理系統(tǒng),方便在后續(xù)發(fā)現(xiàn)0day 漏洞時(shí)能夠基于組件管理系統(tǒng)進(jìn)行快速的影響面分析,提升應(yīng)急響應(yīng)的執(zhí)行效率。

    除逐步建立上述對(duì)開(kāi)源組件進(jìn)行全生命周期管理體系外,各企業(yè)還需重點(diǎn)推進(jìn)存量開(kāi)源組件資產(chǎn)盤(pán)點(diǎn),通過(guò)盤(pán)點(diǎn)形成組織級(jí)組件白名單,同時(shí)在盤(pán)點(diǎn)過(guò)程中逐步清理冗余組件,通過(guò)階段性的清庫(kù)存工作逐步建立企業(yè)開(kāi)源組件資產(chǎn)清單,摸清企業(yè)開(kāi)源組件的實(shí)際使用情況,形成軟件安全合規(guī)基線。

    基于以上的實(shí)踐,基本實(shí)現(xiàn)了開(kāi)源組件全生命周期管理工具化和自動(dòng)化,并將工具融入開(kāi)發(fā)流程,可提升企業(yè)開(kāi)源組件安全應(yīng)對(duì)能力,規(guī)避開(kāi)源組件引入使用帶來(lái)的安全風(fēng)險(xiǎn)。

    4.3 安全工具鏈

    安全工具鏈即圍繞業(yè)界DevSecOps 工具平臺(tái)體系實(shí)踐和落地后形成的從代碼提交后觸發(fā)全流程安全工具掃描審查的自動(dòng)化流水線。DevSecOps 是由Gartner 公司于2016 年提出的框架,將威脅建模工具、安全編碼工具、安全測(cè)試工具、容器安全檢測(cè)工具、基線加固工具、漏洞管理工具等自動(dòng)化無(wú)縫集成到DevOps 流程中,實(shí)現(xiàn)開(kāi)發(fā)—安全—運(yùn)營(yíng)一體化[5]。

    在持續(xù)保障和提升軟件供應(yīng)鏈安全應(yīng)對(duì)能力方面,企業(yè)應(yīng)建立自己的安全開(kāi)發(fā)流程和工具體系,通過(guò)安全開(kāi)發(fā)流水線支撐安全開(kāi)發(fā)體系落地。安全開(kāi)發(fā)流水線除了利用常規(guī)的CI/CD環(huán)節(jié)提升編譯構(gòu)建效率,在安全方面也應(yīng)該圍繞安全質(zhì)量指標(biāo)融入包括病毒、靜態(tài)應(yīng)用程序安全測(cè)試(Static Application Security Testing,SAST)、SCA、動(dòng)態(tài)應(yīng)用程序安全測(cè)試(Dynamic Application Security Testing,DAST)、交互式應(yīng)用程序安全測(cè)試(Interactive Application Security Testing,IAST)、容器安全等多環(huán)節(jié)工具??紤]到各企業(yè)安全需求的差異性及業(yè)務(wù)應(yīng)用場(chǎng)景的復(fù)雜性,建議各企業(yè)結(jié)合商業(yè)工具、開(kāi)源工具和自研發(fā)工具等多種工具形成互補(bǔ),從多個(gè)方面對(duì)開(kāi)發(fā)人員提交的代碼進(jìn)行全面安全分析和檢測(cè),并將發(fā)現(xiàn)的問(wèn)題前置到開(kāi)發(fā)階段解決,實(shí)現(xiàn)工具鏈門限管控真正的安全左移。

    安全開(kāi)發(fā)流水線的應(yīng)用場(chǎng)景應(yīng)結(jié)合不同團(tuán)隊(duì)人員角色的質(zhì)量把關(guān)需求設(shè)置不同的環(huán)節(jié)和門禁要求。在大類上可以設(shè)置開(kāi)發(fā)人員、研發(fā)負(fù)責(zé)人和測(cè)試負(fù)責(zé)人等不同角色形成針對(duì)不同安全要求的多場(chǎng)景流水線,通過(guò)不同角色的安全質(zhì)量要求設(shè)置不同門禁,實(shí)現(xiàn)不同場(chǎng)景的安全質(zhì)量控制,全面提升產(chǎn)品開(kāi)發(fā)過(guò)程安全性。

    在支撐組織級(jí)安全開(kāi)發(fā)流程落地到安全開(kāi)發(fā)流水線后,應(yīng)持續(xù)提升流水線的可自助式編排和可視化能力。一方面,應(yīng)提供更方便易用的編排工具,方便產(chǎn)品團(tuán)隊(duì)根據(jù)自身需求自助式地定義項(xiàng)目自身的流水線環(huán)節(jié)和項(xiàng)目級(jí)門禁要求;另一方面,對(duì)不同環(huán)節(jié)和門禁的構(gòu)建結(jié)果進(jìn)行統(tǒng)一的可視化展示,進(jìn)一步對(duì)發(fā)現(xiàn)的問(wèn)題進(jìn)行全流程閉環(huán),持續(xù)提升產(chǎn)品的質(zhì)量和安全性。

    5 特色做法

    在整個(gè)安全開(kāi)發(fā)全流程落地過(guò)程中更強(qiáng)調(diào)過(guò)程控制的工具自動(dòng)化能力,入庫(kù)管控更嚴(yán)格,出口管控更精細(xì)。

    5.1 開(kāi)發(fā)流程各環(huán)節(jié)的管控工具化

    開(kāi)發(fā)流程各環(huán)節(jié)的安全控制工具化主要體現(xiàn)在以下3 個(gè)方面。

    (1)開(kāi)發(fā)環(huán)境模板化、流程化、工具自助化,通過(guò)將企業(yè)各類復(fù)雜產(chǎn)品類型所依賴的開(kāi)發(fā)環(huán)境梳理形成模板,并依托業(yè)務(wù)流程系統(tǒng)實(shí)現(xiàn)按需申請(qǐng),自助化生成使用,保障了各類環(huán)境的安全可靠性。

    (2)開(kāi)發(fā)了一系列工具實(shí)現(xiàn)對(duì)開(kāi)源組件和商采組件的工具化、自動(dòng)化管控,并基于SBOM實(shí)現(xiàn)對(duì)組件從引入、使用、應(yīng)急處理、歸檔和停用下線的全流程管理。

    (3)實(shí)現(xiàn)了復(fù)雜產(chǎn)品研制體系下,各種類型產(chǎn)品從源代碼提交觸發(fā)流水線自動(dòng)化構(gòu)建部署,并融入了包括病毒、靜態(tài)代碼掃描、組件漏洞掃描、組件來(lái)源合規(guī)、動(dòng)態(tài)應(yīng)用程序掃描、容器安全掃描等環(huán)節(jié)的安全工具鏈,通過(guò)多環(huán)節(jié)、多工具的安全掃描審查自動(dòng)化實(shí)現(xiàn)安全問(wèn)題早發(fā)現(xiàn)、早解決。

    5.2 開(kāi)源及第三方軟件和組件入庫(kù)管控更嚴(yán)格

    對(duì)開(kāi)發(fā)過(guò)程中使用的開(kāi)源及第三方軟件和組件引入進(jìn)行嚴(yán)格管控。一方面,通過(guò)梳理形成各類標(biāo)準(zhǔn)的開(kāi)發(fā)工具、開(kāi)發(fā)組件、部署組件白名單,在開(kāi)發(fā)過(guò)程中通過(guò)工具化和人工審查等多種方式確保使用白名單軟件和組件;另一方面,對(duì)于引入的軟件或組件遵循最小化引入原則、安全合規(guī)可控原則和業(yè)務(wù)必要性原則,必須進(jìn)行嚴(yán)格評(píng)審后才能引入,以保證各產(chǎn)品開(kāi)發(fā)過(guò)程工具和組件的安全可信可控。

    5.3 實(shí)現(xiàn)出口精細(xì)化管控

    針對(duì)開(kāi)發(fā)過(guò)程中各種可能引入的開(kāi)源組件和開(kāi)源代碼的情況,開(kāi)發(fā)實(shí)現(xiàn)了針對(duì)制品包檢查的工具,并集成到歸檔流水線中,通過(guò)將制品包逐層分解后,對(duì)每個(gè)組成進(jìn)行特征碼提取和識(shí)別的方式嚴(yán)格追溯制品包中引入的開(kāi)源及第三方組件來(lái)源于安全合規(guī)倉(cāng)庫(kù),通過(guò)來(lái)源卡點(diǎn)保證了交付到用戶環(huán)境的制品成分安全可信。

    6 實(shí)踐效果

    基于以上實(shí)踐基本建立了企業(yè)實(shí)際可落地實(shí)施的安全開(kāi)發(fā)流程和軟件供應(yīng)鏈安全體系,通過(guò)安全開(kāi)發(fā)流水線強(qiáng)控安全門限,將安全問(wèn)題前置到開(kāi)發(fā)階段解決,極大地降低了交付用戶后安全事件發(fā)生的頻率,一定程度上提升了產(chǎn)品質(zhì)量與安全性。目前,該體系已通過(guò)中國(guó)信通院TSM 可信研發(fā)運(yùn)營(yíng)安全能力成熟度模型增強(qiáng)級(jí)測(cè)評(píng)。

    7 結(jié) 語(yǔ)

    軟件供應(yīng)鏈安全涉及軟件研制的全生命周期,開(kāi)發(fā)安全是核心。針對(duì)軟件開(kāi)發(fā)過(guò)程除保障環(huán)境安全、開(kāi)源組件引入使用安全,并通過(guò)工具鏈將安全問(wèn)題發(fā)現(xiàn)前置到開(kāi)發(fā)階段外,各企業(yè)應(yīng)加強(qiáng)圍繞業(yè)務(wù)的開(kāi)發(fā)全流程安全融入,并通過(guò)創(chuàng)新技術(shù)和方法提升安全能力,真正實(shí)現(xiàn)軟件內(nèi)生安全。

    隨著GB/T 39204—2022《信息安全技術(shù) 關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)要求》等標(biāo)準(zhǔn)的發(fā)布實(shí)施,對(duì)軟件廠商的產(chǎn)品安全要求將更為嚴(yán)格。作為軟件供應(yīng)鏈安全的上游廠商應(yīng)積極加強(qiáng)軟件供應(yīng)鏈安全相關(guān)標(biāo)準(zhǔn)體系研究和安全開(kāi)發(fā)標(biāo)準(zhǔn)體系建設(shè),確保向下游交付安全性良好的軟件,積極應(yīng)對(duì)軟件供應(yīng)鏈安全帶來(lái)的一系列安全威脅。

    猜你喜歡
    流水線開(kāi)源組件
    Gen Z Migrant Workers Are Leaving the Assembly Line
    無(wú)人機(jī)智能巡檢在光伏電站組件診斷中的應(yīng)用
    能源工程(2022年2期)2022-05-23 13:51:50
    新型碎邊剪刀盤(pán)組件
    流水線
    U盾外殼組件注塑模具設(shè)計(jì)
    五毛錢能買多少頭牛
    大家說(shuō):開(kāi)源、人工智能及創(chuàng)新
    開(kāi)源中國(guó)開(kāi)源世界高峰論壇圓桌會(huì)議縱論開(kāi)源與互聯(lián)網(wǎng)+創(chuàng)新2.0
    報(bào)廢汽車拆解半自動(dòng)流水線研究
    開(kāi)源計(jì)算機(jī)輔助翻譯工具研究
    国产高清激情床上av| 嫩草影视91久久| 欧美日韩国产mv在线观看视频| 国产亚洲欧美98| 18美女黄网站色大片免费观看| 免费高清视频大片| 好男人电影高清在线观看| 黑人巨大精品欧美一区二区mp4| 亚洲av成人一区二区三| 久久影院123| 亚洲欧洲精品一区二区精品久久久| 午夜免费激情av| 欧美日本中文国产一区发布| 身体一侧抽搐| av免费在线观看网站| 精品免费久久久久久久清纯| 久热爱精品视频在线9| 国产高清国产精品国产三级| 日韩一卡2卡3卡4卡2021年| 久久久久九九精品影院| 露出奶头的视频| 黄片小视频在线播放| 日韩欧美国产一区二区入口| 夜夜看夜夜爽夜夜摸 | 999久久久精品免费观看国产| 久久精品亚洲精品国产色婷小说| 精品第一国产精品| 老司机福利观看| 国产麻豆69| 99香蕉大伊视频| 99国产精品一区二区蜜桃av| 国产成人精品在线电影| 免费av毛片视频| 亚洲国产精品999在线| 色哟哟哟哟哟哟| a级毛片黄视频| 一本综合久久免费| 9191精品国产免费久久| 日日夜夜操网爽| 久久国产精品人妻蜜桃| 两人在一起打扑克的视频| 91国产中文字幕| a在线观看视频网站| 又大又爽又粗| 69av精品久久久久久| 俄罗斯特黄特色一大片| 人人妻人人爽人人添夜夜欢视频| avwww免费| 国产野战对白在线观看| 美女午夜性视频免费| 女人高潮潮喷娇喘18禁视频| 午夜两性在线视频| 757午夜福利合集在线观看| 中文字幕高清在线视频| 久久影院123| www.精华液| 老司机午夜十八禁免费视频| 日韩有码中文字幕| 国产成人影院久久av| 免费搜索国产男女视频| 日本免费a在线| 19禁男女啪啪无遮挡网站| 亚洲精品美女久久久久99蜜臀| 精品一区二区三卡| 999久久久国产精品视频| 久热爱精品视频在线9| 97人妻天天添夜夜摸| 91九色精品人成在线观看| 一级毛片女人18水好多| 熟女少妇亚洲综合色aaa.| 免费在线观看亚洲国产| 国产av又大| 日韩高清综合在线| 亚洲欧美一区二区三区黑人| 亚洲精品国产精品久久久不卡| 欧美在线黄色| 黑人巨大精品欧美一区二区蜜桃| 超碰97精品在线观看| 亚洲色图av天堂| 91在线观看av| 国产精品野战在线观看 | 嫩草影视91久久| 男人舔女人的私密视频| 老司机在亚洲福利影院| 男男h啪啪无遮挡| 国产在线精品亚洲第一网站| 美女扒开内裤让男人捅视频| 精品久久蜜臀av无| 操美女的视频在线观看| 欧美日韩福利视频一区二区| 中文欧美无线码| 如日韩欧美国产精品一区二区三区| 视频在线观看一区二区三区| 国产成人精品无人区| 午夜精品久久久久久毛片777| 亚洲人成电影观看| 午夜亚洲福利在线播放| 91精品三级在线观看| 80岁老熟妇乱子伦牲交| 国产又爽黄色视频| 国产又爽黄色视频| 午夜福利欧美成人| 国产主播在线观看一区二区| 成人三级黄色视频| 99re在线观看精品视频| 99久久人妻综合| 色哟哟哟哟哟哟| 亚洲精品国产区一区二| 久久精品91蜜桃| 热re99久久精品国产66热6| 国产无遮挡羞羞视频在线观看| 999久久久精品免费观看国产| 又紧又爽又黄一区二区| 老熟妇乱子伦视频在线观看| 欧美日韩国产mv在线观看视频| 看免费av毛片| 窝窝影院91人妻| 麻豆一二三区av精品| 欧美最黄视频在线播放免费 | 国产亚洲精品综合一区在线观看 | 亚洲av片天天在线观看| 国产成人免费无遮挡视频| 50天的宝宝边吃奶边哭怎么回事| 一级毛片精品| 9191精品国产免费久久| 欧美 亚洲 国产 日韩一| 欧美日韩精品网址| 亚洲午夜精品一区,二区,三区| 欧美精品啪啪一区二区三区| 女性被躁到高潮视频| 亚洲精品成人av观看孕妇| 欧美亚洲日本最大视频资源| 欧美一区二区精品小视频在线| 神马国产精品三级电影在线观看 | 国产av在哪里看| 在线视频色国产色| 久久人人精品亚洲av| 免费少妇av软件| 国产蜜桃级精品一区二区三区| 美女高潮喷水抽搐中文字幕| 男女床上黄色一级片免费看| 少妇裸体淫交视频免费看高清 | 色哟哟哟哟哟哟| 亚洲全国av大片| av天堂在线播放| 午夜a级毛片| 亚洲av成人av| 日韩欧美免费精品| 欧美在线一区亚洲| 中亚洲国语对白在线视频| 国产成人精品无人区| 18禁裸乳无遮挡免费网站照片 | 如日韩欧美国产精品一区二区三区| 黑人操中国人逼视频| 精品国产美女av久久久久小说| 午夜福利在线观看吧| 91麻豆av在线| 精品国产一区二区久久| 99久久精品国产亚洲精品| 精品日产1卡2卡| svipshipincom国产片| 人妻久久中文字幕网| 在线播放国产精品三级| 精品少妇一区二区三区视频日本电影| 50天的宝宝边吃奶边哭怎么回事| av天堂久久9| 啦啦啦在线免费观看视频4| 美国免费a级毛片| 黑人巨大精品欧美一区二区mp4| 国产精品1区2区在线观看.| 色老头精品视频在线观看| 午夜两性在线视频| ponron亚洲| 亚洲少妇的诱惑av| 少妇被粗大的猛进出69影院| 欧美黄色片欧美黄色片| 99在线人妻在线中文字幕| 长腿黑丝高跟| 18禁美女被吸乳视频| 丝袜人妻中文字幕| 别揉我奶头~嗯~啊~动态视频| 老汉色av国产亚洲站长工具| 亚洲精品美女久久久久99蜜臀| 99国产精品免费福利视频| 国内毛片毛片毛片毛片毛片| 亚洲黑人精品在线| 成人黄色视频免费在线看| 久久久久久亚洲精品国产蜜桃av| 黑人猛操日本美女一级片| 看片在线看免费视频| 一本综合久久免费| 国产精品1区2区在线观看.| 91字幕亚洲| 1024香蕉在线观看| 国产一区二区在线av高清观看| 欧美日韩乱码在线| 后天国语完整版免费观看| 国产精品秋霞免费鲁丝片| 狂野欧美激情性xxxx| 国产精品一区二区免费欧美| 黄色毛片三级朝国网站| 欧美精品啪啪一区二区三区| 色哟哟哟哟哟哟| 国产成人系列免费观看| 国产91精品成人一区二区三区| 一个人免费在线观看的高清视频| 女性生殖器流出的白浆| 欧美激情高清一区二区三区| a在线观看视频网站| 少妇的丰满在线观看| 黄色怎么调成土黄色| 欧美性长视频在线观看| 国产无遮挡羞羞视频在线观看| 久久人人97超碰香蕉20202| 亚洲片人在线观看| 琪琪午夜伦伦电影理论片6080| 久久中文字幕一级| 中国美女看黄片| 欧美日韩福利视频一区二区| 欧美一级毛片孕妇| 日韩大尺度精品在线看网址 | 脱女人内裤的视频| 久久精品亚洲精品国产色婷小说| 亚洲精品一卡2卡三卡4卡5卡| 黑人巨大精品欧美一区二区蜜桃| 免费av毛片视频| 国产成人精品在线电影| 高清毛片免费观看视频网站 | 制服人妻中文乱码| 久久精品亚洲精品国产色婷小说| 亚洲熟女毛片儿| 亚洲国产精品999在线| 成年人免费黄色播放视频| av网站免费在线观看视频| 欧美色视频一区免费| www国产在线视频色| 亚洲色图综合在线观看| 手机成人av网站| 天天躁夜夜躁狠狠躁躁| 女性生殖器流出的白浆| 免费女性裸体啪啪无遮挡网站| 精品熟女少妇八av免费久了| 国产亚洲欧美精品永久| 中文字幕av电影在线播放| 又紧又爽又黄一区二区| 美女大奶头视频| 99国产精品免费福利视频| 亚洲欧美一区二区三区黑人| 三级毛片av免费| 久久久久久久久免费视频了| 女性被躁到高潮视频| 涩涩av久久男人的天堂| www.999成人在线观看| av超薄肉色丝袜交足视频| 久久久久久亚洲精品国产蜜桃av| 50天的宝宝边吃奶边哭怎么回事| 国产精品98久久久久久宅男小说| 久久久久亚洲av毛片大全| 天堂动漫精品| 中亚洲国语对白在线视频| 欧美丝袜亚洲另类 | 日韩欧美免费精品| 国产亚洲精品久久久久5区| 99在线视频只有这里精品首页| 国产成人啪精品午夜网站| 成人永久免费在线观看视频| 天堂俺去俺来也www色官网| 久久亚洲精品不卡| 久久中文字幕人妻熟女| 久久香蕉激情| 两个人看的免费小视频| 岛国在线观看网站| 婷婷精品国产亚洲av在线| 一二三四社区在线视频社区8| 麻豆av在线久日| 欧美一级毛片孕妇| 日韩精品中文字幕看吧| 村上凉子中文字幕在线| 90打野战视频偷拍视频| 一进一出抽搐动态| 高清在线国产一区| 欧美日韩瑟瑟在线播放| 亚洲国产精品sss在线观看 | 狠狠狠狠99中文字幕| 人人妻人人澡人人看| 我的亚洲天堂| 一区二区三区激情视频| 男人舔女人下体高潮全视频| 一夜夜www| 99久久久亚洲精品蜜臀av| av视频免费观看在线观看| 亚洲av第一区精品v没综合| 久久久久久亚洲精品国产蜜桃av| av国产精品久久久久影院| 一边摸一边做爽爽视频免费| 黄色女人牲交| 国产精品久久久久久人妻精品电影| 女人被狂操c到高潮| 国产亚洲精品一区二区www| 日韩免费av在线播放| 成人免费观看视频高清| 中文欧美无线码| av天堂久久9| 久久香蕉精品热| 国产精品国产av在线观看| 天堂中文最新版在线下载| 久久草成人影院| 欧美乱色亚洲激情| 午夜影院日韩av| 国产伦人伦偷精品视频| 国产成人一区二区三区免费视频网站| 国产99久久九九免费精品| 色哟哟哟哟哟哟| 久久精品影院6| 别揉我奶头~嗯~啊~动态视频| 香蕉久久夜色| 久久精品国产亚洲av香蕉五月| 99精品久久久久人妻精品| 欧美 亚洲 国产 日韩一| 色在线成人网| 俄罗斯特黄特色一大片| 日本vs欧美在线观看视频| 国产成人免费无遮挡视频| 亚洲三区欧美一区| 久久亚洲精品不卡| 日韩视频一区二区在线观看| tocl精华| 久久久久久久久免费视频了| 黑人巨大精品欧美一区二区mp4| 丁香欧美五月| 国产精品日韩av在线免费观看 | 久久精品国产亚洲av高清一级| 在线观看午夜福利视频| 首页视频小说图片口味搜索| 国产伦一二天堂av在线观看| 日韩成人在线观看一区二区三区| 久久久久久大精品| 99久久国产精品久久久| 亚洲在线自拍视频| 一区二区三区激情视频| 国产精品国产av在线观看| 人成视频在线观看免费观看| 久久久国产成人精品二区 | 亚洲第一青青草原| 亚洲人成电影观看| √禁漫天堂资源中文www| 超碰成人久久| 亚洲国产毛片av蜜桃av| 少妇裸体淫交视频免费看高清 | 啦啦啦 在线观看视频| 日韩大码丰满熟妇| 精品国产乱子伦一区二区三区| 午夜免费成人在线视频| 午夜福利在线免费观看网站| 99久久精品国产亚洲精品| 一区二区三区国产精品乱码| www.自偷自拍.com| 久久精品影院6| 十八禁人妻一区二区| 国产在线精品亚洲第一网站| 国产一区二区三区视频了| 国产精品一区二区三区四区久久 | 自拍欧美九色日韩亚洲蝌蚪91| 亚洲va日本ⅴa欧美va伊人久久| 91成人精品电影| 满18在线观看网站| 国产精品一区二区在线不卡| 一边摸一边做爽爽视频免费| 深夜精品福利| 女警被强在线播放| 超碰成人久久| 一a级毛片在线观看| 在线观看午夜福利视频| 最新美女视频免费是黄的| 亚洲国产欧美日韩在线播放| 国产成人精品在线电影| 十分钟在线观看高清视频www| 热99国产精品久久久久久7| 午夜福利一区二区在线看| 国产成人影院久久av| 国产激情欧美一区二区| 亚洲成人精品中文字幕电影 | 久久久国产成人免费| 男男h啪啪无遮挡| 无遮挡黄片免费观看| 成人免费观看视频高清| 亚洲成国产人片在线观看| 岛国在线观看网站| 91麻豆精品激情在线观看国产 | 中文亚洲av片在线观看爽| 日韩三级视频一区二区三区| aaaaa片日本免费| 岛国在线观看网站| 欧美激情 高清一区二区三区| 国产极品粉嫩免费观看在线| 精品久久久精品久久久| 国产精品久久久人人做人人爽| 亚洲人成电影观看| 国产精品野战在线观看 | 一区在线观看完整版| 免费一级毛片在线播放高清视频 | 久久人人97超碰香蕉20202| 亚洲精品中文字幕一二三四区| 欧美成人免费av一区二区三区| 亚洲欧美精品综合一区二区三区| 美女高潮喷水抽搐中文字幕| 热99re8久久精品国产| 91在线观看av| 久久精品aⅴ一区二区三区四区| 又大又爽又粗| 91老司机精品| 99国产极品粉嫩在线观看| 欧美日韩精品网址| 日韩欧美一区二区三区在线观看| 久久精品91无色码中文字幕| 久久热在线av| 日本五十路高清| 亚洲一区二区三区欧美精品| 亚洲国产欧美网| 日本 av在线| 午夜精品在线福利| 久久精品亚洲精品国产色婷小说| av视频免费观看在线观看| 亚洲五月婷婷丁香| 男男h啪啪无遮挡| 在线观看一区二区三区| 成人手机av| 免费在线观看视频国产中文字幕亚洲| av视频免费观看在线观看| 99精品久久久久人妻精品| 欧美精品啪啪一区二区三区| 中文字幕人妻丝袜一区二区| 欧美丝袜亚洲另类 | 国产精品1区2区在线观看.| 久久香蕉国产精品| 久久久久久亚洲精品国产蜜桃av| 久久国产精品影院| 国产免费现黄频在线看| 国产av一区在线观看免费| 自线自在国产av| 交换朋友夫妻互换小说| 看片在线看免费视频| 久久精品国产亚洲av香蕉五月| 国产精品美女特级片免费视频播放器 | 国产无遮挡羞羞视频在线观看| 国产伦人伦偷精品视频| av天堂久久9| 免费看a级黄色片| 麻豆av在线久日| 黑人操中国人逼视频| 岛国视频午夜一区免费看| 久久久国产成人精品二区 | 欧美成人性av电影在线观看| 欧美丝袜亚洲另类 | 婷婷六月久久综合丁香| 日本wwww免费看| 国产亚洲精品久久久久久毛片| 日韩视频一区二区在线观看| av天堂久久9| 亚洲国产精品sss在线观看 | 久久久久久久久免费视频了| 国产精品综合久久久久久久免费 | 国产精品久久久av美女十八| 黄片大片在线免费观看| 亚洲av片天天在线观看| 欧美黄色片欧美黄色片| 在线av久久热| 精品国产超薄肉色丝袜足j| 在线看a的网站| 免费一级毛片在线播放高清视频 | 国产精品免费视频内射| 80岁老熟妇乱子伦牲交| 国产成人精品无人区| 老司机午夜十八禁免费视频| 50天的宝宝边吃奶边哭怎么回事| av国产精品久久久久影院| 午夜激情av网站| 波多野结衣av一区二区av| 亚洲七黄色美女视频| 多毛熟女@视频| 日本五十路高清| 久久精品亚洲av国产电影网| 搡老熟女国产l中国老女人| 国产一卡二卡三卡精品| aaaaa片日本免费| 国产亚洲av高清不卡| 久久人妻福利社区极品人妻图片| 亚洲男人的天堂狠狠| 韩国精品一区二区三区| 免费看十八禁软件| 高清欧美精品videossex| 中文字幕人妻丝袜一区二区| 亚洲精品国产一区二区精华液| 亚洲av成人不卡在线观看播放网| 久久久久国内视频| 在线十欧美十亚洲十日本专区| 国产亚洲欧美在线一区二区| 最新美女视频免费是黄的| 天天躁狠狠躁夜夜躁狠狠躁| 国产精华一区二区三区| 国产精品国产高清国产av| 91成年电影在线观看| 淫妇啪啪啪对白视频| 久热这里只有精品99| 女人精品久久久久毛片| 女人被躁到高潮嗷嗷叫费观| 久久精品91无色码中文字幕| 中文字幕精品免费在线观看视频| 美女高潮到喷水免费观看| 天堂影院成人在线观看| 午夜福利欧美成人| 日本vs欧美在线观看视频| 国产99白浆流出| 国产精品久久视频播放| 欧美性长视频在线观看| 国产精品日韩av在线免费观看 | 夜夜夜夜夜久久久久| 又紧又爽又黄一区二区| 中文字幕另类日韩欧美亚洲嫩草| 精品高清国产在线一区| 午夜福利一区二区在线看| av片东京热男人的天堂| 欧美亚洲日本最大视频资源| 日韩av在线大香蕉| 中文字幕精品免费在线观看视频| 午夜福利免费观看在线| 高潮久久久久久久久久久不卡| 国产高清激情床上av| 国产精品亚洲av一区麻豆| 神马国产精品三级电影在线观看 | 久9热在线精品视频| 亚洲精品一卡2卡三卡4卡5卡| 老司机靠b影院| 国产成人精品久久二区二区91| av电影中文网址| 欧美日韩中文字幕国产精品一区二区三区 | 亚洲欧美激情在线| 丝袜美腿诱惑在线| 国产99久久九九免费精品| 婷婷六月久久综合丁香| av片东京热男人的天堂| 大型黄色视频在线免费观看| 男人的好看免费观看在线视频 | 久久影院123| 在线观看免费视频网站a站| 国产97色在线日韩免费| 91字幕亚洲| av福利片在线| 亚洲精品国产区一区二| 久久久久九九精品影院| 亚洲五月色婷婷综合| 日韩人妻精品一区2区三区| 两性午夜刺激爽爽歪歪视频在线观看 | 男人舔女人的私密视频| 制服诱惑二区| 久久精品91蜜桃| 在线观看免费日韩欧美大片| 国产亚洲av高清不卡| 母亲3免费完整高清在线观看| 欧美日韩瑟瑟在线播放| 精品免费久久久久久久清纯| 国产伦一二天堂av在线观看| 亚洲人成77777在线视频| 中文字幕av电影在线播放| 亚洲熟妇熟女久久| 亚洲精品久久午夜乱码| 国产一区二区三区综合在线观看| 国产在线精品亚洲第一网站| 欧美老熟妇乱子伦牲交| 最近最新中文字幕大全电影3 | 交换朋友夫妻互换小说| 国产免费男女视频| 国产精品av久久久久免费| 久久精品亚洲精品国产色婷小说| 国产精品av久久久久免费| 亚洲自偷自拍图片 自拍| 日韩欧美免费精品| 女人爽到高潮嗷嗷叫在线视频| 国产av精品麻豆| 午夜福利影视在线免费观看| 中文字幕另类日韩欧美亚洲嫩草| 中文字幕精品免费在线观看视频| 久久人妻福利社区极品人妻图片| 欧美乱码精品一区二区三区| 天天添夜夜摸| 韩国av一区二区三区四区| 国产av精品麻豆| 又黄又粗又硬又大视频| 欧美成人性av电影在线观看| 曰老女人黄片| 欧美日韩亚洲综合一区二区三区_| 女人爽到高潮嗷嗷叫在线视频| 国产有黄有色有爽视频| 中文字幕精品免费在线观看视频| 黄频高清免费视频| 欧美日韩瑟瑟在线播放| 亚洲黑人精品在线| 亚洲精品一卡2卡三卡4卡5卡| 久久精品成人免费网站| 麻豆成人av在线观看| 无限看片的www在线观看| 大陆偷拍与自拍| 99国产精品一区二区三区| 日本免费a在线| 757午夜福利合集在线观看| 亚洲七黄色美女视频| 国产精品国产高清国产av| 日韩av在线大香蕉| 国产精品免费视频内射| 两性夫妻黄色片| 婷婷精品国产亚洲av在线| 91麻豆av在线| 国产蜜桃级精品一区二区三区| www.熟女人妻精品国产| 亚洲男人天堂网一区|