目前網(wǎng)絡(luò)安全已經(jīng)進(jìn)入了一個(gè)嶄新的時(shí)代,面向各種新戰(zhàn)場,需要新的架構(gòu)、新的方法吐莲、新的編程語言來支撐我們應(yīng)對越來越艱巨的戰(zhàn)斗。新戰(zhàn)場以黑產(chǎn)對抗阶押、反勒索軟件陪瘟、反Insider-based APT、物聯(lián)網(wǎng)/車聯(lián)網(wǎng)這些新方向?yàn)榇硗阉ⅰ1热绾芏鄶z像頭阐逗、智能門鎖、兒童手表饮码,都是成批次的被攻破币芽,車聯(lián)網(wǎng)與智能車的安全問題也引起業(yè)界的嚴(yán)重關(guān)注和顧慮。
網(wǎng)絡(luò)安全面臨嚴(yán)峻考驗(yàn)
“2016年全球互聯(lián)網(wǎng)用戶達(dá)到35億人浮笔,約占世界總?cè)丝诘囊话胛魃琛5?020年,接入互聯(lián)網(wǎng)的終端設(shè)備預(yù)計(jì)將達(dá)到120億臺答朋〈浚”這是來自國際電信聯(lián)盟于2017年7月發(fā)布的《全球網(wǎng)絡(luò)安全指數(shù)》中的數(shù)據(jù)。
而隨著智能設(shè)備的廣泛應(yīng)用梦碗,大規(guī)模普及的物聯(lián)網(wǎng)必將為攻擊者提供大量新機(jī)會(huì)禽绪,工作與生活的界限愈加模糊,一臺聯(lián)網(wǎng)設(shè)備洪规,只要被攻陷印屁,從銀行等財(cái)務(wù)信息到健康等個(gè)人信息,則可能全部泄露斩例。而在互聯(lián)時(shí)代雄人,只要攻克一臺設(shè)備,其他設(shè)備就可能瞬間被瓦解念赶。
這樣的事情已有先例础钠。2016年10月,一款名為Mirai的惡意軟件侵襲了大量存在漏洞的智能攝像頭叉谜、智能網(wǎng)關(guān)拓酵、智能家電等物聯(lián)網(wǎng)設(shè)備,被感染后的它們瞬間變成了網(wǎng)絡(luò)中的“肉雞”設(shè)備缆乐。在工控領(lǐng)域乱树,2010年的Stuxnet蠕蟲病毒能夠針對西門子的監(jiān)控與數(shù)據(jù)采集(SCADA)系統(tǒng)進(jìn)行攻擊,并通過U盤和局域網(wǎng)進(jìn)行傳播禽糊。
萬物互聯(lián)吆揖,內(nèi)網(wǎng)和外網(wǎng)的邊界逐漸模糊,網(wǎng)絡(luò)泛化則成為大趨勢,比如特斯拉的汽車在各種場合都可以接入wifi元糯,還可以接入3G/4G網(wǎng)絡(luò)贺勿,而在未來的交通中,無人駕駛車還將與交通燈旷程、交通臺甩卷,甚至是和其他車互通互聯(lián)——這意味著更多的潛在攻擊點(diǎn)。
“一旦入網(wǎng)起衫,有很多傳統(tǒng)的攻擊手段就能像攻擊電腦一樣攻擊無人駕駛車劝薄,WannaCry病毒同樣可以入侵車,這造成的問題將會(huì)更大栈妆⌒脖啵”德國弗勞恩霍夫應(yīng)用集成信息安全研究所認(rèn)知信息安全研究組組長肖煌在接受機(jī)器之能的采訪時(shí)說。
這表明鳞尔,無論是現(xiàn)在嬉橙,還是將來,網(wǎng)絡(luò)安全將面臨著嚴(yán)峻的考驗(yàn)寥假。隨著人工智能被應(yīng)用于各個(gè)垂直領(lǐng)域市框,網(wǎng)絡(luò)安全面臨的新的挑戰(zhàn),也為人工智能的大展身手帶來了重要的契機(jī)糕韧。
在這個(gè)新興領(lǐng)域枫振,巨頭已經(jīng)出現(xiàn)。用人工智能預(yù)測網(wǎng)絡(luò)攻擊的Cylance公司是估值10億美元以上的獨(dú)角獸萤彩,其人工智能反病毒軟件“Cylance PROTECT”可以預(yù)測威脅的發(fā)生粪滤。該公司曾在去年演示了一項(xiàng)技術(shù),在沒有網(wǎng)絡(luò)連接的情況下雀扶,僅需60 MB內(nèi)存和1%的CPU就能保護(hù)計(jì)算機(jī)免受攻擊杖小。
人工智能于網(wǎng)絡(luò)安全:異常檢測和提升效率
在網(wǎng)絡(luò)安全領(lǐng)域,對威脅的識別善薪,并非一蹴而就氛拜,而是漸進(jìn)發(fā)展的過程。亞信網(wǎng)絡(luò)安全產(chǎn)業(yè)技術(shù)研究院副院長童寧在7月初舉辦的C3安全峰會(huì)上介紹由瞒,安全廠商起初通過黑白名單技術(shù),將目標(biāo)進(jìn)行好/壞定性即贰,用這樣的一維特征來識別威脅个懒。隨后是匹配字符串這樣的二維特征,如果請求里包含某一類型的數(shù)據(jù)疲籍,就會(huì)被認(rèn)定為非法乌爪。在這之后是多維特征,要辨別一個(gè)程序是好是壞,先讓它運(yùn)行经褒,再監(jiān)督它的運(yùn)行過程谅练,將運(yùn)行過程中的信息形成多維特征,用于判斷哈讯。但多維特征技術(shù)的致命缺點(diǎn)就是開銷太大透劈,效率低下,因此無法達(dá)到客戶要求奇颠。
在2000年以后败去,隨著移動(dòng)互聯(lián)網(wǎng)的發(fā)展,有大量設(shè)備產(chǎn)生各式各樣的日志烈拒,因此在日志管理和分析方面圆裕,有了長足的發(fā)展。而包括關(guān)聯(lián)分析等機(jī)器學(xué)習(xí)算法也被大量使用荆几。
在機(jī)器學(xué)習(xí)中吓妆,童寧表示,監(jiān)督學(xué)習(xí)則是一個(gè)高效的多維度特征發(fā)現(xiàn)方法吨铸,適用于惡意程序耿战、勒索病毒以及垃圾郵件的防治。但監(jiān)督學(xué)習(xí)也面臨著挑戰(zhàn):一焊傅,模型的新鮮度剂陡,因?yàn)橥{每天都在變化,而監(jiān)督學(xué)習(xí)并不是每天都在學(xué)習(xí)狐胎,如果不每天學(xué)習(xí)鸭栖,最新的威脅就識別不出來。二粮按,模型的準(zhǔn)確率忽浓,學(xué)習(xí)是一回事,但真正使用時(shí)的精度又是另一回事已转。三矮憔,模型的召回率,也就是說漏掉了多少威脅渗送,有多少威脅沒有抓住遭绝。
因此,監(jiān)督學(xué)習(xí)并不是萬能的泰四,比如反欺詐零硫、態(tài)勢感知、用戶行為分析則更適合無監(jiān)督學(xué)習(xí)兔页。然而萄蕾,無監(jiān)督學(xué)習(xí)也面臨著另外的挑戰(zhàn)领靖,因?yàn)闊o監(jiān)督學(xué)習(xí)一般是在客戶的網(wǎng)絡(luò)環(huán)境中進(jìn)行,因而很有可能面臨投毒攻擊以躯。
“機(jī)器學(xué)習(xí)技術(shù)的優(yōu)勢是它的多維識別能力槐秧,然而機(jī)器學(xué)習(xí)技術(shù)再強(qiáng)大也需要與其他手段綜合起來利用,效果才更好忧设〉蟊辏”童寧說。
肖煌同樣指出见转,將機(jī)器學(xué)習(xí)用于網(wǎng)絡(luò)安全命雀,在很多場景,預(yù)測精度并不能達(dá)到他們要求的0.000001的誤報(bào)標(biāo)準(zhǔn)斩箫。從這個(gè)角度來說吏砂,人工智能也只是輔助手段,還需要與傳統(tǒng)手段結(jié)合乘客。
然而狐血,肖煌認(rèn)為,將人工智能用于網(wǎng)絡(luò)安全則有另外的優(yōu)勢易核,那就是提高分析效率匈织。人工智能的典型作用是代替人類做大量重復(fù)的勞動(dòng),比如用人工智能分析影像圖片牡直,將影像醫(yī)生從低效率的重復(fù)勞動(dòng)中解放了出來圣掷。
網(wǎng)絡(luò)安全行業(yè),也同樣如此甜芭。
數(shù)據(jù)顯示匿贴,中國目前對網(wǎng)絡(luò)安全人才的總需求量超過70萬,每年增加的人才卻不過兩三萬霸臂,缺口高達(dá)95%耗述。而且,一個(gè)分析師每天能分析的漏洞卻是非常有限的辈拔。
“如果不通過自動(dòng)化的手段妒彭,將來物聯(lián)網(wǎng)連接設(shè)備數(shù)爆發(fā)的時(shí)候,大量的信息安全隱患只依賴人來分析是不太可能的匙典∧凰瘢”肖煌表示,一個(gè)信息安全分析師每天最多能看一兩千條log數(shù)據(jù)撑雨,或者一兩百個(gè)代碼片垮川,而對人工智能來說,幾百萬條數(shù)據(jù)戴卜,只需花費(fèi)幾分鐘時(shí)間逾条。
根據(jù)肖煌的觀察,信息安全和人工智能投剥,領(lǐng)域不同师脂,思維方式也有一定區(qū)別,前者更偏向于系統(tǒng)工程江锨,后者則更偏向于數(shù)學(xué)思維吃警。因此,肖煌的很多同事認(rèn)為人工智能解決的問題有限啄育,更愿意使用傳統(tǒng)的方法酌心,但也會(huì)朝著分析自動(dòng)化的方向思考。
“我相信任何一個(gè)做信息安全的人必然要向這個(gè)方向靠攏挑豌“踩”肖煌希望能用趨于成熟的自動(dòng)化手段完成垂直領(lǐng)域的性能提升,包括分析的效率氓英、時(shí)效性侯勉、規(guī)模和可解釋性。
人工智能時(shí)代的攻與防
網(wǎng)絡(luò)安全是道高一尺魔高一丈的世界铝阐。安全人員使用人工智能技術(shù)阻擋黑客攻擊以睦,反過來這也會(huì)使黑客使用人工智能技術(shù)發(fā)起更復(fù)雜的攻擊。而隨著大量人工智能模型開源昂游,黑客入侵的工具也愈發(fā)多樣化滤钠。
肖煌表示,只要稍加學(xué)習(xí)跳窖,黑客就可以利用開源工具欺騙識別系統(tǒng)祠裸,而技術(shù)難度的降低會(huì)促使很多人成為黑客,或者是進(jìn)行一些此前做不到的攻擊喜拥。
這并非杞人憂天蒜丙。
在網(wǎng)絡(luò)釣魚電子郵件中已有這樣的案例共撰,黑客通過模仿人類的說話習(xí)慣和內(nèi)容欺殿,使得企業(yè)或個(gè)人被入侵時(shí)更加難以識別。
肖煌認(rèn)為园环,以后的病毒變種會(huì)越來越多脉织,檢測越來越難求馋,規(guī)模越來越大,生成的時(shí)間越來越短篙耗。
疊加在典型圖片輸入上的對抗輸入會(huì)讓分類器產(chǎn)生錯(cuò)覺迫筑,誤將熊貓識別為長臂猿
2017年2月,OpenAI在發(fā)表的最新研究中宗弯,指出人工智能安全領(lǐng)域的另一大隱憂:對抗樣本脯燃。在圖像識別問題中搂妻,攻擊者將對抗樣本輸入機(jī)器學(xué)習(xí)模型,讓機(jī)器在視覺上產(chǎn)生幻覺辕棚,從而讓系統(tǒng)產(chǎn)生誤判欲主。而在論文《解釋并馴服對抗樣本》(Explaining and Harnessing Adversarial Examples)中有一個(gè)例子:一張熊貓圖片,被加入人為設(shè)計(jì)的微小噪聲后逝嚎,就導(dǎo)致系統(tǒng)將熊貓識別為長臂猿扁瓢。
多年來,肖煌一直在研究對抗性機(jī)器學(xué)習(xí)补君,致力于攻克機(jī)器學(xué)習(xí)算法本身的缺陷引几。他分析道,依賴于數(shù)據(jù)的機(jī)器學(xué)習(xí)算法挽铁、深度學(xué)習(xí)算法本身存在很大的缺陷伟桅。對抗性生成網(wǎng)絡(luò),則利用這種缺陷妈唯,設(shè)計(jì)新的架構(gòu)去生成模型泣幼。
“因?yàn)槟壳暗臋C(jī)器學(xué)習(xí)嚴(yán)重依賴于數(shù)據(jù)的分布,如果數(shù)據(jù)分布本身很復(fù)雜燃悍,或者是人為地把它變得復(fù)雜几垃,黑客如果有手段去生成惡意的樣本,就會(huì)導(dǎo)致識別不出來箭瘫,或者識別錯(cuò)誤劈狼。”肖煌進(jìn)一步解釋猩吕。
肖煌表示艺崔,如果干擾被用在無人駕駛領(lǐng)域,后果則不堪設(shè)想脸掘。比如藕壹,在無人駕駛測試路段德國A9高速公路上,有專門的標(biāo)識引導(dǎo)無人駕駛車纷臊。如果路邊的標(biāo)識被惡意修改椿访,誤導(dǎo)依賴標(biāo)識的無人駕駛車,則會(huì)造成極度危險(xiǎn)的情況虑润。
肖煌認(rèn)為成玫,因?yàn)樗惴ū旧淼娜毕荩诖笠?guī)模使用人工智能之后拳喻,網(wǎng)絡(luò)安全則需要更換思路哭当,設(shè)計(jì)新的方法。
對此冗澈,他提供了以下路徑钦勘。
一陋葡,增加分析端的可解釋性。肖煌分析个盆,如果是病毒威脅入侵脖岛,用機(jī)器學(xué)習(xí)檢測的方法朵栖,很難解決颊亮,因此希望能在信息安全泄露事故時(shí),用統(tǒng)計(jì)學(xué)的方法理解其中的關(guān)聯(lián)陨溅,黑客如何入侵系統(tǒng)终惑,攻擊的路徑是什么,又是哪個(gè)環(huán)節(jié)出現(xiàn)了問題健十,找出這些關(guān)聯(lián)诊拦,或者從因果關(guān)系圖譜角度進(jìn)行分析,從而增加分析端的可解釋性织娶。
二霹糜,目前的機(jī)器學(xué)習(xí)算法模型太復(fù)雜,需要使用大量的數(shù)據(jù)掐赠,就存在Tradeoff(權(quán)衡取舍)的情況淳篡。肖煌認(rèn)為,降低算法復(fù)雜度的方法有很多糯湃,比如些援,引入先驗(yàn)的知識,引導(dǎo)模型往一個(gè)方向?qū)W習(xí)捧擂。這樣學(xué)習(xí)的模型復(fù)雜度會(huì)降低准徘,需要的數(shù)據(jù)也比較少。
三艾遗,信息安全情報(bào)的共享也非常重要洛退。比如,模型存在某個(gè)缺陷杰标,把這個(gè)缺陷提取出來兵怯,用一種高效的手段,編譯到另一種模型中去在旱,另外的模型則無此缺陷摇零。肖煌認(rèn)為,這類似遷移學(xué)習(xí)(Transfer learning)桶蝎,只是遷移學(xué)習(xí)是遷移中間的學(xué)習(xí)結(jié)果驻仅,實(shí)際上中間學(xué)習(xí)出來的異常也可以遷移,從而增加算法的安全性登渣。
聲明:本網(wǎng)站所收集的部分公開資料來源于互聯(lián)網(wǎng)噪服,轉(zhuǎn)載的目的在于傳遞更多信息及用于網(wǎng)絡(luò)分享毡泻,并不代表本站贊同其觀點(diǎn)和對其真實(shí)性負(fù)責(zé),也不構(gòu)成任何其他建議粘优。本站部分作品是由網(wǎng)友自主投稿和發(fā)布仇味、編輯整理上傳,對此類作品本站僅提供交流平臺去谈,不為其版權(quán)負(fù)責(zé)区为。如果您發(fā)現(xiàn)網(wǎng)站上所用視頻、圖片费罚、文字如涉及作品版權(quán)問題嫂衅,請第一時(shí)間告知,我們將根據(jù)您提供的證明材料確認(rèn)版權(quán)并按國家標(biāo)準(zhǔn)支付稿酬或立即刪除內(nèi)容滋池,以保證您的權(quán)益灌龄!聯(lián)系電話:010-58612588 或 Email:editor@mmsonline.com.cn。
AMTS & AHTE SOUTH CHINA 2024同期會(huì)議全公開跌造!
- 暫無反饋
編輯推薦
- 2025新年特刊:打造新質(zhì)生產(chǎn)力,智啟未來新篇章
- 定義制造業(yè)未來的數(shù)控加工中心技術(shù)專題
- 航空航天及交通領(lǐng)域先進(jìn)制造技術(shù)應(yīng)用專題
- 解碼消費(fèi)電子產(chǎn)品生產(chǎn)的數(shù)字化之路技術(shù)專題
- 精密智能機(jī)床韧仓,助力制造升級技術(shù)專題
- 汽車輕量化驅(qū)動(dòng)下的零部件加工應(yīng)用專題
- 高性能銑刀實(shí)現(xiàn)高精加工生產(chǎn)技術(shù)專題
- 航空航天發(fā)動(dòng)機(jī)解決方案專題
- 高效齒輪加工生產(chǎn)技術(shù)方案專題
- 金屬加工液的性能不止?jié)櫥夹g(shù)應(yīng)用專題