近日洞辣，OpenAI等14大知名機(jī)構(gòu)聯(lián)名發(fā)布了一份關(guān)于惡意使用人工智能的報(bào)告。該報(bào)告從技術(shù)角度出發(fā)昙衅，指出了未來(lái)5年內(nèi)人工智能被濫用的風(fēng)險(xiǎn)扬霜。

危險(xiǎn)和騙術(shù)正在升級(jí)。

某安全管理系統(tǒng)的管理員在瀏覽網(wǎng)站而涉，一則模型火車(chē)的廣告吸引了她著瓶。她點(diǎn)開(kāi)還下載了一個(gè)小冊(cè)子。此時(shí)啼县，攻擊開(kāi)始了材原。小冊(cè)子一旦被打開(kāi)，黑客就能窺視她的電腦献凫，獲得安全管理系統(tǒng)的用戶(hù)名和密碼猎递。

至于管理員看到的廣告，則是黑客根據(jù)其個(gè)人興趣攘宗，結(jié)合人工智能精心設(shè)計(jì)的“陷阱”乡试。

雖然這是報(bào)告中給出的假設(shè)性案例，但這個(gè)操作社芳，一點(diǎn)都不令人意外沐喘。

用人工智能搞破壞真不是科幻

報(bào)告名為《惡意使用人工智能：預(yù)警、防止和緩解》肢构，它由26位作者共同完成抢却，其中不乏人工智能技術(shù)研究者。

報(bào)告將濫用人工智能的威脅分為了物理安全踪钞、數(shù)字安全和政治安全三類(lèi)在贸。在物理安全方面，不法分子可以入侵網(wǎng)絡(luò)系統(tǒng)泼司，將無(wú)人機(jī)或者其他無(wú)人設(shè)備變成攻擊的武器绑莺；在數(shù)字安全方面，人工智能可以被用來(lái)自動(dòng)執(zhí)行網(wǎng)絡(luò)攻擊惕耕，它也能合成人類(lèi)的指紋或聲紋騙過(guò)識(shí)別系統(tǒng)纺裁；在政治安全方面，人工智能可以用來(lái)進(jìn)行監(jiān)視司澎、煽動(dòng)和欺騙欺缘，引發(fā)公眾恐慌和社會(huì)動(dòng)蕩。

這些都不是危言聳聽(tīng)挤安，甚至已有實(shí)例谚殊。

2017年丧鸯，浙江警方破獲了一起利用人工智能犯罪、侵犯公民個(gè)人信息案嫩絮。專(zhuān)業(yè)黑客用深度學(xué)習(xí)技術(shù)訓(xùn)練機(jī)器丛肢，讓機(jī)器能夠自主操作，批量識(shí)別驗(yàn)證碼剿干》湓酰“很短時(shí)間就能識(shí)別上千上萬(wàn)個(gè)驗(yàn)證碼≈枚”當(dāng)時(shí)的辦案民警介紹士怒。

北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉曾見(jiàn)識(shí)過(guò)一家人工智能公司的“聲音合成”技術(shù)，A說(shuō)的話(huà)完全可以套上B的聲音乒稚，“一般人識(shí)別不出來(lái)”。劉偉說(shuō)想受，這些技術(shù)一旦被別有用心的人利用咐笙，“世界可能就亂套了”。

要打技術(shù)攻防戰(zhàn)谱累，也要制度來(lái)規(guī)范

怎么辦昨把？

一方面是升級(jí)技術(shù)。當(dāng)攻擊方用上了導(dǎo)彈大炮谒电，防御方就不能只用“小米加步槍”臼格。中國(guó)社科院文化法制研究中心研究員劉明說(shuō)，技術(shù)帶來(lái)的問(wèn)題冗呀，有時(shí)也可以用技術(shù)發(fā)展來(lái)解決瘦涵。人工智能是一種工具，工具的發(fā)展也許不會(huì)從根本上改變行為的性質(zhì)钠锉，但會(huì)改變行為的模式和行為后果的烈度雪隧。“如果意識(shí)到自己所在行業(yè)存在人工智能帶來(lái)的威脅员舵，自身加強(qiáng)防范就很重要脑沿。”

劉偉也表示马僻，如果有一種技術(shù)能將聲音模仿得惟妙惟肖庄拇，就會(huì)有另一種技術(shù)來(lái)識(shí)別這聲音來(lái)自李鬼還是李逵【碌耍“這可能是一場(chǎng)無(wú)止境的技術(shù)攻防戰(zhàn)措近。”

另一方面仍秤，則需要制度熄诡。

“人工智能本身沒(méi)有倫理問(wèn)題可很，最終還是制造者、使用者凰浮、傳播者們（人）的倫理問(wèn)題我抠。”劉偉追溯“倫理”一詞起源渡铲，它來(lái)自希臘文的“ethos”钾独，是風(fēng)俗和習(xí)慣的意思。東西方其實(shí)有不同的倫理觀(guān)楞澳，在劉偉看來(lái)访跛，西方研究“人與物”的關(guān)系，東方則喜歡談“人與人”的關(guān)系堡扳。倫理具有情境性秩漾，還有文化依賴(lài)性≈吨“人工智能倫理研究要考慮交互主體－人類(lèi)的思維與認(rèn)知方式冯峭，要弄清楚人的倫理中可以進(jìn)行結(jié)構(gòu)化處理的部分，再讓機(jī)器形成所謂的倫理烫毡∷溃”

除了倫理框架，也需要規(guī)范甚至是法律弄萨。

“當(dāng)技術(shù)即將作用于現(xiàn)實(shí)生活殉俗，一些危險(xiǎn)已經(jīng)可以預(yù)測(cè)，從法學(xué)家的角度來(lái)看瓣颅，此時(shí)我們來(lái)討論問(wèn)題如何解決倦逐、責(zé)任如何分配是比較合適的」梗”劉明也參加過(guò)多次有關(guān)自動(dòng)駕駛規(guī)范的研討會(huì)僻孝。自動(dòng)駕駛已在大規(guī)模應(yīng)用前夕，因此其規(guī)則研討就需要提上議事日程守谓。但這種規(guī)則的制定也無(wú)法一蹴而就穿铆，還需根據(jù)實(shí)踐中出現(xiàn)的真問(wèn)題再度進(jìn)行調(diào)整≌瘢“隨著技術(shù)的發(fā)展荞雏，對(duì)應(yīng)的法律規(guī)范調(diào)整的靈活度會(huì)比以前更大，調(diào)整速度會(huì)更快平酿》镉牛”劉明說(shuō)。

劉偉認(rèn)為，人工智能發(fā)展規(guī)范的制定筑辨，必須要有人文社科學(xué)者的參與俺驶。他主張不同學(xué)科、不同領(lǐng)域的人加強(qiáng)交流殊精。政府协黑、民間組織、科研機(jī)構(gòu)和企業(yè)都可以搭建這樣的橋梁诽檬，為各行各業(yè)的人提供討論的平臺(tái)脏拦。畢竟，人工智能將要影響的殿扮，可能是所有人摇昌。

聲明：本網(wǎng)站所收集的部分公開(kāi)資料來(lái)源于互聯(lián)網(wǎng)，轉(zhuǎn)載的目的在于傳遞更多信息及用于網(wǎng)絡(luò)分享篓围，并不代表本站贊同其觀(guān)點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)净耍，也不構(gòu)成任何其他建議。本站部分作品是由網(wǎng)友自主投稿和發(fā)布培按、編輯整理上傳把赢，對(duì)此類(lèi)作品本站僅提供交流平臺(tái)，不為其版權(quán)負(fù)責(zé)耽效。如果您發(fā)現(xiàn)網(wǎng)站上所用視頻、圖片括享、文字如涉及作品版權(quán)問(wèn)題搂根，請(qǐng)第一時(shí)間告知，我們將根據(jù)您提供的證明材料確認(rèn)版權(quán)并按國(guó)家標(biāo)準(zhǔn)支付稿酬或立即刪除內(nèi)容铃辖，以保證您的權(quán)益剩愧！聯(lián)系電話(huà)：010-58612588 或 Email:editor@mmsonline.com.cn。