最近磷杏，位于德國的一家汽車制造廠里劫流，一臺高度自動化的機器人突然出現(xiàn)了錯誤操作难衰，抓起旁邊的一名安裝工人钦无，摔向了一塊金屬板，造成該工人不幸罹難盖袭。消息一出失暂，輿論嘩然：加上不久之前剛剛上映的電影《超能查派》，很多人開始擔心鳄虱，以后科技進步了弟塞，會不會出現(xiàn)特別聰明的機器人，背叛了人類的意志拙已，最終成為《終結(jié)者》里那樣主宰世界的機器霸主决记？另外，如果機器人真的殺人了枯誓，誰該為這樣的兇殺承擔責任谆胰？

其實啊，這事還真沒那么可怕啦五浊。

啥是機器人萄瞻？

在討論之前扔摔，我們不妨先來劃定一個范圍，什么樣的東西进裹，才算是機器人呢四雏？

實際上，這個問題并沒有確切的答案锥萧，因為隨著科技的發(fā)展百擒，科學家們給出的定義被不斷刷新。通常認為寄旋，對自己具有一定的控制和感知能力仍桌，能夠自主完成一定的動作的機器裝置，就可以算做機器人导而。

這里所說的“自主”忱叭，又有兩層意思：第一種，是按照人類預先給它設(shè)定好的程序今艺，按部就班地執(zhí)行下去韵丑，實現(xiàn)人類設(shè)計好的功能。這種機器人如今已經(jīng)非常普遍虚缎，大到登月的“玉兔”號探測器撵彻，小到家用的掃地機器人，都屬此類实牡。

也就是說陌僵，這類機器人要去做什么事情，都是它的制造者說了算的创坞，它只是一個工具碗短，并不擁有真正的自主意志——和原始人手里的石斧并沒有本質(zhì)差別；區(qū)別只在于這種工具比較“聰明”题涨，能夠根據(jù)實際工作的情況偎谁，更靈活、更精確地實現(xiàn)主人設(shè)定的程序纲堵，完成更加復雜而精確的行動餐嗦，就像在坑洼不平的路面，坐汽車肯定比坐牛車舒服船庐。

第二種就有點嚇人了迁拂，這種機器人擁有一定的人工智能（AI）地捂，能夠自主學習和獨立思考羽捻，在人類給它設(shè)定的程序之外，實現(xiàn)人類沒有教給它的功能滤重，就像電影里的查派和終結(jié)者酣疏。這種機器人的行為是不可預測的涮巩，就像我們看到一個襁褓中的孩子，也不可能知道他將來會成為怎樣的人诬曙，做出怎樣的事情來矩沥？

真會殺人？

提到機器人“謀殺”人類的問題霹孙，第一種機器人顯然不在討論之列咪干，因為正常情況下它們并沒有被設(shè)定殺人的程序，哪怕是真的判斷失誤而誤傷人類辐赞，那也只能是意外事故部翘；即便是有誰使壞，故意給機器人裝了危險的指令响委，此刻的機器人依然還是一個工具而已新思，并沒有自主的意志。

這一類機器人致人死亡的事情赘风，實際并不算罕見夹囚，比如本文開頭提到的這起事故。理由也很簡單邀窃，任何人類制造出來的東西荸哟，都不可能100%地確保不出故障；而越是功能復雜蛔翅、制造精密的系統(tǒng)敲茄，發(fā)生故障的概率就越難降低∩轿觯回想一下堰燎，這些年人類發(fā)射的無人航天器，從菲萊羽嘉、玉兔到新視野號引舱，盡管都代表了當時最先進的科學技術(shù)，但多多少少都有掉過鏈子反腺。

機器出了故障就有可能對人類造成傷害猬蕉，人類能做的只能是盡量降低故障率，加強安全防護聊浊，卻不能因噎廢食薄好，放棄機器人的運用。全世界范圍內(nèi)斩缘，因為汽車出現(xiàn)故障而致人類死亡的案例每天唁底、每小時甚至每分鐘都在發(fā)生，但汽車依舊是人類最青睞的機器泳隶；同理他幢，我們也沒有必要對機器人苛求永不犯錯涮侥。

盡管從理論上說，第二種機器人完全可能以“自主的決定”去殺害人類订咆，但令人寬慰的是铐维，囿于科技的發(fā)展水平，目前世界上還沒有造出一種和人類能力接近的人工智能（AI）慎菲，所以我們暫時還不用擔心這事嫁蛇。

但是，還有一類介于這兩者之間的機器人露该，還真的可能會成為人類的殺手棠众，那就所謂的戰(zhàn)爭機器人(killer robot)。

目前大家所熟悉的“掠食者”無人機有决，本質(zhì)就是戰(zhàn)爭機器人闸拿，但它依然屬于我們說的第一類機器人，導彈要鎖定誰书幕、要不要發(fā)射都是由坐在基地里的人類遙控決定的新荤。然而，一些國家已經(jīng)在研制自動化程度更高的戰(zhàn)斗機器人台汇，允許它們在戰(zhàn)場上自主尋找苛骨、選擇目標，再自己決定是否開火苟呐。顯然痒芝，這類機器人如果出現(xiàn)故障或者誤判，后果會比工廠里的焊接機器人嚴重得多付箩。 今年3月肛精，聯(lián)合國秘書長潘基文先生曾公開呼吁各國停止此類研究，但似乎效果很有限瞭谴。

如何預防炬山？

可以預見的是，制造機器人的科學技術(shù)仍會不斷發(fā)展册压，而人類對于機器人的運用也會越來越廣泛匪从，無論是居家生活、工業(yè)生產(chǎn)中都是如此捕诲。比如橄妄，谷歌公司一直在研究的無人駕駛汽車，或許數(shù)年之后就會行駛在馬路上卿裙。

因此小赋，如何盡量避免“機器殺人”的危險出現(xiàn)，就是一個很有現(xiàn)實意義的問題了。

對于第一種機器人（也就是目前使用的機器人）而言碳胳，除了在設(shè)計、調(diào)試時更加謹慎之外沫勿，最實際的措施就是減少人類和機器人直接接觸的機會挨约。對于有固定工作地點的機器人（比如流水線上的機器臂），可以設(shè)置物理隔離并劃定危險區(qū)域产雹，禁止無關(guān)人員靠近诫惭；對于能自主走動的機器人（比如掃地、送外賣的機器人）蔓挖，則可以加裝規(guī)避裝置夕土，讓它和人類時刻保持安全距離。此外瘟判，給每臺機器人加裝操作簡便的“紅色按鈕”怨绣， 確保在它出現(xiàn)錯誤動作時，人類能夠一鍵關(guān)停拷获。

對于第二種機器人（具有自主思維能力的AI機器人）篮撑，實際上并沒有確切的預防方法，因為誰也不知道真正的人工智能將會如何思考匆瓜、如何學習电伐，如何理解人類的情感？一種可能的思路是跪悼，按照科幻小說作家阿西莫夫提出的“機器人三定律”來制約人工智能秆杰，將“機器人不得傷害人類”、“不能眼見人類處于危險而袖手旁觀”原則貫穿整個開發(fā)工作的始終蚊来，“從小開始”培養(yǎng)智能機器人對于人類的服從與善意蝠肤。

當然，這種方法能否奏效逢君，目前依然有很大的爭議橄看。另一種觀點認為，如果我們真的能制造出一個自主學習避某、獨立思考的人工智能機器人硅跌，其性質(zhì)就跟漁夫撬開膽瓶上所羅門的封印差不多，人類根本無法預測蚯垫、控制這個AI能夠?qū)W到多少知識闲涕，又會用這些知識造出什么樣的東西來（或許可能是它自己的許許多多個副本），搞不好就是人類文明的盡頭咳碰。

這次發(fā)生在德國的事故的確非常令人遺憾剖毯，但人類似乎并不需要對這種非智能機器人有太多顧慮，畢竟，我們早已將更加生死攸關(guān)的問題交給了電腦與機器（比如民航客機上的自動駕駛儀逊谋，記錄你全部身家的銀行擂达、股市的服務器），對于“機器殺人”這種小概率的事故就更不需要焦慮了胶滋。

相應地板鬓，對于未來可能出現(xiàn)的人工智能機器人，或許更需要引起關(guān)注與思考究恤。當然俭令，開發(fā)AI機器人是科學家和工程師們的事情，但有空了解下這個新奇的領(lǐng)域部宿，也是件很有意思的事情抄腔。

聲明：本網(wǎng)站所收集的部分公開資料來源于互聯(lián)網(wǎng)，轉(zhuǎn)載的目的在于傳遞更多信息及用于網(wǎng)絡(luò)分享理张，并不代表本站贊同其觀點和對其真實性負責赫蛇，也不構(gòu)成任何其他建議。本站部分作品是由網(wǎng)友自主投稿和發(fā)布拔馆、編輯整理上傳寸纠，對此類作品本站僅提供交流平臺，不為其版權(quán)負責秕肚。如果您發(fā)現(xiàn)網(wǎng)站上所用視頻帮课、圖片、文字如涉及作品版權(quán)問題袭吗，請第一時間告知八泡，我們將根據(jù)您提供的證明材料確認版權(quán)并按國家標準支付稿酬或立即刪除內(nèi)容，以保證您的權(quán)益苏昨！聯(lián)系電話：010-58612588 或 Email:editor@mmsonline.com.cn锚揍。