軍事AI武器將會(huì )傷害人類(lèi) 學(xué)者專(zhuān)家呼吁禁止研發(fā)

物理學(xué)家霍金(Stephen Hawking)、Tesla執行長(cháng)Elon Musk以及蘋(píng)果(Apple)聯(lián)合創(chuàng )辦人Steve Wozniak等幾百位在學(xué)術(shù)界與產(chǎn)業(yè)界頗負盛名的專(zhuān)家學(xué)者們日前簽署了一份反對攻擊性自動(dòng)武器的公開(kāi)信。

 

這封公開(kāi)信是生命未來(lái)研究所(Future of Life Institute；FLI)在2015年人工智能?chē)H聯(lián)合會(huì )(IJCAI)開(kāi)幕時(shí)所發(fā)表的，用意在于警告開(kāi)發(fā)軍事人工智能(Artificial Intelligence；AI)系統的軍備競賽將會(huì )傷害人類(lèi)。

 

“如果有任何重大的軍事力量推動(dòng)AI武器的發(fā)展，不可避免地將會(huì )造成一波全球性的軍備競賽，而這項技術(shù)軌跡的終點(diǎn)是顯而易見(jiàn)的：自動(dòng)武器將會(huì )變成明日的Kalashnikovs沖鋒qiang。”

 

信中強調，這樣的系統利用其強大的可承受能力，無(wú)可避免地將會(huì )變得無(wú)所不在，并且被用于暗殺、動(dòng)蕩國家、進(jìn)行種族屠|殺與恐怖主義。

 

FLI是由美國麻省理工學(xué)院(MIT)宇宙學(xué)家Max Tegmark和Skype聯(lián)合創(chuàng )辦人Jaan Tallinn連手成立的，Hawking與Musk擔任該研究所顧問(wèn)，期望教導人們看清伴隨人類(lèi)發(fā)展AI而來(lái)的風(fēng)險。他們先前已經(jīng)公開(kāi)指出超先進(jìn)AI的潛在危險，Musk還曾經(jīng)強調先進(jìn)的AI最終“可能成為我們最大的生存威脅”。

 

 

（來(lái)源：jlmaral via Flickr under CC By 2.0）

 

由AI帶來(lái)的潛在危險已成為技術(shù)專(zhuān)家和決策者之間討論的聯(lián)合話(huà)題。就在一個(gè)月前，位于美國華府的信息技術(shù)與創(chuàng )新基金會(huì )(Information Technology and Innovation Foundation)邀請多位知名的計算機科學(xué)家聯(lián)合針對超級智能計算機是否真的對人類(lèi)造成威脅的問(wèn)題展開(kāi)廣泛討論。

 

加州大學(xué)柏克萊分校AI教授Stuart Russell參與了這場(chǎng)辯論會(huì )，同時(shí)也簽署了這封公開(kāi)信。根據他的觀(guān)察，“AI是否會(huì )對人類(lèi)造成威脅，取決于我們是否使其成為人類(lèi)的威脅。”他強調，我們還必須更加努力，才能確保不會(huì )使AI成為人類(lèi)的威脅。

 

美國軍方目前堅稱(chēng)，自動(dòng)系統必須服從人類(lèi)的指揮。根據2012年美國國防部(DoD)的政策指令規定，“自動(dòng)與半自動(dòng)武器系統的設計必須能讓指揮官和營(yíng)運商行使適當的人為判斷，凌駕于武力的使用之上。”

 

然而，人類(lèi)控制超越這些系統的實(shí)踐仍然不完善。2014年，人權組織Reprieve聲稱(chēng)，美國無(wú)人機在每一次預定目標的攻擊行動(dòng)中意外導致28名不明個(gè)人死亡。

 

美國國防部對于自動(dòng)武器的政策必須在發(fā)布后的五年內重新認證，否則將在2022年到期。然而，如果其他國家不斷追逐自動(dòng)系統的開(kāi)發(fā)，那么政治或軍事領(lǐng)袖是否會(huì )持持這項策略就不得而知了。

 

在2014年的報告中，華府的一個(gè)防御政策小組——新美國安全中心(CNAS)聲稱(chēng)，全球至少有75個(gè)國家仍不斷投資于自動(dòng)軍事系統的研發(fā)，而美國將“出于運作的必要性而被迫投入些系統，同時(shí)也因為人員的成本以及傳統載人作戰平臺的發(fā)展越來(lái)越無(wú)以為繼。”

 

如果CNAS是正確的，那么自動(dòng)系統的經(jīng)濟將會(huì )十分吸引人，攻擊性武器的禁令可能無(wú)法實(shí)現。

 

經(jīng)濟將在武器系統的要求下展現明顯作用。

 

Kalashnikov步qiang在很大程度上取決于其普及度、可負擔性以及簡(jiǎn)單性?；蛘?，以地|雷為例，這種表面上的攻擊性自動(dòng)武器并不包括在公開(kāi)信提出“禁用攻擊性自動(dòng)武器”的涵蓋范圍內。

 

根據聯(lián)合國的數據，地|雷的制造費用介于3美元至75美元之間。從1960年代以來(lái)，已經(jīng)有多達1.1億個(gè)地|雷被部署在全世界70多個(gè)國家中。此外，在戰時(shí)尚未被發(fā)現的地|雷仍可能引爆。

 

禁止地|雷的確有其效果：在1999年分頒布禁雷條約(Mine Ban Treaty)后，因地|雷死傷的人數已經(jīng)從每天25人降低到9人了。但對于地|雷的限制至今尚未取得世界各地或每個(gè)人的重視。

 

的確，更好的AI實(shí)際上也有許多好處。例如，基本的地|雷算法是：如果觸發(fā)，隨即爆炸。它能做得更有識別能力嗎？——何時(shí)爆炸、該礦區的機制是機械或電子的？例如在地|雷中加一個(gè)逾期定時(shí)器，就能避免許多意外致死，特別是當作戰結束后。更先進(jìn)的系統對于有效目標應該具有更高的識別能力。

 

攻擊性的向動(dòng)武器目前已經(jīng)存在了。除了地|雷，還有自動(dòng)網(wǎng)絡(luò )武器。例如，Stuxnet一直被歸類(lèi)于A(yíng)I。事實(shí)上，相較于消極地禁止自動(dòng)武器系統以外，更實(shí)際也更有效的作法在于追尋一個(gè)積極管理的制度。