馬斯克等116名全球人工智能和機械人范疇的專家近日在墨爾本舉辦的人工智能國際會議上宣布聯名地下信，呼吁結合國采用行為制止“殺手機械人”，激發普遍熱議。《衛報》揭橥評論文章，以為勸告國際兵器商業不要制作殺手機械人曾經太晚，無異于勸告飲料制作商不要制作橙汁。

　　關于116名人工智能和機械人范疇的專家宣布地下信，請求制止“殺手機械人”（killer robots），一個回應是：你們豈非不該該早點想到嗎？

　　特斯拉CEO馬斯克（Elon Musk）是呼吁制止殺手機械人的專家之一。“我們沒有太多時光預備了”，地下信中說，“一旦這個潘多拉的魔盒被翻開，就很難再次打開。”然則，如許的體系可以說早已存在了，例如BAE等開辟的Taranis“無人作戰飛機”（UAV, Unmanned Aerial Vehicle ），三星制作的SGR-A1哨戒炮，曾經安排在韓國國界。無人坦克也曾經正在研發中，而人類對致命性無人機的掌握只是何種水平的成績。

　　但是，殺手機械人一向在精力上與我們同在，只不外是以機械人的情勢。Karel ?apek 1920年在科幻舞臺劇“RUR”（Rossum’s Universal Robots，羅梭的全能工人）中發明了“robot”這個詞（在捷克語中的意思是“休息者”）。他發明的類人機械人，由與劇名同名的一家工場制作，他們反水人類，并終究消亡人類。從 Cybermen 到終結者（Terminator），此類的故事層見疊出。

　　沒無機器人啟發錄正在切近親近的配景，乃至很難去思慮馬斯克等人簽訂的地下信所提出的成績。即便人類的消亡不是處在死活攸關，我們曉得的是這些機械能夠招致掉控，其成果是《機械戰警》中OCP公司的機械人警員。

　　如許的暗示仿佛老是引出一些有關致命兵器的嚴正話題。好吧，所以一個機械人世界末日年夜決戰能夠其實不完整是幻想的，但這些故事，和它們形成的深入的人類的恐怖，終究都是文娛性質的。雖然如斯，相似如許的爭辯，將科幻片子描寫的技巧的好和壞南北極化，隨同帶來的意義在于，只需我們防止真正壞的那些技巧，剩下的都是好的。

　　司法專家對這個成績的熟悉無疑加倍龐雜。一方面，他們關懷機械人倫理方面的更普遍、并且愈來愈緊急的成績；另外一方面，這些成績關乎古代戰斗的性質，和其商品化。

　　我們可以如何令自立技巧體系加倍平安，更相符品德標準？防止機械人對人類形成損害是Isaac Asimov的《我，機械人》（I, Robot）這部作品所商量的成績，這是一部短篇故事集。這部作品對后世形成如斯深遠的影響，個中提出的阿西莫夫“機械人三定律”如今仍常常被評論辯論，其熟悉度簡直像牛頓的活動三定律普通。具有譏諷意味的是，阿西莫夫寫的故事重要是關于這么念頭準確的定律若何被情況損壞。

　　不管若何，品德成績很難有一刀切的準繩。 汗青學家Yuval Noah Harari指出，主動駕駛汽車須要有一些準繩來劃定它們在面對弗成防止、而且能夠招致逝世亡的變亂時應當如何采用行為：機械應當試圖掩護甚么？Harari 說，或許我們會被供給兩種形式：利己主義（優先掩護駕駛員）和利他主義（優先掩護其別人）。

　　Photograph: Melinda Sue Gordon/Allstar/Paramount Pictures

　　在2012年人權不雅察組織一份有關殺人機械人（killer robots）的申報中，包括一些科幻小說般的料想。申報寫道：“要辨別恐怖的布衣和具有威逼性的仇敵，須要有一位兵士去懂得人類行為面前的意圖，這是機械人做不到的工作。”申報還寫道：“機械人不會遭到人類情緒和人類同情心的束縛，而這些是防止濫殺布衣的主要制約身分。”但第一個結論不敷使人佩服——機械人可使用生物辨認技巧，其斷定力也許比用肉眼斷定的小心翼翼的兵士更精確。關于第二個，也許某些時刻是準確的。但其他時刻呢，人類在戰斗中會強奸和 屠戮布衣。

　　我不是要否決這份申報中對自立機械人兵士的恐怖，由于我也是如許。相反，這使我們回到癥結的成績，不是關乎技巧，而是關乎戰斗。

　　我們對戰斗倫理成績的敏感長短常隨意率性的。人權不雅察組織的申報說：“完整自立的兵器的應用提出了有關義務的成績，這將減弱另外一個已確立的掩護布衣的對象。”這是一個公正的不雅點，但弗成能放就任何一個已殺青分歧的倫理框架內，核兵器在國際上就是正當的。另外，無人機戰斗，兵士強化技巧和司法之間是一個持續同一體，沒法分化為“人和機械”。

　　主動化軍事技巧的成績與戰斗自己性質的賡續變更親密相干，在恐懼主義和兵變狀況，戰斗并沒有開端和停止的時光點，也沒有疆場或部隊：美國計謀剖析師 Anthony Cordesman以為：“古代戰斗的經驗之一是戰斗不再被稱為戰斗。”不論我們怎樣處置，都不會再有像諾曼底上岸那樣的。

　　戰斗一向在應用最早進的技巧；“殺手機械人”也異樣是。潘多拉的魔盒在鋼鐵冶煉被創造時就已翻開，假如不是更早的話（并且翻開魔盒的歷來不是女性）。你可以肯定的是，確定有人從中獲利。

　　不管若何，讓我們試著遏制住“化財寶為干戈”的最蹩腳的激動，但勸告國際兵器商業不要制作殺人機械人，無異于勸告軟飲料制作商不要臨盆橙汁。