本文編譯自the Guardian原題目為I'm a pacifist, so why don't I support the Campaign to Stop Killer Robots的文章。

　　制止殺傷性機(jī)械人活動呼吁結(jié)合國制止研發(fā)和應(yīng)用主動兵器：無人監(jiān)控下辨認(rèn)，追蹤和進(jìn)擊目的的主動兵器。該活動組織者與一些有名AI研討員配合制造了一個(gè)驚動的視頻，并于周一宣布。 視頻向我們展示了普遍應(yīng)用主動兵器所帶來的反烏托邦式的將來。

　　我很愉快看到我的同事正在盡力確保AI技巧運(yùn)用于無益于人類社會的范疇。 然則，我深入疑惑這類止于情勢的活動能否有用。 雖然我以為本身是相對的戰(zhàn)爭主義者，但我關(guān)于簽訂這項(xiàng)禁令持保存立場。而我信任持保存立場的也絕非我一人。

　　起首，擁戴這項(xiàng)禁令的國度都沒法肯定應(yīng)當(dāng)制止主動化照樣AI。是以，這項(xiàng)禁令又若何可以或許阻攔否決它的國度應(yīng)用主動兵器。關(guān)于慣例兵器和核兵器的禁令是有用的，這是因?yàn)樽匀坏倪M(jìn)入壁壘：制作這些兵器所需的原資料和裝備很難取得，擔(dān)任任的國度可以經(jīng)由過程法則和制裁掌握這些兵器。比擬之下，有些人能夠會說AI的應(yīng)用曾經(jīng)相當(dāng)普遍，并且它照樣主動兵器的焦點(diǎn)技巧。 是以，想經(jīng)由過程法則和禁令掌握這類兵器難上加難 - 例如收集戰(zhàn)斗。

　　想一想視頻中描寫的“殺手無人機(jī)”與the Guardian上呼吁禁令的文章。即便在明天，任何互聯(lián)網(wǎng)拜訪者都可以重建無人機(jī)所需的人臉辨認(rèn)技巧：一些最早進(jìn)的“預(yù)練習(xí)收集”都邑成為地下資本。 跟著技巧的進(jìn)一步成長，工作將變得加倍輕易。

　　AI的進(jìn)入壁壘很低。是以即便結(jié)合國和一些國度贊成這項(xiàng)禁令，也沒法阻攔其他否決這項(xiàng)禁令的國度推銷和安排AI技巧。 終究，最好的成果是禁令獲得成功，但禁令的擁戴者會支付沉重的價(jià)值。而最壞的情形是禁令約束了“大好人”的四肢舉動，“壞人”卻依然肆意妄為。

　　作為一位AI研討人員，我異常惡感應(yīng)用反烏托邦來襯著這整件事，就像the Guardian報(bào)導(dǎo)的這個(gè)視頻。 這些視頻讓人覺得不安。在我看來， 應(yīng)用“雛菊女孩”式的活動宣揚(yáng)來激起人們對AI技巧的恐怖，更像是為了撲滅年夜眾的情感，而不是激發(fā)年夜眾的思慮。

　　鑒于對禁令有用性的擔(dān)心，AI研討人員應(yīng)當(dāng)尋覓更積極的技巧處理計(jì)劃，以削減潛伏的AI技巧濫用。 例如，我們于2017年3月初在亞利桑那州立年夜學(xué)舉行了一個(gè)研究會，主題為“AI帶來的挑釁：瞻望將來，清除隱患”。 很多知名的迷信家，技巧專家和倫理學(xué)家加入了此次研究會，其目標(biāo)就是評論辯論若何避免AI技巧的濫用（包含致命主動兵器）。

　　今朝，研究會的主題之一就是應(yīng)用AI技巧防備AI的歹意應(yīng)用。 這能夠包含所謂的“AI保衛(wèi)體系”，它可以監(jiān)測AI而且做出進(jìn)攻回應(yīng)。 即便這類體系不克不及完整遏制AI的濫用，至多可以反應(yīng)這些成績。

　　重申一下，我以為本身是戰(zhàn)爭主義者，一向反戰(zhàn)和支撐軍控。 假如這項(xiàng)禁令不只止于情勢，并且異常有用；不只撲滅了年夜眾的情感，還激發(fā)了年夜眾的思慮，我將舉雙手贊同。

　　免責(zé)聲明：為了充足表露，請?jiān)S可我聲明我的一些基本研討（關(guān)于人類認(rèn)知的AI）由美國國防部贊助機(jī)構(gòu)（如水師研討辦公室）贊助。 然則，我在文中不雅點(diǎn)是客不雅的，與贊助方有關(guān)。美國的國防贊助機(jī)構(gòu)贊助了年夜量基本研討，包含介入禁令活動的研討人員。