隨著人工智能的興起，一些人提出了這樣的警告：我們可能正處在創(chuàng)造一種新的生命形式的邊緣，它不僅標志著進化上的突破，也會對人類物種的生存構(gòu)成潛在威脅。真的是這樣嗎？

機器人幼兒園

“歡迎來到機器人幼兒園，” 38歲的彼得•阿比爾（Pieter Abbeel）在加州大學(xué)伯克利分校機器人學(xué)實驗室門口說。阿比爾2000年獲得了斯坦福大學(xué)的計算機科學(xué)博士學(xué)位，在“如何教會機器人聰明地思考”領(lǐng)域，他是一名世界級的專家。

但是在教會它們聰明地思考之前，阿比爾首先必須教會它們思考。“這就是為什么我們說這是幼兒園的原因，”他開玩笑說。布雷特（Brett）是一個六英尺高的人形機器人，是這個幼兒園眾多“學(xué)生”中的一個。它由硅谷廠商柳樹車庫（Willow Garage）制造，幾年前被該實驗室買下用來做實驗。阿比爾和學(xué)生教布雷特玩玩具：木錘、塑料玩具飛機、一些巨型樂高積木。

可編程工業(yè)機器人出現(xiàn)已經(jīng)很久了，你可以在工廠里看到那種將模塊插入PC板的機器人，它們重復(fù)同樣的動作，每小時300次。那種機器人并不智能。

但近年來，機器學(xué)習(xí)（模仿人類大腦、讓機器自己學(xué)習(xí)東西的算法）取得了很多突破，計算機識別語音和視覺模式的能力因而突飛猛進。

阿比爾的目標是給機器人灌輸一種通用智能——認識世界，以便它們能夠自己學(xué)會完成任務(wù)的方式。他還有很長的路要走。 “機器人的學(xué)習(xí)能力還不如一個兩歲的小孩，”他說。布雷特學(xué)會了完成一些簡單任務(wù)，比如疊衣服。

對于人類來說很簡單的事情，比如明白桌子上一團皺巴巴的東西實際上是一條毛巾，這對于機器人來說卻相當(dāng)困難。部分原因是機器人沒有常識，沒有之前嘗試疊毛巾的記憶，以及最重要的是，它們對毛巾是什么東西完全沒有概念。它們看到的只是一塊顏色。

小孩子在解決問題時，往往會持續(xù)不斷地調(diào)整自己的做法。阿比爾從中受到啟發(fā)，開創(chuàng)了一種讓機器人自學(xué)的方法。現(xiàn)在，當(dāng)布雷特整理衣物時，它會用手抓起卷成團的毛巾，試圖弄明白它的形狀，搞清如何折疊它。這聽起來很幼稚，但機器人學(xué)習(xí)疊毛巾就是這么不容易。

這將把我們帶向何方？

智能機器可以執(zhí)行的任務(wù)的復(fù)雜性正在呈指數(shù)級增長。最終這將把我們帶向何方？如果機器人能夠自己學(xué)會疊毛巾，有朝一日它也會學(xué)會給你做飯，給你做手術(shù)，甚至打仗嗎？

人工智能可能有助于解決我們面臨的一些復(fù)雜問題，比如治療癌癥和應(yīng)對氣候變化——但在短期內(nèi)，它也有可能用來開展監(jiān)視活動、破壞隱私，進行電子推銷。除此之外，更大的問題也隱隱呈現(xiàn)出來：機器有朝一日會擁有獨立思考、對問題進行推理，以及展示情緒的能力嗎？沒人知道這些問題的答案。

智能機器的興起不同于其他任何技術(shù)革命，因為它最終和“人性”這個概念利益攸關(guān)。我們有可能正處在創(chuàng)造一種新的生命形式的邊緣，它不僅標志著進化上的突破，也會對人類物種的生存構(gòu)成潛在威脅。

但這場革命已經(jīng)開始。去年夏天，伯克利團隊給一個仿真機器人安裝了一個短期記憶系統(tǒng)。參與該項目工作的計算機科學(xué)家謝爾蓋•萊文（Sergey Levine）說，在機器人身上測試這個記憶程序時，他們注意到“一件怪事”，他們向它發(fā)出一個命令，讓它把一個木釘放在的兩個孔洞中的一個里面，或者放左邊，或者放右邊。

為了做比較，他們在沒有記憶程序的時候重做了實驗 ，結(jié)果令他們吃驚：機器人仍然能夠把木釘放在正確的孔洞中。沒有了記憶程序，它是怎么記得該放哪里的？ “最終我們發(fā)現(xiàn)，一旦機器人接收到命令，它就把胳膊朝著正確的孔洞伸過去，”萊文說。然后，在命令消失后，它可以根據(jù)自己身體的姿勢，知道該放哪個孔洞。實際上，機器人是自己想出了一個方法來正確地執(zhí)行這個命令。 “這真是非常令人驚訝，”萊文說。 “而有點令人心驚肉跳。”

發(fā)展人工智能是在“召喚惡魔”？

人工智能領(lǐng)域一再出現(xiàn)新的突破：今年1月，DeepMind表示它已經(jīng)開發(fā)了一種算法，擊敗了歐洲冠軍圍棋。圍棋比象棋更加復(fù)雜，而這種名為AlphaGo的算法將在3月中旬挑戰(zhàn)世界圍棋冠軍。當(dāng)然，人類在這種快速發(fā)展中起到了作用，但是人們不免也會覺得，我們似乎已經(jīng)在智能機器的進化中達到了某個拐點。難道我們正要目睹一個新物種的誕生嗎？還需要多長的時間，機器就會變得比我們更加聰明？

在近期的一次會議上，特斯拉及SpaceX公司創(chuàng)始人伊隆•馬斯克（Elon Musk）突發(fā)驚人之語，說發(fā)展人工智能是在“召喚惡魔”。不過他后來承認，這么說有點言過其實。他說，“智能機器的突飛猛進提出了一些嚴肅的問題，我們需要考慮自己作為人類的身份，需要考慮我們正在為自己打造什么樣的未來。”正如他所指出的，我們對機器的依賴已經(jīng)是個不爭的事實：“我們已經(jīng)成為了那種靠機電裝置維持生命的人了，你試試把手機關(guān)上一段時間——你就會明白幻肢綜合癥是什么意思。”

這并不是說，超級智能機器只有在變得超級邪惡之后，才會對我們?nèi)祟悩?gòu)成威脅。 “人工智能真正的風(fēng)險不是惡意，而是競爭力，”物理學(xué)家霍金最近提出。 “超級智能機器將非常善于實現(xiàn)自己的目標，如果這些目標與我們的目標不一致，我們就麻煩了。你踩死螞蟻，可能并不是因為你是一個邪惡的螞蟻仇恨者，但如果你負責(zé)一個水電綠色能源項目，有一個蟻丘被水淹沒，那螞蟻就是純屬倒霉。我們不能讓人類陷入螞蟻的這種處境。”

現(xiàn)在的人工智能有多聰明？

盡管現(xiàn)在我們有了更聰明的算法，更強大的機器人，超級智能機器卻仍然更像是科幻而非科學(xué)的產(chǎn)物。Facebook人工智能研究主管揚•樂康（Yann LeCun）說，“人工智能現(xiàn)在的聰明程度和老鼠差不多。”他說得沒錯。IBM花了多年時間編程，投入了數(shù)以百萬計的美元，在2011年推出了“沃森”（Watson）程序。沃森在《危險邊緣》智力游戲節(jié)目中，擊敗了最出色的人類選手，現(xiàn)在它是IBM公司“認知計算”項目的基礎(chǔ)。

它可以每秒讀取8億個頁面，可以消化維基百科的全部語料，更不用說積累了幾十年的法律和醫(yī)學(xué)期刊了。但是它不能教你如何騎自行車，因為它的智能頻譜很狹窄——它不知道這個世界實際上是如何運轉(zhuǎn)的。Aristo是最先進的人工智能程序之一，但它無法理解這樣一句話：“人呼吸空氣。”因為要理解這一點，你需要一般性的知識——它卻沒有這樣的知識。即使它知道這句話中每個詞的定義，它也不知道人們呼吸空氣是為了生存；不知道人是每分鐘呼吸一次空氣，還是一輩子只呼吸一次。還一些令人印象深刻的服務(wù)，比如Skype翻譯（目前只有預(yù)覽版），用戶可用兩種不同的語言進行實時對話，但它也有很長的路要走。如果你與意大利的一個人聊天，你對天氣的談?wù)?，可能會被翻譯成對《圣經(jīng)》的評論。

這并不是說智能機器的興起就沒有風(fēng)險。自主武器系統(tǒng)，比如武裝無人機，可以利用面部識別技術(shù)和其他數(shù)據(jù)來開展暗殺活動，這樣的危險確實是存在的。

但它們并不對整個人類的生存構(gòu)成威脅。有些人會想象，朝鮮黑客會突然開發(fā)出新的算法，讓金正恩擁有了世界終結(jié)者那樣的攻擊力，這其實不太可能。因為人工智能和iPhone不一樣，不是你寫一個新應(yīng)用就能大功告成的事情。它更像構(gòu)建互聯(lián)網(wǎng)本身——只能通過時間來完成，它需要大量的增量發(fā)展。

夸張的想象掩蓋了真正的風(fēng)險

事實上，夸張的想象反而掩蓋了智能機器興起帶來的真正風(fēng)險——導(dǎo)致工人失業(yè)，在戰(zhàn)爭中更多使用自主武器，以及這樣一個事實：我們越是依賴機器，出問題的時候（無論是技術(shù)故障還是黑客攻擊），我們的風(fēng)險就會越大。

這是一個關(guān)于“異化”（alienation）的問題。如果在一個世界中，我們和機器說話的時候多過和人說話，而藝術(shù)不過是一種諧調(diào)悅目的算法輸出，異化就會出現(xiàn)。此外，人工智能時代也會帶來嚴重的隱私挑戰(zhàn)，這不僅僅是說有智能無人機從上空監(jiān)視你，而且也是說一些公司會跟蹤你的一舉一動，目的就是為了向你銷售東西。

夸張的想象也掩蓋了我們與機器更深入地合作可能帶來的好處。大多數(shù)研究者，比如DeepMind的杰米斯•哈斯比斯，他們認為，如果我們給機器提供資料，它們就可以幫我們解決諸如疾病和醫(yī)療這樣的重要問題，可以幫助科學(xué)家應(yīng)對氣候變化等等。

技術(shù)革命往往會激發(fā)恐懼感——有時候合情合理，有時則不然。工業(yè)革命初期，英國紡織工人砸壞了機器，因為擔(dān)心自己的飯碗會被機器搶走（確實如此）。電力時代開始的時候，人們覺得電線可能會引起精神錯亂（其實沒有）。而在20世紀50年代，家電廠商還認為很快就會出現(xiàn)核動力吸塵器。

實際上，人類已經(jīng)在和機器一起合作，你很難想象未來會有什么不同——不管機器人以后變得多么復(fù)雜。 著名的計算機科學(xué)家賈瑞恩•拉尼爾（Jaron Lanier）曾說過：“算法是人類設(shè)計的，它們反映了設(shè)計者的偏見。”無論是好是壞，無論我們會創(chuàng)造什么樣的未來，它都是我們?yōu)樽约涸O(shè)計和建造出來的。