《西部世界》（Westworld）級其余人工智能會有多風險呢？國外媒體Futurism撰文稱，該電視劇商量了有關人工智能倫理和認識的一些哲學成績，固然實際中不年夜能夠會涌現劇中那樣的血腥場景，但我們最好照樣要好好看待我們的AI機械人。

　　“這些殘酷的歡愉，終將以殘酷終局。”在莎士比亞和邁克爾·克萊頓的助力下，HBO的《西部世界》提醒了打造先輩的人工智能技巧會帶來的一些隱憂。

　　在《西部世界》里，表面跟人沒甚么兩樣的AI棲身于一個看似美國西部的園區。旅客只需花年夜筆的錢就可以前去園區，停止老式的西部冒險運動。時代，他們可以隨便跟AI斗毆，也能夠***殺戮AI。旅客的槍枝能損害AI，但后者的則損害不了旅客。每次無機器人“逝世失落”，它的身材就會被收受接管清算，擦除記憶，然后再被送回園區。

　　《西部世界》中的AI平安成績

　　《西部世界》的創作靈感來自克萊頓之前的一部同名片子，它讓我們不由思慮我們將可以或許在多年夜水平上掌控先輩的迷信發明物。但與最后的片子分歧，《西部世界》電視劇里的機械人其實不是無惡不作的反派腳色，而是被描述成富有同情心、乃至很有人道的腳色。

　　不出不測的是，該園區的平安隱憂很快就顯現。園區由一名白叟擔任打理，他可以或許隨便給機械人進級法式，不經由其別人的平安檢討。那些機械人涌現回想起被荼毒的跡象。傍邊有個腳色提到，只要一行代碼可以或許阻攔機械人損害人類。

　　該節目只是談到了會帶來AI平安隱憂的一部門成績：一個“有歹意的機械人”應用先輩的AI蓄意損害人類；軟件小小的毛病可帶來致命影響；在代碼層面臨人類的掩護缺乏。

　　不外，該節目提醒的許多平安和倫理品德成績都取決于機械人能否無意識。現實上，該電視劇在異常賣力地探討一個異常艱苦的成績：甚么是認識？除此以外，人類可以或許發明出無意識的器械嗎？假如能的話，我們能掌握它呢？我們能否想要找出這些成績的謎底？

　　為了思慮這些成績，筆者采訪了喬治亞理工年夜學AI研討員馬克·里德爾和紐約年夜學哲學家年夜衛·查爾莫斯（David Chalmers）。里德爾努力于研討打造發明性的AI，查爾莫斯則以其“認識困難”論述而著稱。

　　AI能感觸感染到痛苦悲傷嗎？

　　被問到停止了相干編程的機械人會在多年夜水平上感觸感染到痛苦悲傷時，里德爾說道，“起首，我否決對人類、植物、人形機械人或許AI實行暴力行動。”他接著說明道，關于人類和植物來講，感到到的痛苦悲傷是一種“避開特定安慰”的警報旌旗燈號。

　　但是，關于機械人來講，“最接近的類比能夠是強化進修的機械人會碰著的體驗，這類機械人須要停止試錯進修。”這類AI在停止某種行為后會收到或正面或負面的反應，然后它會響應調劑它將來的行動。里德爾說，那種負面的反應會更“相似于在盤算機游戲中輸失落分數”，而不是感到到痛苦悲傷。

　　“機械人和AI可以經由過程編程來像人類那樣‘表達’痛苦悲傷，”里德爾說道，“但那種痛苦悲傷會是一種幻覺。制作這類幻覺是有來由的：讓機械人可以或許以一種很輕易獲得懂得和惹起共識的方法向人類表達本身的心坎狀況。”

　　里德爾其實不擔憂AI會感觸感染到痛苦悲傷的成績。他還說，假如機械人的記憶每晚都被完整擦除，它會感到甚么都沒產生過一樣。但是，他指出了一個潛伏的平安成績。強化進修要可以或許正常運作，AI須要采用因正面反應而優化的行為。假如機械人的記憶沒有被完整擦除——假如機械人開端記起曾產生在本身身上的蹩腳閱歷——那它能夠會試圖躲避那些觸發負面反應的行為或許人 。

　　里德爾說，“實際上，這些機械人可以或許進修事后籌劃以最合算的方法下降取得負面反應的能夠性……假如機械人除曉得取得正面反應照樣負面反應以外，其實不清晰本身的行為會帶來的影響，那這也能夠意味著它們會提早行為來避免遭到人類的損害。”

　　但他指出，在可預感的將來，機械人的才能還缺乏以帶來這類擔心。假設機械人真有那末壯大的才能，那會給它們帶來負面反應的成績能夠會給人類帶來威逼。

　　AI可以或許取得認識嗎？

　　查爾莫斯的意見則略有分歧。“我是這么看認識成績的，這些存在無意識仿佛不存在甚么疑問……它們表示得具有異常豐碩的情緒生涯……這表現在它們可以或許感到痛苦悲傷和思慮成績上……它們其實不只是表示出前提反射式的行動，它們還會思慮它們地點的處境，它們有在停止推理。”

　　“很明顯，它們是有知覺的。”他彌補道。查爾莫斯說，與其測驗考試界說機械人如何才算成心義，還不如想一想它們缺乏了甚么。他指出，最主要的是，它們缺乏自在意志和記憶。但是，我們許多人都邑不自發地墮入習氣傍邊，難以自拔。不可勝數的人都存在極真個記憶成績，但沒有人認為強奸或許殺戮他們并沒有不當。

　　“在這個節目中，假如說荼毒AI是被許可的，那是由于它們缺乏了甚么，照樣由于其余緣由？”查爾莫斯問道。在查爾莫斯看來，《西部世界》描寫的特定場景也許其實不實際，由于他其實不以為二專心智實際會帶來認識，乃至關于機械人也不會。“比擬之下，經由過程編程讓機械人直接監控本身的設法主意要來得簡略很多”

　　但這照樣會帶來風險。“假如你面臨的是像這么龐雜、像這么聰慧的機械人，你會想它能否很輕易掌握？”查爾莫斯問道。任何情形下，以欠妥的方法看待機械人都能夠會給人類的平安帶來威逼。打造有意識的機械人，我們會見臨它們學到毛病的經驗的風險；非有意地（或許像《西部世界》那樣成心地）打造無意識的機械人，我們也面對它們由于被荼毒和壓制而對抗人類的風險。

　　在《西部世界》第二集中，招待員被問她是否是“真人”，她答復說，“假如你分辯出來，又有甚么所謂呢？”這番話聽上去仿佛很有事理。