人工智慧太危險:特別當心性愛機器人……
《西部世界》(Westworld)級別的人工智慧會有多危險呢?國外媒體Futurism撰文稱,該電視劇探討了有關人工智慧倫理和意識的一些哲學問題,雖然現實中不大可能會出現劇中那樣的血腥場景,但我們最好還是要好好對待我們的AI機器人。
「這些殘暴的歡愉,終將以殘暴結局。」在莎士比亞和邁克爾·克萊頓的助力下,HBO的《西部世界》揭示了打造先進的人工智慧技術會帶來的一些隱憂。
在《西部世界》里,外表跟人沒什麼兩樣的AI居住於一個看似美國西部的園區。遊客只要花大筆的錢就能前往園區,進行老式的西部冒險活動。期間,他們可以隨意跟AI打鬥,也可以姦淫殺害AI。遊客的槍支能傷害AI,但後者的則傷害不了遊客。每一次有機器人「死掉」,它的身體就會被回收清理,擦除記憶,然後再被送回園區。
《西部世界》中的AI安全問題
《西部世界》的創作靈感來自克萊頓以前的一部同名電影,它讓我們不禁思考我們將能夠在多大程度上掌控先進的科學創造物。但與最初的電影不同,《西部世界》電視劇里的機器人並不是無惡不作的反派角色,而是被描寫成富有同情心、甚至很有人性的角色。
不出意外的是,該園區的安全隱憂很快就浮現。園區由一位老人負責打理,他能夠隨意給機器人升級程序,不經過其他人的安全檢查。那些機器人出現回憶起被虐待的跡象。當中有個角色提到,只有一行代碼能夠阻止機器人傷害人類。
該節目只是談到了會帶來AI安全隱憂的一部分問題:一個「有惡意的機器人」利用先進的AI蓄意傷害人類;軟體小小的故障可帶來致命影響;在代碼層面對人類的保護不足。
不過,該節目揭示的很多安全和倫理道德問題都取決於機器人是否有意識。事實上,該電視劇在非常認真地探究一個非常困難的問題:什麼是意識?除此之外,人類能夠創造出有意識的東西嗎?如果能的話,我們能控制它呢?我們是否想要找出這些問題的答案?
為了思考這些問題,筆者採訪了喬治亞理工大學AI研究員馬克·里德爾和紐約大學哲學家大衛·查爾莫斯(David Chalmers)。里德爾致力於研究打造創造性的AI,查爾莫斯則以其「意識難題」闡述而著稱。
AI能感受到疼痛嗎?
被問到進行了相關編程的機器人會在多大程度上感受到疼痛時,里德爾說道,「首先,我反對對人類、動物、人形機器人或者AI實施暴力行為。」他接著解釋道,對於人類和動物來說,感覺到的疼痛是一種「避開特定刺激」的警報信號。
然而,對於機器人來說,「最接近的類比可能是強化學習的機器人會碰到的體驗,這類機器人需要進行試錯學習。」這種AI在進行某種行動後會收到或正面或負面的反饋,然後它會相應調整它未來的行為。里德爾說,那種負面的反饋會更「類似於在計算機遊戲中輸掉分數」,而不是感覺到疼痛。
「機器人和AI可以通過編程來像人類那樣『表達』疼痛,」里德爾說道,「但那種疼痛會是一種幻覺。製造這種幻覺是有理由的:讓機器人能夠以一種很容易得到理解和引起共鳴的方式向人類表達自己的內心狀態。」
里德爾並不擔心AI會感受到疼痛的問題。他還說,如果機器人的記憶每晚都被完全擦除,它會感覺什麼都沒發生過一樣。然而,他指出了一個潛在的安全問題。強化學習要能夠正常運作,AI需要採取因正面反饋而優化的行動。如果機器人的記憶沒有被完全擦除——如果機器人開始記起曾發生在自己身上的糟糕經歷——那它可能會試圖規避那些觸發負面反饋的行動或者人。
里德爾說,「理論上,這些機器人能夠學習預先計劃以最合算的方式降低獲得負面反饋的可能性……如果機器人除了知道獲得正面反饋還是負面反饋之外,並不清楚自己的行動會帶來的影響,那這也可能意味著它們會提前行動來防止遭到人類的傷害。」
但他指出,在可預見的未來,機器人的能力還不足以帶來這種擔憂。假如機器人真有那麼強大的能力,那會給它們帶來負面反饋的問題可能會給人類帶來威脅。
AI能夠獲得意識嗎?
查爾莫斯的看法則略有不同。「我是這麼看意識問題的,這些存在有意識似乎不存在什麼疑問……它們表現得擁有非常豐富的情感生活……這體現在它們能夠感覺疼痛和思考問題上……它們並不只是表現出條件反射式的行為,它們還會思考它們所在的處境,它們有在進行推理。」
「很顯然,它們是有知覺的。」他補充道。查爾莫斯說,與其嘗試定義機器人怎樣才算有意義,還不如想想它們缺少了什麼。他指出,最重要的是,它們缺少自由意志和記憶。然而,我們很多人都會不自覺地陷入習慣當中,難以自拔。不計其數的人都存在極端的記憶問題,但沒有人覺得強姦或者殺害他們並無不妥。
「在這個節目中,如果說虐待AI是被允許的,那是因為它們缺少了什麼,還是因為別的原因?」查爾莫斯問道。在查爾莫斯看來,《西部世界》描繪的特定場景或許並不現實,因為他並不認為二分心智理論會帶來意識,甚至對於機器人也不會。「相比之下,通過編程讓機器人直接監控自己的想法要來得簡單得多」
但這還是會帶來風險。「如果你面對的是像這麼複雜、像這麼聰明的機器人,你會想它是否很容易控制?」查爾莫斯問道。任何情況下,以不當的方式對待機器人都可能會給人類的安全帶來威脅。打造無意識的機器人,我們會面臨它們學到錯誤的教訓的風險;非故意地(或者像《西部世界》那樣有意地)打造有意識的機器人,我們也面臨它們因為被虐待和壓抑而反抗人類的風險。
在《西部世界》第二集中,接待員被問她是不是「真人」,她回答說,「如果你分辨出來,又有什麼所謂呢?」這番話聽上去似乎很有道理。
※政協委員成龍:不是我牛,是中國牛!
※韓媒說中國是「三流水平國家」,韓國是幾流?
※什麼!韓國還想到WTO告中國「報復薩德」?
※「愛是什麼?」「別說了,我愛你。」
※港區人大代表:「港獨」對香港就是一條死路!
TAG:環球網 |
※人工智慧-情感機器人
※究竟什麼是人工智慧?高智商的機器人就是人工智慧了嗎?
※令人恐懼!人工智慧和機器人能做到這些事
※人工智慧:當人類與機器人共存的時候
※機器學習和人工智慧的區別你真的知道嘛?
※人類和機器人會產生真愛嗎?
※機器人,機器學習和人工智慧有什麼區別 深度科普
※人工智慧機器人運用醫學,卻讓人感到害怕
※掃地機器人好用嗎?幫助「懶人」安心享受假期的神器
※智能家居、醫療機器人、智能穿戴……萌萌噠機器人集合啦!
※「人工智慧手套」讓機器人有了觸感
※殘疾人的福音!讀心術機器人由人類控制,只用思想和手勢!
※人工智慧之父:機器人終將超過人類 但不必擔心
※掃地機器人好用嗎?人工智慧給你更多休閑時間
※人工智慧突破!這些傑出的畫作是由人工智慧機器人繪製的
※改善人類健康的那些「機器人」!
※PAI:人工智慧的核心是教會機器去愛
※人工智慧機器人正在安裝特殊的軟體,讓它們像動物一樣適應傷害
※這家公司利用人工智慧,馴服了」殺手」般的工業機器人
※人類能不能控制住人工智慧的極端發展,以防止地球真的被人工智慧機器人統治?