對人工智慧技術未來發展的五大擔憂 你最害怕哪個？
本文由騰訊數碼獨家發布
當人們想到人工智慧的時候，往往首先映入腦海的是機器人殺手和電腦遊戲中的場景。
向《銀翼殺手》和《終結者》這樣系列的好萊塢電影，可以讓我們產生一種恐懼感。一想到人工智慧會破壞自己的程序，轉而攻擊人類，想想就很可怕。
對於一個今年可能產生超過1萬億美元的商業價值的行業來說，到2022年，這個行業的價值將達到近4萬億美元，任何對其道德影響的重大質疑都可能會帶來重大影響。
人工智慧是一個在商業世界和媒體中經常被人拋棄的時髦辭彙，但它已經對許多行業產生了實實在在的影響，尤其是那些依賴大量體力勞動的行業。
隨著人工智慧越來越接近成熟，企業繼續加大對IT領域的投資，一些人擔心，該技術對更廣泛的社會和道德影響沒有得到足夠的重視。
國外媒體採訪了一些專家，看看他們認為人工智慧未來5個最可怕的潛在場景是什麼。
大規模失業
分析師和工人們普遍擔心的是，隨著就業機會越來越自動化，人工勞動力不再需要，人工智慧將導致全球大規模失業。
「失業可能是最大的擔憂，」愛丁堡大學信息學院教授艾倫邦迪說。
根據邦迪的說法，失業是世界各地民粹主義興起的主要原因——他引用了唐納德特朗普和英國總統的選舉。作為例子，決定退出歐盟。他補充說：「人們將需要精心編排一組專註於窄幅的應用程序，並發現他們都無法處理的邊緣案例，但這不會取代預期的大規模失業——至少不會在很長一段時間內。」
人工智慧的支持者說，這項技術將會創造出新的工作崗位。
對工程師的需求將會提高，因為新技術的複雜需要合適的人才來開發它。
支持者說，人類還必須使用人工智慧，以便在日常角色中執行新的功能。
研究公司Gartner預測，到2020年，人工智慧將創造230萬個工作崗位，並減少180萬個工作崗位——凈增加50萬個工作崗位。這並不能說明這將導致全球範圍內的大規模裁員。
牛津大學2013年的一項經常被提及的研究指出，一些最可替代的工作包括經紀公司職員、銀行出納員、保險公司和報稅人——這是一種至關重要的職業，儘管技能較差，但這些職業仍能讓金融業保持運轉。
儘管通過提高技能和創造新的就業機會來減少勞動力市場對勞動力市場的損害，甚至可能引入一種普遍的基本收入，但很明顯，失業問題不會很快消失。
戰爭
所謂的「殺手機器人」的出現，以及人工智慧在軍事應用中的其他用途，專家們擔心這項技術最終會導致戰爭。
特斯拉首席執行官埃隆·馬斯克去年曾警告稱，這項技術可能導致「第三次世界大戰」。馬斯克以直言不諱地對人工智慧發表看法而聞名。儘管他的誇張之處令人熟知，但馬斯克的評論卻給專家們帶來了真正的恐懼。一些分析人士和活動人士認為，致命自主武器的發展和人工智慧在軍事決策中的應用，造成了許多倫理困境，並開啟了「增強」或「ai主導型」戰爭的可能性。
甚至有一群非政府組織（非政府組織）致力于禁止這類機器。2013年成立的「阻止殺手機器人」運動呼籲各國政府防止人工智慧無人機和其他車輛的發展。
Frank van Harmelen是阿姆斯特丹自由大學的一名人工智慧研究員，他說儘管他不相信用「嚇人」這個詞來形容人工智慧是完全準確的，但使用這些武器應該會嚇到任何人。
「我真正認為「可怕」這個詞的唯一領域是自動武器系統。可能看起來不像機器人的系統，」Harmelen說。
「任何計算機系統，不管是不是人工智慧，自動決定生死攸關的事情——例如，發射一枚導彈，這是一個非常可怕的想法。」
今年早些時候，美國國防智庫蘭德公司在一項研究中警告說，在軍事應用中使用人工智慧可能會在2040年引發一場核戰爭。這一大膽預測背後的想法是，一個軍事人工智慧系統在分析形勢時犯錯誤的可能性，可能導致國家採取輕率的、可能是災難性的決定。
這些擔憂源於1983年的一次臭名昭著的事件，當時前蘇聯軍官斯坦尼斯拉夫彼得羅夫注意到，俄羅斯的電腦錯誤地發出了警告，稱美國已經發射了核導彈，避免了核戰爭。
機器醫生
儘管專家們大多同意人工智慧將為醫療從業者提供的好處——比如儘早診斷疾病，並加快整體醫療保健體驗——一些醫生和學者擔心，我們可能會過快地向數據驅動的醫療實踐邁進。
學者們的一個擔憂是，人們對人工智慧的期望過高，認為人工智慧可以形成人類擁有的一般智力，來解決各種各樣的任務。
愛丁堡大學的Bundy說：「迄今為止，所有成功的人工智慧應用都取得了令人難以置信的成功，但在非常有限的應用範圍內。」根據Bundy的說法，這些預期可能會給醫療保健等行業帶來潛在的可怕後果。他說：「一種非常擅長心臟問題的醫學診斷應用，可能會診斷出患有某種罕見心臟問題的癌症患者，並可能導致致命的後果。」
就在上周，健康聚焦的出版物統計數據顯示，IBM的內部文件顯示，這家科技巨頭的沃森超級計算機已經提出了多個「不安全且不正確」的癌症治療建議。根據這篇文章，該軟體只接受少量的案例和假設的場景，而不是實際的病人數據。
IBM的一位發言人對CNBC表示：「我們在三年前創建了沃森健康公司，將人工智慧帶入了醫療保健領域的一些最大挑戰，我們對我們正在取得的進展感到滿意。」
「我們的腫瘤和基因組學產品被世界各地的230家醫院使用，並支持超過84000名患者的治療，這幾乎是2017年年底患者人數的兩倍。」這位發言人補充道：「與此同時，我們根據客戶的持續反饋、新的科學證據、新的癌症和治療方案，了解並改進了沃森的健康狀況。這包括11個軟體版本，在過去的一年裡，甚至有更好的功能，包括從結腸癌到肝癌的國家指南。」
另一個令人擔憂的問題是，由計算機吞噬的數據量，以及通過使用這些數據自動應用程序的數據驅動演算法，可能會對患者的隱私產生倫理影響。
大數據的黎明，現在是一個價值數十億美元的產業，涵蓋了從交易到酒店的方方面面，這意味著機器可以收集到的個人信息的數量已經膨脹到難以想像的規模。
這一現象被認為是一項突破各種疾病的突破，預測了某人病情嚴重，並提前檢查治療的可能性。但是，人們對存儲多少數據和共享數據的擔憂是有問題的。
以DeepMind為例。這家谷歌旗下的人工智慧公司與英國簽署了一項協議。2015年的國家衛生服務，使其能夠接觸到160萬英國患者的健康數據。該計劃意味著患者將數據交給公司，以提高其檢測疾病的能力。它催生了一款名為「流」的應用，旨在監測患有腎臟疾病的患者，並在患者病情惡化時提醒臨床醫生。
但去年，英國隱私監管機構信息專員辦公室裁定，NHS與DeepMind的合同「未能遵守數據保護法」。ICO表示，作為協議的一部分，倫敦的皇家自由醫院對病人的數據使用方式不透明。
隱私
大數據驅動模式主導了近年來人工智慧的發展，成為新一輪人工智慧發展的重要特徵。隱私問題是數據資源開發利用中的主要威脅之一，因此，在人工智慧應用中必然也存在隱私侵犯風險。
隨著各類數據採集設施的廣泛使用，智能系統不僅能通過指紋、心跳等生理特徵來辨別身份，還能根據不同人的行為喜好自動調節燈光、室內溫度、播放音樂，甚至能通過睡眠時間、鍛煉情況、飲食習慣以及體征變化等來判斷身體是否健康。
然而，這些智能技術的使用就意味著智能系統掌握了個人的大量信息，甚至比自己更了解自己。這些數據如果使用得當，可以提升人類的生活質量，但如果出於商業目的非法使用某些私人信息，就會造成隱私侵犯。
因為雲計算技術使用便捷、成本低廉，提供了基於共享池實現按需式資源使用的模式，許多公司和政府組織開始將數據存儲至雲上。將隱私信息存儲至雲端後，這些信息就容易遭到各種威脅和攻擊。由於人工智慧系統普遍對計算能力要求較高，目前在許多人工智慧應用中，雲計算已經被配置為主要架構，因此在開發該類智能應用時，雲端隱私保護也是人們需要考慮的問題。
由數據到知識的抽取是人工智慧的重要能力，知識抽取工具正在變得越來越強大，無數個看似不相關的數據片段可能被整合在一起，識別出個人行為特徵甚至性格特徵。
例如，只要將網站瀏覽記錄、聊天內容、購物過程和其他各類別記錄數據組合在一起，就可以勾勒出某人的行為軌跡，並可分析出個人偏好和行為習慣，從而進一步預測出消費者的潛在需求，商家可提前為消費者提供必要的信息、產品或服務。但是，這些個性化定製過程又伴隨著對個人隱私的發現和曝光，如何規範隱私保護是需要與技術應用同步考慮的一個問題。
歧視
一些人可能還記得Tay，這是一個由微軟創建的人工智慧聊天機器人，在兩年前引起了轟動。
這款機器人被賦予了一個Twitter賬戶，用戶花了不到一天的時間來訓練它發布支持阿道夫希特勒和白人至上的攻擊性言論。這裡的問題是，聊天機器人被訓練成模仿用戶在網上與之互動的方式。考慮到互聯網某些角落的陰暗本質，可以這樣說，冒犯性的推文並不令人吃驚。
這個錯誤迫使微軟不得不放棄這個賬戶。儘管這一事件被證明是有點幽默的，但它引發了關於人工智慧有可能變得有偏見的嚴肅辯論。
沃爾什說，歧視是這項技術帶來的一系列「意想不到的後果」之一。他說：「我們看到這種情況在演算法中出現了意想不到的偏差，尤其是機器學習，它可能會導致我們在過去50多年裡試圖從我們的社會中消失的種族、性和其他偏見。」
專家說，這個問題涉及到使人工智慧成為一個客觀、理性的思考者、對某一特定種族、性別或性取向的偏見的可行性。
這是研究人員和開發人員一直在認真思考的問題，他們研究了面部識別技術在辨別白人面孔方面比黑人面孔更好的方式，以及語言處理的人工智慧系統如何表現出偏見，將特定的性別和種族與刻板的角色聯繫起來。
IBM甚至還專門研究了人工智慧領域的歧視問題。今年早些時候，IBM表示，將發布兩組數據，其中包含不同膚色和其他面部特徵的不同面孔，以減少人工智慧面部識別系統的偏見。
來源：CNBC
TAG:有趣的數碼 |