對抗惡意AI 我們需要AI sidekick保駕護航

原創不易 請隨手點擊關注

本文由Rehoo團隊Leery原創，無授權禁轉！(圖片來自網路）

圖片來自網路

現在我們意識到我們的大腦可能被黑了，我們需要一個大腦的防病毒軟體。」這些是著名歷史學家和矽谷評論家Yuval Noah Harari直言不諱的話。這句話是尼克湯普森最近連線採訪哈拉里和前谷歌的設計倫理學家特里斯坦哈里斯，是一個參考科技公司如何使用人工智慧演算法以有利可圖的方式操縱用戶行為。

例如，如果您正在觀看NBA遊戲概述視頻，YouTube會推薦更多NBA視頻。您觀看的視頻越多，YouTube可以向您展示的廣告就越多，廣告展示次數就越多。這基本上是所有「免費」應用程序使用的商業模式。他們試圖讓你緊緊抓住屏幕行為，而不考慮對你的身心健康有什麼影響。

他們使用最先進的技術和最聰明的頭腦來實現這一目標。例如，他們使用深度學習和其他人工智慧技術來監控您的行為，並將其與數百萬其他用戶的行為進行比較，為您提供難以抗拒的超個性化建議。所以你的大腦可能被黑了。但是你如何構建Harari所說的防病毒軟體呢？「它可以在同一技術的基礎上發揮作用，假設你有一個人工智慧助手，可以隨時監控你，一天24小時，你寫的東西你看到的一切。

但是這個AI正在為你服務，有這種信託責任。它可以了解你的弱點，並且通過了解你的弱點，它可以保護你免受其他試圖破解你利用你的弱點的代理人。雖然Harari正在制定「AI sidekick」概念，Harris是一位經驗豐富的工程師，他點說明這個想法有多麼現實。

總結一下，Harari的AI助手需要完成以下任務：

1.它必須能夠監控您的所有活動

2.它必須能夠識別你的弱點並知道什麼對你有好處

3.它必須能夠檢測並阻止利用您的弱點的AI代理

在這篇文章中，我們希望了解如何創建Harari建議的AI搭檔以及是否可以使用當代技術。

Harari對保護性AI助手的第一個要求就是它可以看到你所做的一切。這是一個公平的前提，因為我們知道，當代人工智慧與人類智能有很大的不同，而且過於依賴質量數據。能夠根據自己的個人生活經歷來判斷是非。他們有一個抽象的世界模型和對人類行為後果的一般看法。例如他們將能夠預測如果你看太多電視並且幾乎不做運動會發生什麼。

與人類不同，人工智慧演算法從一個空白開始，並沒有人類經驗的概念。目前最先進的人工智慧技術是深度學習，這是一種AI技術，尤其擅長在大型數據集中查找模式和相關性。根據經驗，您提供深度學習演算法的數據質量越高，在分類新數據和進行預測時就越好。現在，問題是如何創建一個可以監控您所做事情的深度學習系統。目前還沒有。隨著雲和物聯網（IoT）的爆炸式增長，科技公司，網路犯罪分子有許多新方法可以進入我的日常生活，收集數據並監控我們的活動。但是幸運的是，他們都無法訪問我們所有的個人數據。

Google可以非常全面地了解您的在線數據，包括您的搜索和瀏覽歷史記錄，Android設備上安裝的應用程序，Gmail數據，Google文檔內容以及YouTube觀看記錄。但是，Google無法訪問您的Facebook 數據，包括您的朋友，您的喜好，點擊次數和其他參與偏好。Facebook可以訪問您訪問的某些網站，但無法訪問您的亞馬遜購物和瀏覽數據。由於其流行的Echo智能揚聲器，亞馬遜對您的家庭活動和偏好有很多了解，但它無法訪問您的Google數據。

圖片來自網路

例如，Harari經常提到的一個例子是，當您查看圖像時，通過監視脈搏率的變化，AI可以如何量化您對某個圖像的反應。但他們將如何做到這一點？Harari表示，科技公司不一定需要可穿戴設備來捕捉您的心率，他們可以使用您的臉部高解析度視頻，並監控視網膜的變化。但那還沒有發生。

此外，我們執行的許多在線活動都受到我們在物理世界中的體驗的影響，例如我們與同事的對話或我們在課堂上聽到的事情。也許這是我在等公共汽車時看到的廣告牌，或者是我坐在地鐵里時心不在焉地聽到的兩個人之間的對話。現在的問題是，我們如何向AI代理提供所有數據？使用當前技術，您將需要硬體和軟體的組合。

例如，當您執行不同的活動時，您需要智能手錶或健身追蹤器，以使您的AI助手能夠監控您的生命體征。你需要一個眼動追蹤頭盔，它可以讓你的AI夥伴跟蹤你的視線並掃描你的視野，找到你的生命體征和你所看到的之間的相關性。

您的AI助手必須搭載您的計算設備，智能手機和筆記本電腦中。然後，它將能夠記錄您在線執行的所有活動的相關數據。將所有這些數據放在一起，您的AI助手將更好地定位有問題的行為模式。這些要求有兩個問題。首先，硬體的成本將有效地使AI搭檔僅供有限的用戶使用，可能是矽谷的富有精英，他們了解這樣的助手的價值，並願意承擔財務成本。然而，正如研究表明的那樣，風險最大的人不是富裕的精英，而是一些弱勢群體他們獲得互聯網移動屏幕並且對屏幕時間的不利影響知之甚少。他們將無法負擔AI助手。

圖片來自網路

第二個問題是存儲您收集的有關用戶的所有數據。在某個地方擁有如此多的信息可以讓您深入了解您的行為。但它也會給任何未經授權訪問它的人提供令人難以置信的槓桿作用，將其用於惡意目的。哈拉里確實提到AI助手有信託義務。但是哪家商業公司願意支付存儲和處理數據的成本而不收取任何回報？我們可能希望嘗試使用區塊鏈和雲服務的組合來確保只有您可以完全控制您的數據，並且我們可以使用分散的AI模型來防止任何單個實體對數據進行獨佔訪問。但這仍然無法消除存儲數據的成本。

該實體可以是一個非營利組織，得到政府和私營部門的大量資助。或者它可以選擇貨幣化的商業模式。基本上，這意味著您必須支付訂閱費用才能擁有服務存儲並處理您的數據，但這將使得AI搭檔更加昂貴，而且更容易被更弱勢的弱勢群體訪問。最終：可以收集所有數據的AI夥伴並非不可能，但它非常困難且成本高昂，並不是每個人都可以使用。

當前人工智慧的混合被優化用於執行特定任務，例如分類圖像，識別語音，檢測異常的互聯網流量或向用戶建議內容。區分人的弱點絕不是一項簡單的任務。參數太多，運動部件太多。每個人都有自己的獨特性，受到無數參數和經驗的影響。可能對一個人有害的重複任務可能對另一個人有益。此外，弱點可能不一定出現在重複行動中。

例如，你的AI夥伴可以知道你對食物飲食視頻非常感興趣，或者你讀過太多自由主義或保守的新聞來源。它甚至可以將這些數據點與所有其他信息相關聯，例如同學或同事的個人資料。它可能會將您的行為與您在白天遇到的其他體驗聯繫起來，例如在公交車站看到廣告。但區分模式並不一定會導致「發現弱點」。它無法分辨哪些行為模式正在傷害您，特別是因為許多行為模式從長遠來看並且不一定與您的生命體征或其他可區分行為的變化有關。

這就是那種需要人類判斷的東西，深刻的學習是非常缺乏的。檢測人類的弱點屬於一般人工智慧領域，也稱為人類或強人工智慧。但是一般的人工智慧仍然是神話和科幻小說和電影的東西，即使有些人喜歡誇大當代人工智慧的能力。從理論上講，可以聘請一群人來標記重複模式並標記那些被證明對用戶有害的模式。但這需要工程師，心理學家，人類學家和其他專家之間的巨大努力，因為根據歷史，文化，宗教和許多其他因素，不同人群的心理健康趨勢不同。

你最好擁有的是一個AI代理，可以檢測你的行為模式並向你展示， 或者是一個能夠區分哪些可以傷害你的「人類搭檔」。就其本身而言，這是對當前推薦系統非常有趣和高效的使用。事實上，有一些研究AI的研究人員可以遵循道德準則和規則，而不是尋求最大程度的參與。

圖片來自網路

阻止利用你的弱點的AI演算法在很大程度上取決於知道這些弱點。所以，如果你能完成第二個目標，那麼實現第三個目標並不會很困難。因此，阻止惡意AI演算法的大腦黑客攻擊可能不如阻止惡意軟體威脅那麼簡單。但是，例如，你的AI助手可以警告你，你在過去30分鐘內做了同樣的事情。或者更好的是，它可以警告你的人類助手並讓他們決定是否該打斷你當前的活動。此外，您的AI助手可以通知您或您值得信賴的人工助理，它認為您在某段時間內搜索和閱讀某個小工具的評論的原因可能與某些離線或在線廣告有關。

例如，如果您是第一次購買某件商品，那麼您的AI助手可能會警告您，您在過去幾天內被廣告宣傳過該特定商品，並建議您在下單之前重新考慮採購。您的AI sidekick還可以為您提供行為模式的詳細報告，例如iOS的新屏幕時間功能，該功能可以告訴您花在盯著手機上的時間以及您使用的應用程序。同樣，您的AI助手可以告訴您不同的主題如何佔據您的日常活動。

Harari關於AI助手的想法是一個有趣的想法。從本質上講，它建議顛覆當前基於AI的推薦模型，以保護用戶免受大腦黑客攻擊。然而，正如我們所看到的，創造這樣一個搭檔存在一些真正的障礙。首先，創建一個可以監控所有活動的人工智慧系統成本很高。其次，保護人類的心靈免受傷害需要人類的智慧。也就是說，我不建議AI不能幫助保護你免受大腦黑客攻擊。如果我們從增強的情報角度來看，它可能有一個中間立場，每個人都可以訪問，並幫助我們更好地裝備我們所有人對AI操縱。

圖片來自網路

增強智能背後的是，AI代理在補充和增強人類的技能和決策，而不是完全自動化它們並將人類從循環中移除。這意味著你的AI助手在教育你你的習慣，讓一個人決定什麼是最適合你的。考慮到這一點，您可以創建需要較少數據的AI代理。您可以剝離記錄您離線操作的所有內容，並限制AI助手監控移動設備和計算機上的在線活動。然後，它可以提供有關您的習慣和行為模式的報告，並幫助您做出最佳決策。

這將使AI助理更便宜，並且可以為更廣泛的受眾訪問，甚至認為它可能無法提供與可穿戴數據訪問一樣多的洞察力。您仍然需要考慮存儲和處理的成本，但成本將會低得多，並且可能包含一項專註於人口健康的政府補助。AI助手可以成為幫助檢測大腦黑客和有害在線行為的好工具。但他們無法取代人類的判斷力。而是由您決定什麼對您最有利。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！