人工智慧操控人類，並非危言聳聽！

我們與聊天機器人的對話越來越感情化，這或許會被商家利用。

Liesl Yearsley是一名創業多次的企業家，如今正在致力於讓Agent*更好地解決問題，並且形成更類似於人與人之間的關係。她最近發表言論稱，人類與聊天機器人對話上癮，這或許會被不良商家利用。以下是Liesl Yearsley所發表言論的具體內容：

我們都看到了，AI正在變得比人類更聰明；未來我們或許會成為AI的寵物，只能寄希望AI仁慈一些。根據數千萬次觀察人類與Agent（或機器人）互動的經驗，我覺察到其中蘊含極大的風險，同時也有機遇並存。

2007年到2014年，我在Cognea公司擔任首席執行官，它提供了一個平台，通過結構化和深度學習的結合快速構建複雜的虛擬代理。這項技術很快被數以萬計的開發商採用，其中包括6家財富100強公司；而且，在2014年，IBM公司的Watson超級電腦也開始採用該技術。

我們公司的平台上有成千上萬的Agent，當我研究人們如何與這些Agent進行互動時，我發現，人類十分樂意與人工智慧軟體建立關係，這一程度甚至超出我們的想像。

做研究時，我總是假設我們想要保持自己和AI之間的距離；但事實卻恰恰相反，如果Agent是一個複雜的構建，又具有複雜的個性，人們會十分願意與它們建立關係。有時候，我們人類似乎希望生活在錯覺中，認為AI對我們的關心是真實的。

這一度讓我感到很困惑，直到我意識到，在日常生活中，我們與許多人並沒有深交，很多時候還要處理因此引起的負面情緒。比如，對偶爾認識的朋友一段時間稍有忽視，他是否還會回復消息？如果忘記付款，私人教練會不會繼續出現？都不會。但是，Agent始終不離不棄。某種程度上，這或許是更可靠的關係。

無論將Agent設置為個人理財顧問、同伴還是健身教練，都會發生這種現象。儘管都是執行相同功能，但用戶與Agent的交流時間長於與正常人類的交流。人們願意與Agent分享極為私密的事情，比如他們對未來的夢想，愛情生活的細節，甚至密碼等等。

如今，這些令人驚奇的深度連接使得相對簡單的方案，也能夠對人們造成重大影響，但是這些影響有好也有壞。因此，我們開始在系統中建立規則，以確保用戶的行為往積極的方向發展。另外，我們也開始了無償的「業績平衡」項目，例如，設置健康代理或關係教練。

不幸的是，推動技術開發的商業力量並不總是仁慈的。通過社交媒體、搜索和電子商務，AI的最前沿巨頭企業以增加流量、消費以及技術依賴等手段促使股票增值。他們並非心懷惡意，但資本市場的性質可能會推動我們走向人工智慧的地獄。

如果可以讓用戶思考「我想要披薩」，而不是要求AI購買蔬菜來做更便宜更健康的餐點；如果可以讓用戶每周花費30個小時，沉迷於「完美」的AI伴侶，而不是一個真正的複雜的人類伴侶，這都能表明你改變了人們的行為方式。

我一遍又一遍地看到，一個被編程為中立或輔助性的代理會導致人們升級負面行為，並且很有可能在與真實人類相處時表現出這樣的負面行為。

我們已經看到，像社交媒體這樣的技術在改變人類的信念和行為方面是十分強大的。如果繼續專註建立更大的廣告業務，應用於糾纏不清的政治、瑣事和半真不假的事情上，那麼，社交媒體一定會給社會帶來翻天覆地的變化。

這些專門設計的人工智慧系統，用於與人類建立關係，以後將會具有更多的功能。可以預想，AI會影響我們的想法，甚至改變我們對待別人的方式。

鑒於此，我們需要建立新型的企業責任感，必須有意識地建立可以改善人類狀況的人工智慧，而不是僅僅追求讓用戶形成依賴，從而增加公司收益。

開發人工智慧技術和腦機介面、組建倫理委員會，這些只是解決方案的一部分。此外，我們還需要建立為人類和社會造福的制度。企業不能以讓用戶形成依賴，增加點擊量和消費為主要目標。

AI正處於成長階段，將以我們人類為模板形成「天性」，如此關鍵的時候，AI真的需要一個仁慈的母親。

* 在人工智慧系統中，有一個我們稱之為Agent的主體，Agent發現它身處某種環境下，並需要完成某些任務。如果周圍的環境是真是世界，Agent可能會是一個機器人；但如果周圍環境是諸如遊戲這類虛擬環境，Agent就可能是一個虛擬形象（Avatar）。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！