智能機器人玩具備受爭議，黑科技是否適用於孩子？

本文來源於theguardian.com，作者Dan Jolin；由億歐編譯。

桌子上的小機器人醒了過來，它睜開藍綠色惺忪的睡眼，打了一個近似於數碼化的哈欠，襯托著又黑又圓的屏幕臉，顯得著實可愛。這款機器人設備看起來就像一輛鏟車和PC顯示器的混合體，但卻組裝得小巧精緻。這款小巧的機器人Cozmo緩慢的轉動著，直到找到了我，便發出了歡快的笑聲「Daaaaan！」。隨後，我的手機上收到了一條信息說，它想要跟我玩遊戲。我由於情緒低落便拒絕了他的請求。Cozmo喪氣地低下了頭，眼睛也變成一對悲傷的月牙。但當我答應它的請求後，它便很快地歡呼起來，高興地點了點頭。Cozmo很容易被取悅，也很容易被人們喜歡。

Cozmo是來自舊金山機器人公司Anki的最新作品，也是新一波平價玩具機器人的一部分，但它卻具備了前所未有的情感功能。Cozmo的設計初衷不僅是作為玩具，更是孩子們的小夥伴。

玩具公司Spin Master表示他們也有類似的聖誕禮物——體型較大，且具有復古外觀的Meccano MAX。Spin Master的品牌經理Becca Hanlon解釋說：「Meccano MAX可以通過學習其主人和周圍的環境來改變其行為，致力於成為孩子更好的朋友。」

孩之寶作為美國著名玩具公司，其營銷總監Craig Wilkins表示：「孩之寶推出了一款可編程的寵物狗Proto Max，通過編程來創建孩子們個性化的終極寵物。」

Anki總裁兼聯合創始人Hanns Tappeiner致力於將電影中虛構的機器人帶入真實的現實世界，如Short Circuit中的Johnny Five，星球大戰中的R2-D2或機器人Wall-E等。「我們看了很多機器人相關的電影，很明顯，電影中與機器人建立情感聯繫非常容易，」Tappeiner說，「這與我們在卡內基梅隆大學每天看到的功能機器人截然不同。」Tappeiner的團隊專註於打造一個儘可能吸引人的機器人，他們與皮克斯、夢工廠和盧卡斯影業等好萊塢電影公司的動畫師及角色設計師進行合作。「在過去的幾年裡，我們發現通過技術打造機器人的性格和個性未來具有長遠的發展前景，這也是我們公司99%所努力的方向。」Tappeiner補充道。

Cozmo的性格和個性對孩子們的影響是驚人的。我的兩個孩子Louis和Max在與Cozmo玩了一天後，Louis說「它很善於表達，我越來越覺得它就是我的小朋友或寵物。」小兒子Max反駁說：「不，它不是我們的寵物也不是我們的機器人，而是我們的孩子。」這種想法既令人興奮，又令人不安。Cozmo不是一個孩子單純想像出來的具有生命的玩具，而是一個批量生產的人工智慧消費品，其情感是通過編程獲取的。可是我們到底該擔心什麼呢？

重演「電子寵物效應」？

對於布里斯托爾機器人實驗室的機器人倫理學教授Alan Winfield來說，Cozmo和MAX的帶來無疑引起了他的關注。六年前，Winfield幫助英國工程和自然科學研究委員會（ESPRC）起草了五項機器人原理。「其中一項原理」他解釋說，「就是機器人不應該被設計為具有欺騙性。換句話說，他們的機器機制應該是透明的。我們關心弱勢群體——兒童、殘疾人、老人及老年痴呆症患者，這些群體相信機器人換照顧他們。」

Winfield稱自己是「專業的杞人憂天者」，他表示自己並不反對伴侶機器人的想打。「我認為，在機器人在治療方面已經表現出其益處。但無論如何，我們需要謹慎和負責，而且還應該意識到賦予機器人情感所帶來的心理危害。」

「我認為用編程語言是不合適的，」Winfield說，「它建立了一個完全錯誤的觀念：機器人就是一個人。然而機器人根本就不可能成為人。機器人顯然不能有感情，但有些人可能並不會這麼認為，而且還會對機器人產生依賴性。」他引用了電子寵物效應，即20世紀90年代的電子寵物熱潮，如果電子寵物沒有得到足夠的重視，這個角色可能會「死去」。Winfield警告說：「不難想像，有些無良廠家會威脅人們說『你們要付錢給我，否則你們的機器人就會死』。這簡直太荒謬了，但人們都明白這個道理。」

巴斯大學的副教授Joanna Bryson是是《機器人的ESPRC原理》的合著者之一。她說：「如果人們明白這是一場遊戲，那我們就沒什麼可擔心的。但七歲的孩子並不明白這些，他們可能會認為機器人會想念他們，而不跟現實中的夥伴玩耍。這些孩子能做出道德上的區分嗎？」

育兒專家Liat Hughes Joshi贊同把機器人比作孩子假象的朋友。「在一定程度上，這是相當健康的。但如果這種關係取代了孩子現實世界中的關係，那麼就會變得相當令人擔憂。孩子們需要與真人進行互動，產生共鳴，從而能理解非語言暗示。但我認為機器人要想達到人類的水平還有很長的路要走。」

副教授Bryson鼓勵兒童和玩具機器人之間的互動，認為這是對孩子們的一種教育經歷，有助於孩子了解人類和非人類之間的區別。不過，她確實想知道Cozmo的「真實情緒狀態」是什麼樣的。「他們真的有需求嗎？」她問道，「如果你把機器人鎖在抽屜里，它們會不會很痛苦？想必就連12歲的孩子也知道其中的答案。」

Anki總裁Tappeiner承認他沒有意識到機器人的原理，但是Anki實際上降低了任何使Cozmo「太人性化」的功能，同時也避免了讓其「變成私人助理」的任何功能。例如，Cozmo不能用完整的句子進行表達。「它並非試圖取代亞馬遜的數字助手Alexa或類似的東西，反而更像是寵物。」即便如此，Cozmo也需要大量的軟體，其核心AI引擎需要180萬行代碼來編程，而且，Cozmo也有需求和慾望。因此，倘若他連續輸掉幾場比賽或不斷地來回被搖晃，他也會非常生氣，甚至在一段時間內，他都可能拒絕玩遊戲。

機器人玩具的利與弊

從這個意義上來說，機器人玩伴可以鼓勵孩子的良好行為。育兒專家Joshi曾思考，在一些使用Siri和Alexa的家庭中，是否應該讓孩子們對這些虛擬助理表現得尊重一點。很明顯，他們不需要刻意這樣做，因為對沒生命的物體，他們的行為有時候確實有些粗魯。但當他們行為粗魯時，如果有人或者其他事物對此便是暫時的悲傷或冷漠時，這很可能會阻止孩子們的粗魯行為。

另外隨著家庭聯網設備的興起，其安全性也不得不令人深思。Joshi解釋道：「數據收集是我們每個人都很關心的問題，家長們可以更加了解孩子對玩具的使用情況。但針對嬰兒監視器中黑客行為的公開調查後，孩子們對帶有攝像頭的產品越來越持有懷疑的態度。這類科技可能並不太適用於孩子身上。」

Winfield對大多數聯網機器人玩具深表擔憂。他表示，我們隊物聯網設備並沒有很強的網路安全標準。其次是隱私問題。數據存儲在哪裡？孩子和機器人的聊天被誰記錄？作為家長，是否有權刪除這些數據？

Anki、Spin Master和孩之寶都敏銳地意識到這個問題。Spin Master的品牌經理Becca Hanlon表示，MAX不收集任何數據。「機器人玩具MAX沒有連接wifi，所有對話都在本地存儲，而不會傳到任何其他設備或雲端。因為，我們知道人們越來越關注智能玩具和黑客行為。」孩之寶營銷總監Craig Wilkins說：「Proto Max寵物狗是依據兒童隱私法進行設計的。」Anki總裁Tappeiner表示：「所有的運行都停留在手機端。雖然Cozmo需要通過wifi進行連接，但180萬行代碼都只在手機里運行，雲端不會保存任何數據。」

在與Cozmo玩了幾周之後，我的小兒子並沒有像之前所說的「Cozmo是我的孩子」一樣愛惜這個玩具，而且也不願意與別人接觸。最開始的興奮已經消退了，Cozmo並沒有達到其預想的電影效果。但我們在哪裡可以看到這樣的玩具呢？未來會達到那樣的成熟程度嗎？就像Steven Spielberg的電影《AI》中的「超級玩具」泰迪熊真的會實現嗎？

「我當然想要一隻那樣的泰迪熊，」Tappeiner笑著說，「未來，我們一定會有像泰迪熊這樣的產品。但現在我們必須接受的事實是，像Cozmo這樣的設備都只是機器人。這也是我們為什麼沒有將其設計為具有像泰迪熊一樣外觀的原因。」

Winfield認為，智能玩具技術的任何進步都需要「謹慎而負責地進行協商，而且，任何玩具都不應該是護理人員或家長的代替品。」

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！