「聲」入人心，也可能「聲」出事端——人工智慧技術因何「偏離著陸」？

近日，人工智慧領域發生一個「意外」——某人工智慧語音助手硬體產品推出新服務，用戶輸入任意文字，都能由極其逼真的明星聲音朗讀出來。沒想到，這一全新應用卻遭遇惡搞，有用戶用定製聲音來朗讀不雅文本，引發熱議。還有人擔憂，模仿得太像了，這技術會否成為犯罪的利器。

事實上，類似前沿技術落地卻「偏離著陸」引起的困惑不少。除了聲音問題外，最近當紅的換臉app能輕易製作一段幾可亂真的「本人」視頻，這是否對被換臉雙方造成侵權，如何追責，也有爭議。

有科學家指出，新技術在改變生活的同時，往往伴隨著混亂和破壞。人工智慧技術熱潮中，如何在社會倫理和法律規範上充分準備，亟待冷思考。

反制技術並非天衣無縫

人工智慧領域的研究包括機器人、語言識別、圖像識別和專家系統等。「最近十年，隨著晶元計算能力的提高、大數據時代的到來，特別是機器學習技術的重大進展，人工智慧技術得到飛速發展，並迅速產業化，」上海大學計算機學院智能科學與技術系副主任岳曉冬博士說。

他首先解釋語音模擬的聲紋技術原理，「現在的技術範疇內，採集一部分聲音形成數據集，分析其頻調、特徵後，人工智慧技術可以通過類似渲染的方法，模仿與本人相像的聲音發出任意語段。 」目前在地圖導航app、天氣預報app等已經較為普及的「明星語音包」，也是採用這一技術。這次在硬體產品上推出讓用戶自由定製語音內容服務，屬於前沿應用的一次新拓展。

其次，很多人不知道的是，在人工智慧研發領域，科學家每推進一項技術，對其「反向」研發始終同步進行。打個不恰當的比方，就跟武俠小說里一樣，解藥毒藥同時煉製。伴隨人工智慧模擬技術的發展，一項名為「自然語言處理」的技術，專門用於識別聲音、圖像、畫面、簽名，甚至人臉等是否有異常，是否人工合成。不僅如此，對於一些人工智慧技術產生的「機器人」行為，同樣可以識別。他透露，一些外賣app上之前存在「機器人」虛假點評的情況，目前已經有了剋星。

「不過，這種識別技術準確率沒有達到100%，」他坦言，反制技術並非天衣無縫。

技術如何保持對倫理的敬畏

與技術瓶頸同樣關鍵的，是創新產業的倫理環境，包括大眾認知及法律法規制定。站在人類科學史維度上，相當一部分發展受限，並非囿於「能不能」，而在於「該不該」。生物學、醫學學科中都有先例。在技術領域突破性增長的今天，面對的是相似的難題，要破解或繞行，非一朝一夕可成。

深耕人工智慧及虛擬模擬領域的上海醫微訊數字科技有限公司，是谷歌眼鏡的開發合作夥伴之一。總經理潘耿道出幾年前谷歌眼鏡被迫轉向的幕後故事——2012年，谷歌眼鏡作為一款「拓展現實」眼鏡橫空出世，向世界展示了「增強現實技術」、「解放雙手」在日常應用中的可能性，業界對此心潮澎湃。許多人認為，這一前所未有的領先技術將完全取代手機，成為生活配件，推動人類社會進入更加智能化的時代。

然而當產品進入市場，問題浮現：戴著這眼鏡，始終有個攝像頭對著前方，談話對象不知道攝像頭是否開著，拍了什麼，又實時顯示著什麼信息……這些讓戴眼鏡者在帶有社交屬性的場合中受到抗拒，最初購買的用戶漸漸不敢戴出門。設計應用場景下的功能性及由此帶來的「酷炫感」，被「不安全感」覆蓋，變得不那麼酷了。而這個問題在前期產業化進程中，沒有人意識到。最終，谷歌眼鏡宣布產品方向由原來的普通消費者，向專業領域拓展轉向，聚焦於工程、通訊、醫療等方面的應用。

「技術領域的倫理道德，是一種約定俗成的社會道德邊界，深層次來說也是技術對人性的探究，」潘耿說，任何產品、技術，再先進也無法逆向而行。人工智慧技術與人類結合更為緊密，尤其如此。谷歌眼鏡忽略的，可能是人們對隱私的重視。拓展開來，對倫理的敬畏，應是在更多人工智慧技術「落地開花」不可或缺的，否則可能好心辦壞事，甚至受到市場的反噬。從產業界角度出發，早期商業產品設計，就不能自說自話，而需要一定數據量的盲測，充分了解消費者感受，是否自然，是否自在。再以那款語音定製服務為例，如果在推出服務時，內部設置可以規避不當內容的語言規則及「敏感詞」庫，是否可以讓新技術更加喜聞樂見。

倫理和法律，會否拖慢技術腳步？

基於倫理及社會管理需求的法律法規，永遠是滯後於技術的，但這種補位不可或缺。岳曉冬博士從微觀角度提出人工智慧領域，當前在法律上亟待明確的：其一，是數據隱私的責、權、利歸屬；其二，如果通過人工智慧生髮技術實施的詐騙等犯罪，其定性及量刑與傳統途徑犯罪有何區別；其三，人工智慧功能實現時可能發生誤傷，如人工智慧診療出現誤診、語音定製影響明星形象等，其中使用者、技術提供者等各家責任如何界定；其四，人工智慧技術往往伴隨著前期數據採集及學習模型建立等多重環節，這期間多方利益如何劃分。

一位同濟大學專家說，人工智慧不同於其他技術，未來，它將對各行各業帶來衝擊性的變化，由此形成的是技術與社會管理交織的問題。在人工智慧成為科學主流發展方向的大背景下，全球都在嘗試回答這道題。韓國學者2015年成立「韓國後人類學會」，圍繞人工智慧的倫理用以人文學和法學的觀點進行研究。近期，歐盟委員會發布人工智慧倫理準則，以提升人們對人工智慧產業的信任。

他認為，任何創新探索，需要一定的空間。從這個意義上說，相關法律所紮起的「籬笆」，若太過銅牆鐵壁，可能拖慢技術發展的正常腳步。從宏觀上看，能否留出一定縫隙或模糊地帶，確保技術發展始終處於「可知、可控」的狀態，則更為理想。

「歷史上每一次技術發展，法律都可以充分應對，」上海大學法學院副院長，知識產權學院院長許春明說：「人工智慧會不會帶來顛覆式的影響？目前來看，還沒到這個程度。」他指出，對人工智慧相關法律制定的討論應分為兩個階段。現實是技術還遠未達到可以替代人類的程度，依然是工具。因此，現有法律規則大框架，可以基本覆蓋。長遠來說，「法律的幻想」也不可或缺，當人工智慧真的可以替代人類，它就與以往一切技術都截然不同，後者無論何時都是法律上的客體，前者是否需被界定為法律上的主體，這是需要討論的。

「我相信，人類是不會縱容某種技術發展替代人類自身的，當下，法律方面更為緊要的，是如何更好地規範及促進其發展。」許春明透露，對此中國已經在探討準備中。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！