Ethics for AI and Robotics 人工智慧與機器人的倫理學-筆記
我一直盡量不寫任何有用的東西，並完美避開所有與我專業相關的內容。一來我是一個學渣，寫專業知識容易露怯，二來我非常認同Wired《連線》雜誌第一任主編Kevin Kelly所說：
Ethics for AI and Robotics 「人工智慧與機器人的倫理學」是我這學期在上的一門很有趣的課。在離開學校之前我決定破一次例，給這門課寫一個系列的筆記和思考。之所以這麼做，是因為我覺得這學期讀了這麼多論文，不寫點什麼很對不起投入的時間。加之我常和外行如C君廝混，隔行如隔山，總有難以解釋的時候，因此若能替AI和Robotics這兩個常被誤解的領域祛祛魅也挺好。
課是開在計算機科學系下面的，但從名字就能看出這門課涉及相當多人文領域，尤其是哲學，而對數學和演算法的要求到目前看來都比較通俗。因此，模仿《給傻子看的量子物理學》系列，我寫的筆記可以理解為《給傻子看的人工智慧和機器人學》。今天就做一個簡單的介紹，以後每期會按照不同的話題聊些具體細節。
01
當我們談論人工智慧和機器人倫理學的時候我們在談論什麼
Ethics，倫理/道德。
把「人工智慧」、「機器人」和「倫理道德」放在一起，很多人的第一聯想可能都是科幻泰斗阿西莫夫著名的「機器人三定律」，或是美劇《西部世界》。
各位想多了。
誠然，這些科幻作品勾勒了令人著迷的設定，但當前科技的發展水平遠遠沒有達到模糊人與機器間界限的程度。儘管谷歌的Alpha Go已經能夠打敗圍棋世界冠軍，但當前絕大多數機器人的智慧其實只有昆蟲的水平，和人類還差得太遠。回憶一下，在你使用Siri這類智能助手時，是不是經常遇到對方聽不懂你在說什麼的情形？
回到阿西莫夫的「機器人三定律」。這個理論提供了一個很值得玩味的基本倫理框架，以後我們討論基於行為的機器人（Behavior-based Robots，BBR）的時候會做更深入的分析。然而比起這些宏觀假想中的」壞未來」，當下我們所面臨的倫理命題更加具體和迫切。因此我們應當先明確討論的範圍：倫理學在這裡指的更多是一種行為準則，是一種設計思路，是人工智慧在遭遇衝突時能夠依此來做出最優選擇的一套演算法。
在當下，人工智慧倫理學的應用集中在人與機器緊密互動的場景中，尤其是涉及人的生命健康安全的領域，如無人駕駛、陪護機器人、自動武器等，具體例子如下。
無人駕駛
想像一輛無人駕駛汽車行駛在路上，前面有行人突然橫穿馬路，必須猛打方向盤避讓才能避開撞擊。但緊急避讓可能會撞到路邊護欄導致車上的乘客受傷甚至死亡，這時候程序需要立即決定是保大人還是保小孩保護路人還是保護乘客。
如果是人類駕駛員，即便可能會撞上很多人，也很可能會優先選擇自保。而在自動駕駛中我們需要考慮這這輛車究竟是對誰負責：是對道路安全和社會群眾負責，還是對車的擁有者即乘客負責。在相似場景中，我們需要發展合適的倫理學框架來幫助自動駕駛程序做出這類選擇。
陪護機器人
人對於自己生活中的物件很容易產生感情，有些人會像養寵物一樣來對待自己的掃地機器人，甚至提前清潔房間來使掃地機器人不那麼辛苦。對於類人的東西，這種情況就更加複雜。日久天長，人們對於陪護機器人的期待是他們應當像真人一樣反應。然而在當前尚不完備的發展階段，如果一個智能發展不平衡的陪護機器人在與人互動時出現了一些短板，人很容易感到情緒上受到了傷害，產生」你是不是針對我「的想法，而不是把這種失誤理解為一個程序上的失誤。
比如一個使用自然語言的老年人陪護機器人，能夠很順暢地完成幫助老人穿衣服、上下樓梯、打掃房間等職能，卻像Siri一樣無法在老人提問「昨天的電視劇你覺得好看嗎」的時候做出回答，老人難免感到受到忽視，心理上感到不適。
致命自動武器
致命自動武器的概念，本身就有不道德的色彩。擺脫了人性自身的軟弱和善良，致命自動武器可以做到更快速的大規模殺傷對方，但在複雜環境中機器的判斷難以確保不傷及無辜。何況，技術一旦發展出來之後就無法收回了，誰也不能保證它不落入壞人之手。因此，給致命自動武器配備獨立的道德評價系統是非常必要的。
關於這一話題有很多政治上的考量，我個人認為其重要性不亞於《核不擴散條約》，技術角度反而優先順序靠後，
雖然有戰爭法和交戰規則作為基本依據，但戰場上的實際情況複雜到連真人士兵都常常無法做出最優判斷，何況是尚在發展初期的技工智能。
Reinforcement Learning強化學習被認為是一種可行的發展方向。然而，強化學慣用人話來說就是不停試錯，在致命自動武器上，試錯的成本就是一條條人命。
國防軍工科技，其實深思下去都無法避免道德問題。我的一位朋友軟體工程師Z君，在世界腦力中心坎布里奇上班，某次吃飯的時候旁邊桌子上坐了一些附近單位做導彈的工程師，Z君聽了一些內容，後來有次跟我聊起，他說：「你說這些人他們的KPI是什麼？」
預告
之後幾次的筆記準備寫這些內容：
作為課程筆記，雖然即便沒有人看我可能也會繼續寫下去，但我發這個筆記的主要目的，還是為了讓你們誇我。
TAG:南有嘉魚 |