當前位置:
首頁 > 最新 > 「碼農」的倫理學課題

「碼農」的倫理學課題

李楠 編譯

計算機專業人員通常被我們親切的稱為「碼農」。他們的重要性已經體現在現代生活中的方方面面。當黑客們從大公司的資料庫里盜取條數以十萬計的個人信息時,這一點表現的尤為突出。他們既能保護,當然也能損害包括電網和運輸線路在內的關鍵設施。他們寫出的程序可能會決定一個人能否得到一份工作,一筆貸款,甚至是一次保釋機會。

精通某種技術的專家就是防止這種技術被濫用的第一層和最後一層防線。沒有人比他們更了解眼前的系統。也沒有人比他們所處的位置更能保護特定的信息,以及整個數據系統的中各層聯結的安全和可靠性。隨著幾十年來計算機技術在社會生活中的應用不斷拓展,計算機專業人員必然在未來扮演舞台中心的重要角色。

這也是世界上最大的計算機專家和工程師組織「美國計算機協會(ACM)」為計算機專業人員發布新版職業道德守則的原因。同時ACM也在採取其他措施協助技術人員明確倫理問題的重要意義。

為公共利益服務

一個職業道德守則不只是一篇紙面文章,它更是一個領域內的每個成員都需要去恪守的核心價值和準則,而這些都體現在數以百計的案例之中。即使風琴公會和戶外廣告協會也有這樣的道德守則。世界上最古老也是最著名的行業道德守則就是臨床醫生要遵從的希波克拉底誓言,它承諾了醫生對患者的治療義務。

希波克拉底誓言之所以舉世聞名,是因為醫學治療的效果直接關乎人命。因此,患者對於醫生的職業操守必須有足夠的信心,相信醫生會將他們的權益時時放在首位。

技術在很多方面都具有相似的人性化特質。在現代社會裡,計算機、軟體和數據隨處可見。在筆記本電腦、智能手機、社交媒體和視頻會議這樣的場景中,它們是可見的;然而在很多影響人們生活的場景中,它們是隱形的,就像熱水器和咖啡機上的計時器。而自動駕駛、感測器網路和機器學習等技術的不斷發展,意味著在未來的若干年裡計算機技術會在人們的日常生活中扮演日益重要的角色。

不斷變化的職業

作為這些技術的開發者,計算機專業人員一直幫助引領現代生活的新趨勢,也使得生活越發的豐富多彩。但是隨著計算機技術越來越多地融入到生活的方方面面,作為從業人員必須承諾自己將以道德的行為方式為社會服務。

在1992年,ACM發布了上一版職業道德守則,那時候在多數人眼中計算機技術還是一個純技術工種。而互聯網當時還處在萌芽期,人們只是剛剛開始理解廣泛搜集和發布信息的重要意義。而要看到人工智慧和機器學習技術在科研實驗室以外發揮作用,還需要若干年的等待。

今天新技術可能會以意想不到、甚至難以預測的方式影響人們的生活和生計。即使一個人不是道德學者,他應該也可以明顯的意識到,計算機領域的從業人員將從道德的思考和行為方式中受益。

職業道德準則的更新

ACM的新版職業道德守則跟1992版相比有一系列重要的區別。其中一點與意想不到的技術發展結果有關。在1970和1980年代,技術人員開發的軟體或者系統只能在特定的地點和環境中發揮作用。但是經過近20年的發展,現在已經可以清晰的看到,技術在進化,它們的應用場景可能已經與最初的預想有了巨大的差別。

例如,計算機視覺研究使人們可以利用二維影像構建人或物品的三維模型,但是沒人想到這一技術現在與機器學習技術結合用於監控系統和無人機的開發。老版本的守則要求軟體開發者保證程序只執行那些他們描述的功能;而新版本還鼓勵開發人員明確評估他們的工作,以確定潛在的有害副作用或誤用的可能性。

另一個例子和人與人之間的互動有關。在1992年,大多數的軟體是由專業的程序員開發出來,僅用以運行操作系統、資料庫和其他基本的計算機功能。今天,很多應用程序是依賴用戶界面與大量的人直接互動的。因此,新版守則包含了更具體的對於潛在用戶的多樣化和敏感性的考量,諸如對於歧視、排斥和騷擾等情況的討論。

越來越多的軟體在運行過程中是幾乎不需要人類理解和干預的,它們為決策制定提供分析結果作為依據,比如是否批准一筆銀行貸款。這些結果可能會產生完全意想不到的社會影響,不利於社會的任何階層——就像一些最近發生的案例,數據挖掘對誰會拖欠貸款的預測顯示出對那些尋求長期貸款或住在特定地區的人存在偏見。當計算機將兩件不該連接的東西連接起來時,就會出現所謂的「誤報」,就像有的人臉識別軟體會將政府高官與罪犯的臉部照片錯誤匹配。修訂後的守則告誡技術人員要特別小心,避免建立可能損害群體權利的系統。

技術開發也需要道德的血液

新版守則的修改花費了超過兩年的時間,包括ACM會員在內的計算機領域從業者,以及專業技術領域外的人員都參與其中。這些努力使得新版守則比過去更加完善。例如,一名政府僱傭的武器設計師問,這份工作是否從本質上就違反了守則,於是措辭得到了修改,以澄清系統必須「符合公眾利益」。

現在新版守則已經發布,還有更多事情需要做。ACM為案例研究創建了一個資源庫,展示倫理思想和指導方針如何作用於各種現實世界的情況。該組織的「問問倫理學家」博客和系列視頻邀請公眾提交其在實踐中遇到的問題或困境,以方便展開討論。為了將這些概念從小學到大學貫穿始終的整合到計算機教育中,文字類教學模塊也已經在開發。

對於新版守則,絕大多數的反饋都是積極的。一個年輕的程序員讀了新版守則後寫下了這樣的評論:「現在我知道如果我的老闆讓我再做一次那樣的事情,我該告訴他什麼了。」

ACM的道德和專業行為守則以「計算機專業人員的行為改變世界」的聲明開始。這個守則是否可以像希波克拉底誓言一樣產生持久的影響,沒有人知道,但它的重要性不言而喻。全球計算機領域的專業人員都必須意識到其工作所產生的巨大影響,並嚴肅的承擔他們對於公眾利益的義務。


喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!

本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!


請您繼續閱讀更多來自 科學媒介中心 的精彩文章:

「蓋亞之謎」的合理解釋
湍流不僅是個科學問題

TAG:科學媒介中心 |