微軟為「VR環境」騷擾提出「毒性屏障」審查機制，過濾不良行為

文章相關引用及參考：映維網

只會在用戶感到不舒適的情況下才進行審查。

（映維網 2019年02月18日）網路暴力是企業一直希望解決的問題，而一些企業甚至利用了機器學習等人工智慧方式。在某些情況下，虛擬環境有可能會加劇這類事件對用戶的心理影響。但是，有意見認為「有毒」的定義因人而異。例如，某些用於咒罵的詞語對不同人而言有著不同的解讀。

微軟認為這是多用戶環境中需要解決的一個問題。在美國專利商標局日前公布的一份文件中，這家科技公司設想了一個個性化的「毒性屏障」，其可以根據用戶的喜好監控通信和審查數據。

名為「Personalized toxicity shield for multiuser virtual environments（多用戶虛擬環境中的個人毒性屏障）」的發明文件指出，通信可以包括基於語音或基於文本的聊天，如多人遊戲會話中的聊天，或者這可以擴展至視頻數據流中的圖形顯示。另外，這一系統可以成為在線Web會議或VR/AR會話的組成元素。所述的技術基本上可以幫助用戶有效地與多人進行通信交流，同時可以防止特定的用戶成為其煩惱的來源。

但毒性屏障模塊所監控的內容並不僅僅局限於咒罵，同時可能包括不良行為，如朝麥克風大力噴氣，或者過於靠近用戶。某些人認為，全面禁止這些特定動作顯得過於苛刻，所以專利描述的系統只會在用戶感到不舒適的情況下才進行審查。

對於毒性屏障的工作原理，系統可以分析「容忍度數據」以部署特定於用戶的毒性屏障模塊（TSM）。TSM同時可以利用通過機器學習引擎生成的預測模型來阻隔相關的行為（這一模型可以分析學慣用戶對不良行為的反應）。系統可以選擇默認配置文件以向引擎提供其所需的一切信息，而用戶可以選擇手動設置設置。這樣，系統將能夠「基本上實時地」通過靜音，刪除或不播放不需要的數據來應對不良行為。在某些情況下，它可以向不良行為者發送警告信息或暫停與他們的所有通信。

相關專利：Personalized toxicity shield for multiuser virtual environments

如果能夠實現真正的智能執行，這樣的系統有望營造一個適宜的多用戶在線環境。但當然，理想的網路環境定義因人而異，而且實現起來總是充滿著挑戰。「Personalized toxicity shield for multiuser virtual environments（多用戶虛擬環境中的個人毒性屏障）」這份專利是於2017年8月提交，並於日前由美國專利商標局正式公布。需要注意的是，這僅僅只是一份專利，僅代表微軟朝這一方向進行了探索，尚不確定他們是否會或將於何時商業化相關的技術發明。

原文鏈接：https://yivian.com/news/56773.html

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！