高科技可以解决，网上仇恨和骚扰？

彼得·斯特兰

埃莱尔不知道相当什么原因造成的。

也许她变成一个男人倒约会太快，青紫了他的自尊心。也许她只是困扰他以某种方式。

不管是什么，海勒来自一个家伙耶鲁法学院学生攻击无意中解开了波时，她做什么，她做了十年前。

当时Facebook的没有它目前拥有的覆盖范围。所以，海勒的折磨上调AutoAdmit.com，为法律学生和律师的留言板网上暴民。很快，帖子出现指责她使用毒品和交易性以身相许入学名校。

这吸她到一个更大的漩涡汹涌的留言板。其他女学生在耶鲁受过被指控与教授睡，以获得更好的成绩的。假名背后，一些海报说，他们希望妇女将被强奸。

通常情况下，这就是故事的结局。妇女，骚扰和降解，关闭他们的账户或辍学，任何事情把自己和匿名的仇恨之间的距离。

海勒，现在对于反诽谤联盟的律师和她的同龄人选择了战斗，起诉AutoAdmit透露他们的骚扰者的名字。他们最终尘埃落定。和解的条款是保密的，海勒说，但经验使她走向了职业生涯的战斗仇恨言论的道路上。

「我的工作是成功的，如果没有人需要我，」海勒说。但到目前为止，这是相反的。「我们正处在一个增长的行业。」

最讨厌的就是无处不在这些天。它在不同的肤色，宗教和性取向的人投掷。它不是由政治观点的限制;不难发现在左边和右边可恶的言论和行为。它需要无处不在的地方：机场，商场，当然，在互联网上。

GIF/423K

亚伦罗宾逊图文/ CNET

对于对数据的详细信息的PDF文件，请点击这里和这里。

仇恨团体已经采取了居住在网上。可恨的迎了上来像reddit的，Voat和4chan的网站志同道合的团伙，恐吓人民，他们不喜欢或不同意。因为很多互联网是公共的，媒体放大了可恨的消息，因为它分发给他们。

该ADL一个民权组织，发现约1,600在线帐户分别负责大约19000反犹太人的鸣叫针对2015年8月和七月2016年犹太记者在同一时期的68％，260万反犹太人的鸣叫可能被视为多达10十亿次的ADL说。

如果数字恨呆锁在线这将是够糟糕的。但事实并非如此。它滋生真实世界的暴力。今年五月，一个马里兰大学的学生谁据说属于其中白人至上主义者共享模因Facebook页面在一个黑色的陆军中将的刺伤死亡被捕。几天后，谁曾报道张贴纳粹影像和白色的民族主义思想对他的Facebook页面一个人继续在俄勒冈州波特兰市刺向大礼包，威胁两名女子，其中一人身穿穆斯林头饰之后。两个好撒玛利亚人丧生。谁该名男子在共和党代表棒球练习开枪射击，据称Facebook的群体，其名称中的一员「通往地狱的道路是铺满了共和党」和「终止共和党。」

这还没有算上花园各种嘲弄人得到的，因为他们怎么看，或者炸弹威胁或破坏墓地。

法律应对已经从地而异。在美国，言论自由包括憎恨的表情，活动家正在推动国会议员战平骚扰线，并把它同一个无论是在现实生活中还是在互联网上。

在其他国家，如德国，煽动仇恨的言论，其中包括煽动或威胁使用暴力已经被取缔，政府与社交网络如Facebook和Twitter的合作，以确保执法。上个月，德国通过了一项法律，可以良好的社会媒体公司超过5000万$，如果他们无法删除或在24小时内阻止犯罪进攻的意见。

到目前为止，技术已被证明是遏制网上仇恨言论无效的，这不只是因为互联网的影响力和匿名的。就拿今天的工具，自动标记贬义的词或短语。人类绕过它们通过简单的码字和符号，就像一个数字秘密握手。因此，而不是连音符「基科」的犹太人，他们写的「Skype的。」涂片「SPICS」拉美裔成为「雅虎」，「吃喝玩乐」代表穆斯林（一个引用唐纳德·特朗普和糖果的叙利亚难民小的臭名昭著的比较）「谷歌」代表的N字。

现在高科技公司，活动家和教育家们正在设计新的方法和工具，例如，隐藏有毒的意见，确定我们是谁，我们核实看到的内容，或者让我们停下来想一想，我们发布之前。他们还尝试用虚拟现实，可能令我们处于受害者的鞋子。

他们的目标是：鼓励礼貌，同情和理解。

「这不是不可能的，」一个维基媒体产品分析师和在线骚扰研究员卡罗琳·辛德斯说。「这是可以解决的。」

这弄不好会采取什么样的形式是任何人的猜测。这个问题，毕竟，自前上网是连东西存在。而现在最遏制网上仇恨的努力还处于早期阶段。有些人可能会显露才华，但没有似乎是答案。

「这将是不同的方法组合，」兰迪·李·哈珀，谁创立了在线滥用预防倡议通过网上小怪仇恨被瞄准后编码器说。

民间话语

你会拿回来，如果你能可怕的意见吗？这是背后的仇恨自由，它可以扫描电子邮件和状态更新仇恨言论的应用程序的概念，创造要求人们按发送前想一个额外的步骤。

另一个想法：使用AI它就发布之前停止矾。字母的拼图小组正在就在这样其观点软件的方法。免费提供给网站和博客，节目评估评论的与人交谈的潜在影响，得分后的毒性水平，并决定是否允许它出版。纽约时报是早期采用者。

华盛顿邮报同时正在使用的计算机程序来审核评论。该电脑被人为版主保持了邮政的长达数年的记录训练。但它只能处理「死记硬背工作，」该报说。棘手的意见仍然是由人类判断。

「这项技术不仅有助于促进健康的注释部分，但将使它更容易为记者查找和最高质量的评论者互动，」格雷格·巴伯，在后的数字新闻项目主任。

计算机不能做的整个工作，因为他们在理解的细微差别，通过仇恨言论的编码语言加剧了问题不好是众所周知的。那岂不是帮助如果大家都担任社区民警？这是民事，波特兰的目的是启动其软件可以帮助团队管理在媒体和消费者网站的评论部分。

这就是所谓的民间意见，它的工作原理是迫使你打分三人的职位文明之前，你可以提交你的。有线把它称为「采摘战斗前服用10个深呼吸网上等价的。」AI等计算机技术然后打分评级，以确保没有人能够欺骗系统。

「这是一个人的问题和解决方案必须是人类在很大程度上，」克里斯塔·马根（不是笔误）说，民间的共同创始人兼设计副总裁。

我们知道你

克里斯·恰巴拉看到互联网催生的仇恨为需要极端的反应极端的问题。

这就是为什么他的得克萨斯州奥斯汀，启动身份验证的现实计划创建「新的互联网。」把它看成是证明谁使用它和它的内容提供了人一个全新的网络浏览器。没有更多的假新闻。无匿名发贴。

你在浏览器上所做的一切都依赖于一个已经由驾驶员执照或护照验证的配置文件。你可以浏览你想要的，当然任何网站。但你会发现更可靠的网站，以及所有通过他的公司验证，并依赖于实际的人。该服务试图结束这种对作出互联网的最严重的部位可能不愿透露姓名的文化。

「这是狂野的西部。这就是问题所在，」 Ciabarra，认证现实的联合创始人兼首席技术官说。随着认证的现实，「你把你的名声就行了。」

Ciabarra说，他会很高兴，如果互联网的1％加入他的服务，但他认为90％的人会想。

不过在测试中，该服务是免费的了。它最终将花费一年大约$ 20。

这是狂野的西部。那就是问题所在。

大枪

Facebook和Twitter的便打，才能发生真正的变化更大的作用。

很多人Twitter的社交网络匿名，仇恨喷涌巨魔关联。前布赖特巴特编辑米洛·安诺波洛斯，例如，使用Twitter的攻击喜剧演员莱斯利·琼斯出现在「捉鬼敢死队」翻拍，取悦其他人谁认为全女性制作弓政治正确性。（Yiannopoulos同意接受CNET的采访，但取消了。）而且它在那里，他的攻击女权安妮塔·萨基西安和开发商措埃·奎恩和布里安娜·Wu的抱怨视频游戏行业的妇女的治疗，煽动后来被称为＃争议GamerGate。

由于这些和其他高知名度的骚扰活动的结果，Twitter正在试图通过隐藏进攻鸣叫，使之更容易报告攻击保护受害者。该公司还关闭了376890个账户过去六个月的2016年之前，其努力打击的一部分「暴力极端主义」。

Facebook的支付超过7500人，以监视什么人发布，包括暴力视频和图形图像。该公司还投资在反演讲，有力地凸显出积极的评论给淹没了否定。有些人，例如，可能已经看到在他们的新闻饲料反穆斯林的帖子有关穆斯林的帖子和新闻报道筹集资金来清理被玷污的犹太人墓地包围。Facebook的也编了电脑，所以人们不能创建在他们的名字可恶的术语组了。

不过，全球最大的社交网络把它的近2十亿包月用户多负担调出的不良行为。被发表的评论数量之多，是指具有种族主义，性别歧视和偏执色彩的消息 - 所有这些都违反了使用Facebook的条款 - 当他们上报公司并不总是删除。

支持者鼓掌Facebook的努力，但说他们是姗姗来迟。

Twitter和Facebook拒绝让发表评论的任何管理人员。

同情

2007年，海勒，耶鲁大学法律系学生，提起联邦诉讼，要求AutoAdmit确定她的折磨。最终把她面对面与他们中的一些。她很惊讶地得知他们大多从未见过她或人甚至去了同一所学校。他们是男人和女人;专业人士和蓝领工人;年轻人和老年人。

他们的共同点是一种同情的差距。

「我恨来自于世界各地的频谱，它不是完全由当事人一方所有的，」海勒说。「与他们的主题是，他们说，‘我不知道我写的影响一个真正的人。’」

从法学院毕业后，海勒调查，在美国司法部的部门和国际刑事法院在海牙起诉网络犯罪和侵犯人权的行为。去年9月，她加入了ADL为在实地联系，以高科技产业。

在这个职位上，她的作品与虚拟现实技术的高科技公司。她的希望是，虚拟现实的身临其境的体验，可以通过别人的眼睛向全世界展现。这项技术，她认为，可能会帮助关闭同情差距。

海勒也航向ADL的硅谷指挥中心，跟踪，分析和打架cyberhate针对非裔美国人，穆斯林，犹太人和LGBTQ社区。她还帮助Twitter的遏制，关于它的繁荣这场可怕。

在山谷的精神，ADL资助的一个叫做创新，反对仇恨编程马拉松，它接受的提交内容到三月，将在今年晚些时候挑选赢家。以遏制滥用最有创意的概念的人或团体将获得$ 35,000个一等奖。

「互联网的本质不是很好，这是不是天生坏，」她说。「这反映了谁使用它的人的意图。」

运气好的话，这些意图是可以改变的。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！