政治家和广大公众对社交网络的需求越来越大, 无法识别和删除其网站上的仇恨言论。然而, 这样做往往说起来容易做起来难, 但麻省理工学院的一项新研究强调了如何识别极端分子, 甚至在他们发布任何威胁内容之前。
2016年, 推特披露关闭了约 360 000个与伊斯兰国有关的账户, 这凸显了这一问题的规模。识别大多数此类帐户取决于报告它们的用户, 并且几乎无法防止用户简单地创建另一个帐户。
研究报告的作者说: “社交媒体已经成为极端组织的强大平台, 从伊斯兰国到白人民族主义” 极右 “组织。“这些组织利用社交网络传播仇恨宣传, 煽动暴力和恐怖袭击, 使其成为对公众的威胁”
及早发现他们
研究小组审查了已被确定为伊斯兰国成员或与已知伊斯兰国成员有联系的约 5 000个用户的推特数据。这一数据包括约480万条推特, 以及账户暂停的数据, 包括账户本身及其朋友和追随者。
研究小组利用这些数据创建了一个模型, 他们认为这种模型可以让他们预测新的极端主义用户, 同时也可以确定属于同一个人的多个账户。他们还可以利用该模型预测被禁止但创建了新账户的极端用户的网络联系。
此外, 研究人员还能够准确识别极端分子使用的所有其他推特账户中的 7 0% 左右, 仅有 2% 的账户被确定为误报。
研究人员解释说: “我们创造了一套新的操作能力, 以应对社交网络中网络极端分子构成的威胁。“我们能够在他们发布任何内容之前预测谁是极端分子, 然后能够预测他们在被暂停后将在哪里重新进入网络。简而言之, 我们可以自动找出谁是极端分子, 并将他们排除在社交网络之外.
可以说, 这项研究纯粹侧重于发现伊斯兰国的潜在成员, 但研究小组相信, 他们的做法也很容易被用来发现其他各种极端分子。
克劳森说: “从事某种形式的网络极端主义或骚扰的用户在社交网络中将有非常相似的行为特征。“他们将与构成其极端组织的一组特定用户建立联系。他们将创建新的帐户, 这将类似于他们的旧帐户后, 暂停, 当他们返回到社交网络后, 有很高的可能性, 他们将重新连接到某些以前的朋友.