年代Twitter和Facebook等社会媒体平台迅速成为许多人日常生活的一部分,提供了一个无尽的传送带的娱乐而我们乘坐地铁,放松在沙发上,或者坐在候诊室在医生的办公室。然而这流的社交媒体内容是一把双刃剑:它不仅有娱乐我们的潜力,扩大我们的思想,但它也揭示了我们如何处理我们遇到的信息的局限性。

社交媒体内容可以诱使我们相信的东西不是真的,或证实我们已经有偏见,进一步加剧了我们的信仰。也许是没有这个问题的地方比在政治中,关于在错误信息为我们的民主进程有重大影响。但是为什么我们作为一个社会,所以容易受到错误信息吗?错误信息是如何传播的?我们可以做些什么来对抗吗?这些问题,韦尔斯利计算机科学教授塔迈塔克瑟白兰地和埃尼Mustafaraj已经研究了十多年,在推特上发现2010年1月以来吸引他们到社交媒体的谜。

这一切都始于在麻萨诸塞州选举:民主党参议员特德。肯尼迪去世了,玛莎审理和共和党人布朗在争夺他的空位。选举,而重要的状态,不是会有很多超越它。然而,迈塔克瑟白兰地和Mustafaraj注意到一些奇怪的现象:候选人全球趋势在Twitter,这表明他们被大量的人谈论无处不在。

为什么是这个地方选举突然全球新闻?为了找到答案,他们开始收集有关候选人的推文,导致迈塔克瑟白兰地所说的“一个非常令人震惊的发现”:许多已经由Twitter账户创建在大选前几天。这些账户”相同的链接在微博上反复增加微博的体积,使这一主题趋势,“Mustafaraj说,账户如@CoakleyAgainstU和@CoakleySaidThat针对麻省。

分析了超过185000条微博后,迈塔克瑟白兰地和Mustafaraj意识到他们不是来自新用户特别投资于麻萨诸塞州的选举。相反,许多账户是由anti-Coakley团体,如保守,位于爱荷华州的美国未来基金,迅速传播负面信息的目标候选人。事实上,9个账户由美国未来基金在两小时内发送929条信息,Twitter关掉之前达到大约60000人。加,当人们搜索候选人,谷歌的实时搜索功能意味着这些tweet的候选人(而不是微博,现在这样)了顶部的结果。

迈塔克瑟白兰地和Mustafaraj称为攻击“Twitter炸弹”的一篇论文中发现。(这篇论文,“在几分钟内从默默无闻到声名:政治言论和实时搜索,“收到WebScience 2010最佳论文奖,是可用的在线这里。)“惊喜的是,我们发现有什么奇怪的,我们收集的数据,但是突然,我们发现第一组创建的机器人来影响选民在马萨诸塞州,”迈塔克瑟白兰地说。

“没有人使用Twitter指向目标的选举,“Mustafaraj补充道。早在2006年,两党都是利用谷歌搜索推广负面信息对他们的对手,和迈塔克瑟白兰地说,由于事关重大,如果研究人员的话,那将是非常令人吃惊的不发现这样试图影响选举。

他们的发现让他们想知道其他Twitter被杠杆向大众传播错误信息。为了找到答案,他们建造TwitterTrails,基于机器学习的一个人工智能系统,发现并分析相关的所有推到一个特定的故事回去一个星期。

分析旨在揭示故事是否真或假通过测量关键指标相关的传播和怀疑:第一次推,当它开始获得动力,是谁传播,不同群体推特是否互相对话,并对其准确性有怀疑人。迈塔克瑟白兰地说,这个想法是,如果用户相信故事是真的(这通常映射到一个故事实际上是事实),他们将分享它广泛而不会表达太多怀疑它的真实性。然而,如果读者不确定是否一个故事是真实的,他们要么不会广泛分享,所以它不会在Twitter上迅速蔓延,或者他们将分享它,而说他们怀疑它。开发主要是为记者,TwitterTrails已用于分析约1800故事主题从普京车队是否形似阴茎(不是)是否美国宇航局发表了一项研究,揭露了气候变化(没有),这是在90%准确辨别是否真或假的故事。(更多关于TwitterTrails访问twittertrails.com)。

尽管它的成功,为什么TwitterTrails失败时迈塔克瑟白兰地成为感兴趣。“成功率非常引人注目,但它不是桥梁是我的大惊喜,”迈塔克瑟白兰地说。也许最明显的例子就是Pizzagate, 2016年总统大选的阴谋论声称69和其他民主党人希拉里·克林顿(Hillary Rodham Clinton)运行一个人口贩卖环在地下室的比萨餐厅。这个故事是假的,但TwitterTrails认为这可能是真的,误导了故事的快速传播之后提到的土耳其亲政府报纸急于强调政治问题在其他国家,和缺乏怀疑,因为这些谈论它已经相信了。

这个例子强调了一个关键条件是影响信息传播在社会媒体:偏振。“在2012年,一个令人震惊的事情发生在我身上受到了一些研究:如果你给极化人相同的数据集,他们变得更加分化,“迈塔克瑟白兰地回忆说。的原因吗?人们有选择地看数据,接受部分之前,确认他们的信仰,而拒绝的部分没有。极化的挑战,他补充说,它不仅关系到我们相信什么信息,但它也有一个强大的情感的成分,它阻止了我们从逻辑上和公正评估新信息。“如果你有一个偏振观众,它更容易传播假新闻和rumors-people基本上不会以开放的心态倾听对方在做什么,”迈塔克瑟白兰地说。

现在,与牛津大学合作中心技术和全球事务,迈塔克瑟白兰地使用TwitterTrails测量极化在政治背景如Brexit和即将到来的大选在美国。“我们试图研究极化增加,如何影响极化:什么是它只影响现实生活中的新闻,还是也受到谣言?”迈塔克瑟白兰地说。“我认为我们可以做出的贡献是探测高度极化情况下政治,或者找出干预来帮助人们有一个更合理的对话。”

他说,在个人层面,战斗极化与批判性思维的一种方式。不过,他承认,这可能是一个挑战。他建议试图scientifically-creating假说方法声明或问题,发现和分析证据,支持和得出结论之前驳斥了这种假设。通常,他补充道,人们停止后找到证据,从而引发极化。迈塔克瑟白兰地还警告称过于信任的任何特定的来源,并通过我们的信息,我们将senses-pointing记忆,特别是可以是错误的。“如果你的数据,你用你的批判性思维来评估已经妥协,因为你信任的来源有骗你或你的感官有骗你,那么不管你投入多少逻辑,基本上你会得到垃圾,”迈塔克瑟白兰地说。“独立思考问题的人越多,越有可能我们将到达正确的答案。”

新闻来源可靠吗?

Mustafaraj TwitterTrails后脱离政治,但她觉得必须潜水回来,当她看到正在使用社交媒体再次传播错误信息在2016年总统选举,而是更多和更高的赌注。“我决定要回到这个因为这个问题什么是真理,什么是不现在已经变得更加危险,”她说。她报警不仅源于当前形势下,从她的生活经历,也在阿尔巴尼亚极权主义政权。“我成长在一个社会中,我们以某种方式,废除了真正的真理,我们被要求相信是假的现实,”她解释道,与政府控制媒体、电视、和一切。“这标志着你作为一个人,是多么容易创建另一个版本的现实。”

她开始面试人如何决定是否值得信赖的新闻来源。她发现很多基础决定是否谷歌新闻媒体带来了“知识”面板中,矩形框右边的页面提供了基本的信息。面板为《纽约时报》的知识,例如,包括在创办时,它的总部所在地,谁拥有它。然而,这些知识板可以在几个方面的问题。首先,一些当地的新闻来源知识panels-only三分之一的8000 Mustafaraj测试评估。因为他们没有维基百科页面,这对于这些面板提供信息。此外,靠不住的来源可能会模仿这些电池板欺骗读者。“我们想要做的是看看有多少当地报纸在美国有很好的网络存在,或当你搜索谷歌,你明白,他们是一个合法的当地新闻来源而不是一个错误信息网站,”解释了艾玛Lurie的19日曾与Mustafaraj项目,现在在信息学院博士生,加州大学伯克利分校。

Mustafaraj然后转移她的注意力问题的根源:维基百科。“维基百科是非常重要的,因为在整个网络的生态系统,现在是最可信的信息来源之一,“Mustafaraj说。不仅是一个维基百科页面通常Google结果,和对知识的基础板,但也使用虚拟助理Siri和Alexa等。“有什么免费的规模,维基百科的信息,而这不幸的是维基百科本身错误的目标,因为如果你操纵维基百科,你操纵谷歌和其他所有这些东西,”Mustafaraj说。

维基百科也有一个更根本的问题:它是由普通人编辑,不是专业人士,这些人倾向于写他们的嗜好以有详细页每一个《星舰迷航记》,然而几页给当地的新闻来源。此外,维基百科是饱受性别bias-only 10到15%的编辑是女性的转化为条目本身的性别比例失衡。

开始解决这些问题,Mustafaraj挖掘Wiki-edit-a-thon韦尔斯利社会,努力的一部分在多个学院和大学在维基百科上报纸。训练后编辑维基百科,学生们开始为当地创造知识面板和完整的维基百科页面新闻来源。Mustafaraj继续教她的学生如何编辑维基百科,和她编辑资源每当她她鼓励那些可能想成为一个编辑,并开始做贡献。“我觉得我们需要告知公民参与塑造我们的信息生态系统不能离开它的算法和公司,“Mustafaraj说。“我们必须打击错误与事实与真相和我们接触。”

漏洞百出的并发症

当艾玛Lurie写她的荣誉论文与Mustafaraj去年,她探索另一种可能的行动反对错误信息:事实核查。她专注于谷歌的短暂的特性,利用机器学习技术检查的准确性要求通过匹配的其他信息。功能背后的思想是简单核实索赔从新闻通过交叉引用其他文章的主题,链接到源证实或驳倒它。然而,执行证明复杂,特征在如何匹配索赔相关源在某些情况下,例如当索赔是由条件的语言(“疫苗可能导致自闭症”)或当索赔报告别人的不正确的声明(“珍妮·麦卡锡说,疫苗导致自闭症。”)。功能在2018年停产,尽管其缺点,Lurie仍然乐观。“我认为这是我清楚地认识到,没有一个解决方案,没有一件事你可以做斗争错误信息作为个人消费者或作为一个技术平台,但这并不意味着它不能变得更好。”

社会媒体平台也妨碍打击错误信息。这些平台有巨大影响力,可用于相应回复率,特定的组织目标和具体要求。此外,他们被设计成漏斗信息转化为一个光滑的、统一的格式,可以让它几乎无法辨别准确来源不值得信任的人。“如果你创造这样一个环境,一切看起来相同的和声音,你创建这种混淆的信号是什么噪音,”Mustafaraj解释道。这些挑战只是雪上加霜的是,如此多的信息在互联网上并不完全或真或假,更难知道该相信什么。”的一系列边缘内容实际上不是完全不真实的,不是事实更有关,更普遍的,在当前媒体生态系统,“Lurie说,这是她最大的担心在2020年大选。

Mustafaraj和迈塔克瑟白兰地,当前信息景观也揭示了一个更深层次的问题。“这不仅仅是一个事实问题。这是…你的系统的值,以及如何使用这个系统来解释世界上的事实,”Mustafaraj说。“寻找一个技术解决方案是一种文化和社会分工将是非常困难的。”

所以作为个人,我们能做些什么来对抗偏见源于我们的价值观,当我们遇到新的信息,或信息与我们现有的世界观不一样?迈塔克瑟白兰地认为越来越自我意识是一个很好的起点。“我们需要理解自己,而不是认为世界是事实或谎言。这真的是你看待事情的方式很重要,”他说。“我的最终目标是试图找出如何帮助(自己),我的学生,普通大众,理解为什么我们相信我们所相信的。如果我们能做到这点,那么很可能我们不会那么容易被骗。”