枪击案后假新闻泛滥，是算法的“恶”，还是谷歌和 Facebook 的失职？

原标题：枪击案后假新闻泛滥，是算法的“恶”，还是谷歌和 Facebook 的失职？

编者按：拉斯维加斯大规模枪击案震惊世界，在为死难者哀悼的同时，社交媒体在其中扮演的角色也引起了人的注意。有人批评，枪击案后假新闻泛滥，这是谷歌和Facebook等公司的失职。本文编译自《大西洋月刊》原题为“Google and Facebook Failed Us”的文章。

在拉斯维加斯大规模枪击案发生后的关键早期，假新闻再次泛滥：完全未经证实的谣言，错误的政治迫害，虚假信息公然在互联网传播。

这些虚假信息传播者借助 Google 、Facebook 和 YouTube 来进行广泛的传播。这些公司是世界上最大的信息守门人，但他们拒绝承担责任，拒绝在保护公众信息方面发挥积极作用。

BuzzFeed 的 全球新闻副总监 Ryan Broderick 发现，Google 的“热门故事”显示了 4chan 论坛帖子，关于一名右翼的业余侦探错误地被确定为拉斯维加斯射击案的凶手。

4chan 不仅仅以种族主义泛滥闻名，而且是恶作剧和虚假信息的汇聚地，任何人工编辑的网站都不会把 4chan 作为新闻来源。

然而，随着人们搜索关于这个被错误指控的人的信息，Google 扩大了谣言的传播，在传播不良信息，假新闻生态系统方面发挥积极作用。

这个问题可以追溯到2014年10月 Google 进行的一次改变，将非新闻网站纳入“新闻”（In the News）框中。但是，并不是每个论坛网站都可以被包含在内。

更糟糕的是，当我像 Google 公司提出了这个问题，并指出为什么我认为这是一个严重的问题，他们发回了样板回复：

非常不幸，今天凌晨，我们在少数搜索结果中简要地显示了一个不准确的 4chan 网站， 在几个小时之内，4chan 的故事被算法地取代了相关的结果。 这不应该出现在任何查询中，我们将继续进行算法改进，以防止将来发生这种情况。

仅仅发现算法的漏洞，然后进行替换是不够的。 系统中的问题只是因为它在决策循环中有机器决定，所以不够好。

在我跟进 Google 之后，他们发出了一个更详细的回复，我不能直接引用，但可以描述。 这主要是为了尽量减少 Google 所犯的错误，同时承认他们犯了错误。

他们说，关于拉斯维加斯的一般搜索一般不会显示 4chan 的链接，只有搜索帖子中错误的凶手名字才会。4论坛帖子出现的原因是“新鲜”，对被诬告的人的搜索量相对较少。 基本上，控制显示搜索结果的算法没有太多的进展，当新的名称搜索出现热度上升时，他就经常是搜索显示的第一个结果。

该说明进一步解释说，“新闻”中出现的内容来源于网站的“权威性”以及其内容的“新鲜度”。 而且 Google 承认他们在这种情况下犯了错误。

事实上，这是一个可预测的问题。 其实现在已经有一个类似的例子。 在波士顿爆炸事件发生后，我们看到一个非常相似的“错误信息灾难”。

科技新闻服务 Techmeme 使用人类和算法来识别重要的新闻， 运营者 Gabe Rivera 指出了解决问题所在，不能要求 Google 人工筛选所有内容，但对于最重要的搜索，他们确实有资源来处理。

事实是机器需要很多的例子来进行学习。 这是我们从目前的所有人工智能研究中所知道的。 他们不擅长“一枪”学习。 但人类非常擅长处理新的和意想不到的情况。 鉴于我们知道这些机器将会遇到罕见的，突发性的新闻情况，%&&&&&% Google没有更多的人员负责基本的信息过滤？%&&&&&%不能成为系统的一部分？

Google 太重要了，从我 10 年来所看到的的报道中，这家公司是关心信息质量的。 即使从纯粹的企业信任和品牌角度来看，解决这件事情也是值得的。

当然，这不只是 Google 一家公司的问题。

在 Facebook 上，搜索“拉斯维加斯”得到了一个称为“拉斯维加斯射击/大屠杀”的群组，在枪击案发生后，已经有超过5000名成员。

这个小组由Jonathan Lee Riches 运营，曾经因诈骗被判有罪而被判十年徒刑的情况下，现在，他称自己是 Infowars 的“调查记者”，尽管没有迹象表明他已经在网站上发表，并且还表示自己也是维多利亚秘密的前男性内衣模特、切尔诺贝尔的前核科学家、白金汉宫的前保镖，他的工作历史很可能是虚假的。

这人的群组可能发生的问题对于任何人来说都是显而易见的。 但是对于 Facebook 的算法，它只是一个快速发展的群组。

大多数加入群组的人是为了寻找信息，他们大概不知道创始人是臭名昭著的信息的劫持者。

与此同时，纽约时报的 Kevin Roose 指出，Facebook 的“热门故事”页面的内容来自俄罗斯知名的宣传媒体 Sputnik。

“我们的全球安全行动中心今天早上发现了这些帖子，并且已经删除。 但是没有在第一时间删除，所有被截屏传播“一位发言人回应说。 “我们正在努力解决发生的问题，并对此造成的混乱深感遗憾。”

在整个信息景观中，搜索新闻的结果是很糟糕的。 纽约时报的 John Hermann 写道：“管理突发新闻是一个非常困难的问题，但令人难以置信的是，每个主要平台的搜索结果，都充满了垃圾信息。

例如，他指出，YouTube上也是一片糟，对没有受人尊重的新闻机构。

作为新闻消费者，我们可以这么说：不一定是这样的。 想象一下，一家报纸发表了一系列关于一大批关与枪击案凶手的假新闻，他们应该为此付出代价。新闻标准是一系列帮助理解混乱情况的工具，其中关于事件的坏的和良好的信息共存。 这些技术公司需要借用我们的工具，并雇用人来执行原则，否则就不要说他们关心信息质量。

算法不应该再继续隐藏在背后。 问题不能被最小化。 这些机器算法已经表明，他们不能处理罕见的，突发性的新闻事件，至少在近期不可能。 需要加入更多的人为决策，这一过程越早越好。

原文链接：https://www.theatlantic.com/technology/archive/2017/10/google-and-facebook-have-failed-us/

编译组出品。编辑：郝鹏程