即便AI已经可以替代记者撰写稿件,但现在看起来,人类新闻编辑并不像 Facebook 以为的那样可以随意抛弃。
就在本周一,Facebook 最近自动化了的“趋势”新闻版块推送了一条假新闻,宣称福克斯新闻炒掉了知名主持人 Megyn Kelly 并称其为“叛徒”。在 Facebook 修正这一错误之前,这一假新闻获得了数千次转发,可能有数百万用户看到这一假新闻。
而在这一乌龙事件发生前,Facebook 炒掉了整个为“趋势”新闻版块聚合并编辑新闻的纽约合同工团队。同一天,Facebook 宣布升级“趋势”新闻版块,让其变得“更加自动化”(即由算法代替编辑推荐新闻)。
Facebook 炒掉人类编辑应该是为了消除对“趋势”新闻版块偏向自由派的指责。但似乎 Facebook 行动得太快了,推出了一款原“趋势”新闻编辑团队认为存在严重问题的产品。
有三位原“趋势”新闻编辑团队成员在接受媒体分别采访时表示,他们从一开始就知道 Facebook 的终极目标是让“趋势”新闻版块的新闻选取流程自动化,但没想到 Facebook 的动作这么快,因为用来取代他们的软件根本还没有准备好,“只是个半成品”。
在进一步探究这一问提前,有必要澄清一下:Facebook 的“趋势”新闻版块并不是完全自动化。Facebook 只是用一个新的审核团队取代了此前主要由专业记者组成的纽约合同工编辑团队。很显然,这个新团队在看到由算法推荐的这条新闻时,并没有意识到这是一条假新闻。Facebook 的一位发言人表示:“趋势”新闻版块的审核团队在上周末批准了这一新闻。按照审核标准,这条新闻符合当时的要求,因为有足够多的引用文章和消息。在重新审核后,这条消息被发现不够准确,于是就从“趋势”新闻版块中移除了。我们会继续改进产品,提高识别假新闻的准确度。
所以说都怪人咯?算法没错?虽然算法还是 Facebook 在炒掉原“趋势”新闻编辑团队之前用的那一套。至于新的审核团队是哪些人,以及为什么他们看不出来这是一条假新闻,Facebook 拒绝透露,但提供了以下声明:“在新版‘趋势’中,我们不再需要编写话题摘要,于是团队更多地转向运营和技术方向,以更好地支持新产品的发展。”
这也能让人更加理解 Facebook 在上周五发布的博文。Facebook 在这篇博文中解释了简化“趋势”版块是为了在全球范围内发布这一功能,并针对每位用户实现个性化。该公司在博文中写道:“我们一直以来都希望这么做,但考虑到今年年初从 Facebook 社区中获得的反馈,我们决定早点这么做。”
接受采访的三位合同工都理解这一点。他们都表示,并不太清楚自己在新版“趋势”版块中扮演的角色,雇佣他们的公司也表示过这份工作并不长久。他们也知道“趋势”版块使用的算法会随时间推移变得越来越好,并最终完全取代这一工作。
奇怪的是,这一算法在挑选相关新闻和可靠新闻来源上似乎并没有变得更好。
其中一位在这个团队工作了将近一年的合同工表示:“我根本没有注意到算法有改变。”他还表示,Facebook 的工程师们一直都在改进这一系统,但改进集中在内容管理系统和聚合标准上。算法挑选出来的趋势新闻“并不能马上就给用户看,还是需要有人从这堆垃圾中仔细挑选”。
接受采访的第二位合同工最近才加入这个被裁掉的“趋势”合同工编辑团队,他喜欢通过训练软件来为全球用户提供个性化趋势新闻的想法。“在我刚加入时,我想‘算法的基础已经有了,应该还要两年才能自动化吧’。我们看到的就是成百上千的新闻条目。”这些条目和真正的新闻没有任何关系。据他估计,他们每接受并发表一条由算法推荐的新闻,都会拒绝“四到五条”垃圾新闻。
第三位合同工认为“趋势”版块的算法仍然需要人来编辑和核查事实,算法每推荐 50 篇文章只有大约 20 篇是真新闻。但即便新闻为真,算法推荐的消息来源也往往不是可信的新闻机构。
Facebook 此前测试的一项新功能,也让合同工们以为自己的工作岗位在中期内很安全。这一新功能取消了“趋势”新闻版块中新闻话题的摘要,代之以提及这一话题的 Facebook 用户数,还极大地削弱了编辑在新闻及来源选择上扮演的角色。其中一位合同工表示:“算法会推荐某个不知名的网站作为消息来源,我们不能选择更权威的消息来源,只能选择批准或拒绝。”
这一新功能的结果并不好。“Facebook 在一小批用户中测试了这一新功能,但反馈非常糟糕。测试用户们抱怨说根本不知道怎么就看到了某条新闻,完全没有语境支撑。很多新闻的标题还有拼写错误,而且谈论话题的人数统计也很有问题。”
这些合同工以为 Facebook 的工程师们和产品经理会回炉再造这一功能。但就在上周五,Facebook 裁掉了他们,向公众推出了这一反馈评价极差的新版“趋势”新闻。
为什么 Facebook 这么急着推出新版“趋势”新闻呢?也许他们觉得这些合同工记者太麻烦了吧。因为其中不少人向媒体抱怨自己的工作环境或者在离职后抹黑 Facebook。从很多方面来说,记者都不大适合 Facebook 这种崇尚中立的硅谷科技公司。
但这次 Facebook 真的是搬起石头砸了自己的脚。在裁掉原来的“趋势”新闻编辑团队后,“趋势”新闻版块就充斥着跟用户毫不相关、骗点击的新闻了。
讽刺的是,在“趋势”版块新闻质量下降的同时,Facebook 却在宣扬其消息流的真实性和准确性。
毫无疑问,Facebook 关心其向用户展示的新闻质量,因为用户的忠诚度是 Facebook 业务的基础。但 Facebook 也一直坚称自己不会成为一家媒体公司,尽管很多迹象表明它已经成了媒体公司。Facebook 这么说是因为媒体公司要站队,这会非常不受人欢迎。在这件事上,Facebook 似乎更关心自己的中立立场,而不是服务用户。而且,它也用糟糕的产品证明了这一点。
无论如何,这件事情也告诉我们,在用机器替代人这件事情上,我们或许有些期待过高。