博客 @HBR
社交媒体痴迷规模
后患无穷
琼·多诺万 (Joan Donovan) | 文
刘隽 | 编辑
对美国国会大厦的袭击是多年来虚假信息和阴谋论的高潮，这些信息和阴谋论已经在社交媒体网络上被武器化。这种武器化原本是否可以避免？也许可以。这些平台的主导商业模式对规模的强调甚于其他考虑，这使得它们特别容易受到虚假信息网络以及对这些网络相关抵制的影响——无论是像Parler那样失去基础设施支持，还是像Facebook和Twitter那样面临监管制裁的威胁。虽然以规模为中心的商业模式在中短期内会给这些网络带来回报，但该模式被忽视的风险却让这些平台陷入了今天面临的困境。
在过去四年里，虚假信息已成为一个全球警语。在俄罗斯于2016年美国总统大选期间干预社交网络之后，专家们表示担心社交媒体会继续被武器化——这些警告通常被人无视，并被视为言过其实。
然而，2021 年1月6日围攻美国国会大厦的事件表明，当网络化的阴谋通过社交媒体放大时，它的威力也将被放大。这次袭击是特朗普总统多年来发布虚假信息的结局（这些虚假信息在拜登被宣布为当选总统后日渐增多）——很大程度上也是社交媒体企业无力控制自己产品武器化的产物。
多年来，我们亲眼目睹了武器化形成的各种方式。俄罗斯的干预说明，定位准确的虚假信息有可能在社交媒体上四下传播，而2017年在弗吉尼亚州夏洛茨维尔(Charlottesville)的“团结右翼(Unite the Right)”事件则表明：一群白人至上主义者是如何利用社交媒体来策划暴力集会的。国会之围兼具这两种元素——它涉及的意识形态范围比夏洛茨维尔事件更广，参与者不仅仅通过社交媒体协调配合，而且通过社交媒体聚集在一起。暴乱分子之所以团结在一起，是因为他们支持唐纳德·特朗普，并错误地认为乔·拜登当选是从他身上窃取的。就在最激烈的时刻，特朗普利用社交媒体在一个安全距离从手机上向狂暴的人群发送信息。
这就引出了这一切结束之后关于平台未来的一些根本性问题。Facebook和Twitter等主流平台正被迫重新审视他们的节制政策，而且面临着要求监管的呼声。保守派社交媒体网络Parler以其极简主义的内容节制方式为荣，却因为煽动暴力的帖子（包括涉及国会大厦袭击事件的策划与协调）失去了苹果、安卓和亚马逊网络服务(Amazon Web Services)的所有基础设施支持。如果没有基础设施服务商的支持，应用程序和网站很难联机在线。
可是，为了弄清接下来会发生什么，我们需要问一问：社交媒体是如何成为虚假信息机器的？这些科技企业的商业模式又如何解释这种情况是怎么发生的？
一切开放的东西都会被利用
十多年来，Facebook、YouTube和Twitter 这些当今社交媒体巨头的商业模式一直就是追求规模。像视频分享平台Vine这样的优秀创意在这种追求中被抛在了后面，而股东关键业绩指标(KPIs)是与扩大用户基数挂钩的。这种方法有一个重大缺点：当平台的发展依赖于开放性的时候，它更容易受恶意利用之害。正如我们现在可以看到的，这种开放的商业模式可能会让企业遭到众人指责，就像这些企业目前正被迫应对的那样。
有几个关键阶段导致了这一时刻的到来。每个阶段都以自己的方式表明，社交媒体平台开放式的、以规模为中心的商业模式是多么容易被人利用。
相对早期的时候，对增长的重视为虚假关注者与虚假参与度这一影子产业的发展创造了条件。据内部人士透露，这事众所周知，可是社交媒体企业避免讨论其产品的滥用问题。随着越来越多的坏蛋利用开放性作为发财机会，数十亿美元的广告资金浪费在了虚假印象和点击量上。
然而，当网上营销变成了一种政治工具时，坏蛋的用武之地大大扩展——他们可能造成的损害也大大增加。卡罗尔·卡德瓦拉德(Carole Cadwalladr)曝出“剑桥分析公司”(Cambridge Analytica)丑闻后，社交媒体与英国脱欧、特朗普胜选等政治事件之间的联系变得一目了然。这一事件提供了一个案例，说明从社交媒体上收获的数据如何被重新利用，针对特定受众提供煽动政治紧张局势和分裂联盟的内容，更别提植入垃圾新闻并普遍引起混乱与困惑了。
与这一发展同时发生的是对社交媒体用户识别力的类似攻击——2017年名为《QAnon》的军事同人小说的创作。脱胎于披萨门阴谋［该阴谋声称希拉里·克林顿(Hilary Clinton)是哥伦比亚特区一个剥削儿童网络的成员］的一个名为“Q”的神秘账号开始在一个以文化基因、动漫色情和白人至上主义组织内容著称的留言板上张贴神秘的信件。尽管《QAnon》所涉内容广泛，但其核心叙事是，特朗普秘密与“深暗势力集团”开战，旨在逮捕克林顿，并阻止民主党经营的一个崇拜撒旦的恋童癖阴谋团伙从事大规模人口贩卖活动。几年来，《QAnon》的关注者被告知要“相信这个计划”。（是的，我知道这听起来很疯狂，但这种叙事将自己与新闻周期挂钩，媒体内容的每一次迂回曲折似乎都在妨碍特朗普实施他的计划，这又提供了额外的素材。）
由于《QAnon》的出现，边缘话题成为了主流，Q讨论话题在Facebook、Reddit和Twitter上此起彼伏。平台的增长模式意味着能够产生高参与度的内容及团队会获得更优先的推荐。换言之，《QAnon》社区提供了社交媒体青睐的那种内容并因此而受益。几起具体事件，比如杰弗里·爱泼斯坦(Jeffery Epstein)的被捕以及拉斯维加斯大规模枪击事件，导致人们爆发了对Q帖子及其分析的新兴趣。Q网还将新冠疫情的出现融入其中，声称疫情是民主党打击特朗普的阴谋，并为此组织了几次抗议活动。
一些科技企业的回应姗姗来迟。Facebook和Twitter去年夏天采取了某种行动，在他们的产品中撤除了Q网。Reddit没有遇到相同的问题，因为他们早早采取行动撤销了Q论坛，该阴谋论从来没有在这个平台上站稳脚跟。可是，到Twitter和Facebook采取行动时，Q社区已经计划离开平台，在Gab和Parler等拥有较小网络的其他应用程序里反复创建网络。
随着乔·拜登在2020年11月当选，这些趋势的影响变得清晰可见。选举结果让那些受阴谋论浸淫的人感觉不快。政治上被疏远的感觉，同时还有疫情期间被孤立的感觉让许多Q追随者情绪激动到了如此的程度，以至特朗普只需在社交媒体上点燃火柴，就可以让选举阴谋如同数字野火一般蔓延。
在2021年1月6日前的每一件事中，道德责任本该是缩减规模，更多关注病毒式内容的质量。我们看到了不这么做的代价。
我们将何去何从
西瓦·韦耶纳坦(Siva Vaidhyanathan)在其《反社交媒体》(Anti-Social Media)一书中写道：“如果某全球广告公司利用其20亿用户的大量档案限制竞争，并邀请反民主势力在其渠道中大肆散播虚假信息，民主国家应该行动起来，制止它并限制企业可以了解和利用的公民信息。”在国会大厦袭击事件之后，我们看到人们对做这件事的兴趣日渐浓烈。
作为社会，在考虑后续措施时应该牢记，强调规模需要与安全进行权衡。此外，不对虚假信息和病毒式的阴谋采取行动并不意味着它们最终就会消失；事实上，情况正好相反。由于社交媒体将兴趣（无论是普通的兴趣还是完全怪异的兴趣）相投的人联络起来，似乎让边缘的东西变成了主流，科技企业必须拿出一个内容管理及社区审核的方案，以体现更人性化的规模。
科技企业，包括担心过度扩张的初创企业及风投公司应该开始制定示范政策供监管机构考虑，同时铭记，开放性和规模会给利润乃至民主国家构成重大风险。
琼·多诺万是哈佛大学肯尼迪学院肖伦斯坦媒体、政治与公共政策中心(Harvard Kennedy School’s Shorenstein Center on Media, Politics, and Public Policy)的研究主任。访问mediamanipulation.org可查看她的更多研究。