我父亲曾经告诉我:“如果你看到世界上发生了什么错误,你可以什么都不做,或者你可以做点什么。”我已经什么都没尝试过了。

——史蒂夫•特雷弗神奇女侠

社交网络、吸收社交数据的技术供应商和开展社交监听实践的品牌可能现在都在想同一件事:内容审核应该走多远,捕捉消费者的想法是否有价值?同样糟糕的对话发生在所有的社交网络上,包括主流的和小众的。在社交网络成长轨迹的某个时刻,它们必须选择一条道路:什么都不做还是做点什么在监管他们平台上的内容方面。这一决策将渗透到为各种智能用例服务的社交技术供应商,并最终渗透到将这些数据用于商业决策的品牌。那么,哪种方法是正确的呢?

为什么社交网络(尤其是主流社交网络)“有所作为”:

  • 社交网络从广告商那里赚钱。在社交媒体上营销和做广告的公司或品牌需要感觉这是一个品牌安全的环境。这就要求社交网络制定“品牌安全”的内容政策和指导方针。在2020年的社会正义运动期间,许多知名品牌减少或撤下了Facebook和Instagram上的社交广告。而Facebook, Inc.的收入则没有受到影响,因为它在大型和小型广告客户中分散经营在美国,公关问题和社会问题促使该公司采取了更严厉的内容审核措施。
  • 虚假叙事开始于社交媒体,但最终进入社交网络最终会受到指责。边缘媒体网站(有时与外国情报机构有关联)利用单一的真相来构建有力的、耸人听闻的虚假叙事。政府公开控制的媒体机构经常报道边缘事件,以使叙事具有合法性,并获得更多受众。虚假的叙述在社交媒体上被放大和重塑,来回的评论变得有毒和煽动性。
  • 苹果和谷歌应用商店主导着发行,并要求内容审核.所有的应用程序,包括社交网络的应用程序,都必须遵守应用市场政策.例如,每个商店都有反恶意软件工具,以帮助防止用户下载恶意应用程序。虽然反恶意软件政策是相对客观的,但应用商店政策的其他部分是主观的。苹果公司的政策一位前美国最高法院法官说:“‘当我看到它时,我就知道了。’我们认为,当你穿过它的时候,你也会知道的。”不幸的是,礼貌和礼仪就像艺术一样,是因人而异的。

为什么其他社交网络“什么都不做”:

(注:尽管它承诺自由和开放的话语,但Parler表示它只做轻量级的人类内容审核。它使用一个由五个随机选择的同行组成的社区陪审团审核个别帖子。但这与主流社交网络更为严格的审核过程相去甚远,也没有使用任何机器审核。)

我们的观点:做一些事情,但要明确和合作

如果不加以控制,社交媒体的负面外部性将继续增长,加剧更多的分裂。不审查内容的后果超过审查的缺陷。最终,人们、品牌和社会本身都需要一个安全的线上线下环境。那些从事社交网络托管业务的人需要一个强有力的行为准则,因为社交对话会对所有使用社交数据的参与者产生下游影响。但从技术上讲,今天的社交网络并不是受媒体监管的媒体实体,因此也不能设计自己的准则。他们试图积极主动,但往往反应性地适应飞行。尽管敏捷性在快速变化的世界中很有帮助,但制定影响数十亿用户的流动政策就像不断移动门柱一样。它让用户和品牌不确定在任何一天什么是可以接受的,什么是不可接受的。

仅靠社交网络无法解决这个问题。营销者和广告主,从《财富》100强企业到小型夫妻店,能够也应该展示更多的肌肉:停止在社交媒体上的广告支出,要求明确和透明的社交网络指导方针,并依靠强大的公司价值观来决定是否参与社交媒体。的威胁情报机构还能提供关于虚假信息如何通过互联网流动的专业知识如何运行威胁建模练习消费者可以选择退出社交媒体,政府拥有制定监管的权力.作为一个群体,他们将更好地定义社交媒体上的自由言论在哪里结束,有害言论在哪里开始。