“牺牲安全和文明”，可能没什么指责能比这更严厉。那么，Chris Hughes的依据到底是什么？

这就需要从去年的“剑桥分析丑闻”说起。该丑闻导致扎克伯格不得不接受美国国会长达五个小时的质询，并公开道歉。表面看起来，该丑闻主要是一起隐私泄露事件，即Facebook上5000多万用户数据被第三方公司盗取，但实际上没那么简单。剑桥分析利用这些盗取的数据销售所谓选民心理档案，通过帮助某些政客赢得选票而盈利，这才是要害。这凸显Facebook 鲜为人知的一面——可能被不良政客甚至境外势力用来影响一国政权更迭。这或许是当下最惊心动魄的算法失控、算法作恶。

这点，应为扎克伯格本人始料未及。但无论其初衷如何，这都不可避免。道理很简单，作为世上最大规模的言论广场，Facebook 客观上已经具备了实现大规模社会动员的能力，具备了对国家政治运作的干预能力。它不再只是一部盈利机器，也是政治利器尤其选举利器。这对各派政客、政治势力，是不可抗拒的诱惑。Facebook 不可能不遭觊觎，不可能不遭各种绑架、算计和挟持。

都知道它可能邪恶，但还离不开它

但直到今天，都不能说扎克伯格反省到位，对这一最大风险有起码认知。因为，目前为止，其所有改进思路都停留于隐私保护，以及言论规制。他更想不到的是，无论他怎样具有改进的诚意，真诚地要保护隐私、规制言论，实际上往往适得其反。须知，在用户高达四亿人的言论平台，无论隐私保护，还是言论规制，都不能个人说了算，也不能仅仅企业管理层说了算，而必须经由公共程序。实际情况当然不是这样，如Chris Hughes 在《纽约时报》披露的，往往扎克伯格一个电话，就认定某种言论为仇恨言论、煽动性言论，就可以封杀某些用户。这种语境下的Facebook，如同私人帝国，扎克伯格则是国王，可以在这庞大帝国实施自己的王法。哪怕其真诚为善，也不具备程序正义，也难免独裁嫌疑。

这是扎克伯格的困局。他一门心思做大做强，但真做大做强了，Facebook却沦为一头他自己也难以驾驭的算法怪兽，成了可能的国家的敌人。如Chris Hughes所说，“美国的立国理念是，权力不应该集中在任何一个人身上，因为我们都容易犯错。这就是为什么开国元勋们建立了三权分立体系。他们不需要预见Facebook的崛起就能理解垄断公司对民主的威胁。”Facebook的崛起不只威胁到公民的个人隐私，威胁到言论自由，更在事实上威胁到分权制衡体系，动摇美国的立国之本。这才能解释Chris Hughes为什么必须站出来挑战扎克伯格，必须对自己的老友猛击一掌。

Chris Hughes的担忧是可以理解的。做大做强之后的Facebook，已经超出一般的企业职能，而具备一定程度的统治职能。任何统治者都必须受制约，绝不能居于垄断地位。但具备一定统治职能的Facebook，恰恰就居于垄断地位。如Chris Hughes所说，“马克的权力是前所未有的，非美国传统的”，与美国不相容。

但另一方面，Facebook已经深深嵌入了美国人的日常生活。统计表明，大约70%的美国成年人使用社交媒体，其中绝大多数会使用Facebook产品。甚至在2018年这个负面新闻遮天蔽日的年份，Facebook的每股收益也比前一年惊人地增长了40%，折射了美国人对Facebook的空前依赖。

都知道它可能邪恶，但还离不开它，这才是Chris Hughes深刻的焦虑和恐惧，这也代表了美国主流社会对Facebook等“算法怪兽”的焦虑和恐惧。一如Chris Hughes所说：“即使人们想退出Facebook，他们也没有任何有意义的选择，正如我们在剑桥分析丑闻之后看到的那样。由于担心自己的隐私、对Facebook的诚信缺乏信心，世界各地的用户发起了一场删除Facebook运动。……最终，人们并没有完全离开这个平台。毕竟，他们还能去哪里呢？”

这就是说，与美国不相容的Facebook，已经客观上绑架或挟持了美国社会。这是Facebook为什么可以干预政治乃至影响政权更迭的基础，也是各派政客力图渗透Facebook的诱因。这种算法失控导致的算法之恶，可能是人类历史上从来不曾遇到的难题。无论对政府之恶，还是对资本之恶，人类主流社会都已经有了共识，并且有了一整套应对或者说解决办法。因此属于典型性病毒，大致在可控范围。但不断膨胀的算法怪兽到底何等面目，算法之恶到底怎样发展，很大程度上属于未知，而且不断动态演变，很像让人谈虎色变的“非典”病毒。

毋庸讳言，包括算法在内的新技术，的确是对人类能力的巨大加持。但这加持并非没有代价，其代价到底多大，对其非典病毒的一面如何防范，人类的经验其实很有限。这可能是当下人类共有的难题，属于当下人类的天问。

更紧迫的科技向善，可能是冷静的内省

但是，美国纵有算法失控，算法作恶，毕竟已有所警醒。亦如Chris Hughes所说，“要求Facebook和其他垄断企业负起责任来的时代可能正在开始。公众的愤怒正在增长，不可忽视，新的有志之士已经出现。”美国很多国会议员，包括前美国经济顾问委员会主席Jason Furman等经济学家，都站出来呼吁调查Facebook。既然轰轰烈烈的公共讨论已经展开，既然已经上升到“安全和文明”的高度，美国社会自不难凝聚共识，共同应对危机。