阿德里安娜·梅厄

在讨论人工智能的影响时，几乎总有人会联想到古希腊神话的潘朵拉魔盒。在这个故事的现代童话版本中，潘朵拉被描绘成一名充满好奇心的不幸年轻女子，打开了一个密封的罐子，无意中给人类带来了永恒的苦难。就像逃出罐子的精灵，冲出谷仓的马，以及离开车站的火车一样，这则神话已经成为陈词滥调。

然而，真正的潘朵拉故事远比许多人所认为的，更适合用在人工智能和机器学习方面的讨论。它教导我们，最好听取关心人类未来的“普罗米修斯”派（Prometheans）的建议，而不是轻易被短期利益蒙蔽双眼的“厄庇墨透斯”（Epimetheans）的意见。

作为最古老的希腊神话之一，潘朵拉故事最早出现在距今2500多年的荷马时代。在原初叙事中，潘朵拉并不是受到诱惑打开封禁之罐的纯真少女。相反，诗人赫西奥德（Hesiod）告诉我们，潘朵拉是“后天养成，而非先天生成”。由全能神宙斯（Zeus）委托，发明之神赫淮斯托斯（Hephaestus）按照他严酷的具体要求设计的潘朵拉，是一个犹如迷人少女的栩栩如生机器人。她的目的是诱骗凡人，以显示她是一个“美好的祸害”（kalos kakon）：“红颜祸水”。

潘朵拉的名字意为“所有的礼物”，表明她是众神的共同产物。赫耳墨斯（Hermes）在潘朵拉从赫淮斯托斯的炼炉中诞生后，护送这名令人神魂颠倒的年轻“女人”来到人间，并把她作为新娘献给了厄庇墨透斯。她的嫁妆就是那个装着更多“礼物”的灾难性密封罐子。

厄庇墨透斯是普罗米修斯的弟弟，后者是维护人类的叛逆泰坦巨神，而根据一些说法，是他创造了人类。人类显而易见的脆弱性令普罗米修斯很担心，他因此教会男人和女人如何负责地使用火和其他工具。但这触怒了宙斯，一个视令人惊叹的技术为禁脔的无情暴君。作为惩罚，宙斯将普罗米修斯缚在一块岩石上，派出如同无人机、也由赫淮斯托斯锻造的老鹰，啄食他的肝脏。

至于潘朵拉，她被刻意设计来惩罚人类，因为人类接受了普罗米修斯赐予的火。本质上，她是一个拥有人工智能，充满魅力的女机器人，没有父母，没有童年记忆，也没有任何情感，不会老也不会死。她被安排去执行一项恶毒的任务：潜伏在人间，然后打开罐子。

不过，这尚不是故事的全部。柏拉图告诉我们，普罗米修斯的名字意为“先见之明”，因为和他无忧无虑的弟弟厄庇墨透斯（名字意为“后见之明”）不同，他永远在为将来打算。两人之中，普罗米修斯更加理性，具有合理的偏执，他试图警告厄庇墨透斯不要接受宙斯的危险礼物。但厄庇墨透斯被潘朵拉迷得神魂颠倒，毫无防备地让她走进了他的生活。随后，他才认识到自己犯了一个可怕的错误。

因此，潘朵拉惊恐地后退，看着各种妖魔鬼怪逃出罐子的图像，是现代人构想出来的。同样，“希望”最后从罐子中飞出，安抚人类灵魂的令人作呕的桥段也是如此。在古希腊版本中，潘朵拉被刻画成一个狡猾的机器人：在最著名的潘朵拉花瓶画中，她是一名站姿僵硬、露出神秘莫测微笑的年轻女子。

此外，在古代，“希望”被人格化为一名叫厄尔庇斯（Elpis）的年轻女性，通常代表缺乏远见。“希望”绝不是什么福音，而是象征着无法向前看或不具备从可能结果中作出明智选择的能力；她代表的是一厢情愿的想法，而不是维持生命的乐观主义。对希腊人来说，她只是“美好的祸害”的另一种表现：一头降临人间的美丽恶魔。因此，至少有一名古代艺术家把厄尔庇斯或“希望”描绘得像极了潘朵拉，并咧着嘴傻笑。

随着人工智能和机器学习迅速演变为“技术黑箱”，潘朵拉的封禁之罐象征被赋予了新的含义。很快，不但用户无法理解人工智能决策系统的操作逻辑，就连创造者也是如此。包括其他威胁在内，人工智能系统被恶意行为者入侵，或被恐怖分子和暴君利用的可能性，现在是越来越大了。

当面簿创始人扎克伯格、麻省理工学院的麦卡菲（Andrew McAfee）、微软的程丽丽和其他人工智能乐观派向我们保证，人工智能将带来巨大好处时，我们不禁会想起厄庇墨透斯和厄尔庇斯。我们真的应该相信人类能纠正和解决人工智能所造成的问题吗？

听取现代普罗米修斯思想家的意见似乎更为明智，如已故的理论物理学家霍金、微软创始人比尔·盖茨，以及其他115名在2017年曾公开谈论过人工智能和机器人武器化威胁的科技领袖。他们警告：“留给我们行动的时间已经不多了，一旦潘朵拉的盒子被打开，就再也难以关上”。此外，谷歌联合创始人布林（Sergey Brin），以及英国巴斯大学计算系副教授布赖森（Joanna Bryson）和美国加州州立理工大学哲学教授帕特里克·林（Patrick Lin）等人工智能伦理学家，也表达了与这些普罗米修斯人的相同担忧。他们警告，在还没弄清楚如何控制人工智能之前，不可贸然接受它们送上的“礼物”。

最新民调表明，对于人工智能所能带来的潜在好处，那些实际在开发人工智能系统的人，乐观态度已明显降低。对人工智能运作原理的理解，似乎会带来更现实的期望。不是盲目的希望，而是基于知识和经验的远见，应该指导我们如何在未来管理这项技术，以及我们与它的关系。

作者Adrienne Mayor是斯坦福大学古典系，以及历史学与科学哲学研究学者，斯坦福行为科学高等研究中心2018年—2019年度博古睿（Berggruen）研究员。她的新著《众神与机器人：神话、机器和古代科技梦》（Gods and Robots: Myth, Machines, and Ancient Dreams of Technology）于2018年11月出版。

英文原题：An AI Wake-Up Call From Ancient Greece

版权所有：Project Syndicate, 2018.