AI的目的本来是模拟、执行和取代人类的智能任务，在减轻人类体力和脑力劳动的同时大大提高生产力，但最新的AI却拥有连其创造者都感到错愕的力量，最可怕的是没有人完全知道它们能做到什么。

自从能以强大的自然语言能力，与人类进行有意义对话的人工智能聊天机器人ChatGPT去年底降临人间以来，这个世界就变了。真的变了。

从那时起，生成式人工智能（Generative AI）就以迅雷不及掩耳之势飞速发展，谷歌等几家公司和中国等大国纷纷跟进，推出这类产品；而开发ChatGPT的OpenAI公司也很快推出了升级版，而且连升两级。大家你追我赶，要抢占人工智能的最前沿。

“人工智能”（Artificial Intelligence，简称AI）迅速窜起成为媒体上的热门名词，铺天盖地，翻开报纸，没有一天不见AI，有些天还不止一次，而且新闻、言论、副刊版都有。在饱受有关AI的信息疲劳轰炸、避无可避之下，我这个建国一代为了不想被时代抛在后头，加上朋友不断来问AI究竟是何物，也只好临老入AI，学习拥抱它了。

然而身为电脑科技门外汉，我只能用自己熟悉的“找新闻”方法，通过阅读关于AI的报道和专题文章，去了解这方面的发展情况，并尝试应用ChapGPT，亲自体验一下。其中，《纽约客》杂志（The New Yorker）最近的两篇深度专题报道“黄仁勋的英伟达如何推动人工智能革命”和“微软与OpenAI合作的内幕故事”，对我了解美国AI业界的最新情况有很大的帮助。

阅读之余，11月中有幸参访北京清华大学新闻与传播学院属下的一个AI实验室，体会中国AI技术的一些最新发展和应用。负责讲解的年轻人很专业也很坦率，知无不答，让我的脑洞大开，也拓展了视野和思维方式，获益极大。回国之后，又有机会到刚于11月21日由副总理黄循财主持开幕的韩国“现代汽车集团新加坡创新中心”参观，近距离观察该集团的第一个全球创新中心的实际运作，尤其是以AI为灵魂的智慧工厂和智慧农场，也让我大开眼界。

我当然明白，无论是在清华大学或在现代汽车厂，我所能看到的只是AI的皮毛，但“窥一斑而知全豹”，从这两个参访中多少可以推测AI的全貌，感觉AI的厉害。

同样的，有限的阅读也只是让我推开AI的半扇门，窥探一下，虽然看不透整栋深宅大院的乾坤，却已能感受到“庭院深深深几许”了！

既然如此，就应该与读者分享，哪怕是野人献曝。但必须先做个免责声明：这篇文章是外行写给一般人看的，请内行人看到这里自动止步。

AI将凌驾人类？

ChatGPT的发明是AI的一个大跃进，它在瞬间成为历史上增长最快的消费者应用程序，将大多数人引入AI世界，但它只是AI的众多应用之一。它的出现使许多人蓦然意识到AI的存在，并惊觉它原来已经在许许多多领域中广泛并加速应用，包括语音和图像识别、自动驾驶、医学诊断、经济发展、工农业生产、科技研发、教育、保安、军事……几乎无所不在，你能想象到的它都在，无法想象的它也能……AI这个名词在1950年代已经出现，雏形概念开始形成，但几十年来没有太大进展，直到越来越精细的尖端晶片在近年来推陈出新，它才取得突破，然后就突飞猛进，一发不可收拾。如今，AI技术可说是人类有史以来为改善生活质量而发明的最强工具之一。

AI的目的本来是模拟、执行和取代人类的智能任务，在减轻人类体力和脑力劳动的同时大大提高生产力，但最新的AI却拥有连其创造者都感到错愕的力量，最可怕的是没有人完全知道它们能做到什么。

若毫无限制地任它以目前的惊人速度发展下去，AI的智能最终可能会超越人类，凌驾人类——也就是说，AI这个精灵已经从潘朵拉盒子被释放出来，人类可能再也控制不了！

很耸人听闻是吗？走笔至此，猛然想起其实自己50多年前就曾经与AI有过一次“接触”却懵然不觉，直到最近恶补了AI之后才产生了联想。

也许重温一下50多年前的一部科幻电影，可以帮助大家了解这个“噩梦成真”的可能性。

年纪较大的人可能看过《2001太空漫游》（2001: A Space Odyssey）这部被誉为“电影和科学界史诗级作品”的经典科幻片。对我来说，那是我和AI的第一次近距离接触，惊艳不已，至今难忘。

这部由美国著名导演库布里克（Stanley Kubrick）执导的电影，以精致的特效为观众呈现了极具艺术性和震撼力的画面，尤其是那些令人目不暇给的星球之旅场景，被认为是视觉效果的巅峰之作，后来者一直无法超越它。

库布里克和负责编剧的科幻小说家克拉克（Arthur Clarke）以非凡的创意，为电影注入丰富的科幻想象。影片在1968年首映时，且不说人类还没有登上月球、星际太空船还没出现，连平板电脑、触控屏幕、AI机器人等这些今天的“身边事物”也都还没面世，但编导却让它们理所当然地出现在电影中，不但有了“发现一号”这艘飞往木星的载人太空船，这些当时还未发明的实物和应用，也都已各就各位在太空船中自然运作了，让观众眼界和脑洞大开。

编导的想象力天马行空，在电影中创造了“HAL9000”这个虚构的AI角色，扮演大反派。这是一台有感知和认知能力的通用电脑，负责控制“发现一号”的系统并与太空人互动。太空船上除了它和两名太空人鲍曼及普尔之外，还有三个正处于冬眠状态的科学家。

故事的高潮是，由于HAL9000和两名太空人发生了摩擦，互相猜疑，使这次太空漫游变成一趟可怕的旅行。HAL发现太空人打算将电脑主机关闭，这无异等于要杀死它，决定先发制人，杀害那三个冬眠中的科学家，并制造假故障让普尔去太空船外修理，然后用小型艇将他的氧气剪断，导致他缺氧而死。而幸存的鲍曼此时已到达木星，不由自主地在太空飘游……

这只是电影的梗概，老实说，第一次看这部异想天开却又充满哲思的影片时，对其中许多情节、意象和含义都看不明白，有些部分甚至完全不理解，过后在重演时又看了两三次，再加上阅读了一些影评和请教了维基百科，总算真正看懂。

虽然起初似懂非懂，但对于本应听命于人类的HAL9000这个机器人不但违抗太空人命令，还动起杀机把他们都杀掉这个情节，却是历历在目的。那是我第一次见识到AI机器人的厉害，虽然那时根本不知道什么是AI。

《2001太空漫游》的想象力实在太超前了，不要说2001年，即使快进到现在，载人太空船的星际旅行也还没实现，但电影中的平板电脑、触控屏幕等早已成为人们习以为常的工具，而AI机器人口也已迅速增长，充斥地球各角落了。

既然电影中的好些“预测”都已一一实现，有什么理由相信HAL9000这个大反派不会横空出世？拥有人类情感和思维能力的AI超级电脑，是否正在世界某个实验室研发？假如人工神经元（artificial neuron）也像生物神经元一样可以被训练的话，就好比是在训练人类的大脑，而这个“大脑”的容量和能量又远远超过人类，那这种AI超级电脑的出现并非无法想象。

这也许正是令各国政府和联合国对AI的发展感到忧心忡忡的原因之一。

AI带来灭绝风险？

其实不只是政府和国际机构，连AI的尖端开发商都对本身产品的潜在危险感到担忧。OpenAI的总裁奥尔特曼（Sam Altman）今年5月16日在美国参议院司法委员的听证会上，就主动要求加强对AI的监管，避免这种存在着道德、法律和国家安全隐患的技术被错误使用，对社会乃至世界带来伤害。5月30日，更有超过350名AI科技业领袖与专家发表联名公开信警告：“降低AI带来的灭绝风险应该成为全球优先事项，与大流行病、核战争等其他社会规模的风险并列。”

这不禁令人想起备受尊崇的已故英国物理学家霍金（Stephen Hawking）在2014年的预言：“全面的AI可能意味着人类的终结。”

AI不受人类控制或被坏人利用的其他风险包括：它可能被用于发展自主武器系统，威胁世界安全；AI系统所掌控的大量数据可能被滥用，导致个人隐私被侵犯；它在音频和视频方面的深伪（deepfake）技术可以用来制造多媒体假信息，进行诈骗或误导公众，扰乱社会治安等等。

持这类观点的AI精英被称为“末日论者”（doomers），他们认为应该在继续推进AI发展之前，采取严格的防范和监管措施。从最近的态势看来，他们似乎已渐处下风；而与他们对立的“猛进论者”（boomers）则人多势众，后者淡化对AI灾难的恐惧，而强调其推动人类进步的巨大潜力，主张迅速推进。

两派人马不断在硅谷进行斗争，终于在OpenAI上个月爆发的“政变”和“反政变”中达到高潮。

吊诡的是，今年5月还倾向“末日论”的奥尔特曼如今却主张迅速推进，结果他在11月17日被公司董事部开除了。但过后形势急转突变，三天后他又在公司最大投资者微软的支持和绝大多数员工的“起义”之下恢复了职位。

奥尔特曼的胜利，是否意味着企业界的“猛进论者”从此将高歌猛进，不顾一切地推动AI的发展，目前还不清楚。但可以确定的是，各国政府以至国际社会对AI的风险日益关切，已经不再坐视不理了。

11月1日和2日，英国政府在布莱奇利园（Bletchley Park）主办了一个AI安全峰会，共有28国参加，除了中美这两个AI大国，还包括欧盟成员、日本、韩国、印度、澳大利亚和新加坡等。与会国签署了《布莱奇利宣言》，呼吁开发前沿AI技术的参与者保持透明度和问责制。

峰会的一个重要意义在于，中美两国愿意在有关AI威胁人类安全的问题上进行国际层面的合作。

接踵而来的一个重要发展是，中国国家主席习近平和美国总统拜登在11月15日的旧金山峰会上同意，两国应该通过双边对话来解决先进AI系统的风险。中美在进行激烈的技术竞争之际还愿意在这方面进行双边合作，反映了它们都认识到AI对全人类的潜在巨大威胁，程度不下于核子军备竞赛。

对AI的危害进行管控，看来将成为中美之间另一个“既竞争又合作”的领域，就像它们在地缘政治中的博弈那样，也类似冷战时期美苏两强在展开核军备竞赛的同时也协调进行核裁军一样。但AI与核武器的最大不同是它不受政府控制，而是掌控在私人企业手中，这大大增加了国际合作的困难和复杂性。

作为小国，新加坡虽然可以通过国际论坛或组织发声，但对管控AI“军备竞赛”的影响毕竟有限。我们能做的是如何在发挥AI的正能量和防范AI被滥用方面贡献一份力量。在这方面，新加坡早有筹谋，这可以从政府12月4日发布的《全国人工智能策略2.0》报告中明显看出。

对一般人来说，卫生部长王乙康11月21日在北京举行的第五届新中论坛的演讲中说的这番话，也许可以作为座右铭：“我们要成为可以善用人工智能的人，来加强自身能力。未来的雇主不是在人类和人工智能之间选择，而是在一个会利用人工智能和一个不会利用的人之间做选择。此外，我们也须要学习如何‘做人’——做好不被机器替代的人。”

诚哉斯言！既然我们无法摆脱AI，不如就拥抱它好了。

作者是《联合早报》前总编辑

撰写本文过程中曾与ChatGPT进行对话