拜读林任君《临老入AI，拥抱这个精灵》一文（《联合早报》12月16日）颇有感触。人工智能（AI）会否加速人类走向自我消灭之路？本文以人性为出发点，来探讨AI所能带来的冲击。

人是有智慧的，我也相信古人所说的“聪明总被聪明误”。最致命的莫过于人性中的“贪”字，它是导致国家、社会、个人败坏的主要原因。说人类有朝一日会被AI所控制而走向消灭之路，也不为过。林文中提及AI大反派角色HAL 9000，在现实中有存在的可能性，而且概率相当高。

首先，AI的开发是希望改善人类生活素质，但这并不是开发者本意，而是偶然的发现。几乎所有人类须要用脑思考和学习的学问，有了AI这么方便的工具，就不用思考和分析了。年轻人不用脑袋去记、去思考，几代人之后，脑袋不用就开始退化，速度之快也许会出乎意料之外。AI的应用不管是正面或负面，都会对人类造成“制度性的愚蠢化”，对AI产生极度依赖，失去自我主导求存的能力。

这种现象已经发生。小朋友有一天问我“鸡不是到超市买的吗，为什么要养还要杀呢？”虽然这和AI没有直接关联，却说明年轻一代对生活的认知缺乏和不完整。以为鸡来自超市而非农村，我给这现象取名为“超市效应”。未来AI被广泛应用，超市效应就变成“AI效应”。大多数人在不经意中失去思考能力，这就是对人类求存能力起着毁灭性效应的过程，是退化论的另类说法。

和女儿闲聊，她说公司要交报告，以往一份类似报告，从收集资料、初稿到修改等步骤，至少得用上一两天，尤其是资料收集最费时。她试用ChatGPT，把报告主题输入，不到几分钟，初稿就呈现在眼前，稍加修改后就可以交货。好高兴！

无可否认，AI是了不起的应用工具，速度快，效率高，特别是在资料收集和应用上，包罗万象，可谓集智者于一体，让使用者大大提高效率。使用者唯一的价值也许只剩下输入正确的主题资料，核对与确保报告内容符合要求。长久下去，如果内容都能保证准确，核对步骤也给省了。身为一名员工、主管，少了思考，少了注入你职位上存在的价值，那不就成为机器人了吗！我所谓的“超市效应”就会延伸到各个层面，影响到广大民众。

国家在走向工业化的过程中，初创期从事制衣、做鞋、做玩具等行业，给国民提供成千上万的工作机会。但现实里这种工作岗位很快就被自动化机器所取代。这也是科技发展对人类生活带来初步威胁的开始。机器人不埋怨、不讨加薪、不闹工潮，是老板所期盼的。过了一段日子，人民又面对失业之苦，国家再次面临挑战。

我不是要贬低科技的正面贡献，但它对就业带来的负面影响却是事实。AI的研发会加速这一类效应，而冲击的是各行各业甚至专业人士。

为什么我认为AI这门科技是对人类作渐进式愚蠢化的开始呢？无可否认，AI对现在和未来世界有多方面贡献，但也隐藏着长远的副作用。

几乎每个行业都可能由AI取而代之。也许不是在短期的十几年内发生，但它最终控制人们生活的局面肯定会到来。现在经常发生银行系统中断，服务受影响的事件。我们生活受到系统控制，系统失控的现象正加速发生，这已不是银行道歉和罚款可以解决的。

导致人类渐进式的愚蠢化，也许不是AI开创者的本意，但从广义和现实应用的角度来思考，不难理解它确实会给人类的生存带来冲击。

首先，它会使人对学习基本求存之道感到冷漠。与其自己寻找答案，不如问AI，人类在各个学习层面都会失去兴趣，只要学会如何作云搜索就行。这也是人脑走向退化的开始。比如有了智能手机储存所有联络号码，除了几个常用号码之外，其他号码都靠查手机，不必记住。上世纪六七十年代，背乘数表是学生的基本功，今日小朋友会说，等一下，我去拿计算机。

在这种环境下成长的人，将失去思考和求存的基本常识，失去学习动力，脑袋开始退化，慢慢就愚蠢化，什么事都要靠AI。这是AI统领人类，改变人的本质的开始，和历史上的愚民政策有相似之处。

以上所谈也只是AI对日常生活所带来的影响，对各个行业的冲击更是深远。试想AI操控了股票交易，也就是传统股票交易闭门之日。

最后，谈谈“贪”字。近日有报道，各国要为AI的发展制定行为准则，希望这不是空谈，但真正要落实却非常困难。因为人性的贪是祸源，一个人贪财贪色，弄到家庭破裂，丢官失职，国家贪图霸权，战争不断。当今国际局势，各怀鬼胎。要在AI管控方面达成良性成果，还真不容易。有些政客总是讲一套做一套，私底下可能已经和AI开发机构密谋要用AI来针对对手。在AI助威之下，手段应用之广，针对力道之狠，真会叫人心寒。

人类管控AI最大的挑战，莫过于AI被一些野心家所操控。他们可能是政客、企业家、争名夺利的科研人员，会利用AI来谋私利。不要忘记AI本身也在自我提升，终极点则是它本身摆脱了科硏人员的控制，成为驾驭者。好的情况姑且不谈，坏的则是局面失控，科研人员对不受控制的AI系统没有了对策。

再看人类发展史，找到了石油，污染了地球；发明了塑料，污染了水源；工业自动化，把工作机会给了机器；AI的研发，会把人类的智慧清洗掉吗？时间将是见证者。

人类是了不起的动物，到头来却因为自己发明的智慧产物，导致周遭的一切包括自己走向式微。

这里所谈未免有些悲观，但从行为科学来看，AI会带来革命性的改变，包括导致人类智慧走向渐进式愚蠢化，却是合乎逻辑的推理。

作者是新邮政前运作主管