《联合早报》“新中论坛”激辩:人工智能要治理与发展孰为先?
根据中国工业和信息化部的数据,中国人工智能(AI)核心产业规模已近6000亿元人民币(1114亿新元),相关企业超过4500家,初步构建了较为全面的人工智能产业体系,产业链覆盖芯片、算法、数据、平台、应用等上下游关键环节。
超大规模市场、海量数据资源,以及丰富应用场景是中国发展AI的独特优势。但在一派欣欣向荣的景观下,关于生成式人工智能治理问题的讨论也在进行。今年7月的中共二十届三中全会就首次提出,要完善生成式人工智能发展和管理机制,建立人工智能安全监管制度。
据说,已故美国前国务卿基辛格生前最后一次访问北京,也当面吁请中国官方重视AI可能脱离人类掌控而造成的灾难,力劝中美在治理AI的问题上合作。
AI的发展与治理之辩也是《联合早报》所举行第六届“新中论坛”的主题之一。新加坡与中国的学者和企业领袖围绕AI,以“人工智能与中国经济”“克服挑战,开辟未来之路”为主题展开闭门两场圆桌讨论会。
第六届“新中论坛”10月11日在中国苏州举行。论坛分上午的公开环节和下午的闭门圆桌讨论会,与会专家学者对AI应该“先发展”或“先治理”各抒己见,以下内容均经发言人同意发表。
学者:AI发展一旦踩上加速油门 可能刹车失灵
复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华在会上指出,AI的快速发展势必要求现有的社会生产关系、人类情感伦理和价值观念去适应与调整。然而,人类社会关系、情感伦理和价值观念的调整是相对缓慢的,与技术的快速升级换代形成极强烈反差,这是AI带来的首要挑战。
此外,AI也带来技术平权与普惠问题、技术成瘾问题,以及反噬人类等三大挑战。
肖仰华一一解说。如果AI等先进技术掌握在少部分人和企业手里,很容易形成不正当竞争优势,更可能成为集权的工具;人类更难以挣脱出AI所编织的“虚假情感世界”。而技术如果失控,还可能对人类造成反噬,“用好了它,是巨大的生产力;用不好它,是巨大的破坏力”。
他担心,AI除了“善用”,和造假、侵犯隐私等易识别的“恶用”,很多人可能还没意识到其长期潜在的“滥用”风险:如果不经审慎研判而不加限制地大规模应用AI,“你再想回头,恐怕技术对社会生产关系已造成重塑,你已经回不了头了”。
他提问:“我们现在大量的使用生成式人工智能去做写作,我们的写作能力会不会倒退,人类的智力会不会就下降?……AI发展一旦踩上加速油门,是有可能刹车失灵的。”
肖仰华主张,边发展边治理“都不够”,“我们可能要未雨绸缪,先想好它可能带来哪些深远的负面影响,把治理的应对策略提前想好,然后再去发展。”
新加坡国立大学商学院教授、商业大数据分析中心联席主任庞严也提醒,AI模型的训练过程中,可能存在数据隐私泄露和数据版权问题。
他指出,过去20多年里,AI发展远远快过政府监管政策发展,现在的形势是监管跟不上技术的步伐。“比如说人工智能应用在武器领域,如果没有很好的监管,这的确会是一个大的灾难。”
AI业者:企业如被捆住手脚 “你没治理它就死掉了”
同场发言的多名中国AI公司高管,则提出不同观点。从企业界的角度看,业者更担心AI的功能全被“掐得很死”,导致商业模式无法跑通,企业被捆住手脚,“你没治,它就死掉了”。
其中一名业界人士呼吁,生成式AI现阶段只是赋能人类,而不是取代人类,“我们还需要让子弹飞一会儿。”
上海交通大学计算机科学与工程系教授、思必驰公司联合创始人、首席科学家俞凯则强调,“发展还是第一位的”,即时应对(reaction)才是关键。
“AI不是没有坏的影响,但影响可控……出事不要紧,要紧的是能多快速度自动检测出问题。”俞凯指出,生产力的发展无法被阻止,不应过度担忧而把发展视作主要矛盾,现在最主要的矛盾是AI在生产生活中应用得还不够,而不是管得不够。
另有学者以中国改革开放的经验为借鉴,认为“先发展、后治理”的思路更适用于AI发展。
复旦大学智慧城市研究中心副主任胥正川说,中国改革开放的成功,证明分散化、离散化的市场化道路是正确的。他并提醒,几乎所有创新的科技都不是政府规划出来的,要放手让勇于创新、敢于冒险的民营企业去闯去试。
胥正川认为,由于技术发展太快,政府只能提供框架和规则,无法深入管理。因此应通过相互竞争,相互交流和学习的市场主体之间的碰撞,并通过政府的协调和监管,来实现对AI的治理。
新加坡科技设计大学副校长戴礼翔则建议,应把人工智能的焦点放在可以改变社会的三个机会上,包括中小型企业的转型、消除边缘地区的穷困、提高老百姓的负担能力和生活质量。“新加坡和中国可以合作,研究怎么解决这些AI带来的问题。”
陈昌凤:数据质量成中国AI发展挑战
除了AI给人类伦理、甚至人的定义所构成的冲击。与会者也注重谈到数据质量的问题。清华大学新闻与传播学院教授陈昌凤就指出,中国互联网数据的质量、可供性和禁用性问题,正在给中国AI发展造成挑战。
她举例说,不久前有人在百度上搜索1998年至2005年期间马云、马化腾和雷军的信息,得到零条结果,凸显中国互联网数据存在严重根基问题。而中国AI应用使用外国数据,“里面包含的文化和价值观都已经拿过来”。
陈昌凤本人也曾在使用“中国最著名的应用软件”时,发现其对“国庆日”的定义是7月4日,那其实是美国国庆日。
她指出,AI明显地显示出一种不协同的发展,技术和应用、应用和应用之间的距离在加大,“文化层面上,已经明显呈现出人工智能的价值观分裂。美国和欧洲是分裂的,中国则有中国的人工智能价值观。”
语录:人工智能应先发展还是先治理
支持“先发展”的业界人士:小孩子可能开始的时候也是满嘴脏话,或者说调皮捣蛋是完全有可能的,但是可以慢慢地把他修正过来。
主张审慎的“治理派”与会者:AI像一个需要被教导和培育的孩子,但谁来教导它?谁来监测它的发育成长? 谁来设定它的行为的边界,并解释原因?谁是“老师”?谁来决定这个“老师”是否合格?