客观 理性 独家 独到

在聊天应用ChatGPT让世界见识到人工智能模型GPT-4的强大潜力后，有关AI失控的担忧也在与日俱增。近日，包括马斯克在内上千位科技行业大佬签署了一封联名信，公开呼吁所有人工智能实验室应立即暂停比GPT-4更强大的人工智能系统训练，以等待人类“确信AI大模型的影响是积极的并且风险是可控的”。

埃隆·里夫·马斯克（Elon Reeve Musk） 图源：中新网

是切实警示还是莫名恐慌？这封信迅速引发巨大争议。有消息指出，所谓上千名科技大佬署名实则含有“水分”，许多人并不知道自己参与了这封联名信的发布。同时，领头人马斯克的动机被认为并不单纯。对于AI，马斯克可谓“起了个大早，赶了个晚集”，参与创立OpenAI公司却失去了对它的控制权，眼睁睁看到微软拿到了AI时代的船票，对竞争对手发难是再正常不过的事情。最后，这封信对于AI潜在威胁所提出的解决方案并没有可行性，更像是一场“行为艺术”，无法阻拦AI浪潮向前倾泻。

然而，尽管联名信本身可能存在各种各样的问题，但它的出现依然对AI发展敲响了警钟。眼下，GPT-4模型的内涵与外延正在溢出越来越多风险。一方面，由于涉及上千亿参数与复杂的算法结构，即便OpenAI公司作为GPT-4模型的缔造者，也已经搞不清楚其回答的一些内容和背后推理能力是如何生成的。这种不可预测性令人工智能成了“黑箱”，很有可能在某一天“演化”出不可控的能力。另一方面，目前ChatGPT等生成式AI，普遍存在容易提供虚假诈骗信息、个人数据与商业秘密泄露、语料库与生成文本的侵权等问题，不仅有法律漏洞，更可能成为垃圾内容生成器。种种问题复杂交错，有些可能流毒深远，用观察人士的话说，如今GPT-4等更高级通用AI面临的处境不是“是否包容”，而是“是否包庇”。

在2022世界机器人博览会“机器人+医疗”展区现场，参观者观看单孔腔镜手术机器人。新华社记者 任超 摄 图源：新华网

进一步看，即便是先进的人工智能可以成为像蒸汽机、电动机和计算机那样纯粹的生产力工具，其生产效率的骤然提升也可能对人类既有发展模式造成冲击。有机构指出，假设生成式AI实现了各企业承诺的能力，可能将有3亿个工作岗位被取代。不同于第一、二次工业革命，机器在替代体力劳动的同时创造了更高收入的脑力劳动岗位，信息革命、AI革命是机器开始替代人的脑力乃至智力，这将消灭大量“金领”“白领”职业，使劳动者收入差距愈发拉大，加剧人类社会的不平等。与此同时，互联网信息虽然浩如烟海，但相较于人类社会的知识总量仍不过是沧海一粟。AI训练的数据全部来自于互联网，当人们越来越相信AI生成的内容，无形之中就产生了一种文化“霸权”，即不被网络收录的内容是不重要的，这显然是对文明多样性的重大威胁。

联名信的结尾写到，“给整体社会一个适应，保持准备状态，才能可以享受漫长的人工智能夏天，而不是匆忙进入秋天。”汽车畅行马路五十年后，安全带才被发明出来；DDT面世近百年后，人类才怀疑其有害环境……回顾科技发展史，对于一种前所未见的新科技，可能永远不会有“准备好”的一天。但提出问题比解决问题更重要，如何让人工智能发展对人类社会更有益，值得每个人深思。

来源：《北京日报》客户端

作者：鲍南

值班编辑：仲雅、廖少康（实习）

校对：浸月

编辑：王星

主编：林双木

监制：施进军

原创内容荐读

社区书记被网友“不便共情”，错不在事实错在时机｜锐见小学毕业竟要论文答辩？！请饶过孩子吧｜锐见打击核酸造假，发国难财法理不容！｜锐评“建议专家不要建议”上热搜，别让专家异化成笑话｜锐见服务业干成管理业，区区物业好大的官威！｜锐见秦能灭六国，为何有李斯有法治却亡国？！｜锐读我们竟如此期待一个新的开端《企观锐角度》系企业观察报社属新媒体号。

《企业观察报》（CN11－0279）创刊于2013年7月1日，是在国务院国有资产监督管理委员会的领导和支持下，由中国企业改革与发展研究会主管主办，专注于财经类报道的周报。

2021年10月，企业观察报、企业观察报微博、企业思想家微信公众号入选国家网信办公布的最新《互联网新闻信息稿源单位名单》。

原标题：《马斯克呼吁叫停先进AI研究？还真不是杞人忧天｜锐见》

阅读原文