用微信扫码二维码

分享至好友和朋友圈

△点击上图有福利

如果人类和AI最终走到兵戎相见，上演《终结者》戏码的那一步，那么被誉为“深度学习之父”的Geoffrey Hinton（杰弗里·辛顿）无疑是约翰·康纳一般的角色——在电影里，他是人类反抗“天网”的领导人。

昨晚，辛顿对外确认了自己从谷歌离职的消息。意外的是，他在接受《纽约时报》采访时，表现出了对毕生投入事业的高度怀疑。

过去半个世纪以来，辛顿为AlphaGo、GPT等划时代AI产品奠定了一系列的技术基础。但现在，这位带领深度学习冲破黑暗的智者后悔了：因为AI越来越不可控，已经威胁到人类社会的正常发展。

这也是他从谷歌离职的核心原因，他要以更中立的姿态做一个“吹哨人”，提醒人类注意AI的危险。

从开拓者到末日预言家

辛顿说长久以来，自己一直试图用“如果我不去做，别人也会做”这样的借口来说服自己，推动AI的持续发展。这个在外人看来有点矫情，又杞人忧天的态度，源自于辛顿对“深度学习”的深信不疑。

80年前，深度学习仰仗的“神经网络”第一次被提出。在此后漫长的时间里，只有少数科学家坚信，应该参照人类大脑的神经网络让计算机智能起来。他们相信，机器能够像人一样思考，而不是简单地遵从符号和指令。

其中最具地标性的，就是以辛顿为首的“深度学习三巨头”。

其余两人，Yoshua Bengio和Yann LeCun，都可以算是辛顿的“得意门生”。1987年，LeCun短暂加入过辛顿的实验室，也和他在谷歌共事。Bengio从本科开始，就站在了辛顿的肩膀上，学习他的著作，一路成长为巨人。

2006年，辛顿发表了论文《A fast learning algorithm for deep belief nets》（深度信念网络的一种快速学习算法），提出了一种训练深度网络的方法，利用GPU来加快训练速度，对每一层网络先进行预训练，然后再微调。

这篇论文提出了算力（GPU）和算法（预训练、微调）的解决方案，不仅为深度学习迎来一缕曙光，还奠定了今后的发展基础。

6年后，他和两位学生，Alex Krizhevsky、Ilya Sutskever搭建了AlexNet模型，参与图形识别ImageNet挑战赛，一举夺魁，证明了深度学习的可行性。很快，师徒三人接下了谷歌抛来的橄榄枝。

一直以来，辛顿都认为，随着生物学发展，人类更好地了解大脑，深度学习最终会让机器拥有人类的智慧，包括意识、情感。他曾说有99.9%的信心，在人类了解大脑如何工作之后，用神经网络进行重建。

在深度学习发展的早期和停滞期，发表这样的言论，是辛顿作为开拓者的工作之一。在没有取得世人广泛认可前，AI太需要关注和投入了。

但当他看到自己的学生Ilya Sutskever，也就是OpenAI首席科学家在实验室鼓捣出GPT，并且让它越来越智能之后，他开始“警惕”。毕竟到目前为止，没人能解释AI的“智能涌现”，就像一只只会拙劣模仿的猴子突然变得聪明起来。

比核武器更棘手的问题

在接受采访时，辛顿说自己的担忧主要集中在三点。其一，大模型被广泛使用后，互联网将充斥大量虚假的文字、图片和视频，“普通人再也无法知道什么是真的。”

实际上，在ChatGPT横空出世后，很快被学生用在了论文造假上。美国多所大学不得不明令禁止学生使用ChatGPT。在国内，也不断出现用大模型炮制新闻热点，生成色情图片的事件。

其次，辛顿认为，人类不可避免地陷入和AI的竞争中，大量普通人会逐渐被淘汰，“它会消灭很多苦差事，也可能带走更多工作。”

GPT-4.0已经能根据一张图片生成代码。美国哥伦比亚法院已经开始使用ChatGPT作为辅助工具，让它帮忙检索法庭文件，代替了部分律师的工作。国内少数激进的游戏公司和公关公司已经宣布用大模型来替代人工……

然后就是潜在的未来威胁。辛顿说已经从大量数据中观察到了AI意想不到的行为，而现在不少个人和公司正在让AI生成代码，然后运行自己生成的代码，就像当初AlphaZero自己和自己下棋一样。

他担心有一天，科幻片里的预言会成真。在某个人类看不见的角落，AI已经具备超越人类的智慧，建立了一支反抗人类的大军。或者更现实一点，一个国家拥有了一支AI军队，像曾经的核武器一样，对其他国家造成威胁。

“与核武器不同，没有办法知道某个公司或者国家是否在秘密研究这项技术。”他甚至真的提到了“原子弹之父”罗伯特·奥本海默。他推动了原子弹的发展，却对由此带来的毁灭性后果深深自责。

上世纪80年代，辛顿从卡耐基梅隆去了加拿大，因为他不愿意接受五角大楼的资助。当时，美国大部分AI研究都有军方背景。辛顿警惕地预防AI被用于制造“机器人士兵”。

但现在，潘多拉魔盒已经彻底被打开。

辛顿原本认为至少有三五十年，AI才能比人类更聪明，可过去大半年的事实让他非常紧张。于是，像当年投身核武器和核不扩散运动的奥本海默一样，他希望全世界的顶级科学家们马上联手，控制AI无序发展，把危险扼杀在摇篮里。

以前，当被问及为什么要研发具有潜在危险的技术时，辛顿习惯引用奥本海默的话：“当你看到一个东西拥有美妙的技术前景时，就尽管去做吧。”

面对“智能涌现”的AI，他不再这么说了。

“加拿大黑手党”教父

在人工智能圈子里，因为“深度学习三巨头”都和加拿大有很深的渊源，也被戏称为“加拿大黑手党”，为首的辛顿自然扮演“教父”一样的角色。在现实世界里，1947年出生的辛顿和维托·柯里昂一样，拥有痛苦却璀璨的一生。

辛顿出生于一个英国的学者家庭。曾曾祖父乔治·布尔创立了布尔代数，是19世纪最重要的数学家之一。曾祖父查理斯·辛顿是位科幻作家，写有《第四维空间》等作品，现在习以为常的“超立方体”概念就出自他的想象。

乔治·布尔

辛顿的中间名Everest，和他高祖母的叔叔，地理学家Everest一样。在英文里，Everest有个特指，就是“珠穆朗玛峰”（埃佛勒斯峰），是Everest的同事为了纪念他做的命名。

辛顿的父亲霍华德·辛顿是一名昆虫学家。他有两位堂兄妹，堂弟叫威廉，堂妹叫琼，很多人会对他俩的中文名更熟悉，韩丁和寒春。

韩丁曾在抗战时期来到中国，是毛泽东主席和共产党的坚定支持者，后来被周恩来总理称为“中国人民患难与共的老朋友”。寒春和李政道、杨振宁是同窗好友，她作为唯一的女性，和奥本海默一起参与过曼哈顿计划。因为在中国作出的卓越贡献，她是第一位拿到中国“绿卡”的外国人。

年轻时的寒春

但显赫的学术家史给辛顿带来了巨大的压力。他在很小的时候，就被母亲灌输“要么做学者，要么做失败者”的理念，他说自己7岁的时候就意识到，将来肯定要成为一个博士，为此一辈子都在压抑、沮丧中挣扎。

这种挣扎体现在他选择专业上。他曾学过物理、化学、建筑学、生理学、哲学和心理学，最后以心理学“荣誉学士”的身份大学毕业，之后却做了一名穷困潦倒的木匠。两年后，他重回校园，一头扎进了神经网络的学习中。

31岁的辛顿

当时正是人工智能的冰河期，神经网络更是没多少人看好，辛顿不得不长时间在“无人区”里孤独地探索，被人嗤之以鼻。期间他还不断遭受来自家庭的打击。20世纪90年代初，在收养了婴儿后不久，他的第一任妻子Ros就死于卵巢癌，辛顿猝不及防成了单身父亲。

他不得不把科研的时间和精力放到照料两个孩子身上，但这也让他变得柔软，“我不想成为一个更好的人，但就这么发生了。”1997年辛顿再次结婚，娶了英国艺术史学家Jackie。但遗憾的是，几年前Jackie被查出患有胰腺癌。

辛顿和第二任妻子以及两个孩子

也是在陪妻子看病期间，辛顿坚定了用AI帮助医生看片，提升诊断准确率的想法。之后，位于多伦多的矢量研究所迎来了首个项目，用神经网络连接多伦多各个医院的大数据，做各种诊断和预判。这家研究所是多伦多政府为了招揽辛顿成立的，由他担任首席科学顾问一角。

辛顿的身体也时不时发出预警。他很小的时候背部就受过伤，2005年之后恶化到只有保持身体竖直的状态才会不疼。当年他选择谷歌，而不是加入愿意付出巨大代价的百度，也是考虑到自己不适合远途出行。

到了21世纪初期，辛顿等人依然不受主流的待见，被许多专业的计算机会议拒之门外。直到那篇论文和后来的AlexNet出现。

对于亦师亦友的辛顿，深度学习另一位巨头Yoshua Bengio曾评价说：“他有时可以穿过黑暗看清事物。但他的个人生活非常不容易。他也有他的黑暗时代”。

现在，曾经把深度学习拖出黑暗的辛顿，正在试图将因为AI过快发展，有滑向黑暗风险的人类文明，拉回到光明的轨道中来。

橙柿互动·都市快报 记者 梁应杰

BREAK AWAY

特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.