因为Robot这个词，本意是“劳工”（劳动工具）的意思。大家做这个“罗伯特”就是给我们干活的，现在翻译成了“机器人”，就好像它有了自我意识。机器人到底有没有自我意识？霍金认为人工智能是可以发展出自我意识的，还说不知道人工智能、机器人发展出自我意识之后是什么结果？我对这样一个想法是有一点疑惑的，大家可以讨论。

首先什么是自我意识？我们是搞哲学的，研究自我意识，就没有搞清楚有没有自我意识？现在一些人认为没有一个“自我意识”，这种观点大家听到的比较少。一般说我们有意识，或者说我们身体里有一个自我、有一个灵魂，就好像说有一个假的下棋机器人，其实是里边有个人在下棋。我身体内部还有一个“小人”，那个就是灵魂，它在驱动我的肉体在行动。这就有问题了，如果我身体内部有一个自我，有一个驱动我的“小人”，那个“小人”里边还有另一个“小人”去驱动它吗？“小人”有没有自我呢？这种观点并不是我原创的观点，在心理学上有一派叫做行为主义学派，不光是行为主义，还有其他的理论家，其实是否定存在所谓的自我意识的。行为主义认为人就是一个刺激-反应的“机器”：受到一个刺激之后，就有一个应对刺激反馈的行动，而自我意识是一种语言现象，语言现象是你在默念——行为主义是这么解释的。我怎么能意识到我的自我，我能够批判自我，行为主义认为这是一种语言现象。总之一句话，有相当一部分人认为，没有传统意义上所讲的“自我”和“灵魂”这些概念，这些概念都是杜撰出来的。

为什么杜撰这个呢？是因为目前科学不够发达，回答不出来什么是灵魂、什么是意识，所以我就告诉你有一个科学、有一个意识，科学研究到这儿就不研究的，因为这不属于科学研究的范围了。我讲的第一个观点是：如果连所谓的自我和灵魂都不能够去界定，很多人去反对的话，你谈什么机器人有自我意识？这是一个当先的问题，自我意识是什么东西就说不清楚。

我讲的第二个观点：人和机器它不是绝对对立的。刚才王老师讲得非常的棒，说2000年以前我们要把人当机器用，2000年以后我们要把机器当人用。我们说人不能当机器来对待，有很强的道德批判意思在里面：人和机器是对立的嘛。我们讲“不能把机器当人，不能把人当机器”，就是把人和机器对立起来。《阿丽塔：战斗天使》里面全是赛博格，《攻壳机动队》里边那个女主角，整个身体只有脑是人脑，其他全是机器设备。赛博格来了以后，你说什么是人？什么是机器？你分得清吗？你装个心脏起搏器肯定你还是人，但是除了脑子以外其他全都是机器，你还是不是人呢？你有脑机接口以后，你上了网还是不是人？甚至有人想，人死了以后可以把意识上传复制，复制之后你的身体还可以转移到别的身体中，刚才段老师说的“后肢体时代”，我身体可以“乾坤大挪移”，这个时候你还能够分清什么是机器、什么是人吗？人和机器是人在观念上的一个二元对立。

图：《 攻壳机动队》剧照 来源：豆瓣

我们讲机器是人的时候，好像我们知道人是什么。其实你知道人是什么吗？根本就说不清楚。你说人有一个不变的人性吗？人应该要怎么活动吗？我提了一个所谓“卢茜隐喻”。主流的观点认为，人类起源于非洲的一个始祖，有科学家把它命名为卢茜，她是第一个人。卢茜从树上下来以后说我不要做猴子了，我一定要做人。你想一想，卢茜怎么知道什么是“做人”呢？根本就不知道。做人是上厕所的时候不能让别人看到吗？卢茜不知道。我讲这个隐喻的意思是：人类的处境一直是如此的。从树上下来后，我们并不知道什么是人，人性是不断变化的。我们不能说原始人跟现在是同一种人，山顶洞人能够把同类吃掉，把他脑袋砸开。山顶洞里面很多头盖骨，没有看到它的躯体，被吃了。作为现代人类，你能够去理解吃人行为吗？我认为，根本就没有所谓的确定不移的人的概念。一个非常善良的人，没有办法想象连环杀人犯，用残忍的手段去虐杀同类。我不认为，我与连环杀人犯有一样的人性。我讲的意思是说，我不认为有一个统一的所谓的人性。既然没有一个统一的人性、没有一个统一的人，人和机器的二元对立就不是绝对的。

我讲的第三个观点是：现在有的机器人是相互界定的。什么叫相互界定？这样一种研究方法，通过人工智能的研究，反过来知道人是什么样子的，这也是对人的研究的一种思路。反过来，我们研究人是什么样子，再让机器人模仿人，比如说类脑的研究就是这个思路。所以，人和机器人是相互界定的。机器人更快发展，对我们人类理解自身是有很大帮助的，反过来我们人对自身的理解加深以后，我们也可以更好地发展机器人。

刚才金桥老师说得非常好，我们希望能够让机器人越来越像人，能够为人们来服务。你想过没有，这是一个矛盾的话？为什么矛盾？你希望机器人为人服务，在关键时刻甚至牺牲自己都要为人服务。谁会这样做呢？雷锋。你希望机器人像人，人可不都是雷锋，绝大多数人不是雷锋。人有骗子，很多机器人骗子可以骗到人，这是不是非常像人类？如果机器人越来越像人，真正变成人，它就会有自私自利的想法，它就会有自己的欲求、有自己的目标。

总结一下，机器和人的关系实际上是模糊的、发展的、相互界定的、动态的。研究和发展机器人，不是非要把机器变成像人一样。“机器人”这个词，更有意义的是人形的机器。除了人有智能以外，有些人如段老师认为，还有一种机器智能、无机智能，不一定像人一样的智能。

主持人：谢谢，刘老师对机器人与人的关系做了深入的阐发与探讨，很有启发。这个话题很开放，请段老师继续给我们做一些分享。

段伟文：谈到对机器和人的关系的更深入的认识，由于机器人它不管怎么样已经作为一种社会存在，机器人的发展无疑为机器和人的关系打开了一个开放的空间。我们看到，机器人这个概念是一个比较泛化的概念，但凡是运用了智能技术的机器，似乎都可以讲它是机器人。既然是这样的话，自动驾驶、无人机都可以算是机器人。人们一旦将它们当作机器人，在与机器人交互的过程中，这些智能机器或智能机器人的行为方式和思维模式反过来必然会影响到人。

因此，我要讲的第一点是，机器人对人的行为与思维模式是不是会产生重要的影响？例如，据说自动驾驶汽车左转弯是很困难的，如果是这样的话，在道路上既有人类驾驶的汽车、又有自动驾驶的车的时候，就会对人的驾驶行为有一定的影响。这里头有很多的复杂的技术、成本与制度安排，比如说自动驾驶的成本是不是要考虑？如果完全不考虑成本的话，自动驾驶可能是非常可靠的，如果考虑成本的时候，产生的风险是通过保险还是通过什么来消化？其中还可能包括对电车难题之类伦理抉择的备选方案。这些不同的考量和安排会影响到自动驾驶汽车的行为模式，并进而影响到必须与之协同的人的行为模式。在思维模式方面，智能机器对人也是有影响的。现在，包括社交机器人、广告机器人在内的社会机器人的认知都有一套通过数据驱动的认知模式，如各种内容推荐和智能决策算法等等。现在，对这种数据驱动的机器思维模式的认识有两派。有一派说这个东西很可怕，其中存在很多过度拟合、虚构甚至造假的情况。另外一派说这没什么大问题，他们多为数字乌托邦主义者，他们认为这些智能技术在发展过程中会自我修正，对整个社会最有利的政策是，你就让它自由发展就好了。特别是企业都是这么看的。但需要提醒的是，这些算法也好、自动驾驶也好，实际上并没有那么厉害，其中有很多属于浮夸的地方。浮夸就像我们说假话，说假话会害到自己的，把技术说得厉害了之后人家就不敢用了。可能相对实事求是一些，对企业的创新会更有利。总之，机器的行为和机器行为学，或者是机器的思维方式，应成为机器与人的关系研究的关键课题，机器的行为和思维跟人怎么样互动是值得深入思考的。像《玩具总动员》和《机器人管家》中机器人想成为人之类的问题应该是后话，目前机器人和机器对人的行为和思维的影响应该是更为迫切问题。

图：《玩具总动员》剧照 来源：豆瓣

第二点是机器人对亲密关系的影响。毋庸置疑，机器人对人的亲密关系是有影响的。简单地讲，机器正在成为人与人之间的亲密关系的第三者。比如说儿童的智能玩伴，似乎在家长和小孩之间已经成为第三者了。再说现在有人倡导的性爱机器人。性爱机器人的主要倡导者大卫.列维（David Levy）组织召开过几届“与机器人的爱和性”国际会议。在第二届和第三届大会上，大卫.列维所做的大会主题报告（Keynote Speeches）分别题为“为什么不跟机器人结婚？”和“机器人和人能够一起生孩子吗？”这些想法太激进，但在他们看来，既然同性都可以生孩子，跟机器也是可以生孩子的。但这些想法也有人反对，其中的代表是英国女学者凯瑟琳.理查德森（Kathleen Richardson），她甚至发起了一个专门反对性爱机器人的运动。在她看来，性爱机器人无异于色情服务者，甚至将其背后的观念的历史根源追溯到犹太教中的厌女症。最近，有一些花边新闻，大家都应该知道厌女症这个词。真正的问题是，不论你是赞成还是反对，随着性爱机器人的产品化，人们必须直面的现实是性爱机器人对人类亲密关系的影响和冲击。有一种说法是，性爱娃娃它是可以解决性犯罪的问题。比方说，西方有些地方以往对恋童癖采取化学去势的“疗法”，现在有人说，给他送一个娃娃好了。但反对者说那不行，你这样反而会刺激他，让他更趋向于犯罪。总之，机器人对人的亲密关系的影响和冲击将是一个问题，也许只是某种亚文化选择，但是它确实会存在。

第四点是机器人的人格问题。通过前面的讨论我们看到，尽管目前的人工智能或机器人并没有意识和自我意识，但机器人的人格问题是存在的。其实，现在动画片和动漫里面都是存在这个问题的。现在很多小孩子迷恋动漫和游戏，不仅举止像，甚至长得非常像动画片里的人物，这里面很可能是有一些微妙之处的。说到机器人的人格，一方面可以说机器人是没有自我的，但另一方面，人在与机器人交往的过程中又能够感受到某种人格化的存在。那么，机器究竟有一种什么样的自我呢？这种自我显然不仅仅是由机器人这个实体所具有的，而是在与人或其他智能机器人的关系与互动中呈现出来的。也就是刚才刘永谋教授讲的是一种行为的自我，外观的自我。对此，当代著名宗教哲学家马丁·布伯有关“我—你” （I-You）关系和“我—它” （I—It）关系的观点具有重要的启迪意义。在他看来，在“我—你”关系中,“我”和“你”作为两种平等的本真存在相遇彼此；在“我—它”关系中,“我”是中心和出发点，“它”只是为我提供经验或为我所用之物。将这两种关系社交延伸到人与机器人的关系，一般认为，人与人之间的关系应该是“我—你”关系，比如说我和我的爱人、我和我的孩子、我和我的老师、我和我的朋友们都是I-You关系，也就是说我们之间的关系是平等的和相互尊重的。而如果我们把人与机器人的关系看作I—It关系的话，当我觉得你这个机器人不听话，我就可以把你扔掉；如果一个小孩子不喜欢机器人娃娃了，就可以将它撕掉或扔掉。那么，这些做法是否应当呢？这当然是一个很深刻的伦理问题。目前看来，讨论人与机器人之间能不能形成一种I-You关系还太早。

主持人：谢谢段老师！关于机器人和人的关系以及机器人伦理问题，段老师讲得非常深刻，也很前沿。更重要的是，这些问题可能是我们未来需要面对的，所以值得我们更深入地研究与思考，希望今后我们有机会，可以继续探讨。这个话题，我们请王老师为我们分享。

王金桥：我简单补充三点：

第一，所谓的机器人意识的问题，其实在当前人工智能的条件下，机器人的大脑，其实是我们训练的一些模型和设计的一些规则，无论是AlphaGo，还是我们的绝艺都是这样。现在最大的问题还涉及到大量的数据，我们叫数据驱动的人工智能，它的能力差异还是取决于数据的分散性和数据的全面性，所以说在很多条件下，机器没有很强的自主学习能力。我们可以看到很多扫地机器人已经落地了，却很笨拙，经常在那儿磨来磨去的，不往前走，它会经常陷入某一个局部，因为它的数据是有限的，模型的泛化能力和健壮性影响了它的意识。我们现场经常提的一个词叫自主进化，怎么样让这个模型能够举一反三，例如看到一个地上爬着一只蜗牛，就知道所有像这个形象的都是蜗牛，它以前从来没有见过，给它一个ID，或者说给它一个类别的标签，这是一个从来没见过的类别，让机器举一反三。这对我们人类来说非常容易，因为我们人类的大脑经过几亿年的进化。刚生下来的时候，很多东西你告诉他，他下次见到相同或相似的东西就告诉你这叫什么。这个模型的学习能力、机器人的意识还是处在非常初级的阶段。刚才刘老师和段老师都讲到人机协同，很多时候我们要把我们人类的知识用来强化机器的意识，这是第一点。

主持人：王老师从技术发展的角度对机器人的意识、个性化发展以及机器人与人的关系给我们做了分析，让我们可以释怀，所谓机器人仍然处在一种初步的对人的模仿阶段，而且它是在一种封闭的环境和数据闭合里面才可以完成设定的功能。

我们请碧丹给我们做一些分享。

黄碧丹：我也想跟各位老师分享一下我的一些想法，因为这次机会实在是太难得了，我自己是一个一线的技术人员，在这些伦理方面了解和思考得都比较少，我有一个粗浅的观点想跟大家分享，也想请教各位老师的看法。

其实从机器人诞生开始，它自带了一个属性。前面提到，机器人这个词最早是来源于1921年捷克的一个作家写了一部剧本，里边讲人发明了机器人这样一个物种，叫做Robot，本来是想让它来充当人类的奴隶，帮人类去干一些体力活，最后这些Robot接管了地球，毁灭了人类。机器人诞生开始，它就自带了最终会毁灭人类的属性，一个永恒的大家会讨论的问题，那机器人发展到最后它会不会反过来奴役人类呢？

我自己私下里也思考过这个问题。我个人的看法是觉得不会的。我是这样想的，人之所以想要占领别人的领地，去奴役别人，获得更大的领导力，我认为是我们生存的本能来驱使的。因为我们本来是生物，我们需要活下去，所以我们需要去占取更多的资源，来延绵我们的子嗣。历来有很多人想要攻城掠地、占据别人的领地奴役别人，其实是为了让自己活得更好，让自己基因能够更好地传递下去。

可是反观机器人呢，它们从一开始就没有这个需求。它就是一个人造出来的一个程序，再加上一个实体化的机器。它既然没有这种延续下去的需求，即使它最后进化出了所谓的人性和人格类似的智能，它也没有这个必要去奴役人类。因为奴役人类其实是一个很累的活，它需要花大量的时间和精力去操控人，去跟人斗争，把权力从人类手中夺过来，还冒着被断电的危险。它做机器人做得好好的，为什么要去做这样一个事情呢？这个事情对它来说做起来是很不划算的。它既然可以安静地做一枚低功耗的机器人，那它为什么要消耗自己巨大的能量去做这个事情？目前开发的机器人我们肯定不会给他注入奴役人类的思想的，这些机器人、这些技术都是一些无欲无求的技术，即使开发到后边有了自己的性格，我认为它们也不会有这种想要奴役人类、占领地球的需求，所以我认为机器人不会尝试去控制人类。即使有这个事情的发生，也并不是机器人自己发展出了奴役人类的需求。即使发生了机器人颠覆人类的事情，也很可能有一群地球人想去奴役另外一群地球人，然后他们造了机器人来帮他完成这个事情。机器人颠覆人类的事情，很有可能是以这样的一种形式出现，而不是机器人自发地组织起来去做这个事，这个是我的一个观点。我不知道各位老师对这个问题和我的观点是怎么看的？

主持人：有哪位老师来回应吗？

刘永谋：对刚才黄博士的问题，我是比较赞同的，我们的理由可能不太一样。因为你现在认为机器人如果发展到超越人类的时候，你不知道它有什么理由去奴役人，你是按照我们人的理性去思考的。机器人如果真的能够像霍金说的超越人类的智能，到一个新的阶段的时候，我们并不知道它的逻辑会是什么？它的目标会是什么？我们对此完全是一种无知的状态，所以我把它称之为“新无知之幕”。但是，我之所以比较赞同机器人不会奴役人，是因为我认为人和机器是协同进化的，人和机器今后是没有办法绝对区分的，慢慢地人和机器会融合，可能是半机器、半人。机器假如有一天有了意识，那时候人和机器已经不是一个极端的二分状态了，人和机器之间存在有很多不同的连续形态。假设你是机器人，你想去奴役人，你首先要搞清楚哪些才是你奴役的对象，比如说只装了心脏起搏器的人肯定是人，你要奴役他，只有大脑、其他身体部分都是机器的赛博格，你要不要奴役呢？我讲的意思是人与机器最终可能融合，从这个角度上来讲，很难说会出现绝对的二元论奴役的状态。

主持人：机器人会不会奴役人，是机器人与人关系中大家会经常谈到的一个话题，比如说有人会谈到奇点，就是机器人通过模仿到一定程度会有一种“自主创造的能力”，但这是不是一个真的值得探讨的问题？同时，我们的论坛也进入尾声，请各位老师可以做一些总结的思考。

段伟文：我还是尽量避免特别专业的，我只是讲机器人现在正在进入到我们的社会之中，对我们的社会生活和人的关系，包括我们的行为和思维方式都正在产生一些影响。我倒是不太愿意去讨论奇点，因为那个奇点也是可以讨论的，而且我最近还正在受委托讲《生命3.0》那本书，我正在看那里面的一些东西，这个作为大众化议题，是大众都愿意讨论的问题，这个问题要非常严肃地讨论，包括里面有一些指数增长等等。

我最后只讲一点，我今天谈到了机器人对社会、人的行为、思维方式的影响，也对将来机器人作为一种人类的智能上的助手的可能性做了一点点展望，所以我的这样一些思考都是一种相对来说比较审慎乐观的。在所有的考虑里面，可能不同的群体有不同的思维模式，比如说企业有企业的思考方式，个人有个人的思考方式，学者有学者的思考方式，这个里面最重要的一点就是我们需要有一种认知上的策略。当我们听到企业去做广告的时候，我们就应该学会把那里面的真的和假的要分一下，我们听到学者在那儿忧心忡忡的时候，或者是像我这样夸夸其谈的时候，你也要知道他很可能只是一种职业上的习惯，他并没有讲到真谛。我觉得在我们现在这样一个时代，尤其像直播这样一个方式，它并不是简单的一种知识的售卖，而我愿意在这儿给大家讲的就是我们这儿不是得到APP，不是说你掏钱我就能够让你得到什么，我只是想告诉大家，对于所有的专家、对于所有的人谈的问题，你最后要通过你自己的思考。因为我们现在是在一个信息爆炸的时代，在这个信息爆炸的时代，在产生知识的同时也产生了更多的无知和误解，这才是我们今天来谈机器人这样一个时髦的话题，最后我能告诉大家的就是我们怎么样去通过我们自身的思考，来去减少无知，然后找到我们的思维和行动的策略，哪怕是在一个机器人的时代，哪怕是有可能面临着奇点这样的挑战。

主持人：谢谢段老师这个非常重要的提醒，我们面对这么复杂而丰富的话题，一定要有自己的基于理性跟专业的思考和判断。

王金桥：今天通过与各位老师的交流，收获了很多，我觉得不同的角度以及不同的学科，从哲学、机器、算法本身、应用场景上来讲人和机器其实是一个相爱相杀的过程，是一个永恒的话题。人创造了机器，也给了机器智能的能力，同时机器也不断地反教人类某些事情。机器有它冰冷的特色，同时也会有自己的一些情感。人机协同是21世纪非常重要的一部分，我们人和机器既相爱相杀，同时也密不可分，它会给我们的生活、工作带来很多便利，但也会给我们带来很多困惑和烦恼。

最后总结一句， 我们要更多地去关注人类如何和机器共生机制，让人和机器能够和谐相处，机器既要自己选择未来的发展，同时也要更好地为人类服务。

主持人：谢谢王老师的叮嘱。王老师说大概3—5年当中机器人就会走进我们的家庭，等到大家家里都有机器人的时候，王老师的提醒可以作为我们跟机器人相处的一个指导。

黄碧丹：作为一名一线的科研技术人员，对于这几年在机器人和人工智能上的进展，我们都是感到非常地激动的。想起来我一开始读博士的时候，我朋友问我在读什么专业，我说我读人工智能机器人，他们那时候就觉得很奇怪，因为当时人工智能和机器人感觉听起来就是一个类似玄学一样的东西，就感觉没有任何的实用价值。可是到了今天，我跟大家说我是做人工智能和机器人的，所有人都会觉得我在做一个非常高大上、代表着人类未来的一个方向的工作。短短的几年，大家就对这个技术产生了如此大的改观，当然是因为它在短短几年内有很多突破性的进展，让大家看到了机器人、人工智能一些真正的可能性，所以我感觉未来几年，应该还会有非常多出乎我们意料之外的一些技术上的进展。我们腾讯Robotics X也很期望能做出一些非常优秀的科研的成果和工作，能够真正地去回馈社会。这条路很漫长，可是我们已经走在了路上。

最后，我想借用我们Robotics X部门主任张老师的一句话来总结，这是他在TH领导力大会上讲了一句话，他说没有灵魂的躯体是一具行尸走肉，没有躯体的灵魂是一缕虚无幽灵，我们不做行尸走肉，我们不要幽灵飘忽，我们要创造与人协作的机器人。这就是我们部门的一个展望和理想。

主持人：谢谢碧丹！我们非常期待Robotics X给我们惊喜，给我们带来有灵魂、有躯体的跟我们相伴的伙伴，我们期待！最后，我们请刘永谋老师给本次论坛做一个总结。

刘永谋：总结不敢当。机器人话题非常火爆，最近几年迎来非常多的机会，不光是人工智能的研究方面有比较大的突破，也引发了大众的广泛关注：无论是在电影屏幕上，还是在课堂讨论上，人工智能都是非常火爆的话题。

哲学家某种意义上也要感谢人工智能。人工智能火爆以后，发现最近也有很多人找我讨论一些比较玄的相关问题：机器人能不能够超过人，机器人能不能毁灭世界，等等。

当然，对于大众来说，一种带有玄学色彩的、未来色彩的、过度关心的哲学讨论，既有正面意义，也有负面的效果。就像刚才伟文提到的，宣传得太厉害了，会导致一些人很害怕，产生一些技术发展的阻力。但是，好处很大，起码现在有人关心人工智能了——无论是骂你也好，还是赞扬你也好。我个人是一个温和的技术乐观主义者，希望人工智能和机器人的技术在这一拨热潮中，真正能够做出一点突破性的进展，不要像有人说的风口过了以后，才知道哪些人是在裸泳。

我想两个方面都还是要考虑：一方面，我们应该以一种勇敢和乐观的态度去探索、去拥抱技术，拥抱机器人和人工智能的发展和未来，大胆去尝试。另一个方面，不光是人工智能技术，所有的技术在急速发展的过程中，也要考虑它对社会的冲击和影响，尤其是一些可能导致的负面的问题，伦理的问题也好、社会学方面的问题也好、法律方面的问题也好，都要充分去考虑。只有两方面综合考虑中，人工智能才能得到健康的发展，健康发展生态的形成，不能光靠像我们这样一些高谈阔论的外行提意见，也不能仅仅依靠专业的技术人员关起门来做研究，不与社会沟通。我觉得大家要结合起来，各个学科的专家也好，普通大众也好，都要相互交流。机器人的问题与每个人都相关，我家里就有小米机器人和小米音箱，全社会都来关注人工智能的发展。

最后，我祝愿中国的机器人产业有一个非常美好的前途。就说这么多。谢谢！

主持人：好，谢谢刘老师！机器人可能会走入千家万户，所以千家万户都会关注机器人。感谢各位嘉宾的精彩分享，也感谢大家关注科学与人文论坛。谢谢大家！（全文完）

机器、机器人与人系列

从机器到机器人 | 科学与人文（在线）论坛第三期：机器、机器人与人（上）

机器人还有哪些可能？| 科学与人文（在线）论坛第三期：机器、机器人与人（中）返回搜狐，查看更多