思维导图

首先一点需要明确的是智能并非人类所独有，于非在《智能简史》一书中指出：智能并非人类的专属，而是同岩石滚落、冰雪融化般普遍存在于物理、化学、生物以及人类、机器（人工智能）乃至元宇宙中的自然现象。智能并不神秘，它是缓解不平衡过程中形成的一种自然现象，使人得以用同样一个逻辑来理解世界如何运转。而且人工智能也不等于人的智能，很明显的一点就是人有感知，有意识，有记忆，有推理，有经验，有情绪。或许机器未来也可以迭代进化拥有部分人类的能力，但是人类的智能实际上是意识的延伸，是价值的实现。而这一点是人工智能可预见的时间周期内难以具备的。《最为人性的人类：人工智能教会我们如何生存》（The Most Human Human: What Artificial Intelligence Teaches Us About Being Alive）一书的作者布莱恩·克里斯蒂安（Brian Christian）认为：“在早前的几十年中，计算机科学的逻辑一直是严格且刻板的——非1即0，非真即假。而克里斯蒂安认为在接下来的几十年中， 贝叶斯概率推理将成为计算机的逻辑。”在贝叶斯概率中，推理是基于由经验而来的概率。这就如同是人类学会了如何应对这个或然的世界，并做出适合的行为。毫无疑问，人类进化的成功在很大程度上是因为人类大脑掌握了贝叶斯数学原则。具有讽刺意味的是，就在一个世纪前，科学家们在科学方面大都抛弃了贝叶斯方法。抛弃经典的原则，用标准的统计方法来作科学结论确实更易实行，却偏离了正确的轨道。个人认为人工智能与人类智能最核心的一个区别是价值观，人工智能未来的发展除了功能上越来越接近于人类之外，还必须符合人类的价值观，否则这种人工智能的存在毫无意义，关于这一点，后续在价值对齐上会深入的来思考。

图灵测试(The Turing test)由艾伦·麦席森·图灵发明,指测试者与被测试者(一个人和一台机器)隔开的情况下,通过一些装置(如键盘)向被测试者随意提问。 进行多次测试后,如果机器让平均每个参与者做出超过30%的误判,那么这台机器就通过了测试,并被认为具有人类智能。希尔伯特曾经提出构建一个形式化的数学系统，首先要构建定义，公理和从公理推导至定理的方法。理想情况下，生成的系统需拥有独立性、一致性、完备性和可判定性：a.独立性：没有一个公理可以由其他公理推导出来；b.一致性：推导出来的任何两个定理决不能互相矛盾；c.完备性：可以从已有的公理推导出所有为真的公式；（这里举个例子，若一个系统中有两个公式A与A‘矛盾，但是通过公理既不能推导出A，也不能推导出A'，则说明公理系统不完备。）d.可判定性：可以确定系统中的任意公式的可证明性。在图灵的论文中，图灵分析图灵机的计算能力等同于一部执行明确定义了的数学过程的的人类计算者，如果图灵机不能证明判定性问题，那么人类也不行，然后他证明了图灵机不能证明判定性问题，这样就证明了判定性问题的不可解。而后，图灵在另一篇论文中，提到了图灵测试，通过图灵测试的机器，可以认为是拥有智能。既然可以把图灵测试可以看成是一个数学系统，那么因为哥德尔证明了算数系统的不完备性定理，也就是说为了让系统能指出运算规则而必须加入的公理，会使整个系统变得不完备。哥德尔的不完备性定理并没有指出判定过程是不存在的，也就是说这样的判定过程不能确定任意公式是否为真，它只能确定一个公式的可证明性。也就是说通用的判定过程还是可以存在的，但是，图灵证明了判定性问题的不可解。我认为图灵测试最伟大的意义并不在于结果而是过程，人类在进行图灵测试的过程中，会不断的完善整个系统，并且思考人类与人工智能究竟应该是什么样的一种关系。关于图灵的生平，在这里推荐大家可以看一看《模仿游戏》这部阿兰·图灵的传记影片。

简单来说感知可以理解为接受信息，而意识意识是一种主观体验，其概念在不同领域中交错混杂，非常模糊。我简单把意识理解为接收信息并处理后再进行反馈。从因果关系上面来看，意识是感知的果，而感知是意识的因。我们人类的意识是如何产生的，这个问题在今天依然在脑科学、神经科学领域长期以来争论不休，并没有一个定论。在笛卡尔之后的很长时间内，哲学家们一直在争论意识是否可以分为“精神”和“物质”两部分。然而，现代神经科学的崛起已经能为解决这个争端提供更加切实可行的方法——以哲学为指导，但不用哲学的方法寻找答案。这其中的关键在于：要揭示意识的物质基础，即建立一个连接主观感性现象与客观可测量现象的解释性“桥梁”，并不需要解释意识为什么会存在。因此，从感知到产生意识并非是绝对的，换句话说，有感知的因未必会有意识的果，而且还有一种情况就是感知与意识在人脑中是同时产生的，两者之间是孪生的关系。这些都是有可能的。而在人工智能领域来看，如果AI机器想要形成自我意识，即机器意识，是无法脱离感知而独立存在的。这可能和人的意识直接有着很大的区别。

机器AI能产生自我意识吗？这个问题在AI人工智能领域是一个长期以来有着严重分歧的话题。其中认为AI会产生意识的一派认为，随着AI技术的日新月异，在目前已经拥有的自动驾驶，扫地做饭机器人的基础上，还会诞生能力更强，通过实时接收并处理大量数据的机器发展越来越成熟，随着计算机模拟神经科学的进一步发展，建立在大脑功能只是编码和处理多种传感信息的想法之上的。因此他们认为，假设一旦正确破解了大脑功能的秘密，就有可能通过编程，将这种功能编制到计算机中，最终将诞生机器意识。而持反对意见的一派则认为大脑的工作方式与电脑并不一样，生物体在主体和环境之间的活动过程中会不断调整神经连接，将以往经验储存在大脑中，而计算机是将数据记录在短期和长期保存的内存块中。这种差异意味着大脑的信息处理方式与计算机的工作方式是不同的。大脑会积极主动探索环境，以找到指导或执行某个或另一个动作的各种元素，感知与感觉数据没有直接关系，一个人可以从许多不同的角度来识别一个图表，而不必有意识地解释数据，换句话说就是意识不能通过计算获得。我个人比较认同的一个观点就是神经科学家塞米尔·泽基从中得出结论: 意识不是一个整体，而是分布在时间和空间中的许多意识。这种大脑产生意识的无限制能力不是有所限定的计算机能力所能应付和挑战的。人的想象力是无限的，人类对于大脑的开发利用程度远远小于人脑的能力。如果用人的意识来定义意识的含义的话，那么AI是永远无法拥有人的意识的，但是这并不妨碍机器意识的形成，而机器意识和人类意识完全不可同日而语。在记忆，计算等层面机器意识其实已经诞生了，但是和人类相比还差十万八千里。

基于人工智能的理想智能体，有两大优点：首先，它比‘思维法则’方法更普适，正确的推断只是实现理性的几种可能机制之一。其次，它更符合科学发展，理性的标准在数学上是明确定义并且完全普适的。理性智能体的问题是，在复杂环境下，完美理性是不可行的。计算开销会特别大。因此我们更多探讨的是有限理性。

朱松纯团队在_Science Robotics_ 期刊上，曾经发表了一篇题为《人机实时双向价值对齐》（In situ bidirectional human-robot value alignment）的论文，在这篇论文中朱松纯教授团队设计了一个巧妙的“人机协作探索” 游戏，来探索机器人与人类价值对齐的过程。下面就简要的介绍一下这个游戏，以便于我们深刻的理解价值对齐。这个游戏的内容是：在人类的指挥下，3 个机器人与人类协同合作，在特定的棋盘上找到从起点到终点的最优路径。游戏在一个格子棋盘上进行，如下图所示。棋盘右下角和左上角分别为机器人的起点和终点，黑色部分为障碍物，且棋盘上放有金砖（物资）与炸弹。

侦察机器人在寻找路径时有额外几个目标：尽快到达目的地、拆除炸弹、探索未知区域、收集物资。不过，只有人类指挥员知道这四个目标的相对优先级，而机器人并不知情。在游戏过程中，机器人需要根据人类的反馈对这 4 个目标的相对价值进行预测，相对价值的权重就是人类用户的价值函数。比如，比如，假设人类用户以收集物资（金砖）为主要目标，那么机器人就应该把收集金砖的价值目标权重设置的较大一些，而不是到达目的地的时效性。

这个游戏比较真实地模拟了现实中的人机协作场景，即：AI 系统在人类的监督下，在环境中自主探索并实现特定目标（例如机器人救援场景、家居服务机器人场景）。实验结果显示，通过向人类提供适当的解释说明其意图，机器人可以帮助人类感知其价值目标。而且机器人同时作为倾听者(从接收到的反馈中推断出用户的意图) 和表达者(向用户解释其决策过程)，能够更快地与人类实现价值对齐。了解了价值对齐之后，我们再来探讨这个问题机器(AI)能否拥有自我价值，这种自我价值能否脱离人类价值而独立存在？在《人工智能，现代方法》这本书中，作者明确回答了这个问题。就是如果机器足够智能，可以推断并超出棋盘的限制动作，那么它可能试图催眠或者勒索对手，或者贿赂观众在对手思考时发出噪声干扰对手，来增加获胜的可能性。这些行为在人类看来当然是疯狂和愚蠢的，但是从机器的视角来看，这些行为都是将获胜作为机器唯一目标的逻辑结果。因此如果不能实现价值对齐，从机器的自我价值实现出发，极有可能出现为了实现机器的自我价值而伤害人类安全的行为，这当然是我们不能容忍和允许的。因此无论机器是否将拥有自我价值，都不能脱离人类的价值而单独存在，而实现这一点就可以通过价值对齐的方式。

这部分可以参考本人的人工智能发展史系列文章。

社恐患者杨老师：人工智能发展史(上)

社恐患者杨老师：人工智能发展史(下)