机器学习的发展历程可以简单分为3个阶段

———— / BEGIN / ————

这个时期人们认为“智能”就是“逻辑推理”，想要赋予计算机“智能”只需要赋予计算机逻辑推理能力即可。

这个时期代表作有A.Newell和H.Simon的“逻辑理论家”和“通用问题求解”程序。

其中“逻辑理论家”程序在1963年证明了《数学原理》中的全部52条定理。因此两位科学家获得了1975年图灵奖。

此时，人们发现仅仅具有逻辑推理能力是不能拥有“智能”的，还需要大量的“知识”。

这个时期人们开始花费大力气在“如何教授计算机知识”上。

自然而然，出现了“知识工程”。

知识工程是以知识为基础的系统，就是通过智能软件而建立的专家系统。知识工程可以看成是人工智能在知识信息处理方面的发展，研究如何由计算机表示知识，进行问题的自动求解。知识工程的研究使人工智能的研究从理论转向应用，从基于推理的模型转向基于知识的模型。【摘自头条百科】

知识工程过程包括5个活动

(1)知识获取。知识获取包括从人类专家、书籍、文件、传感器、或计算机文件获取知识，知识可能是特定领域或特定问题的解决程序，或者它可能是一般知识或者是元知识解决问题的过程。

(2)知识验证。知识验证是知识被验证(例如，通过测试用例)，直到它的质量是可以接受的。测试用例的结果通常被专家用来验证知识的准确性。

(3)知识表示。获得的知识被组织在一起的活动叫做知识表示。这个活动需要准备知识地图以及在知识库进行知识编码。

(4)推论。这个活动包括软件的设计，使电脑做出基于知识和细节问题的推论。然后该系统可以推论结果提供建议给非专业用户。

(5)解释和理由。这包括设计和编程的解释功能。

显然，当知识量越来越大，知识获取变成了阻碍机器学习瓶颈，这就是所谓的“知识工程瓶颈”---想把所有知识通过人类教给计算机很难做到，要让机器能够自己学习知识。

机器学习首先是在图灵的《图灵测试》中提出了机器学习的可能性，之后便开始有很多学者开始研究，但是，在1950年代至1970年代，因为人们处于”推理期“和“知识期”，机器学习并没有得到重视。

E.A.Feigenbaum曾提出机器学习分为4大类：

其中影响最重要的是”从样例中学习“

1950-1990代表逻辑表示的“符号主义”学习包括著名的决策树，基于逻辑的归纳学习系统。

1990中期统计学习理论包括支持向量机和核方法，核方法现在被应用在机器学习的每一个角落。

随着Intel x86处理器和内存条的出现，连接主义学习卷土重来，这就是近几年火热的”深度学习“。

- END -