总第85篇01|基本概念： 提升方法的基本思想：对于任何一个复杂任务来说，将多个专家的判断进行适当的综合所得出的判断，要比任何一个专家单独的判断好。先来看两个概念：强可学习和弱可学习。 在概率近似正确学习的框架中(简称PAC)，一个概念（类），如果存在一个多项式的学习算法能够学习它，并且正确率很高，那么就称这个概念是强可学习的；一个概念，如果存在一个多项式的学习算法能够学习它，学习的正确率仅比随机猜测略好，那么就称这个概念是弱可学习的。弱可学习与强可学习之间是有一定的差距，如果已经发现弱可学习算法，那么能否将它提到强可学习算法，这里的如何提升就是提升方法需要解决的问题。最具代表性的就是AdaBoost算法。对于分类问题而言，给定一个训练样本集，求比较粗糙的分类规则（弱分类器）要比求精确地分类规则（强分类器）容易的多。提升方法就是从弱学习算法，反复学习，得到一系列分类器（又称为基本分类器），然后组合这些弱分类器，构成一个强分类器。大多数的提升方法都是改变训练数据的概率分布（训练数据的权值分布），针对不同的训练数据分布调用弱学习算法学习一系列弱分类器。这样，对于提升方法来说，有两个问题需要