最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。

最小二乘法的矩阵形式为： A x = b Ax=b Ax=b 其中 A A A 为 n ∗ k n * k n∗k 的矩阵， x x x 为 k ∗ 1 k*1 k∗1 的列向量， b b b 为 n ∗ 1 n*1 n∗1 的列向量。如果 n > k n>k n>k（方程的个数大于未知量的个数），这个方程系统称为矛盾方程组 Over Determined System，如果 n < k n