在实际问题中，如数据处理、多元分析、最优化理论、现代控制理论和网络理论中，由于实验条件那个多种因素，所产生的方程组往往是不相容的方程，即无解方程。此时，我们不能求得实线性方程组 A X = b AX=b AX=b的解，而只能求得近似解，即最小二乘解，此时 ∣ A X − b ∣ |AX-b| ∣AX−b∣最小。

类似的，对于复数域C上的线性方程组 A X = b AX=b AX=b则要求 ( a 11 x 1 + a 12 x 2 + ⋅ ⋅ ⋅ + a 1 n x n − b 1 ) ( a 11 x 1 + a 12 x 2 + ⋯ + a 1 n x n − b 1 ) ‾ + ( a s 1 x 1 + a s 2 x 2 + ⋯ + a s n x n − b n ) ( a s 1 x 1 + a s 2 x 2 + ⋯ + a s n x n − b s ) ‾ \left( a_{11}x_1+a_{12}x_2+···+a_{1n}x_n-b_1 \right) \overline{\left( a_{11}x_1+a_{12}x_2+\cdots +a_{1n}x_n-b_1 \right) }+\left( a_{s1}x_1+a_{s2}x_2+\cdots +a_{sn}x_n-b_n \right) \overline{\left( a_{s1}x_1+a_{s2}x_2+\cdots +a_{sn}x_n-b_s \right) } (a11​x1​+a12​x2​+⋅⋅⋅+a1n​xn​−b1​)(a11​x1​+a12​x2​+⋯+a1n​xn​−b1​)​+(as1​x1​+as2​x2​+⋯+asn​xn​−bn​)(as1​x1​+as2​x2​+⋯+asn​xn​−bs​)​ 为最小，此时是复数线性方程的最小二乘解。

同样，若方程 A X = b AX=b AX=b有解，且在有无穷多解时，往往也需要求解向量 X = ( x 1 , x 2 , ⋯   , x n ) T X=\left( x_1,x_2,\cdots ,x_n \right) ^T X=(x1​,x2​,⋯,xn​)T 中，满足 x 1 x 1 ‾ + x 2 x 2 ‾ + ⋯ + x n x n ‾ x_1\overline{x_1}+x_2\overline{x_2}+\cdots +x_n\overline{x_n} x1​x1​​+x2​x2​​+⋯+xn​xn​​为最小的解，这样的解叫做线性方程组的最小二乘解。

Moore和Penrose分别发表了光宇广义逆的矩阵理论，所提及的广义逆定义如下： 设A是m×n矩阵，如果一个n×m的矩阵G满足下列4条， （1） A G A = A AGA=A AGA=A （2） G A G = G GAG=G GAG=G （3） ( A G ) H = ( A G ‾ ) T = A G \left( AG \right) ^H=\left( \overline{AG} \right) ^T=AG (AG)H=(AG)T=AG （4） ( G A ) H = G A \left( GA \right) ^H=GA (GA)H=GA 则称G为Moore-Penrose广义逆，简记为 A + A^+ A+ 可以证明，对于任意复矩阵A，广义逆一定存在且唯一。 现在一般对广义逆的提法：任意满足4个方程中的某条都可以成为矩阵的广义逆，因此广义逆存在各种形式，共有 C 4 1 + C 4 2 + C 4 3 + C 4 4 = 15 C_{4}^{1}+C_{4}^{2}+C_{4}^{3}+C_{4}^{4}=15 C41​+C42​+C43​+C44​=15种类型。 比较常见的广义逆有以下4种：

思考（Thinking）：