在矩阵论中，正交矩阵（orthogonal matrix）是一个方块矩阵Q，其元素为实数，而且行向量与列向量皆为正交的单位向量，使得该矩阵的转置矩阵为其逆矩阵：

Q^{T}=Q^{-1}\Leftrightarrow Q^{T}Q=QQ^{T}=I. 其中，I为单位矩阵。正交矩阵的行列式值必定为+1或-1，因为：

{\displaystyle 1=det(I)=det(Q^{T}Q)=det(Q^{T})det(Q)=(det(Q))^{2}\Rightarrow det(Q)=\pm 1} 以下是一些重要的性质：

实数方块矩阵是正交的，当且仅当它的列形成了带有普通欧几里得点积的欧几里得空间Rn的正交规范基，它为真当且仅当它的行形成Rn的正交基。假设带有正交（非正交规范）列的矩阵叫正交矩阵可能是诱人的，但是这种矩阵没有特殊价值而没有特殊名字；他们只是MTM = D，D是对角矩阵。

任何正交矩阵的行列式是 +1或−1。这可从关于行列式的如下基本事实得出： 1=\det(I)=\det(Q^{T}Q)=\det(Q^{T})\det(Q)=(\det(Q))^{2}。 逆叙述不真；有 +1行列式不保证正交性，即使带有正交列，可由下列反例证实。

{\begin{bmatrix}2&0\\0&{\frac {1}{2}}\end{bmatrix}} 对于置换矩阵，行列式是 +1还是−1匹配置换是偶还是奇的标志，行列式是行的交替函数。

比行列式限制更强的是正交矩阵总可以是在复数上可对角化来展示特征值的完全的集合，它们全都必须有（复数）绝对值1。

正交矩阵的逆是正交的，两个正交矩阵的积是正交的。事实上，所有n×n正交矩阵的集合满足群的所有公理。它是n(n−1)/2维的紧致李群，叫做正交群并指示为O(n)｡

行列式为 +1的正交矩阵形成了路径连通的子群指标为2的O(n)正规子群，叫做旋转的特殊正交群SO(n)。商群O(n)/SO(n)同构于O(1)，带有依据行列式选择[+1]或[−1]的投影映射。带有行列式−1的正交矩阵不包括单位矩阵，所以不形成子群而只是陪集；它也是（分离的）连通的。所以每个正交群被分为两个部分；因为投影映射分裂，O(n)是SO(n)与O(1)的半直积。用实用术语说，一个相当的陈述是任何正交矩阵可以通过采用一个旋转矩阵并可能取负它的一列来生成，如我们在2×2矩阵中看到的。如果n是奇数，则半直积实际上是直积，任何正交矩阵可以通过采用一个旋转矩阵并可能取负它的所有列来生成。

现在考虑 (n+1)×(n+1)右底元素等于1的正交矩阵。最后一列（和最后一行）的余下元素必须是零，而任何两个这种矩阵的积有同样的形式。余下的矩阵是n×n正交矩阵；因此O(n)是O(n+1)（和所有更高维群）的子群。

{\begin{bmatrix}&&&0\\&O(n)&&\vdots \\&&&0\\0&\cdots &0&1\end{bmatrix}} 因为Householder正交矩阵形式的基本反射可把任何正交矩阵简约成这种约束形式，一系列的这种反射可以把任何正交矩阵变回单位矩阵；因此正交群是反射群。最后一列可以被固定为任何单位向量，并且每种选择给出不同的O(n)在O(n+1)中的复本；以这种方式O(n+1)是在单位球Sn与纤维O(n)上的丛。

类似的，SO(n)是SO(n+1)的子群；任何特定正交矩阵可以使用类似过程通过Givens平面旋转来生成。丛结构持续：SO(n)↪ SO(n+1) → Sn。一个单一旋转可以在最后一列的第一行生成一个零，而n−1次旋转序列将置零n×n旋转矩阵的除了最后一列的最后一行的所有元素。因为平面是固定的，每次旋转只有一个自由度，就是它的角度。通过归纳，SO(n)因此有

(n-1)+(n-2)+\cdots +1=n(n-1)/2 自由度，O(n)也是。

置换矩阵简单一些；它们不形成李群，只是一个有限群，n!次对称群Sn。通过同类的讨论，Sn是Sn+1的子群。偶置换生成行列式 +1的置换矩阵的子群，n!/2次交错群。

更广泛的说，任何正交矩阵的效果分离到在正交二维空间上的独立动作。就是说，如果Q是狭义正交的，则你可以找到（旋转）改变基的一个正交矩阵P，把Q带回到分块对角形式：

P^{T}QP={\begin{bmatrix}R_{1}&&\\&\ddots &\\&&R_{k}\end{bmatrix}}（n偶数），P^{T}QP={\begin{bmatrix}R_{1}&&&\\&\ddots &&\\&&R_{k}&\\&&&1\end{bmatrix}}（n奇数）。 这里的矩阵R_1,…,R_k是2×2旋转矩阵，而余下的元素是零。作为例外，一个旋转块可以是对角的，±I。因此如果需要的话取负一列，并注意2×2反射可对角化为+1和−1，任何正交矩阵可变为如下形式

P^{T}QP={\begin{bmatrix} {\begin{matrix} R_{1}&&\\&\ddots &\\&&R_{k} \end{matrix}} &0\\0&{\begin{matrix}\pm 1&&\\&\ddots &\\&&\pm 1 \end{matrix}} \end{bmatrix}}, 矩阵R_1,…,R_k给出位于复平面中单位圆上的特征值的共轭对；所以这个分解复合确定所有带有绝对值1的特征值。如果n是奇数，至少有一个实数特征值+1或−1；对于3×3旋转，关联着+1的特征向量是旋转轴。