群表示

群表示把抽象群的元素表示为向量空间上的可逆线性变换，并要求群运算对应变换的复合。通过这种方式，抽象对称性可以用矩阵、特征值和不变子空间研究。

定义

设 $G$ 是群，$V$ 是域 $K$ 上的向量空间。一个线性表示是群同态 $$\rho :G⟶\mathrm{GL}(V),$$ 即每个 $g\in G$ 对应一个可逆线性映射，并满足 $\rho (gh)=\rho (g)\rho (h)$、$\rho (e)=I$。选定有限维空间的基后，每个映射可写成可逆矩阵；更换基会同时对所有矩阵作同一个相似变换。

三次旋转

令 $G=C_3=\{e,r,r^2\}$，且 $r^3=e$。在实平面上取 $$R=\left(\begin{array}{cc}-1/2& -\sqrt{3}/2\\ \sqrt{3}/2& -1/2\end{array}\right).$$ 它是逆时针旋转 $120^{\circ }$ 的矩阵。定义 $\rho (e)=I,\rho (r)=R,\rho (r^2)=R^2$。三次旋转总角度为 $360^{\circ }$，所以 $R^3=I$，群关系得到保持。

例如向量 $(1,0{)}^{𝖳}$ 依次变为 $(-1/2,\sqrt{3}/2{)}^{𝖳}$ 和 $(-1/2,-\sqrt{3}/2{)}^{𝖳}$，第三次回到起点。这三个位置可视为等边三角形的三个顶点。

不变子空间

子空间 $W\subseteq V$ 若对每个 $g\in G$ 都满足 $\rho (g)W\subseteq W$，就称为不变子空间。非零表示如果没有非零真不变子空间，称为不可约表示。

上述实平面表示不可约：若一条实直线不变，其非零方向向量将是 $R$ 的实特征向量。但 $R$ 的特征多项式为 ${\lambda }^2+\lambda +1$，没有实根，所以没有这样的直线。若把标量域改成复数，该多项式有两个不同根，对应两条复特征直线；同一组矩阵在复数域上便可分解。这说明表示是否不可约与所用的标量域有关。

表示不一定把不同群元素映成不同变换；若同态是单射，才称为忠实表示。平凡表示把每个元素都映为单位变换，也是合法的表示，但它不能区分不同元素。