主張

証明は省略します。

※私が腑に落ちる証明のイメージを持ち合わせていないので，証明略とさせていただきました。

証明は有限群の表現論の教科書には必ずと言っていいほど載っているのですが，敢えて挙げるなら「雪江代数3」や「テンソル代数と表現論」を参考にするとよいでしょう。

もし証明のイメージが湧いた方がいらっしゃったら，ぜひ教えていただきたいです。速攻で加筆します。

マシュケの定理は何が嬉しいのか？

マシュケの定理のポイントはこれです。

かみ砕いて言えば「表現には基本パーツがある」です。

表現論では文字通り，表現を調べますが，マシュケの定理より表現は既約表現に分解できるので，
結局は既約表現を調べればよいことに帰着してしまいます。

整数論で言えば「自然数は素数という基本パーツで構成されてる」ことを表す素因数分解のイメージでしょう。

マシュケの定理が成り立たない場合を見ていきましょう。

\(G\)が無限群のとき

無限群\(\mathbb{Z}\)の\(\mathbb{C}^2\)における表現\(\rho:\mathbb{Z}\to\mathrm{GL}_2(\mathbb{C})\)を次のように定義します。

\(\rho(n)=\begin{pmatrix}1 & 1 \\ 0 & 1\end{pmatrix}^n=\begin{pmatrix}1 & n \\ 0 & 1\end{pmatrix}\)

まず\(\rho\)は可約であることを確認しましょう。

\(\rho\)は\(2\)次元表現ですので，可約だとしたら\(1\)次元の\(\rho\)不変部分空間を持つはずです。

\(\rho\)不変空間があるとしたら，\(\begin{pmatrix}1 & 1 \\ 0 & 1\end{pmatrix}\)でも不変なはずです。

そこで\(\begin{pmatrix}1 & 1 \\ 0 & 1\end{pmatrix}\)の不変部分空間を求めるために，この行列の固有値を求めましょう。
※固有値問題は不変部分空間を求める作業であるからです。

そのために特性方程式

\(\begin{vmatrix}1-x & 1 \\ 0 & 1-x\end{vmatrix}=0\)

を解くと，固有値\(1\)が得られます。

よって固有値\(1\)に対する固有空間\(V=\{c\cdot\begin{pmatrix}1 \\ 0 \end{pmatrix}|c\in \mathbb{C}\}\)が得られます。

この\(V\)は実際に\(\rho\)不変部分空間になっていることが簡単な計算により分かります。

よって自明でない\(\rho\)不変部分空間\(V\)を得られたので，\(\rho\)は可約となります。

ここでマシュケの定理が成り立つと仮定しましょう。

そうすると\(\rho\)は\(2\)次元ですので，
\(\mathbb{C}^2=W\oplus W’\)となる\(1\)次元\(\rho\)不変部分空間\(W,W’\)が存在するはずです。

しかし実際は\(\mathbb{C}^2=W\oplus W’\)を満たす\(W,W’\)は存在しません。

なぜなら\(1\)次元\(\rho\)不変部分空間\(W,W’\)の任意のベクトルはさきほどの固有値問題の解になる必要があります。

しかしさきほど解いたように，固有値問題の解は\(V\)の元となり，\(W,W’=V\)となるからです。

矛盾が導けたので，マシュケの定理は\(G\)が無限群のときは必ずしも成り立たないことが言えました。

\(G\)の位数が\(k\)の標数で割り切れるとき

\(G=\mathbb{F}_p=\mathbb{Z}/p\mathbb{Z},\,k=\mathbb{F}_{p}\)とした\(\mathbb{F}_p\)の\(\mathbb{F}_p\)上の\(\mathbb{F}_{p}^{2}\)における表現\(\rho:\mathbb{F}_p\to \mathrm{GL}_2(\mathbb{F_p})\)を次のように定義します。

\(\rho(n)=\begin{pmatrix}1 & 1 \\ 0 & 1\end{pmatrix}^n=\begin{pmatrix}1 & n \\ 0 & 1\end{pmatrix}\)

前節「\(G\)が無限群のとき」と同一の定義ですので，同様にマシュケの定理が成り立たないことを示せます。

しかしせっかくですので，違ったやり方で示したいと思います。

\(\rho\)が可約であることまでは前節と同様に示したものとします。

再びマシュケの定理が成り立つとすると，\(\rho\)は完全可約になるので，

何らかの表現行列\(\rho’:\mathrm{F_p}\to\mathrm{GL}_2(\mathbb{F}_p)\)

\(n\mapsto\begin{pmatrix}a(n) & 0 \\ 0 & b(n)\end{pmatrix}\qquad(a(n),b(n)\in \mathbb{F_p}\setminus\{0\}\))

と同値になります。

つまりある正則行列\(S\)が存在して下の図式が可換になります。

※前節において\(\mathbb{C}^2=W\oplus W’\)となったことに対応します。

この可換性を利用して，写像\(\phi:\mathrm{Im}\rho\to\mathrm{Im}\rho’\)を
\(\phi(\rho(n))= S\rho(n)S^{-1}\)と定めると，
これは同型写像となり\(\mathrm{Im}\rho\cong\mathrm{Im}\rho’\)が成り立ちます。

しかし\(\mathrm{Im}\rho\)と\(\mathrm{Im}\rho’\)の位数は異なるので矛盾します。

なぜなら\(\mathrm{Im}\rho\)の元\(\begin{pmatrix}1 & n \\ 0 & 1\end{pmatrix}\)の数は右上成分の数なので\(p\)個。

つまり\(|\mathrm{Im}\rho|\)は\(p\)で割り切れます。

次に\(\mathrm{Im}\rho’\)は\(\mathrm{GL}_2(\mathbb{F}_p)\)の対角行列の群\(H\)の部分群です。

ここで\(H\)の元は\(0\)でない\(F_p\)の元を\(2\)個並べたものと対応しますので，\(|H|=(p-1)^2\)。これは\(p\)で割り切れません。

結局\(|\mathrm{Im}\rho’|\)も\(p\)で割り切れないからです。

以上より矛盾が示せたので，\(G\)の位数が\(k\)の標数で割り切れるときは，マシュケの定理が必ずしも成り立たないことが言えました。

表現の次元が無限次元の場合もマシュケの定理が成り立たないらしいですが，私がその具体例を知らないので，知っている方は教えていただけると幸いです。

この記事ではマシュケの定理を解説して参りました。

有限群の表現論における基礎的な定理なので，イメージをもって理解しておきましょう。

もし「説明がわかりにくい」などご要望・ご感想がありましたら，
X（旧:Twitter）で#トイカラでつぶやいていただけると，できる限り対応します。

最後の節で述べた表現が無限次元のとき，マシュケの定理が成り立たない例も，
どなたかX(旧:Twitter)で教えていただけると幸いです。

ここまで読んでいただき，ありがとうございました。