Introduction : Les Atomes de la Théorie des Groupes
En chimie, toute la matière est construite à partir d’un ensemble fini d’atomes, les éléments du tableau périodique. En arithmétique, tout entier se décompose de manière unique en un produit de nombres premiers. La théorie des groupes possède un concept analogue : les groupes simples. Ce sont les « briques de construction » fondamentales à partir desquelles tous les groupes finis sont assemblés.
Un groupe est dit simple s’il ne peut pas être « simplifié » davantage en le quotientant par un sous-groupe propre. Formellement, cela signifie qu’il ne possède aucun sous-groupe distingué non trivial. La classification complète de tous les groupes simples finis, achevée à la fin du 20e siècle, est l’un des accomplissements les plus monumentaux de l’histoire des mathématiques.
Parmi les familles infinies de groupes simples, les groupes alternés $\mathcal{A}_n$ jouent un rôle central. L’un des résultats les plus célèbres et les plus importants de l’algèbre du 19e siècle, démontré par Évariste Galois, est que le groupe $\mathcal{A}_n$ est simple pour $n \ge 5$. Ce théorème est la clé pour comprendre pourquoi il n’existe pas de formule générale par radicaux pour résoudre les équations polynomiales de degré 5 ou plus.
Un groupe $G$ est dit simple s’il est non trivial ($G \neq \{e\}$) et si ses seuls sous-groupes distingués (normaux) sont le sous-groupe trivial $\{e\}$ et le groupe $G$ lui-même.
Le groupe alterné $\mathcal{A}_n$ est un groupe simple si et seulement si $n \neq 4$ (pour $n \ge 3$). Plus précisément :
- $\mathcal{A}_3$ est simple.
- $\mathcal{A}_4$ n’est pas simple.
- Pour tout $n \ge 5$, $\mathcal{A}_n$ est simple.
Étude des Petits Cas : $n < 5$
Avant de s’attaquer au cas général, il est instructif d’examiner le comportement des premiers groupes alternés.
- $\mathcal{A}_1$ et $\mathcal{A}_2$ : Ces groupes sont triviaux, $\mathcal{A}_1 = \mathcal{A}_2 = \{Id\}$. Par définition, ils ne sont pas simples.
- $\mathcal{A}_3$ : Le groupe $\mathcal{A}_3$ est d’ordre $|\mathcal{A}_3| = 3!/2 = 3$. Comme 3 est un nombre premier, tout groupe d’ordre 3 est cyclique et, d’après le théorème de Lagrange, ses seuls sous-groupes sont le sous-groupe trivial et lui-même. Il n’a donc aucun sous-groupe distingué propre. $\mathcal{A}_3$ est simple.
Le Cas Crucial de $\mathcal{A}_4$ : Le Contre-Exemple
Le groupe $\mathcal{A}_4$ est d’ordre $4!/2=12$. Il contient les 8 cycles de longueur 3 et les 3 permutations composées de deux transpositions disjointes (les « doubles transpositions »), en plus de l’identité. Considérons l’ensemble $V$ suivant, appelé groupe de Klein : $$ V = \{ Id, (1 \ 2)(3 \ 4), (1 \ 3)(2 \ 4), (1 \ 4)(2 \ 3) \} $$
On peut vérifier que $V$ est un sous-groupe de $\mathcal{A}_4$. Montrons qu’il est distingué. Pour cela, il faut montrer qu’il est stable par conjugaison. Soit $h \in V$ et $g \in \mathcal{A}_4$. Le conjugué de $h$ par $g$ est $ghg^{-1}$. Rappelons que si $h = (a \ b)(c \ d)$, alors son conjugué est $ghg^{-1} = (g(a) \ g(b))(g(c) \ g(d))$.
Puisque $g$ est une permutation de $\{1, 2, 3, 4\}$, l’image de la structure de $h$ (une double transposition) est une autre double transposition. Par exemple, si $g=(1 \ 2 \ 3)$ et $h=(1 \ 2)(3 \ 4)$, alors : $$ ghg^{-1} = (g(1)g(2))(g(3)g(4)) = (2 \ 3)(1 \ 4) $$ L’élément $(2 \ 3)(1 \ 4)$ est bien dans $V$. On peut montrer que c’est vrai pour n’importe quel $h \in V$ et $g \in \mathcal{A}_4$.
Puisque $V$ est un sous-groupe distingué de $\mathcal{A}_4$ et que $V$ n’est ni trivial ni égal à $\mathcal{A}_4$, nous concluons que $\mathcal{A}_4$ n’est pas simple.
Démonstration de la Simplicité pour $n \ge 5$
La preuve pour $n \ge 5$ est un magnifique argument de la théorie des groupes. La stratégie est la suivante : nous allons supposer qu’il existe un sous-groupe distingué $H \triangleleft \mathcal{A}_n$ tel que $H \neq \{Id\}$, et nous allons montrer que $H$ doit nécessairement contenir un 3-cycle. Ensuite, nous montrerons que s’il contient un 3-cycle, il les contient tous, et donc $H = \mathcal{A}_n$.
Pour $n \ge 3$, le groupe alterné $\mathcal{A}_n$ est engendré par l’ensemble de tous les 3-cycles.
Étape 1 : Si $H$ contient un 3-cycle, alors $H=\mathcal{A}_n$
Supposons que $H$ est un sous-groupe distingué de $\mathcal{A}_n$ et qu’il contient un 3-cycle, disons $c = (a \ b \ c)$. Nous voulons montrer que $H$ contient n’importe quel autre 3-cycle $(x \ y \ z)$.
Puisque $n \ge 5$, on peut trouver une permutation $g \in \mathcal{S}_n$ telle que $g(a)=x$, $g(b)=y$ et $g(c)=z$. Alors, par la formule de conjugaison, $gcg^{-1} = (g(a) \ g(b) \ g(c)) = (x \ y \ z)$.
Si $g$ est une permutation paire ($g \in \mathcal{A}_n$), alors comme $H$ est distingué dans $\mathcal{A}_n$, le conjugué $gcg^{-1}$ est dans $H$. Donc $(x \ y \ z) \in H$. Si $g$ est impaire, on peut la corriger. Puisque $n \ge 5$, il existe deux éléments $u,v$ distincts de $x,y,z$. La transposition $\tau=(u \ v)$ est dans $\mathcal{S}_n$. Alors $g’ = g \circ \tau$ est une permutation paire. On a : $$ g’ c (g’)^{-1} = (g\tau) c (g\tau)^{-1} = g(\tau c \tau^{-1})g^{-1} = g(a \ b \ c)g^{-1} = (x \ y \ z) $$ (car $\tau$ fixe $a, b, c$). Donc, pour tout 3-cycle $(x \ y \ z)$, on peut trouver une permutation paire $g’$ telle que $g’cg’^{-1} = (x \ y \ z)$. Comme $H$ est distingué, il contient tous les 3-cycles. Et comme les 3-cycles engendrent $\mathcal{A}_n$, on conclut que $H=\mathcal{A}_n$.
Étape 2 : Tout sous-groupe distingué non trivial $H$ contient un 3-cycle
C’est le cœur de la preuve. Soit $H \triangleleft \mathcal{A}_n$ avec $H \neq \{Id\}$. Prenons une permutation $\sigma \in H$ différente de l’identité. On va construire un 3-cycle à partir de $\sigma$ en utilisant un commutateur.
Le commutateur de deux éléments $x,y$ est $[x,y]=xyx^{-1}y^{-1}$. Si $H$ est distingué, alors pour tout $\sigma \in H$ et tout $g \in \mathcal{A}_n$, le conjugué $g\sigma g^{-1}$ est dans $H$. Donc le commutateur $[g, \sigma] = g\sigma g^{-1}\sigma^{-1}$ est aussi dans $H$.
On analyse la décomposition en cycles de $\sigma$ :
- Cas 1 : $\sigma$ a un cycle de longueur $k \ge 4$. Supposons $\sigma = (a \ b \ c \ d \dots) \dots$. Prenons $g = (a \ b \ c) \in \mathcal{A}_n$. Le commutateur $[g, \sigma]$ est dans $H$. Un calcul montre que : $$ [g, \sigma] = (a \ b \ c)(\sigma)(a \ c \ b)(\sigma^{-1}) = (b \ c \ d) $$ Donc $H$ contient le 3-cycle $(b \ c \ d)$. D’après l’étape 1, $H=\mathcal{A}_n$.
- Cas 2 : $\sigma$ n’a que des cycles de longueur 3 au plus. Si $\sigma$ est un 3-cycle, c’est terminé. Sinon, $\sigma$ est un produit d’au moins deux 3-cycles (car $\sigma \neq Id$ et il n’y a pas de cycles plus longs), ou un produit de transpositions. Supposons $\sigma = (a \ b \ c)(d \ e \ f) \dots$. Prenons $g = (a \ b \ d) \in \mathcal{A}_n$. Le commutateur $[g, \sigma]$ est dans $H$. Le calcul donne : $$ [g, \sigma] = (a \ b \ d \ c \ f) $$ On a produit un 5-cycle. On est ramené au Cas 1.
- Cas 3 : $\sigma$ est un produit de transpositions disjointes. Puisque $\sigma \in \mathcal{A}_n$, il doit y avoir un nombre pair de transpositions. Le cas le plus simple est $\sigma = (a \ b)(c \ d)$. Puisque $n \ge 5$, il existe un autre élément $e$. Prenons $g = (a \ c \ e) \in \mathcal{A}_n$. Le commutateur $[g, \sigma]$ est dans $H$. Le calcul donne : $$ [g, \sigma] = (a \ c \ d \ b \ e) $$ On a encore produit un 5-cycle, ce qui nous ramène au Cas 1.
Dans tous les cas, si on part d’un élément $\sigma \in H$ autre que l’identité, on peut construire un 3-cycle qui doit aussi être dans $H$.
Conclusion : L’Insolvabilité du Quintique
Nous avons montré que pour $n \ge 5$, le groupe alterné $\mathcal{A}_n$ n’a pas de structure interne « simplifiable » : il est simple. Cette propriété a des conséquences profondes bien au-delà de la théorie des groupes.
En théorie de Galois, on associe à chaque équation polynomiale un groupe, appelé son groupe de Galois. Une équation est « résoluble par radicaux » (comme les équations de degré 2, 3 et 4) si et seulement si son groupe de Galois est un groupe « résoluble ». Un groupe est résoluble s’il peut être décomposé en une suite de sous-groupes distingués dont les quotients sont abéliens.
Le fait que $\mathcal{A}_n$ (pour $n \ge 5$) soit simple et non abélien l’empêche d’être résoluble. Comme il existe des équations de degré $n$ dont le groupe de Galois est $\mathcal{S}_n$ (qui contient $\mathcal{A}_n$ comme sous-groupe « bloquant »), cela prouve qu’il ne peut exister de formule générale pour ces équations. La simplicité de $\mathcal{A}_n$ est donc la raison algébrique fondamentale de l’impossibilité de résoudre l’équation du cinquième degré.