Introduction : Le Groupe des Symétries d’un Point
Dans l’étude des actions de groupe, la notion d’orbite répond à la question : « Où un élément peut-il aller ? ». Son concept dual, le stabilisateur, répond à la question complémentaire : « Quels éléments du groupe laissent ce point inchangé ? ».
Le stabilisateur d’un élément $x$ peut être vu comme le sous-groupe des « symétries » de $x$ au sein de $G$. Il mesure le degré d’isotropie de ce point. Si le stabilisateur est grand, l’élément $x$ est très « stable » et peu d’éléments de $G$ le déplacent. S’il est petit, $x$ est déplacé par presque tous les éléments du groupe. Cette notion est cruciale, car elle est l’autre moitié du puissant théorème orbite-stabilisateur.
Soit un groupe $G$ agissant sur un ensemble $X$. Le stabilisateur (ou groupe d’isotropie) d’un élément $x \in X$ est l’ensemble des éléments de $G$ qui fixent $x$. On le note $\text{Stab}_G(x)$ ou $G_x$.
Formellement : $$ \text{Stab}_G(x) = \{ g \in G \mid g \star x = x \} $$ C’est un sous-ensemble de $G$ (et non de $X$).
- Structure de sous-groupe : Pour tout $x \in X$, $\text{Stab}_G(x)$ est un sous-groupe de $G$.
- Stabilisateurs conjugués : Si deux éléments $x$ et $y$ sont dans la même orbite (c’est-à-dire $y=g \star x$ pour un $g \in G$), alors leurs stabilisateurs sont des sous-groupes conjugués : $$ \text{Stab}_G(y) = g \cdot \text{Stab}_G(x) \cdot g^{-1} $$ Cela implique que les stabilisateurs des éléments d’une même orbite sont isomorphes et ont donc le même ordre.
Démonstration : Le stabilisateur est un sous-groupe
Pour montrer que $\text{Stab}_G(x)$ est un sous-groupe de $G$, nous devons vérifier trois points :
- Non-vide : L’élément neutre $e$ de $G$ vérifie $e \star x = x$ par définition d’une action de groupe. Donc $e \in \text{Stab}_G(x)$.
- Stabilité par la loi de groupe : Soient $g, h \in \text{Stab}_G(x)$. Cela signifie que $g \star x = x$ et $h \star x = x$. Alors : $$ (g \cdot h) \star x = g \star (h \star x) = g \star x = x $$ Donc, $g \cdot h \in \text{Stab}_G(x)$.
- Stabilité par passage à l’inverse : Soit $g \in \text{Stab}_G(x)$, donc $g \star x = x$. Appliquons l’action de $g^{-1}$ des deux côtés : $$ g^{-1} \star (g \star x) = g^{-1} \star x $$ $$ (g^{-1} \cdot g) \star x = g^{-1} \star x $$ $$ e \star x = g^{-1} \star x $$ $$ x = g^{-1} \star x $$ Donc, $g^{-1} \in \text{Stab}_G(x)$.
Ces trois conditions prouvent que $\text{Stab}_G(x)$ est bien un sous-groupe de $G$.
Exemples de Stabilisateurs
- Groupe symétrique $\mathcal{S}_n$ : Le groupe $\mathcal{S}_n$ agit sur $X = \{1, 2, \dots, n\}$. Le stabilisateur de l’élément $n$, par exemple, est l’ensemble de toutes les permutations qui fixent $n$ : $\text{Stab}(n) = \{\sigma \in \mathcal{S}_n \mid \sigma(n)=n\}$. Ces permutations ne réarrangent que les éléments $\{1, \dots, n-1\}$. Ce sous-groupe est donc clairement isomorphe à $\mathcal{S}_{n-1}$.
- Isométries du carré ($D_4$) agissant sur les sommets : Soit $X = \{1, 2, 3, 4\}$ les sommets d’un carré. Le stabilisateur du sommet 1, $\text{Stab}(1)$, est l’ensemble des isométries qui ne déplacent pas le sommet 1. Il y en a exactement deux : l’identité et la réflexion par rapport à l’axe diagonal qui passe par les sommets 1 et 3. $$ \text{Stab}(1) = \{ Id, \text{réflexion}_{(1,3)} \} $$ C’est un sous-groupe d’ordre 2 de $D_4$.
- Action par conjugaison et Centralisateur : Quand un groupe $G$ agit sur lui-même par conjugaison ($g \star x = gxg^{-1}$), le stabilisateur de $x$ est l’ensemble des $g \in G$ tels que $gxg^{-1} = x$. En multipliant par $g$ à droite, on obtient $gx=xg$. C’est l’ensemble des éléments de $G$ qui commutent avec $x$. Cet important sous-groupe est appelé le centralisateur de $x$ dans $G$, noté $C_G(x)$.
Le Théorème Orbite-Stabilisateur
Ce théorème fondamental relie la taille de l’orbite d’un élément à celle de son stabilisateur.
Soit $G$ un groupe fini agissant sur un ensemble $X$. Pour tout $x \in X$ : $$ |\text{Orb}_G(x)| = [G : \text{Stab}_G(x)] = \frac{|G|}{|\text{Stab}_G(x)|} $$ où $[G : H]$ est l’indice du sous-groupe $H$ dans $G$. La preuve de ce théorème consiste à montrer qu’il y a une bijection entre les éléments de l’orbite de $x$ et les classes à gauche de $G$ suivant le sous-groupe $\text{Stab}_G(x)$.
Reprenons l’exemple de $D_4$ agissant sur les sommets du carré. Nous avons vu que $|\text{Stab}(1)| = 2$. Le théorème prédit que la taille de l’orbite de 1 doit être $|\text{Orb}(1)| = |D_4| / |\text{Stab}(1)| = 8 / 2 = 4$. C’est bien le cas, puisque l’orbite de 1 est l’ensemble des quatre sommets.
Conclusion
Le stabilisateur est une notion aussi centrale que l’orbite. Alors que l’orbite décrit la dynamique globale de l’action, le stabilisateur offre une perspective locale, en se concentrant sur les symétries d’un point unique. La relation d’équilibre entre ces deux concepts, magnifiquement encapsulée par le théorème orbite-stabilisateur, est l’un des outils les plus puissants et les plus élégants de l’algèbre, permettant de résoudre de nombreux problèmes de dénombrement et de classification.