Introduction : La Trajectoire sous l’Action d’un Groupe
Lorsqu’un groupe $G$ agit sur un ensemble $X$, chaque élément de $X$ est « déplacé » par les éléments de $G$. L’orbite d’un élément $x \in X$ est l’ensemble de toutes les positions que $x$ peut atteindre. On peut se la représenter comme la « trajectoire » ou l' »empreinte » de $x$ sous l’action de l’ensemble du groupe.
Cette notion est fondamentale car elle permet de décomposer l’ensemble $X$ en sous-ensembles disjoints, les orbites. L’action du groupe est beaucoup plus simple à analyser sur chacune de ces orbites. Comprendre les orbites, c’est comprendre comment le groupe « mélange » les éléments de l’ensemble.
Soit un groupe $G$ agissant sur un ensemble $X$. L’orbite d’un élément $x \in X$ sous l’action de $G$ est l’ensemble, noté $\text{Orb}_G(x)$ ou $G \cdot x$, de tous les éléments de $X$ qui peuvent être atteints à partir de $x$ par l’action d’un élément de $G$.
Formellement : $$ \text{Orb}_G(x) = \{ g \star x \mid g \in G \} $$ C’est un sous-ensemble de $X$.
- Appartenance : Tout élément $x$ appartient à sa propre orbite. En effet, comme $e \star x = x$ (où $e$ est le neutre de $G$), on a $x \in \text{Orb}_G(x)$.
- Relation d’équivalence : La relation $\mathcal{R}$ définie sur $X$ par « $y \mathcal{R} x \iff y \in \text{Orb}_G(x)$ » est une relation d’équivalence.
- Réflexivité : $x \in \text{Orb}_G(x)$ (prouvé ci-dessus).
- Symétrie : Si $y \in \text{Orb}_G(x)$, alors $y=g \star x$ pour un $g \in G$. Donc $x = g^{-1} \star y$, ce qui signifie que $x \in \text{Orb}_G(y)$.
- Transitivité : Si $y \in \text{Orb}_G(x)$ et $z \in \text{Orb}_G(y)$, alors $y=g \star x$ and $z=h \star y$. Donc $z = h \star (g \star x) = (hg) \star x$, ce qui montre que $z \in \text{Orb}_G(x)$.
- Partition : La conséquence la plus importante est que les orbites forment une partition de l’ensemble $X$. C’est-à-dire que $X$ est l’union disjointe de ses orbites. Deux orbites sont soit disjointes, soit identiques.
Action Transitive
Une action de groupe est dite transitive si elle ne possède qu’une seule orbite. Cela signifie que depuis n’importe quel point de départ $x$, on peut atteindre n’importe quel autre point $y$ de l’ensemble. Le groupe « mélange » complètement l’ensemble.
L’action de $G$ sur $X$ est transitive si pour tout couple d’éléments $(x, y) \in X \times X$, il existe un élément $g \in G$ tel que $y = g \star x$.
Cela équivaut à dire que pour un $x$ quelconque (et donc pour tous), $\text{Orb}_G(x) = X$.
Exemples d’Orbites
- Groupe symétrique $\mathcal{S}_n$ : Le groupe $\mathcal{S}_n$ agit naturellement sur l’ensemble $X = \{1, 2, \dots, n\}$. Pour n’importe quel couple d’éléments $(i, j)$ de $X$, la transposition $(i \ j)$ est un élément de $\mathcal{S}_n$ qui envoie $i$ sur $j$. L’action est donc transitive. Il n’y a qu’une seule orbite : $X$ tout entier.
- Isométries du carré ($D_4$) agissant sur les sommets : Soit $X = \{1, 2, 3, 4\}$ les sommets d’un carré. Le groupe $D_4$ agit sur $X$. L’orbite du sommet 1 est $\text{Orb}(1) = \{1, 2, 3, 4\}$. On peut en effet atteindre n’importe quel sommet à partir du sommet 1 par une rotation. L’action est donc transitive.
-
Un sous-groupe de $\mathcal{S}_4$ :
Considérons le groupe $G = \{Id, (1 \ 2), (3 \ 4), (1 \ 2)(3 \ 4) \}$ agissant sur $X=\{1, 2, 3, 4\}$.
- Calculons l’orbite de 1 : $Id(1)=1$, $(1 \ 2)(1)=2$, $(3 \ 4)(1)=1$, $(1 \ 2)(3 \ 4)(1)=2$. Donc $\text{Orb}(1) = \{1, 2\}$.
- Calculons l’orbite de 3 : $Id(3)=3$, $(1 \ 2)(3)=3$, $(3 \ 4)(3)=4$, $(1 \ 2)(3 \ 4)(3)=4$. Donc $\text{Orb}(3) = \{3, 4\}$.
- Action par conjugaison : Quand un groupe $G$ agit sur lui-même par conjugaison ($g \star x = gxg^{-1}$), les orbites sont exactement les classes de conjugaison. C’est un exemple central où la décomposition en orbites révèle la structure interne du groupe.
Lien avec le Théorème Orbite-Stabilisateur
La notion d’orbite est l’un des deux piliers du théorème orbite-stabilisateur, qui énonce que pour un groupe fini $G$ agissant sur un ensemble $X$ : $$ |G| = |\text{Orb}_G(x)| \times |\text{Stab}_G(x)| $$ Ce théorème relie la taille de la « trajectoire » d’un élément (l’orbite) à la taille du sous-groupe qui le « fixe » (le stabilisateur). Il montre que plus un élément est « stable » (grand stabilisateur), plus sa trajectoire sous l’action du groupe est « courte » (petite orbite), et inversement.
Conclusion
L’orbite est le concept clé pour comprendre les effets d’une action de groupe. En décomposant un ensemble potentiellement complexe en une union de sous-ensembles plus simples (les orbites), sur lesquels l’action est transitive, on peut analyser la structure globale de l’action pièce par pièce. C’est le premier pas vers la plupart des grands résultats découlant des actions de groupe, du dénombrement combinatoire aux théorèmes de structure en algèbre.