Définition et propriétés de base
Soit $E$ un espace euclidien. Un endomorphisme $u$ de $E$ est dit orthogonal (ou une isométrie vectorielle) s’il conserve le produit scalaire, c’est-à-dire : $$ \forall x, y \in E, \quad \langle u(x), u(y) \rangle = \langle x, y \rangle $$
Soit $u$ un endomorphisme d’un espace euclidien $E$. Les propositions suivantes sont équivalentes :
- $u$ est un endomorphisme orthogonal.
- $u$ est inversible et son inverse est son adjoint : $u^* \circ u = u \circ u^* = Id_E$.
- $u$ conserve la norme : $\forall x \in E, \|u(x)\| = \|x\|$.
Exemples
- L’identité $Id_E$ et son opposé $-Id_E$ sont des endomorphismes orthogonaux.
- Toute symétrie orthogonale est un endomorphisme orthogonal.
Cas d’un espace euclidien de dimension 2
Soit $u$ un endomorphisme orthogonal d’un espace euclidien orienté de dimension 2.
- Si $\det(u)=1$, $u$ est une rotation. Il existe un unique angle $\theta \in ]-\pi, \pi]$ tel que la matrice de $u$ dans toute base orthonormale directe soit $\begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}$.
- Si $\det(u)=-1$, $u$ est une symétrie orthogonale par rapport à une droite. Il existe une base orthonormale dans laquelle sa matrice est $\begin{pmatrix} 1 & 0 \\ 0 & -1 \end{pmatrix}$.
Cas d’un espace euclidien de dimension 3
Soit $u$ un endomorphisme orthogonal d’un espace euclidien orienté de dimension 3.
- Si $\det(u)=1$, $u$ est une rotation. L’ensemble des vecteurs invariants par $u$ est une droite vectorielle, l’axe de la rotation. Dans un plan orthogonal à cet axe, $u$ agit comme une rotation plane.
- Si $\det(u)=-1$, $u$ est soit une symétrie orthogonale par rapport à un plan, soit la composée d’une rotation et d’une symétrie orthogonale par rapport à un plan orthogonal à l’axe de la rotation (on parle de symétrie-rotation).
Cas général
Tout endomorphisme d’un $\mathbb{R}$-espace vectoriel de dimension finie admet au moins un sous-espace stable de dimension 1 ou 2.
Soit $u$ un endomorphisme orthogonal d’un espace euclidien $E$ de dimension $n$. Il existe une base orthonormale de $E$ dans laquelle la matrice de $u$ est diagonale par blocs, où chaque bloc est soit :
- Une matrice $(1)$ ou $(-1)$ de taille 1×1.
- Une matrice de rotation $\begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}$ de taille 2×2, avec $\theta \in ]0, \pi[$.