Soit $E$ un K-espace vectoriel. Un endomorphisme $u$ de $E$ est dit nilpotent s’il existe un entier naturel non nul $m$ tel que la $m$-ième puissance de $u$ soit l’endomorphisme nul : $u^m = 0$.
Remarque
- L’endomorphisme nul est trivialement nilpotent.
- Si $u$ est nilpotent et $v$ est un endomorphisme qui commute avec $u$ ($uv=vu$), alors le produit $uv$ est nilpotent.
- Si $u$ et $v$ sont deux endomorphismes nilpotents qui commutent, alors leur somme $u+v$ est également nilpotente.
- Une matrice $A \in \mathcal{M}_n(K)$ est dite nilpotente s’il existe $m \in \mathbb{N}^*$ tel que $A^m=0$.
Pour tout endomorphisme nilpotent $u$, il existe un unique entier $q \ge 1$ tel que $u^q=0$ et $u^{q-1} \neq 0$. Cet entier $q$ est appelé l’indice de nilpotence de $u$.
Remarque
Si $u$ est un endomorphisme nilpotent non nul d’un espace $E$ de dimension $n$, son indice de nilpotence $q$ vérifie $2 \le q \le n$.
Soit $u$ un endomorphisme d’un K-espace vectoriel $E$ de dimension $n$. Les propositions suivantes sont équivalentes :
- $u$ est nilpotent.
- Le polynôme minimal de $u$ est de la forme $M_u(X) = X^q$, où $q$ est l’indice de nilpotence.
- Le polynôme caractéristique de $u$ est $\chi_u(X) = X^n$.
Démonstration
(i $\implies$ ii) Si $u$ est nilpotent d’indice $q$, alors $u^q=0$, donc son polynôme minimal $M_u$ divise $X^q$. $M_u$ est donc de la forme $X^r$ avec $r \le q$. Comme $u^{q-1} \neq 0$, $r$ ne peut pas être inférieur à $q$. Donc $r=q$.
(ii $\implies$ iii) Si $M_u(X)=X^q$, la seule racine du polynôme minimal est 0. Comme le polynôme minimal et le polynôme caractéristique ont les mêmes racines, la seule racine de $\chi_u$ est 0. Puisque $\chi_u$ est unitaire et de degré $n$, on a nécessairement $\chi_u(X)=X^n$.
(iii $\implies$ i) Si $\chi_u(X)=X^n$, alors par le théorème de Cayley-Hamilton, $\chi_u(u)=u^n=0$. L’endomorphisme $u$ est donc nilpotent.
Notations et Lemmes Préparatoires
Dans la suite, $u$ est un endomorphisme nilpotent d’indice $q$ sur un espace $E$ de dimension $n$. On pose $E_i = Ker(u^i)$ pour $i \in \{0, \dots, q\}$. On a alors une suite de sous-espaces emboîtés : $$ \{0\} = E_0 \subset E_1 \subset \dots \subset E_{q-1} \subset E_q = E $$
i) Les inclusions dans la suite des noyaux itérés sont strictes : $E_i \subsetneq E_{i+1}$ pour $0 \le i \le q-1$.
ii) Pour tout $i \in \{0, \dots, q-1\}$, on a $u(E_{i+1}) \subseteq E_i$.
Soit $F$ un sous-espace vectoriel de $E$. S’il existe un indice $i \in \{1, \dots, q\}$ tel que $F \cap E_i = \{0\}$, alors :
- $u(F) \cap E_{i-1} = \{0\}$.
- La restriction de $u$ à $F$, notée $u_{|F}$, est un isomorphisme de $F$ sur son image $u(F)$.
Il existe des sous-espaces vectoriels $F_1, F_2, \dots, F_q$ de $E$ tels que :
a) Pour tout $i \in \{1, \dots, q\}$ :
- $E_i = E_{i-1} \oplus F_i$.
- $u(F_i) \subseteq F_{i-1}$ (avec $F_0=\{0\}$).
- La restriction de $u$ à $F_i$ est injective.
b) $E$ est la somme directe de ces sous-espaces : $E = F_1 \oplus F_2 \oplus \dots \oplus F_q$.