Déterminer si un endomorphisme est nilpotent

Déterminer si un Endomorphisme est Nilpotent

Un endomorphisme $f$ est dit nilpotent s’il existe une puissance entière $k$ pour laquelle l’application devient l’application nulle. C’est une notion fondamentale dans la réduction des endomorphismes, notamment pour la décomposition de Dunford et la réduction de Jordan.

Définition et Critères

Un endomorphisme $f$ d’un espace $E$ est nilpotent s’il existe un entier $k \ge 1$ tel que $f^k = 0$. Le plus petit de ces entiers est appelé l’indice de nilpotence.

Pour une matrice carrée $A$, les critères suivants sont équivalents :

  • $A$ est nilpotente.
  • La seule valeur propre de $A$ (dans $\mathbb{C}$) est 0.
  • Son polynôme caractéristique est $\chi_A(X) = (-X)^n$.
  • Son polynôme minimal est de la forme $\mu_A(X) = X^k$ pour un certain $k$.
  • Sa trace et toutes les traces de ses puissances sont nulles : $\text{tr}(A^p)=0$ pour tout $p \ge 1$.

Exemple 1 : Test par Calcul Direct

Soit la matrice $A = \begin{pmatrix} 0 & 1 & 1 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix}$.

C’est une matrice triangulaire supérieure stricte, ce qui est un signe de nilpotence. Calculons ses puissances :
$A^2 = \begin{pmatrix} 0 & 1 & 1 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix} \begin{pmatrix} 0 & 1 & 1 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0 & 1 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix}$.
$A^3 = A^2 A = \begin{pmatrix} 0 & 0 & 1 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix} \begin{pmatrix} 0 & 1 & 1 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix}$.

Comme $A^3=0$, la matrice est nilpotente d’indice 3.

Exemple 2 : Test par le Polynôme Caractéristique

Soit $A = \begin{pmatrix} 1 & -1 & 1 \\ 1 & -1 & 1 \\ 0 & 0 & 0 \end{pmatrix}$.

Le test le plus efficace est le polynôme caractéristique.
$\chi_A(X) = \det(A-XI) = \det\begin{pmatrix} 1-X & -1 & 1 \\ 1 & -1-X & 1 \\ 0 & 0 & -X \end{pmatrix}$.
On développe par rapport à la dernière ligne :
$\chi_A(X) = -X \cdot \det\begin{pmatrix} 1-X & -1 \\ 1 & -1-X \end{pmatrix} = -X [ (1-X)(-1-X) – (-1)(1) ]$
$\chi_A(X) = -X [ -(1-X^2) + 1 ] = -X [ -1+X^2+1 ] = -X(X^2) = -X^3$.

Le polynôme caractéristique est bien de la forme $(-X)^3$.
Conclusion : La matrice est nilpotente.

Exemple 3 : Contre-exemple avec la trace

Soit $A = \begin{pmatrix} 1 & 0 \\ 0 & -1 \end{pmatrix}$.

Calculons la trace : $\text{tr}(A) = 1 + (-1) = 0$.
La trace est nulle, mais est-ce suffisant ? Non.

Calculons le polynôme caractéristique :
$\chi_A(X) = \det\begin{pmatrix} 1-X & 0 \\ 0 & -1-X \end{pmatrix} = (1-X)(-1-X) = X^2-1$.
Le polynôme n’est pas $(-X)^2$. Les valeurs propres sont 1 et -1, qui ne sont pas nulles.

Conclusion : La matrice n’est pas nilpotente. Le critère $\text{tr}(A)=0$ est une condition nécessaire mais pas suffisante.

Propriétés et Diagonalisation

Un endomorphisme nilpotent est un cas extrême de non-diagonalisabilité.

  • La seule valeur propre étant 0, si un endomorphisme nilpotent $f$ était diagonalisable, sa matrice dans une base de vecteurs propres serait la matrice nulle.
  • Par conséquent, un endomorphisme nilpotent est diagonalisable si et seulement si c’est l’endomorphisme nul.
  • Toute matrice triangulaire supérieure (ou inférieure) avec des zéros sur la diagonale est nilpotente.