Théorème spectral hermitien pour les opérateurs compacts

Nous présentons ici le théorème spectral fondamental pour les opérateurs hermitiens compacts sur un espace de Hilbert. Ce résultat est central en analyse fonctionnelle et en mécanique quantique. Nous supposons $\mathcal{H}$ un espace de Hilbert (séparable) et $\mathcal{B}(\mathcal{H})$ l’algèbre des opérateurs linéaires bornés.

Définitions formelles

Soit $T \in \mathcal{B}(\mathcal{H})$. On dit que $T$ est hermitien (ou auto-adjoint) si $\langle Tx, y \rangle = \langle x, Ty \rangle$ pour tous $x, y \in \mathcal{H}$. On note $T = T^*$.

On dit que $T$ est compact si l’image par $T$ de toute borne bornée de $\mathcal{H}$ est relativement compacte (son adhérence est compacte). Un opérateur compact envoie les suites bornées sur des suites qui admettent une sous-suite convergente.

Le spectre $\sigma(T)$ d’un opérateur $T$ est l’ensemble des $\lambda \in \mathbb{C}$ tels que $T – \lambda I$ ne soit pas inversible borné. Pour un opérateur hermitien, $\sigma(T) \subset \mathbb{R}$.

Énoncé du théorème spectral hermitien

Soit $T \in \mathcal{B}(\mathcal{H})$ un opérateur hermitien compact et non nul. Alors :

• Le spectre $\sigma(T)$ est un ensemble dénombrable (fini ou infini) contenant au plus $0$ comme point d’accumulation.
• Toute valeur propre non nulle $\lambda \in \sigma(T) \setminus \{0\}$ est de multiplicité algébrique et géométrique finie.
1. Il existe une base orthonormée $(e_n)_{n \in I}$ de $\mathcal{H}$ constituée de vecteurs propres de $T$, associated aux valeurs propres non nulles $(\lambda_n)_{n \in I}$. Autrement dit :
   $$
   T = \sum_{n \in I} \lambda_n \langle \cdot, e_n \rangle e_n,
   $$
   la série convergeant au sens de la norme d’opérateur. De plus, $\lambda_n \to 0$ lorsque $n \to \infty$ (si $I$ est infini).

Preuve du théorème spectral hermitien

Preuve :

Commencez par montrer que pour un opérateur hermitien compact $T \neq 0$, on a $\|T\| > 0$ et $\|T\| \in \sigma(T)$. En effet, par compacité, il existe une suite $(x_n)$ de norme 1 telle que $(Tx_n)$ converge. La suite $(x_n)$ étant bornée, par compacité de $T$, on peut extraire une sous-suite $(Tx_{n_k})$ convergente. Utilisez l’identité de polarisation pour montrer que $(x_{n_k})$ est de Cauchy. Sa limite $x$ vérifie $\|Tx\| = \|T\|$ (lemme de l’équerre). Alors $T(x) = \|T\| x$ ou $T(x) = -\|T\| x$, donc $\|T\| \in \sigma(T)$.

Montrons que tout $\lambda \in \sigma(T) \setminus \{0\}$ est une valeur propre. Soit $\lambda \neq 0$ dans $\sigma(T)$. Alors $T – \lambda I$ n’est pas inversible. Puisque $\lambda \neq 0$, on a $(T – \lambda I) = -\lambda(I – \frac{1}{\lambda}T)$. Comme $T$ est compact, $\frac{1}{\lambda}T$ est compact. L’opérateur $I – K$ (avec $K$ compact) n’étant pas inversible implique par le théorème de Fredholm que $0$ est valeur propre de $K$, donc $-1$ est valeur propre de $-\frac{1}{\lambda}T$, ce qui équivaut à $\lambda$ valeur propre de $T$.

Montrons que les valeurs propres non nulles sont isolées. Soit $\lambda_0 \neq 0$ une valeur propre. L’espace propre $E_{\lambda_0} = \ker(T – \lambda_0 I)$ est de dimension finie (car $T – \lambda_0 I$ est Fredholm d’indice 0 et de noyau fini par compacité). Alors $\lambda_0$ est isolé dans $\sigma(T)$ car $\sigma(T) \setminus \{0\}$ est discret (il n’y a pas d’accumulation de valeurs propres non nulles). En effet, si $\lambda_n \to \lambda_0 \neq 0$ avec $\lambda_n \in \sigma(T)$, pour $n$ assez grand $\lambda_n \neq \lambda_0$ et les espaces propres $E_{\lambda_n}$ sont orthogonaux entre eux (car $T$ hermitien). La somme directe de ces espaces serait de dimension infinie si la suite $(\lambda_n)$ était infinie, contradiction avec le fait que $\mathcal{H}$ est de dimension séparable et que les $E_{\lambda_n}$ sont deux à deux orthogonaux et de dimension finie. Donc $\sigma(T) \setminus \{0\}$ est fini ou dénombrable sans point d’accumulation.

Construisons la base orthonormée. Les espaces propres $E_\lambda$ pour $\lambda \neq 0$ sont de dimension finie. Considérons l’espace $F = \overline{\operatorname{span}}\bigcup_{\lambda \in \sigma(T)\setminus\{0\}} E_\lambda$. Alors $F^\perp = \ker T$. En effet, si $x \perp E_\lambda$ pour tout $\lambda \neq 0$, alors pour tout $y \in \bigcup E_\lambda$, $\langle Tx, y \rangle = \langle x, Ty \rangle = \langle x, \lambda y \rangle = \lambda \langle x, y \rangle = 0$, donc $Tx \in F^\perp$. Mais comme $T$ est hermitien, $\langle Tx, x \rangle = 0$ pour tout $x \in F^\perp$. Si $x \in F^\perp$, décomposons $x = P_F x + P_{F^\perp} x$, alors $\langle Tx, P_F x \rangle = 0$ car $P_F x \in F$. Par orthogonalité, $\langle Tx, P_{F^\perp} x \rangle = \langle T P_{F^\perp} x, P_{F^\perp} x \rangle = 0$. Cela implique $T P_{F^\perp} x = 0$ (car hermitien et positif sur $F^\perp$ ? Non, on doit argumenter autrement). En fait, on montre que $F^\perp \subset \ker T$. Inversement, si $x \in \ker T$, alors clairement $x \perp E_\lambda$ pour $\lambda \neq 0$ car $\langle Tx, y \rangle = 0 = \lambda \langle x, y \rangle$ pour $y \in E_\lambda$, donc $\langle x, y \rangle = 0$. Ainsi $F^\perp = \ker T$. Sur $F^\perp$, $T = 0$. Sur $F$, $T$ est de spectre discret. En prenant une base orthonormée dans chaque $E_\lambda$ et en l’unissant, on obtient une base orthonormée de $F$. En ajoutant une base orthonormée de $\ker T$ si $\ker T \neq \{0\}$, on a une base orthonormée de $\mathcal{H}$ constituée de vecteurs propres de $T$. La convergence de la série s’obtient par la compacité et le fait que les valeurs propres tendent vers $0$.

$\blacksquare$

Exemples fondamentaux

Exemple 1 (Opérateur intégral de Hilbert-Schmidt). Sur $L^2([a,b])$, définissez $T$ par $(Tx)(t) = \int_a^b K(t,s)x(s) \, ds$ où $K$ est continue et symétrique : $K(t,s)=K(s,t)$. Alors $T$ est hermitien et compact (noyau continu). Ses valeurs propres sont réelles, et le théorème spectral s’applique. On a la décomposition de Mercer : $K(t,s) = \sum_{n=1}^\infty \lambda_n e_n(t) \overline{e_n(s)}$.

Exemple 2 (Matrices hermitiennes infinies). Considérons l’opérateur $T$ sur $\ell^2(\mathbb{N})$ défini par $T(e_n) = \frac{1}{n} e_n$, où $(e_n)$ est la base canonique. $T$ est hermitien, compact (car les valeurs propres $\frac{1}{n} \to 0$). Le spectre est $\{\frac{1}{n} \mid n \in \mathbb{N}^*\} \cup \{0\}$.

Contre-exemples et limites

Contre-exemple 1 (Opérateur hermitien borné non compact). L’opérateur identité $I$ sur un espace de Hilbert de dimension infinie est hermitien, mais non compact. Son spectre est $\{1\}$ (point isolé) sans vecteur propre associé si la dimension est infinie ? En fait $I$ a tout $\mathcal{H}$ comme espace propre pour la valeur $1$. Le théorème spectral ne s’applique pas car $I$ n’est pas compact, mais il possède néanmoins une base orthonormée de vecteurs propres (toute base orthonormée). Cependant, le spectre n’est pas discret au sens où $0$ n’est pas valeur propre, mais le théorème exige la compacité pour garantir que $0$ est le seul point d’accumulation possible et que les valeurs propres non nulles sont isolées.

Contre-exemple 2 (Opérateur normal non hermitien). L’opérateur de décalage unilateral $S$ sur $\ell^2(\mathbb{N})$, $(Sx)_n = x_{n-1}$ (avec $x_0 = 0$), est normal mais non compact. Son spectre est le disque unité fermé, un continuum. Aucune valeur propre (sauf éventuellement $0$ qui n’est pas valeur propre). Le théorème spectral échoue car l’opérateur n’est pas hermitien ni compact.

Extensions et références

Ce théorème se généralise aux opérateurs normaux compacts (théorème spectral de Riesz) où la valeur propre peut être complexe et les espaces propres ne sont plus nécessairement réels mais forment une base orthonormée dans $\mathcal{H}$. Pour une étude approfondie des espaces de Hilbert et des opérateurs, consultez les cours de KeepMath sur l’analyse fonctionnelle. La revue CultureMATH propose également des articles historiques et complémentaires.