Optimisation avec Plusieurs Contraintes : La Méthode de Lagrange Généralisée

Cas de Plusieurs Contraintes

La méthode des multiplicateurs de Lagrange se généralise de manière très naturelle aux problèmes où l’on cherche à optimiser une fonction sous plusieurs contraintes d’égalité simultanées. L’intuition géométrique et la construction du Lagrangien sont étendues en introduisant un multiplicateur de Lagrange pour chaque contrainte.

1. L’Intuition Géométrique Généralisée

Imaginons que l’on cherche à optimiser $f(x,y,z)$ sous deux contraintes $g_1(x,y,z)=k_1$ et $g_2(x,y,z)=k_2$.

  • Chaque contrainte définit une surface dans l’espace $\mathbb{R}^3$. Le domaine d’optimisation est l’intersection de ces deux surfaces, ce qui est généralement une courbe.
  • En un point d’extremum $a$ sur cette courbe, la surface de niveau de $f$ passant par $a$ doit être « tangente » à la courbe de contrainte.
  • Cela implique que le gradient de $f$ en $a$, $\nabla f(a)$, doit être orthogonal à la direction tangente de la courbe.
  • La direction tangente de la courbe est elle-même orthogonale aux gradients des deux surfaces de contrainte, $\nabla g_1(a)$ et $\nabla g_2(a)$.
  • Par conséquent, le vecteur $\nabla f(a)$ doit se trouver dans le plan engendré par les vecteurs $\nabla g_1(a)$ et $\nabla g_2(a)$. Il est une combinaison linéaire des gradients des contraintes.
[Image de l’intersection de deux surfaces avec les vecteurs gradients]

2. La Méthode avec Plusieurs Contraintes

Pour chaque contrainte, on introduit un multiplicateur de Lagrange.

Lagrangien pour $m$ Contraintes

Pour optimiser $f(x)$ sous $m$ contraintes $g_j(x)=k_j$ (pour $j=1, \dots, m$), on construit le Lagrangien avec $m$ multiplicateurs $\lambda_1, \dots, \lambda_m$ : $$ L(x, \lambda_1, \dots, \lambda_m) = f(x) – \sum_{j=1}^m \lambda_j (g_j(x) – k_j) $$

Les points critiques sont les solutions du système obtenu en annulant le gradient de $L$ par rapport à toutes ses variables ($x_i$ et $\lambda_j$).

Le système à résoudre est : $$ \nabla f(x) – \sum_{j=1}^m \lambda_j \nabla g_j(x) = \vec{0} \quad \text{et} \quad g_j(x) = k_j \text{ pour tout } j $$

Exemple : Point le plus proche de l’origine

Trouver le(s) point(s) de l’intersection du cylindre $x^2+y^2=1$ et du plan $x+y+z=1$ qui sont les plus proches de l’origine.

  1. Mise en équation :
    • Fonction à minimiser (carré de la distance) : $f(x,y,z) = x^2+y^2+z^2$.
    • Contrainte 1 : $g_1(x,y,z) = x^2+y^2=1$.
    • Contrainte 2 : $g_2(x,y,z) = x+y+z=1$.
  2. Lagrangien : $$ L(x,y,z,\lambda_1,\lambda_2) = (x^2+y^2+z^2) – \lambda_1(x^2+y^2-1) – \lambda_2(x+y+z-1) $$
  3. Système de points critiques : $$ \begin{cases} \frac{\partial L}{\partial x} = 2x – 2\lambda_1 x – \lambda_2 = 0 & (1) \\ \frac{\partial L}{\partial y} = 2y – 2\lambda_1 y – \lambda_2 = 0 & (2) \\ \frac{\partial L}{\partial z} = 2z – \lambda_2 = 0 & (3) \\ x^2+y^2=1 & (4) \\ x+y+z=1 & (5) \end{cases} $$
  4. Résolution :
    De (1) et (2) : $2x(1-\lambda_1) = \lambda_2$ et $2y(1-\lambda_1) = \lambda_2$.
    Si $1-\lambda_1 \neq 0$, alors $2x=2y \implies x=y$.
    Reportons $x=y$ dans la contrainte (4) : $x^2+x^2=1 \implies 2x^2=1 \implies x = \pm \frac{1}{\sqrt{2}}$.
    • Cas 1 : $x=y=\frac{1}{\sqrt{2}}$.
      Reportons dans (5) : $\frac{1}{\sqrt{2}} + \frac{1}{\sqrt{2}} + z = 1 \implies \sqrt{2}+z=1 \implies z=1-\sqrt{2}$.
      Premier point candidat : $A = (\frac{1}{\sqrt{2}}, \frac{1}{\sqrt{2}}, 1-\sqrt{2})$.
    • Cas 2 : $x=y=-\frac{1}{\sqrt{2}}$.
      Reportons dans (5) : $-\frac{1}{\sqrt{2}} – \frac{1}{\sqrt{2}} + z = 1 \implies -\sqrt{2}+z=1 \implies z=1+\sqrt{2}$.
      Second point candidat : $B = (-\frac{1}{\sqrt{2}}, -\frac{1}{\sqrt{2}}, 1+\sqrt{2})$.
    (Le cas $1-\lambda_1=0$ mène à $\lambda_2=0$, puis $z=0$, $x+y=1$ et $x^2+y^2=1$, donnant les points $(1,0,0)$ et $(0,1,0)$).
  5. Comparaison : On évalue la fonction distance au carré $f(x,y,z)=x^2+y^2+z^2$ en ces points :
    • $f(A) = (\frac{1}{\sqrt{2}})^2 + (\frac{1}{\sqrt{2}})^2 + (1-\sqrt{2})^2 = 1 + (1-2\sqrt{2}+2) = 4-2\sqrt{2} \approx 1.17$.
    • $f(B) = (-\frac{1}{\sqrt{2}})^2 + (-\frac{1}{\sqrt{2}})^2 + (1+\sqrt{2})^2 = 1 + (1+2\sqrt{2}+2) = 4+2\sqrt{2} \approx 6.83$.
    • $f(1,0,0)=1$ et $f(0,1,0)=1$.
    Le point le plus proche est donc double : (1,0,0) et (0,1,0), avec une distance de 1.