Théorèmes

Théorème de Rao-Blackwell Contexte : Comment améliorer un estimateur ? En statistique inférentielle, l’objectif est d’estimer un paramètre inconnu $\theta$ d’une population à partir d’un échantillon. On peut souvent trouver un estimateur simple et non biaisé, mais est-ce le « meilleur » ? La notion de « meilleur » est généralement liée à la variance la plus faible, car…

Théorème de Gauss-Markov Contexte : La Régression Linéaire En statistique, on cherche souvent à modéliser une variable $Y$ en fonction d’autres variables $X$ à l’aide d’une relation linéaire. Le modèle s’écrit sous forme matricielle : $$ Y = X\beta + \varepsilon $$ où $Y$ est le vecteur des observations, $X$ la matrice des régresseurs, $\beta$…

Théorème de Glivenko-Cantelli Contexte : Estimer une loi de probabilité En statistiques, une question fondamentale est : comment estimer la loi de probabilité d’un phénomène à partir d’un échantillon de données ? La fonction de répartition empirique est un outil clé pour répondre à cette question. Si on dispose d’un échantillon $X_1, X_2, \dots, X_n$,…

Inégalité de Bienaymé-Tchebychev Contexte : Contrôler les Écarts à la Moyenne L’inégalité de Bienaymé-Tchebychev est un résultat de la théorie des probabilités qui donne une borne supérieure à la probabilité qu’une variable aléatoire s’écarte de son espérance. Son immense force réside dans son universalité : elle s’applique à n’importe quelle variable aléatoire dont on connaît…

Inégalité de Markov Contexte : Borner une Probabilité En probabilités, on cherche souvent à estimer la probabilité d’un événement « rare » ou « extrême ». L’inégalité de Markov fournit une première réponse, une « borne supérieure », à cette question. Sa grande force est qu’elle est universelle : elle ne dépend pas de la loi de probabilité de la variable,…

Théorème de Bayes Contexte : Inverser les Probabilités Conditionnelles Le théorème de Bayes, ou règle de Bayes, est une formule qui permet de « retourner » une probabilité conditionnelle. Il décrit la probabilité d’un événement, basée sur une connaissance a priori qui est mise à jour par de nouvelles informations. La probabilité conditionnelle $P(A|B)$ est la probabilité…

Théorème de De Moivre-Laplace Contexte : La Loi Binomiale La loi binomiale est l’une des lois de probabilité les plus courantes. Elle modélise le nombre de « succès » que l’on obtient en répétant $n$ fois une expérience aléatoire indépendante qui n’a que deux issues possibles : « succès » (avec une probabilité $p$) ou « échec » (avec une probabilité…

Théorème Central Limite Contexte : La Somme de l’Aléatoire Imaginez que vous répétiez une expérience aléatoire un grand nombre de fois. Par exemple, lancer un dé, mesurer la taille d’une personne prise au hasard, ou observer le rendement quotidien d’une action en bourse. Chaque résultat est une variable aléatoire. Le théorème central limite s’intéresse à…

Théorème de Bayes Contexte : Inverser les Probabilités Conditionnelles Le théorème de Bayes, ou règle de Bayes, est une formule qui permet de « retourner » une probabilité conditionnelle. Il décrit la probabilité d’un événement, basée sur une connaissance a priori qui est mise à jour par de nouvelles informations. La probabilité conditionnelle $P(A|B)$ est la probabilité…

Loi des grands nombres (faible et forte) Contexte : La Moyenne Empirique Les lois des grands nombres sont des théorèmes fondamentaux en probabilités qui décrivent le comportement de la moyenne d’un grand nombre de variables aléatoires. Soit $(X_n)_{n \ge 1}$ une suite de variables aléatoires indépendantes et de même loi (i.i.d.), ayant une espérance commune…