\documentclass{pbsheet} \TITRE{Feuille de TP n°13 \\ Transformée de Laplace en modélisation} \FORMATION{Épreuve de modélisation - Agrégation Externe de Mathématiques} \ETABLISSEMENT{Université Paul Sabatier Toulouse III} \ANNEE{2004} \MEL{chafai@math.ups-tlse.fr} \AUTEUR{B. Bercu \& D. Chafaï} \WEB{http://www.lsp.ups-tlse.fr/Chafai/agregation.html} \DATE{Mars 2004} \begin{document} %% \section{Transformée de Laplace} %% \begin{defi} On appelle \emph{transformée de Laplace} d'une mesure de probabilité $\mu$ sur $\dR^d$ la fonction $\bL_\mu:\dR\to\dR_+^*\cup\{+\infty\}$ définie pour tout $t\in\dR^d$ par $$ \bL_\mu(t):=\int_{\dR^d}\!\!e^\DP{t,x}\,d\mu(x). $$ La transformée de Laplace d'un vecteur aléatoire $X$ de $\dR^d$ n'est rien d'autre que $\bL_{\cL(X)}$ et on a $\bL_\mu(t)=\bE(e^\DP{t,X})$. On définit également l'ensemble $$ \cD_\mu:=\BRA{t\in\dR^d,\,\bL_\mu(t) <+\infty}, $$ et on notera $\INT{\cD_\mu}$ son intérieur pour la topologie de $\dR^d$. \end{defi} \begin{prop} L'ensemble $\cD_\mu$ est un ensemble convexe non vide de $\dR^d$ contenant l'origine $0$ et on a toujours $\bL_\mu(0)=1$. De plus, $\log\bL_\mu$ est convexe sur $\cD_\mu$. Enfin, lorsque $d=1$, si le support de $\mu$ est inclus dans $\dR_+$, alors $\dR_-\subset \cD_\mu$; symétriquement, si le support de $\mu$ est inclus dans $\dR_-$, alors $\dR_+\subset\cD_\mu$. \end{prop} Dans la suite, on considérea essentiellement les transformées de Laplace de variables aléatoires, i.e. $d=1$. \begin{thm} Soit $X$ une v.a.r. de loi $\mu$. Si $0 \!\in \INT{\cD_\mu}$, alors $\bL_\mu$ est analytique sur $\INT{\cD_\mu}$ et $X$ possède des moments de tout ordre, donnés pour tout $n\in \dN$ par $\bE(X^n)=\bL_\mu^{(n)}(0) $. De plus, pour tout $t \in \INT{\cD_\mu}$, on a $$ \bL_\mu(t)=\sum_{n=0}^{+\infty}\frac{t^n}{n!}\bE(X^n). $$ \end{thm} \begin{thm}[Caractérisation de la loi] La transformée de Laplace $\mu\mapsto\bL_\mu$ est en quelque sorte injective. Ainsi, si $\bL_\mu$ et $\bL_\nu$ coincident sur un ensemble ouvert non vide en prenant des valeurs finies, alors $\mu=\nu$. \end{thm} \begin{thm}[Théorème des moments de Stieltjes\footnote{Thomas Jan Stieltjes (1856-1894) est un mathématicien hollandais qui a vécu une bonne partie de sa vie à Toulouse, cf. \url{http://www-groups.dcs.st-andrews.ac.uk/history/Mathematicians/Stieltjes.html}.}] FIXME: à faire. \end{thm} \begin{rem}[Transformée de Laplace -- Fonction caractéristique -- Fonction génératrice] FIXME: à faire. \end{rem} %% \section{Transformée de Cramér} %% \begin{defi} Soit $\mu$ une mesure de probabilité sur $\dR$, de transformée de Laplace $\bL_\mu$. On appelle transformée de Cramér $\bI_\mu$ de $\mu$ la transformée de Legendre de $\vphi_\mu:=\log\bL_\mu$, définie pour tout $x\in\dR$ par $$ \bI_\mu(x):=\sup_{t\in\dR}\{xt -\vphi_\mu(t)\}. $$ La transformée de Cramér d'une v.a.r. $X$ n'est rien d'autre que $\bI_{\cL(X)}$. La fonction $\vphi_\mu$ est parfois qualifiée de «log-Laplace» de $\mu$. \end{defi} \begin{rem} Comme $\vphi_\mu(0)=0$, $\bI_\mu$ est à valeurs dans $[0;+\infty]$. De plus, $\bI_\mu(x)=\sup_{t\in\cD}\{xt-\vphi_\mu(t)\}$ et, si $\cD_\mu=\BRA{0}$, $\bI_\mu$ est identiquement nulle. \end{rem} \begin{rem} Soit $X$ une v.a.r. de loi $\mu$. Alors $\vphi_\mu$ et $\bI_\mu$ sont convexes. De plus, si $X$ est intégrable avec $m=\bE(X)$, alors $\bI_\mu(m)=0$, $\bI_\mu$ est croissante sur $[m;+\infty[$ et décroissante sur $]-\infty;m]$. Enfin, on a $$ \bI_\mu(x)=\left\{ \begin{array}{ll} \ds{\sup_{t\geq 0}\BRA{xt -\vphi_\mu(t)}} \text{ si } x\geq m, \\ \ds{\sup_{t\leq 0}\BRA{xt -\vphi_\mu(t)}} \text{ si } x\leq m. \end{array} \right. $$ \end{rem} %% \section{Grandes Déviations et concentration de la mesure} %% \begin{thm}[Inégalité de concentration de Hoeffding] Soit $(X_n)_{n\in\dN^*}$ une suite de v.a.r. indépendantes et bornées à valeurs dans $[a_k,b_k]$ respectivement. Si $S_n:=X_1+\cdots+X_n$, alors pour tout $x\geq0$, $$ \dP\PAR{S_n-\bE(S_n)\geq x}% \leq % \exp\PAR{-\frac{2x^2}{(b_1-a_1)^2+\cdots+(b_k-a_k)^2}}. $$ \end{thm} \begin{thm}[Inégalité de concentration de Bennett] Soit $(X_n)_{n\in\dN^*}$ une suite de v.a.r. indépendantes, de carré intégrable, et à valeurs dans $]-\infty,c]$. Si $S_n:=X_1+\cdots+X_n$, alors pour tout $V_n\geq \sum_{k=1}^n\bE(X_k^2)$ et tout $x\geq0$, $$ \dP\PAR{S_n-\bE(S_n)\geq x}% \leq % \exp\PAR{-\frac{x^2}{2\PAR{V_n+\frac{1}{3}\,xc}}}. $$ \end{thm} \begin{thm}[Théorème de Cramér-Chernov] Soit $(X_n)_{n\in\dN^*}$ une suite de v.a.r. i.i.d. de loi commune $\mu$ de transformée de Cramér $\bI_\mu$. Soit $S_n:=X_1+\cdots+X_n$. On a alors les bornes asymptotiques suivantes. \begin{itemize} \item[\textbf{Majoration.}] Pour tout ensemble fermé $F$ de $\dR$, $$ \limsup_{n \rightarrow\infty}\, % \frac{1}{a_n}\,\log\dP\PAR{\frac{S_n}{n}\in F}% \leq -\inf_{x\in F}\bI_\mu(x), $$ \item[\textbf{Minoration.}] Pour tout ensemble ouvert $G$ de $\dR$, $$ \liminf_{n \rightarrow\infty}\, % \frac{1}{a_n}\,\log\dP\PAR{\frac{S_n}{n}\in G}% \geq -\inf_{x\in G}\bI_\mu(x). $$ \end{itemize} On dit que la suite $(\frac{1}{n}\,S_n)_{n\in\dN^*}$ satisfait à un \emph{principe de grandes déviations} (PGD) de \emph{vitesse} $a_n:=n$ et de \emph{fonction de taux} $\bI_\mu$. \end{thm} \begin{rem} Le théorème de Cramér-Chernov est vrai sans aucune hypothèse d'intégrabilité sur les $X_n$. Cependant, lorsque les $X_n$ sont intégrables avec $m=\dE(X_1)$ alors, $$ \forall x\geq m,\quad\frac{1}{n}\log\dP(S_n\geq nx)\limn{n}-\bI_\mu(x) % \text{\quad et\quad} % \forall x\leq m,\quad\frac{1}{n}\log\dP(S_n\leq nx)\limn{n}-\bI_\mu(x). $$ \end{rem} %% \section{Exercices et utilisation en modélisation} %% \begin{exo}[Qui est le plus fort ?] Soit $(X_n)_{n\in\dN^*}$ une suite de variables aléatoires i.i.d. de loi normale $\cN(m,\si^2)$ avec $\si>0$ et soit $S_n:=X_1+\cdots+X_n$. Monter que pour tout $x>0$, $$ \dP\PAR{\ABS{\frac{S_n}{n}-m}\geq x} % \sim % \frac{2\si}{x\sqrt{2\pi n}}\,\exp\PAR{-n\frac{x^2}{2\si^2}}. $$ Écrire un programme permettant de comparer, pour différentes valeurs de $n$, la probabilité ci-dessus avec l'approximation donnée par le TLC, le PGD de Cramér-Chernov, ainsi que le développement asymptotique précis, où les paramètres $x$, $m$ et $\si^2$ sont affectés par l'utilisateur. \end{exo} \begin{exo}[PGD de la loi exponentielle] Soit $(X_n)_{n\in\dN}$ une suite de variables aléatoires i.i.d. de loi exponentielle $\cE(\la)$ et soit $S_n=X_1+\cdots+X_n$. Montrer que $(\frac{1}{n}\,S_n)_{n\in\dN^*}$ satisfait un PGD de fonction de taux valant $(\la x-1-\log(\la x))$ si $x>0$ et $+\infty$ sinon. Écrire un programme illustrant ce PGD. \end{exo} \begin{exo}[Records] Soit $(X_n)_{n\in\dN}$ une suite de variables aléatoires i.i.d. absolument continues. Pour tout $n\geq 1$, on note $R_n$ le rang relatif de $X_n$, défini par $R_n:=1+\sum_{k=1}^{n}\rI_\BRA{X_{k}> X_n}$. Il est facile de voir que $\dP(R_n=r_n)=1/n$ avec $r_n\in\BRA{1,\ldots,n}$. Pour tout $n\geq 1$, si $R_n=1$, on dit qu'il se produit un record à l'instant $n$. On s'intéresse à la variable aléatoire $Z_n$ comptant le nombre de records jusqu'à l'instant $n$, définie par $Z_n:=\sum_{k=1}^{n}\rI_\BRA{R_k=1}$. Montrer que $$ \frac{Z_n}{\log n}\limPS{n}1 \text{\quad et que\quad} \frac{Z_n -\log n}{\sqrt{\log n}}\limL{n}\cN(0,1). $$ Montrer que $(\frac{1}{\log n}\,Z_n)_{n\in\dN^*}$ satisfait un PGD de vitesse $\log n$ et de fonction de taux valant $x\log x-x+1$ si $x>0$ et $+\infty$ sinon. Écrire un programme illustrant ces résultats de convergence. \end{exo} \begin{exo}[Processus auto-regressif] On considère le processus auto-régressif stable $(X_n)_{n\in\dN}$ défini par $X_n:=\te X_{n-1}+\veps_n$ avec $|\te|<1$, $X_0=0$ et $(\veps_n)_{n\in\dN^*}$ i.i.d. de loi normale $\cN(0,\si^2)$. On estime $\te$ par l'estimateur de Yule-Walker $$ \WH{\te}_n:=\frac{\sum_{k=1}^nX_kX_{k-1}}{\sum_{k=0}^{n}X_k^2}, $$ qui est relié aux moindres carrés. Vérifier que $$ \WH{\te}_n\limPS{n}\te \text{\quad et que\quad} \sqrt{n}\,\PAR{\WH{\te}_n- \te}\limL{n}\cN(0, 1-\te^2). $$ On peut également montrer à l'aide du théorème de Gartner-Ellis (extension du théorème de Cramér-Chernov) que $(\WH{\te}_n)_{n\in\dN^*}$ satisfait à un PGD de fonction de taux $$ \bI(x)=\left\{ \begin{array}{ll} \ds{\frac{1}{2}\log\PAR{\frac{1+\te^2-2\te x}{1-x^2}}} \text{ si } -1