\documentclass{pbsheet}
\TITRE{Feuille de TP n°13 \\ Transformée de Laplace en modélisation}
\FORMATION{Épreuve de modélisation - Agrégation Externe de Mathématiques}
\ETABLISSEMENT{Université Paul Sabatier Toulouse III}
\ANNEE{2005}
\MEL{chafai@math.ups-tlse.fr}
\AUTEUR{B. Bercu \& D. Chafaï}
\WEB{http://www.lsp.ups-tlse.fr/Chafai/agregation.html}
\DATE{Janvier 2005}

\begin{document}

%%
\section{Transformée de Laplace}
%%

\begin{defi} 
  On appelle \emph{transformée de Laplace} d'une mesure de probabilité $\mu$
  sur $\dR^d$ la fonction $\bL_\mu:\dR\to\dR_+^*\cup\{+\infty\}$ définie pour
  tout $t\in\dR^d$ par 
  $$
  \bL_\mu(t):=\int_{\dR^d}\!\!e^\DP{t,x}\,d\mu(x).
  $$
  La transformée de Laplace d'un vecteur aléatoire $X$ de $\dR^d$ n'est
  rien d'autre que $\bL_{\cL(X)}$ et on a $\bL_\mu(t)=\bE(e^\DP{t,X})$. On
  définit également l'ensemble
  $$
  \cD_\mu:=\BRA{t\in\dR^d,\,\bL_\mu(t) <+\infty},
  $$
  et on notera $\INT{\cD_\mu}$ son intérieur pour la topologie de $\dR^d$.
\end{defi}

\begin{prop}
  L'ensemble $\cD_\mu$ est un ensemble convexe non vide de $\dR^d$ contenant
  l'origine $0$ et on a toujours $\bL_\mu(0)=1$. De plus, $\log\bL_\mu$ est
  convexe sur $\cD_\mu$.  Enfin, lorsque $d=1$, si le support de $\mu$ est
  inclus dans $\dR_+$, alors $\dR_-\subset \cD_\mu$; symétriquement, si le
  support de $\mu$ est inclus dans $\dR_-$, alors $\dR_+\subset\cD_\mu$.
\end{prop}

Dans la suite, on considérea essentiellement les transformées de Laplace de
variables aléatoires, i.e. $d=1$.
 
\begin{thm}
  Soit $X$ une v.a.r. de loi $\mu$.  Si $0 \!\in \INT{\cD_\mu}$, alors
  $\bL_\mu$ est analytique sur $\INT{\cD_\mu}$ et $X$ possède des moments de
  tout ordre, donnés pour tout $n\in \dN$ par $\bE(X^n)=\bL_\mu^{(n)}(0) $. De
  plus, pour tout $t \in \INT{\cD_\mu}$, on a
  $$
  \bL_\mu(t)=\sum_{n=0}^{+\infty}\frac{t^n}{n!}\bE(X^n).
  $$
\end{thm}

\begin{thm}[Caractérisation de la loi]
  La transformée de Laplace $\mu\mapsto\bL_\mu$ est en quelque sorte
  injective. Ainsi, si $\bL_\mu$ et $\bL_\nu$ coincident sur un ensemble
  ouvert non vide en prenant des valeurs finies, alors $\mu=\nu$.
\end{thm}

%\begin{thm}[Théorème des moments de Stieltjes\footnote{Thomas Jan Stieltjes
%    (1856-1894) est un mathématicien hollandais qui a vécu une bonne partie de
%    sa vie à Toulouse, cf.
%    \url{http://www-groups.dcs.st-andrews.ac.uk/history/Mathematicians/Stieltjes.html}.}]
%  FIXME: à faire.
%\end{thm}

%\begin{rem}[Transformée de Laplace -- Fonction caractéristique -- Fonction génératrice]
%  FIXME: à faire.
%\end{rem}

%%
\section{Transformée de Cramér}
%%

\begin{defi}
  Soit $\mu$ une mesure de probabilité sur $\dR$, de transformée de Laplace
  $\bL_\mu$.  On appelle transformée de Cramér $\bI_\mu$ de $\mu$ la
  transformée de Legendre de $\vphi_\mu:=\log\bL_\mu$, définie pour tout
  $x\in\dR$ par
  $$
  \bI_\mu(x):=\sup_{t\in\dR}\{xt -\vphi_\mu(t)\}.
  $$
  La transformée de Cramér d'une v.a.r. $X$ n'est rien d'autre que
  $\bI_{\cL(X)}$. La fonction $\vphi_\mu$ est parfois qualifiée de
  «log-Laplace» de $\mu$.
\end{defi}
 
\begin{rem} 
  Comme $\vphi_\mu(0)=0$, $\bI_\mu$ est à valeurs dans $[0;+\infty]$. De plus,
  $\bI_\mu(x)=\sup_{t\in\cD}\{xt-\vphi_\mu(t)\}$ et, si $\cD_\mu=\BRA{0}$,
  $\bI_\mu$ est identiquement nulle.
\end{rem}

\begin{rem} 
  Soit $X$ une v.a.r. de loi $\mu$. Alors $\vphi_\mu$ et $\bI_\mu$ sont
  convexes. De plus, si $X$ est intégrable avec $m=\bE(X)$, alors
  $\bI_\mu(m)=0$, $\bI_\mu$ est croissante sur $[m;+\infty[$ et décroissante
  sur $]-\infty;m]$.  Enfin, on a
  $$
  \bI_\mu(x)=\left\{
    \begin{array}{ll}
      \ds{\sup_{t\geq 0}\BRA{xt -\vphi_\mu(t)}} \text{ si } x\geq m, \\
      \ds{\sup_{t\leq 0}\BRA{xt -\vphi_\mu(t)}} \text{ si } x\leq m.
    \end{array}
  \right.
  $$
\end{rem}
  
%%
\section{Grandes Déviations et concentration de la mesure}
%%

\begin{thm}[Inégalité de concentration de Hoeffding]
  Soit $(X_n)_{n\in\dN^*}$ une suite de v.a.r. indépendantes et bornées à
  valeurs dans $[a_k,b_k]$ respectivement.  Si $S_n:=X_1+\cdots+X_n$, alors
  pour tout $x\geq0$,
  $$
  \dP\PAR{S_n-\bE(S_n)\geq x}%
  \leq %
  \exp\PAR{-\frac{2x^2}{(b_1-a_1)^2+\cdots+(b_k-a_k)^2}}.
  $$
\end{thm}

\begin{thm}[Inégalité de concentration de Bennett]
  Soit $(X_n)_{n\in\dN^*}$ une suite de v.a.r. indépendantes, de carré
  intégrable, et à valeurs dans $]-\infty,c]$.  Si $S_n:=X_1+\cdots+X_n$,
  alors pour tout $V_n\geq \sum_{k=1}^n\bE(X_k^2)$ et tout $x\geq0$,
  $$
  \dP\PAR{S_n-\bE(S_n)\geq x}%
  \leq %
  \exp\PAR{-\frac{x^2}{2\PAR{V_n+\frac{1}{3}\,xc}}}.
  $$
\end{thm}

\begin{thm}[Théorème de Cramér-Chernov]
  Soit $(X_n)_{n\in\dN^*}$ une suite de v.a.r. i.i.d. de loi commune $\mu$ de
  transformée de Cramér $\bI_\mu$.  Soit $S_n:=X_1+\cdots+X_n$. On a alors les
  bornes asymptotiques suivantes.
  \begin{itemize}
  \item[\textbf{Majoration.}] Pour tout ensemble fermé $F$ de $\dR$,
    $$
    \limsup_{n \rightarrow\infty}\, %
    \frac{1}{a_n}\,\log\dP\PAR{\frac{S_n}{n}\in F}%
    \leq -\inf_{x\in F}\bI_\mu(x),
    $$
  \item[\textbf{Minoration.}] Pour tout ensemble ouvert $G$ de $\dR$,
    $$
    \liminf_{n \rightarrow\infty}\, %
    \frac{1}{a_n}\,\log\dP\PAR{\frac{S_n}{n}\in G}%
    \geq -\inf_{x\in G}\bI_\mu(x).
    $$
  \end{itemize}
  On dit que la suite $(\frac{1}{n}\,S_n)_{n\in\dN^*}$ satisfait à un
  \emph{principe de grandes déviations} (PGD) de \emph{vitesse} $a_n:=n$ et de
  \emph{fonction de taux} $\bI_\mu$.
\end{thm}

\begin{rem}
  Le théorème de Cramér-Chernov est vrai sans aucune hypothèse d'intégrabilité
  sur les $X_n$. Cependant, lorsque les $X_n$ sont intégrables avec
  $m=\dE(X_1)$ alors,
  $$
  \forall x\geq m,\quad\frac{1}{n}\log\dP(S_n\geq nx)\limn{n}-\bI_\mu(x) %
  \text{\quad et\quad} %
  \forall x\leq m,\quad\frac{1}{n}\log\dP(S_n\leq nx)\limn{n}-\bI_\mu(x).
  $$
\end{rem}

%%
\section{Exercices et utilisation en modélisation}
%%

\begin{exo}[Qui est le plus fort ?]
  Soit $(X_n)_{n\in\dN^*}$ une suite de variables aléatoires i.i.d. de loi
  normale $\cN(m,\si^2)$ avec $\si>0$ et soit $S_n:=X_1+\cdots+X_n$.  Monter
  que pour tout $x>0$,
  $$
  \dP\PAR{\ABS{\frac{S_n}{n}-m}\geq x} %
  \sim %
  \frac{2\si}{x\sqrt{2\pi n}}\,\exp\PAR{-n\frac{x^2}{2\si^2}}.
  $$
  Écrire un programme permettant de comparer, pour différentes valeurs de
  $n$, la probabilité ci-dessus avec l'approximation donnée par le TLC, le PGD
  de Cramér-Chernov, ainsi que le développement asymptotique précis, où les
  paramètres $x$, $m$ et $\si^2$ sont affectés par l'utilisateur.
\end{exo}

\begin{exo}[PGD de la loi exponentielle]
  Soit $(X_n)_{n\in\dN}$ une suite de variables aléatoires i.i.d. de loi
  exponentielle $\cE(\la)$ et soit $S_n=X_1+\cdots+X_n$. Montrer que
  $(\frac{1}{n}\,S_n)_{n\in\dN^*}$ satisfait un PGD de fonction de taux valant
  $(\la x-1-\log(\la x))$ si $x>0$ et $+\infty$ sinon.  Écrire un programme
  illustrant ce PGD.
\end{exo}

\begin{exo}[Records] Soit $(X_n)_{n\in\dN}$ une suite de variables aléatoires 
  i.i.d. absolument continues.  Pour tout $n\geq 1$, on note $R_n$ le rang
  relatif de $X_n$, défini par $R_n:=1+\sum_{k=1}^{n}\rI_\BRA{X_{k}> X_n}$.
  Il est facile de voir que $\dP(R_n=r_n)=1/n$ avec $r_n\in\BRA{1,\ldots,n}$.
  Pour tout $n\geq 1$, si $R_n=1$, on dit qu'il se produit un record à
  l'instant $n$. On s'intéresse à la variable aléatoire $Z_n$ comptant le
  nombre de records jusqu'à l'instant $n$, définie par
  $Z_n:=\sum_{k=1}^{n}\rI_\BRA{R_k=1}$.  Montrer que 
  $$
  \frac{Z_n}{\log n}\limPS{n}1 
  \text{\quad et que\quad}
  \frac{Z_n -\log n}{\sqrt{\log n}}\limL{n}\cN(0,1).
  $$
  Montrer que $(\frac{1}{\log n}\,Z_n)_{n\in\dN^*}$ satisfait un PGD de
  vitesse $\log n$ et de fonction de taux valant $x\log x-x+1$ si $x>0$ et
  $+\infty$ sinon.  Écrire un programme illustrant ces résultats de
  convergence.
\end{exo}

\begin{exo}[Processus auto-regressif]
  On considère le processus auto-régressif stable $(X_n)_{n\in\dN}$ défini par
  $X_n:=\te X_{n-1}+\veps_n$ avec $|\te|<1$, $X_0=0$ et
  $(\veps_n)_{n\in\dN^*}$ i.i.d.  de loi normale $\cN(0,\si^2)$.  On estime
  $\te$ par l'estimateur de Yule-Walker
  $$
  \WH{\te}_n:=\frac{\sum_{k=1}^nX_kX_{k-1}}{\sum_{k=0}^{n}X_k^2},
  $$
  qui est relié aux moindres carrés.  Vérifier que 
  $$
  \WH{\te}_n\limPS{n}\te 
  \text{\quad et que\quad}
  \sqrt{n}\,\PAR{\WH{\te}_n- \te}\limL{n}\cN(0, 1-\te^2).
  $$
  On peut également montrer à l'aide du théorème de Gartner-Ellis
  (extension du théorème de Cramér-Chernov) que $(\WH{\te}_n)_{n\in\dN^*}$
  satisfait à un PGD de fonction de taux
  $$
  \bI(x)=\left\{
    \begin{array}{ll}
      \ds{\frac{1}{2}\log\PAR{\frac{1+\te^2-2\te x}{1-x^2}}} 
      \text{ si } -1<x<1, \\
      \ds{+\infty} \text{ sinon}.
    \end{array}
  \right.
  $$
  Écrire un programme illustrant ces résultats de convergence.
\end{exo}

\nocite{cottrell-duhamel}
\nocite{bouleau2bis}
\nocite{dacunha-castelle-duflo}

% {\tiny
\bibliographystyle{smfplain}
\bibliography{biblio}
% }

\end{document}

\begin{exo}[Temps de sortie d'une bande pour une marche aléatoire simple --
  Ruine du joueur]
FIXME: à faire.
\end{exo}

\begin{exo}[Familles exponentielles et domaine des moyennes]
FIXME: à faire.
\end{exo}

\begin{exo}[Lois conditionnelles d'un vecteur gaussien]
FIXME: à faire.
\end{exo}

\begin{exo}[Inégalité de Sobolev logarithmique et concentration poissonnienne]
  On se reportera à la feuille consacrée à la loi exponentielle et au
  processus de Poisson.
\end{exo}


%%% Local Variables: 
%%% mode: latex
%%% TeX-master: t
%%% End: 
