\documentclass{pbsheet} \TITRE{Feuille de TP n°11 \\ Loi exponentielle en modélisation} \FORMATION{Épreuve de modélisation - Agrégation Externe de Mathématiques} \ETABLISSEMENT{Université Paul Sabatier Toulouse III} \ANNEE{2004} \MEL{chafai@math.ups-tlse.fr} \AUTEUR{B. Bercu \& D. Chafaï} \WEB{http://www.lsp.ups-tlse.fr/Chafai/agregation.html} \DATE{mars 2004} \begin{document} %% \section{Géométrique, Exponentielle, Weibull} %% La loi géométrique $\cG$, la loi exponentielle $\cE$ et la loi de Weibull $\cW$ sont souvent utilisées pour modéliser des temps d'attente ou des durées de vie. Il se trouve que $\cG$ est la version discrète de $\cE$, et que $\cE$ est un cas particulier de $\cW$. \begin{rem} Dans toute la suite, la loi géométrique de paramètre $p\in]0,1[$, notée $\cG(p)$, désignera la loi $p\sum_{n=1}^\infty(1-p)^{n-1}\de_n$ ou bien la loi $p\sum_{n=0}^\infty(1-p)^n\de_n$, le passage de l'une à l'autre se faisant en translatant le support de $1$. La définition utilisée sera précisée si nécessaire pour éviter les confusions. \end{rem} \begin{defi} Soit $X$ une v.a.r. de fonction de répartition $F$ sur $\dR$. Sa loi est dite \begin{enumerate} \item exponentielle $\cE(\la)$ avec $\la>0$ si $ F(t)=(1-\exp(-\la t))\,\rI_\BRA{t \geq 0}$; \item de Weibull $\cW(a,\la)$ avec $a>0$ et $\la>0$ si $F(t)=(1-\exp(-\la t^a))\,\rI_\BRA{t \geq 0}$. \end{enumerate} \end{defi} Ces deux lois sont absolument continues, de densité respectives $$ x\mapsto\la\exp(-\la x)\,\rI_\BRA{x \geq 0} % \text{\quad et\quad} % x\mapsto a\la x^{a-1}\exp(-\la x^a)\,\rI_\BRA{x \geq 0}. $$ Si $X\sim\cW(a,\la)$, alors $X^a\sim\cE(\la)$. Si $a=1$, alors $X$ suit la loi exponentielle $\cE(\la)$. Si $a=2$, alors $X$ suit la loi de Rayleigh $\cR(a)$. \begin{rem}[Premiers moments\ldots] Les deux premiers moments de $\cE(\la)$ sont $\la^{-1}$ et $\la^{-2}$. Plus généralement, les deux premiers moments de $\cW(a,\la)$ sont donnés par $\la^{-1/a}\,\Ga(1+1/a)$ et $\la^{-2/a}\,(\Ga(1+2/a)-\Ga^2(a+1/a))$ où $\Ga$ est la fonction Gamma d'Euler définie par $\Ga(a):=\int_0^\infty x^{a-1}\exp(-x)\,dx$. \end{rem} \begin{rem}[Amnésie exponentielle] La loi exponentielle hérite de sa fonction de répartition exponentielle des propriétés remarquables. Ainsi, une v.a.r. $X$ absolument continue à valeurs dans $\dR_+$ suit une loi exponentielle si et seulement si, pour tout $s,t \geq 0$, \begin{equation}\label{eq:exp-memless} \dP(X > t+s\,|\, X \geq t)=\dP(X > s). \end{equation} Dans le même esprit, la v.a.r. absolument continue $X$ à valeur dans $\dR_+$ suit une loi exponentielle si et seulement si, pour tout $s,t>0$, $\dP(X \leq t+s\,|\,X > t)=st+o(s)$. La propriété \eqref{eq:exp-memless} exprime le fait que la loi exponentielle se caractérise par une \emph{absence de mémoire} : $$ \forall t>0,\ \cL(X-t\,\vert\,X\geq t) = \cL(X). $$ Cela traduit bien le comportement de durées de vie en fiabilité, du temps d'arrivée du prochain client dans une file d'attente, etc. Si $X_1,\ldots,X_n$ sont indépendantes et de lois respectives $\cE(\la_1),\ldots,\cE(\la_n)$, alors $\min(X_1,\ldots,X_n)\sim\cE(\la_1+\cdots+\la_n)$ et $\dP(X_i=\min(X_1,\ldots,X_n))=\la_i/(\la_1+\cdots+\la_n)$. Comme nous allons le voir, cette dernière propriété joue un rôle très important dans l'étude des files d'attentes ainsi que pour leur simulation. \end{rem} \begin{rem}[Amnésie géométrique] Ici, on considère la loi géométrique $\cG(p)$ de paramètre $p\in]0,1[$ donnée par $\cG(p):=p\sum_{n=0}^\infty(1-p)^n\de_n$, mais ce qui est dit d'adapte sans immédiatement à l'autre définition. La fonction de répartition de $\cG(p)$ est nulle sur $]-\infty,0[$, tandis que sur les intervalles de la forme $[n-1,n[$ avec $n\in\dN^*$, elle vaut $1-(1-p)^n=1-e^{-n\log(1-p)}$. La loi $\cG(p)$ hérite de la sa fonction de répartition quasi-exponentielle des propriétés remarquables. Ainsi, une v.a.r. discrète $X$ à valeurs dans $\dN$ suit une loi $\cG(p)$ si et seulement si, pour tout $n,m\in\dN$, \begin{equation}\label{eq:geom-memless} \dP(X > n+m\,|\, X \geq n)=\dP(X > m). \end{equation} La propriété \eqref{eq:geom-memless} exprime le fait que la loi géométrique se caractérise par une \emph{absence de mémoire} : $$ \forall n\in\dN^*,\ \cL(X-n\,\vert\,X\geq n) = \cL(X). $$ Cela traduit bien le comportement de durées de vie en fiabilité, du temps d'arrivée du prochain client dans une file d'attente, etc. Si $X_1,\ldots,X_n$ sont indépendantes et de lois respectives $\cG(p_1),\ldots,\cG(p_n)$, alors $\min(X_1,\ldots,X_n)\sim\cG(1-(1-p_1)\cdots(1-p_n))$. \end{rem} \begin{exo}[Petit calcul] Soit $X_1,\ldots,X_n$ des v.a. indépendantes et de lois respectives $\cG(p_1),\ldots,\cG(p_n)$ où $\cG(p):=p\sum_{n=0}^\infty(1-p)^n\de_n$. Exprimer $\dP(X_i=\min(X_1,\ldots,X_n))$ en fonction de $p_1,\ldots,p_n$. Ce calcul sera utile à résolution de l'exercice \ref{ex:filatt-discr}. \end{exo} \begin{rem}[Quasi-amnésie de Weibull] Si $X\sim\cW(a,\la)$, alors pour tout $s,t \geq 0$, $$ \dP(X > t+s\,|\,X > t) \quad \begin{cases} \geq\ \dP(X > s) \text{\quad si }a\leq 1, \\ \leq\ \dP(X > s) \text{\quad si } a\geq 1. \end{cases} $$ \end{rem} \begin{rem}[La loi géométrique comme partie entière de la loi exponentielle] \label{rm:exp-geom} % Pour tout $x\in\dR_+$, on note $\PENT{x}$ sa partie entière et $\PFRAC{x}:=x-\PENT{x}$ sa partie fractionnaire. Si $X\sim\cE(\la)$, alors $\PENT{X}$ et $\PFRAC{X}$ sont indépendantes. De plus, $\PENT{X}\sim\cG(1-e^{-\la})$ où $\cG(p):=p\sum_{n=0}^{+\infty} (1-p)^n\,\de_n$, et enfin $\PFRAC{X}$ suit la loi $\cL(X\,\vert\,X\in[0,1])$ de densité suivante: $$ x\in\dR\to\frac{1}{1-e^{-\la}}\,\la\,e^{-\la x}\,\rI_\SBRA{0,1}(x). $$ Ce fait\footnote{Plus généralement, si $Y_t:=\PENT{X/t}+1$ avec $t>0$ fixé et $X\sim\cE(\la)$, alors $Y_t\sim\cG(1-\exp(-\la t))$, etc.} est une conséquence directe de l'absence de mémoire de $\cE(\la)$, qui entraîne que $\cL(\PFRAC{X}\,\vert\,\PENT{X})$ ne dépend pas de $\PENT{X}$ et vaut $\cL(X\,\vert\,X\in[0,1])$. L'intuition à retenir est que dans un jeu de pile ou face de paramère de gain $p\in]0,1[$, la quantité $-\log(1-p)$ joue le rôle du paramètre $\la$ d'une loi exponentielle. La loi géométrique est l'analogue discret de la loi exponentielle. Nous allons voir que la loi exponentielle apparait comme la loi des temps inter-sauts d'un processus de Poisson, tandisque la loi géométrique apparait comme la loi des temps inter-sauts d'un processus de Bernoulli. \end{rem} \begin{rem}[Lois de Dirichlet -- Statistiques d'ordre -- Lois exponentielles] Soit $(U_1,\ldots,U_n)$ un vecteur de v.a.r. i.i.d. de loi uniforme sur $[a,b]$. Soit $V:=(U_{(1)},\ldots,U_{(n)})$ son réarrangement croissant. La loi de $V$ est appelée \emph{loi de Dirichlet} $\cD_n([a,b])$, ou \emph{statistique d'ordre}. Elle est absolument continue par rapport à la mesure de Lebesgue sur $\dR^n$ et admet pour densité $$ \frac{n!}{(b-a)^n}\,\rI_\BRA{a0$, $$ \cL(T_1,\ldots,T_{n-1}\,\vert\,T_{n-1}0$ issu de zéro si et seulement si $N_0=0$ et pour tout $s,t > 0$, les v.a.r. $N_{t+s}-N_s$ et $N_s$ sont indépendantes et de loi de Poisson $\cP(\la s)$ et $\cP(\la t)$ respectivement. Ainsi, le processus de Poisson simple est un processus à temps continu et à accroissements stationnaires et indépendants, tout comme le mouvement brownien\footnote{Ils appartiennent tous deux à la classe des \emph{processus de Lévy}, qui regroupe les processus à temps continu à accroissements stationnaires et indépendants. Un processus $(X_t)_{t\geq0}$ appartenant à cette classe est caractérisé par la donnée de $\cL(X_1)$, et $\cL(X_t)$ est obtenue à partir de $\cL(X_1)$ par la dilatation de coefficient $t$. Pour un processus de Lévy, $\cL(X_1)$ est toujours \emph{infiniment divisible}, i.e. pour tout $n\in\dN^*$, il existe une loi $\nu_n$ telle que $\nu_n^{*n}=\cL(X_1)$. Réciproquement, une loi infiniment divisible donne naissance à un processus de Lévy. Les lois infiniment divisibles sont caractérisées par une transformée de Fourier de forme très particulière (formule de Lévy-Khinchine). Les lois gaussiennes, les lois Gamma, et la loi de Poisson sont infiniment divisibles. Bien entendu, la notion d'infinie divisibilité n'a pas de sens pour les lois discrètes à support fini, mais d'une certaine façon, les lois binomiales et négatives-binomiales sont «finiment divisibles». } \end{defi} \begin{defi}[Processus de Bernoulli] On dit que $(B_n)_{n\in\dN}$ est un processus de Bernoulli de paramètre $p\in]0,1[$ issu de zéro si et seulement si $B_0=0$ et pour tout $n,m\in\dN^*$, $B_{n+m}-B_m$ et $B_m$ sont indépendantes et de loi binomiale $\cB(m,p)$ et $\cB(n,p)$ respectivement. Ainsi, le processus de Bernoulli est un processus à temps discret et à accroissements stationnaires et indépendants. \end{defi} \begin{rem}[Simuler la trajectoire d'une processus de Poisson simple] Simuler une trajectoire à $n$ sauts d'un processus de Poisson simple d'intensité $\la$ est une tache très simple: \begin{center} \texttt{stairs(cumsum(rexpweib(n,lambda,1)),[1:n]);} \end{center} \end{rem} \begin{prop}[Temps inter-sauts d'un processus de Poisson simple] Soit $(D_n)_{n\in\dN^*}$ une suite de v.a.r. i.i.d. de loi exponentielle $\cE(\la)$ avec $\la>0$. Pour tout $t\geq 0$, si $$ N_t:=\sum_{n=1}^\infty \rI_\BRA{T_n\leq t} % \text{\quad avec \quad} % T_n:=\sum_{k=1}^n D_k. $$ Alors $(N_t)_{t\geq 0}$ est un processus de Poisson simple issu de zéro, d'intensité $\la$. Réciproquement, les temps inter-sauts $(D_n)_{n\in\dN^*}$ d'un processus de Poisson simple $(N_t)_{t\geq0}$ d'intensité $\la>0$ sont i.i.d. et suivent des lois exponentielles $\cE(\la)$; quant aux temps de saut $(T_n)_{n\in\dN^*}$, ils suivent des lois Gamma: le $n$-ième saut suit la loi Gamma $\cE(\la)^{*n}=\Ga(n,\la)$. \end{prop} \begin{prop}[Temps inter-sauts d'un processus de Bernoulli] Soit $(D_n)_{n\in\dN^*}$ une suite de v.a.r. i.i.d. de loi géométrique $\cG(p):=p\sum_{n=1}^\infty(1-p)^{n-1}\de_n$ avec $p\in]0,1[$. Pour tout $n\in\dN$, si $$ B_n:=\sum_{m=1}^\infty \rI_\BRA{T_m\leq n} % \text{\quad avec \quad} % T_m:=\sum_{k=1}^n D_k. $$ Alors $(B_n)_{n\in\dN}$ est un processus de Bernoulli issu de zéro, de paramètre $p$. Réciproquement, les temps inter-sauts $(D_n)_{n\in\dN^*}$ d'un processus de Bernoulli $(B_n)_{n\in\dN}$ de paramètre $p\in]0,1[$ sont i.i.d. et suivent des lois géométriques $\cG(p)=p\sum_{n=1}^\infty(1-p)^{n-1}\de_n$; quant aux temps de saut $(T_n)_{n\in\dN^*}$, ils suivent des lois négatives-binomiales\footnote{Appelées également lois de Pascal.}: le $n$-ième saut suit la loi $\cG(p)^{*n}$. \end{prop} \begin{rem}[Le jeu de pile ou face et le processus de Bernoulli] Si $(Z_n)_{n\in\dN^*}$ est une suite de v.a. de loi de Bernoulli $\cB(p)=(1-p)\de_0+p\de_1$, alors le processus $(B_n)_{n\in\dN}$ défini par $B_0=0$ et $B_n:=Z_1+\cdots+Z_n$ est un processus de Bernoulli de paramètre $p$. Ainsi, $B_n$ est le nombre de gains après le $n$-ième lancé à un jeu de pile ou face avec probabilité $p$ de gagner. \end{rem} \begin{thm}[Loi forte des grands nombres] L'indépendance et la stationnarité des accroissements des processus de Poisson et de Bernoulli entraîne une loi forte des grands nombres. Soit $(N_t)_{t\geq0}$ un processus de Poisson simple d'intensité $\la>0$, alors $$ \frac{N_t}{t}\limPS{t}\la. $$ Soit $(B_n)_{n\in\dN}$ un processus de Bernoulli de paramètre $p\in]0,1[$, alors $$ \frac{B_n}{n}\limPS{n}p. $$ %FIXME: parler du TCL. \end{thm} \begin{defi}[Processus de renouvellement et de comptage] Soit $(D_n)_{n\in\dN^*}$ des v.a.r. i.i.d. strictement positives de loi $\mu$. Le processus $(T_n)_{n\in\dN}$ défini par $T_0=0$ et $T_n:=D_1+\cdots+D_n$ est appelé \emph{processus de renouvellement} de la suite $(D_n)_{n\in\dN^*}$. Lorsque la loi $\mu$ est portée par $\dN$, les v.a. $(D_n)_{n\in\dN^*}$ sont à valeurs discrètes et on appelle \emph{processus de comptage} associé à la suite $(T_n)_{n\in\dN^*}$ le processus à temps discret $(N_n)_{n\in\dN}$ défini par $$ N_n:=\sum_{k=1}^\infty \rI_\BRA{T_k\leq n}. $$ Lorsque $\mu$ est plus générale, on appelle \emph{processus de comptage} associé à la suite $(T_n)_{n\in\dN^*}$ le processus à temps continu $(N_t)_{t\geq 0}$ défini par $$ N_t:=\sum_{k=1}^\infty \rI_\BRA{T_k\leq t}. $$ \end{defi} \begin{rem} Le processus de Poisson simple d'intensité $\la$ est le processus de comptage (à temps continu) associé à la loi exponentielle $\cE(\la)$. Le processus de Bernoulli de paramètre $p$ est le processus de comptage (à temps discret) associé à la loi géométrique $\cG(p):=p\sum_{n=1}^\infty(1-p)^{n-1}\de_n$. \end{rem} %% \section{Utilisation en modélisation} %% \begin{exo}[Records] Soit $(D_n)_{n\in\dN^*}$ une suite de v.a.r i.i.d. de loi exponentielle $\cE(\la)$ avec $\la>0$ et soit $M_n:=\max_{1\leq k \leq n}D_k$. Montrer que $$ \frac{M_n}{\log n} \limPS{n} \frac{1}{\la} % \text{\quad et\quad} % M_n - \frac{\log n}{\la}\limL{n} \cE_\cD(\la), $$ %FIXME: préciser que la double exp a pour densité \exp(\la\exp(x)). où $\cE_\cD(\la)$ est la loi exponentielle double de paramètre $\la$. Créer un code Matlab permettant d'illustrer ces résultats de convergence. La v.a.r. $M_n$ correspond au plus long temps entre deux sauts avant le $n$-ième saut d'un processus de Poisson simple d'intensité $\la$. \end{exo} \begin{exo}[Comptage] Créer un code Matlab permettant de simuler un processus de comptage $(N_t)_{t\geq 0}$ associé à la loi de Weibull $\cW(a,\la)$ où les paramètres $a>0$ et $\la>0$ sont affectés par l'utilisateur. Vérifier la loi des grands nombres et le théorème de limite centrale pour le processus $(N_t)_{t\geq0}$. \end{exo} \begin{exo}[Renouvellement] Soit $(N_t)_{t\geq 0}$ un processus de Poisson simple d'intensité $\la>0$ et soit $(T_n)_{n\in\dN^*}$ un processus de renouvellement associé à une suite de v.a.r. i.i.d. strictement positives d'espérance $m$ et de variance $\si^2>0$. On suppose que $(T_n)_{n\in\dN^*}$ est indépendante de $(N_t)_{t\geq 0}$ et, pour tout $n\in \dN$, on pose $Z_n:=N_{T_n}$. Créer un code Matlab permettant de simuler les processus $(N_t)_{t\geq 0}$ et $(Z_n)_{n\in\dN}$ où les paramètres $\la$, $m$ et $\si^2$ sont affectés par l'utilisateur. Vérifier la loi des grands nombres et le théorème de limite centrale pour le processus $(Z_n)_{n\in\dN}$. \end{exo} \begin{exo}[Assureur communiste et réservoir percé] On peut modéliser le solde du compte en banque d'un assureur communiste à l'instant $t$ par $x+\mu t - N_t$ où $\mu>0$ et où $(N_t)_{t\geq0}$ est un processus de Poisson simple d'intensité $\la$. La «dérive» linéaire $\mu t$ représente les apports réguliers de ses assurés (cotisations) tandisque le processus de Poisson simple $(N_t)_{t\geq0}$ modélise les catastrophes qui provoquent des remboursements. Pourquoi une telle modélisation n'est pas totalement farfelue ? Un assureur capitaliste préfèrera faire fructifier une partie de son solde en bourse, ce qui rend le modèle plus complexe. Comment tenir compte de la fluctuation du nombre d'assurés ? Comment adapter le modèle au cas où l'assureur place une partie de son solde en caisse d'épargne à taux fixe $\rho>0$ ? Les lecteurs communistes ou rétifs aux assurances peuvent penser par exemple au compte en banque d'une association. Exprimer le temps de ruine de l'assureur communiste en fonction des paramètres $\la$ et $\mu$, et confronter les prédictions à des simulations. Le processus $(\mu t - N_t)_{t\geq0}$ permet également de modéliser la quantité d'eau dans un réservoir à ciel ouvert percé d'un trou, en plein hiver, en négligeant l'évaporation. Expliquer pourquoi. \end{exo} \begin{exo}[Files d'attentes]\label{ex:filatt-discr} Des clients attendent en file devant un guichet. On suppose que les temps séparant les arrivées de deux usagers successifs sont modélisables par des v.a.r. i.i.d. $\cE(\la)$, tandisque les temps mis par le guichetier pour servir les clients successifs sont modélisables par des v.a.r. i.i.d. de loi $\cE(\mu)$, indépendantes des précédentes. On parle de file d'attente M/M/1. Écrire une fonction Matlab simulant le fonctionnement d'un tel guichet. Vérifiez que lorsque $\rho:=\la/\mu<1$, le nombre d'usagers $N_t$ dans la file d'attente converge en loi, lorsque le temps $t$ tends vers l'infini, vers la loi géométrique $\cG(\rho)$. Que représente la quantité $\rho^K$ pour un entier $K$ fixé (penser à une salle d'attente de $K$ places : file d'attente M/M/1/K). Le paramètre $\rho$ représente la \emph{charge de la file}. Vérifiez que lorsque $\rho>1$, $N_t$ diverge presque sûrement. Étendre ce qui précède au cas où $s\in\dN^*$ guichets indépendants sont disponibles (file M/M/s). On pourra également penser à des serveurs informatiques (resp. pistes d'aéroport) qui jouent le rôle de guichets, et à des programmes clients (resp. avions) qui jouent le rôle d'usagers. Après avoir pensé au problème, vérifiez que les deux codes Matlab qui suivent sont valides\ldots \end{exo} \MFILE{MMs} \begin{exo}[Processus de Poisson composé et arbres de Galton-Watson] FIXME: à faire. \end{exo} \begin{exo}[La machine est en panne] On considère une machine qui peut tomber en panne et qui est réparée instantanément. On peut, par exemple, penser à une machine avec une pile, une lampe avec une ampoule, etc. Cette machine est mise en fonctionnement à l'instant $0$. Soit $D_1$ sa durée de vie avant la première panne. Lorsqu'elle tombe en panne, on la remplace par une machine neuve identique de durée de vie $D_2$ et ainsi de suite. On suppose que $(D_n)_{n\in\dN}$ est une suite de v.a.r i.i.d. strictement positives d'espérance $m$ et de variance $\si^2$. Pour tout $n\in\dN$, $T_n$ correspond à l'instant de la $n$-ième panne, avec $S_0=0$. Finalement, pour tout $t\geq0$, $N_t$ est le nombre de pannes survenues avant l'instant $t$ et $H(t):=\dE(N_t)$ est la fonction de renouvellement du processus $(N_t)_{t\geq 0}$. Montrer que si $(N_t)_{t\geq0}$ est un processus de Poisson simple d'intensité $\la>0$, $H(t)=\la t$. Plus géréralement, montrer que $t/m-1\leq H(t)\leq t/m + \si^2/m^2$. Ensuite, vérifier que $$ \lim_{t\rightarrow \infty}\frac{H(t)}{t}=\frac{1}{m} % \text{\quad et\quad} % \lim_{t\rightarrow\infty} H(t)-\frac{t}{m}=\frac{\si^2-m^2}{2m^2}. $$ Créer un code Matlab permettant d'illustrer les résultats de convergence associés à la fonction de renouvellement $H$, où les paramètres $\la$, $m$ et $\si^2$ sont affectés par l'utilisateur. \end{exo} \begin{exo}[Réseaux de Jackson et de Petri] FIXME: à faire. Cf. livre d'Ycart. \end{exo} \begin{exo}[Processus ponctuel de Poisson et vie du charençon] FIXME: à faire. Cf. section 7.5 du livre de J. Istas. \end{exo} \section{Quelques extensions hors programme} \begin{exo}[Le générateur de Markov du processus de Poisson simple] Dans tout ce qui suit, $\la$ est un réel positif fixé une fois pour toute. Soit $\cC_b(\dR,\dR)$ (resp. $\cC_c(\dR,\dR)$) l'espace vectoriel des fonctions réelles à valeurs réelles continues et bornées (resp. continues et à support compact). On considère l'application linéaire $\bL:\cC_b(\dR,\dR)\to\cC_b(\dR,\dR)$ définie pour tout $f\in\cC_b(\dR,\dR)$ et tout $x\in\dR$ par $$ \bL(f)(x) := \la\,\PAR{f(x+1)-f(x)}. $$ Montrer que son noyau est constitué des fonctions constantes. On rappelle que $\dR^\dN$ est l'espace vectoriel des suites de réels, qui sont des fonctions de $\dN$ dans $\dR$, et donc des vecteurs infinis. Pour tout $x\in\dR$, on note $\Phi_x:\cC_b(\dR,\dR)\to\dR^\dN$ l'application linéaire définie par $$ \Phi_x(f) = (f(x),f(x+1),\ldots). $$ L'espace vectoriel $\cM$ des applications linéaires de $\dR^\dN$ dans lui même s'identifie naturellement à l'espace vectoriel des matrices infinies indexées par $\dN\times\dN$. Pour tout $x\in\dR$, et tout $f\in\cC_b(\dR,\dR)$, on a $$ \bL(f)(x) = \bK\Phi_x(f), $$ où $\bK$ est la matrice infinie définie pour tout $i$ et $j$ dans $\dN$ par $$ (\bK)_{i,j}:=\la\,\PAR{\de_\BRA{i+1=j}-\de_\BRA{i=j}}. $$ Cette formule n'est que l'écriture matricielle de la définition de $\bL$. Soit $\bI$ et $\bJ$ les matrices infinies définies pour tout $i$ et $j$ dans $\dN$ par $\bI_{i,j}=\de_\BRA{i=j}$ et $\bI_{i,j}=-\de_\BRA{i+1=j}$. Pout tout $t\geq0$, on note $\bP_t:=\exp(t\,\bL)$ la matrice infinie obtenue par la série exponentielle classique. Montrer que pour $t>0$ $$ \bP_t% :=e^{t\,\bL} % =e^{-\la t\bI}\,e^{\la t\bJ} = e^{-\la t}\,\bQ_{\la t}, $$ où $\bQ_u$ est la matrice infinie donnée pour tout $i$ et $j$ dans $\dN$ par $$ \PAR{\bQ_u}_{i,j} = \frac{u^{j-i}}{(j-i)!}\,\de_\BRA{i\leq j}. $$ Soit $(N_t)_{t\geq0}$ un processus de Poisson simple d'intensité $\la$. Pour tout $t\geq0$, on désigne par $\rP_t:\cC_b(\dR,\dR)\to\cC_b(\dR,\dR)$ l'application linéaire définie pour toute fonction $f\in\cC_b(\dR,\dR)$ et tout $x\in\dR$ par $$ \rP_t(f)(x):=\dE\PAR{f\PAR{x+N_t}}. $$ Déduire de ce qui précède que pour tout $x\in\dR$ et toute fonction $f\in\cC_c(\dR,\dR)$, $$ \bP_t \Phi_x(f) = \rP(f)(x). $$ Montrer plus généralement que cette formule reste valable pour $f\in\cC_b(\dR,\dR)$. Montrer que $\bP_0=\bI$ et que pour tout $s\geq0$ et $t\geq0$, la propriété de semi-groupe suivante à lieu $$ \bP_{t+s} = \bP_t \bP_s = \bP_s \bP_t. $$ Réciproquement, soit $(N_t)_{t\geq0}$ un processus de Poisson simple d'intensité $\la$. Montrer que pour toute fonction $f\in\cC_c(\dR,\dR)$ et tout $x\in\dR$, $$ \frac{d}{dt}\,\SBRA{\rP_t(f)(x)}_{t=0} = \bL(f)(x). $$ L'opérateur $\bL$ est le \emph{générateur infinitésimal de Markov} du processus de Poisson simple $(N_t)_{t\geq0}$ d'intensité $\la$. La famille $\PAR{\rP_t}_{t\geq0}$ est le \emph{semi-groupe de Markov} associé au processus de Poisson simple $(N_t)_{t\geq0}$ d'intensité $\la$. \end{exo} \begin{rem}[Analogie pour les processus de Markov à temps discret \& continu] Un processus de Markov est un processus qui satisfait à la propriété de Markov sur les lois conditionnelles «passé-présent-futur». De manière générale, à un processus de Markov à temps continu $(X_t)_{t\geq0}$ et à valeurs dans $\dN$, on peut associer un semi-groupe de Markov $\PAR{\rP_t}_{t\geq0}$ défini par $\rP_t(f)(x)=\dE\PAR{f(X_t)\,\vert\,X_0=x}$. Ce semi-groupe est noté pour abréger $\PAR{\exp(t\,\bL)}_{t\in\dN}$, où $\bL$ est le générateur infinitésimal de Markov défini par $\bL(f)(x) = \pd_{t=0}\,\rP_t(f)(x)$. Si $(X_n)_{n\in\dN}$ est une chaîne de Markov de matrice de transition $\bT$, alors $(\bT^n)_{n\in\dN}$ est un semi-groupe de Markov à temps discret: $\bT^{n+m}=\bT^n\bT^m$ et $\bT^0=\bI$. Ainsi, $(\bT^n)_{n\in\dN}$ pour la chaîne de Markov et $\PAR{\rP_t}_{t\geq0}$ pour un processus de Markov jouent le même rôle: ils décrivent la loi du processus le long du temps. La notion de matrice de transition en temps discret est remplacée en temps continu par la notion de générateur infinitésimal de Markov, mieux adaptée aux calculs. Le tableau analogique suivant résume ce parallèle. \begin{center} \begin{tabular}{|r||l|} \hline \textsf{Chaîne de Markov $(X_n)_{n\in\dN}$ de matrice $\bT$} & \textsf{Processus de Markov $(X_t)_{t\geq0}$ de générateur $\bL$} \\ \hline \hline Temps discret $n\in\dN$ & Temps continu $t\in\dR_+$ \\ \hline Matrice de transition $\bT$ & $\rP_1=\exp(\bL)$ \\ \hline $\cL(X_n\,\vert\,X_0)=\bT^n=\exp(n\log\bT)$ & $\cL(X_t\,\vert\,X_0)=\rP_t=\exp(t\,\bL)$ \\ \hline $\log\bT$ & Générateur infinitésimal de Markov $\bL$ \\ \hline \end{tabular} \end{center} Les chaînes de Markov sont les processus de Markov à \emph{temps discret} les plus simples. Parmis les chaînes de Markov non triviales les plus simples, on distingue le processus de Bernoulli de paramètre $p\in]0,1[$. Sa matrice infinie de transition $\bT$ est donnée pour tout $(i,j)\in\dN\times\dN$ par $\bT_{i,j}:=(1-p)\de_\BRA{i=j}+p\de_\BRA{i+1=j}=(1-p)\bI+p\bJ$. Le processus de Poisson simple est le processus de Markov à \emph{temps continu} le plus simple. Les temps inter-saut d'un processus de Poisson simple sont i.i.d. et suivent des lois exponentielles, tandis que ceux d'un processus de Bernoulli sont i.i.d. et suivent des lois géométriques\footnote{A contrario, les temps inter-sauts d'une chaîne de Markov homogène de matrice de transition $\bT$ ne sont pas indépendants ni équidistribués. Ils suivent cependant des lois géométriques puisque $\dP(X_{n+1}\neq X_n\,\vert\,X_n=x)=\cG(1-\bT_{x,x})$. Il est alors clair que ces temps inter-sauts sont équidistribués si et seulement si les coefficients diagonaux de $\bT$ sont tous identiques. De même, ils sont indépendants si et seulement si toutes les lignes de $\bT$ sont identiques, et l'on dit alors que la chaîne est homogène en espace.}. Ces deux processus correspondent au comptage de lois exponentielles et géométriques respectivement. \begin{center} {\small \begin{tabular}{|r||c||l|} \hline \textsf{Processus de Bernoulli de paramètre $00$} \\ \hline \hline Discret $n\in\dN$ & Temps & Continu $t\in\dR_+$ \\ \hline $\dN$ & Valeurs & $\dN$ \\ \hline $-\log(1-p)$ & Intensité & $\la$ \\ \hline Géométrique $\cG(p)$ & Inter-sauts & Exponentielle $\cE(\la)$ \\ \hline Négative-binomiale (Pascal) $\cG(p)^{*n}$ & $n$-ième saut & Loi Gamma $\cE(\la)^{*n}$ \\ \hline Binomiale $\cB(n,p)$ & Loi à temps fixe & Poisson $\cP(t \la)$ \\ \hline \end{tabular} } \end{center} Ici, $\cG(p):=p\sum_{n=0}^{+\infty}(1-p)^n\de_n$. Comme un processus de Bernoulli est indexé par un temps discret, il peut sauter consécutivement un nombre arbitraire de fois, et $\dP(B_{n+k}=k+B_n)=p^k$. Ce phénomène n'est pas possible pour le processus de Poisson simple puisque les temps de sauts suivent une loi à densité (exponentielle) par rapport à la mesure de Lebesgue, qui ne charge donc pas le point $\BRA{0}$. L'approche «générateur infinitésimal de Markov» pour le processus de Poisson simple s'avère très utile pour l'étude des files d'attentes. Ainsi, la longueur d'une file d'attente M/M/1 avec intensité d'arrivée des clients $\la>0$ et intensité de service $\mu>0$ est un processus de Markov $(F_t)_{t\geq0}$ à temps continu et à valeurs dans $\dN$, tout comme le processus de Poisson simple. Son générateur infinitésimal $\bL_{\la,\mu}$ est donné par \begin{align*} \bL_{\la,\mu}(f)(x) :&= \la\,\PAR{f(x+1)-f(x)} + \mu\,\PAR{f(x-1)-f(x)} \\ &= \la\,f(x+1)+(\la+\mu)\,f(x)+\mu\,f(x-1). \end{align*} Les temps inter-saut de la file d'attente sont i.i.d. de loi géométrique $\cG(\la+\mu)$. Lorsque $\la<\mu$, la file d'attente atteint un état d'équilibre lorsque le temps tend vers l'infini (ergodicité), quel que soit son point de départ. Cet équilibre est caractérisé par une loi de probabilité invariante unique. Une mesure $\eta$ sur $\dN$ est invariante si et seulement si elle vérifie $\dE_\eta\PAR{\bL_{\la,\mu} f}=0$ pour toute fonction $f$. En d'autres termes, on cherche une suite $(\eta(n))_{n\in\dN}$ telle que pour toute suite $(f(n))_{n\in\dN}$, $$ \sum_{n=0}^{+\infty} \eta(n)\,\SBRA{\la\,f(n+1)+(\la+\mu)\,f(n)+\mu\,f(n-1)} = 0, $$ avec la convention $f(-1)=0$. On montre alors, en considérant des suites $(f(n))_{n\in\dN}$ bien choisies, que la loi géométrique $\cG(\la/\mu)$ est invariante lorsque $\la<\mu$. On notera que la mesure invariante du processus de Poisson simple ($\mu=0$) n'est pas unique, et tout multiple de la mesure uniforme (i.e. de comptage) sur $\dN$ convient, et elles ne se normalisent pas en une loi de probabilité. La théorie actuelle des processus de Markov dépasse le cadre restreint de cette remarque, mais repose essentiellement sur les intuitions présentées ici. \end{rem} \begin{exo}[Concentration poissonienne et inégalité de Sobolev logarithmique] On note $\pi_\la$ la loi de Poisson $\cP(\la)$. Soit $(N_t)_{t\geq0}$ un processus de Poisson simple d'intensité $\la>0$. Pour tout $t$, on note $\rP_t$ l'opérateur linéaire agissant sur les éléments de $\cC_b(\dR,\dR)$ par $\rP_t^x(f):=\rP_t(f)(x):=\dE_{\rP_t^x}(f)=\dE(f(x+N_t))$. On peut également voir $\rP_t^x$ comme la loi de probabilité $\cL(x+N_t)=\de_x*\pi_\la$. Montrer que la famille d'opérateurs $(\rP_t)_{t\geq0}$ forme un semi-groupe de contractions pour la composition des opérateurs, d'élément neutre $\rP_0$, et vérifiant $\rP_t(1)=1$. Un tel semi-groupe est qualifié de «markovien». Montrer que pour tout $f\in\cC_b(\dR,\dR)$, tout $t>0$ $$ \bL f := \pd_t \rP_t f = \la\,\rD f, $$ où $(\rD f)(x):=f(x+1)-f(x)$. En utilisant l'indépendance des accroissements de $(N_t)_{t\geq0}$, montrer que les opérateurs $\bL$, $\rP_t$ et $\rD$ commutent pour tout $t\geq0$. Soit $\Phi$ la fonction définie sur $\dR_+$ par $\Phi(u):=u\log u$ et soit $\Psi$ la fonction définie pour tout couple $(u,v)\in\dR^2$ avec $u+v\geq0$ et $u\geq0$ par $$ \Psi(u,v):=\Phi(u+v)-\Phi(u)-\Phi'(u)v. $$ Montrer que $\Phi$ et $\Psi$ sont strictement convexes sur leur domaine de définition. Montrer que pour toute $g\in\cC_b(\dR,\dR_+)$ et tout $s>0$ $$ \pd_s \rP_t(\Phi(g)) = \la\,\rP_s(\Psi(g,\rD g)). $$ En utilisant la propriété de semi-groupe $\rP_t=\rP_{t-s}\circ(\rP_s)$ pout $0\leq s\leq t$, montrer que pour toute $f\in\cC_b(\dR,\dR)$ et tout $t\geq0$ $$ \rP_t(\Phi(f))-\Phi(\rP_t(f)) % = \int_0^t \rP_s(\Psi(g,\rD g))\,ds, $$ où $g:=\rP_{t-s}(f)$. En utilisant l'inégalité de Jensen pour la fonction convexe $\Psi$ et les propiétés de commutations établies plus haut, monter que pour toute $f\in\cC_b(\dR,\dR_+)$ et tout $t\geq0$ $$ \rP_t(\Phi(f))-\Phi(\rP_t(f)) % \leq \la\,\rP_t\PAR{\Psi(f,\rD f)}. $$ Une telle inégalité est dite «de Sobolev logarithmique» ou encore «de Gross». Montrer que pour tout $(u,v)$ avec $u\geq0$ et $u+v\geq0$, $\Psi(u,v)\leq v^2/u$. On a coutume d'appeler «entropie» de $f$ pour la loi $\pi_\la$ la quantité $$ \mathbf{ent}_{\pi_\la}(f):=\dE_{\pi_\la}(\Phi(f))-\Phi\PAR{\dE_{\pi_\la}(f)}. $$ En remarquant que $\rP_1=\pi_\la$, en déduire que pour toute $f\in\cC_b(\dR,\dR_+^*)$ $$ \mathbf{ent}_{\pi_\la}(f) \leq \la\,\dE_{\pi_\la}\PAR{\frac{|\rD f|^2}{f}}. $$ Montrer que la constante $\la$ devant le membre de droite est optimale en considérant une fonction $f$ de la forme $f(x)=\exp(-\al x)$ avec $\al$ bien choisi. En appliquant l'inégalité précédente à la fonction $f(x)=\exp(\mu F)$ où $F$ est une fonction bornée continue qui vérifie $|\rD F|\leq1$, et en déduire que $$ \forall \mu\geq0,\ K'(\mu) \leq \la\exp(2\mu), $$ où $K(\mu):=\mu^{-1}\,\log\dE(\exp(\mu F))$ avec $K'(0)=\dE_{\pi_\la}(F)$. En déduire que pour tout $\mu\geq0$, $$ \log\dE_{\pi_\la}(\exp(\mu F)) % \leq \mu\,\dE_{\pi_\la}(F)+\mu\,\la\,(\exp(2\mu)-1). $$ \'Etendre cette inégalité au cas où $F$ n'est pas bornée en approximant $F$ par la suite de fonctions bornées $F_n:=\max(-n,\min(n,F))$ qui vérifie $\ABS{\rD F_n} \leq \ABS{\rD F}$. En déduire par l'inégalité de Tchebychev que pour tout $r>0$ $$ \pi_\la\PAR{x\in\dR,\ \ABS{F(x)-\dE_{\pi_\la}(F)}\geq r} % \leq 2\exp\PAR{-\frac{r}{4}\,\log\PAR{1+\frac{r}{2\la}}}. $$ Ce type d'inégalité exprime que la loi de $F$ sous $\pi_\la$ se «concentre» exponentiellement autour de sa moyenne. Elle quantifie la propriété de tension pour les lois de probabilité. Soit $X_1,\ldots,X_n$ des v.a. i.i.d. de loi de Poisson $\pi_\la$. En utilisant le fait que $\cL(X_1+\cdots+X_n)=(\pi_\la)^{*n}=\pi_{n\la}$, déduire de ce qui précède que pour tout $r>0$ $$ \dP\PAR{\ABS{\frac{X_1+\cdots+X_n}{n}-\la}\geq r} \leq 2\exp\PAR{-\frac{rn}{4}\,\log\PAR{1+\frac{r}{2\la}}}. $$ L'inégalité obtenue a le grand mérite de ne pas être asymptotique. Comparer ce résultat à ce que donne le théorème de Cramèr (Principe de Grandes Déviations) et le théorème central limite (approximation gaussienne). \end{exo} \end{document}