Intégration – alpha et omega

En unifiant la théorie de la mesure d’Émile Borel et la théorie de l’intégration de Bernhard Riemann, Henri-Léon Lebesgue a créé un paradis pour les mathématiciens. Ces derniers ont eu du mal à s’en rendre compte, et même les plus illustres comme Nicolas Bourbaki ont ignoré le sujet durablement. Stanisław Saks et Paul Halmos ont beaucoup fait, dit-on, pour la diffusion de la théorie de la mesure et l’intégrale de Lebesgue. Il existe, de nos jours, plusieurs manières d’introduire et d’étudier l’intégrale de Lebesgue (en troisième année de licence en France). Les analystes spécialistes des équations aux dérivées partielles et du calcul des variations préfèrent bien souvent évacuer rapidement la théorie de la mesure et les tribus, pour se consacrer pleinement aux aspects fonctionnels, car les fonctions tests sont leur alpha et omega. Ils apprécient l’intégrale de Lebesgue notamment pour ses commutations : théorèmes de convergence monotone, lemme de Pierre Fatou, théorème de convergence dominée, et théorème de Guido Fubini et Leonida Tonelli. Les probabilistes en revanche mettent plus l’accent sur la théorie de la mesure et les tribus, car c’est le langage moderne des probabilités inventé par Andreï Kolmogorov, qui permet notamment de donner un sens à l’indépendance et d’unifier l’étude des variables aléatoires discrètes et continues : les sommes et les intégrales sont des objets de même nature et les théorèmes sont les mêmes. Il est bien sûr possible de procéder de manière équilibrée en ménageant la chèvre et le chou, mais force est de constater que tout le monde ne souhaite pas être polyglotte. La mesurabilité constitue un sujet épineux pour les étudiants, culminant avec l’effrayante simplicité de construction d’ensembles non mesurables grâce à l’axiome du choix. Je ne résiste pas au plaisir de partager un extrait du cours d’analyse de Jean-Michel Bony, signalé par Yann Brenier :

1.6.1. Existe-t-il des ensembles et des fonctions non mesurables? L’expérience suggère la réponse non. En effet, les ensembles mesurables forment une tribu contenant les ouverts et il en résulte que l’espace des fonctions mesurables contient les fonctions continues et est stable par toutes les opérations dénombrables usuelles : limite d’une suite (ou somme d’une série) de fonctions qui converge en chaque point, sup ou inf dénombrable,… À titre d’exemple, le lecteur pourra voir dans l’exercice B.2.4 que la fonction égale à 1 en tout point rationnel et à 0 en tout point irrationnel — le type même de la fonction non intégrable au sens de Riemann, alors que c’est une excellente fonction sommable d’intégrale nulle — est limite d’une suite de fonctions dont chacune est limite d’une suite de fonctions continues. On peut bien sûr faire beaucoup plus compliqué, mais on n’arrive jamais à construire une fonction non mesurable sans faire appel à l’axiome du choix.

La véritable réponse à la question posée est : cela dépend des axiomes mis à la base des mathématiques. On a en effet les deux résultats suivants.

• Si on adjoint l’axiome du choix aux axiomes usuels de la théorie des ensembles, on peut prouver effectivement qu’il existe des ensembles non mesurables (voir l’exercice 1.6.2).
• Par contre, un résultat relativement récent de logique mathématique (Solovay, 1966) assure que l’on peut adjoindre à ces mêmes axiomes, sans introduire de contradiction, les formes dénombrables de l’axiome du choix et l’axiome “tout sous-ensemble de $\mathbb{R}^n$ est mesurable”.

Dans la pratique cela signifie que, à moins de le faire exprès à l’aide de l’axiome du choix, il est exclu que l’on ait à considérer des fonctions non mesurables. C’est pourquoi ce cours a été écrit comme si toutes les fonctions étaient mesurables. La véritable raison est bien sûr une question de temps, il y a mieux à faire que de démontrer, par des méthodes répétitives, des résultats dont on sait d’avance qu’ils sont toujours vrais. Le lecteur n’aura qu’à ajouter mentalement l’adjectif “mesurable” chaque fois qu’il rencontrera le mot “ensemble” ou “fonction”.

Cela dit, le lecteur excessivement scrupuleux qui serait choqué par cette façon de faire pourra se placer dans le système d’axiomes autorisé par Solovay. C’est un cadre dans lequel on peut développer toute l’analyse classique, et où tous les énoncés de ce chapitre sont effectivement des théorèmes.

Ce qui précède s’applique à la mesure de Lebesgue, et il ne faudrait pas en conclure que toutes les questions de mesurabilité sont sans intérêt. En théorie des probabilités, on introduit fréquemment plusieurs tribus (dépendant par exemple du temps), la mesurabilité d’une variable aléatoire X par rapport à telle ou telle tribu ayant un contenu probabiliste précis. Dans un tel contexte, la démonstration de la mesurabilité d’une variable aléatoire peut être un résultat important, et éventuellement difficile.

L’article A model of set-theory in which every set of reals is Lebesgue measurable de Robert Solovay paru dans Annals of Mathematics en 1970 vaut le détour. Page 3 Robert Solovay dit «Of course, the axiom of choice is true, and so there are non-measurable sets.»! Renoncer à l’axiome du choix général fait que certains résultats phares de l’analyse comme par exemple le théorème de Andrey Nikolayevich Tikhonov, de Hans Hahn et Stefan Banach, ou de Stefan Banach et Leonidas Alaoglu ne sont plus disponibles au delà du dénombrable ou du séparable.

Lectures : tous les livres cités sont disponibles en DjVu sur Internet !

• Henri-Léon Lebesgue
  Leçons sur l’intégration et la recherche des fonctions primitives professées au Collège de France (1904)
• Paul R. Halmos
  Measure theory (1950)
• Jacques Neveu
  Bases mathématiques du calcul des probabilités (1970)
• Jean-Michel Bony
  Cours d’analyse – Théorie des distributions et analyse de Fourier (1996)
• Jean-Pierre Kahane
  Naissance et postérité de l’intégrale de Lebesgue
  Gazette des mathématiciens 89 (2001)
• Thomas J. Jech
  The Axiom of Choice (1973).