LEÇONS

INTRODUCTION

C'est Cauchy qu'on doit considérer comme le créateur de la théorie des fonctions analytiques d'une variable complexe. C'est en effet à lui qu'on doit l'introduction dans la science de la notion de fonction holomorphe et de la possibilité de son développement en série de Taylor. De là se déduisait tout naturellement la notion de rayon de convergence et celle de point singulier. Et l'intégrale de Cauchy permettait de classer immédiatement ces points en pôles et points essentiels.

A l'époque de Cauchy^ et même encore pour un certain nombre de ses successeurs^ la notion de fonction se confondait identiquement avec celle d'expression analytique. C'est le grand mérite de Weierstrass ( ' ) d'avoir su le premier se poser nettement ]a question suivante : soient deux expressions analytiques bien définies dans un domaine D d'un seul tenant; est-on bien assuré que si ces deux expressions ont la même valeur numérique pour toutes les valeurs de la variable situées dans une portion de D^ il en sera de même dans tout le domaine D ? Or, moyennant un calcul assez compliqué^ Weierstrass parvint à former un exemple du contraire (-). D'autres questions dérivaient naturellement de ce ré-

( ' ) 11 n'entre pas dans mes intentions de faire ici l'historique de la notion de fonction. Mais il est impossible de ne pas signaler les recherches de Paul du Bois Reymond et de Dini, et de ne pas prononcer le nom de Riemann.

(■-) Voir dans les Berliner Siizungsberichte, 1881, un exemple plus simple de M. J. Tannery.

ZOR. I

2 INTHODl CTION.

sultat : d'abord^ une expression analytique quelconque doit-elle toujours être considérée comme représentant une seule fonction ou subsidiairement, quelles restrictions faut-il apporter aux expressions qu'on considère pour qu'on puisse afTirmer qu'elles représentent une seule fonction^ et quelles sont les propriétés caractéristiques de la fonction qu'on désire surtout conserver ? Généralisant ce résultat, prenons deux expressions analytiques différentes existant l'une dans un domaine D^ l'autre dans un domaine D'; supposons que D et D' aient une portion commune A ; à quelles conditions devrons-nous considérer la seconde expression comme la continuation de la première^ comme définissant la même fonction que celle-ci? Une condition essentielle^ c'est évidemment que les deux expressions prennent la même valeur dans A ; on peut à la rigueur s'en contenter^ mais^ si l'on se propose de diminuer la généralité des fonctions qu'on considère pour augmenter le nombre de leurs propriétés générales et le champ de leurs applications, il conviendra d'ajouter à la condition précédente d'autres conditions de nature à écarter l'exemple singulier donné plus haut, de fonctions coïncidant dans une aire sans coïncider partout où elles sont défmies ou^ ce qui revient à peu près au même, d'une fonction nulle dans une aire sans l'être partout. Weierstrass y parvient en particularisant à la fois les domaines D, D' et la forme des expressions analytiques considérées; il prend pour domaine un cercle et pour expression une série ordonnée suivant les puissances de z — a [a étant le centre du cercle), et c'est ainsi qu'il parvient à la notion de prolongement analytique, de fonction analytique, de domaine d'existence et de frontière de ce domaine ( ' ). Si la généralité de ces notions paraît d'une grande beauté synthétique^ on peut, d'une part, redouter qu'il soit difficile de les introduire dans les raisonnements, et, d'autre part, on peut penser que des considérations aussi complexes sont inutiles dans l'étude des fonctions usuelles. Mais le développement ultérieur de la théorie des fonctions a bien montré le rôle de plus en plus pré-

( ' ) Il va sans dire que les conditions dont je viens de parler pourraient être remplies en particularisant d'une façon différente les expressions considérées. On trouvera dans la Thèse de M. Borel et dans ses Leçons sur la théorie des fonctions des essais de ces généralisations de la notion de fonction analytique et des considérations sur le problème ^el que je viens de le poser.

INTRODICTIOX. 3

pondérant de la notion de fonction analytique, d'abord parce que l'Analyse introduisait de la façon la plus naturelle des transcendantes de plus en plus compliquées : ensuite parce que dans un grand nombre de cas on se voyait obligé^ pour établir des théorèmes indispensables, de revenir à la définition de Weierstrass^ comme la seule permettant des raisonnements suffisamment généraux. Et c'est ainsi que cette définition^ qui pouvait paraître au début ne devoir servir qu'à la classification^ devenait de plus en plus un outil indispensable au progrès.

Une des premières questions qu'on soit amené à traiter, au sujet d'une fonction analytique, est certainement celle de la détermination de son domaine d'existence d'après le procédé qui sert à la définir; il convient, en second lieu^ d'étudier la façon dont se comporte la fonction au voisinage d'un de ses points singuliers. Dans ces Leçons, je m'occuperai successivement des deux problèmes.

A la première question se rattachent par exemple les travaux de M. Poincaré sur les fonctions fuchsiennes^ certaines recherches sur la série de Taylor^ la théorie analytique des équations différentielles.

La seconde question a fait également l'objet de nombreuses recherches. Le premier résultat est relatif à l'indétermination d'une fonction au voisinage d'un point essentiel isolé^ résultat dû à Weierstrass^ immédiatement complété par le théorème si précis de M. Picard. Pour étendre ces résultats^ il devenait nécessaire d'avoir recours à la théorie des ensembles élaborée à cette même époque par AL Cantor qui y avait été conduit par des raisons bien différentes. Et tout de suite il apparut que le théorème de Weierstrass s'étendait sans modification à un très grand nombre de cas. Cependant^ quelques cas restaient en dehors de ces généralisations; on les laissa provisoirement de côté, et l'on dirigea plutôt les efforts^ dans les cas où le théorème de Weierstrass s'appliquait^ vers une étude plus approfondie de l'allure de la fonction. Il faut citer dans cet ordre d'idées les beaux travaux sur les fonctions entières dont le germe est dans les idées de Laguerre et dont la base est le Mémoire de M. Poincaré paru en i883 au Bulletin de la Société Mathématique; les résultats obtenus sont si précis^ que la matière semblerait épuisée si de nouvelles directions^ comme nous le verrons^ ne venaient pas s'offrir aux chercheurs.

INTRODUCTION

Mais tandis qu'on atteignait à une précision si grande dans le cas des fonctions entières et de celles qu'on peut y rattacher par des généralisations faciles (')^ les cas où le théorème de Weierstrass ne s'appliquait pas restaient en dehors des recherches. C'est qu'en effet les méthodes ordinaires étaient en défaut dans ces cas^ et l'on hésitait avant d'utiliser les méthodes basées uniquement sur la définition de la fonction analytique. Or, en y réfléchissant^ c'était bien ainsi qu'il fallait raisonner. On verra dans ces Leçons comment on peut le faire; et l'on verra combien les théorèmes dela théorie des ensembles jouent dans cette étude un rôle important.

C'est aux fonctions uniformes que s'appliquent les considérations et les résultats précédents. L'étude des fonctions multiformes est bien moins avancée. Laissons de côté la théorie des fonctions algébriques; constatons également que la plupart des résultats relatifs aux fonctions uniformes se retrouvent dans la théorie des fonctions à un nombre fini de branches, et arrivons à la fonction multiforme la plus générale^ qui a une infinité de branches. Peut-on reculer indéfiniment devant l'étude de ces fonctions ?

Tout d'abord^ la définition de Weierstrass, dans le cas général, donnera justement naissance à une fonction à une infinité de branches. Donc, si l'on veut étudier toutes les conséquences de la définition de Weierstrass, c'est au fond l'étude de telles fonctions qu'on entreprend. On peut donc penser que^ si les recherches de cet ordre sont restées longtemps et sont encore assez rares, ce n'est pas parce qu'elles ne s'imposaient pas nécessairement à l'esprit : la raison en est dans leur difficulté d'une part; et de l'autre dans le défaut d'outils appropriés : l'état insuffisamment avancé de la théorie des ensembles pouvait, par exemple, arrêter les chercheurs.

En second lieu^ si ces recherches ont pu longtemps, en dehors de leur intérêt intrinsèque^ être considérées comme sans objet^ je veux dire sans application, il n'en est plus de même aujourd'hui. La définition de catégories étendues de fonctions par un procédé analytique déterminé donne invariablement naissance, en général,

( * ) Voir Maillet. Mémoire sur les fonctions quasi-entières [Journal de Mathématiques, 1892)

INTRODUCTION

à des fonctions multiformes; et ne serait-ce que pour rechercher les conditions auxquelles les fonctions définies par un tel procédé sont uniformes^ l'étude des propriétés des fonctions multiformes serait encore indispensable. C'est évidemment à la théorie analytique des équations différentielles que je pense en ce moment et aux travaux de M. Painlevé, bien que dans d'autres circonstances les considérations précédentes trouveraient à s'appliquer. La Thèse de M. Painlevé et ses travaux ultérieurs sont justement les premières tentatives faites pour éclaircir un peu cette notion complexe de fonction analytique de Weierstrass.

L'étude des fonctions multiformes doit donc^ pour les raisons que je viens de dire, être abordée de plus en plus; et d'ailleurs, depuis un petit nombre d'années^ les recherches tendent à se multiplier. Elles tendent même à s'orienter dans différentes directions, ce qui indique bien qu'elles sont à l'ordre du jour.

La plus grande partie de ces Leçons est consacrée à l'étude de la définition de Weierstrass. Je n'ai pas cherché à la simplifier^ mais^ au contraire^ j'ai tenu à bien montrer toute la complication des cas qui peuvent se présenter. C'est justement la caractéristique des recherches de ce genre; la complexité des cas à prévoir est leur plus grande difficulté.

Une partie de l'Ouvrage est consacrée aussi à l'étude de l'allure d'une fonction au voisinage d'un point singulier. Je me suis borné aux recherches qui. soit par leurs méthodes, soit par leurs résultats et leurs généralisations^ se rattachent au même ordre d'idées, c'est-à-dire qui utilisent la définition générale de Weierstrass. Il se trouve justement que celles des questions que j'ai été amené ainsi à laisser de côté, ayant déjà été traitées dans d'autres Livres de la Collection^ le lecteur se trouvera avoir un exposé com-

plet('). ^

Enfin^ j'ai été obligé de m'étendre. même assez longuement, sur la théorie des ensembles: sans doute cette théorie est depuis une dizaine d'années devenue bien classique en France. Mais j'avais justement besoin d'un certain nombre de propriétés qui

( ' ) E. BoREL, Leçons sur les fonctions entières; Leçons sur les fonctions méromorphes. — O. Blumenthal, Leçons sur les fonctions entières de genre infini.

6 INTRODUCTION

ne figurent pas parmi celles qu'on peut considérer comme classiques ( ' ) et que j'ai par suite été obligé de reprendre.

On trouvera dans ce Livre plus de questions signalées que de questions résolues. On ne doit pas s'en é:onner, le sujet étant presque neuf. J'ai surtout voulu indiquer l'état de la question^ les différentes directions suivies jusqu'ici et les difficultés auxquelles on se heurte.

( ' ) Les Ouvrages d'Analyse élémentaire introduisent en général la notion d'ensemble : il en est ainsi, par exemple, des Traités de MM. C. Jordan et R. Baire, ainsi que de la deuxième édition de celui de M. Coursât. M. d'Adhémar, dans ses exercices d'Analyse (Paris, 1908), ne croit pas devoir suivre cet exemple et rappelle l'opinion de M. Poincaré sur le cantorisme. Cette opinion n'est sans doute pas aussi exclusive que M. d'Adhémar semble le croire.

LES ENSEMBLES DE POINTS

L'étude des ensembles de points est l'application la plus intéressante et la plus importante qui ait été faite de la théorie des ensembles abstraits. Un grand nombre des théorèmes de cette théorie (mais non tous) s'appliquent à des ensembles de points d'un espace à n dimensions: mais on comprendra qu'ayant en vue l'étude des fonctions d'une variable complexe, nous cherchions à abréger le langage en étudiant principalement le cas de Tespace à deux dimensions.

La notion fondamentale à introduire est celle de point limite. Ln point a est dit point limite de l'ensemble E si^ dans un cercle quelconque de centre a, il existe toujours un point de E (autre que a lui-même si a appartient à E) ( ' ). On peut alors énoncer le théorème suivant ou principe de Bolzano-Weierstrass :

Tout ensemble qui comprend une infinité de points admet au moins un point limite, ou encore : Tout ensemble qui dans une aire comprend une infinité de points admet au moins un point limite dans cette aire.

Ces théorèmes bien classiques se démontrent sans peine par la méthode habituelle de décomposition du plan en petits carrés.

Réciproquement, considérons un ensemble ayant un seul point limite (le point à l'infini si l'on veut) : cet ensemble est dénombrable: car. si l'on trace une série dénombrable de cercles concentriques de rayons indéfiniment croissants, dans chacune

{ ' ) Je n'exclus pas le cas où a serait le point à Tinfini. L'intérieur d'un cercle de centre a est alors l'extérieur d'un cercle quelconque. En ceci je ne suis pas l'usage qui est de faire jouer un rôle à part aux ensembles bornés.

8 ciiAi>rriii: i.

des couronnes formées^ il y aura un nombre fini de points de l'ensemble; on pourra donc en ranger tous les points dans un ordre déterminé^ c'est-à-dire les numéroter.

La conclusion et le raisonnement sont les mêmes si le nombre des points limites est fini.

La considération de l'ensemble des points limites^ ou ensemble dérwé, résulte naturellement de ce qui précède. Si l'ensemble dérivé est une portion de l'ensemble donné, celui-ci est dit fermé; il est dit parfait s'il est identique à son dérivé.

Si l'ensemble dérivé est infini^ il admet^ lui aussi^ un dérivé (qu'il contient; en d'autres termes tout dérivé est fermé) et l'on conçoit qu'on puisse ainsi former indéfiniment les ensembles dérivés successifs d'un ensemble donné. Dès qu'un de ces dérivés comprend un nombre fini de points^ l'ensemble primitif est dénombrable.

Pourra-t-il arriver qu'aucun des dérivés successifs ne se réduise à un nombre fini de points? Ce n'est pas douteux : si, par exemple^ l'ensemble donné (ou son dérivé) est parfait^ les dérivations successives donnent toujours le même ensemble. Je ne fais pas l'étude complète de ce cas^ et me contente d'énoncer les résultats auxquels on est alors conduit. Si la dérivation ne donne jamais d'ensemble fmi^ il existe un ensemble qui est commun à tous les dérivés. Cet ensemble est parfait (').

Les ensembles fermés.

La théorie des ensembles fermés donne lieu à un plus grand nombre de résultats précis que la théorie générale des ensembles; c'est à peu près exclusivement sur les ensembles fermés qu'ont porté les travaux de M. Cantor et de ses élèves; nous verrons d'ailleurs que c'est surtout de ces catégories d'ensembles qu'on a besoin dans les applications.

J'énonce d'abord sans démonstration le théorème dit de Cantor- Bendixson : Tout ensemble fermé est la somme d'un ensemble parfait et d'un ensemble dénombrable. Ce théorème a été démontré d'abord

( ^ ) Pour les démonstrations, voir, à la fin du Chapitre, les références bibliographiques.

LES ENSEMBLES DE POINTS. 9

en invoquant les propriétés des nombres transfinis; ces dernières années^ on est arrivé à s'affranchir de cette considération. L'utilité de ce théorème consiste pour notre objet actuel en ce que l'étude des ensembles fermés se ramène à celle des ensembles parfaits.

Ce théorème permet notamment d'élucider la question suivante : Quelle est la puissance d'un ensemble fermé? Ou bien l'ensemble est dénombrable^ ou bien il est la somme d'un ensemble parfait non nul et d'un ensemble dénombrable. On cherchera d'abord la puissance d'un ensemble parfait; cette question a été traitée par M. Cantor ; je reviendrai un peu plus loin sur sa démonstration. Pour l'instant je me borne à énoncer le résultat : tout ensemble parfait a la puissance du continu. Pour les ensembles fermés, il n'y a donc en somme que deux puissances possibles : celle dv dénombrable et celle du continu. Il en est sans doute de même pour tous les ensembles de points. Au contraire^ on sait que la théorie des ensembles abstraits introduit des puissances de plus en plus grandes: cette différence de résultats apporte naturellement une grande simplification à l'étude et aux applications des ensembles de points.

On peut indiquer un procédé simple de génération de tous les ensembles fermés. Considérons, par exemple^ les ensembles à une dimension situés sur une droite donnée. Je dis qu'on peut obtenir tous les ensembles fermés situés sur cette droite en excluant ceux des points de la droite qui sont intérieurs (au sens restreint du mot) à l'un des intervalles au moins d'une infinité dénombrable d'intervalles. En effet^ d'abord tout ensemble fermé^ E^ est susceptible de ce mode de génération^ car^ si un point de la droite n'appartient pas à E, il n'est pas limite de E; donc il est intérieur à un intervalle qui ne contient aucun point de E; on peut toujours supposer que les intervalles ainsi définis n'empiètent pas l'un sur l'autre (à moins de coïncider) : ils forment donc une infinité dénombrable. Inversement, soit E l'ensemble restant sur une droite quand on a enlevé les points de la droite intérieurs à une suite dénombrable d'intervalles ; cet ensemble est fermé : un de ses points limites^ en effet^ ne saurait être enlevé^ sans quoi les points qui l'entourent à droite et à gauche le seraient aussi.

Le résultat est naturellement le même pour un ensemble parfait. Prenons par exemple, pour série des intervalles^ relativement à

lO CIIAPITRK I.

un ensemble fermé donné, les intervalles que M. Baire appelle contigus à Vensemhlej définis de la façon suivante : tout point qui n'appartient pas à l'ensemble se trouve, on le voit aisément, entre deux points déterminés de l'ensemble qui sont les plus voisins de lui à droite et à gauche; considérons l'intervalle qui sépare ces deux points, et l'ensemble (dénombrable) des intervalles ainsi formés. Il est facile de voir alors quelle différence il y a, au point de vue de cette génération^ entre les ensembles fermés et parfaits; dans l'ensemble fermé non parfait il y a des points isolés. De tels points seront extrémités de deux intervalles à la fois. Au contraire, si l'ensemble est parfait, deux intervalles contigus n'auront jamais une extrémité commune. Les points de l'ensemble se répartiront en trois catégories : ceux qui sont extrémités droites d'un intervalle^ ceux qui sont extrémités gauches, et ceux qui sont limites des précédents sans être eux-mêmes extrémités d'intervalles; les deux premières catégories étant dénombrables, la troisième est la plus nombreuse.

Il est facile maintenant d'indiquer rapidement la démonstration de M. Cantor sur la puissance d'un ensemble parfait. On dit qu'un ensemble est dense dans un intervalle si, dans tout intervalle intérieur au premier, il possède des points. Si un ensemble fermé est dense dans un intervalle, il en épuise tous les points, car tout point de l'intervalle sera limite de points de l'ensemble et par conséquent lui appartiendra. On comprend donc que l'étude de la puissance d'un ensemble parfait ne soit nécessaire que si celui-ci n'est dense dans aucun intervalle. Si l'on démontre qu'un tel ensemble a la puissance du continu, la propriété s'étendra sans peine à tous les ensembles parfaits denses ou non et même à plusieurs dimensions par l'intermédiaire de la courbe de Peano (roiV p. au). Considérons donc un ensemble E parfait qui n'est dense sur aucune portion du segment o — i par exemple ; considérons la suite I de ses intervalles contigus. La méthode consiste à imaginer sur un autre segment o — 1 un ensemble LI partout dense, non fermé, dénombrable (par exemple l'ensemble des points d'abscisses rationnelles) dont chaque point correspondra à un des intervalles I, et cela de façon que l'ordre de succession de deux intervalles sur le premier segment soit le même que celui des deux points correspondants de l'ensemble H sur le second. Quel que soit l'ensemble, il est bien facile

LES ENSEMBLES DE POINTS. I I

de satisfaire à ces conditions. On se trouve alors avoir établi une correspondance point par point entre les points de E d'une part^ ceux du second segment o — i d'autre part. Aux points de E extrémités d'un même intervalle I^ on fera correspondre un même points savoir^ le point de H qui correspond à l'intervalle I: et à ceux des points de E qui sont limites d'intervalles (ou d'extrémités d'intervalles, ce qui revient au même) on fait correspondre le point limite des points de H qui correspondent à ces intervalles ; on démontre^ bien entendu (c'est là qu'intervient l'ordre de succession des points et des intervalles), que cette dernière correspondance est bien point par point, c'est-à-dire qu'à un point déterminé de E ne répond qu'un point limite de H^ et de même que tout point du segment o — i (qui est limite de H) correspond à un et un seul point de E. Donc E a bien la puissance du continu. Pour illustrer cette démonstration^ je vais en donner un exemple qui me servira un peu plus loin à la construction d'autres exemples intéressants. Prenons les intervalles I de la façon suivante : divisons le segment o — i en trois parties et prenons pour premier intervalle I la partie du milieu, c'est-à-dire l'intervalle - — --

Opérons de la même fa çon sur chacun des intervalles o — ^r et - — i ;

nous aurons les deux intervalles I : et - — - • Il reste alors

9 >^ 9 9 , , quatre intervalles sur lesquels j'opère de même^ et ainsi de suite.

On voit aisément que^ si l'on écrit l'abscisse d'un point dans le système de numération de base 3 (avec les seuls caractères «)^ i,^)y un point sera enlevé (c'est-à-dire intérieur à un intervalle I) si le chiffre i est employé pour écrire son abscisse, et il est conservé si l'on emploie exclusivement les caractères o et 2. Les points extrémités d'intervalles (par exemple - qui s'écrit 0^1 ou 7^ qui s'écrit o,2) jouissent des deux propriétés (car, par exemple, 0^1 peut s'écrire 0^0222 ... et 0^2 peut s'écrire o,i222...); nous conviendrons que ces points sont conservés^ et l'on pourra dire que les points conservés (ceux de l'ensemble E) sont ceux dont l'abscisse peut s'écrire exclusivement avec les caractères o et 2. Cet ensemble E est parfait et non dense.

Pour construire l'ensemble H, faisons correspondre à l'intervalle ^ — -le point -; aux deux intervalles suivants respecti-

12 ClIAPITHli 1.

vement les points - et ' ,^ et ainsi de suite. Il est aisé de voir

alors qu'à tout point de E dont l'abscisse s'écrit o, abc ... dans le système de base 3^ correspond un point dont l'abscisse dans le système de base a s'écrit (), ajjv, ... chacun des chiffres de ce dernier nombre étant o si celui qui a le même rang est o^ et i si celui qui a le même rang est 2. Or^ tout point du segment o — 1 se trouve ainsi correspondre à un point de E (ou à deux), car l'abscisse de tout point du segment o — 1 peut s'écrire dans le système binaire par une combinaison quelconque des caractères o et 1 , et à cette combinaison correspond une combinaison des caractères o et 2y c'est-à-dire un point de E.

Poussons un peu plus loin l'étude de cette correspondance. A toute abscisse o, abc ... d'un point du segment o — 1 de l'axe des X, faisons correspondre l'ordonnée définie de la façon suivante : si l'abscisse choisie est relative à un point de E, prenons l'ordonnée écrite dans le système binaire en changeant les o en o et les 2 en I dans l'abscisse écrite dans le système ternaire; si l'abscisse est relative à un point intérieur à un intervalle, portons en ordonnée l'abscisse du point de H correspondant. Nous avons défini ainsi une fonction de x dans l'intervalle o — 1 . Cette fonction est constante dans chacun des intervalles I, et elle n'est jamais décroissante. La courbe représentative est formée d'une infinité dénombrable de segments horizontaux reliés entre eux par des points, le tout formant une courbe continue, car l'ordonnée est évidemment fonction continue de l'abscisse; une telle fonction s'appelle fonction scalaire.

Je reviens au théorème général concernant la génération des ensembles fermés. J'ai traité le cas d'une dimension, à cause des conséquences que je voulais en tirer, mais le théorème s'étend à un nombre quelconque de dimensions. Je développe encore^ en vue des conséquences, le cas de deux dimensions.

Soit un ensemble fermé plan E; tout point qui ne lui appartient pas est centre d'un cercle qui ne contient aucun point de E ; donnons à ce cercle son rayon maximum p, je dirai que ce cercle est tangent à E ; une différence apparaît tout de suite avec le cas d'une dimension : ces cercles peuvent empiéter sans coïncider, et il n'est plus évident qu'on puisse s'arranger de façon à en obtenir une suite

LES KNSKMBLES DK l'OlMS. »3

dénombrable. On peut le voir de la façon suivante : d'abord nous pouvons supposer E borné : s'il ne l'est pas^ ou bien il comprend tout le plan ou bien on lui fera correspondre par une transformation homographique un ensemble borné. Je commencerai donc par tracer un cercle C contenant E, et j'exclurai les points extérieurs à ce cercle. Donnons-nous une suite de nombres positifs tendant vers zéro : /-,, r>, ..., et considérons ceux des points pour lesquels le nombre p défini plus haut est supérieur à r( ; on peut certainement enfermer tous ces points dans un nombre fini de cercles de rayons supérieurs à 7*1 : en effet, après avoir tracé le cercle ayant pour centre un de ces points et tangent à E^ je prendrai le centre d'un second cercle extérieur au premier (ou sur sa circonférence), puis celui d'un troisième extérieur à chacun des deux premiers, et ainsi de suite. Au bout d'un nombre fini d'opérations, il ne restera plus dans C de points pour lesquels p est supérieur à r (en effet, à cause de la condition imposée aux centres, chacun ne peut être intérieur à plus de sept cercles ; l'aire intérieure à C ne peut donc être recouverte plus de sept fois).

J'appliquerai le même procédé aux points pour lesquels z est compris entre r, et r^, et ainsi de suite. Je mettrai bien en évidence, en continuant ainsi, une suite dénombrable de cercles, et tout point extérieur à E finira par être intérieur à un de ces cercles, car r,, finit par devenir plus petit que la valeur de p relative à tout point donné d'avance.

Inversement, si nous considérons une suite 'dénombrable de cercles et si nous convenons d'exclure les points du plan intérieurs à l'un au moins d'entre eux, l'ensemble des points restant est fermé, car si un point est enlevé tous les points voisins le sont aussi.

Je rappellerai encore brièvement la notion d'écart de deux ensembles fermés. M. Jordan appelle écart de deux points x, y, X y y' l'expression

L'avantage que cette expression présente sur celle de la distance y/(^ — x')--i- {y — y')'- est que la première ne s'annule que si les points sont confondus, et cela même dans le cas de points imaginaires, tandis qu'il n'en est pas de même de la distance. Comme

l4 CIIAJ'ITRK I.

dans ce qui suit je considérerai uniquement des points réels, l'inconvénient n'est pas le même; j'emploierai donc en général l'expression d'écart; mais on pourra toujours supposer qu'il s'agit soit d'écart (au sens de M. Jordan)^ soit de distance (soit de toute autre fonction positive continue de deux points qui ne s'annulle que lorsqu'ils sont confondus).

L'écart d'un point à un ensemble sera la limite inférieure des écarts de ce point aux divers points de l'ensemble. Si l'ensemble est fermé^ on voit aisément qu'il existe un point de l'ensemble dont l'écart au point donné est justement cette limite inférieure ; par exemple, la condition nécessaire et suffisante pour que le point appartienne à l'ensemble est que son écarta l'ensemble soit nul. L'écart d'un point est le rayon du cercle tangent à l'ensemble utilisé dans la précédente démonstration (en supposant que écart = distance).

Soient de même deux ensembles; considérons les écarts de leurs points deux à deux ; cet ensemble de nombres admet une limite inférieure qui est l'écart des deux ensembles. S'ils sont tous deux fermés^ il existe au moins deux points (un dans chaque ensemble) dont l'écart est cette limite inférieure. En particulier, la condition nécessaire et suffisante pour que deux ensembles fermés aient un point commun est que leur écart soit nul.

Je démontre encore la proposition suivante^ qui nous sera utile : Etant donné un ensemble fermé quelconque, on peut toujours tromper un ensemble dénombrable dont le dérivé soit Vensemble donné.

En efîet, on peut enfermer les points de E dans un nombre fini de cercles de rayon r. Supposons E borné et intérieur à un cercle C de rayon R. Prenons un point arbitraire de E pour centre d'un cercle de rayon r. S'il y a encore des points de E extérieurs à ce cercle, prenons l'un de ces points pour centre d'un second cercle de rayon r, et ainsi de suite. Au bout d'un nombre fmi d'opérations^ nous aurons enfermé tous les points de E, car nos cercles de rayon r peuvent recouvrir au plus sept fois l'aire C ( ' ).

( ' ) Dans l'espace à n dimensions, on ne peut plus faire tout à fait le même raisonnement. On remarquera qu'il existe un nombre fini de cercles de i-ayon r, car sans cela leurs centres auraient un point limite et, par suite, on pourrait trouver deux centres dont la distance serait inférieure à r. Dans

l'espace à deux dimensions^ une limite supérieure de ce nombre est 7-^-

LKS KNSE.MBI.HS DE POINTS. l5

Soient a^, a^, . . ., «// les centres de ces cercles. Recommençons en donnant à r une succession de valeurs r,i tendant vers zéro. L'ensemble I des centres des cercles est dénombrable; il est formé de points de E ; donc tout point limite de I appartient à E^ et^ inversement^ tout point de E étant intérieur successivement à un cercle au moins de rayon 7*,^ est limite de ces centres. Le dérivé de I est donc identique à E.

f.es ensembles parfaits à deux dimensions.

Je laisse maintenant de côté l'étude des propriétés générales des ensembles fermés^ et j'arrive à la distinction entre les différentes catégories d'ensembles fermés à deux dimensions. Pour écarter le cas d'un ensemble dénombrable^ il suffit de se limiter aux ensembles parfaits.

Je dirai qu'un ensemble est bien enchaîné entre deux points s'il est possible de former une chaîne de points de l'ensemble ayant pour extrémités les deux points donnés et telle que la distance de deux points consécutifs soit inférieure à t^ cela, bien entendu^ quel que soit î.

Ceci posé^ un ensemble parfait bien enchaîné s'appellera ensemble continu ( ' ) ; s'il existe un couple de deux points tel que l'ensemble soit mal enchaîné entre ces deux points^ l'ensemble est discontinu.

Un ensemble bien enchaîné est dense en lui-même. Il suffit qu'il soit fermé pour qu'il soit parfait et, par suite, continu.

Par exemple, un segment de droite^ un arc de cercle extrémités comprises, la circonférence d'un cercle sont des ensembles continus. Un segment de droite dont on supprime une extrémité n'est pas un continu; il est bien enchaîné^ mais il n'est pas fermé^ ni par suite parfait. L'ensemble formé de la circonférence d'un cercle et du centre n'est ni parfait ni bien enchaîné; l'ensemble formé de deux segments de droites sans point commun est parfait mais mal enchaîné.

La distinction précédente a été faite par M. Cantor en cherchant à éclaircir la notion de continu. Pour notre objet^ ce n'est

( ' ) Je considérerai souvent comme continu un ensemble réduit à un point

iG CHAPITHE I.

pas cette notion qui est essentielle : dans les applications, tout ensemble qui;, sans être continu^ peut être décomposé en portions continues, joue à peu près le même rôle qu'un ensemble continu. La véritable distinction à faire entre les catégories d'ensembles parfaits réside dans la définition des ensembles partout discontinus. J'appelle ainsi un ensemble parfait qui est mal enchaîné entre deux quelconques de ses points; cet ensemble ne comprend donc aucune portion continue.

Qu'il existe de tels ensembles; cela n'est pas douteux : tous les ensembles parfaits non denses à une dimension dont nous avons parlé plus haut sont partout discontinus. Nous en trouverons d'autres plus loin.

Des définitions précédentes^ il résulte immédiatement que la condition nécessaire et suffisante pour que la somme de deux continus soit continue est qu'ils aient un point commun (ou que leur écart soit nul).

Réciproquement^, si l'on décompose un ensemble continu E en deux ensembles fermés ayant un seul point commun, ces ensembles sont continus tous deux.

Étant fermés, il suffît, d'après la remarque faite plus haut, de démontrer que chacun est bien enchaîné. Soient F et G ces deux portions, m leur unique point commun; soient a et h deux points de F; essayons de former une chaîne de points de F allant de a à 6 et à chaînons inférieurs à s. On peut former une telle chaîne avec des points de E; si, pour une infinité de valeurs de £ tendant vers zéro, ces points de E sont des points de F, la démonstration est achevée. Supposons au contraire que, quelque petit que soit £, la chaîne comprenne toujours des points de F et des points de G. Alors, la chaîne commençant et finissant par des points de F, en se déplaçant sur elle à partir de a, on trouvera d'abord des points de F jusqu'à un dernier, F,, immédiatement suivi d'un point de G, G) . De même, en revenant de h vers a, on mettra en évidence un dernier point de F, F^, suivi d'un point de G, G^ ; entre G, et G^ se trouvent des points de F et de G. L'ensemble des points F| admet un ensemble limite quand on donne à t une suite dénombrable de valeurs tendant vers zéro. De même pour les ensembles Gi, Fo, Go. Tout point limite de F, est limite de G,, car la distance F,, G, est inférieure

LES ENSEMBLES DE POINTS. F 7

à r. De même tout point limite de F., est limite de Go. D'autre part^. F et G sont fermés. Donc tout point limite de G| ou F|, de G, ou Fjj est commun à F et G, c'est-à-dire se confond avec m. Donc* F, et Fo ont un seul point limite^ le point m. Si donc on convient de supprimer dans la chaîne tous les sommets intermédiaires entre F( et Fo et de joindre ces points par un segment de droite^ la nouvelle chaîne est exclusivement formée de points de F^ et ses chaînons peuvent être rendus tous inférieurs à un nombre donné quelconque. Donc F est bien enchaîné.

L'hypothèse qu'il y a un seul point commun est essentielle : ainsi l'ensemble des points o^ x^ i peut se décomposer dans

F:o^:r£-; -Ix^i et G:- = j"^-;

F et G sont parfaits, F n'est pas continu, F et G ont deux points communs. De même^ la restriction que F et G sont fermés est nécessaire : si l'on prend pour F l'ensemble des points d'abscisse commensurable, et pour G l'ensemble complémentaire^ leur somme est continue et ils n'ont aucun point commun.

Considérons maintenant une infinité dénombrable d'ensembles fermés dans chacun desquels il n'existe aucune portion continue; je dis que la somme de ces ensembles ne saurait renfermer non plus de portion continue.

Soient E,^ E--^ ..., E,,, ... les ensembles donnés; S leur somme^ supposons qu'elle renferme un continu C. Il y a sur G des points n'appartenant pas à E, ; soit a un de ces points; E, étant fermé^ on peut tracer un cercle de centre a ne contenant aucun point de E|. L'ensemble des points de C situés dans ce cercle comprend une portion continue C . Il y a sur C des points extérieurs à E., et l'on peut tracer un cercle contenant une portion continue de C^ entièrement intérieur au précédent et ne contenant aucun point ni de E| ni de Eo, et ainsi de suite. Ces cercles ont pour limite un point qui appartient à C; or il ne peut appartenir à aucun des ensembles E^ car il est intérieur à un cercle qui ne contient aucun point de E,^ Eo, . . .^ E//, ...; il y a donc contradiction.

Ici encore l'hypothèse que les E sont fermés est essentielle, comme le montre l'exemple de l'ensemble des points d'abscisse commensurables et de son complémentaire : leur somme est continue et aucun d'eux ne l'est.

Zoa. 2

l8 CHAPITRE I.

Les continus superficiels.

M. Cantor divise les continus en deux catégories. On dit qu'un point est intérieur à un ensemble fermé si l'on peut trouver un cercle entourant ce point dont tous les points appartiennent à l'ensemble. Si un point n'est pas intérieur, il est dit frontière. Ceci posé^ les ensembles continus qui possèdent des points intérieurs sont dits superficiels; ceux dont tous les points sont frontières sont dits linéaires ( ' ).

Tout continu superficiel comprend évidemment des aires; inversement, si un continu comprend une aire^ il est superficiel. D'après un théorème de M. Cantor, on ne peut placer dans un plan qu'une infinité au plus dénombrable de continus superficiels (sans points communs; d'ailleurs, si deux continus ont un point commun, ils n'en font qu'un).

Si un continu superficiel ne comprend pas tout le plan^ il admet des points frontières. En efîet, sur toute ligne (droite par exemple) joignant un point de l'ensemble à un point extérieur, les points de l'ensemble forment un ensemble fermé^ qui ne comprend pas tous les points de la droite ; il existe donc des intervalles dont les points intérieurs n'appartiennent pas à l'ensemble, tandis que les extrémités lui appartiennent : ces points sont évidemment des points frontières.

On voit de plus que les points frontières forment un ensemble tel qu'on ne puisse passer d'une façon continue d'un point intérieur à un point extérieur sans rencontrer un point de l'ensemble frontière. Ce sont là les propriétés de la ligne au sens vulgaire du mot. Mais proposons-nous de préciser la nature de l'ensemble frontière. Nous allons voir qu'il est formé de continus linéaires.

Soit E l'ensemble donné, soit un point quelconque n'appartenant pas à E^ envoyons ce point à l'infini par une transformation homographique; l'ensemble E est alors borné. Considérons tous les points qu'on peut atteindre en partant du point à rinfini,

(') J'ai modifié cette définition dans le but de l'étendre à l'espace (voir Comptes rendus, t. 150, 1910, p. i5o5). La démonstration paraîtra dans les Acia Mathemaiica.

LES ENSEMBLKS DE POINTS. HJ

et en décrivant des courbes (analytiques, par exemple) quelconques sans jamais rencontrer de point de E; soit F l'ensemble de tous ces points et de leurs points limites. Un point commun à F et à E ne peut être intérieur ni à l'un ni à l'autre des deux ensembles ; mais^ parmi les points frontières de E^ il en existe qui sont aussi frontières de F^ et qui constituent l'intersection C de F et de E. Je dis que cette intersection est un continu linéaire.

Considérons en effet une subdivision du plan en petits carrés par des droites parallèles à deux directions rectangulaires; considérons ceux de ces carrés qui contiennent à la fois des points de F et des points de E. Tous les points de C appartiennent à un de ces carrés; leur ensemble forme un continu superficiel (il est évident qu'il forme dss continus, et il est aisé de voir qu'il ne saurait y en avoir deux). Soit Ci ce continu superficiel; C est dans C|. Donnons au côté du , carré une suite dénombrable de valeurs tendant vers zéro. Nous obtenons une suite de continus C,^ Cj, . . ., C.y dont chacun contient tous les suivants et contient C. Je démontrerai plus loin (page 2.5) en toute rigue'ur que l'ensemble limite de C,/ est continu. Cet ensemble limite ne peut comprendre de point extérieur à C. Soit en effet^ par exemple^ a un point de F^ soit o son

écart à E. Quand le côté du carré sera inférieur à ~ — ' > le point a

sera extérieur au continu C^ correspondant et aux suivants. D'autre part^ l'ensemble limite contient C; donc il se réduit à C. Donc C est continu. Evidemment C ne peut comprendre aucune aire.

En résumé^ à tout point extérieur à E^ on peut faire correspondre une aire (F). Deux de ces aires ne peuvent avoir un point commun sans coïncider; il y en a donc une infinité au plus dénombrable, et la frontière totale de E se compose d'une infinité dénombrable de continus linéaires.

Démontrons encore le théorème suivant : Si Von fait la somme d'une infinité dénombrable d' ensembles 'fermés dont aucun ne contient d'aire, leur somme ne saurait non plus contenir d'aire. Ce théorème est analogue à celui de la page 17 et- se démontre de même. Soit S une portion superficielle de la somme des ensembles E,, K2, . . ., E /, ... ; soit a un point de S extérieur à E, ; il existe un cercle de centre a extérieur à E . Dans ce cercle flojurent des

points extérieurs à E^^ et^ par suite^ il existe un cercle intérieur au premier extérieur à E, et à E..^ etc. Ces cercles tendent vers un point m de S qui ne peut appartenir à aucun des E^ d'où la contradiction.

Les continus linéaires.

Soit d'abord un ensemble continu à une seule dimension E, soient a et b deux points de l'ensemble^ je dis que tous les points entre a et b appartiennent à E. Soit m un de ces points. Formons entre a et 6 une chaîne de points de E à chaînons inférieurs à î, m sera entre deux sommets consécutifs c, d de la chaîne. Quand £ tend vers zéro (en prenant une suite dénombrable de valeurs), c ou d tendent vers m puisque cm <Z s. Donc m, point limite de points de E^ appartient à E.

Donc, sur la droite, la notion cantorienne de continu se confond avec la notion vulgaire que nous en avons. Par extension, j'appellerai ligne cantorienne un continu linéaire. On voit que cette définition correspond d'une manière a priori aussi satisfaisante que possible à la notion vulgaire de ligne.

Il existe une autre définition de la ligne continue, savoir, celle de M. Jordan : il appelle ainsi le lieu des points dont les coordonnées sont fonctions continues d'un paramètre. Et nous devons naturellement nous demander quel lien il y a entre les deux définitions, si elles sont aussi compréhensives l'une que l'autre, et aussi laquelle se présente le plus naturellement dans les applications.

D'abord, il n'y a certainement pas identité entre les objets définis. On sait que les courbes de M. Jordan peuvent remplir une aire; d'autre part, il est aisé de montrer que toute courbe de M. Jordan est un ensemble parfait bien enchaîné. La notion de courbe d'après M. Jordan comprend donc à la fois des continus linéaires et des continus superficiels.

Il existe d'autre part des lignes cantoriennes qui ne sont pas représentables par des fonctions continues. Si à la courbe

j' = siii - ( — I^iC^H-l)

on ajoute le segment — i, -f-'i de l'axe des y, on obtient un

LES ENSEMBLFCS DE POINTS. 21

ensemble continu de points; et il est manifeste que les coordonnées d'un point ne peuvent être fonctions continues d'un paramètre t que si l'on convient de faire correspondre à une certaine valeur de t tous les points du segment — i^ -]- i, ce qui ne donne pas^ sur ce segment, des fonctions continues.

D'ailleurs, les deux conceptions se rencontrent dans des applications pratiques : la notion de M. Jordan se prête facilement à l'étude des propriétés élémentaires (rectification, intégration, applications géométriques)^ mais la notion cantorienne se présente^ elle aussi, d'une façon très naturelle, j'ajoute même indispensable dans un grand nombre de recherches générales sur la théorie des fonctions analytiques : la ligne cantorienne apparaît comme l'un des cas possibles de la distribution des points dans un plan; or, tous ces cas sont également importants dans une étude générale, aucun ne peut être écarté. On ne sera donc pas étonné de voir cette notion intervenir souvent dans la suite; dans la théorie analytique des équations différentielles, c'est aussi sous la forme d'ensembles continus que se présentent les lignes singulières des fonctions qu'elles définissent (').

Les ensembles discontinus.

C'est aussi par des considérations du même genre qu'on peut justifier l'étude des ensembles discontinus. Outre l'intérêt que pré-

(') J'ai étudié dans un Mémoire des Annales de V École Normale, 1909, les relations entre ces deux définitions. J'ai été amené ainsi à introduire la notion d'ensemble continu irréductible entre deux points, c'est-à-dire dont aucune portion continue ne comprend les deux points. Quoique j'aie exposé ces recherches dans mes Leçons du Collège de France, je n'ai pas cru devoir les reproduire ici, car je n'avais pas à les utiliser. On pourra consulter encore sur ces questions : L. Zoretti, Comptes rendus, t. ioO^ 1910, p. i5o5, et t. 151^ p. 201: et S. Janiszewska, Comptes rendus, t. i^)0, 1910, p. 606, et t. laJ, p. 198, ainsi qu'un Mémoire de l'auteur qui paraîtra prochainement dans les Acta. M. Janiszewski doit également réunir ses recherches dans un Mémoire. Aussi bien dans les recherches d'Analyse qu'en Géométrie pure, la notion de continu irréductible semble devoir jouer un rôle important. C'est la première restriction à apporter à la définition de M. Cantor pour la rendre conforme à la notion vulgaire de ligne. Certains même, la jugeant encore trop large, exigent une restriction de plus.

sente en elle-même une telle étude^ il faut bien dire qu'elle est à peu près indispensable dans de nombreuses recherches.

Je m'occupe uniquement des ensembles que j'ai appelés partout discontinus, c'est-à-dire mal enchaînés entre deux quelconques de leurs points; quant aux ensembles discontinus formés par la réunion d'ensembles continus sans point commun et d'ensembles partout discontinus, on peut dire qu'ils [seront utilisables dans les applications dès que l'on connaîtra les propriétés des continus et des ensembles partout discontinus.

Soit a un point d'un ensemble partout discontinu E; je dis qu'on peut trouver un contour simple entourant a^ ne contenant aucun point de E^ et entièrement intérieur à un cercle quelconque de centre a. Soit en effet C un tel cercle. L'ensemble F des points de E extérieurs à C ou situés sur C est fermé. Pour chaque point de cet ensemble, il existe un nombre £ tel qu'on ne puisse construire une chaîne de points de E à chaînons plus petits que s et allant de a à ce point. Ces nombres £ admettent une limite inférieure non nulle, comme on le voit aisément en tenant compte de ce que F est fermé et de ce que, si le nombre £ a une certaine valeur pour un point de F^ il a la même valeur ou une valeur plus grande pour tous les points d'un cercle de rayon s ayant le point donné pour centre. Appelons encore £ la limite inférieure trouvée. Si nous

traçons les cercles de rayon - ayant pour centres tous les points

de E^ ces cercles forment une ou plusieurs aires^ et celle de ces aires qui comprend a est entièrement intérieure à C. La frontière de cette aire est une ligne qui entoure a et qui ne passe pas par un point de E ; c'est une ligne simple fermée, L.

Remarquons que^ si A est l'écart de L et de E^ on peut^ en traçant tous les cercles de rayon)/<; A qui ont pour centre un point de L^ obtenir une bande entourant a et ne contenant aucun point de E ; il en résulte qu'on peut modifier le choix de la ligne L d'une infinité de façons. Mais, et ceci montre que le théorème précédent qu'on pouvait être tenté de regarder comme évident exige une démonstration^ il ne faudrait pas croire qu'on puisse choisir pour L un cercle. Il est en effet facile de former un exemple d'ensemble discontinu tel que tout cercle de centre a le rencontre en un point au moins.

LES ENSF.MBLnS DE POINTS. iS

Reprenons en effet l'ensemble parfait non dense E construit plus haut (p. II). J'ai construit une fonction / (a:) continue^ définie entre o et i à la fois pour les points de l'ensemble E et pour les points extérieurs à l'ensemble. Donnons à x uniquement les valeurs des abscisses des points de E: la fonction y = f{x) prend quand même et au moins une fois chacune toutes les valeurs entre o et i . Posons alors

—2 prenant toutes les valeurs précédemment indiquées; 0 prend

donc des valeurs entre o et 2 t:; construisons l'ensemble des points

dont les coordonnées polaires sont H et i'^=f\—z)' Ces points

forment un ensemble discontinu. Tous les cercles ayant l'origine pour centre et un rayon quelconque intermédiaire entre o et i contiennent un ou même deux points de l'ensemble.

Cherchons dans le même ordre d'idées à étudier la projection d'un ensemble discontinu sur une droite. Cette projection peut être continue ou comprendre un ensemble continu. Reprenons, en efFet, par exemple, la fonction y = f{x) définie pour les points de l'ensemble E; construisons les points de coordonnées x, y ^/{x). Ils forment un ensemble discontinu F, qui se projette sur Taxe des y suivant le segment o — i tout entier. On peut encore dire que toutes les parallèles à l'axe des x à une distance de celui-ci inférieure] à l'unité contiennent un point (ou deux) de l'ensemble.

Ce résultat peut être étendu beaucoup. Considérons par exemple toutes les droites passant par l'origine et faisant avec l'axe des y un angle commensurable avec 2 t: (ces droites interceptent sur un cercle de centre 0 un ensemble dénombrable partout dense). Opérons sur chacune de ces droites comme dans le dernier exemple sur l'axe des î/, c'est-à-dire déduisons de l'ensemble F que nous venons de construire une infinité dénombrable d'ensembles analogues au moyen d'une infinité dénombrable de rotations: la somme de tous ces ensembles ne contient aucun continu, et cependant sa projection est continue sur une infinité dénombrable de droites. Toute droite qui passe à une distance de 0 inférieure à l'unité contient un point de l'ensemble, si elle fait avec l'axe des x un angle commensurable avec 2-.

Conservons toujours à la fonction / la même signification et remarquons que l'ensemble F : y = f[x) contient le point x= y^= i. Construisons alors le nouvel ensemble P défini par

Quand r prend certaines valeurs telles que (ry/2 — i) varie de o à !, c'est-à-dire^ d'une façon plus précise,, quand r prend un

ensemble parfait non dense de valeurs entre — et y/;>», 0 — épuise toutes les valeurs entre o et 2-. Notre ensemble P est donc parfait discontinu^ il va du point x =^ y = o au point X =^ y = \ y et toute droite issue de l'origine le rencontre.

Construisons alors une infinité (non dénombrable) d'ensembles semblables à F en prenant pour couples de points homologues d'abord l'origine point double et^ en second lieu^ le point x = y = \ avec tous les points de P successivement; considérons la somme de tous ces ensembles F; sur toute droite issue de l'origine cette somme se projette suivant un ensemble dont une portion est continue. L'ensemble est rencontré en un point par toutes les droites qui coupent le cercle de centre 0 et de rayon .' .

On peut évidemment recouvrir tout le plan au moyen d'une infinité dénombrable de cercles de rayon i. Effectuons sur l'ensemble précédent une infinité dénombrable de translations en faisant correspondre à l'origine successivement les centres de ces cercles. La somme des ensembles obtenus ne contient aucune portion continue. Et cependant^ soit une droite quelconque D; elle contient certainement un point de l'ensemble. Elle en contient même une infinité^ car tout point de la droite étant intérieur à un des cercles est à une distance inférieure à 2 y/ 2 d'un point de l'ensemble situé sur D. Il y a donc des points de l'ensemble sur chaque segment de D supérieur à un nombre fixe (4 V'^) (')•

Ces exemples suffiront, je l'espère^ à montrer avec quelle prudence il faut employer ces ensembles dans les applications, et combien il faut se méfier des suggestions de notre intuition.

( ' ) Voir L. ZoRETTi, Comptes rendus, t. I i^, 190G, p. 763; on trouvera un autre exemple dans une Note de A. Denjoy, Comptes rendus, t. 1 U), 1909, p. 726, parue pendant l'impression de ce Livre.

LES ENSEMBLES DE POINTS. 2D

Ensembles fonctions d' un paramètre.

Dans un grand nombre de questions^ on fait appel à un ensemble variable^ dépendant d'un paramètre, et l'on utilise les propriétés de l'ensemble limite quand le paramètre tend vers une valeur déterminée. J'ai déjà fait dans ce qui précède des raisonnements de ce genre et je vais montrer comment on peut obtenir quelques résultats systématiques dont nous aurons besoin fréquemment; mais il convient de faire auparavant une remarque. L'ensemble limite est formé de points qui sont à un certain point de vue points limites des ensembles donnés, et il y a là une certaine confusion qui pourrait s'établir entre ces deux aspects de la notion de point limite. Pour l'éviter^ il nous suffira de préciser nos définitions.

Soient E (a) les ensembles variables donnés, fonctions de a. Supposons que a tende vers 'p. Je dirai qu'un point a appartient à l'ensemble limite E, si dans un cercle quelconque de centre a il existe des points des ensembles E (a) pour une infinité de valeurs de a tendant vers ^.

Il ne faudrait nullement en conclure que^ si l'on prend une infinité d'ensembles E (a) et dans chacun un point^ le dérivé de l'ensemble de points obtenu appartienne à l'ensemble limite. En efTet, prendre une infinité d'ensembles E (a) ne veut pas dire que l'on donne à a une infinité de valeurs tendant vers [ii. Cependant le procédé dont je viens de parler pourrait être commode dans certaines applications; aussi n'est- il pas inutile de rechercher les cas où l'on peut procéder ainsi.

Supposons que y. prenne uniquement des valeurs réelles (si a était complexe^ il n'y aurait presque rien à changer) ; représentons a par un point d'abscisse o. Toutes les valeurs qu'on donne à a fournissent donc un ensemble de points à une dimension. Le point j est un point limite de cet ensemble; s'il y a d'autres points limites^ on peut imaginer une infinité d'ensembles E(a) sans que a tende vers ^^ sinon non. La condition pour qu'on puisse procéder comme je l'ai dit est donc que l'ensemble a ait un seul point limite^ savoir p (il doit donc^ en particulier^ être dénombrable). Ce cas se présente heureusement assez souvent, et cela se conçoit, car

iG CHAPITRE I.

c'est en général nous-mêmes qui choisirons les ensembles variables. Il est facile de voir que, dans ce cas^ on pourra obtenir tout l'ensemble limite en prenant de toutes les façons possibles un point et un seul dans chaque ensemble. Si l'on se reporte aux démonstrations où nous avons déjà^ plus haut, utilisé les ensembles variables, on verra que nous avions^ sans le dire, utilisé ce procédé.

Revenons au cas général^ et remarquons d'abord que tout point commun à tous les E (a) appartient à l'ensemble limite. Soit maintenant a un point quelconque de l'ensemble limite. Quand a tend vers ^, deux cas peuvent se présenter : ou bien pour toutes les valeurs de a voisines de [^^ il y aura des points de E (a) voisins de a; ou bien pour certaines valeurs de a voisines de ^p, il y aura de tels points^ tandis que pour d'autres les E (a) seront à distance non infiniment petite de a. L'ensemble limite n'est donc pas le même suivant que a prend toutes les valeurs voisines de |j ou seulement quelques-unes d'entre elles.

Je remarque encore que l'ensemble limite est fermé.

Je démontrerai simplement le théorème suivant qui nous sera très utile : Considérons un continu fonction d'un paramètre et cherchons à quelle condition V ensemble limite sera continu. Je dis quil suffit pour cela que V ensemble limite contienne un point au moins qui soit limite de tous les E(a).

En elîet^ écartons le cas où l'ensemble limite contiendrait uniquement ce point (auquel cas il serait bien continu) et supposons que l'ensemble limite contienne deux points au moins a, b, a étant voisin de tous les E(a) tandis que b peut n'être voisin que de quelques-uns (en nombre infini). Je vais démontrer que l'ensemble limite E est bien enchaîné entre a et b. Supposons qu'il ne le soit pas; on pourra trouver un nombre £ tel^ qu'en traçant les cercles de rayon s ayant pour centres les points de E^ ces cercles forment des surfaces séparées, a et 6 n'appartenant pas à la même surface. (Ces surfaces sont en nombre fini en supposant E borné puisqu'elles ne se recouvrent pas et que chacune a au moins t:£- pour aire.) Alors^ on peut trouver une infinité de valeurs de a tendant vers j3 telles que E (a) ait des points dans l'aire qui entoure a et des points aussi dans celle qui entoure 6; comme E (a) est continu^ E (a) aura aussi des points extérieurs à toutes les aires. L'ensemble limite

LES ENSEMBLES DE POINTS

aurait donc aussi des points en dehors de ces aires ou sur leur frontière^ ce qui est absurde.

Il est alors évident que E est bien enchaîné entre deux quelconques de ses points : pour faire une chaîne allant de b à c^ on ajoutera deux chaînes allant de 6 à a et de a à c^ ce qui est possible d'après ce qui précède avec des chaînons aussi petits qu'on veut. Alors E étant fermé et bien enchaîné est parfait.

L'existence d'un point limite pour tous les E,i, c'est-à-dire tel que dans un cercle de centre a il y ait des points de tous les E,/ à partir d'une certaine valeur de n^ semble bien être presque essentielle pour que l'on puisse énoncer un théorème général.

On peut cependant se demander si, lorsqu'un ensemble continu E// a pour limite un continu^ il existe forcément un point qui soit limite pour tous les E/^. Il n'en est rien, comme le montre l'exemple suivant :

Prenons pour ensemble E,/ l'ensemble des points de coordonnées Xy y définies par les égalités ou inégalités suivantes :

n on on

'^ n non n i n

En d'autres termes^ sur chaque droite d'ordonnée - nous divisons le segment o — i en n parties égales et nous prenons pour former un ensemble E,/ le tiers moyen de chaque segment. Sur chaque droite^ nous aurons ?i ensembles E,^, tous continus. L'ensemble limite est le segment o — i de l'axe des x, et il n'y a aucun point sur Ox qui soit limite de tous les E//. On peut même choisir les E// de façon que l'ensemble limite ne soit plus continu.

On peut donc se proposer de caractériser les cas où l'on peut affirmer l'existence de points limites par tous les E„, et notamment les cas où l'ensemble des points limites de tous les E„ est continu lui-même. On peut se demander aussi si l'on peut prendre parmi les E„ un ensemble (dénombrable) d'ensembles (c'est-à-dire une infinité de valeurs de zî) de telle façon que l'ensemble limite reste