LES ENSEMBLES PARFAITS DISCONTINUS DE SINGULARITES

En tous cas^ le théorème obtenu^ et même le théorème général de Liouville-Weierstrass, ne faisaient de doute pour aucun de ceux qui s'occupaient, à cette époque^ de cette question. Et cependant^ comme nous allons le voir, même le théorème sur la continuité était inexact. Avant de le montrer par un exemple^ je me propose de tirer de ce fait quelques conséquences.

Revenons à la démonstration-canevas et essayons de voir quelles parties de cette démonstration peuvent être établies en toute rigueur.

Le domaine des points w est certainement limité par une ligne^ ce théorème est bien connu. Sa démonstration par M. Phragnien repose bien^ elle aussi, sur l'intuition géométrique, mais il peut être établi en partant de la notion de nombre par voie purement logique. L'essentiel est ensuite d'arriver à l'existence d'une coupure, et d'abord de préciser le sens de ce mot. La démonstration de ce point dans ma Thèse est valable lorsqu'on admet l'existence de ce que j'appelle des points d^ arrêt. Ce qui a été dit plus haut à ce sujet (p. 5^-58) permet de nous faire une idée plus nette de la question. J'ai distingué les coupures en général, et les coupures pour une branche, les premières faciles à mettre en évidence dans un grand nombre de cas^ avec peu d'hypothèses^ les secondes plus délicates à trouver. Or, dans le cas actuel, il y a bien, et c'est facile à voir^ coupure en général^ mais l'existence d'un domaine borné ne permet pas de conclure à l'existence d'une coupure pour une branche. Or^ la suite de la démonstration exige une telle coupure^ car sans cela on ne peut conclure que l'ensemble limite des continus que décrit z quand w décrit la ligne qui tend vers la coupure soit un ensemble continu, c'est-à-dire réduit à un point : les continus que décrit z peuvent par exemple former des circuits entourant deux points et avoir ces deux points comme points limites ('). Voilà exactement le point faible de la démonstration.

Mais, puisque le théorème est inexact^ c'est donc en toute

( ' ) Plus exactement^ dans le cas actuel, il est facile de montrer que cet ■ensemble limite ne peut comprendre aucun point régulier de ^{z); si on le supposait dénombrable, cela suffirait encore pour conclure que les points singuliers de w{z) sont transcendants essentiels. Donc, l'ensemble limite comprend, soit tout l'ensemble singulier de w{z), soit une portion fermée et non dénombrable de cet ensemble.

rigueur qu'une fonction peut avoir un ensemble continu de points singuliers^ même un domaine d'existence borné sans qu'on puisse dire qu'aucune de ses branches ait une coupure. Bien entendu^ cela suppose qu'on admet pour ce mot la définition donnée plus haut, mais il paraît bien difficile d'en imaginer une plus naturelle ( ^ ).

En tous cas, il nous faut retenir de ceci la nécessité de considérer comme insuffisants les raisonnements de la théorie des fonctions où l'intuition de l'espace est invoquée sans qu'on démontre logiquement en partant de la notion de nombre les théorèmes à énoncé géométrique sur lesquels on s'appuie (-).

Arrivons maintenant à l'exemple qui montre l'inexactitude du théorème en question. Il a été donné par M. Pompeiu en 190;"), et, s'il n'a pas été remarqué plus tôt, c'est que les raisons données à l'appui par M. Pompeiu étaient insuffisantes. C'est M. Denjoy, dont la conviction n'était pas faite, comme celle de M. Painlevé ou la mienne, qui reprenant l'exemple de M. Pompeiu montra que cet exemple était probant. Il y a d'ailleurs dans la démonstration de M. Denjoy [des choses inutiles. Aussi vais-je la réduire à l'essentiel.

On sait ce que M. Lebesgue appelle aire d'un ensemble et qu'il peut exister des ensembles discontinus d'aire non nulle ('). Soit S un tel ensemble, d'aire c. Supposons-le borné et considérons l'intégrale

( ^ ) Je dirai même que la conclusion est identique quelle que soit la définition des mots coupure pour une branche, pourvu qu'elle ne soit pas absurde. Il semble que le continu singulier ne soit ici qu'un amas de singidarités discontinues affectées respectivement à une branche^ la continuité ne provenant que de leur réunion. Ceci est à la rigueur explicable, bien que les branches soient en nombre dénombrable. La compatibilité de ce fait et de l'existence d'une frontière naturelle pour le domaine d'existence est plus paradoxale. Pour ma part, bien que forcé d'y croire, j'avoue que je ne me l'explique pas [i^oir p. 112).

(2) La mt)de qui semble s'introduire de donner des démonstrations approximatives conduisant à des énoncés sinon acquis, du moins vraisemblables, doit être signalée comnàe dangereuse. En ces matières, l'expérience nous l'apprend, la vraisemblance n'est pas un critérium d'exactitude.

(■*) Voir sa Thèse ou ses Leçons sur l'intégration.

LES ENSEMBLRS PARFAITS DISCONTINUS DK SINGULARITÉS. 87

du) désignant l'élément d'aire, z la variable d'intégration et x un point quelconque du plan. L'intégrale est étendue à l'ensemble^S au sens de M. Lebesgue. Cette intégrale définit une fonction de x qui est évidemment holomorphe en tout point x distinct de S ou dans toute aire qui ne renferme sur son contour ou à son intérieur aucun point de S; comme S ne morcelle pas le plan^ on définit b ien ainsi une même fonction analytique dans tout le plan.

Je dis que/'(:c) est continue en tout point de S et naturellement par suite dans tout le plan.

Soient en effet x et x deux points quelconques. Evaluons f{x)—J\x). On a

Désignons respectivement par M^ A^ B les trois points z, x, x . Nous aurons

!/(^;-/(.rO,<|^-^|/ j^;^ï^

et nous ^augmenterons encore le second membre si^ au lieu de l'intégrale étendue à l'ensemble^ nous prenons la même intégrale étendue à tout un domaine, un cercle par exemple^ qui comprend l'ensemble à son intérieur. Soit S' ce domaine. Nous allons chercher une limite supérieure de l'intégrale

J ,4 Al A.MB

et nous en déduirons que f[x) — f[x') est infiniment petite avec X — x , ce qui est justement le point à établir.

Considérons^ en posant AB = > d, un cercle de rayon 2 dj soit C, ayant son centre au milieu de AB ; I se décompose en deux intégrales^ l'une !,, étendue au cercle C^ l'autre L étendue aux points de S' extérieurs à C. Evaluons I|. Traçons deux cercles de centres A et B et de rayon d, soient C et C". L'intégrale L est décomposée en trois prises dans C'^ dans C" et pour les points intérieurs à C et extérieurs à C et C". Or, on a

cird^

(en prenant des coordonnées polaires de centre A). De même

le. < 277.

Quant à la troisième intégrale^ elle est inférieure à

ffi-i^ff

du) z^ •>> t:.

L'intégrale I, est donc inférieure k Giz.

Evaluons maintenant L en prenant des coordonnées polaires ayant pour centre le milieu de AB et en supposant (ce qui est possible) que S' est un cercle ayant ce même centre. Nous avons

Or (r--^d-)- — /^d-r- cos-0 varie entre {r- ^ d-)'^ et (r- — d-)- et de plus (r- + d-)- est toujours inférieur à 4r''. Donc on a

(/•2+ d-^ }"- - 4 d-^r-^ cos^O

Ce nombre est donc inférieur à sa racine carrée. Donc on a

.J J 1 /■- {r'~^ d-^)-'— \ d'- r' cos''' (i ou encore

J J ( /•--^ ^/-)-— 4 ^'Z-- COS-0 "~^^/ I y j-t f-l-l yl

et enfin

Un calcul simple donne pour le second membre

Remarquons qu'il est à peu près évident qu'on peut donner à R une valeur indépendante de d. Ajoutons à l'expression cidessus la limite, Gtt, trouvée pour I,. Multiplions le tout par

i .r — x' \ = id:

LES ENSEMBLKS PARFAITS DISCONTIM S DE SINGULARITÉS. 89

nous obtenons

\f{x) — /( x') \<:Xd-\- t{d)d-\- B f/log<

A et B étant deux constantes^ et z[d) une fonction qui tend vers zéro avec d. Le second membre tout entier tend donc vers zéro avec d, ce qu'il fallait montrer.

La fonction /(a;) est donc continue dans tout le plan. Comme elle est nulle à l'infini^ ou bien elle n'a pas de points singuliers^ et alors elle est identiquement nulle, ou bien elle en a^ mais alors ces points ne peuvent former qu'un ensemble discontinu [^ovXion de S)^ puisqu'ils sont transcendants ordinaires. Il reste donc simplement à voir que la fonction n'est pas identiquement nulle. Si elle l'était^ le produit x f\x) serait nul et par suite tendrait vers zéro quand x tend vers l'infini; or ce produit

-ff-(r.)

tend^ comme on le voit facilement^ vers — t quand x grandit indéfiniment. C'est donc la seconde conclusion qui est la vraie.

On peut même choisir l'ensemble S de façon que tous ses points soient singuliers; il suffit évidemment pour cela que toute portion de S intérieure à une aire quelconque soit d'aire non nulle^ ce qui est possible.

L'hypothèse sur l'aire est essentielle dans la démonstration^ sans quoi l'exemple ne prouve rien^ f{-^) étant nulle. Il reste en tous cas à élucider le cas intermédiaire où l'ensemble est de longueur infinie (semi-superficiel) et d'aire nulle. La question est d'autant p'us difficile (à résoudre complètement) que la méthode directe ne peut plus rien donner : il semble en effet bien difficile d'y introduire une hypothèse sur la densité des points de l'ensemble. Tout ce qu'on peut espérer^ c'est^ à défaut de théorème général, de prouver par un exemple la possibilité de telle ou telle circonstance^ sur laquelle il serait évidemment téméraire d'émettre une opinion.

Peut-être sera-t-il utile de rappeler à ce sujet le théorème suivant, démontré dans ma Thèse : On peut faire passer une ligne par tous les points d'un ensemble discontinu. Cette ligne, natu-

go CHAPITRE IV. — LES ENSEMBLES PARFAITS DISCONTINUS DE SINGULARITÉS.

rellement, est une ligne cantorienne^ car, pour une ligne de Jordan^ la question ne se pose pas. Quand z décrit cette ligne, w décrit dans son plan une ligne qui épuise tous les points singuliers de la fonction inverse^ c'est-à-dire qui passe par tous les points d'un ensemble continu (ceci en supposant que les points singuliers de w{z) sont transcendants essentiels). Il y a sans doute une relation entre ce fait que la ligne w comprend une infinité continue de points 'reliés deux à deux^ peut-on dire^ par des arcs continus et la densité des points de l'ensemble singulier donné sur la ligne z. Cette relation caractériserait encore des cas où les points singuliers peuvent être transcendants ordinaires ( ' ).

( ' ) La ligne qui passe par les points d'un ensemble discontinu n'est pas un continu Quelconque ; c'est la frontière d'un domaine. M. F.- Riesz^ dans une Note des Comptes rendus, a essayé de démontrer qu'on pouvait faire passer une ligne simple de Jordan par les points d'un ensemble discontinu. Sa démonstration est inexacte, comme je l'ai montré [Comptes rendus, t. CXLIT^ 1906^ p. 763. Le fait est peut-être exact, quoique la frontière d'un domaine ne soit pas toujours une ligne de Jordan. Voir sur ces questions mes Mémoires des Annales de V École Normale, 1909, et des Acta (à paraître) ; voir aussi la Note, p. 21.

Au moment où je termine la correction" des épreuves, une Note de M. A. Denjoy paraît dans les Comptes rendus, t. 131, 11 juillet 1910, où il démontre le résultat que M. Riesz avait essayé de démontrer. Consulter également la Note déjà citée du même auteur (p. 63) sur les questions qui font l'objet de ce Chapitre.