LES LIGNES SINGULIERES

cendants ordinaires; on peut donc dire qu'en chaque point de la ligne^ la fonction prend une valeur déterminée. L'ensemble de ces valeurs peut être une fonction discontinue quelconque de l'arc. Je n'en donne pas d'exemple, mais je terais à signaler ces différents cas. Il en résulte que^ sur une coupure^ à peu près toutes les circonstances qui sont compatibles avec l'existence d'un point singulier peuvent effectivement se présenter.

Il est certain qu'en tout point :3„ de la ligne^ on ne peut pas trouver un cercle dans lequel la fonction w{z) soit continue et admette une dérivée; car, d'après le théorème de M. Goursat^ la fonction serait holomorphe dans le cercle, donc en z„. Mais est-ce là le seul résultat qu'on puisse espérer obtenir ? Ne doit-il rien résulter de particulier du fait que les points singuliers sont réunis en ligne ? Il faut bien espérer qu'il y a dans ce cas aussi certaines impossibilités bien caractérisées. Mais on devine qu'il y aura à les découvrir une double et profonde dilTiculté. D'abord, celle qui résulte^ comme je vais l'expliquer^ de la notion même de ligne; et^ en second lieu^ il y a une difficulté dans la découverte même des énoncés : tant de circonstances sont possibles^ qu'on ne voit pas très bien lesquelles pourraient ne pas l'être. La suite va montrer que^ lors même qu'on a trouvé un énoncé vraisemblable^ un exemple vient souvent le mettre en défaut. En résumé^ c'est dans les lignes singulières qu'on trouve les points singuliers avec^ ou à peu près^ la généralité que leur attribue la définition; et la détermination du point jusqu'où s'étend cette généralité est quelque chose de très délicat, et de très important en même temps. C'est pourquoi j'ai un peu insisté sur cette façon de poser le problème.

La notion de ligne.

Il importe de remarquer avant tout que les lignes singulières dont il s'agit ici sont des continus cantorienS;, et c'est par conséquent par des méthodes analogues à celles utilisées dans ce Livre qu'on peut seulement arriver à des théorèmes tout à fait généraux. Je ne crois donc pas inutile d'expliquer un peu la complication du problème.

Nous pouvons laisser de côté le cas où, dans le voisinage du

point singulier à étudier^ figurent des points singuliers discrets. Dans ce cas, en efîet, les théorèmes généraux des Chapitres précédents s'appliquent : le point est en général point d'indétermination complète ou incomplète^ ou point limite de tels points. Le seul cas réellement nouveau est celui d'une fonction pourvue uniquement de lignes singulières. Mais ces lignes peuvent être en nombre infini^ même pas dénombrable ; elles peuvent tendre les unes vers les autres ou vers des points (isolés en tant que points, mais limites de lignes)^ etc. On pourra commencer par étudier le cas d'une ligne unique^ et simplifier encore en la supposant irréductible, ou même en prenant une ligne simple de Jordan. L'étude devient un peu plus simple. Mais^ bien entendu, on n'a plus alors de théorèmes véritablement généraux.

La continuité dans une aire.

Je vais appliquer les remarques qui précèdent à l'étude d'une question^ la seule qu'on se soit jamais posée au sujet des lignes singulières sans la voir se résoudre en sens contraire de celui qui était le plus vraisemblable.

Elle est posée nettement dans la Thèse de M. Painlevé^ ( ' ) et, comme nous allons voir, elle n'est pas encore résolue d'une façon complète.

Nous avons vu qu'une fonction peut être continue sur une ligne singulière. Est-ce qu'elle peut l'être des deux côtés de la ligne^ ou encore (l'expression : les deux côtés d'une ligne cantorienne pouvant ne pas avoir de sens) dans une aire contenant la ligne? C'est là une question intéressante, car elle permettrait^ si elle était résolue par la négative^ d'affirmer dans certaines applications^ que deux fonctions sont prolongement analytique l'une de rautre, ou encore qu'une fonction est holomorphe dans une aire.

Je commence par un cas très particulier, celui d'une fonction continue dans une aire et prenant sur une coupure située dans cette aire une valeur constante qu'on peut supposer nulle. M. Painlevé a alors démontré dans sa Thèse que la fonction ne peut pas exister ou plutôt est nulle identiquement. Mais sa

( ' ) Annales de Toulouse, 1888.

LKS LIGNES SINGULIÈRES. 9)

démonstration, qui s'applique à une ligne cantorienne, suppose cette ligne isolée de toutes singularités. J'ai^ comme on l'a vu plus haut {i'oir p. -2), fait subir à cette démonstration les modifications nécessaires pour aboutir au résultat suivant : une fonction multiforme qui n'a que des points transcendants ordinaires en chacun desquels elle est nulle ne peut pas posséder d'ensemble continu de points singuliers. J'ai souligné les points importants de cet énoncé. D'abord il s'applique à une fonction multiforme quelconque, et nous avons déjà^ plus haut, utilisé le théorème sous cette forme générale. En second lieu^ et c'est là une restriction importante^ il faut que la fonction soit nulle^ non seulement sur la coupure, mais en tous les points singuliers voisins qui, par conséquent^ doivent tous être transcendants ordinaires.

Revenons alors au cas d'une fonction uniforme et précisons l'état actuel de la question. Si une fonction a une ligne singulière isolée, le raisonnement et la conclusion précédente s'appliquent. Si des points singuliers en quantité dénombrable tendent vers tout point de la ligne^ le résultat est encore vrai, car^ ces points étant points d'indétermination complète, la fonction est complètement indéterminée sur la ligne. Mais les deux cas suivants sont possibles : celui où la ligne donnée est limite de lignes singulières^ sur lesquelles la fonction est continue^ et celui où des points singuliers formant un ensemble discontinu tendent vers tous les points de la ligne ; en efïet, dans ce dernier cas, ces points peuvent être^ soit points d'indétermination incomplète, soit points transcendants ordinaires^ et leurs points limites peuvent dans les deux cas être transcendants ordinaires. Le premier cas (ligne limite de lignes) paraît exactement aussi compliqué que le cas général que je vais maintenant étudier.

Arrivons donc au cas où^ sur la ligne singulière, la fonction est continue sans être constante. !M. Painlevé a amorcé la question en démontrant le théorème suivant : Si deux fonctions analytiques définies une de chaque côté d^une ligne prennent la même suite continue de (valeurs sur la ligne^ cette ligne est coupure artificielle de chacune, et nos deux fonctions se prolongent analytiquement. La démonstration^ basée sur l'intégrale de Cauchy, est très simple. Mais on voit combien les réserves de l'énoncé sont grandes. La ligne dont il s'agit est une ligne simple de M. Jordan : cela est

y6 CHAPITRE V.

nécessaire pour qu'elle ait deux côtés. La démonstration^ que je ne reproduis pas^ suppose même que la ligne est rectifiable. Sans doute on pourrait essayer^ en modifiant la démonstration^ de l'étendre à un certain nombre de cas nouveaux; mais^ tant qu'on ne parviendra pas à un théorème absolument général^ il est permis de juger de peu d'intérêt de telles extensions.

Abordons enfin l'énoncé du théorème général. Soit une fonction uniforme dans une aire, et continue dans cette aire ; peut-on affirmer quelle soit holomorphe à V intérieur de faire?

Or^ on aperçoit immédiatement deux façons de comprendre l'énoncé précédent, suivant qu'on se place au point de vue de Cauchy ou local, ou au point de vue de Weierstrass ou général. Le premier point de vue est le suivant. La fonction w = /{z) est supposée définie en tout point de l'aire^ et elle est continue. Est-elle analytique dans l'aire^ c'est-à-dire développable en série de Taylor en tout point de raire, et^ sinon^ que peut-on dire de l'ensemble des points où elle n'est pas développable^ ou points singuliers ? M. Pompeiu^ qui a étudié cette question dans son Mémoire déjà cité (sur certains points duquel des réserves sont nécessaires)^, appelle ce problème problème de Briot et Bouquet. Il est bien facile de montrer par un exemple que des points singuliers formant des lignes peuvent se trouver dans l'aire. Voici un exemple plus simple que celui de M. Pompeiu^ que M. Painlevé m'a communiqué oralement vers i()o3 et auquel j'ai fait allusion dans ma Thèse.

Sur le segment o — t de l'axe des x, concevons un ensemble E parfait^ non dense^ et définissons pour ( » <^ .t <^ i une fonction scalaire /(x) y continue, croissante^ et constante dans tous les intervalles contigus à E. Soit z = .T -f- ^y un point du plan. La fonction

'o(z) = /'(x)(.v -t- iy)

est définie en tout point du carré construit sur le segment o — i de Ox. Elle est continue dans ce carré : en eft'et^ dans chaque bande déterminée par un intervalle contigu à E^ elle se réduit au produit de z par une constante^ cette constante différant d'une bande à l'autre, et très peu d'une bande à une bande voisine. Cette fonction est analytique dans chaque bande^ mais admet comme lignes singulières les parallèles k Oy menées par les points de E.

l.ES LIGNKS SINGLLIKRKS. 97

Si l'on veut que l'ensemble singulier forme un seul continu^ on multipliera la fonction précédente par une fonction uniforme définie au-dessus de O.r^ admettant Ox pour coupure^ et continue sur cette coupure. Il y aura un seul continu singulier.

Le second point de vue^ celui de Weierstrass^ est bien différent. On prolonge analytiquement une fonction uniforme dans une aire. On obtient ainsi en chaque point de l'aire une valeur déterminée de la fonction^ soit que ce point soit régulier, soit qu'étant singulier, il soit transcendant ordinaire. On suppose que ces valeurs sont continues, c'est-à-dire que la valeur en un point est la limite des valeurs en tous les points voisins. La fonction a-t-elle effectivement des points transcendants dans l'aire^ ou y est-elle holomorphe ( ' ) ?

Elle peut certainement admettre un ensemble de points singuliers d'aire non nulle. Mais il y a évidemment de grandes précisions à apporter à ce premier résultat^ surtout relativement aux lignes singulières qui peuvent exister dans l'aire.

On peut conclure facilement dans le cas très particulier suivant : la fonction est constante sur chacune de ses lignes singulières^ la valeur de cette constante différant d'une ligne à l'autre^ et ces lignes formant un ensemble dénombrable. Laissons^ en effet^, de côté le cas déjà étudié où une des coupures est isolée. Supposons la fonction bornée dans l'aire donnée et dans tout le plan^ et constatons alors qu'on peut reproduire dans tous ses détails^, en utilisant la fonction inverse^ la démonstration de la page 72 ou celle indiquée en note page >>i. La fonction inverse z{w) s. des coupures. Le long d'une de ces coupures elle prend des valeurs qui dans le plan des z ne peuvent former que des points singuliers de la fonction w(z) et par suite forment une ligne singulière. Or, sur cette ligne w est constante et par suite ne saurait prendre un ensemble continu de valeurs. On peut dire d'une façon assez suggestive que toute ligne singulière ne saurait être transcendante ordinaire (-). Mais il n'y a pas à se dissimuler que le cas précédent est très particulier.

( ^) Je dis dans Taire, car rien ne s'oppose, nous le savons, à ce que, dans ces conditions, la frontière de l'aire, ou une partie de celle-ci, soit singulière.

(2) Il est d'ailleurs facile, et cela pourrait être intéressant, d'étendre à une ligne singulière considérée en bloc la notion de domaine d'indétermination. On aurait des lignes transcendantes ordinaires ou essentielles, etc.

Zoii. n

98 CHAPITnh: V.

Ualluie sur une coupure.

Comment terminer ce Chapitre où je n'ai fait qu'énoncer des résultats^ et des résultats très incomplets ? Je le ferai en indiquant combien à mon avis cette question de l'allure d'une fonction sur une coupure est une question neuve. Question des plus difficiles d'ailleurs^ comme toutes celles qui ne peuvent être abordées qu'en revenant à la notion même du prolongement analytique.

En dehors des recherches dont il est question dans le paragraphe précédent, bien des questions particulières peuvent être posées. Revenons^ par exemple, sur les fonctions nulles sur une coupure^ en prenant le cas plus simple d'une coupure isolée. La fonction ne peut alors pas être nulle en tout point de la coupure. On peut se proposer néanmoins de caractériser l'ensemble de ses zéros sur la coupure. Dans sa Thèse, si intéressante^ et que je regrette^ pour conserver à ce Livre une certaine unité de méthode^ de ne pouvoir étudier plus à fond dans ce Chapitre. M. Fatou montre par exemple qu'un ensemble parfait de mesure nulle peut très bien annuler la fonction ( ' ). On peut essayer de préciser davantage le nombre maximum de zéros de la fonction ( - ).

J'arrête ici ces considérations. L'intérêt de ces questions est manifeste, et leur difficulté^ si grande qu'elle paraisse, ne doit pas détourner les chercheurs ( -^ ).

( ' ) Acta, t. XXXII. J'avais dans ma Thèse posé cette question. J'étais convaincu que le résultat contraire devait être vrai, et le considérais naturellement comme difficile à aborder.

(^) Je remarque que, la fonction n'étant pas forcément dans cette question continue sur la ligne, cet ensemble n'est pas fermé.

('M Depuis que ses Leçons ont été faites, M. Denjoy s'est occupé des questions qui font l'objet des deux Chapitres précédents. Je n'ai pu faire état de ses travaux, car aucune démonstration n'est encore publiée^ et les résultats paraissent encore trop peu coordonnés; mais je tenais à les signaler en espérant que leur auteur fournira lui-même bientôt un exposé complet. Il semblerait qu'il faille faire intervenir dans ces études d'abord \aire de l'ensemble singulier, et en second lieu des propriétés géométriques plus compliquées encore des ensembles de points [voir A. Denjoy, Comptes rendus, t. \ ti), 1910, p. 726 et loiS; et L. Zoretti, Comptes rendus, t. lo(*, 1910, p. 162).