II. — Groupes discontinus

Je me propose de former les groupes discontinus qui sont dérivés d'un nombre fini de substitutions linéaires à coefficients imaginaires. Mais, avant d'aller plus loin, il y a lieu de faire une distinction qui n'avait pas de raison d'être dans la théorie des groupes fuchsiens, mais qui est ici d'une importance capitale. Cette distinction a été très nettement établie par M. Klein (Alat/iematische Annalen, Bd XXI, p. 17(3).

Nous appellerons substitution infinitésimale toute substitution linéaire telle que les modules de a — i, ji, v, 0 — i soient infiniment petits.

Si un groupe contient une substitution infinitésimale, c'est-à-dire si l'on peut trouver dans ce groupe des substitutions telles que les quatre modules cités plus haut soient plus petits que toute quantité donnée sans être nuls, le groupe est continu.

Mais, parmi les groupes qui ne satisfont pas à cette condition, c'est-à-dire parmi les groupes discontinus, il v a lieu de distinguer deu\ classes que nous appellerons les groupes proprement et improprement discontinus.

Un groupe sera improprement discontinu dans le voisinage d'un point z si, dans un domaine U enveloppant le point ;, on peut trouver une infinité de transformés de ce point par les substitutions du groupe, et cela quelque petit que soit le domaine D.

Le groupe sera proprement discontinu dans le cas contraire.

Si, par exemple, il s'agit d'un groupe de substitutions appliquées à une quantité réelle ^, on pourra prendre pour le domaine D le segment de droite compris entre le point ^ — £ et le point z + t; s'il s'agit de substitutions appliquées à une quantité imaginaire .: ou à un point z du plan, le domaine D sera un cercle ayant pour centre le point z; s'il s'agit d'un point P de l'espace, D sera une sphère ayant P pour centre, etc.

Pour rflalrcir ce qui précède pur un exemple simple, considérons le groupe formé par les subslilulions

\ yz-ho /

où a, p, y, 0 sont des entiers réels, tels que ao — py := i . Il est clair que ce groupe ne contient pas de substitution infinitésimale, il est donc discontinu. On voit de plus que si z est réel, on peut choisir a, j3, y, 5 de telle façon que

lot) ( z

soit aussi petit qu'on veut, sans être nul ; tandis que cela est impossible si z est imaginaire. Le groupe est donc improprement discontinu pour z réel et proprement discontinu pour z imaginaire.

Ce qui fait que nous n'avons pas eu à faire cette distinction dans le cas des groupes fuciisiens, c'est que tout groupe discontinu formé de substitutions réelles est proprement discontinu toutes les fois que z est imaginaire. C'est ce que je vais démontrer ici, car la démonstration que je veux donner de ce fait permettra de comprendre plus facilement ce qui se rapporte au cas plus général qui nous occupe dans ce Mémoire.

Soit G un groupe quelconque formé de substitutions réelles, soit z un point Imaginaire quelconque ; supposons que, dans tout domaine D entourant le point ;, il y ait une inimité de transformés de ce point par des substitutions de G; je dis que ce groupe contiendra des substitutions infinitésimales.

En effet je dirai qu'une quantité qui dépend d'une \ariable s est de l'ordre de £ si elle s'annule avec cette variable et qu'une substitution est de l'ordre de £ si a — i , o — i , fi et y s'annulent avec £. Cela posé :

:" Toute substitution S qui change ; en ; -|- ^, îl étant une quantité infiniment petite de l'ordre de £, peut être regardée comme la résultante d'une substitution elliptique S qui admet le point :; comme point double et d'une substitution hyperbolique .v qui est infinitésimale et de l'ordre de £. Nous

écrirons

2 = Ss.

2" Si 5 et 5( sont deux substitutions de l'ordre <le £, leur résultante i\$i sera aussi Infinitésimale et de l'ordre de £.

?>" Si s est une substitution de l'ordre de s et S une substitution finie, la ré-

MÉMOIRE SUR LRS GROUPES KI.IÎINÉlîNS. 267

sultante de la substitution inverse de S, de s et de S, résultante que nous écrirons S"'5 S ( ' ), sera infinitésimale et de l'ordre de s.

4° Si S et Si sont deux substitutions elliptiques ayant le point :; pour point double, elles seront permutables, c'est-à-dire qu'on aura

(1) SS,= S,S, S,= S-iS,S.

Maintenant, par hypothèse, nous avons dans le groupe une infinité de substitutions qui changent s en 3 -|- !^, 3 + 1^,, ...;;^, !^,, ... étant des quantités de l'ordre de s. Soient S et S, deux quelconques d'entre elles. On aura

s et Si admettant le point z comme point double, s et 5, étant infinitésimales. La substitution

fera partie du groupe; elle ne se réduira pas à la substitution identique (z, s) parce qu'en général S et S| n'auront pas même point double. Je dis qu'elle sera infinitésimale. En elTet elle peut s'écrire

ou en vertu de la relation (i)

SiS-'S,S.ç,i-'S-'s,'S7'.

Oi-, en appliquant les principes 2" et 3" de la page 266, on verrait successivement que SiS"', que 5|S"', que S(S|S~')S~', que (Ss, .v ' S~')5y', que S| (SS|5~' S~'s[')S7', et enfin que

(SiS-i)(SiSi,j!-iS-'i7'S7')

sont infinitésimales et de l'ordre de £.

Le groupe contient donc une substitution infinitésimale, il est continu.

Mais si un groupe de substitutions réelles ne peut être improprement discontinu dans le voisinage d'un point ; imaginaire, il peut au conti-aire être improprement discontinu dans le voisinage d'un point ; réel. En efTet le groupes fuchsiens de la première, de la deuxième et de la sixième familles.

(') Nous désignerons, suivant l'usage, par la notation S^' la subslilulion inverse de S: par la notalion SS, la résultante de S et de S,, par la tiolalion S" la résultante de m substitutions S successives.

MEMOIRE SUR I.IÎS r.ROUPES KLEINEENS.

c'est-à-dire ceux dont les polygones générateurs n'ont pas de côté de la seconde sorte, sont improprement discontinus dans le voisinage de tous les points z réels. Au contraire les groupes fuchsiens des autres familles sont proprement discontinus dans le voisinage des points réels qui appartiennent à un cijté de la seconde sorte du ]iolygone générateur ou d'un de ses transformés; ils ne sont improprement discontinus que dans le voisinage des points singuliers.

Revenons à l'étude des groupes formés de substitutions imaginaires ou plutôt des substitutions plus générales définies dans le paragraphe précédent.

Je dis qu'un pareil groupe ne peut être improprement discontinu dans le voisinage d'un point P situé en dehors du plan des ;r|. Soit, en effet, un pareil point P situé au-dessus du plan des ?r, et un domaine D entourant ce point P. Supposons que, quelque petit que soit ce domaine D, il contienne une infinité de transformés du point P |)ar les substitutions du groupe ; je dis que le groupe sera continu. En elfet :

i" Soit S une substitution qui change P en P', la distance PP' étant infinitésimale de l'ordre de s; je dis qu'on pourra écrire

S = Si-,

S étant une substitution elliptique dont le cercle double passe par P et s étant une substitution hyperbolique infinitésimale de l'ordre de e. Enellet, la substitution S"' changera P' en P. Il existera une substitution hyperbolique infinitésimale qui changera P' en P, puisque les points P' et P sont infiniment voisins. Je l'appelle s~' et je pose

Z-' = S''S-', d'où 2 = Si.

La substitution S n'altérera pas le point P; donc, d'après les principes du paragraphe précédent, ce sera une substitution elliptique dont le cercle double passe par P. c. q. d. f.

2° et 3" Les principes 2" et .i" de la page 266 subsistent ici, cela est évident.

4° Si S et S| sont deux, substitutions elliptiques ayant même cercle double, on aura

ss, = s,s, s, = s-is,s.

5° Si S, est une substituti(jn elliptique ayant pour cercle double C, ; si C, est un cercle, orthogonal au jilan des ^Y), et rencontrant le cercle Ci en un point P situé au-dessus du plan des ^y| sous un angle infiniment petit, on pourra

MKMOIRE SUR LES GROUPES KI.EINÉENS. 269

poser

Si = Si a,

S', étant une substitution elliptique admettant C, pour cercle double et s étant une substitution elliptique iniinitésiuiale.

Cela posé, nous avons par hypothèse dans le orou|ie une infinité de transtormations ï), S,, ïo. ... qui clianne P en des points infiniment voisins. On aura

5, 5i, ... seront infinitésimales pendant que S, S,, Sj, . . . seront des substitutions elliptiques dont les cercles doubles passeront par P. On aura donc une infinité de substitutions elliptiques dont les cercles doubles passeront par P. 11 faut de toute nécessité qu'on puisse trouver parmi elles deux substitutions S et S( dont les cercles doubles C et C, se coupent sous un angle nul ou infiniment petit. On pourra alors poser

Si= Sis,

T étant infinitésimale ou se réduisant à la substitution identique et S', adiuettant même cercle double G que S de telle façon qu'on ait

S', = S-iS', S.

Considérons donc ces deux substitutions S et S, et les substitutions correspondantes S, S, . La substitution

fera partie du *roupe ; je dis qu'elle sera infinitésimale. En effet elle peut

s'écrire

SsS| «ii~' S-'ij' Sj'

ou bien

SsS'i !T.«,.ç-i S^'ij^' <j-i S',^'

ou enfin

T = SïS-'S'i S<r5,.ç-'S-ii7'a-'S'f>.

Or en veitu du principe .^" Ti^SsS"' sera infinitésimale,

» 3° Ts^STjS-' »

Enfin » 3" ï =Ï,T,

2"" MEMOIRE SUR LES GROIPES KI-EINEEN8.

Ainsi donc, si nous envisageons un groupe discontinu, il sera proprement discontinu pour tout point P situé en deliors du plan des q-i\. Tl résulte de là que toute la partie de l'espace située au-dessus de ce plan sera divisée en une infinité de régions R„, R,, .... R,, ...; cpi'à chacune de ces régions correspondra une des substitutions du groupe; à la région R,, par exemple, la substitution S/, et de telle façon que cette substitution S, ciiange Ro en R,. Cest tout à lait la même chose que ce que nous avons obserxé pour les groupes fuchsiens.

Mais ce que nous nous proposons, c'est d'obtenir des groupes de substitutions imaginaires proprement discontinus même pour les points du plan des Çy). Ce sont ceux-là seuls, en effet, qui peuvent être utiles dans la théorie des fonctions.

Eh bien, rappelons-nous ce que nous avons observé pour les groupes fuchsiens. Ces groupes sont tous proprement discontinus pour les valeurs imaginaires de s, de sorte que la partie du plan située au-dessus de l'axe des quantités réelles se trouve divisée en une infinité de polygones Ro, R|, ■ ... R/. ■ ■ .. Gomment voit-on alors si le groupe reste proprement discontinu pour les valeurs réelles de :? Si le polygone Rq n'a pas de côté de la seconde sorte, c'està-dire s'il est tout entier au-dessus de l'axe des quantités réelles, le groupe est improprement discontinu pour les valeurs réelles de ;; il est proprement discontinu, au contraire, si Ro a un côté de la seconde sorte, c'est-à-dire si tout un côté de ce polygone appartient à l'axe des quantités réelles.

C'est la même chose ici; si la région Ro définie plus haut est tout entière au-dessus du plan des ?/), ou n'a avec ce plan qu'un point commun ou une ligne commune, le groupe est improprement discontinu pour les points du plan des Çr, ; il est proprement discontinu, au contraire, si une portion de la surface de la région Ro appartient à ce plan.