INTRODUCTION

Parmi les théories intéressantes qui ont eu leur origine dans la théorie des fonctions elliptiques se trouve la théorie des fonctions fuchsiennes : le premier exemple de ces fonctions fut en effet la fonction modulaire, sur laquelle les mémorables travaux d’Hermite attirèrent l'attention. En de splendides Mémoires (*}), Poincaré établit dans toute sa généralité La théorie de la formation des groupes fuchsiens et celle des fonctions invariables par les substitutions de ces groupes : il put exprimer par ces fonctions les coordonnées des points d’une courbe algébrique quelconque et résoudre le problème de l’intégration des équations différentielles linéaires algébriques à points singuliers réguliers. Depuis cette époque, plusieurs classes de fonctions jouissant de propriétés plus ou moins analogues ont été rencontrées. Poincaré lui-même (?}) a étudié les fonctions invariables

(1) H. Poincaré, Théorie des groupes fuchsiens (Acta mathematica, t. 1); Mémoire sur les fonctions fuchsiennes (Acta mathematica, 1.1); l'illustre géomètre a donné d’autres Mémoires sur ces fonctions dans les Acta mathematica, t. IV et V, et dans le Journal de

- Mathématiques pures et appliquees, 4° série, t. IT, 1887. (2) H. Poincaré, Mémoire sur les groupes kleinéens (Acta mathematica, 1. M1).

par des groupes de substitutions linéaires d’une variable qui ne laissent plus invariable un cercle fixe, comme le faisaient les groupes fuchsiens. M. Picard (‘) a étudié, sous le nom de groupes hyperfuchsiens, des groupes de substitutions linéaires portant sur deux variables, et n'altérant pas une certaine forme quadratique à indéterminées conjuguées. Les groupes hyperabéliens, considérés aussi par M. Picard (?), sont des groupes de substitutions portant sur deux variables, de la forme

ou de la forme

et qui transforment en lui-même le domaine formé de l'intérieur d’un cercle du plan de la variable x et de l’intérieur d’un cercle du plan de la variable y; ces groupes hyperabéliens sont donc formés de substitutions birationnelles quadratiques. Il existe d’ailleurs aussi des fonctions hyperfuchsiennes et des fonctions hyperabéliennes, qui jouissent de certaines propriétés analogues à celles des fonctions fuchsiennes.

Des catégories particulières de groupes hyperabéliens se rencontrent dans la théorie de la transformation des fonctions abéliennes de genre deux dont Les périodes normales satisfont à la relation

D étant un entier positif (). Il était naturel de se demander si Le problème de la transformation des fonctions abéliennes non singulières ne viendrait pas offrir d’autres groupes jouissant de propriétés analogues. D'ailleurs, on connait déjà des fonctions invariantes par un groupe de cette sorte : ce sont précisément les quotients de deux

(1) Picarn, Acta mathematica, L. TI, p. 295; t. I, p. 1143 t V, p.121. M. Alezais a étudié également ce sujet (Annales scientifiques de l'École Normale supérieure, 1902, p. 261).

(2) Picarn, Sur les fonctions hyperabéliennes (Journal de Mathématiques pures et appliquées, 4° série, t. I, 1885).

(*) Picarn, Jbid. — BourGer, Sur une clàsse particulière de groupes hyperabéliens (Annales de la Faculté des Sciences de Toulouse, 1898). — Corrx, Les Jonctions abéliennes et la théorie des nombres (Annales de la Faculié des Sciences de Toulouse, 1911).

TRANSFORMATIONS BIRATIONNELLES QUADRATIQUES. où

fonctions thêta de la théorie des fonctions abéliennes, où l’on a annulé les deux variables æ et y, quand on considère ces quotients comme fonctions des périodes normales 9, À, 2".

Les transformations subies par les périodes normales, telles qu'elles ont été données par Hermite dans son célèbre Mémoire Sur la théorie de la transformation des fonctions abéliennes (!), sont des transformations birationnelles quadratiques. En supprimant la condition imposée aux coeflicients d’être entiers, et en prenant le nombre # d'Hermite égal à wn, on obtient des transformations (T) qui peuvent constituer des groupes discontinus dans certaines régions de l’espace à six dimensions; on peut alors former des fonctions invariables par ces groupes de transformations : c'est à ces groupes de transformations (T) et à ces fonctions que ce travail est consacré (?).

Dans le Chapitre premier, je définis les substitutions(S), c’est-à-dire les transformations linéaires qui, effectuées simultanément sur deux systèmes de quatre variables

fo Gin y Gr

I CE CERN;

correspondant aux périodes des fonctions abéliennes, conservent la

forme bilinéaire Gi U3— 30, + Gay — GyU),

et j'y rattache les transformations (T). En introduisant des variables homogènes æ,, æ, 3, æ,, æ,, liées à g, k, g' par les relations

mir T3 ! T, 1 Us I DE h a — D po hr), ( ) à z; ? Z le] En S 5 7 de sorte que (2) Li Ds + Lo Bet A3 = 0,

les formules qui définissent une transformation (T) deviennent linéaires et homogènes, et conservent la relation (2); même siæ,, æ,, dy, Li, &, ne satisfaisaient pas à la relation (2), la valeur numérique

(1) Œuvres, t. I, p. £44.

(2) Une partie des résultats de ce travail a fait l'objet d’une Note aux Comples rendus de l’Académie des Sciences, t. CLVIT, 29 décembre 1915.

n GEORGES GIRAUD.

de son premier membre serait conservée. Ce point de vue m'a été souvent utile ; il m'a amené à nommer point de l’espace à six dimensions un système de cinq nombres complexes non nuls ensemble, définis à un facteur près, et liés par la relation (2); si æ, n’est pas nul, le point est dit à distance finie, etses coordonnées non homogènes g, , g'sont données par les formules (x). Je démontre encore dans ce Chapitre que toutes les substitutions (S), et, par suite de l’isomorphisme, toutes les transformations (T) peuvent être regardées comme des produits de cinq transformations très simples, dont trois contiennent des paramètres. Une démonstration assez simple du fait que si, en nommant 6, Je, G' les parties imaginaires de g, , g', la forme

Gr?+2Hxy + G'y°

est définie positive, il en est de mème pour la forme qui résulte de celle-ci par une transformation (T), découle des considérations qui précèdent. Ce résultat, joint à quelques autres analogues, permet de décomposer l’espace à six dimensions en six domaines (dont trois à six dimensions) invariants par toute transformation (T); on ne peut d’ailleurs pas fragmenter de nouveau ces domaines en domaines invariants plus petits. Quelques résultats utiles dans la suite terminent ce Chapitre : ce sont tout d’abord le calcul du déterminant fonctionnel des transformations (T); puis des intégrales invariables par les transformations (T), et dont l’analogie avec les groupes fuchsiens fait pressentir lutilité : j'en donne deux, une triple et une sextuple; enfin toute transformation en elle-même de la forme +,+, + %,x,+ x? qui a pour déterminant un et qui conserve les domaines invariants déjà déterminés, est une transformation (T); de là une interprétation géométrique des transformations (T) analogue à celle que fournit, pour les groupes fuchsiens, la forme æ, x, + x.

Dans un deuxième Chapitre, je recherche les points doubles des transformations (T); il y en a quatre, en général. On peut alors se proposer de rechercher leurs positions dans les six domaines invariants: ces positions dépendent de la nature des racines d’une équation réeiproque du quatrième degré. On est ainsi amené à une classification des transformations (T). Il est naturel, à cette occasion, de chercher à réduire les transformations (T) à des formes canoniques, en les trans-

TRANSFORMATIONS BIRATIONNELLES QUADRATIQUES. 5

formant par des transformations (T) convenablement choisies : le nombre de formes auxquelles on parvient est de vingt-deux, dont quatre pour les cas les plus généraux, où l’on ne suppose aucune relation d'égalité entre les coefficients de la transformation.

La formation du polyèdre fondamental d’un groupe discontinu fait la matière du troisième Chapitre. La méthode employée est fort analogue à la méthode du rayonnement qui, pour les groupes fuchsiens, permet d'obtenir un polygone fondamental présentant des particularités utiles dans certaines démonstrations. Ce qui joue ici le rôle des cercles de la méthode du rayonnement, ce sont des variétés à cinq dimensions qui ne changent pas par les transformations (T} ayant un point double fixé à l'avance, et qu'on nomme le centre de la varieté; V'équation de ces variétés s'obtient en égalant à zéro une forme quadratique à indéterminées conjuguées en æ,, Lys y Lys Æs, Et qui dépend non plus d’un paramètre, comme pour les groupes fuchsiens, mais de deux ; on aurait en outre d’autres variétés dont l'équation serait plus compliquée. Ce nombre de paramètres tient à ce que les transformations qui ontun point double donné dépendent de quatre paramètres seulement: on a done des variétés à quatre dimensions qui peuvent s'associer de diverses manières pour produire des variétés à cinq dimensions. J'obtiens une famille à un paramètre seulement en me restreignant aux variétés dont l’équation s'obtient en égalant à zéro une forme quadratique à indéterminées conjuguées et à coefficients réels : ce sont ces variétés qui servent à construire le polyèdre fondamental. Elles permettent en outre de démontrer que, si les transformés d’un point donné P du domaine

(D) GG —%>0, G+g>o

n'ont pas P pour point d’accumulation, le groupe est discontinu dans ce domaine.

Dans le Chapitre IV, cette méthode de formation du polyèdre fondamental est appliquée aux groupes formés des puissances d’une seule transformation (T). Dans certains cas, les faces du polyèdre sont indiquées; en général, j'ai recherché les points qui ne se trouvent ni dans le polyèdre fondamental, ni dans aucun de ses transformés; ou encore les points qui se trouvent sur le contour d’une infinité

d’entre eux. Dans les groupes fuchsiens, les points doubles des substitutions hyperboliques offrent un exemple de la première circonstance, ceux des substitutions paraboliques un exemple de la seconde. lei se produit une circonstance particulière : les points trouvés ne sont pas toujours les mêmes quelle que soit la position du centre du polyèdre fondamental. Toutefois, ces points sont toujours en dehors du domaine (1), comme cela résulte de propositions démontrées au Chapitre précédent.

Nous arrivons maintenant (Chapitre V) à la formation de fonctions de g, À, g' invariantes par un groupe discontinu donné de transformations (T). Ces fonctions sont naturellement formées à l’aide des séries dont les séries thètafuchsiennes de Poincaré sont le prototype; une transformation birationnelle préalable à permis de remplacer le domaine ([) par un domaine situé entièrement à distance finie, ce qui est indispensable pour la convergence de ces séries. Ces séries sont alors convergentes dans le domaine (1), où elles représentent des fonctions holomorphes. On en déduit des fonctions invariantes par Les transformations du groupe, et qui sont uniformes dans le domaine(I), où elles se comportent comme des fonctions rationnelles. De même que le prolongement analytique des fonctions fuchsiennes traverse parfois le cercle fondamental, le prolongement analytique de ces fonctions peut, pour certains groupes, sortir du domaine (1). Cela arrive en particulier pour les groupes formés des puissances d’une seule transformation (T); deux exemples étudiés rapidement montrent toutefois que, pour ces groupes, les singularités essentielles peuvent pénétrer à l’intérieur du polyèdre fondamental; de plus, elles dépendent dans une certaine mesure du choix de la fonction rationnelle qui intervient dans les termes des séries.

Le Chapitre VI est consacré spécialement au groupe arithmétique et aux fonctions correspondantes : le groupe arithmétique est, par définition, Le groupe de transformations (T) qui correspond aux transformations (S) à coefficients entiers. D'abord (SL), j'établis que Les substitutions de ce groupe peuvent toutes être considérées comme des produits de quatre substitutions fondamentales; ensuite, je démontre que toutes les transformations (T) à coefficients entiers font partie du groupe arithmétique. Le polyèdre fondamental est formé ($ IT) par une

TRANSFORMATIONS BIRATIONNELLES QUADRATIQUES. 7

méthode légèrement différente de celle qui est exposée au Chapitre IX. Enfin, la méthode du Chapitre V estemployée ($ IL) pour la formation de fonctions invariantes par le groupe arithmétique : le prolongement analytique de ces fonctions ne peut pas sortir du domaine (1), de sorte qu'elles sont uniformes partout où elles existent. Le polyèdre fondamental ayant des points sur la frontière du domaine (1), les singularités des fonctions invariantes en ces points sont étudiées : on trouve ainsi que quatre quelconques des fonctions invariantes que nous avons formées sont liées par une relation algébrique. Le quotient de deux fonctions @(x,y) de la théorie des fonctions abéliennes, pour &æ = y = o, prend un nombre fini de valeurs quand on fait subir aux périodes normales les transformations du groupe arithmétique [11 faut supposer que les fonctions O(x, y) dont il s’agit sont paires]; les fonctions symétriques de ces valeurs présentent les mêmes singularités que les fonctions invariantes que nous avons formées : elles en sont done aussi des fonctions algébriques.

Dans le Chapitre VIF, j'étudie les groupes de transformations (T) qui viennent des transformations en elles-mêmes à coefficients entiers de formes quadratiques à cinq variables du type