INTRODUCTION

Si Ton considère une variable complexe Ç, les seules substitutions birationnelles effectuées sur elle sont les transformations linéaires de la forme

et la théorie des groupes formés par ces substitutions et des fonctions appartenant à ces groupes est contenue tout entière dans les travaux célèbres de MM. Poincaré et Klein.

Les choses se passent autrement dans le domaine de deux variables complexes ? et y]. A côté des groupes de substitutions de la forme

a\-^ o"n -h c a ^-\- h''fi-\- c J

tout à fait comparables aux groupes fuchsiens et nommés hyperfuchsiens par M. Picard, viennent se placer d'autres groupes dont les substitutions, tout en étant birationnelles, ne sont plus forcément linéaires. M. Picard a étudié également une classe de ces groupes qu'il a nommés groupes hyperabéliens; dans ce cas, les substitutions sont de l'une ou l'autre des B. I

formes

cy ri;

a^-h If} -\- m c'i -hd' pn -h q )^

i > an -{- b /J -h /7i\

Elles appartiennent, comme on voit, à la catégorie des substitutions quadratiques. Si l'on remarque maintenant que toute substitution birationnelle équivaut à la composition d'un certain nombre de substitutions quadratiques (Nother), on apercevra immédiatement l'importance de tels groupes dans la théorie générale des groupes de substitutions biralionnelles.

C'est ce qui m'a décidé, sur les conseils de M. Picard, à faire une étude plus détaillée d'un groupe hyperabélien particulier, signalé déjà par ce géomètre dans son Mémoire inséré dans le Tome I de la 4* série du Journal de Lious^illcy et antérieurement, dans une Note des Comptes rendus, (17 mars 1884).

Ce groupe particulier a une double origine. On peut le faire dériver de la transformation du premier ordre des fonctions abélienncs du second genre telle qu'elle a été exposée par M. Hermite en i855 ; d'autre part, on peut le considérer comme isomorphe au groupe des transformations semblables arithmétiques de la forme quaternaire

u\ — Dm* -h W3 W4.

Nous avons divisé ce travail en trois Parties.

Dans la première, après des généralités sur les groupes de substitutions semblables des formes quadratiques quaternaires et sur l'étude arithmétique de telles formes, nous montrons comment le groupe que nous étudions se place parmi les groupes analogues déjà rencontrés par MM. Goursat et Bianchi.

La seconde Partie est consacrée à l'étude du groupe. Nous commençons par chercher la forme explicite des substitutions; nous démontrons sa discontinuité pour les valeurs imaginaires des variables ^ = S, -f- î^s, r^ = r^< -h /y)^ appartenant au domaine S (^2l>^î ^2>o); nous réduisons ces substitutions à cinq d'entre elles, qu'on peut considérer comme fondamentales et qui présentent une analogie remarquable avec les substitutions fondamentales du groupe modulaire. La théorie de la réduction continuelle de la

forme quadratique quaternaire

nous apprend que le domaine fondamental du groupe a un sommet sur la limite du domaine S et nous développons les calculs de réduction, autour de ce sommet dans le cas particulier de D = 5. Enfin, nous mettons en évidence une infinité de sous-groupes du groupe considéré, entièrement analogues aux sous-groupes à congruences du groupe modulaire.

Au début de la troisième Partie, nous cherchons comment se comportent vis-à-vis des transformations du groupe, les dix fonctions

paires à arguments nuls et de cette étude, nous tirons un procédé pour former à l'aide des fonctions & une infinité de fonctions qui se reproduisent par toutes les substitutions du groupe. Nous montrons que les modules de Borchardt ou ceux de Richelot sont des fonctions invariables par des sous-groupes que nous formons.

Enfin, donnant, d'après M. Picard, les propriétés générales des fonctions du groupe, nous terminons en démontrant que, malgré le sommet situé sur la limite du domaine S, trois quelconques de ces fonctions sont liées par une relation algébrique.

Si l'on considère l'étendue de cette question, comparable à l'étude du groupe modulaire, on trouvera ce travail bien incomplet. Pourtant, si l'on y rencontre quelque nouveauté, le mérite en revient à M. Picard que je tiens à remercier ici des bienveillants et précieux conseils qu'il a bien voulu me donner.

Je tiens à remercier également M. Baillaud dont les affectueux encouragements ont rendu ma tâche plus facile, et M. Vessiot de l'intérêt qu'il a constamment porté à mon travail (*).

(^) Qu'il me soit permis de remercier également le comité des Annales et en particulier son secrétaire, M. Gosserat, des facilités qu'ils m'ont données pour l'insertion de ce travail dans les Annales de la Faculté des Sciences de Toulouse.

■••ii^