II. — Réduction des formes
Dans 111(111 Mémoire sur les groupes kleinéens (Acta riKitlieniatica, l. 3. § II) (' ), j'ai exposé la distinction entre les groupes proprement discontinus et les groupes improprement discontinus. On a vu qu'un groupe peut être proprement discontinu dans une région donnée île l'espace el improprement dans une autre région.
Ici. iioii> envisageons des l'ormes (piadrat iques ternaires qui ont six coetficients: elles peu\ ent donc l'tre regardées comme des ensembles à six dimensions (ou à cinq seulement si l'on suppose le discriminant donné). Les groupes que nous envisageons peuvent donc être proprement discontinus quand les six coel- (iclents sont soumis à certaines inégalités, et ne plus l'être qu'improprement quand ces inégalités cessent d'être remplies. Par exemple, ils pourront l'être
Cj Ce Tome, p. 265 et siiiv. N- K. N.
47" l-ES FONCTIONS FUCHSIENNES ET I.'aKITHMÉTIQUE.
|iid])ieiiionl en ce (jiii concerne les loi nies délinies el iinpro])reinenl en ce qui Concerne les (ormes indéfinies.
(".onsidérons donc un ^riiiijied t'oriiii' de subsliliitinn-- linéaiies l'i [iroprcnienl discontinu jtar rapport à loiiles les formes quadratiques ternaires définies. .Soient F et F' deuv formes quadratiques ternaires définies; je dirai C|ue ces deux formes sont équivalentes par rapport au groupe G quand on pourra passer de lune à laulre par une sMlistitution île ce groii|)c. Parmi les formes équivalentes à 1", il \ eu aura une que l'on regardera cnmiiic jilus simple que toutes les autres et que l'on appellera la réduite de F.
Cette définition comporte évidemment un très grand arbitraire; on ])put d'une infinité de manières trouver des inégalités telles que, parmi les formes équivalentes à F, il v en ait une et une seule qui v satisfasse (et cela quelle que soit F). Ce sont alors ces inégalités qui sont les conditions de réduction.
Eu d'autres termes, el |)our eiii|ilovcr un langage géomi'lrique, considérons les six coefficients de notre forme (jiiailratiquc comme les coordonnées d'un point dans l'espace à six dimensions. Cet espace sera divisé en deux régions, R correspondant aux formes définies et R' correspondant aux formes indéfinies. Notre groupe G sera proprement discontinu dans R. improprement dans R'. On pourra donc partager R en une infinité de régions partielles /,, /'2, ..., ad iitj .; de telle faccm cjue les substitutions de G changent ces régions partielles les unes dans les autres. Cette siibdi\ ision sera tout à fait analogue à ce qu'est, dans la théorie des groupes fuchsiens, la subdivision du plan, ou d'une partie du plan, en une infinité de polygones curvilignes, \lors les formes réduites, par rapport au groupe G, seront celles qui correspondent à des points intérieurs à la première région partielle /i .
Cette définition de la r('iluclion par rapport il un groupe (1 est une généralisation immédiate de celle de la n'duclion aritiimétique. Dans le cas de la réduction arithinétic|ue, en effet, (j n'est autre chose que le groupe arithmétique^ qui est formé des substitutions linéaires à coefficients entiers et de déterminant i . On peut prendre alors pour conditions de réduction, soit celles qui ont été adoptées par M. Selling, soit celles de MM. Korkine et Zolotarelf. Mais on piuirrait en imaginer une infinité d'autres.
Un autre cas particulier intéressant est celui où G est un sous-groupe d'indice fini du groupe arithmétique. Alors une substitution quelconque du groupe arithmétique pourra se mettre d'une manière et d'une seule sous la forme
LES FONCTIONS FUCIISIENNES ET L ARITHMETICUE. 47'
T, étant une substitution de G et
(■tant des sul)slihui(ui> du i;ioupe arilliinc tique doni le nondue n c>t précisément liniliee du sous-groupe.
Si alors F esl une l'orme délinie (jueleiuique, sa réduile arillimt'l ique s'écrira