Discutons ces résultats, en supposant d'abord A

i^'Si a = i, le nombre des valeurs de #< sera un multiple de 1.2... (^-^ jui):

ec nombre, supérieur à 2^ si ^ > 6, le sera a ^ si ^ = 6, à moins qu'on

n'ait juL = 3, ce qui donnera le cas d'exception signalé plus haut. Il est supé-

i*îeur à * si Jt= 5.

2° Si a = 2, chacun des nombres âr, a',... sera égal k i ou à 2, et le nombre

^e ceux qui sont égaux à 2 est au plus égal au quotient /s de * — jui par 2.

Le nombre de valeurs de ^4 sera donc au moins égal à —p.) ^ ^...^S,

^insi qu'à 1.2... jm. Or si A> 7 et si l'on choisit fx de telle sorte que la seconde limite ne dépasse pas 2^, la première le dépassera évidemment; si au contraire *<7, l'une des deux limites ci-dessus sera supérieure à A, sauf le i:as où l'on aurait * = 6 et fji= 3. Mais cette hypothèse est absurde; car si H est trois fois transitif, il ne contient aucune substitution qui déplace moins de quatre lettres (82); donc a, a',... se réduisent à l'unité. 3** Si l'on a à la fois a>2=A — jui— i etfA<3, A = fJH-a-i-a'-4-...

7i LIVRE DEUXIÈME.

sera au moins égal à |ul -H 3, et le nombre des valeurs de ^, sera

(fr~f^).

M étant Tordre du groupe J formé par celles des substitutions de H qui ne (U^^lacent que^ — |ui — i lettres a, a^..., en laissant les autres immobiles. Or soient d, e deux autres lettres quelconques; ^i, considérée comme

fonction de a, a, d, e est simplement transitive, par hypothèse. Donc

elle n'est pas symétrique ou alternée par rapport à a, «i,...; car si cela avait lieu, elle le serait par rapport à a, ûf,,..., rf, e (87). Donc

I -— ^w ~ ^ "~ > 3 (86), et le nombre de valeurs de #, est au moins égal

\\ 3 (A — 2), nombre toujours supérieur à k, et supérieur à 2A si * > 7. 4" Si Ton a « > 3 < ^ — |ul — 1 et jui < 3, ê^ aura au moins

— "~ '^"" * "" ^^^ 1 .2... /3 valeurs, nombre toujours supérieur à k, et supé-

rieur h 2X: si ^>> 7.

5° Soit enfin ol ^ 2 et fx > 2, d'où /3 > 2 : ^, aura au moins [k — jui) 1.2... |3 valeurs, nombre supérieur à 2A.

97. Nous avons supposé dans notre démonstration A > 4- Si ^ était égal à 4 ou plus petit, on construirait très-facilement le tableau des divers groupes possibles, et l'on achèverait ainsi de vérifier que le premier théorème est vrai, sauf l'exception signalée pour A= 4» et que le second l'est également, sauf pour ^ = 6, où nous avons trouvé qu'il peut exister des fonctions trois fois transitives n'ayant que six valeurs.

Le groupe de ces fonctions ne contient aucune substitution déplaçant moins de quatre lettres (82), et peut se construire par tâtonnement sans aucune difficulté. Nous ne nous y arrêterons pas, d'autant plus que nous retrouverons ce groupe plus loin.

98. Démontrons encore que si >t > i 2, toute fonction i qui nest ni symétriqiMc ni alternée par rapport àk— 1 lettres a plus de k[k— \) valeurs. (Cet énoncé contient le théorème de M. Serret.)

Si ^est intransitive, les A lettres se partagent en systèmes aa,..., 66,...,... contenant respectivement a, a',... lettres, en groupant ensemble celles que les substitutions de G, groupe de ^, permutent entre elles.

Soit a le plus grand des nombres a, a',...; les substitutions de G seront (le la forme AB, A'B',..., A, A',... étant les déplacements qu'elles font

subir à a, «i,..., B, B',... ceux qu'elles font subir aux autres lettres. Si a = A— 2, le groupe (A, A',...) ne peut contenir le groupe I alterné par rapport à a, a,,...: car, si cela avait lieu, les substitutions A, A',... étant plus nombreuses que ne peuvent l'être les substitutions distinctes de la fornrîc B, B',..., G contiendrait deux substitutions distinctes telles que AB, A'B', où Ton aurait B = B'; il contiendrait A'B'(ABr* = A'A"', dont les transformées par AB, A'B' reproduiraient tout le groupe I [ce groupe étant simple (85)]. Donc G contiendrait I, et .f serait alternée (ou symétrique; par rapport à ^ — 2 lettres, contre l'hypothèse.

Cela posé, et le groupe (A, A',...) étant d'ailleurs transitif, son ordre !M

est inférieur à ' (95-97) : et le nombre des valeurs de .f, qui est un

I 9 wf

multiple de ^^ '-j^^ j, — (44 et 60), sera supérieur à k{k— i).

XU .1.2... ce . I . 2 . • . oc ...

Soit au contraire a<^— 2. Le nombre de valeurs de ^ est un multiple de '—iJLi — , nombre au moins égal à

1 . 2 . . . Ar I . , , . /i ( /i — I ) ' /r — 2 ) -, — 1 nombre au moins égal a — — „

Supposons maintenant que ^ soit |ul fois transitive. Si jul> - — 2 et X'> 12,

i aura au moins 1.2... (2fjL— -4) valeurs distinctes (83), nombre supérieur

à it(*— i). Si fJL< 2, le nombre N des valeurs de ê sera ■ ^'^ —-»

M, M', . . . étant les ordres de groupes transitifs entre «, a', . . . lettres (avec la condition a -+- a' -h ... = A — fx). D'autre part, il sera un multiple de

P= — '—^^^ ^-7— i.2...|3, j3 étant égal au plus petit des deux nombres p.

et a (95), et l'on voit sans peine que si a < A^ — jui — 2, on aura constamment ?>*(* — i).

Soit au contraire a^^ — ;ji — 2 : le groupe transitif dont l'ordre est M ne peut être symétrique ni alterné; car si cela avait lieu, on voit, comme tout à l'heure, que ^ serait alternée ou symétrique par rapport à a lettres;

mais a > - : donc S serait alternée ou symétrique (87), contrairement à

l'hypothèse. Cela posé, d'après les théorèmes de M. Bertrand, ' ' ' sera supérieur à a si a surpasse 6, et à 20; si a surpasse 7, et N, qui est au moins égal à ~--i^— - (* — fx) . 1.2... fji, sera évidemment supérieur à k{k --' i), même dans le cas le plus défavorable où fx = i et a = A — jx — 2.

7<î LIVRE DEUXIÈME.

§ VIII. — Limite de trahsitivité des groupes non alternés.

99. Soit G un groupe de degré /n- v qui soit v fois transitif et ne contienne pas le groupe alterné. Deux cas pourront se présenter, suivant que G contiendra ou non des substitutions déplaçant moins de n-\- i lettres.

Premier cas. — Si G ne contient aucune substitution déplaçant moins de n-h I lettres, on pourrait assigner une limite au nombre v, qui représente son degré de transitivité, en appliquant les théorèmes énoncés au n^ 46. On peut également obtenir une autre limite, fondée sur une méthode que nous allons exposer et qui a l'avantage de s'appliquer à d'autres cas.

Partageons les lettres de G en deux classes, contenant : la première, v — i lettres, a?! , . . . , a?v< ; la seconde, n -h i lettres, a, a, ,... , a;,, et soit H le groupe formé par celles des substitutions de G qui laissent immobiles ^1,..., â?v.i. Ce groupe est transitif par rapport aux lettres de la seconde classe, G étant supposé v fois transitif. D'ailleurs chacune de ses substitutions (sauf l'unilé) déplace par hypothèse toutes les tï -H i lettres a,..., a„. C'est donc l'un des groupes étudiés plus haut (71), et son ordre sera égal à /i -h I, nombre des positions distinctes où ses substitutions permettent d'amener a (44).

Soit maintenant I le groupe formé par celles des substitutions de G qui remplacent les a?, , ... , jr^., les uns par les autres : chacune de ses substitutions est le produit de deux autres, dont l'une A permute entre eux a:,,..., j7v-i sans déplacera,..., a„, l'autre B permutant entre eux a,..., a„ sans déplacer .r,,..., jr^,. Soient donc A'B', A"B",... les diverses substitutions de I : leur nombre est égal à 1.2... (v — i) (w-f- i). Car les substitutions de G permettent de permuter entre elles d'une manière quelconque les lettres j?,,..., j*v-i. ce qui donne 1.2... (v — 1) formes distinctes pour les substitutions partielles A, A',;... A chacune d'elles correspondront n-h i formes pour la substitution B, lesquelles s'obtiennent en multipliant l'une d'entre elles par les n -f- I substitutions Je H (lesquelles sont de la forme B).

Ae groupe K forme par les substitutions partielles B', B",... a aussi pour ordre i. 2. . . (v — i) (/i-f- i j. Car, pour qu'il en fût autrement, il faudrait que deux de ces substitutions B' et B'' fussent identiques sans qu'on eût en même temps A'B' = A'B". Mais, si cela avait lieu, de ces deux substitutions on déduirait la suivante A"B"(A'B'j-* = A*A'-*, laquelle ferait partie de G quoique déplaçant moins de v lettres, résultat absurde (82 j.

Les substitutions de K sont permutables à H. Car, soit H' une des substitutions de H, B'-*H'B' = (A'B')-*H'(A'B') appartient à G et ne déplace pas X,,..., J7v-M elle appartient donc à H.

Soit maintenant L le groupe formé par toutes celles des substitutions possibles entre a,..., a„ qui sont permutables à H; il contiendra K; son ordre i> est donc divisible par 1.3... (v — i) (/? -h i). Cherchons d'autre part une limite supérieure à ce nombre û.

100. Soient a, b deux quelconques des lettres a»..., a„; 12 est égal au produit du nombre des systèmes de positions distinctes que les substitutions de L donnent a a, ft [lequel nombre ne peut surpasser (/i-f- i)/i] par le nombre des substitutions de L qui laissent a et 6 immobiles (44).

Le groupe H ne contient qu'une substitution S = (a6c...) (a i'c'...)... qui remplace a par b (71). Soit p son ordre; celles des substitutions de L qui ne déplacent ni a ni b transformeront évidemment S en elle-même, et par suite ne déplaceront aucune des/? lettres a, b, c,.... Leur nombre sera égal au produit du nombre des places distinctes où elles peuvent amener a' (lequel est au plus égal à /i -h i — /?) par le nombre des substitutions de L qui laissent immobiles a, b et a'.

Ces dernières substitutions sont échangeables à la fois à S et à la substitution S' contenue dans H et qui remplace a par a' : elles sont donc échangeables à toutes les substitutions dérivées de S et de S'. Soit/?' le nombre de ces dernières substitutions, lequel est un multiple de/?; elles remplacent respectivement a par />' lettres toutes distinctes (71). Les substitutions cherchées, étant échangeables à celles-ci et ne déplaçant pas a, ne déplac<;ront aucune de ces lettres.

Si/>'</n-i, soit a" une lettre différente de celles-là : le nombre des substitutions de L qui laissent immobiles a, 6, a' est égal au produit du nombre des places distinctes où elles peuvent amener a" (/n-i —/?' au plus) par le nombre de celles de ces substitutions qui ne déplacent ni a, 0, a! ni a"; celles-ci laissent immobiles/?'' lettres, p" étant un multiple de //.

On continuera ainsi jusqu'à ce qu'on soit amené à chercher les substitutions de L qui laissent immobiles toutes les lettres : celles-ci se réduisent à la seule substitution i. L'ordre de L sera donc égal ou inférieur à (n -h \)n[n -h i — /?) (/i -h i — /?') (/i-H 1 —/?")..., /?, /?', /?",... étant drs diviseurs de n+ i, dont chacun est un multiple du précédent.

Cet ordre étant divisible par i.a... (v — 1) (/i-h i), on aura la relation

I.es fadeurs qui enlreiU clans le second membre de cette expression sont tous inférieurs à n, saufle premier, et leur nombre est au plus égal à a» nombre des facteurs premiers de w-h i; on aura donc Tinégalitc