I.?,. . . (v — iX/i

101. Si'COND CAS. — Supposons que G contienne des substitutions déplaçant moins de n+ i lettres, et supposons en outre v > 4; nous allons lui trouver une limite supérieure. Soit H le groupe formé par celles des substitutions de G qui laissent immobiles v lettres données x^^..,^ x^ et remplacent les unes par les autres les n lettres restantes a, , . . . , a„. Considéré par rapport à ces dernières lettres, H sera intransitif (sans quoi G serait v-Hi fois transitif au lieu de Têtre seulement v fois). Les lettres a,,..., a„se partagent donc en systèmes a, a^ . . . , 6| A, ...... . tels, que les substitutions

de H permutent exclusivement entre elles les lettres d'un même système et les permutent transitivement.

Soit maintenant J le groupe formé par celles des substitutions de G qui remplacent les lettres â?,,..., x^ les unes par les autres: ses substitutions permutent ces lettres entre elles de toutes les manières possibles. Soit I le groupe partiel formé par celles des substitutions de J qui font éprouver à ces lettres des déplacements équivalant à un nombre pair de transpositions. Les substitutions de I peuvent être représentées par A' B', A"B",..., A', A",. . étant des substitutions qui permutent entre elles a^i,..., x^ et B', B",... des substitutions qui permutent entre elles a,, a,,..., 6|, 62,...,

Les substitutions A'B'^ A''B'',... sont permutables à H: car soit H' une substitution de H, (A'B')""* H'(A'B') appartient à G et ne déplace pas a?,,..., X., : elle appartient donc à H.

Chacune des substitutions A'B', A'^B",... transformant ainsi H en luimême, fera succéder aux lettres de chacun des systèmes a, a,..., 6,62...,..., qui jouissent de la propriété d'être permutées entre elles par les substitutions de H, d'autres lettres jouissant de cette même propriété, et par suite appartenant à un même système.

102. Supposons d'abord que parmi ces systèmes il en existe un a^a^*-. tel : I " que toutes les substitutions de I remplacent ses lettres les unes par les autres ; 2'* que toutes celles de ces substitutions qui ne font pas partie de H déplacent au moins une de ces lettres.

Soient H', H",... les diverses substitutions de H; h\ h\... les déplacemonts qu'elles font respectivement éprouver aux lettres a,, a^ Soit

h=z[h\ A",...) le groupe formé par ces déplacements; soient de même h\ b'\... les déplacements que les subslitutions A'B', A"B",... font respectivement éprouver aux mêmes lettres.

// est impossible que h contienne toutes les substitutions qui résultent d'un

nombre pair de transpositions entre les lettres a,, a,, En effet, parmi les

substitutions A\ A'\... se trouvent les substitutions circulaires entre trois quelconques des lettres o^i,..., œ^,. Soit A' une semblable substitution, (A'B')' = A'^B'^ appartient à I sans appartenir à H (A'^ ne se réduisant pas àTunité), et fait subir aux lettres a,, aa**-- 1^ déplacement 6'^, lequel résulte évidemment d'un nombre pair de transpositions, et qui en outre n'appartient pas à A : car si l'on avait par exemple b'^ = h\ la substitution A"B''H'""*, laquelle appartient à I sans appartenir a H, ne déplacerait aucune des lettres a,, «a,..., contrairement à notre hypothèse.

D'ailleurs A est transitif; supposons qu'il le soit v' fois, le nombre des lettres a,, fla»--- étant n'-+- v' : deux cas seront à distinguer.

103. i^ : h ne contient aucune substitution qui déplace moins de n' -h i lettres. Partageons ses lettres en deux classes j,, . . . , jv-i et a, ... , a„' contenant respectivement v' — i et /ï'-+- i lettres. Celles des substitutions de h qui ne déplacent pasji,..., yy-i forment un groupe^ transitif d'ordre /i' -h i, et dont les substitutions g^i • . . . , gn'-^-s déplacent toutes les lettres ; et le nombre des substitutions différentes entre les lettres a, . . . , a^^/, qui sont permutables à g, sera inférieur à (/i'-+- 1)/^'*^ «' étant le nombre des facteurs premiers, égaux ou non, àe n'-h i (100).

Mais ce nombre est au moins égal à " ' ■ (/l'-h i). En effet, soit A'B'

une substitution quelconque de I ; soient z« , . . . , v-i les lettres par lesquelles elle remplace y^..., jv-i • A, étant v' fois transitif, contient une substitution A' qui remplace réciproquement Z|,..., zy| par j^,,..., jv-i« Soient H', G,,..., G|/^4 des substitutions choisies à volonté parmi celles que H contient et qui font respectivement éprouver aux lettres du système considéré les déplacements A', g^i , . . . , g„^^i : les n' -+- i substitutions A'B' H' G, , ... , A'B'H'G„^+, appartiennent à I, laissent immobiles j, ,..., jv'-* et font éprouver aux lettres a,..., a„t des déplacements représentés par jS'g^i,..., P'^i'+o P' étant le déplacement que A'B'H' leur fait éprouver.

Soit A"B" une autre substitution de I, telle que A" soit différent de A'; ou en déduira de la même manière /l' H- i substitutions A"B"H"G| , .. . , A"B"H"G«'^.i, qui appartiennent a I, laissent immobiles y,,..., >V-i, et font

éprouver à a,..., a^' (les déplacements représentés par /5"^, ,. . ., ^"gm'-^i* fi" étant le déplacement que A"B"H" leur fait éprouver.

Le nombre des substitutions différentes A', A",... étant ' " ' » celui des

substitutions ^'g^ , . . . , /5'g^„'+, , /3"g^, . . . , /3"g^^^, ,. . . est égal à liiii^ (/i'+ 1 ) :

elles sont d'ailleurs toutes distinctes; car ^,»..., g^^t étant différentes, ^'g^i,. ... jS'g^/iVi le seront évidemment. D'autre part, si l'on avait une égalité telle que ^'gt = ^"g2, la substitution

qui fait partie de I et non de H, ne déplacerait aucune des lettres du système considéré, ce qui est contraire à notre hypothèse.

Enfin les ' (/l'-hi) substitutions ci-dessus sont permutables kg.

En effet, soit F le groupe formé par celles des substitutions de H qui ne déplacent pas j,,..., jv-, : les substitutions A'B'H'G,,..., A"B"H"G,g'+i,... lui sont permutables, car elles transforment évidemment ses substitutions en substitutions de H, qui ne déplacent pas y,,..., jv-i • donCf à fortiori, les déplacements jS'g^i,..., que A' B' H' G,,... font subir à a,. .., a^,' sont permutables au groupe g des déplacements que F fait subir à ces mêmes lettres.

On a donc, pour limiter v, Tinégalité

avec /i' < /i' -f- v' et /i' + v' < /î, d'où /i' < /i — i .

104. 2*^ : h contient des substitutions déplaçant moins cfe /i' -+- 1 lettres. Partageons ses lettres en deux classes j, , . . . , y\' et a, .... , a„'. contenant respectivement v' et n' lettres. Soient I, et H, les groupes formés par celles des substitutions de I et de H qui ne déplacent aucune des lettres

Le groupe I, contient une substitution au moins faisant subir aux lettres j:,,..., a?v l*un quelconque des déplacements A\ A",.... Car, supposons par exemple que la substitution A'B' remplace j,,..., iv par z,,..., z^. Le groupe A, étant v' fois transitif, contient une substitution h' qui remplace réciproquement z,,..., v par j,,..., j^^.. Soit H' une des substitutions de H qui font éprouver aux lettres du système considéré le déplacement h':

A'B'H', ne déplaçant plus y,,..., jy, appartiendra à I,, et fera subir aux lettres j?!,..., x„ le déplacement A!.

Le groupe H4, n'étant pas transitif par rapport aux lettres a,,..., a,^y ne le sera pas à fortiori par rapport à foutes les lettres autres que a?,,..., x^, y,,..., jy. Ces lettres se partagent donc en systèmes a,a2-««» /BjjSa.......

tels, que les substitutions de H, permutent exclusivement entre elles les lettres d'un même système et les permutent transitivement.

Enfin les substitutions de I, sont permutables à H,; car elles transforment les substitutions de H| en substitutions qui ne déplacent'aucune des lettres oTi,..., j^v» JKo"-» yv. et qui par suite font elles-mêmes partie de H,. Donc chacune des substitutions de I« remplacera les lettres*d'un système par celles d'un même système (101).

105. Si parmi ces systèmes il en existe un tel : i^ que toutes les substitutions de I| remplacent ses lettres les unes par les autres; 2^ que toutes celles de ces substitutions qui ne font pas partie de Hf déplacent au moins une de ces lettres, on raisonnera sur I| et H, comme sur I et H, et Ton obtiendra une limite analogue à celle du n^ 103, ou bien l'on sera conduit à deux nouveaux groupes I,, H, dont les substitutions laissent invariables, outre j,,..., jy» d'autres lettres ^i,..., z^»\ on pourra raisonner sur ces nouveaux groupes comme sur les précédents, etc., jusqu'à ce qu'on arrive à deux groupes I^, H^. tels, qu'e/i réunissant dans un même système les lettres que les substitutions de H^ permutent entre elles, il n'existe aucun système qui jouisse de la double propriété : 1° d'avoir toutes ses lettres remplacées exclusivement les unes par les autres dans toutes les substitutions de I^; 2*^ d'avoir au moins une lettre déplacée par toute substitution de \r autre que celles de H^.

Les systèmes se partagent alors en deux catégories : 1® ceux dont les substitutions de I;. permutent les lettres exclusivement entre elles: chacun d'eux jouira de cette propriété que l'une au moins des substitutions de I^ autres que celles de H^ laisse toutes ses lettres immobiles; 2^ ceux dont quelqu'une des substitutions de I^. remplace les lettres par celles d'un autre système.

106. Cela posé, le groupe I^. résulte de la combinaison de H^ avec des substitutions qui laissent immobiles les lettres de tous les systèmes de la première catégorie.

Soient en effet A'B', A" B", ... les substitutions de 1;., A', A", . . . étant les déplacements qu'elles font subir aux lettres a?,,..., Xy, lesquels déplacements forment un groupe alterné. Soient S, S,,... les systèmes de la pre-

Hi UVRE DEUXIÈME.

miëre catégorie : I^conlieDt par hypothèse une substitution A4B, qui laisse immobiles les lettres de S. Les transformées de A« B, par les substitutions I^t et plus généralement les substitutions A« Bf , A\B\f...f dérivées de ces transformées, jouissent évidemment de la même propriété*

Le groupe I^= (A'B', A"B",...) contient le groupe (A|B,t A'jB'j,...), et ses substitutions lui sont permutables. Donc, à fortiori, le groupe (A4 «A'^ 9...), formé par les déplacements que A, B,, A\B\,... font subir aux lettreso?,,..., o^v» est contenu dans le groupe (A', A'\...) et permutable à ses substitutions. Mais ce dernier groupe est simple (85). Donc le groupe (A,, A'^»...) contient toutes ses substitutions.

Soit maintenant S| un autre groupe de la première catégorie : I^ contient une substitution A'B' qui laisse immobiles les lettres de S4; parmi les substitutions du groupe alterné (A', A",...) = (A,, A'j,...) il en existe évidemment qui ne sont pas échangeables à A'. Soit A, Tune d'elles : la substitution (A'B')"*(A4B,)-"*. A'B'. A,B, =A2B2 laisse évidemment immobiles les lettres de S et de S,, et ne fait pas partie de H^.» car elle fait subir aux lettres j?!,..., a?v le déplacement A'~*Ar*A'A4 = Aa, lequel ne se réduit pas à Tunité. Donc I^ contient une substitution A^Bj non contenue dans H^. et qui laisse immobiles à la fois les lettres de S et de S,. Les transformées de AsB, par les substitutions de I^, et plus généralement les substitutions A9B1, A'^B,»..., dérivées de ces transformées, jouissent de la même propriété. On voit comme tout à l'heure que le groupe (A„ A 3,...) contient toutes les substitutions du groupe (A', A",...).

Soit maintenant S, un autre système de la première catégorie, on formera comme tout à l'heure une substitution AsB, contenue dans I^ et non contenue dans H^, qui laisse immobiles à la fois les lettres de S, S,, S,. Soient A5B,, A3B3,... les dérivées de «es transformées par les substitutions de I;., le groupe (A,, A'3,...) se confondra avec (A', A",...).

S'il existait d'autres systèmes de la première catégorie, on poursuivrait' de même : supposons, pour fixer les idées, qu'ils soient maintenant épuisés. Soient A'B' une substitution quelconque de I,-, A3 celle des substitutions A;,, A'3,... qui se confond avec A' : on pourra poser A'B'= AjB^.C, la substitution C faisant partie elle-même de J^ et ne déplaçant pas a-,,..., j?^; appartenant par suite à H;..

Notre proposition se trouve ainsi démontrée.

107. // existe nécessairement des systèmes de seconde catégorie. Car, s'il en était autrement, les substitutions A, B,, A'jBj,... laisseraient immobiles

8i UVRE DEUXIÈME.

(E, E',...) est isomorphe sans mériédrie au groupe (A4, A\f...) et transitif. Or soient F, une fonction quelconque de a?,,..., x^, F,, F,,... les diverses valeurs qu'elle prend lorsqu'on y effectue les substitutions (A4, A4, .•.); nous avons vu (68 à 73) que chaque substitution du groupe (A4, A'^,...) équivaut à une certaine substitution opérée entre ces fonctions; que l'ensemble de ces dernières substitutions forme un groupe isomorphe à (A4, A'^,...); enfin qu'il n'existe aucun groupe isomorphe h (A4, A'^,...), transitif» et distinct de ceux qu'on peut obtenir ainsi en faisant varier la fonction F|. Or le nombre [i des fonctions F,, F2,..., lequel représente le degré du

{groupe ainsi formé, est évidemment égal au nombre ' ' " des substitu-

tiens (A4, A4,...) divisé par le nombre de celles de ces substitutions qui

n'altèrent pas F,. Ce dernier nombre sera évidemment égal à '"

si F| est symétrique ou alternée par rapport à v — i lettres. Si F, est symétrique ou alternée par rapport à v — 2 lettres, ce nombre sera égal à

i.2...(v — 2) OU à ' ' " '9 suivant que F, sera symétrique ou non

par rapport aux deux lettres restantes. Dans toute autre hypothèse, il sera inférieur à 1.2. . . (v — 2); car F, ayant plus de v(v — i) valeurs distinctes (98), le nombre total des substitutions qui la laissent invariable

est inférieur à i. 2... (v — 2). Donc /jl est au moins égal à — > à moins

que F, ne soit symétrique ou alternée par rapport à v — i lettres : dans ce dernier cas, on aura jx = v, et si l'on désigne par F, celle des fonctions F|, F2,... qui est symétrique ou alternée par rapport à toutes les lettres saufa?i, |mr F2 celle qui l'est par rapport à toutes les lettres sauf â?a, etc., les substitutions (A4, A'4, . . .) permuteront évidemment F<, Fj,... entre elles de la même manière que a?,, o^a,....

110. Cela posé, admettons que les groupes de seconde catégorie forment X classes, dont la première contienne [i systèmes formés chacun de m lettres, la seconde fx, systèmes formés chacun de /w, lettres, etc. : le nombre total des lettres contenues dans les groupes de seconde catégorie

est égal à m[i -h m, |Ji| -i- Si v> 12, et qu'on n'ait pas à la fois

V = a = ]X| =..., l'un des nombres fx, ]x,,..., jx par exemple, sera au moins

égal à îliLnii, et, comme w> fx» on aura *

DES SUBSTITUTIONS. Ko

111. Soit, au contraire, v>i2 et |ji = /i, =...= v; soit /nie plus grand (les nombres m^ /7i|,.... Supposons d'abord qu'il n'existe aucun nombre premier moindre que v et supérieur à m. Les belles recherches de M. Tché-

bychef montrent qu'il existe au moins un nombre premier entre et v

(Serret, Algèbre supérieure^ Section III, Chap. IV) : on aura donc

et par suite

Supposons, au contraire, qu'il existe des nombres premiers moindres que V et supérieurs à m; soit p le plus petit de ces nombres. Le groupe (A4, A4,...) contient une substitution A4 qui permute circulairement /'lettres quelconques de la suite j?,,..., o^v? sans déplacer les autres. Les systèmes d'une même classe, en nombre v, étant permutés entre eux par hi substitution A4 B4 de la même manière que o^i , . . . , a;v, le sont entre el les ( 1 09) , A4B4 permutera circulairement entre eux p systèmes de chaque classe, en laissant les autres immobiles.

D'ailleurs, si cette substitution déplace les lettres de quelqu'un des autres systèmes en les permutant entre elles, les cycles formés par ces lettres contiendront respectivement a>, &/,... lettres, co, co',... étant au plus égaux à m, et par suite étant premiers à p; et, si l'on désigne par p le plus petit multiple de co, w',...,la substitution (A4 84)? laissera immobiles les lettres de tous ces derniers systèmes, et par suite ne déplacera que p -^ pm -+- pnii h- ... lettres. D'ailleurs le groupe ne peut contenir aucune substitution déplaçant moins de av - 3 lettres (83). D'où la relation

On a d'ailleurs

ma -h m, /[jL, -4- . . . ^ ( /lî -{- //ir -f- . . . ) y ^ M,

et par suite

•/ay — 3 \

Soit d^ailleurs q le nombre premier immédiatement supérieur à -: il sera

m LIVRE DEUXIÈME.

supérieur à m + /^i -h ..., et par suite au moins égal k p : on aura donc à fortiori

1Î2. Examinons enfin le cas où v^i2. Si Tun des nombres m^ m,,... est > I, on aura

Au contraire, si m, m,,... se réduisent tous a l'unité, les substitutions H^ ne déplaceront que les lettres des systèmes de la première catégorie; mais chacune d'elles déplace au moins 2v — 3 lettres (83) : donc le nombre mil H- 771, a, H- ... des lettres contenues dans l'ensemble des systèmes de la seconde catégorie ne peut dépasser /i — av -+- 3. D'ailleurs» si fi est le plus petit des nombres jx, jx,,..., on aura

y<a< -• d ou /i> (2 -h m -h m, -h. . .)> — 3 > 2v,

W -4- /lï| -i- . . .

même dans le cas le plus défavorable, où les nombres m» /tii,... se réduiraient à un seul, lui-même égal à i (v étant > 4» par hypothèse). Dans le cas où v > 7, on aurait

Nous supprimons la démonstration.

113. En récapitulant les résultats de cette discussion, on obtient le théorème suivant :

Théorkme. — Cn groupe de substitutions G entre n -h v lettres, qui ne contient pas le groupe alterné y ne peut être v/ois transitif que si l'un des six systèmes d'inégalités suivantes est satisfait :

(a étant le nombre des facteurs premiers, égaux ou non, de /i 4- 1); a' étant le nombre des facteurs premiers de n'-h i):

v</i el v>-i2

( 9 étant le nombre premier immédiatement supérieur à -];

(6j 2y<n et v<<i2.

Si V est très-grand, le cinquième système est celui qui donnera pour n la plus petite limite, et cette limite tend évidemment vers la valeur asymp-

totique v\/^v.