PLUSIEURS INCONNUES A DÉTERMINER
MÊTHODB DBS MOINDRES CARRES.
§ 128. — Il arrive souvent que les quantités observées sont des fonctions des inconnues, et non celles-ci mêmes. Un nombre d observations égal à celui des inconnues serait à la rigueur suffisant ; mais comme en général, dans la pratique, l'observateur est libre de multiplier les observations autant qu'il le juge convenable, il cherchera dans le nombre des épreuves un correctif aux erreurs inévitables qu'il commettra.
Un problème d'un ordre nouveau se trouve ainsi posé, celui de faire concourir toutes les observations, en nombre surabondant, à la détermination des inconnues. C'est ce qui a donné naissance à la règle des moindres carrés. Proposée d'abord par Legendre * comme un procédé empirique propre à introduire plus de symétrie dans les calculs, cette règle a ensuite été
< NovvelUs méthodes pour la détermination des orbites des annètes,
reconnue par Qauss ^ cdmme étant la plus avaiilageuse en vertu des principes de la théorie des chances , lorsque la loi de probabilité des erreurs est de la forme K e — ^*^*. Laplace a même démontré * qu elle jouit encore de cette propriété, quelle que soit la loi de probabilité des erreurs, pourvu : 1<> que la loi de probabilité soit la même dans toutes les observations, et la même pour les erreurs positives que pour les erreurs négatives ; 2^ que le nombre des observations atteigne Tordre de grandeur qui permet d'appliquer les formules d'approximation.
La généralité de la règle des moindres carrés résulte d'ailleurs des hypothèses qui font de Terreur une sorte de quantité abstraite, indépendante de la nature des observations (§ 99). Seulement, au point de vue des
applications, on reconnaît que celles-ci peuvent être :
P Immédiates^ c'est-à-dire que les inconnues sont observées directement et indépendamment Tune de Tautre. C'est le cas le plus simple : car, comme on ne peut observer directement qu'une seule inconnue à la fois, la règle des moindres carrés revient à celle de la moyenne, que nous avons développée dans le neuvième chapitre. Z"" Médiates. Alors .on observe certaines quantités, encore indépendantes Tune de Tautre, pour en déterminer d'autres qui sont liées aux premières par des relations données. L'astronomie présente de fréquentes
* Theoria œmbinationis obsei^vationum errorihus minimis ohfwxiœ, 1823. Il paraît ccpcDdant que Gauss possédait la méthode avant Legeodre, et qu'il Ta employée dès 1795.
^ JJiéorie analytique des probabilités.
0 MÉTHODE DiES MOINDRES CARRÉS. 359
applications de ce second cas, et c*est à leur occasion que le principe des. moindres carrés a été mis pour la première fois en pratique. C'est ainsi que l'observation des lieux d'une planète peut servir à corriger les éléments de son mouvement elliptique.
3® Conditionnelles. Dans ce dernier cas, les grandeurs cherchées ne sont plits indépendantes Tune de l'autre; il existe entre elles des relations, des conditions mathématiques, qui doivent toujours être exactement satisfaites : de sorte que toutes les valeurs déduites de l'observation comme étant les plus probables, ne peuvent pas toujours exister simultanément.
(Test ainsi qu'en géodésie un triangle observé n'est possible qu'autant qu'il satisfait à la relation connue pour la somme de ses trois angles. Ainsi encore, si nous mesurons dans un polygone de p côtés tous les côtés et tous les angles, nous connaîtrons trois éléments de trop : les corrections doivent donc être déterminées de telle manière que chaque système de trois éléments soit exactement ce qu'il serait si on le calculait au moyen des 2 p — 3 autres, par les règles de la trigonométrie.
Pour appliquer aux observations conditionnelles la méthode des moindres carrés, il faut faire quelques opérations préalables dont nous parlerons en leur lieu, et au moyen desquelles le dernier cas se ramène au second : celui-ci étant le plus important, c'est de lui que nous avons spécialement à nous occuper. Nous allons donc exposer la méthode, en supposant que les inconnues soient entièrement indépendantes les unes des autres.
g 129. — Soient les p fonctions linéaires Y, V, V'. . .• des m inconnues x, y, z, v....; soient 0, 0', 0".... des valeurs de ces fonctions, trouvées par l'observation immédiate, et supposons que ces valeurs soient affectées respectivement des erreurs A, A', A''..,, en
sorte qu'on ait v — 0 = A
V — 0' = A' V"— 0"= A" ... etc.
Nous supposons p > m .
La probabilité que toutes les erreurs A, A', A" .... ont été réellement commises a pour expression
p JLre- ^^ (^*+ ^'* + ^"* + - + ^'^ '
comme nous l'avons déjà posé (§ 107); et eUe sera un maximum pour
^« j A'* + A"* + ... + A«p = minimum ;
c'est l'équation (£) du paragraphe précité : en la traduisant , nous aurons la règle des moindres carrés ,
savoir :
a Pour trouver les valeurs les plus probables des « inconnues x, y. z,v.., il faut les déterminer de ma- « nière que la somme des carrés des erreurs soit un
« minimum. »
Les procédés de calcul qui s'appuient sur cette règle, pour déterminer les inconnues x^y^z^v,... constituent la méthode des moindres carrés.
Posons donc
v = Qt +ajc +fty -\-cz +dv + ... /p) ... V' =a' +a'x +b'y + c'z + d'v + -
V" = a" + a''x + b"y + c"% + d!'v + ... etc.
Nous avons appelé A la différence V — 0 entre la
grandeur observée, 0, et la quantité V, calculée au moyen des valeurs les plus exactes possibles de œ, y, z...^k déterminer, et des coeflBcients a, a, 6, c... . Nous aurons donc :
A =^ aac + &y -\- cz -\- dv ,,, -\-n (p') ... A' = a'x + b'y + (fz + d'v ... + n'
A" = a"x + l/'y + d'z + à"v ... + n" elc.,
en remplaçant les quantités connues (a — 0), (a' — 0'),
(a''0''), parn. n',n"...*
Mais A* -|- A'* -|- A"* -f- ... devant être un minimum,
nous avons pour exprimer cette condition, puisque les
variables sont indépendantes :
dA . ,dA' , „d^" .
d^ , , dA' , „ dA" .
A -r- 4- A' -r- + A" -^- +...== 0 ... etc. dz dz dz
Or, des équations (p'), on déduit par la différentiation
d^ dA' , dA"
dx dx do;
dA dA' dA"
dy dy dy
dA . «'A' ^ . ^^" __ /f
— T C y , C I , C ... ClC.
dz dz di
* Si les différentes observalions avaient des poids différents,p,p', j?''.., on les réduirait à la même unité de précision (§ 114) en multipliant chacune d'elles par la racine carrée du poids correspondant : nos équations diviondraient donc
A \/^ = ax [/"p 4- hy l/p + cz k^p + ... + n |/p
à- l/^-:^ax\^p +b'y\/^p'+czl/^'+ ... +n l^ et les coefficients symétriques que nous formerons plus loin seraient ici
aap + a «y + à'o,' p" + ••• = [û«p] abp -\- ah'p + o> b' p' -^ ...-= \abp\ ... etc. ee qui ne chaitigerait rien 2i la solution que nous indiquons.
Par là les équations de condition (p") deviennent
aA 4- ft'A' + a" A" +-...«= 0
, b^ + t'A' + rA" + :.. = 0
'^ ^ •" cl + C'A' + r"A" + ... = 0
dà + rf'A' + (i"A'' + ... = 0 ... etc.
Substituant dans ce groupe d'équations , au lieu de A, A', A".... leurs valeurs déduites de (p'), on aura
... (pi^)
a (ax -^by -\-cz +rfv . • • +h) +*' («'a? 4-^'î/ + c'z -^d'v . . . +'*')+ • • • ~^ b (ax+by + cz +dv . . . +n) +b' {a'x +b'y + c'z -yjv . . . +n')+ ... =-0 c (ax -\-by-\'CZ -\-dv ...+«) 4-^ {a'x-^b'y + c'« -|-d'v . . . +»')+ . . . =0 d{aX'\^\-cz\4v.,.-\'n)-\-d'{a'x-\-b*y +
OU bien, en développant, et ordonnant chaque équation
{aa'\'a'a'-\-a"a'*+. .)x-HoHo'&'+. .)y + (o^aV. .)«. .-Kan+a'»'+..)=0 (aHa'^' + a"ft"+. ,)xMpb +6'^+. .)y + (ftc+ A'c'. .) «. . -K^;i+ft'n'+. .)==0 (at'+a'c' + a''c''+..jir+(k+^V+..)y+(«H-cV..):ç.. + (»i+c'n'+..)==0 (a(i+a d'+a"rf"+. .)x-^{bd+b'd' +. .)y +(crf4-c'd'. .)«. . + dw+d'n'+. .)='0
Gauss a simplifié 1 écriture de ces équations, et les a rendues plus faciles à manier, en introduisant une notation particulière pour représenter les coefficients trèssymétriques qu elles renferment : il pose
aa + a'a' + o"o" + a"V" + ... = [aa] (pvi) ... ab + a'b' + a'^b'' + a*"b'" + ... = \ab]
ac + oV + a'V + a^'V" + ... = [rtr] ... etc.,
et obtient par conséquent, pour le cas de quatre inconnues (nous admettons ce nombre pour fixer les idées), les quatre équations suivantes, qui servent à les déterminer :
[aa] X -f [ab] y -\- [ac] z + [ad] v + [««] = 0
(r^vu) t«*] * + W y + m z+[bd]v + [bn] = 0 ^^ '' ' [ac]x+ [bc] y + [ce] z + [cd]v + [ai] = 0 [ad:]x + [bd] y + [cd:]z + [dd]v-\- [dn] = 0.
Nous les nommons équations normales (Normalgleichungen) et leur nombre ne peut évidemment dépasser celui des inconnues, puisqu'elles ne sont qu'une transformation du groupe (p"), formé en égalant identiquement à zéro l'expression différentielle relative à chaque inconnue.
L'élimination entre les équations (p^") se fait trèsfacilement par la méthode des substitutions successives : on tire de la première équation la valeur de œ en fonction des autres inconnues, et on la substitue dans les autres équations ; on agit de même à l'égard des trois équations à ty^ois inconnues qui restent, jusqu'à ce qu'on arrive à une équation à une seule inconnue: Pour simplifier le travail, nous adopterons les notations élégantes introduites par Gauss.
La première de nos quatre équations normales donne
\aay \,m\ \aa\ iaa\
Si Ton transporte cette valeur dans chacune des trois équations restantes, et qu'on réunisse en un seul terme les coefficients des mêmes inconnues dans chaque équation, on aura les formes suivantes qu'il faut particulièrement remarquer :
■Sa
:ti
Les trois équations qui restent après rélimination de X sont donc les suivantes
ihb . 4] y + [ôc . 1] X 4- [W . i] i; + [^i . i] = 0
(?▼"«) ... [te . 4] y + [ce . 4] X + [cd . 4] v + [en . 4] = 0
[W.4]y + [ai.4];5-f [dd.4]t;4-[rfn. 4]= 0
Si Ton prend maintenant, dans la première de ces trois équations, la valeur de y^ et qu*on la substitue dans les deux suivantes, on aura d'abord
[te. 4] [M. 4] [^.4]
puis posant , par analogie avec ce qu'on a fait précédemment,
^^•^^'"[srT^^-*^^^'^-^^
on arrivera aux deux équations
/p.x) [ce . 2] « + [a/ . 2] y + [m . 2] = 0
^^ ^"' [af.2]«+[(W.2]t; + [dn.2] = 0.
Tirant de la première la valeur de ^, on a
[cd . 2] [cti . 2]
[ce . 2] . [cc.^y
la substituant dans la seconde, après avoir fait
[(W.2]-^^^[«i.2] = [drf.3] [dn.2]-g^j[«i.2] = [dn.3]
il vient en définitive
(px)... [(W.3]v + [(iw. 3]==0
d'où ^__ {dn.3-]
[dd.sy
équation qui donne la valeur de vj puis, par des substitutions successives, celles de z^ de y et de œ.
Le tableau suivant présente dans son ensemble le système des équations finales [Endgleichungen)^ desquelles dérivent immédiatement les valeurs des inconnues. Il serait facile de Tétendre à un nombre quelconque d'inconnues :
[««] \ad] ' \aa\ [aa\
^^ \bb.\-] ^ [bb . i] ^ [bb. i]
^ [oî . 2] ^ [ce . 2]
Remarques. — 1° La formation des coefficients auxiliaires [J&.l], [cd.2]y [rfn.3J...., etc., est caractérisée par la relation générale
t^'^ •«»] - ^W^i [/^ . m] = Q/Zi. (m + i)].
dans laquelle f^ g, h sont des coefficients littéraux rangés suivant l'ordre des inconnues, et m un nombre. Il est à remarquer que f est le coefficient qui a le rang (m 4- 1) dans le second membre de l'équation
A = ox + % + c« + ^'v + ••• n^ »*•
E"" La forme générale de chaque système d'équations (^"""j, (p^'"), (i?^*)... montre que la suite des coefficients des différentes inconnues, pris horizontalement dans une seule et même équation, se retrouve verticalement pour une mém^ inconnue dans les différerdes équations.
3® Lorsque le nombre des inconnues est i, celui des coefficients dans l'équation [p^^] est égal au nombre de combinaisons deux à deux, avec répétition, qu'on peut former avec (» + 1) lettres, diminué d'une unité (la combinaison nn n'existant pas). Ce nombre est donc (§ 12)
Dans le système des équations (p™), le nombre des nouveaux coefficients à former est égal au nombre de combinaisons, avec répétition, qu'on peut obtenir avec i lettres prises deux à deux, diminué aussi d'une unité, ou à
Dans les systèmes suivants, on aurait
Pour i =« 4, le dernier coefficient devient égal à 2.
La somme de tous ces nombres se calcule facilement, en les mettant d'abord sous la forme
It« + 3 t (t-i)« + 3{i-i) (t — 2)« + 3(i~2) (t — 3)« + 3(t— 3).
Remarquant que la première colonne verticale est la somme des carrés des nombres naturels depuis 1 jusqu'à », et que la seconde renferme une progression arithmétique dont le premier terme est l'unité et le dernier », on réduira aisément cette expression à la formule
Tel est le nombre des coefficients auxiliaires à former. Or, cette formation étant la seule partie pénible du travail, on voit dans quelle proportion croît la longueur des calculs lorsque le nombre des inconnues augmente.
Dans l'hypothèse où nous nous sommes placés, celle d^ quatre inconnues, il y a donc à former 30 coefficients auxiliaires. — Pour être plus précis dans le langage, il vaudrait mieux cependant, comme nous le ferons dorénavant, donner aux coefficients de l'équation (p""") le nom de coefficients sommatoires, et réserver à ceux des équations suivantes (p^™, p'*...) le nom de coefficients auanliaires.
Le résumé des calculs de la méthode de Gauss se trouve représenté dans le schéma de la page suivante.
CO
cô
