n peut s'écrire
Si:
V =[x,- zf -f (a;^ - zf + ... + K - ^?-
P est un polynôme du second degré en z qui atteint son minimum quand z est la moyenne arithmétique des quantités X ; représentons ce minimum, qui est positif, par nx' : c'est la valeur probable &e y^.
Je pose :
d'où :
dz = dy
et :
Alors
devient
h^ e-'"^'!^' + ''''' ^ dy dh
l 7^2 e-'"'^y'' + '^-)-i/dy dk
Pour y, comme pour z, on intégrera de — oc à -}- <» •
9. Cherchons la probabilité, pour h seulement, d'être compris entre h Qi h -\- dh^ y ayant toutes les valeurs possibles.
/,+00 11 dh\ A2g-H/.(y2+«S)^^^
/ dh A2e-"A(i-2 + a»)^^y
<]> dépendait de ^ et A ; il dépend maintenant de y et h. Restreignons d'abord le problème en supposant toutes les valeurs de y également probables, c'est-à-dire (j^ indépendant dey.
On a
La probabilité relative à h seul devient alors :
dh.h 2 e-'^'a^^
10. Quelle est d'abord la valeur la plus probable de A ? Cherchons le maximum du numérateur, puisque la probabilité lui est proportionnelle.
Ce numérateur peut s'écrire :
Or le maximum de dh^" X /"a lieu en général quand :
f et si n est très grand, on peut négliger — ; le maximum est
donc atteint en même temps que celui de 4».
Ici <I> est \'he~''^-; écrivons que la dérivée logarithmique est nulle :
On a ainsi la valeur la plus probable de h.
On remarquera que, en supposant un nombre très grand d'observations, la fonction arbitraire •]/ n'intervient pas. Ce n'est pas étonnant : l'hypothèse que nous avions fondée a priori sur le plus ou moins d'habileté de l'observateur disparaît devant le grand nombre de résultats que nous contrôlons.
11. Quelle est la valeur probable de hP ? Celte valeur probable est:
h ^ e-''''='-^-Jh
ou:
dh
Si n est très grand, nous savons vers quelle limite tend le rapport de ces deux intégrales ; c'est :
Hq étant la valeur la plus probable. Ainsi la valeur probable de hP est A/.
Cette conclusion n'est vraie qu'à la condition que n soit très grand et que p soit fini.
Faisons ^ =z i : nous arrivons à des intégrales eulériennes
^00 p + 'l-J: , / hi> — ^Sl A f^ L ^
Le rapport des valeurs asymptotiques donne
C3 qui est bien notre conclusion.
Mais si l'on ne suppose pas p fini, elle ne serait pas appli-
n cable. Supposons p très grand, égal à ^ par exemple :
r (p) ^ ' p, e-P si%T.p
Le second membre se réduit à 2p e-p \ 2 x-)—p. On trouve donc pour la valeur moyenne de h'' une expression très différente :
1. J'ai plaidé de mon mieux jusqu'ici en faveur de la loi de Gauss dont nous allons maintenant tirer les conséquences. Peut-être pourtant la cause n'était-elle pas parfaitement bonne .
Il ne faudrait pas avoir une sorte de superstition pour la méthode des moindres carrés, à laquelle va nous conduire la loi de Gauss. Nous avons vu que l'on avait parfois des raisons de ne pas adopter cette loi.
Elle suppose, en effet, qu'il n'y a pas d'erreur systématique, et il y en a toujours.
D'un autre côté, nous avons vu qu'on est souvent conduit à ne pas appliquer le procédé de la moyenne, et, par exemple, à rejeter une observation qui présente avec toutes les autres une divergence exagérée. 11 n'en serait pas ainsi si la loi de Gauss était toujours vraie.
Quel genre de modification y aurait-il dans ce cas à faire subir à la loi de Gauss ? La courbe :
que nous avons précédemment tracée, devrait être relevée dans les parties éloignées de l'axe des ordonnées.
La loi de Gauss suppose encore © fonction de y seulement,
y étant égal k x — z, tandis que ^ peut dépendre de x et de z.
Par exemple, pour tenir compte de Verreur décimale nous aurions pu prendre :
6 (a?) étant une fonction périodique de x, de période 1, qui serait maximum pour les décimales qu'affectionnent certains observateurs et sur lesquelles ils retombent toujours. D'autre part, il y a moins de chance d'erreur si l'on tombe précisément sur une division donnée directement par l'instrument, que si on est obligé de subdiviser une de ces divisions au jugé. Alors h ne serait plus une constante mais, une fonction de x qui aurait une période égale à 1 ; la précision serait plus grande quand x serait un nombre entier que lorsqu'elle ne le serait pas ; si même l'observateur évalue fort bien le dixième, mais ne sait pas donner d'autres décimales, 6 [x] sera rigoureusement nul pour toute valeur de x qui ne sera pas multiple de un dixième.
2. Problème des erreurs commises sur la situation d'un point. — Au lieu d'une seule grandeur mesurée, il arrive souvent qu'on en combine plusieurs, comme les deux coordonnées d'un astre, etc.
Je suppose, par exemple, que, pour évaluer la situation d'un point dans un plan, on ait fait n observations, et que l'on ait trouvé pour ses deux coordonnées rectangulaires, x et y, les valeurs :
Les erreurs commises sont :
a?< — ûc ety^ —y,x^—x et y^ — y, ... x„ — a; et y^ — y.
Je vais poser :
x^j=x-]r\K. Vk =y + >1o
Les erreurs commises sont ainsi représentées par : If et 7],, ;2 et ri2, ..., In et 7i,j.
3. On peut se demander quelle est la probabilité pour que les erreurs commises sur la première observation soient comprises entre ç^ et ^, -j- c?^,, iqi et t^^ + ^'li-
Soit :
cette probabilité ; il pourrait se faire que cp dépende de x et de y, mais je suppose qu'il n'en est rien, et que ^ dépend seulement des erreurs.
Ces erreurs peuvent être indépendantes ; alors cp serait le produit de deux autres fonctions et la probabilité serait représentée par :
mais je suppose encore que l'erreur commise sur l'abscisse ne soit pas indépendante de l'erreur commise sur l'ordonnée.
Le raisonnement est analogue à celui de Gauss dans le cas d'une variable. On s'appuie sur le postulat suivant :
Si on a fait un certain nombre d'observations, on reporte
les points observés sur un plan ; la position la plus probable est le centre de gravité de ces points supposés de masse égale.
4. A l'exemple de Gauss, nous admettrons que celte manière de voir est légitime. Quelle est la loi d'erreurs qui justifie cette hypothèse ?
Cherchons la probabilité pour que les coordonnées du point soient comprises entre x et x -\- dx^ y et t/ -f" dy.
C'est un problème de probabilité des causes et il nous faut chercher encore
CT, est la probabilité a priori pour que les coordonnées soient comprises entre x et x -\- dx, y et y -\- dy ; représentons-la par :
rsi = i}» (x, y) dxdy.
Pi est la probabilité pour que, si la cause agit, le phénomène observé se soit produit : ici, le phénomène observé, c'est que les coordonnées sont l'une entre :
x^ et x^ -\- dx^, x^ et x.2 -\- dx^, ..., x^ et x^ -\- dx^;
l'autre entre :
y^ et y, + rfy<, y^ et y^ -\- dy^, ..., y„ et y„ -f- c?y„.
Pi est le produit des probabilités relatives à chacune des observations.
Soit :
Alors :
sera :
Ji■i/dxdyd!i^d't\^dl.2d■r\i ... dl,^d-r\„ |îl■^dxd1/d^^d■t\^d^^d■T\2 ... d^,id-r[,i
l'intégrale étant prise par rapport à a; et t/, il reste :
I li-i/dxdy
Le dénominateur est constant et indépendant de x et de y ; la probabilité est donc proportionnelle au numérateur.
5. Quelle sera la valeur la plus favorable ? celle qui rend maximum le numérateur, ri']'. Or :
n = ?(^< —X, y, — y)cp {oG^—x,y^—y) ...o(a;„— x,y„—y)
Quelles sont les valeurs de a; et de y qui rendent ce produit maximum ? D'après le postulat, c'est la moyenne arithmétique de a;,, x.^.,... x,, pour x, et la moyenne arithmétique de î/i, t/ov, Vn pour 2/.
Égalons les dérivées logarithmiques aux fondions suivantes :
dv
dx '
La dérivée logarithmique de II-^ par rapport à x, qui doit
s'annuler pour le maximum, est :
— F(;4, -ri,) — F [I2, ir.o),-- — F ;;„, y,„) + 0 = o d'où :
F (ç^, vj.) + F(;„ VI,) + ... + F (^„, 7i„) = 0.
La dérivée logarithmique par rapport à y conduirait à :
Fo^^n T^i) 4- Fo(ç2, -^2) + ••• + Fo!.^,„ vi„) = %.
Ces deux relations devront être vérifiées toutes les fois que l'on aura :
Vk ^y-i-\r ■■- -\-yn = ^>i/'
c'est-à-dire :
6. 11 s'agit de déterminer les fonctions o et •]/ de telle façon que les deux systèmes d'équations soient compatibles.
Différentions ces deux systèmes, en regardant a- et y comme constants, et en faisant varier ;,, t.,, ç.^, y\2-. ;«, -rin- [.a dérivée de 0 et de 0^, dans le second membre, sera nulle, puisque 0 et 6„ ne dépendent pas de ces quantités.
J'appelle F, et F? les fonctions suivantes :
Le premier système devient :
rfF, +c^F, + ... + c/F„ = o, rfF?+r/F«+...4-f/F0r^o,
et le second système est :
0^. +d^2 +••• -hdl, =0,
d-Tit -{- dr^2 + ••' -\- d-r\n = O.
Tels sont les deux systèmes qui doivent être équivalents. Les deux premières équations doivent être une combinaison des deux dernières; nous devons avoir identiquement:
dF, + dF, + ...-^dF,,
= kdl, + Bdf^, + kdl.^ + Bdr^^ + ... 4- kd\, + Brf7i„.
Identifions les deux membres :
A ne devrait dépendre que de ^, et de vj, puisqu'il est
dF égal à -jT^] il devrait aussi ne dépendre que de \^ et de r^^
Cf,2
Donc A et B sont des constantes : F ^ est une fonction linéaire de ^, et de tj,.
De même FJ est une fonction linéaire de \^ et de tj^. J'ajoute que, en représentant F, par :
la constante d'intégration C est nulle.
En effet, si je remplace F^, Fg... F„ par leurs valeurs, j'arrive à :
A (?, + ^2 + ... + U + B h, -f- 7,2 + ... + -ri«) + nC = 6.
dF^ rfFg ~ d\, - dTc,^ ~ •■
dF,,
dF^ dF^ ~ dt^^~ dr,2 ~ '
dF„
dhn
Cette équation doit être satisfaite toutes les fois que :
Donc :
wC = 6, et comme 6 est indépendant de w,
Il en résulte que •} est une constante.
Pour que la théorie de Gauss soit applicable, il faut que l'on n'ait aucune idée a priori sur la valeur de la quantité cherchée. *
On aurait de même :
D'ailleurs B = D, car :
r/F r/po
et l'on a :
dF^ dFJ
en rertu de la définition de F et de F^. On arrive enfin à :
L? = Aif+2B^,7„ + Er.? + G,
G étant une constante que nous écrirons LH. Le polynôme A^f -f" -^^i ^i + Et,? doit être négatif, car
une erreur infiniment grande doit avoir une probabilité nulle : représentons-le par — P.
L<. = p|- LH;
d'où:
L'intégrale
= Hé
Jj »^,Ci?Tr],
doit être égale à l'unité pour toutes les valeurs possibles de X et de y.
7. Ce raisonnement donnerait prise aux mêmes objections que le raisonnement de Gauss. Admettons cette loi. On peut construire les courbes :
P = constante,
en plaçant l'origine au point visé, c'est-à-dire à très peu près le point moyen. Le problème est analogue à celui du tir à la cible.
Les points se répartissent conformément à la loi de Gauss
généralisée.
Les courbes P = const. seront des ellipses concentriques ayant les mêmes directions d'axes.
Considérons l'une de ces ellipses : je mène par O plusieurs droites qui partagent le plan en secteurs, 1, 2, 3, 4.
Soit s^ la partie inférieure à l'ellipse du premier secteur, S, la partie extérieure.
S'il y a un très grand nombre de points de chute, ils se
FiG. n.
répartiront à peu près proportionnellement à leurs probabilités. Dans s^ il y aura w, points, dans S< il y en aura N^ . Le théorème qui résulte immédiatement de la formule est le
suivant :
n, iu «3 «i
Dans chaque secteur, il y a le même rapport entre le nombre des points intérieurs et le nombre des points extérieurs à l'ellipse.
8. Si les observations sont indépendantes, cp est le produit de deux fonctions. P sera alors la somme de deux fonctions dépendant chacune d'une seule variable, donc le terme en If Tj, disparaît.
Cela veut dire que les ellipses ont leurs axes parallèles aux axes de coordonnées.
Pour que l'écart entre le point visé et le point observé soit indépendant de la direction, l'ellipse devra se réduire à un cercle.
On pourrait encore regarder comme indépendantes l'erreur en abscisse et l'erreur en rayon vecteur.
C'est là-dessus qu'était basée une démonstration de la loi de Gauss, déjà citée, et dépourvue de valeur.
9. La méthode des moindres carrés sert à déterminer des quantités u^, Mj-m ^p qu'on ne peut mesurer directement, mais dont on mesure certaines fonctions z^^ z.^..., z„.
^2 = ^ii^U- «2 •••! V'
Pour les mesures de ^, , z.^..., z^^n observations ont donné Xf, X.2 '..■, ûs^; on a commis des erreurs. Sur zi l'erreur y/ est:
!/i = Xi — z,-.
Le problème ne se pose que pour n ^ p^ car, pour n =p, le système d'équations donne une solution; pour n < p, il n'y a pas assez d'équations, et le problème est indéterminé.
Pour w > p, il y a trop d'équations : quelles sont alors les quantités les plus convenables à prendre pour les u ?
Eliminons les p quantités u ; on est conduit an — p équations :
Ce sont les équations de condition.
On a parfois avantage à prendre les équations de condition sous cette forme.
Parfois il est préférable d'exprimer les z en fonction des u.
Nous traiterons un exemple avec l'une et l'autre méthode : le premier relatif aux planètes, le second à un problème de triangulation.
1. La première partie delà méthode des moindres carrés, que nous abordons immédiatement, est de déterminer les valeurs les plus convenables des u. Dans une deuxième partie, nous nous occuperons de l'erreur commise.
La cause inconnue est que les quantités u soient comprises entre certaines limites ; les quantités observées a;,- sont ellesmêmes comprises entre certaines limites. Appliquons une fois de plus la formule :
CT, est la probabilité a priori pour que la cause ait été mise en jeu, c'est-à-dire ici pour que les quantités u soient comprises entre m, et u^ -f- du^ , u.^ et u.^ -f du^, ..., Wp etMp + dup. Cette probabilité peut se représenter par :
4» ("o U.2, '■■■, Up) du^du.^ ... diip.
'^ aura des formes variées suivant l'idée qu'on se fera a prioH des quantités u : il y a là un très grand degré d'arbitraire.
p, est la probabilité pour que xi soit comprise entre Xi et Xi -j- f/o?,, en supposant que les u aient eu les valeurs que nous leur avons attribuées, z^^^^,..., z„ étant données en fonction des u, la probabilité de l'erreur commise sur chacune d'elles
sera respectivement :
?i {y\) dy\ =? (^1 — ^<) ^n
La probabilité p, que nous cherchons est celle pour laquelle toutes ces circonstances se produisent à la fois; c'est une probabilité composée:
Pi = ?i {y\) Î2 (2/2) • • ?« W dy^dy^ ... dy„. J'abrège un peu l'écriture en posant :
du^du^ ... dup =■ c/o), et d'autre part :
dy^dy.) •-. dy,^ = dx^dx.^ ... dx,^ = d{ù . Alors 'Pixsi est égal à :
'PiTSi = Ti'ifdiùdià'
et
fU'^dtadoi'
Comme on n'intègre que par rapport à d'w, dta' disparaît.
Telle est la probabilité qu'il s'agit de connaître, à savoir la probabilité a posteriori pour que w,- soit compris entre w,et M; -j- dui. Cette probabilité, puisque le dénominateur est constant, est proportionnelle à n, fonction des u, et à 'i dut
qui représente la probabilité a priori et qui est aussi fonction des u.
2. Pour obtenir la valeur la plus probable des quantités u, il faut chercher le maximum de n J/ c?a>.
L'hypothèse la plus simple sur <{/ est •} = 1 : reste à déterminer le maximum de n.
L'hypothèse la plus simple sur les » est que les erreurs suivent la loi de Gauss.
Alors :
n sera maximum quand la parenthèse sera minimum, c'est-à-dire :
^<yî +^2^1 + ••• + finî/l-
C'est une fonction connue des u: les quantités A,, h^f.-t h„ représentent les poids des observations, et ce qu'il faut rendre minimum, c'est la somme des carrés des erreurs commises, chaque carré étant multiplié par le poids de l'observation correspondante.
3. On arriverait au même résultat sans admettre la loi de Gauss, pourvu qu€ l'on suppose les erreurs accidentelles petites et les erreurs systématiques nulles.
En effet, supposons les quantités y très petites : quelle que soit la forme attribuée aux fonctions cp, nous serons amenés à quelque chose d'analogue. Il s'agit de rendre maximum le produit des cp,.
2Ï0 CALCUL DES PROBABILITES
Je suppose cp,- paire, et je développe par la formule de Taylor Lcp,- changé de signe.
— Lcpi [yù = «1 + i>^^A + e,y| -|- ...
— L<P2 (^2) = «2 + ^iVl + c^jI + •••
— ho„ {y„) = a„ 4- b,,iyj, + c„yi + ...
La somme des logarithmes changés de signe doit être minimum, c'est-à-dire :
Je différentie par rapport à W/, :
2i:^„.|j + 4Se,,|^+... = o.
Comme les ?/,■ sont supposés très petits, on [leut en négliger les puissances supérieures, et tout se passe comme si nous avions à rendre minimum S ô, yj. En admettant donc que la loi de Gauss ne soit pas vraie, la véritable loi n'en sera pas très différente dans Vintervalle utile.
- De deux choses l'une, ou bien les observations sont sensiblement concordantes, et, comme nous venons de le voir, la méthode des moindres carrés sera applicable ; ou bien, elles .ne sont pas sensiblement concordantes, et dans ce cas les observations ne vaudront rien et il n'y aura rien à en tirer.
4. Nous ne saurions cependant nous contenter du raisonnement qui précède, car ce que nous voulons obtenir, c'est la valeur probable des u (et non la plus probable).
La probabilité pour que x soit compris entre xei x -\- dx
étant f {x) doc, la valeur la plus probable de x est celle qui rend maximum cp [x] dx.
La valeur probable de x est / xz, (x) dx,
La valeur probable de n étant Hq. la valeur probable de la fonction z,
z = «^, ne sera pas wg.
Mais si les z sont fonctions linéaires des u, les valeurs probables des z correspondent aux valeurs probables des tt.
Zi = A,-,t<, 4- A/oWo 4- ••• 4- A,>?^p -f B/.
Cndo) représente la probabilité pour que la i'^ quantité m,soit comprise entre u, et u; -|- d>'i. Soit II}, la valeur probable de u/^- :
u\ = I Cil u^do).
La valeur probable de s-,, soit 3-',-, sera : 3-? = jCn (A,,w, -|- Xi,u., -f- ... -j- A,yf,, + Bu doj,
ou :
z') = A,, ÇCYlu^dia + Ai.,Ccnv.;idiu -f ...
+ AipfClhi,,dio + Bifcudio,
et comme / Cllfiw est la valeur probable de l'unité, c'est-àdire 1,
5. Je vais supposer d'une part ^ constant ; d'autre part que la loi des erreurs est celle de Gauss ; enfin que les z sont liées aux u par des relations linéaires.
Je vais établir que la valeur probable des u est celle qui est donnée par la méthode des moindres carrés.
Le produit pi cr, atteint son maximum quand la fonction P :
est minimum.
Soient mJ, m§, ... u^ les valeurs des u qui rendent cette expression minimum. Ces valeurs seront aussi, comme nous allons le voir, les valeurs probables des u.
Ona:
n = Ce-p.
La valeur probable de u^ est :
rud. P^ — u,= —
J / Udoi / nd<à
Il faut démontrer que :
/ n.Hkdù>
c'est-à-dire
On a
fndio
/ n [u/t- — ul) d(D = o.
Vi — ^i ^i \
X, est connu, ^,- est du premier degré par rapport aux u: P
est donc un polynôme du second degré par rapport aux u. P atteint son minimum quand :
Cela veut dire que :
P = Po + P2.
P2 étant un polynôme homogène et du second degré par rapport à (u, — m?), («^ — ?<§), ..., (m* — m^-), ... ; et ?„ étant la valeur de ce minimum.
Nous avons à démontrer que :
/ Ce~Po e— P- iuj, — Uk] dio = o.
Ce— Po e— Pî est une fonction paire des quantités u, — m?, Wx — Ujc est une fonction impaire. Comme l'intégrale est prise de — 00 à -f- 00 , elle est bien nulle.
Ainsi ces valeurs des u sont non seulement les valeurs les plus probables, mais les valeurs probables.