La prochaine étape consiste à calculer la matrice de covariance Q. Cette matrice représente les coefficients des éléments inconnus des équations d'observation. Elle permet de calculer les écarts type et les ellipses d'erreur. Utilisez la formule suivante (reprenant les matrices A et P calculées précédemment) :
La matrice Q apparaît comme suit :
Ensuite, le calcul des degrés de liberté dans un ajustement (r) est effectué d'après la formule suivante :
où
- m = nombre d'équations d'observation
- n = nombre d'éléments inconnus (ou 2n en présence de coordonnées, car x et y ne sont pas connus)
La prochaine procédure consiste à calculer l'écart type du poids unitaire pour un ajustement rectifié (So) d'après la formule matricielle suivante :
où
- r = degré de liberté dans l'ajustement
Vient ensuite le calcul des écarts type de chaque quantité rectifiée (
). Ces écarts sont déterminés d'après la formule suivante :
où
- So = écart type du poids unitaire
- = élément diagonal dans la rangée ith et dans la colonne ith à partir de la matrice de covariance Q