Információk a szórásszámításokról

Ezután a kovarianciamátrix, a Q mátrix számítása következik. A kovarianciamátrix a mérési egyenletek ismeretlenjeinek tényezőit tartalmazza, és a szórások és hibaellipszisek számítására használható. A következő, a korábban már kiszámított A és P mátrixokat is tartalmazó képlettel számítható:

A Q mátrix a következőképpen jelenik meg:

A következő lépés egy kiegyenlítéshez a szabadságfokok, azaz az r érték számítása a következő képlettel:

ahol:

A következő eljárás a súlyozott beállítás egységnyi súly szórásának (So) kiszámítása, amely a következő mátrixformulán keresztül történik:

ahol:

A következő lépés az értékek, azaz az egyes kiegyenlített mennyiségek szórásainak számítása. Ezek a következő képlettel határozhatók meg:

ahol: