Les corrections de la topographie sont calculées à l'aide des formules ci-après.
Formule relative à la réfraction et à la courbure
La formule suivante permet de calculer l'angle vertical (en radians) :
où :
- OVA : ancien angle vertical (en radians)
- VA : angle vertical (en radians)
- SD : distance de la pente
- R : rayon sphérique (si une zone de projection de coordonnées est définie, cette valeur est obtenue à partir de cette zone)
- k : coefficient de réfraction
Formule relative aux conditions atmosphériques
La formule suivante permet de déterminer la distance de la pente :
où :
- OSD : ancienne distance de la pente
- SD : distance de la pente
- C : constante indiquée par le fabricant du télémètre électronique (EDM), par exemple, Sokkia Lietz 0.86
- P : pression atmosphérique exprimée en mm Hg
- RI : indice de réfraction du groupe indiqué par le fabricant du télémètre électronique (EDM), par exemple Sokkia Lietz 287.96
- T : température de l'air sec exprimée en degrés Celsius
Formule relative au niveau de la mer
La formule suivante permet de calculer la distance horizontale au niveau de la mer.
où :
- OHD : ancienne distance horizontale
- HD : distance horizontale
- SE : altitude de l'abscisse curviligne
- R : rayon sphérique (si une zone de projection de coordonnées est définie, cette valeur est obtenue à partir de cette zone)
Formules relatives à la collimation
Les formules suivantes permettent de déterminer la collimation :
Collimation horizontale :
- FACE 1 : angle horizontal = angle horizontal mesurée + erreur de collimation horizontale
- FACE 2 : angle horizontal = angle horizontal mesuré - erreur de collimation horizontale
Collimation verticale (tous les angles verticaux sont convertis au zénith)
- FACE 1 : angle vertical = angle vertical mesuré + erreur de collimation verticale
- FACE 1 : angle vertical = angle vertical mesuré - erreur de collimation verticale