Le correzioni di rilievo vengono calcolate mediante le formule riportate di seguito.
Formula di curvatura e rifrazione
La formula che segue calcola l'angolo verticale (in radianti):
dove:
- OVA: angolo verticale precedente (in radianti)
- VA: angolo verticale (in radianti)
- SD: distanza di pendenza
- R: raggio sferoide (se è impostata una zona del sistema di coordinate, questo valore si ottiene dalla zona)
- k: coefficiente di rifrazione
Formula delle condizioni atmosferiche
La formula che segue determina la distanza di pendenza:
dove:
- OSD: distanza di pendenza precedente
- SD: distanza di pendenza
- C: costante per la portante della EDM (ad esempio Sokkia Lietz 0,86)
- P: pressione atmosferica in mm Hg
- RI: indice di rifrazione di gruppo per la portante della EDM (ad esempio Sokkia Lietz 287,96)
- T: temperatura dell'aria secca in gradi Celsius
Formula del livello del mare
La formula riportata di seguito calcola la distanza orizzontale al livello del mare:
dove:
- OHD: distanza orizzontale precedente
- HD: distanza orizzontale
- SE: quota altimetrica della progressiva
- R: raggio sferoide (se è impostata una zona del sistema di coordinate, questo valore si ottiene dalla zona)
Formule di collimazione
le formule riportate di seguito determinano la collimazione:
Collimazione orizzontale:
- Per FACCIA 1: angolo orizzontale = angolo orizzontale misurato + errore di collimazione orizzontale
- Per FACCIA 2: angolo orizzontale = angolo orizzontale misurato + errore di collimazione orizzontale
Collimazione verticale (tutti gli angoli verticali vengono convertiti in zenit):
- Per FACCIA 1: angolo verticale = angolo verticale misurato + errore di collimazione verticale
- Per FACCIA 2: angolo verticale = angolo verticale misurato + errore di collimazione verticale