Die Vermessungskorrekturen werden anhand der folgenden Formeln berechnet.
Krümmungs- und Brechungsformel
Mit der folgenden Formel wird der vertikale Winkel (in Radianten) berechnet:
Dabei gilt:
- OVA: Alter vertikaler Winkel (in Radianten)
- VA: Vertikaler Winkel (in Radianten)
- SD: Neigungsabstand
- R: Sphäroidradius (wenn eine Koordinatensystemzone eingerichtet ist, wird dieser Wert von der Zone abgerufen)
- k: Koeffizient der Brechung
Formel für Atmosphärenbedingungen
Mit der folgenden Formel wird der Neigungsabstand berechnet:
Dabei gilt:
- OSD: Alter Neigungsabstand
- SD: Neigungsabstand
- C: Konstante für den Träger des EDM (beispielsweise Sokkia Lietz 0,86)
- P: Atmosphärischer Druck in mm Hg
- RI: Gruppenbrechungsindex für den Träger des EDM (beispielsweise Sokkia Lietz 287,96)
- T: Trockene Lufttemperatur in Grad Celsius
Formel für Meeresspiegel
Mit der folgenden Formel wird die horizontale Entfernung am Meeresspiegel berechnet:
Dabei gilt:
- OHD: Alte horizontale Entfernung
- HD: Horizontale Entfernung
- Querneigung: Stationshöhe
- R: Sphäroidradius (wenn eine Koordinatensystemzone eingerichtet ist, wird dieser Wert von der Zone abgerufen)
Formeln für Kollimation
Mit den folgenden Formeln wird die Kollimation bestimmt:
Horizontale Kollimation:
- Für FLÄCHE 1: Horizontaler Winkel = Gemessener horizontaler Winkel + Horizontaler Kollimationsfehler
- Für FLÄCHE 2: Horizontaler Winkel = Gemessener horizontaler Winkel - Horizontaler Kollimationsfehler
Vertikale Kollimation (alle vertikalen Winkel sind in Zenit umgewandelt):
- Für FLÄCHE 1: Vertikaler Winkel = Gemessener vertikaler Winkel + Vertikaler Kollimationsfehler
- Für FLÄCHE 2: Vertikaler Winkel = Gemessener vertikaler Winkel - Vertikaler Kollimationsfehler