A földmérési korrekciók a következő képletek használatával kerülnek kiszámításra.
Görbület és fénytörés képlet
A következő képlet a függőleges szöget számítja ki (radiánban):
ahol:
- OVA: Régi függőleges szög (radiánban)
- FSZ: Magassági szög (radiánban)
- SD: Lejtési távolság
- R: Gömb sugara (ha be van állítva koordináta-rendszer zónája, akkor a program a zónából veszi ezt az értéket)
- k: Törésmutató
Légköri viszonyok képlet
A következő képlet a lejtési távolságot határozza meg:
ahol:
- OSD: Régi lejtési távolság
- SD: Lejtési távolság
- C: Az EDM vivőállandója (például a Sokkia Lietz esetében 0.86)
- P: Légköri nyomás Hgmm-ben.
- RI: Csoport törésmutatója az EDM vivőjeléhez (például a Sokkia Lietz esetében 287.96)
- T: Száraz levegő hőmérséklet Celsius fokban
Tengerszint képlet
A következő képlet a vízszintes távolságot számítja ki a tengerszinten:
ahol:
- OHD: Régi vízszintes távolság
- HD: Vízszintes távolság
- SE: Szelvény és magasság
- R: Gömb sugara (ha be van állítva koordináta-rendszer zónája, akkor a program a zónából veszi ezt az értéket)
Kollimációs képletek
A következő képletek a kollimációt határozzák meg:
Kollimáció hiba:
- LAP 1: Vízszintes Szög = Mért vízszintes Szög + Vízszintes kollimációs hiba
- LAP 2: Vízszintes Szög = Mért vízszintes Szög + Vízszintes kollimációs hiba
Függőleges kollimáció (minden függőleges szög konvertálásra kerül zenitté):
- LAP 1: Függőleges szög = Függőleges szög + Függőleges kollimációs hiba
- LAP 2: Függőleges szög = Függőleges szög + Függőleges kollimációs hiba