As correções do levantamento topográfico são calculadas usando as seguintes fórmulas.
Fórmula de curvatura e refração
A fórmula a seguir calcula o ângulo vertical (in radianos):
onde:
- OVA: ângulo vertical antigo (em radianos)
- VA: ângulo vertical (em radianos)
- SD: distância de inclinação
- R: raio esférico (se a zona do sistema de coordenadas estiver definida, este valor é obtido da zona)
- k: coeficiente de refração
Fórmula de condições atmosféricas
A fórmula a seguir determina a distância de inclinação:
onde:
- OSD: distância de inclinação antiga
- SD: distância de inclinação
- C: constante para o provedor EDM (por exemplo, Sokkia Lietz 0.86)
- P: pressão atmosférica em mm Hg
- RI: índice do grupo de refração para o provedor EDM (por exemplo, Sokkia Lietz 287.96)
- T: temperatura do ar seco em graus Celsius
Fórmula do nível do mar
A fórmula a seguir calcula a distância horizontal no nível do mar:
onde:
- OHD: distância horizontal antiga
- HD: distância horizontal
- SE: elevação da estaca
- R: raio esférico (se a zona do sistema de coordenadas estiver definida, este valor é obtido da zona)
Fórmulas de colimação
As fórmulas a seguir determinam a colimação:
Colimação horizontal:
- Para FACE 1: Ângulo Horizontal = Ângulo Horizontal Medido + Erro de Colimação Horizontal
- Para FACE 2: Ângulo Horizontal = Ângulo Horizontal Medido - Erro de Colimação Horizontal
Colimação vertical (todos os ângulos verticais são convertidos para zênite):
- Para FACE 1: Ângulo Vertical = Ângulo Vertical Medido + Erro de Colimação Vertical
- Para FACE 2: Ângulo Vertical = Ângulo Vertical Medido - Erro de Colimação Vertical