測定補正は、次の公式を使用して計算します。
曲率と屈折の補正の公式
次の公式によって、頂角(ラジアン)を計算します。
各変数は、次のとおりです。
- OVA: 旧頂角(ラジアン)
- VA: 頂角(ラジアン)
- SD: 勾配距離
- R: 球体半径(座標系測地座標系が設定されている場合、この値は測地座標系から取得される)
- k: 屈折の係数
大気条件の公式
次の公式によって、勾配距離を決定します。
各変数は、次のとおりです。
- OSD: 旧勾配距離
- SD: 勾配距離
- C: EDM 搬送波の定数(Sokkia Lietz 0.86 など)
- P: 大気圧(mm Hg)
- RI: EDM 搬送波のグループ屈折率(Sokkia Lietz 287.96 など)
- T: 乾燥空気温度(摂氏)
海水位の公式
次の公式によって、海水位での水平距離を計算します。
各変数は、次のとおりです。
- OHD: 旧水平距離
- HD: 水平距離
- SE: 測点標高
- R: 球体半径(座標系測地座標系が設定されている場合、この値は測地座標系から取得される)
視準の公式
次の公式によって、視準を決定します。
水平視準
- FACE 1: 水平角 = 測定水平角 + 水平視準エラー
- FACE 2: 水平角 = 測定水平角 + 水平視準エラー
垂直視準(すべての頂角は天頂に変換される)
- FACE 1: 頂角 = 測定頂角 + 垂直視準エラー
- FACE 2: 頂角 = 測定頂角 + 垂直視準エラー