水平測量の調整では、最初の手順として、すべての測点の近似座標で座標マトリックス C を計算します。
次に、座標マトリックス C から得られた計算済み観測と測定済み観測に基づいて L マトリックスが計算されます。次の公式を使用して、各 Li 観測地を求めます。
各変数は、次のとおりです。
L マトリックスは次のようになります。
次に、対角加重マトリックス P が、距離と角度の標準偏差に基づいて計算されます。次の公式を使用して、加重距離値 と加重角度値 を求めます。
各変数は、次のとおりです。
は長さ ij の標準偏差です。
各変数は、次のとおりです。
は角度 jik の標準偏差です。
最後の手順として、A マトリックスを計算します。これは、座標の変更を、距離観測式と角度または方位角/方位観測式によって求めた各観測に関連付けます。これらの計算式は、最初は非線形です。このため、テーラー級数近似を使用してこれらを 1 次計算式にします。