Der Algorithmus, der vom AutoCAD Civil 3D-Programm Vermessung-Berechnung der kleinsten Quadrate verwendet wird, nutzt eine Reihe von Matrizen und Formeln.
Anhand dieses Algorithmus wird die wahrscheinliche Position der Punkte basierend auf der Methode der kleinsten Quadrate bestimmt.
Die folgende Matrixgleichung, die auf einem System gewichteter Beobachtungen basiert, wird iterativ gelöst:
Dabei gilt:
- X ist eine Matrix, die die Differenz zwischen den aktuellen Koordinaten und den neuen Koordinaten jeder unbekannten Station enthält und die aktuellen Koordinaten mit jeder Iteration (bis X bei 0,0) aktualisiert.
- A ist eine Matrix, die aus den Beobachtungen und Koordinaten der Punkte basierend auf einer Linearisierung durch eine Taylor-Entwicklung des spezifischen Beobachtungstyps erstellt wird.
- P ist eine diagonale Matrix mit den Standardabweichungen oder -gewichtungen der Beobachtungen.
- L ist eine Matrix, die die Differenz zwischen gemessenen Beobachtungen und berechneten Beobachtungen enthält.