L'algorithme utilisé par le programme des moindres carrés de la topographie d'AutoCAD Civil 3D recourt à une série de matrices et de formules.
Cet algorithme permet de déterminer la position probable des points grâce à la méthode des moindres carrés.
L'équation matricielle suivante basée sur un système d'observations rectifiées se résout de manière itérative :
où :
- X est une matrice qui représente la différence entre les coordonnées actuelles et les nouvelles coordonnées de chaque abscisse curviligne inconnue et met à jour les coordonnées actuelles avec chaque itération (jusqu'à X @ 0.0).
- A est une matrice créée à partir des observations et des coordonnées des points et basée sur une linéarisation par développement en série de Taylor d'un type d'observation spécifique.
- P est une matrice diagonale se rapportant aux écarts type (poids) des observations.
- L est une matrice qui représente la différence entre les observations mesurées et les observations calculées.