Információk a khi-négyzet érték és az illeszkedéspróba megfelelőségéről

A khi-négyzet eloszlás egy valószínűségi eszköz, amely hipotézisek vizsgálatához használható. A legkisebb négyzetek módszerével történő kiegyenlítés a mérések eredeti és kiegyenlített értékeit hasonlítja össze, és azt adja meg, hogy ezek a mérések mennyiben térnek el egymástól.

Az X2, azaz a khi-négyzet érték az alábbi képlettel számítható:

ahol:

Az X2 érték kicsi, ha a mérések kiegyenlített értékei közel vannak a hozzájuk tartozó eredeti mért értékekhez. Ezt nevezik „jó illeszkedésnek”. Ezután a program egy illeszkedésvizsgálatot végez, melyben összehasonlítja az X2 értéket azokkal az értékekkel, amelyek az 5% szintű khi-négyzet eloszlás kritikus értékeit tartalmazó táblázatban szerepelnek. A táblázatban szereplő értéknél kisebb X2 értékek megfelelnek, míg a táblázatban felsoroltnál nagyobb X2 értékek nem felelnek meg, jelezve a lehetséges hibákat a kezdeti földmérési mérésekben.