Geodézia és kartográfia 1986 (38. évfolyam, 1-6. szám)
1986 / 4. szám - Soha Gábor: Robusztus kiegyenlítés mérési javítástól függő súlyozással
Robusztus kiegyenlítés mérési javítástól függő súlyozással Dr. Soha Gábor mérnök alezredes DK 528.16 A legkisebb négyzetek módszere a matematikai statisztikában és a geodéziai kiegyenlítő számításokban hasznos eszköznek bizonyul. Széles körű alkalmazását elsősorban az magyarázza, hogy a módszer egyszerű, könnyen elsajátítható és számítástechnikailag könnyen kezelhető. A módszernek nem előfeltétele a mérési ellentmondások normális eloszlása [3, 13], torzítatlan és egyben legjobb becslést azonban csak normális eloszlás esetén nyújt. Tehát akkor is alkalmazható approximációs módszerként, ha a méréseket még nem túlságosan nagy szabályos hibák (modellhibák, elmozdulások, deformációk) terhelik. „Szükséges azonban a normális eloszlás, ha a mérési és számítási eredményeket további statisztikai analízisnek vetjük alá” [3]. A legkisebb négyzetek módszerének egyik tulajdonsága, hogy a nagyobb hibákat szétosztja a kisebb hibákra, különösen a geometriailag gyenge meghatározottságú helyekre (foghíjakra, peremekre). A hibáknak ez a szétosztása akkor hasznos, ha a kiegyenlítés célja a számítások optimális ellentmondásmentességének biztosítása, vagy a hibák tovaterjedésének csökkentése (v.ö. kerethibák elosztása). Káros a módszernek ez a tulajdonsága, ha méréseink egy részét durva hiba terheli, illetve, ha valamilyen célból lokalizálni, izolálni akarjuk a mérési ellentmondásokat. Ilyen célok lehetnek : a kiugró hibák meghatározása a kiszűrésük érdekében, vagy a szabályos hibák elkülönítése a még mérési hibának tartható véletlen hibáktól. Ez utóbbi aktuális feladatként fordul elő például a mérnökgeodéziai mozgásvizsgálatokban. A továbbiakban azt vizsgáljuk, hogy milyen új módszerekkel, vagy újszerű alkalmazásmódokkal lehet segíteni a legkisebb négyzetek módszerének említett kedvezőtlen tulajdonságán. 1. Megoldási irányok A jelzett probléma megoldására a szakirodalomban különböző irányzatokkal találkozhatunk. Az úgynevezett robusztus becslések, illetve kiegyenlítések a legkisebb négyzetek elvének módosításával olyan modelleket dolgoznak ki, amelyeknek a nagyobb hibákkal szembeni ellenállóképessége robusztusabb, vagyis erősebb. Huber [5] a legkisebb négyzetes becslést úgy módosította, hogy csak egy hibahatárig (a kis hibáknál) számol a hibák négyzetével, utána a négyzetfüggvény (másodfokú parabola) határponthoz tartozó érintőjét használva lineáris hibákkal számol, így egy vegyes módszert hoz létre, amelyben a becslőfüggvény megfelelő szakaszának kiválasztása a hibák iteratív meghatározásával realizálható. Bonyolítja a megoldást, hogy a négyzetes szakasz hibáihoz, valamint a lineáris szakasz pozitív és negatív hibáihoz más-más normál egyenlettagok tartoznak. Újszerűen oldja meg a problémát a legjobb alternatíva nevű kiegyenlítési módszer [6]. Ellentétben a legkisebb négyzetek módszerével a kiegyenlítés itt a következő alapelv szerint történik: A vele kapott eredmények az idézett műben bemutatott példa tanúsága szerint lényegesen kevésbé érzékenyek az erősen eltérő mérési eredményekre. A számítási folyamat iteratív. Úgy tűnik, hogy az egyes kiegyenlítési csoportokhoz e módszernél is új munkaképletek levezetésére van szükség. A mérési eredmények egyenkénti hatásának vizsgálatát teszi lehetővé a fokozatos, vagy szekvenciális kiegyenlítési módszer [8], amely csak a legkisebb négyzetek módszere alkalmazásmódján hajt végre célszerű változtatásokat. Bár más irányból közelítik meg a kérdést, az extrém mérési és számítási eredmények kimutatási módszerei között jelentős fejlődést mutatnak a különböző statisztikai tesztek is [10, 14, 15]. A következőkben a robusztus kiegyenlítés célkitűzése, megoldási lehetőségei és az alkalmazásával szerzett tapasztalatok alapján rámutatunk arra, hogy egy megfelelő visszacsatoló súlyozással a legkisebb négyzetek módszere és a kiegyenlítő számításunk meglévő képletrendszere minden változtatás nélkül alkalmassá tehető robusztus kiegyenlítések elvégzésére. A megoldás elve azonos a szakirodalomban „dán módszer”-nek ismertetett eljáráséval [9]. A visszacsatoló súlyozás miatt ez a módszer szintén iterációs. 2. A hibafüggő súlyozás szerepe A nagy hibák nemkívánatos torzító hatását úgy is csökkenthetjük, hogy a nagyobb hibákhoz kisebb súlyt rendelünk. Az alábbi súlyképletek jöhetnek szóba: A reciprok súlyfüggvény alakja hiperbolaszerű, a racionális törtfüggvényé és az exponenciális függvényeké a (2c) kivételével haranggörbe. A (2c) súlyfüggvény nem folytonos: a súlyozás tulajdon-(2b) 2 exp(-^2-)-~Max- w i P = P = ZT^2; P = exp(-^2); (2a) 1 -\-kvi ( I ^2\ p = exp ^ • ^-| J; p = 1, ha — 1 pl különben funk '1 pl (2c)