Inhalt

Grundlagen der Mathematik

Diskrete Mathematik

Differentialgleichungen

Funktionalanalysis

Differentialgeometrie

Topologie

Numerik

Numerische Verfahren

Optimierung

Lineare Optimierung

Konvexe Optimierung

Ausgleichungsrechnung

Methode der kleinsten

Quadrate

Gauß-Newton-Verfahren

Optimale Steuerung

Stochastik

Unsortiertes

Anbieterkennzeichnung

Weiterbildung für alle! Über 200 Fernlehrgänge an Deutschlands größter Fernschule!

Gauß-Newton-Verfahren

Das Gauß-Newton-Verfahren (nach Carl Friedrich Gauß und Isaac Newton) ist ein numerisches Verfahren zur Lösung nichtlinearer Minimierungsprobleme, die durch Anwendung der Methode der kleinsten Quadrate auf nichtlineare Ausgleichsprobleme entstehen. Wie beim Newton-Verfahren wird die Funktion in jedem Schritt durch eine lineare Näherung ersetzt. Das dabei entstehende lineare Ausgleichsproblem kann mit Standardverfahren gelöst werden.

Grundzüge des Verfahrens

Im folgenden wird angenommen, dass Daten mit folgenden Merkmalen vorliegen:

Die Tabelle der Messwerte hat k Zeilen, es wurden also k Messungen durchgeführt
Bei jeder Messung wurden n Stellgrößen x₁ , ..., x_n vorgegeben und das Ergebnis y gemessen
Es gibt eine Modellfunktion f(x₁ , ..., x_n ) = y , welche den Zusammenhang zwischen x₁ , ..., x_n und y beschreibt. Diese Funktion hat p verschiedene Parameter a₁ , ..., a_p , die nun so berechnet werden sollen, dass mit der Funktion y möglichst genau aus den x₁ , ..., x_n berechnet werden kann. Das besondere an der Funktion ist, dass sie nichtlinear in den Parametern ist.

Es ist dabei nicht notwendig, dass die Anzahl p der Parameter a gleich der Anzahl der Variablen x ist. Sucht man z.B. die Koeffizienten eines kubischen Polynoms, so liegt nur ein x je Datensatz vor, aber beim kubischen Polynom hat jede Potenz einen eigenen Koeffizienten a, so dass (einschließlich des absoluten Gliedes) vier Koeffizienten zu bestimmen wären.

Wenn die Messungen als Tabelle vorliegen, können sie so dargestellt werden:

x₁	x₂	x_n	y
x_{1, 1}	x_{1, 2}	x_{1, n}	y₁
x_{2, 1}	x_{2, 2}	x_{2, n}	y₂

x_{k, 1}	x_{k, 2}	x_{k, n}	y_k

Der Ansatz, die Summe der Fehlerquadrate zu minimieren, liefert:

Algorithmus

Zur Bestimmung der Parameter a₁ , a₂ , ..., a_p geht man nach diesem Schema vor:

Vorbereitung

Gegeben ist die Funktion f(x₁ , ..., x_n ) = y mit n Variablen x₁ , ..., x_n und p gesuchten Parametern a₁ , ..., a_p

Aufstellen der Residuumsfunktion r und des Residuenvektors r

r = f(x₁ , ..., x_n ) - y

r_i = f(x_{i, 1} , ..., x_{i, n} ) - y_i , i = 1 k

Berechnung der partiellen Ableitungen der Residuumsfunktion r nach jedem Parameter (a₁ , ..., a_p ):

r'_{i, j} = r'_j (x_{i, 1} , ..., x_{i, n} )

Aufbau der Matrizen für die Iteration:

;

Für den Aufbau der Matrizen ist folgendes zu beachten:

Die Matrix D und der Spaltenvektor r haben k Zeilen, also für jede Zeile der oben angegebenen Tabelle eine.
Der Spaltenvektor a hat p Zeilen, also für jeden Parameter a₁ , ..., a_p eine
Die Spalten in der Matrix D sind die partiellen Ableitungen nach den Parametern a₁ , ..., a_p . Die Reihenfolge der Spalten in D hängt mit der Reihenfolge der Parameter in a zusammen. Steht in Zeile 1 von a der Parameter a₁ , so muss in D die erste Spalte die Ableitungen nach a₁ enthalten. Dementsprechend hat D p Spalten, also für jeden Parameter a₁ , ..., a_p eine.

Die Anzahl der Variablen n hat keinen Einfluss auf den Aufbau der Matrix D und der beiden Vektoren r, a.
Zu Beginn der Iteration müssen Startwerte für die Parameter a₁ , a₂ , ..., a_p festgelegt werden

Iteration

Die Iteration wird mit folgender Matrixgleichung durchgeführt:

Dabei wird in jedem Schritt der Vektor a_i , der die Parameter a₁ , a₂ , ..., a_p enthält, verbessert.

Die Matrix D wird berechnet, indem man zunächst alle Werte in den k Zeilen der Tabelle in die Funktion r'₁ einsetzt. Das Ergebnis schreibt man untereinander in die Spalte 1 von D. Danach setzt man alle Werte in den k Zeilen der Tabelle in die Funktion r'₂ ein und schreibt sie in Spalte 2 der Matrix D usw.

Um den Vektor r zu berechnen, setzt man alle Werte in den k Zeilen der Tabelle in die Funktion r_i und schreibt die Ergebnisse jeweils untereinander als Vektor r auf.

Für die numerische Berechnung empfiehlt sich eine Aufspaltung der Berechnung, damit die Matrixinversion durch die Lösung eines linearen Gleichungssystems für den unbekannten Lösungsvektor s ersetzt werden kann:

Die Vorteile liegen in einer schnelleren Berechnung bei höherer Genauigkeit.

Sobald a_{i + 1} berechnet wurde, müssen auch Matrizen neu berechnet werden, um den nächsten Iterationsschritt vorzubereiten. Um den Rechenaufwand zu verringern, kann auch mehrfach ohne Neuberechnung von s iteriert werden. Dieses Vorgehen wird beim Newtonschen Verfahren häufig empfohlen, reduziert aber die Konvergenzgeschwindigkeit und sollte erst angewendet werden, wenn sich a nur noch wenig ändert.

Die Iteration wird abgebrochen, falls a_{i + 1} = a_i , also bei den a₁ , a₂ , ..., a_p keine Änderung mehr eintritt.

Anmerkungen

Da symmetrisch und positiv definit ist, eignet sich die Cholesky-Zerlegung besonders gut für die Auflösung des Gleichungssystems.

Die Anzahl der Zeilen in der Tabelle (k) muss stets größer, als die Anzahl der Parameter a₁ , a₂ , ..., a_p sein. Falls die Anzahl der Paramater gleich k ist, bestimmt das Verfahren die Parameter exakt (im Rahmen der Genauigkeit der Iteration), es ist also nicht nur die optimale Lösung im Sinne der Fehlerquadrate. Das System ist unterbestimmt, wenn die Anzahl der Parameter größer als k ist.

Durch Einführung eines Schrittweiteparameters lässt sich ein Abstieg, d.h. die Verringerung der Fehlerquadratsumme erreichen.

Literatur

Ralf Pfeifer: Effektive Messauswertung mit der Gauß'schen Fehlerquadratmethode, ISBN 3-89001-251-5

Strukturen sind die Waffen der Mathematiker.

N. Bourbaki

Druckansicht

Impressum: Wurzelzieher Mathepedia • Thomas Steinfeld • Dorfplatz 25 • 17237 Blankensee • Tel.: 01734332309 (Vodafone/D2) • Email: matһе@wυrzеlzιeher.de

Amazon.de empfiehlt: