3. 4. 4 Die Methode der kleinsten Quadrate (least squares)
Die sogenannte ``Methode der kleinsten Quadrate''
(Least Squares) ist eine Methode, um überbestimmte lineare
Gleichungssysteme
( 3. 4)
zu lösen. Die -Matrix hat mehr Zeilen als
Spalten (). Wir haben also mehr Gleichungen als Unbekannte. Deshalb gibt es im allgemeinen kein, das die
Gleichung ( 3. 4) erfüllt. Die Methode der kleinsten
Quadrate bestimmt nun ein
so, dass die Gleichungen
``möglicht gut'' erfüllt werden. Dabei wird
so
berechnet, dass der Residuenvektor
minimale Länge hat. Dieser Vektor
ist Lösung der Gauss'schen Normalgleichungen
(Die Lösung ist eindeutig, wenn linear unabhängige Spalten hat. ) Die Gaussschen Normalgleichungen haben unter Numerikern einen
schlechten Ruf, da für die Konditionszahl
cond cond gilt und somit die Lösung
durch die
verwendete Methode ungenauer berechnet wird, als dies durch die
Konditionszahl der Matrix zu erwarten wäre. Deshalb wird statt der Normalgleichungen die QR-Zerlegung für
die Lösung der Gleichung ( 3.
- Methode der kleinsten quadrate beispiel und
- Methode der kleinsten quadrate beispiel 10
- Methode der kleinsten quadrate beispiel 3
- Methode der kleinsten quadrate beispiel der
- Methode der kleinsten quadrate beispiel 1
Methode Der Kleinsten Quadrate Beispiel Und
Die Methode der kleinsten Quadrate wurde von Carl Friedrich Gauß entwickelt und bildet die Basis für die lineare Regression. In dieser Methode werden die Abstandsquadrate, welche sich zwischen den Datenpunkten, bzw. den Messpunkten befinden, und die Abstandsquadrate der Regressionsgeraden minimiert, um die Ausgleichs- bzw. Regressionsgerade zu finden, welche am besten zu den Datenpunkten passt. Grund für die Verwendung des Quadrates der Abstände ist, dass positive und negative Abweichungen so gleich behandelt werden können. Sonst könnte es passieren, dass sich diese gegenseitig aufheben. Gleichzeitig werden große Fehler so stärker gewichtet. Andere mögliche Bezeichnungen Die Methode der kleinsten Quadrate ist auch unter den Begriffen Kleinste-Quadrate-Methode, KQ-Methode oder auch die Methode der kleinsten Fehlerquadrate bekannt. Ein Beispiel Um die Methode der kleinsten Quadrate anwenden und berechnen zu können und die Abstände zu zeigen, müssen die Beispieldaten der linearen Regression der Schuhgröße abgeändert werden, um einige Differenzen verzeichnen zu können, was nicht der Fall ist, wenn die Daten, wie bei der Schuhgröße, perfekt auf einer Linie liegen und die Methode der kleinsten Quadrate somit nicht greift und nicht anwendbar ist.
Methode Der Kleinsten Quadrate Beispiel 10
Die folgenden Beispiele verwenden die von Gauß und Legendre unabhängig entdeckte
Methode der kleinsten Quadrate, um eine Linearkombination (eine Summe von Vielfachen) gegebener Funktionen zu bestimmen, die sich einer Zielfunktion möglichst gut annähert. Das Problem
Angenommen, wir beobachten ein Objekt, das sich auf einer Geraden durch die Ebene bewegt. Drei aufeinanderfolgende Messungen liefern die Bahnpunkte (3, 3), (6, 3) und (9, 6). Wie die Abbildung zeigt, gibt es keine Gerade durch diese drei Messpunkte. Man könnte nun einfach einen Messwert ignorieren und bekäme je nach Wahl eine der drei roten Geraden. Bei einem fehlerbehafteten Messgerät werden aber alle Messungen ähnliche Abweichungen haben, so dass eine vermittelnde Gerade in der Regel zu einem besseren Ergebnis führt. In der Abbildung ist die maximale Abweichung der blauen Geraden von den Messpunkten kleiner als bei jeder der drei roten Geraden. Konkret suchen wir eine Gerade
\green{f(x)} = a\yellow x + b
mit den unbekannten Koeffizienten a und b.
Methode Der Kleinsten Quadrate Beispiel 3
Für die Anwendung der Methode der kleinsten Quadrate musste jedoch keine Annahme über die Verteilung der Zufallsvariablen
in der Grundgesamtheit getroffen werden.
Methode Der Kleinsten Quadrate Beispiel Der
Die Regressionsgerade zeigt nur, dass die beiden Variablen zusammenhängen. Das "Warum" ist unklar. Regressionen sind lediglich Schätzungen. Sie versuchen anhand gegebener Daten eine möglichst gute Vorhersage zu berechnen. Regressionsberechnungen unterliegen immer Messfehlern. Definition Regression Statistik
Die Regression ist eine Methode der Statistik. Sie beschreibt den Zusammenhang zwischen mindestens zwei Variablen. Die Regression versucht anhand unabhängiger Variablen (Prädiktoren) die abhängigen Variablen (Kriterien) vorherzusagen. Der Zusammenhang zwischen diesen Variablen ist linear. Es gibt drei Regressionsmodelle:
lineare Regression
logistische Regression
multiple Regression
Regressionsgleichung aufstellen
Super! Jetzt kennst du die Bedeutung einer Regression in Mathe. Für eine Regression benötigst du immer auch eine Regressionsgleichung. Wie du sie aufstellst, erfährst du jetzt am Beispiel der bivariaten (linearen) Regression. Bivariat bedeutet, dass es eine unabhängige und eine abhängige Variable gibt.
Methode Der Kleinsten Quadrate Beispiel 1
Im Falle der linearen Regression entspricht das Bestimmtheitsmaß dem quadrierten Korrelationskoeffizienten (nach Pearson). Dieser wäre 0, 5 und quadriert ergibt sich auch daraus das Bestimmtheitsmaß R 2 = 0, 5 2 = 0, 25.
15 + 8. 88 = 19. 64$
Diese Zahlenwerte knnen jezt in $m_{min}$ eingesetzt werden:
$m_{min} = \frac{ \frac{-4\left(10\right)\left(7. 28\right)}{8} + \left(2\cdot19. 64\right)}{\left(2\cdot30 - \frac{\left(2\cdot10\right)^2}{8} \right)} = \frac{-5\cdot7. 28 + 39. 28}{60-50} = \frac{2. 88}{10} = 0. 288$
(5. 12 m)
Dieser Wert wird in b eingesetzt:
$b_{min} = \frac{-\left(2\cdot10\right)\cdot0. 288 - \left(-2\cdot7, 28\right)}{ \left(4\cdot2\right)} = \frac{8. 8}{8} = 1. 1$
(5. 6 b)
Wir haben somit die Gerade mit den minimalen Fehlerquadraten berechnet:
$f(x) = mx+b = 0. 288\cdot x + 1. 1$
(6)
Abbildung 3: Die ideal angenherte Gerade und die Messpunkte
home Impressum