Lineare Ausgleichsrechnung

Optimierung, Normalengleichungen, Mathematische Herleitung und Interaktiver Rechner

Was ist die lineare Ausgleichsrechnung?

Seien \( (x_1, y_1), (x_2, y_2), \dots, (x_N, y_N) \) experimentelle Datenpunkte wie im Streudiagramm unten gezeigt, und angenommen, wir möchten die abhängige Variable \( y \) für verschiedene Werte der unabhängigen Variablen \( x \) mithilfe eines linearen Modells der Form vorhersagen:

\[ y = ax + b \]
Streudiagramm von Datenpunkten
Abbildung 1. Streudiagramm experimenteller Daten

Ein in der Mathematik weit verbreitetes Verfahren besteht darin, die Summe \( D \) der Quadrate der vertikalen Abstände \( d_1, d_2, \dots \) zwischen dem mathematischen Modell \( y = f(x) \) und den experimentellen Punkten zu minimieren, wie in der Abbildung unten gezeigt.

Anpassung eines Modells an Daten nach der Methode der kleinsten Quadrate
Abbildung 2. Anpassung des Modells der kleinsten Quadrate an Daten

Mathematische Herleitung

Sei \( f(x) = ax + b \) das zu verwendende lineare Modell. Daher sind die vertikalen Abstände \( d_1, d_2, \dots \) gegeben durch:

\[ d_1 = |y_1 - (ax_1 + b)|, \quad d_2 = |y_2 - (ax_2 + b)|, \quad \dots \]

Die Summe \( D \) der Quadrate der vertikalen Abstände lässt sich schreiben als:

\[ D = \sum_{i=1}^{N} (y_i - (ax_i + b))^2 \]

Die Werte von \( a \) und \( b \), die \( D \) minimieren, sind diejenigen, bei denen die partiellen Ableitungen von \( D \) nach \( a \) und \( b \) simultan gleich 0 sind. Daher berechnen wir die partiellen Ableitungen:

\[ \dfrac{\partial D}{\partial a} = \sum_{i=1}^{N} -2x_i(y_i - ax_i - b) \] \[ \dfrac{\partial D}{\partial b} = \sum_{i=1}^{N} -2(y_i - ax_i - b) \]

Wenn man beide Ableitungen gleich null setzt und durch \( -2 \) teilt, erhält man das System der Normalengleichungen:

\[ \begin{cases} \sum_{i=1}^{N} x_i(y_i - ax_i - b) = 0 \\ \sum_{i=1}^{N} (y_i - ax_i - b) = 0 \end{cases} \]

Ausmultiplizieren der Summen:

\[ \begin{cases} \sum_{i=1}^{N} x_iy_i - a \sum_{i=1}^{N} x_i^2 - b \sum_{i=1}^{N} x_i = 0 \\ \sum_{i=1}^{N} y_i - a \sum_{i=1}^{N} x_i - Nb = 0 \end{cases} \]

Umordnen der Terme mit \( a \) und \( b \) auf der linken Seite:

\[ \begin{cases} a \sum_{i=1}^{N} x_i^2 + b \sum_{i=1}^{N} x_i = \sum_{i=1}^{N} x_iy_i \\ a \sum_{i=1}^{N} x_i + Nb = \sum_{i=1}^{N} y_i \end{cases} \]

In Matrixform:

\[ \begin{bmatrix} \sum_{i=1}^{N} x_i^2 & \sum_{i=1}^{N} x_i \\ \sum_{i=1}^{N} x_i & N \end{bmatrix} \begin{bmatrix} a \\ b \end{bmatrix} = \begin{bmatrix} \sum_{i=1}^{N} x_iy_i \\ \sum_{i=1}^{N} y_i \end{bmatrix} \]

Unter Verwendung der Formel für die inverse Matrix einer \( 2 \times 2 \)-Matrix lösen wir nach \( a \) und \( b \) auf:

\[ a = \dfrac{N \sum_{i=1}^{N} x_iy_i - (\sum_{i=1}^{N} x_i)(\sum_{i=1}^{N} y_i)}{N \sum_{i=1}^{N} x_i^2 - (\sum_{i=1}^{N} x_i)^2} \] \[ b = \dfrac{-(\sum_{i=1}^{N} x_i)(\sum_{i=1}^{N} x_iy_i) + (\sum_{i=1}^{N} x_i^2)(\sum_{i=1}^{N} y_i)}{N \sum_{i=1}^{N} x_i^2 - (\sum_{i=1}^{N} x_i)^2} \]

Beispiel für die Anwendung der linearen Ausgleichsrechnung

Finden Sie die lineare Ausgleichsgerade \( y = ax + b \) für die folgenden experimentellen Datenpunkte:

\[ \{(1, 2), (3, 4), (2, 6), (4, 8), (5, 12), (6, 13), (7, 15)\} \]
Lösung zum Beispiel anzeigen

Erstellen Sie eine Tabelle mit den erforderlichen Größen:

\( x_i \) \( y_i \) \( x_i y_i \) \( x_i^2 \)
1 2 2 1
3 4 12 9
2 6 12 4
4 8 32 16
5 12 60 25
6 13 78 36
7 15 105 49

Die Gesamtzahl der Punkte ist \( N = 7 \).

\( \sum_{i=1}^{7} x_i = 1 + 3 + 2 + 4 + 5 + 6 + 7 = 28 \)

\( \sum_{i=1}^{7} y_i = 2 + 4 + 6 + 8 + 12 + 13 + 15 = 60 \)

\( \sum_{i=1}^{7} x_iy_i = 2 + 12 + 12 + 32 + 60 + 78 + 105 = 301 \)

\( \sum_{i=1}^{7} x_i^2 = 1 + 9 + 4 + 16 + 25 + 36 + 49 = 140 \)

Einsetzen in die Formeln:

\[ a = \dfrac{7 \times 301 - 28 \times 60}{7 \times 140 - 28^2} = \dfrac{2107 - 1680}{980 - 784} = \dfrac{427}{196} \approx 2.1786 \] \[ b = \dfrac{-28 \times 301 + 140 \times 60}{7 \times 140 - 28^2} = \dfrac{-8428 + 8400}{196} = \dfrac{-28}{196} \approx -0.1429 \]

Rechner für die lineare Ausgleichsrechnung

Ausgehend von experimentellen Punkten berechnet dieser Rechner die Koeffizienten \( a \) und \( b \), die Geradengleichung \( y = ax + b \) und den Korrelationskoeffizienten. Er zeichnet auch die experimentellen Punkte zusammen mit der Ausgleichsgeraden auf.

Geben Sie Punkte im Format \((x_1, y_1), (x_2, y_2), \dots\) durch Kommas getrennt ein oder verwenden Sie den Standarddatensatz.

Bewegen Sie den Mauszeiger in die obere rechte Ecke des Diagramms, um das Diagramm im PNG-Format herunterzuladen.

Weitere Referenzen und Links