¿Qué es el ajuste lineal por mínimos cuadrados?
Sean \( (x_1, y_1), (x_2, y_2), \dots, (x_N, y_N) \) puntos de datos experimentales como se muestra en el diagrama de dispersión a continuación y supongamos que queremos predecir la variable dependiente \( y \) para diferentes valores de la variable independiente \( x \) utilizando un modelo lineal de la forma:
\[ y = ax + b \]
Un procedimiento muy utilizado en matemáticas es minimizar la suma \( D \) de los cuadrados de las distancias verticales \( d_1, d_2, \dots \) entre el modelo matemático \( y = f(x) \) y los puntos experimentales, como se muestra en la gráfica a continuación.
Derivación matemática
Sea \( f(x) = ax + b \) el modelo lineal a utilizar. Por lo tanto, las distancias verticales \( d_1, d_2, \dots \) están dadas por:
\[ d_1 = |y_1 - (ax_1 + b)|, \quad d_2 = |y_2 - (ax_2 + b)|, \quad \dots \]La suma \( D \) de los cuadrados de las distancias verticales se puede escribir como:
\[ D = \sum_{i=1}^{N} (y_i - (ax_i + b))^2 \]Los valores de \( a \) y \( b \) que minimizan \( D \) son los valores que hacen que las derivadas parciales de \( D \) con respecto a \( a \) y \( b \) sean simultáneamente iguales a 0. Por lo tanto, calculamos las derivadas parciales:
\[ \dfrac{\partial D}{\partial a} = \sum_{i=1}^{N} -2x_i(y_i - ax_i - b) \] \[ \dfrac{\partial D}{\partial b} = \sum_{i=1}^{N} -2(y_i - ax_i - b) \]Igualar ambas derivadas a cero y dividir por \( -2 \) da como resultado el sistema de ecuaciones normales:
\[ \begin{cases} \sum_{i=1}^{N} x_i(y_i - ax_i - b) = 0 \\ \sum_{i=1}^{N} (y_i - ax_i - b) = 0 \end{cases} \]Desarrollando las sumas:
\[ \begin{cases} \sum_{i=1}^{N} x_iy_i - a \sum_{i=1}^{N} x_i^2 - b \sum_{i=1}^{N} x_i = 0 \\ \sum_{i=1}^{N} y_i - a \sum_{i=1}^{N} x_i - Nb = 0 \end{cases} \]Reordenando los términos con \( a \) y \( b \) a la izquierda:
\[ \begin{cases} a \sum_{i=1}^{N} x_i^2 + b \sum_{i=1}^{N} x_i = \sum_{i=1}^{N} x_iy_i \\ a \sum_{i=1}^{N} x_i + Nb = \sum_{i=1}^{N} y_i \end{cases} \]En forma matricial:
\[ \begin{bmatrix} \sum_{i=1}^{N} x_i^2 & \sum_{i=1}^{N} x_i \\ \sum_{i=1}^{N} x_i & N \end{bmatrix} \begin{bmatrix} a \\ b \end{bmatrix} = \begin{bmatrix} \sum_{i=1}^{N} x_iy_i \\ \sum_{i=1}^{N} y_i \end{bmatrix} \]Utilizando la fórmula de la matriz inversa para una matriz de \( 2 \times 2 \), despejamos \( a \) y \( b \):
\[ a = \dfrac{N \sum_{i=1}^{N} x_iy_i - (\sum_{i=1}^{N} x_i)(\sum_{i=1}^{N} y_i)}{N \sum_{i=1}^{N} x_i^2 - (\sum_{i=1}^{N} x_i)^2} \] \[ b = \dfrac{-(\sum_{i=1}^{N} x_i)(\sum_{i=1}^{N} x_iy_i) + (\sum_{i=1}^{N} x_i^2)(\sum_{i=1}^{N} y_i)}{N \sum_{i=1}^{N} x_i^2 - (\sum_{i=1}^{N} x_i)^2} \]Ejemplo de aplicación del ajuste lineal por mínimos cuadrados
Halla el ajuste lineal por mínimos cuadrados \( y = ax + b \) para los puntos de datos experimentales dados por:
\[ \{(1, 2), (3, 4), (2, 6), (4, 8), (5, 12), (6, 13), (7, 15)\} \]Mostrar solución al ejemplo
Establece una tabla con las cantidades necesarias:
| \( x_i \) | \( y_i \) | \( x_i y_i \) | \( x_i^2 \) |
|---|---|---|---|
| 1 | 2 | 2 | 1 |
| 3 | 4 | 12 | 9 |
| 2 | 6 | 12 | 4 |
| 4 | 8 | 32 | 16 |
| 5 | 12 | 60 | 25 |
| 6 | 13 | 78 | 36 |
| 7 | 15 | 105 | 49 |
El número total de puntos es \( N = 7 \).
\( \sum_{i=1}^{7} x_i = 1 + 3 + 2 + 4 + 5 + 6 + 7 = 28 \)
\( \sum_{i=1}^{7} y_i = 2 + 4 + 6 + 8 + 12 + 13 + 15 = 60 \)
\( \sum_{i=1}^{7} x_iy_i = 2 + 12 + 12 + 32 + 60 + 78 + 105 = 301 \)
\( \sum_{i=1}^{7} x_i^2 = 1 + 9 + 4 + 16 + 25 + 36 + 49 = 140 \)
Sustituyendo en las fórmulas:
\[ a = \dfrac{7 \times 301 - 28 \times 60}{7 \times 140 - 28^2} = \dfrac{2107 - 1680}{980 - 784} = \dfrac{427}{196} \approx 2.1786 \] \[ b = \dfrac{-28 \times 301 + 140 \times 60}{7 \times 140 - 28^2} = \dfrac{-8428 + 8400}{196} = \dfrac{-28}{196} \approx -0.1429 \]Calculadora de ajuste lineal por mínimos cuadrados
Dados los puntos experimentales, esta calculadora calcula los coeficientes \( a \) y \( b \), la ecuación de la recta \( y = ax + b \) y el coeficiente de correlación. También grafica los puntos experimentales junto con la línea de mejor ajuste.
Ingresa los puntos como \((x_1, y_1), (x_2, y_2), \dots\) separados por comas, o utiliza el conjunto de datos predeterminado.
Pasa el cursor sobre la esquina superior derecha de la gráfica para descargarla en formato PNG.
Más referencias y enlaces
- Edwards, A. L. An Introduction to Linear Regression and Correlation. San Francisco, CA: W. H. Freeman.
- Derivadas parciales en cálculo
- Preguntas sobre matrices inversas con soluciones
- Tutoriales y problemas de funciones multivariables
- Problemas de regresión lineal con soluciones
- Linear Least Squares on Wikipedia