Qué relaciones podrían existir entre las siguientes variables:
El salario de un trabajador y su escolaridad formal, años de experiencia laboral, semanas de capacitación y el género.
El rendimiento de un cultivo y la cantidad de fertilizante utilizado.
La calidad del vino y su acidez volátil, el contenido de alcohol, su pH, nivel de sulfatos y su tipo (tinto/blanco).
La altura de un hijo y la altura de sus padres.
El puntaje del examen de lectura y el puntaje del examen de matemáticas en la prueba PISA 2018.
Relación entre variables
Un diagrama de dispersión permite visualizar el tipo de relación que existe entre dos variables.
Relación entre variables: PISA 2018
El diagrama de dispersión entre los puntajes de los exámenes de matemáticas y lectura de la prueba PISA 2018 para México, muestra una relación estrecha y positiva.
¿Cómo podríamos resumir esta relación?
La línea de regresión
Una línea puede resumir la relación, pero…
¿Qué características debe tener esta línea?
La línea de regresión
Modelo determinista:
\[Y = \alpha + \beta x\]
Es la recta que pasa más cerca de todos los puntos, la recta de mejor ajuste: minimiza la suma de las desviaciones cuadráticas de los valores observados respecto de la recta.
La línea de regresión
Modelo probabilístico simple:
\[Y_i = \alpha + \beta_1x_i + u\] Donde: \(Y_i = \alpha + \beta_1x_i\) es la recta de medias y \(u\) es el error (la distancia entre cada punto y la recta de medias)
Supuestos sobre el error aleatorio \(u\)
Son independientes uno de otro.
Supuestos sobre el error aleatorio \(u\)
\(\bar{u} = 0\)
Se distribuye de manera normal.
Supuestos sobre el error aleatorio \(u\)
Tienen una varianza común = \(\sigma^2\) (homocedasticidad).
Estimación de la recta
Estimación de la recta
Mínimos cuadrados
Objetivo: disminuir la suma de las desviaciones al cuadrado de los valores observados (\(y_i\)) y los valores pronosticados (\(\hat{y}_i\)).
\[SSE = \sum(y_i-\hat{y}_i)^2 = \sum(y_i - a - bx_i)^2\]
Donde SSE: suma de cuadrados del error
Estimación de la recta
Para estimar la ecuación de la recta de mejor ajuste, utilizamos las siguientes fórmulas:
\[SSE = SS_{total}-SSR\] Y el error medio cuadrático esta definido como:
\[MSE = s^2 = \frac{SSE}{n-2}\]
Estimación
R: función lm
Para estimar la regresión lineal en R utilizamos la función:
lm(formula, data, subset, weights, na.action,
method = "qr", model = TRUE, x = FALSE, y = FALSE, qr = TRUE,
singular.ok = TRUE, contrasts = NULL, offset, ...)
Los párametros mínimos que utilizaremos son:
formula: es la descripción del modelo que será ajustado, por ejemplo, y ~ x1 + x2.
data: es el dataframe donde se encuentran las variables.
Ejemplo: estimación
Ajustar el modelo \[y = a + b x\]
Donde:
y : puntaje en el examen de lectura
x : puntaje en el examen de matemáticas
y <- pisa18$PVREADx <- pisa18$PVMATHmodelo1 <-lm(y ~ x)modelo1
Call:
lm(formula = y ~ x)
Coefficients:
(Intercept) x
12.9487 0.9979
Ejemplo: validación
Para poder validar el modelo, debemos recuperar todos los resultados:
summary(modelo1)
Call:
lm(formula = y ~ x)
Residuals:
Min 1Q Median 3Q Max
-165.57 -25.32 0.26 25.68 140.69
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 12.948698 2.742824 4.721 2.39e-06 ***
x 0.997854 0.006511 153.253 < 2e-16 ***
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 38.31 on 7297 degrees of freedom
Multiple R-squared: 0.763, Adjusted R-squared: 0.7629
F-statistic: 2.349e+04 on 1 and 7297 DF, p-value: < 2.2e-16
\(\hat{READ} = 12.948698 + 0.997854 MAT\)
Por cada punto que se incremente el resultado de matemáticas, se espera que el resultado de lectura se incremente 0.9979 puntos.
Si el resultado de matemáticas = 0, se espera que lectura = 12.9487.
Para rechazar \(H_0: a = 0\), pvalue < al nivel de significancia seleccionado.
Para rechazar \(H_0: b = 0\), pvalue < al nivel de significancia seleccionado.
Ejemplo: visualización
Para visualizar el modelos, podemos generar una gráfica con la librería ggplot2:
y <- pisa18$PVREADx <- pisa18$PVMATHggplot(pisa18, aes(x = x, y = y)) +geom_point(color ="#4ABF9C") +geom_smooth(method ='lm', color ="#316BAC")
Ejemplo: valoración del ajuste
¿Qué tan bien se ajusta la línea de regresión a los datos?
¿Cómo medir la intensidad de la relación entre la variable de respuesta (\(y\)) y la variable explicativa (\(x\))?…
\(y\) es la variable de respuesta que se desea predecir.
\(\beta_0, \beta_1, \beta_2,...,\beta_k\) son constantes desconocidas.
\(x_1, x_2, …, x_k\) son variables predictoras independientes que se miden sin error.
u es el error de variable, que permite que cada respuesta se desvíe del valor promedio de \(y\) en una cantidad \(u\). Se debe suponer que los valores de u:
son independientes;
tienen una media de 0 y una varianza común \(s^2\) para cualquier conjunto \(x_1, x_2, …, x_k\), y
