Modelo de Regresión Lineal Múltiple

MODELO DE REGRESIÓN LINEAL MÚLTIPLE

Autores: Renatas Kizys ([email protected]), Ángel A. Juan ([email protected]).

ESQUEMA DE CONTENIDOS ________________________

Hipótesis sobre el Hipótesis sobre variables Hipótesis sobre los

término de perturbación explicativas parámetros del modelo

Hipótesis del MRL

Medidas bondad del
Estimación MV ajuste

Modelo de Regresión
Lineal Múltiple (MRLM) Estimación MCO

Introducción a la Inferencia
en el modelo lineal

Caso práctico con Minitab

Contrastes de significación
Predicción

Caso práctico con Minitab

Caso práctico con Minitab

INTRODUCCIÓN ___________________

Todo estudio econométrico se centra en dos pilares básicos: la teoría y los hechos. La teoría
permite derivar un modelo (el modelo económico) que sintetiza la incógnita relevante sobre el
fenómeno (la variable endógena) objeto del análisis y del cual deriva el modelo econométrico
que permite medirlo y contrastarlo empíricamente. Los hechos se concretan en una serie de
datos que denominaremos información muestral. La muestra, a su vez, consiste en una lista
ordenada de valores numéricos de las variables objeto de estudio. En una muestra de corte
transversal, diversos agentes económicos de una naturaleza similar proporcionan información
solicitada en un mismo instante de tiempo. Alternativamente, el investigador económico trabaja
en ocasiones con datos de series temporales, en las que se dispone de información acerca de

Proyecto e-Math 1
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

unidad económica, como puede ser un país, una empresa, a lo largo de tiempo; estas muestras
pueden tener frecuencia diaria, mensual, anual, según frecuencia de observación de los datos.
Una vez que se especifica el modelo y se dispone de la información estadística
convenientemente tratada, se llega a la etapa siguiente del trabajo econométrico: la etapa de
estimación. Los resultados de esta etapa de estimación permiten medir y contrastar las
relaciones sugeridas por la teoría económica.

En este math-block postularemos una serie de hipótesis básicas de un modelo de regresión

múltiple (MRLM) y consideremos los principales métodos de estimación bajo dichas hipótesis.
Veremos que los estimadores obtenidos mediante el método de mínimos cuadrados ordinarios
(MCO) son insesgados, eficientes y consistentes. Además, utilizaremos la inferencia basada en
los contrastes de hipótesis para apreciar estadísticamente una cierta evidencia empírica.
Finalmente, conoceremos la importancia del MRLM en la predicción y pronóstico de un cierto
fenómeno comprendido por la variable endógena.

OBJETIVOS ________________________

• Conocer la estructura del MRLM.

• Familiarizarse con las hipótesis básicas del MRLM y entender su importancia.

• Conocer los métodos de estimación del MRLM, el método de mínimos cuadrados ordinarios
(MCO) y el de máxima verosimilitud (MV).

• Introducirse en el uso de Minitab para estimar el MRLM mediante el MCO.

• Saber cuantificar e interpretar bondad del ajuste del modelo.

• Evaluar la contribución de cada variable exógena en explicar el comportamiento de la

variable endógena; contrastar la significación individual de un parámetro y la global del
modelo.

• En base de la estimación de MRLM, realizar predicciones puntuales y por intervalo de la

variable endógena.

CONOCIMIENTOS PREVIOS ___________________________________

Aparte de estar iniciado en el uso del paquete estadístico Minitab, resulta muy conveniente haber
leído con profundidad los siguientes math-blocks relacionados con Estadística:

• Intervalos de confianza y contraste de hipótesis para 1 y 2 poblaciones

• Análisis de regresión y correlación lineal

• Correlación y regresión lineal múltiple

Proyecto e-Math 2
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

CONCEPTOS FUNDAMENTALES ______________________________

‰ Hipótesis del modelo de regresión lineal múltiple (MRLM)

Mediante un modelo de regresión lineal múltiple (MRLM) tratamos de explicar el

comportamiento de una determinada variable que denominaremos variable a explicar,
variable endógena o variable dependiente, (y representaremos con la letra Y) en función de
un conjunto de k variables explicativas X1, X2, ..., Xk mediante una relación de dependencia
lineal (suponiendo X1 = 1):

Y = β 1 + β 2 ⋅ X 2 + ... + β k ⋅ X k + U siendo U el término de perturbación o error

Para determinar el modelo anterior, es necesario hallar (estimar) el valor de los coeficientes
β1, β2, ..., βk. La linealidad en parámetros posibilita la interpretación correcta de los
parámetros del modelo. Los parámetros miden la intensidad media de los efectos de las
variables explicativas sobre la variable a explicar y se obtienen al tomar las derivadas
parciales de la variable a explicar respecto a cada una de as variables explicativas:

∂Y
βj = ; j = 1,..., k .
∂X j

Nuestro objetivo es asignar valores numéricos a los parámetros β1, β2, ..., βk. Es decir,
trataremos de estimar el modelo de manera que, los valores ajustados de la variable
endógena resulten tan próximos a los valores realmente observados como sea posible.

A fin de poder determinar las propiedades de los estimadores obtenidos al aplicar distintos
métodos de estimación y realizar diferentes contrastes, hemos de especificar un conjunto de
hipótesis sobre el MRLM que hemos formulado. Existen tres grupos de hipótesis siguientes:
las hipótesis sobre el término de perturbación, las hipótesis sobre las variables explicativas, y
las hipótesis sobre los parámetros del modelo.

Hipótesis sobre el término de perturbación:

Para una muestra de n observaciones (cada observación estará formada por una tupla con
los valores de X2, X3, ..., Xk y el valor de Y asociado), tendremos el siguiente sistema de n
ecuaciones lineales:

Y1 = β 1 + β 2 ⋅ X 21 + ... + β k ⋅ X k1 + u1
Y = β + β ⋅ X + ... + β ⋅ X + u
 2 1 2 22 k k2 2

 ...
Yn = β 1 + β 2 ⋅ X 2 n + ... + β k ⋅ X kn + u n

o, en forma matricial: Y = X⋅⋅B + U, donde:

Y1   1 X 21 ... X k 1   β1  u1 

Y  1 X 
... X k 2   
β2  u 
Y=  2
, X =
22
, B=  ,U = 
2

...  ... ... ... ...  ...  ... 

       
Yn   1 X 2n ... X kn  β k  u n 

Proyecto e-Math 3
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

En estas condiciones, las hipótesis del MRLM se resumen en la esfericidad del término de
perturbación, i.e.:

a) El valor esperado de la perturbación es cero: E [u i ] = 0 ∀i = 1,..., n

b) Homoscedasticidad: todos los términos de perturbación tienen la misma varianza

(varianza constante):

[ ]
Var [u i ] = Var u j = σ 2 ∀i ≠ j

Por tanto, todos los términos de la diagonal principal de la matriz de varianzas y

covarianzas serán iguales:

σ 2 ... 
 
σ 2
...
Var[U ] =  
 ... ... ... ... 
 
 ... σ 2 

c) No Autocorrelación: los errores son independientes unos de otros, i.e.: la matriz de

varianzas y covarianzas es una matriz diagonal (fuera de la diagonal principal todo son
ceros):

σ 1 2 0 ... 0 
 2 
0 σ2 ... 0 
Var[U ] = 
 ... ... ... ... 
 2
 0 0 ... σ n 

Observar que, bajo las hipótesis de homoscedasticidad y no autocorrelación, la matriz de

varianzas y covarianzas tendrá la forma siguiente:

σ 2 0 ... 0 
 
0 σ2 ... 0 
Var [U ] =  = σ 2 ⋅ In (In es la matriz identidad de orden n)
 ... ... ... ... 
 
 0 0 ... σ 2 

d) El error o perturbación sigue una distribución normal, i.e.:

(
U ≈ N 0 n ,σ 2 ⋅ I n )

Hipótesis sobre las variables explicativas:

a) Las variables explicativas son fijas o deterministas.

b) La variables explicativas están no correlacionadas con la perturbación aleatoria.

Proyecto e-Math 4
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

c) Las variables explicativas no presentan relación lineal exacta entre si.

d) Además, supondremos que las variables explicativas son medidas sin error.

e) En el modelo no se excluyen las variables relevantes y que tampoco no se incluyen las

variables irrelevantes, a la hora de explicar el comportamiento de la variable endógena.

Hipótesis sobre los parámetros del modelo:

a) La única hipótesis que haremos acerca de los parámetros del modelo es la hipótesis de
permanencia estructural, lo cual quiere decir que los parámetros poblacionales, βj, se
mantienen constantes a lo largo de toda la muestra.

‰ Estimación del MRLM

Estimar el modelo equivale asignar valores numéricos a los parámetros desconocidos β1, β2,
..., βk, a partir de la información muestral disponible de las variables observables del modelo.
Únicamente consideraremos dos métodos de estimación:

• El método de mínimos cuadrados ordinarios (MCO)

• El método de máxima verosimilitud (MV)

Estimación por mínimos cuadrados ordinarios:

Sea un modelo en forma matricial Y = X⋅⋅B + U. Supongamos que el modelo ha sido estimado,
obteniéndose Ŷ, vector de valores de la variable dependiente implicado por el modelo. La
diferencia entre los valores observados y los valores estimados, e = Y − Yˆ = Y − X ⋅ Bˆ , la
denominaremos vector de residuos. Ahora bien, nuestro problema consiste en minimizar la
suma de los cuadrados de residuos, e’e con respecto del vector de parámetros estimados, B.
De este problema de optimización se deduce la siguiente expresión de mínimos cuadrados
ordinarios del MRLM [7]:

Bˆ = (X ′ ⋅ X ) ⋅ X ′ ⋅ Y
−1

cuya varianza viene dada por: []

Var Bˆ = σ 2 (X ′ ⋅ X )
−1

Además, el estimador MCO de la varianza del término de perturbación es:

e′ ⋅ e
σ̂ u2 =
n−k
donde n es el número de observaciones y k es el número de elementos del vector B.

Bajo la hipótesis de perturbaciones esféricas, el estimador MCO del vector B cumple una
serie de propiedades que le convierten en un insesgado (el valor esperado del estimador
coincide con el valor real del parámetro), eficiente (de varianza mínima), y consistente [4].

Proyecto e-Math 5
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

Además, bajo la hipótesis de esfericidad, el estimador MCO de la varianza del término de

error, σˆ u2 , es también insesgado.

Estimación por máxima verosimilitud:

El método de estimación por MCO consiste en asignar valores numéricos a los parámetros
desconocidos de manera que la suma cuadrática de errores sea mínima y sólo requiere que
la matriz X’X sea invertible. A continuación veremos un método de estimación alternativo, el
método de máxima verosimilitud.

El método de máxima verosimilitud (MV), en cambio, propone como un estimador el valor

que maximiza la probabilidad de obtener la muestra ya disponible.

El método MV se basa, prácticamente, en la distribución que sigue el término de error. A tales

efectos, se suele suponer que las perturbaciones aleatorias se distribuyen con una
distribución Normal que, además de cumplir las propiedades de una muestra grande, es una
aproximación cómoda y fácil de tratar.

El modelo que utilizaremos es Y = X⋅⋅B + U, y supondremos que el término aleatorio sigue la

distribución Normal con la siguiente función de densidad:

1  u2 
f (u i ) = exp − i 2 , i = 1,..., N .
2π σ  2σ 
Maximizar la probabilidad de obtener la muestra ya disponible equivale maximizar la función
de densidad conjunta del vector aleatorio, u. Para ello, hemos de suponer homoscedasticidad
y ausencia de autocorrelación. Por tanto, la expresión de la función de densidad conjunta es
la siguiente:

n
1  ∑ u i2 
f (U ) = ∏ f (u i ) = exp − 2 
i =1 (2πσ )
2 n2
 2σ 

Como U sigue una distribución Normal Multivariante de orden k, la variable Y, al ser una
combinación lineal de las perturbaciones aleatorias, también se distribuirá con una
distribución Normal Multivariante. Así pues, para que la función de densidad conjunta sea una
función de verosimilitud, el vector aleatorio U ha de expresarse en función del vector Y, es
decir:

1  (Y − Xβ )' (Y − Xβ )
L(Y ; β , σ 2 ) = exp − 
(2πσ )
2 n2
 2σ 2 

Se trata, por tanto, de maximizar la función de verosimilitud. Como la expresión anterior

resulta complicada, aplicaremos una transformación monótona; en concreto, una función
logarítmica:

ln L(Y ; β , σ 2 ) = − ln (2π ) − ln (2σ 2 ) −

n n (Y − Xβ )' (Y − Xβ )
2 2 2σ 2
2
Derivando la función de verosimilitud con respecto de B y σ , e igualando las derivadas a
cero, obtenemos los resultados:

Proyecto e-Math 6
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

Bˆ MV = (X ′ ⋅ X ) ⋅ X ′ ⋅ Y
−1

Var [Bˆ MV ] = σ 2 (X ′ ⋅ X ) .
−1
cuya varianza es la siguiente:

Además, el estimador MCO de la varianza del término de perturbación es:

e′⋅ e
σˆ MV
2
= ,
n
donde n es el número de observaciones y k es el número de elementos del vector B.

Observamos que el estimador de MV de B coincide con el MCO, con lo que tendrá las
mismas propiedades: será lineal, insesgado, óptimo y consistente.
2
Es fácil ver que el estimador de MV de σ , en cambio, resulta diferente del MCO y no es
insesgado aunque sí es asintóticamente insesgado.

‰ Medidas del bondad del ajuste

Las estimaciones por MCO y MV que hemos realizado todavía no nos permite evaluar la
calidad de ajuste del modelo. Para ello, de aquí a delante iremos viendo las medidas de
bondad de ajuste.

Comenzaremos por la suma de los cuadrados de errores, SCE, que puede expresarse de
varias formas:

n n n
e'⋅e = ∑ ei2 = Y '⋅Y − Bˆ ⋅ X '⋅Y = Y '⋅Y − Yˆ '⋅Yˆ = ∑ Yi 2 − ∑ Yˆi 2 .
i =1 i =1 i =1

Despejando la suma de cuadrados de la variable endógena, queda:

n n n
Y '⋅Y = Yˆ '⋅Yˆ + e'⋅e , o bien, ∑ Yi 2 = ∑ Yˆi 2 + ∑ ei2 .
i =1 i =1 i =1
2
Restando a ambos lados la cantidad n ⋅ Y , obtenemos:
n n n

∑ (Y − Y ) = ∑ (Yˆi − Y ) + ∑ ei2 .
2 2
Y '⋅Y − n ⋅ Y 2 = Yˆ '⋅Yˆ − n ⋅ Y 2
+ e'⋅e , o bien, i
i =1 i =1 i =1

La parte izquierda representa suma de cuadrados totales (SCT) y no es sino la suma de

cuadrados de las desviaciones respecto a su media aritmética.

Por otra parte, si el modelo tiene término independiente, a la cantidad

n
= ∑ (Yˆi − Y ) se le denomina suma de cuadrados de la regresión (SCR) .
2
Yˆ '⋅Yˆ − n ⋅ Y 2

i =1

En resumen, la variabilidad total de la variable endógena (SCT) puede descomponerse en

dos partes: la parte que podemos explicar mediante el modelo especificado (SCR) y la parte
que no podemos explicar, la suma de cuadrados de los errores (SCE).

Proyecto e-Math 7
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

A partir de la descomposición anterior de la SCT, definiremos el coeficiente de determinación,

2
R , el cual será la primera medida de bondad de ajuste:

SCE
R 2 = 1− .
SCT
Si el modelo tiene término independiente, entonces se cumple la igualdad SCT = SCR + SCE,
y el coeficiente de determinación podrá expresarse de la siguiente manera alternativa:

SCR
R2 = .
SCT
El coeficiente de determinación indica que proporción de variabilidad total queda explicada
2
por la regresión. Si el modelo tiene término independiente, entonces R toma valores entre 0
y 1.
2
En práctica, el uso de R presenta algunas limitaciones a la hora de comparar varios modelos
desde la perspectiva de bondad del ajuste. En efecto, cuanto más variables explicativas
incorporamos al modelo, mayor será el coeficiente de determinación, pues la SCR disminuye
conforme aumenta el número de variables explicativas. Por tanto, cuando queremos llevar a
2
cabo un análisis comparativo entre varios modelos, utilizamos R corregido:

n −1
R 2 = 1− (1 − R 2 )
n−k
Este estadístico es inmune ante la incorporación de extra variables vía interacción de dos
2
efectos: el efecto que permite aumentar R , y el efecto opuesto que surge al descontar un
n −1
mayor número de las variables explicativas, [7].
n−k

‰ Significación de los parámetros del modelo

Distinguiremos entre dos distintas dimensiones de significación: significación económica y

significación estadística.

Significación económica

Significación económica nos permite comprobar si las estimaciones obtenidas son

coherentes con la teoría económica. Según especificación del modelo, la interpretación y
significación de los parámetros puede variar. Si el modelo está especificado en niveles, el
parámetro refleja el efecto medio que tiene una variación unitaria de la variable explicativa
sobre la variable endógena:

∂Y
βj = .
∂X j

En cambio, si el modelo está especificado en logaritmos neperianos, los parámetros pueden

interpretarse como una elasticidad, como es el caso de la función de producción de Cobb-
Douglas:

Proyecto e-Math 8
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

∂ ln Y
βj = .
∂ ln X j

Significación estadística

El análisis econométrico pretende analizar, por medio una serie de contrastes, la significación
(o significatividad) estadística individual y conjunta de los parámetros del modelo. En
concreto, para contrastar las hipótesis de significatividad individual, tenemos:

H0 : β j = 0
HA : βj ≠ 0.

El estadístico t-Student que se utiliza para realizar el test es el siguiente:

βˆ l
tj = ~ t n −k .
σˆ u2 ⋅ a jj

donde σˆ u2 ⋅ a jj es el error estándar estimado de β̂ l , y a jj es el j-ésimo elemento de la

-1
diagonal principal de la matriz (X’X) .

Dado un nivel de significación α, las tablas de distribuciones nos proporcionan la cantidad tn-
k,α/2 que es el valor asociado a una t-Student con n-k grados de libertad que deja a su
derecha un área de α/2 (o, equivalentemente, deja a su izquierda un área de 1 - α/2). La
regla de decisión que utilizaremos para determinar si el parámetro asociado a la variable Xj
es individualmente significativo o no es la siguiente:

• Si |tj| ≥ tn-k,α/2, el estadístico cae fuera de la región de aceptación, por lo que rechazamos
la hipótesis nula. Concluimos, por tanto, que el parámetro es significativamente diferente
de cero.

• Si |tj| < tn-k,α/2, el estadístico cae dentro de la región de aceptación, por lo que no
podemos rechazar la hipótesis nula. Por tanto, el parámetro no es individualmente
significativo.

Nota: si en vez de realizar el contraste bilateral deseamos hacer un contraste unilateral (en el
cual la hipótesis alternativa sería H1 : βj > 0 ó H1 : βj < 0), deberemos sustituir en la fórmula
anterior α/2 por α (ya que ahora trabajaremos con una única cola de la distribución).

En cambio, si queremos contrastar la significación conjunta, las hipótesis especificamos de la

manera siguiente:

H0 : β2 = β3 = ... = βk =0
HA : No H0.

Nota: el término independiente no contribuye en explicar la variabilidad de la variable

endógena, con lo cual no lo incluimos en la restricción.

El estadístico F de Snedecor que se utiliza para realizar el test es el siguiente:

R2 n−k
F0 = ⋅ ~ Fk −1,n − k .
1− R n −1
2

Proyecto e-Math 9
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

El estadístico se distribuye bajo la hipótesis nula con una distribución F de Snedecor con k-1
grado de libertad en el numerador y n-k grados de libertad en el denominador. La regla de
decisión utilizada para contrastar la significación global del modelo es la siguiente:

• Si F0 ≥ Fk-1,N-k;α, el estadístico de contraste cae fuera de la región de aceptación, con lo

que rechazamos la hipótesis nula. Por tanto, el modelo es globalmente significativo.

• Si F0 < Fk-1,N-k;α, el estadístico de contraste cae dentro de la región de aceptación, de

modo que ahora la hipótesis nula no la rechazamos. En consecuencia, podemos afirmar
que el modelo no es globalmente significativo.

‰ Predicción

Una vez hemos especificado, estimado y validado un modelo, podemos utilizarlo con
objetivos diferentes.

Cuando trabajamos con una serie temporal, podemos estar interesados en predecir el
comportamiento futuro de la variable endógena. Si, por otro lado, trabajamos con un corte
transversal (o una sección cruzada), podemos utilizar el modelo ajustado para predecir el
comportamiento de un individuo (o una unidad) no incluido en la muestra.

No obstante, para realizar las predicciones, hemos de suponer que todas las hipótesis que
hemos formulado sobre X, B y U se mantendrán también para las observaciones fuera de la
muestra. En particular, es fundamental suponer que se cumple la hipótesis de permanencia
estructural del modelo.

Cuando realizamos predicciones, podemos optar por predecir el valor puntual que tomará la
variable endógena, o bien, determinar un intervalo de posibles valores. El primer caso se
denomina predicción puntual, y el segundo predicción por intervalo.

Predicción puntual

Supongamos que la variable endógena ajustada para una determinada observación i es igual
a:

Yˆi = βˆ1 + βˆ 2 ⋅ X 2i + ... + βˆ k ⋅ X ki .

Si queremos predecir el valor de la variable endógena, para una observación n + h, podemos

utilizar la siguiente expresión:

Yˆn + h = βˆ1 + βˆ 2 ⋅ X 2, n + h + ... + βˆ k ⋅ X k , n + h .

Predicción por intervalo

La fiabilidad de predicción se caracteriza por el intervalo de predicción. Distinguimos entre la

predicción por intervalo sobre Yn+h y la predicción por intervalo sobre su valor esperado,
E(Yn+h).

En primer lugar, para obtener el intervalo del valor esperado de la variable endógena para la
observación n+h, E(Yn+h), utilizaremos la siguiente expresión:

Proyecto e-Math 10
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple


[ ]  = 1 − α ,
1
Pr ob  E (Y n + h ) − Yˆn + h < t α ⋅ σˆ u2 ⋅ X n + h ⋅ (X '⋅ X ) ⋅ X n + h
−1 2
n −k ,
 2 

donde tn-k,α/2 es el valor de las tablas de una t de Student de n–k grados de libertad. La
expresión sirve para indicar que la probabilidad de que E(YN+h) quede dentro del intervalo de

[ ]
1
⋅ σˆ ⋅ X n + h ⋅ (X '⋅ X ) ⋅ X n + h
−1
Yˆn + h − t α
2
u
2
n−k ,
2
a

[ ]
1
⋅ σˆ ⋅ X n + h ⋅ (X '⋅ X ) ⋅ X n + h
−1
Yˆn + h + t α
2
u
2
n −k ,
2

es (1 - α), siendo α el nivel de significación.

Nota: el intervalo de predicción para E(YN+h) coincide con el intervalo de confianza. Es decir,
el intervalo de predicción del valor esperado no es sino el intervalo de confianza del
parámetro Xn+h’B.

En segundo lugar, para obtener la predicción por intervalo del valor observado de la variable
endógena para la observación n + h, Yn+h, utilizaremos la siguiente expresión:


[ ]  = 1 − α
1
Pr ob  Y n + h −Yˆn + h < t α ⋅ σˆ u ⋅ 1 + X n + h ⋅ (X '⋅ X ) ⋅ X n + h
−1 2
n −k ,
 2 

De forma análoga al caso anterior, la expresión indica que la probabilidad de que Yn+h se
encuentre dentro del intervalo de

[ ]
1
⋅ σˆ u 1 + X n + h ⋅ (X '⋅ X ) ⋅ X n + h
−1
Yˆn + h − t α
2
n−k ,
2
a

[ ]
1
⋅ σˆ u 1 + X n + h ⋅ (X '⋅ X ) ⋅ X n + h
− 1
Yˆn + h + t α
2
n −k ,
2

es (1 - α), siendo α el nivel de significación.

Nota: A la hora de realizar las predicciones, se puede ver que el intervalo de predicción para
el valor observado de la variable endógena resulta más grande que el intervalo de predicción
para el valor esperado de la variable endógena. El caso es que, al predecir E(Yn+h),
pretendemos prever sólo componente explicada por Xn+h, y la componente puramente
aleatoria, un+h, no forma parte del objetivo de predicción. En cambio, cuando el objetivo es
predecir Yn+h, hemos de prever también la perturbación aleatoria un+h la cual incrementa la
varianza del término de error.

Proyecto e-Math 11
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

CASOS PRÁCTICOS CON SOFTWARE___________________________________

‰ Estimación MCO del modelo de regresión lineal

Ejemplo 1. Representación gráfica del ajuste de MCO. A efectos de una mejor

comprensión del método de estimación de MCO, realizaremos la representación gráfica del
ajuste de MCO. Consideremos un modelo de regresión lineal simple:

Y i = β 1 + β 2 ⋅ X i + u i ;i = 1,..., n

Como ya hemos dicho, nuestro objetivo es asignar valores numéricos a los parámetros
desconocidos, en este caso, β1 y β2, y así poder cuantificar la relación de dependencia que
hay entre las dos variables. Determinar estos valores equivale a determinar una recta que
pasa por la nube de puntos que resultan al representar las observaciones correspondientes a
las variables endógena y explicativa.

Consideremos los siguientes datos anuales correspondientes al período 1960-1990 de la

economía de los Estados Unidos:

Observación Año Y (inversión real) X (PIB real)

1 1960 14,2226 95,065
2 1961 13,9336 97,281
3 1962 15,5040 103,159
4 1963 16,3105 107,607
5 1964 17,4936 113,860
6 1965 19,8906 121,153
7 1966 21,4803 129,102
8 1967 20,4046 132,340
9 1968 21,4776 138,663
10 1969 22,6821 142,856
11 1970 20,9722 143,120
12 1971 23,3538 147,928
13 1972 26,1040 155,955
14 1973 29,1101 164,946
15 1974 27,2418 163,921
16 1975 23,0096 163,426
17 1976 27,6116 172,485
18 1977 32,1111 180,519
19 1978 36,1788 190,509
20 1979 37,5671 196,497
21 1980 33,5069 196,024
22 1981 36,6088 200,832
23 1982 31,1554 196,769
24 1983 32,7752 205,341
25 1984 41,1886 220,230
26 1985 39,9715 228,703
27 1986 39,6866 236,500
28 1987 40,2991 244,560
29 1988 40,9538 254,771
30 1989 41,9323 263,683
31 1990 39,8393 268,304

Estos datos en el espacio bidimensional constituyen una nube de puntos, para los cuales
trazaremos la recta de regresión caracterizada por el mejor ajuste. Para ello, seguiremos los
siguientes pasos en el entorno de Minitab:

Proyecto e-Math 12
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

Seleccionamos Stat > Regression > Fitted Line Plot… :

A continuación completamos los campos según se indica:

La operación nos proporciona el siguiente gráfico:

Proyecto e-Math 13
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

Regression Plot
Y = -1,92133 + 0,175617X
R-Sq = 93,7 %

45

Inversión real
35

25

15

100 150 200 250

Producto interior bruto real

La recta en rojo es la que mejor se ajusta, según el criterio de MCO, a la nube de puntos que
tenemos. Es decir, es la recta que hace que el error de estimación, definido como la distancia
entre el valor observado y el valor estimado de la variable endógena (en el gráfico, es la
distancia vertical señalada por la flecha en azul), sea la mínima para cada una de las
observaciones. La pendiente de la recta presenta signo positivo, pues es de esperar que el
un auge en el PIB genere una mayor cantidad de inversiones y viceversa. Encima de la
2
recta, se aparece la ecuación de MCO con el coeficiente de determinación, R . Podemos
apreciar que el modelo se ajusta buenamente a los datos, explicando un 93,7% de la
variabilidad de la variable endógena. En consecuencia, el estadístico de significación global
del modelo se calcula de la siguiente manera:
2 2 .
F0 = (R /(1 – R )) (n – k)/(n-1) = (0,937/0,063)*29/30 = 14,377
2
Sabemos que en el modelo de regresión lineal simple se cumple que F0 = t2 , siendo t2 el
estadístico de contraste de significación individual. De modo que t2 = √ F0 = 3,792.

Para contrastar la significación individual de la variable explicativa, a partir de las tablas

extraemos tn-k,α/2 = t29;0,025 = 2,0452. Dado que t2 = 3,792 > t29;0,025 = 2,0452, rechazamos la
hipótesis nula. En conclusión, el PIB real es individualmente significativo para explicar la
variabilidad de la inversión real en la economía de los Estados Unidos.

Ejemplo 2: Una empresa de investigación de mercados está interesada en realizar un

estudio para el gobierno sobre la industria aeronáutica de los Estados Unidos. Para ello, va a
estimar la función de producción Cobb-Douglas estocástica aumentada por la variable el
avance tecnológico:

log(Y t ) = β 1 ⋅ log(Lt ) + log(K t ) + log(At ) + u t ; t = 1,..., T

donde Yt es la producción (en millones de dólares), Lt es el nivel de empleo (que

representaremos a través del agregado de las nóminas (en millones de dólares), Kt es el
nivel de capital utilizado (en millones de dólares), y At es el avance tecnológico, representado
por la proporción del PIB de las empresas tecnológicas en el PIB total en la economía
americana (en tanto por ciento). Supondremos que esta relación satisface las hipótesis el
MRLM con normalidad del término de error. Se dispone de datos anuales correspondientes a
1958-1996 que se muestran en la siguiente tabla:

Proyecto e-Math 14
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

Observación Año log(Y) Log(L) Log(K) Log(A)

1 1958 8,7700 7,75803 9,3214 -0,44229
2 1959 8,8260 7,79136 9,3502 -0,67441
3 1960 8,6861 7,64248 9,2551 -0,04824
4 1961 8,6995 7,69871 9,2588 -0,07823
5 1962 8,7332 7,81145 9,2779 0,02132
6 1963 8,7509 7,77039 9,2977 0,06255
7 1964 8,7924 7,75307 9,3311 0,23289
8 1965 8,8750 7,82740 9,3657 0,43465
9 1966 9,1050 8,07770 9,5809 0,60064
10 1967 9,3129 8,18004 9,8358 0,77948
11 1968 9,4738 8,27055 9,9564 0,84076
12 1969 9,4291 8,31059 10,0004 1,00189
13 1970 9,3468 8,15047 9,9534 1,04609
14 1971 9,2124 7,91517 9,8486 0,95128
15 1972 9,0802 7,96106 9,8342 0,97795
16 1973 9,2748 8,02597 9,8140 1,19855
17 1974 9,3644 8,10119 9,8716 1,37927
18 1975 9,4094 8,14297 9,9271 1,21982
19 1976 9,5044 8,17836 9,9131 1,50437
20 1977 9,6047 8,28801 9,9559 1,71540
21 1978 9,7440 8,46720 10,1037 1,92360
22 1979 10,0222 8,65232 10,3419 2,16460
23 1980 10,1955 8,80499 10,5113 2,26792
24 1981 10,3034 8,98153 10,6039 2,42746
25 1982 10,2417 8,95546 10,7125 2,49750
26 1983 10,3262 8,93089 10,6632 2,47373
27 1984 10,2560 8,91690 10,7302 2,61771
28 1985 10,4624 8,98805 10,7732 2,44101
29 1986 10,5502 9,10319 10,8743 2,53751
30 1987 10,5737 9,17777 10,9206 2,85079
31 1988 10,6333 9,21186 11,0444 2,82018
32 1989 10,6768 9,25614 11,1949 2,82289
33 1990 10,8468 9,32587 11,2812 2,72615
34 1991 10,9698 9,24224 11,3309 2,54905
35 1992 11,0506 9,35001 11,3281 2,55048
36 1993 10,9173 9,28638 11,2780 2,50060
37 1994 10,8390 9,24362 11,1210 2,62398
38 1995 10,7585 9,12033 11,0568 2,77913
39 1996 10,7645 9,19414 11,1375 2,79638

La primera etapa del estudio consiste en estimar el modelo por MCO mediante el Minitab.
Para ello, seleccionamos Stat > Regression > Regression :

Proyecto e-Math 15
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

A continuación completamos los campos según se indica:

Los resultados de estimación se muestran en el siguiente cuadro:

Regression Analysis

The regression equation is

log(Y) = - 1,17 + 0,559 log(L) + 0,601 log(K) + 0,0329 log(A)

Proyecto e-Math 16
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

Predictor Coef StDev T P

Constant -1,1666 0,4613 -2,53 0,016
log(L) 0,5585 0,1237 4,51 0,000
log(K) 0,6014 0,1018 5,91 0,000
log(A) 0,03291 0,03229 1,02 0,315

S = 0,06750 R-Sq = 99,3% R-Sq(adj) = 99,3%

Analysis of Variance

Source DF SS MS F P
Regression 3 23,5977 7,8659 1726,58 0,000
Residual Error 35 0,1595 0,0046
Total 38 23,7572

A partir de la salida de estimación por MCO, el vector de parámetros estimados, B, resulta

ser B = (-1,17; 0,559; 0,60; 0,033)’. Los signos que presentan los parámetros asociados a las
variables explicativas son positivos y, por tanto, eran esperables. Puesto que la función de
regresión es una transformación logarítmica de la función de producción de Cobb-Douglas,
los parámetros miden las elasticidades de la producción respecto al empleo, al capital y al
avance tecnológico respectivamente:

∂ log(Y )
eY , L = β 2 = ;
∂ log(L )

∂ log(Y )
eY , K = β 3 = ;
∂ log(K )

∂ log(Y )
eY , A = β 4 = .
∂ log(A)

Una vez estimado el modelo, procedemos a analizar la validez estadística del modelo. Por
ejemplo, para contrastar la significación individual del la variable log(A), especificamos la
hipótesis nula H0: β4 = 0 frente a la hipótesis alternativa bilateral HA: β4 ≠ 0. El contraste de
hipótesis realizaremos en base del estadístico de contraste t y el p-valor asociado.
Suponiendo cierta la hipótesis nula, el estadístico de contraste se calcula t4 = B4/SE(B4),
siendo SE(B4) la desviación típica del estimador B4. A partir de los resultados de estimación,
tenemos que t4 = 1,02 con p-valor = 0,315. Recordemos que p-valor = Prob(t > t4 = 1,02).
Como p-valor = 0,315 > α = 0,05, no podemos rechazar la hipótesis nula para el nivel de
significación de 5%. También, haciendo el uso del valor crítico tn-k;α/2 = t35;0,025 = 2,0301 a
partir de las tablas de una distribución t-Student, queda t4 = 1,02 ∉ (-2,0301; 2,0301) lo cual
nos conduce a la misma conclusión. Por tanto, la variable el avance tecnológico resulta
estadísticamente no significativa. La evidencia empírica parece indicar que el desarrollo
tecnológico no ha sido decisivo para la industria aeronáutica. En cambio, los resultados de
los contrastes de significación individual de log(L) y de log(K) nos llevan a rechazar la
hipótesis nula; concluimos, por tanto, que tanto el capital humano como el capital físico son
significativos a la hora de explicar la variación de la producción en el sector aeronáutico.

Una vez analizada la relevancia individual de las variables explicativas, pasamos a contrastar
la significación conjunta del modelo. Utilizando el estadístico F0 a partir del cuadro de
estimación y comparándolo con el valor crítico Fk-1;n-k;α a partir de las tablas de una
distribución F de Snedecor queda:

F0 = 1726,58 > F3;35;0,05 = 2,8742.

Proyecto e-Math 17
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

Puesto que el estadístico de contraste muestral es muy superior al valor crítico a partir de las
tablas, rechazamos la hipótesis nula de no significación global del modelo.

A continuación, a base del modelo estimado, pasaremos a realizar la predicción, tanto del
valor esperado como del valor observado, de la variable endógena para el año 1997,
teniendo en cuenta la siguiente información sobre las variables explicativas para el año 1997:

log(L97) = 9,00; log(K97) = 11,50 y log(A97) = 2,80.

Volvemos a seleccionar Stat > Regression > Regresión y completamos los campos
en la ventana “Regresión” tal y como hemos hecho para estimar el modelo de regresión. A
continuación, dentro de la misma ventana seleccionamos Options y introducimos los valores
de predictores, especificando el 95% nivel de confianza. Por último, marcamos las opciones
“Fits”, “SDs of fits”, “Confidence limits” y “Prediction limits” para mostrar el ajuste de
predicción, la desviación típica de predicción, los intervalos de confianza y los intervalos de
predicción, respectivamente:

Los resultados de predicción aparecen en el siguiente cuadro:

Predicted Values

Fit StDev Fit 95,0% CI 95,0% PI

10,8678 0,0677 ( 10,7304; 11,0052) ( 10,6738; 11,0619) XX
X denotes a row with X values away from the center
XX denotes a row with very extreme X values

Los resultados indican que la predicción de la producción en el sector aeronáutico (predicción

puntual) es:
. . . .
log(Y97) = -1,17 + 0,559 log(L97) + 0,601 log(K97) + 0,0329 log(A97) = -1,17 + 0,559 9,0 +
. .
0,601 11,5 + 0,0329 2,80 = 10,865.

Proyecto e-Math 18
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

Observad que la predicción realizada es de una transformación logarítmica; no obstante,

nuestro interés reside en la predicción de la producción en niveles. A tales efectos,
calculamos la exponencial del resultado anterior:

Y97 = exp(log(Y97)) = exp(10,865) = 52.293 millones de dólares.

El intervalo de predicción del valor esperado de la variable endógena en el programa Minitab

coincide con el intervalo de confianza para el parámetro Xn+h’B:

IP(E(Yn+h)) = IC(Xn+h’B) = {10,7304; 11,0052}.

Finalmente, el intervalo de predicción sobre el valor observado de la variable endógena es:

IP(YN+h) = {10,6738; 11,0619}.

En efecto, el intervalo de predicción del valor observado de la variable endógena es más

grande que el intervalo de predicción para el valor esperado de la variable endógena.

Proyecto e-Math 19
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)
 Modelo de Regresión Lineal Múltiple

BIBLIOGRAFÍA ______________________________________________

[1] Artís, M.; Suriñach, J.; et al (2002): “Econometría”. Ed. Fundació per a la Universitat Oberta de
Catalunya. Barcelona.

[2] Carter, R.; Griffiths, W.; Judge, G. (2000): “Using Excel for Undergraduate Econometrics”.
ISBN: 0-471-41237-6

[3] Doran, H. (1989): “Applied Regression Analysis in Econometrics”. Ed. Marcel Dekker, Inc.
ISBN: 0-8247-8049-3

[4] Gujarati, D. (1997): “Econometría básica”. McGraw-Hill. ISBN 958-600-585-2

[5] Johnston, J. (2001): “Métodos de econometría”. Ed. Vicens Vives. Barcelona.

ISBN 84-316-6116-X

[6] Kennedy, P. (1998): “A Guide to Econometrics”. Ed. MIT Press. ISBN: 0262611406

[7] Novales, A. (1993): “Econometría”. McGraw-Hill. ISBN 84-481-0128-6

[8] Pulido, A. (2001): “Modelos econométricos”. Ed. Pirámide. Madrid. ISBN 84-368-1534-3

[9] Uriel, E. (1990): “Econometría: el modelo lineal”. Ed. AC. Madrid. ISBN 84-7288-150-4

[10] Wooldridge, J. (2001): “Introducción a la Econometría: un enfoque moderno”. Ed. Thomson

Learning. ISBN: 970-686-054-1

ENLACES ___________________________________

‰ http://www.feweb.vu.nl/econometriclinks/index.html
The Econometrics Journal On-Line

‰ http://www.elsevier.com/hes/books/02/menu02.htm
Libro on-line: Handbook of Econometrics Vols. 1-5

‰ http://elsa.berkeley.edu/users/mcfadden/discrete.html
Libro on-line: Structural Analysis of Discrete Data and Econometric Applications

‰ http://www.oswego.edu/~kane/econometrics/stud_resources.htm
Online Resources for Econometric Students

‰ http://www.econ.uiuc.edu/~morillo/links.html
Econometric Sources: a collection of links in econometrics and computing. University of Illinois

‰ http://www.econometrics.net/
Econometrics, Statistics, Mathematics, and Forecasting

‰ http://ideas.uqam.ca/EDIRC/ectrix.html
Economics Departments, Institutes and Research Centers in the World: Econometrics,
Mathematical Economics

Proyecto e-Math 20
Financiado por la Secretaría de Estado de Educación y Universidades (MECD)