INSTITUTO TECNOLÓGICO SUPERIOR DE CIUDAD

SERDÁN
ING. INFORMÁTICA
MATERIA: PROBABILIDAD Y ESTADISTÍCA
RESUMEN “REGRESIÓN LINEAL”
DOCENTE: ING. SANDRA VELÉZ ARROYO
ALUMNA: JENNIFER GARCÍA ESTÉVEZ
NO. DE CONTROL: 16CS0034
GRUPO “0357”
FECHA DE ENTREGA: 27 DE SEPTIEMBRE DE 2017
TERCER SEMESTRE

CICLO ESCOLAR: 2017-2018

11.1 INTRODUCCIÓN A LA REGRESIÓN LINEAL
Cuando se requiere resolver problemas que implican conjuntos de variables de las cuales se
sabe que tienen alguna relación inherente entre sí, como por ejemplo, en una situación industrial
que quizá se sepa que el contenido de alquitrán en el flujo de salida de un proceso químico está
relacionado con la temperatura en la entrada, podría ser de interés desarrollar un método de
pronóstico, es decir, un procedimiento que permita estimar el contenido de alquitrán para varios
niveles de temperatura de entrada a partir de información experimental.
Es muy probable que para muchos ejemplos concretos en los que la temperatura de entrada
sea la misma, por ejemplo 130ºC, el contenido de alquitrán de salida no sea el mismo. Esto es
muy similar a lo que ocurre cuando se estudian varios automóviles con un motor del mismo
volumen; no todos tienen el mismo rendimiento de combustible.
El contenido de alquitrán, el rendimiento del combustible (en millas por galón son variables
dependientes naturales o respuestas en los dos escenarios. La temperatura en la entrada y el
volumen del motor (pies cúbicos) son, respectivamente, variables independientes naturales o
regresores.
Una forma razonable de relación entre la respuesta Y y el regresor x es la relación lineal,
Y = β0 + β1x
En la que, β0 es la intersección y β1 es la pendiente.

Si la relación es exacta y no contiene

ningún componente aleatorio o
probabilístico, entonces se trata de
una relación determinista entre dos
variables científicas. Sin embargo, la
relación no es determinista, es decir,
una x dada no siempre produce el
mismo valor de Y.
El concepto de análisis de regresión
se refiere a encontrar la mejor relación
entre Y y x cuantificando la fuerza de
esa relación, y empleando métodos
que permitan predecir los valores de la respuesta dados los valores del regresor x. En muchas
aplicaciones habrá más de un regresor, es decir, más de una variable independiente que ayude
a explicar a Y. Por ejemplo, si se tratara de explicar las razones para el precio de una casa, se
esperaría que una de ellas fuera su antigüedad, en cuyo caso la estructura múltiple de la
regresión se podría escribir como
Y = β0 + β1x1 + β2x2
donde Y es el precio, x1 son los metros cuadrados y x2 es la antigüedad de la casa en años.
Existen situaciones en las que se emplean regresores múltiples, el análisis resultante se
denomina regresión múltiple; en tanto que el análisis del caso con un solo regresor recibe el
nombre de regresión simple. En un segundo ejemplo de la regresión múltiple, un ingeniero
químico podría estar interesado en la cantidad de hidrógeno que se ha perdido en las muestras
de un metal específico que se tiene almacenado. En este caso habría dos entradas, x1, el tiempo
de almacenamiento en horas, y x2, la temperatura de almacenamiento en grados centígrados.
De modo que la respuesta sería Y, la pérdida de hidrógeno en partes por millón.
11.2 EL MODELO DE REGRESIÓN LINEAL SIMPLE (RLS)
El uso del término análisis de regresión se puede limitar a los casos en los que las relaciones
entre las variables no son deterministas, que no son exactas, es decir, debe existir un
componente aleatorio en la ecuación que relaciona las variables. Este componente aleatorio
toma en cuenta consideraciones que no son medibles o que no son comprendidas.
En la mayoría de aplicaciones de la regresión, la ecuación lineal, por ejemplo, Y = β0 + β1x es
una aproximación que representa de manera simplificada algo desconocido y mucho más
complicado. Por ejemplo, en el caso que implica la respuesta Y = contenido de alquitrán y x =
temperatura de entrada es probable que Y = β0 + β1x sea una aproximación razonable que
podría funcionar dentro de un rango limitado de x.
La mayoría de las veces los modelos que son simplificaciones de estructuras más complicadas
y desconocidas son de naturaleza lineal, es decir, lineales en los parámetros β 0 y β1.
Estas estructuras lineales son sencillas y de naturaleza empírica, por lo que se denominan
modelos empíricos. Un análisis de la relación entre x y Y requiere el planteamiento de un modelo
estadístico. Con frecuencia un estadístico utiliza un modelo como representación de un ideal
que, en esencia, define cómo percibimos que el sistema en cuestión generó los datos.
El modelo debe incluir al conjunto {(xi, yi); i = 1, 2,..., n} de datos que implica n pares de valores
(x, y). No debemos olvidar que el valor de yi depende de xi por medio de una estructura lineal
que también incluye el componente aleatorio. La base para el uso de un modelo estadístico se
relaciona con la manera en que la variable aleatoria Y cambia con x y el componente aleatorio.
El modelo también incluye lo que se asume acerca de las propiedades estadísticas del
componente aleatorio. A continuación se presenta el modelo estadístico para la regresión lineal
simple. La respuesta Y se relaciona con la variable independiente x a través de la ecuación

En la cual β0 y β1 son los parámetros desconocidos de la intersección y la pendiente,

respectivamente, y es una variable aleatoria que se supone está distribuida con
y . A esta cantidad σ2 también se le denomina varianza del error o varianza
residual.
De acuerdo con el modelo anterior, la cantidad Y es una variable aleatoria, ya que es
aleatoria. El valor x de la variable regresora no es aleatorio se mide con un error despreciable.
La cantidad , que también recibe el nombre de error aleatorio o alteración aleatoria, tiene
varianza constante. A esta parte se le suele denominar suposición de varianza homogénea.
Este error aleatorio evita que el modelo se convierta tan sólo en una ecuación determinista.
El hecho de que implica que para una x específica, los valores de y se distribuyen
alrededor de la recta verdadera o recta de regresión de la población y = β0 + β1x. Si se elige
bien el modelo, es decir, si no hay otros regresores de importancia y la aproximación lineal es
buena dentro de los rangos de los datos, entonces son razonables los errores positivos y
negativos que rodean a la regresión verdadera.
En la práctica β0 y β1 se desconocen y que deben estimarse a partir de los datos. Además, el
modelo que se acaba de describir es de naturaleza conceptual. Como resultado, en la práctica
nunca se observan los valores reales, por lo que nunca se puede trazar la verdadera recta
de regresión, aunque suponemos que ahí está. Sólo es posible dibujar una recta estimada.
La siguiente gráfica ilustra la verdadera recta de regresión para n = 5 observaciones Está
ilustración nos describe el significado de superposiciones.

La recta de regresión ajustada

Un aspecto importante del análisis de regresión es, estimar los parámetros β 0 y β1, es decir,
estimar los llamados coeficientes de regresión. Denotamos los estimados b0 para β0 y b1 para
β1. La recta de regresión ajustada, es dada por:

donde es el valor pronosticado o ajustado. La recta ajustada es un estimado de la verdadera

recta de regresión, se espera que esté más cerca de la verdadera línea de regresión cuando se
dispone de una gran cantidad de datos.
11.3 MÍNIMOS CUADRADOS Y EL MODELO AJUSTADO
Ajustar una recta de regresión estimada a los datos, equivale a determinar los estimados b0
para β0 y b1 para β1. Esto permite el cálculo de los valores pronosticados a partir de la recta
ajustada , y otros tipos de análisis y de información que determinarán la fuerza de
la relación, así como la adecuación y el ajuste del modelo.

Un residual es un error en el ajuste del modelo

Dado un conjunto de datos de regresión {(xi, yi); i = 1, 2,..., n} y un modelo ajustado
, el i-ésimo residual es dado por
Si un conjunto de n residuales es grande, entonces el ajuste del modelo no es bueno. Los
residuales pequeños son indicadores de un ajuste adecuado. Otra relación interesante, y que a
veces es útil, es la siguiente:

El uso de la ecuación anterior debería aclarar la diferencia entre los residuales y los errores
del modelo conceptual . Mientras los no se observan, los no sólo se observan sino
que desempeñan un papel importante en el análisis total.

La siguiente gráfica ilustra el ajuste de la recta a este conjunto de datos: a saber

y la recta refleja el modelo . β0 y β1 son parámetros desconocidos. La recta
ajustada es un estimado de la recta que genera el modelo estadístico. La recta
es desconocida.

Método de mínimos cuadrados

Debemos calcular b0 y b1, los estimados de β0 y β1, de manera que la suma de los cuadrados
de los residuales sea mínima. La suma residual de los cuadrados con frecuencia se denomina
suma de los cuadrados del error respecto de la recta de regresión y se denota como SCE. Este
procedimiento de minimización para estimar los parámetros se denomina método de mínimos
cuadrados. Por lo tanto, debemos calcular a y b para minimizar
Al diferenciar la SCE con respecto a b0 y b1, se obtiene

Al igualar a cero las derivadas parciales y reacomodar los términos, obtenemos las ecuaciones
siguientes (llamadas ecuaciones normales).

, que se resuelven simultáneamente para obtener fórmulas de cálculo para b 0 y b1.

Estimación de coeficientes de regresión
Dada la muestra {(xi, yi)}; i = 1, 2,..., n}, los estimados b0 y b1 de los mínimos cuadrados de los
coeficientes de regresión β0 y β1 se calculan mediante las fórmulas

11.4 PROPIEDADES DE LOS ESTIMADORES DE MÍNIMOS CUADRADOS

Además de los supuestos de que el término del error en el modelo es una

variable aleatoria con media igual a cero y varianza σ constante, suponga que además damos
2

por hecho que son independientes de una corrida a otra del experimento, lo cual
proporciona la base para calcular las medias y varianzas de los estimadores de β 0 y β1.
Los valores de b0 y b1, basados en una muestra dada de n observaciones, sólo son estimaciones
de los parámetros verdaderos β0 y β1. Si el experimento se repitiera una y otra vez, usando en
cada ocasión los mismos valores fijos de x, los estimados resultantes de β 0 y β1 muy
probablemente diferirían de un experimento a otro. Estos estimados distintos podrían ser
considerados como valores adoptados por las variables aleatorias B 0 y B1; en tanto que b0 y b1
son ejecuciones específicas. Como los valores de x permanecen fijos, los valores de B 0 y B1
dependen de las variaciones en los valores de y o, con más precisión, en los valores de las

variables aleatorias Las suposiciones sobre la distribución implican que las Yi,
i = 1, 2,..., n también están distribuidas de manera independiente, con media

y varianzas σ2 iguales, es decir,

Media y varianza de los estimadores
En la exposición que sigue mostramos que el estimador B 1 es insesgado para β1, y se
demuestran tanto las varianzas de B0 como las de B1. Esto inicia una serie de procedimientos
que conducen a la prueba de hipótesis y a la estimación de intervalos de confianza para la
intersección y la pendiente. Como el estimador

es de la forma

podemos concluir que B1 tiene una distribución n(μB1,σB1) con

También se puede demostrar que la variable aleatoria B0 se distribuye normalmente con

A partir de estos resultados es evidente que los estimadores de mínimos cuadrados tanto para
β0 como para β1 son insesgados.
11.5 INFERENCIAS SOBRE LOS COEFICIENTES DE REGRESIÓN
Además de tan sólo estimar la relación lineal entre x y Y para fines de predicción, el
experimentador podría estar interesado en hacer ciertas inferencias acerca de la pendiente y la
intersección. Para dar ocasión a la prueba de hipótesis y a la construcción de intervalos de
confianza para β0 y β1, debemos estar dispuestos a hacer la suposición adicional de que cada
, se distribuye de forma normal. Esta suposición implica que Y 1, Y2,..., Yn
también están distribuidas normalmente, cada una con una distribución de probabilidad

Se sabe que B1 tiene una distribución normal, y suponiendo normalidad, nos permite concluir
que es una variable chi cuadrada con n – 2 grados de libertad, independiente de
la variable aleatoria B1. Entonces, garantizamos que el estadístico

tenga una distribución t con n – 2 grados de libertad. Podemos utilizar el estadístico T para
construir un intervalo de confianza del 100(1 – α) % para el coeficiente β1.
Intervalo de confianza para β1
Un intervalo de confianza de 100(1 – α) % para el parámetro β1 en la recta de regresión

es

donde es un valor de la distribución t con n – 2 grados de libertad.

Prueba de hipótesis sobre la pendiente
Para probar la hipótesis nula H0 de que β1 = β10, en comparación con una alternativa posible,
utilizamos de nuevo la distribución t con n – 2 grados de libertad con el fin de establecer una
región crítica y después basar nuestra decisión en el valor de

Inferencia estadística sobre la intersección

Los intervalos de confianza y la prueba de hipótesis del coeficiente β 0 se podrían establecer a
partir del hecho de que B0 también se distribuye de forma normal. No es difícil demostrar que
tiene una distribución t con n – 2 grados de libertad, de manera que podemos construir un
intervalo de confianza de 100(1 – α)% para α.
Intervalo de confianza para β0
Un intervalo de confianza de 100(1 – α) % para el parámetro β0 en la recta de regresión

es

donde es un valor de la distribución t con n – 2 grados de libertad.

11.6 PREDICCIÓN
Hay varias razones para construir un modelo de regresión lineal. Una de ellas es predecir
valores de respuesta para uno o más valores de la variable independiente.

La ecuación se puede utilizar para predecir o estimar la respuesta media en

x = x0, donde x0 no necesariamente es uno de los valores preestablecidos, o cuando x = x 0, se
podría emplear para pronosticar un solo valor y0 de la variable Y0. Se esperaría que el error de
predicción fuera mayor para el caso de un solo valor pronosticado que para aquel en que se
predice una media. Entonces, esto afectaría la anchura de los intervalos para los valores que
se predicen.

Suponemos que el experimentador desea construir un intervalo de confianza para . En tal

caso debe usar el estimador puntual y para estimar . Se puede

demostrar que la distribución muestral de es normal con media

y varianza

esta última surge del hecho de que .

Por consiguiente, ahora podemos construir un intervalo de confianza de 100(1 – α)% sobre la

respuesta media a partir del estadístico

que tiene una distribución t con n – 2 grados de libertad.

Intervalo de confianza para

Un intervalo de confianza de 100(1 – α) % para la respuesta media es

es un valor de la distribución t con n – 2 grados de libertad.

Predicción del intervalo
Otro tipo de intervalo que con frecuencia se malinterpreta y se confunde con aquel dado para
es el intervalo de la predicción para una respuesta futura observada.
Para obtener un intervalo de predicción para cualquier valor único y0 de la variable Y0 es
necesario estimar la varianza de las diferencias entre las ordenadas , obtenidas de las rectas
de regresión calculadas en el muestreo repetido cuando x = x0, y la ordenada verdadera
correspondiente y0. Se puede considerar la diferencia ˆ y0 – y0 como un valor de la variable
aleatoria , cuya distribución muestral se podría demostrar que es normal con media

y varianza

Así, un intervalo de predicción de 100(1 – α) % para un solo valor pronosticado y0 se puede

construir a partir del estadístico

que tiene una distribución t con n – 2 grados de libertad.

Intervalo de predicción para y0
Un intervalo de predicción de 100(1 – α) % para una sola respuesta y0 es dado por
donde es un valor de la distribución t con n – 2 grados de libertad.
11.7 Selección de un modelo de regresión
Es frecuente que se utilice el modelo de regresión lineal simple aun cuando se sepa que el
modelo no es lineal o que se desconozca la estructura verdadera. Este método suele ser
acertado, en particular cuando el rango de las x es estrecho. De esta manera, el modelo que se
utiliza se vuelve una función de aproximación que se espera sea una representación adecuada
del panorama verdadero en la región de interés. Sin embargo, podría haber efectos si se aplica
un modelo inadecuado sobre los resultados presentados hasta este momento. Por ejemplo, si
el modelo verdadero, desconocido para el experimentador, es lineal en más de una x,

entonces el estimado de los mínimos cuadrados ordinarios que se calcula

considerando tan sólo x1 en el experimento es, un estimado sesgado del coeficiente β 1, donde
el sesgo es una función del coeficiente adicional β 2 . Asimismo, el estimado s2 para σ2 es
sesgado debido a la variable adicional.
11.8 El método del análisis de varianza
Con frecuencia el problema de analizar la calidad de la recta de regresión estimada se maneja
por medio del método del análisis de varianza (ANOVA), que es un procedimiento mediante el
cual la variación total de la variable dependiente se subdivide en componentes significativos,
que luego se observan y se tratan en forma sistemática. El análisis de varianza, es un recurso
significativo que se emplea en muchas situaciones.
Supongamos que tenemos n puntos de datos experimentales en la forma usual (xi, yi) y que se
estima la recta de regresión. Para la estimación de σ2 se estableció la identidad

Una formulación alternativa es la siguiente:

Logramos hacer una partición de la suma total de los cuadrados corregida de y en dos
componentes que deberían proporcionar un significado particular para el experimentador. Esta
partición se debería indicar en forma simbólica como STCC = SCR + SCE.
El primer componente de la derecha, SCR, se denomina suma de cuadrados de la regresión y
refleja la cantidad de variación de los valores y que se explica con el modelo, que en este caso
es la línea recta postulada. El segundo componente es la ya conocida suma de cuadrados del
error, que refleja la variación alrededor de la recta de regresión. Supongamos que nos interesa
probar la hipótesis

en comparación con

donde la hipótesis nula en esencia dice que el modelo es ; es decir, la variación en los
resultados Y debida a las fluctuaciones de probabilidad o aleatorias que son independientes de
los valores de x. En las condiciones de esta hipótesis nula se puede demostrar que ,y
son valores de variables chi cuadradas independientes con 1 y n – 2 grados de libertad,
respectivamente y, se sabe que también es un valor de una variable chi cuadrada con
n – 1 grados de libertad. Para probar la hipótesis anterior calculamos

y rechazamos H0 al nivel de significancia α cuando . Estos cálculos se

resumen mediante las medias de una tabla de análisis de varianza, en donde es costumbre
referirse a las distintas sumas de los cuadrados divididos entre sus respectivos grados de
libertad como cuadrados medios.

Cuando se rechaza la hipótesis nula, es decir, cuando el estadístico F calculado excede al valor
crítico se concluye que hay una cantidad significativa de variación en la respuesta
justificada por el modelo postulado, que es la función de la línea recta. Si el estadístico F está
en la región de no rechazo, se concluye que los datos no reflejan evidencia suficiente para
apoyar el modelo que se postula.
Usamos el estadístico

para probar la hipótesis

contra
donde T sigue la distribución t con n – 2 grados de libertad. La hipótesis se rechaza si
para un nivel de significancia α. Es interesante observar que en el caso en que probamos
en comparación con
el valor del estadístico T se convierte en

y la hipótesis a considerar es idéntica a la que se prueba en la tabla 11.2. La hipótesis nula

establece que la variación en la respuesta se debe tan sólo al azar. El análisis de varianza utiliza
la distribución F en vez de la distribución t. Para la alternativa bilateral ambos enfoques son
idénticos. Esto se observa si se escribe

que da como resultado un valor idéntico al valor f utilizado en el análisis de varianza. La relación
fundamental entre la distribución t con v grados de libertad y la distribución F con 1 y v grados
de libertad es

La prueba t permite probar en comparación con una alternativa unilateral, en tanto que la prueba
F está restringida a una prueba en comparación con una alternativa bilateral.
11.9 PRUEBA PARA LA LINEALIDAD DE LA REGRESIÓN: DATOS CON
OBSERVACIONES REPETIDAS
En ciertos tipos de situaciones experimentales el investigador tiene la capacidad de efectuar
observaciones repetidas de la respuesta para cada valor de x. Aunque no es necesario tener
dichas repeticiones para estimar β0 y β1, las repeticiones permiten al experimentador obtener
información cuantitativa acerca de lo apropiado que resulta el modelo. Si se generan
observaciones repetidas, el investigador puede efectuar una prueba de significancia para
determinar si el modelo es o no adecuado.
Seleccionemos una muestra aleatoria de n observaciones utilizando k valores distintos de x, por
ejemplo, x1, x2,..., xn, tales que la muestra contenga n1 valores observados de la variable
aleatoria Y1 correspondientes a los valores x1, con n2 valores observados de Y2
correspondientes a x2,..., nk valores observados de Yk correspondientes a xk. Necesariamente,

Definimos
el j-ésimo valor de la variable aleatoria
Entonces, si se realizaron n4 = 3 mediciones de Y que corresponden a x = x4, estas
observaciones se indicarían por medio de y41, y42 y y43. Por lo tanto,

El concepto de la falta de ajuste

La suma de cuadrados del error consta de dos partes: la cantidad debida a la variación entre
los valores de Y dentro de valores dados de x, y un componente que normalmente se denomina
contribución a la falta de ajuste. El primer componente refleja tan sólo la variación aleatoria, o
error experimental puro, en tanto que el segundo es una medida de la variación sistemática
introducida por los términos de orden superior. En nuestro caso éstos son términos de x distintos
de la contribución lineal o de primer orden. Observe que al elegir un modelo lineal en esencia
asumimos que este segundo componente no existe y que, en consecuencia, la suma de
cuadrados del error se debe por completo a errores aleatorios.
Si éste fuera el caso, entonces s2 = SCE/(n – 2) es un estimado insesgado de σ2. Sin embargo,
si el modelo no se ajusta a los datos en forma apropiada, entonces la suma de cuadrados del
error estará inflada y producirá un estimador sesgado de σ2. Sea que el modelo se ajuste o no
a los datos, siempre que se tienen observaciones repetidas es posible obtener un estimador
insesgado de σ2 calculando

para cada uno de los k valores distintos de x y, después, agrupando estas varianzas, tenemos

El numerador de s2 es una medida del error experimental puro. El siguiente es un procedimiento

de cálculo para separar la suma de los cuadrados del error en los dos componentes que
representan el error puro y la falta de ajuste:
Cálculo de la suma de los cuadrados de la falta de ajuste
1.- Calcular la suma de los cuadrados del error puro

Esta suma de cuadrados tiene n – k grados de libertad asociados con ella, y el cuadrado medio
resultante es el estimador insesgado s2 de σ2.
2.- Restar la suma de los cuadrados del error puro de la suma de los cuadrados del error, SCE,
con lo que se obtiene la suma de los cuadrados debida a la falta de ajuste. Los grados de
libertad de la falta de ajuste también se obtienen simplemente restando (n−2) − (n−k) = k−2.
Los cálculos necesarios para probar hipótesis en un problema de regresión con mediciones
repetidas de la respuesta se pueden resumir como se muestra en la siguiente tabla

Las figuras 11.16 y 11.17 ilustran los puntos muestrales para las situaciones del “modelo
correcto” y del “modelo incorrecto”. En la figura 11.16, donde cae sobre una línea recta,
no hay falta de ajuste cuando se asume un modelo lineal, por lo que la variación muestral
alrededor de la recta de regresión es un error puro que resulta de la variación que ocurre entre
observaciones repetidas. En la figura 11.17, donde es evidente que no cae sobre una
línea recta, la responsable de la mayor parte de la variación alrededor de la recta de regresión,
además del error puro, es la falta de ajuste que resulta de seleccionar por error un modelo lineal.
11.10 GRÁFICAS DE DATOS Y TRANSFORMACIONES
En la construcción de modelos de regresión en los que hay una variable independiente o
regresora, se supone que durante la construcción del modelo tanto x como y entran en el modelo
en forma lineal. Frecuentemente es aconsejable trabajar con un modelo alternativo en el que x
o y (o ambas) intervengan en una forma no lineal, de igual manera una transformación de los
datos debido a consideraciones teóricas inherentes al estudio científico, o bien, una simple
graficación de los datos podría sugerir la necesidad de reexpresar las variables en el modelo.
La necesidad de llevar a cabo una transformación es muy fácil de ver en el caso de la regresión
lineal simple, ya que las gráficas en dos dimensiones brindan un panorama verdadero de la
manera en que las variables se comportan en el modelo. Un modelo en el que x o y se
transforman no debería considerarse como un modelo de regresión no lineal. Por lo general
denominamos a un modelo de regresión como lineal cuando es lineal en los parámetros.
Supongamos que el aspecto de los datos u otra información científica sugiere que debe hacerse
la regresión de y* en comparación con la de x*, donde cada una de ellas es una transformación
de las variables naturales x y y. Entonces, el modelo de la forma:
es lineal porque lo es en los parámetros β0 y β1
Las transformaciones susceptibles de mejorar el ajuste y la capacidad de predicción de un
modelo son muy numerosas. En la siguiente tabla se presentan varias funciones que describen
relaciones entre y y x que pueden producir una regresión lineal por medio de la transformación
indicada, además de sus gráficas:
11.11 ESTUDIO DE CASO DE REGRESIÓN LINEAL SIMPLE
En la fabricación de productos comerciales de madera es importante estimar la relación que
hay entre la densidad de un producto de madera y su rigidez. Se está considerando un tipo
relativamente nuevo de aglomerado que se puede formar con mucha mayor facilidad que el
producto comercial ya aceptado. Es necesario saber a qué densidad su rigidez es comparable
con la del producto comercial bien conocido y documentado. Terrance E. Conners realizó un
estudio titulado Investigation of Certain Mechanical Properties of a Wood-Foam Composite
(Tesis para el doctorado, Departamento de Bosques y Vida Silvestre, University of
Massachusetts). Se produjeron 30 tableros de aglomerado con densidades que variaban
aproximadamente de 8 a 26 libras por pie cúbico y se midió su rigidez en libras por pulgada
cuadrada. En la tabla 11.8 se presentan los datos. Es necesario que el analista de datos se
concentre en un ajuste apropiado para los datos y que utilice los métodos de inferencia que se
estudian en este capítulo. Tal vez lo más apropiado sea una prueba de hipótesis sobre la
pendiente de la regresión, así como la estimación de los intervalos de confianza o de predicción.
Se comenzará presentando un simple diagrama de dispersión de los datos brutos con una
regresión lineal simple sobrepuesta. En la figura 11.23 se observa dicha gráfica. El ajuste de
regresión lineal simple a los datos produce el modelo ajustado
y se calcularon los residuales. En la figura 11.24 se presentan los residuales graficados contra
las mediciones de la densidad. Difícilmente se trata de un conjunto de residuales ideal o
satisfactorio, pues no muestran una distribución aleatoria alrededor del valor de cero. En
realidad, los agrupamientos de valores positivos y negativos sugerirían que se debe investigar
una tendencia curvilínea en los datos.
Para darnos una idea respecto a la suposición de error normal se dibujó una gráfica de
probabilidad normal de los residuales. Es el tipo de gráfica donde el eje horizontal representa la
función de distribución normal empírica en una escala que produce una gráfica con línea recta
cuando se grafica contra los residuales. En la figura 11.25 se presenta la gráfica de probabilidad
normal de los residuales. Esta gráfica no refleja la apariencia de recta que a uno le gustaría ver,
lo cual es otro síntoma de una selección errónea, quizá sobresimplificada, de un modelo de
regresión.

Los dos tipos de gráficas de residuales y, de hecho, el propio diagrama de dispersión, sugieren
que sería adecuado un modelo algo más complicado. Una posibilidad es usar un modelo con
transformación de logaritmos naturales, es decir, hay que elegir hacer la regresión de ln y contra
x, lo cual produce la regresión:
Para darse una idea de si el modelo transformado es más apropiado debemos considerar las
figuras 11.26 y 11.27, que muestran las gráficas de los residuales de la rigidez [es decir,
]] en comparación con las de la densidad. La figura 11.26 parece más cercana a
un patrón aleatorio alrededor del cero, en tanto que la figura 11.27 con seguridad se acerca más
a una línea recta. Esto, además de un valor de R 2 más elevado, sugeriría que el modelo
transformado es más apropiado.

11.12 CORRELACIÓN
Hasta este momento se ha supuesto que la variable regresora independiente x es una variable
científica o física en lugar de una variable aleatoria. En este contexto es frecuente que x se
denomine variable matemática, la cual, en el proceso de muestreo, se mide con un error
despreciable. En muchas aplicaciones de las técnicas de regresión es más realista suponer que
tanto X como Y son variables aleatorias y que las mediciones {(xi,yi);i = 1,2,...,n} son
observaciones de una población que tiene la función de densidad conjunta f (x, y). Debemos
considerar el problema de medir la relación entre las dos variables X y Y. Por ejemplo, si X y Y
representaran la longitud y la circunferencia de una clase particular de hueso en el cuerpo de
un adulto, podríamos realizar un estudio antropológico para determinar si los valores grandes
de X se asocian con valores grandes de Y, y viceversa.
Por otro lado, si X representa la antigüedad de un automóvil usado y Y representa su precio de
lista al menudeo, se esperaría que los valores grandes de X correspondan a valores pequeños
de Y y que los valores pequeños de X correspondan a valores grandes de Y. El análisis de
correlación intenta medir la fuerza de tales relaciones entre dos variables por medio de un solo
número denominado coeficiente de correlación.
Con frecuencia se supone que la distribución condicional f(y|x) de Y, para valores fijos de X, es
normal con media y varianza , y que, de igual manera, X se
distribuye de forma normal con media μ y varianza σ2 x. Entonces, la densidad conjunta de X y
Y es

Variable aleatoria Y en la forma

donde ahora X es una variable aleatoria independiente del error aleatorio . Como la media del
error aleatorio es cero, se deduce que

Al sustituir para α y σ2 en la expresión anterior para f (x, y), se obtiene la distribución normal
bivariada

La constante ρ (ro) se denomina coeficiente de correlación de la población y desempeña un

papel importante en muchos problemas de análisis de datos bivariados. La línea recta dada por
se sigue llamando recta de regresión, igual que antes, y los estimadores de β 0
y β1 se calculan de la misma manera. El valor de ρ es 0 cuando β1 = 0, que resulta cuando en
esencia no existe regresión lineal; es decir, cuando la recta de regresión es horizontal y
cualquier conocimiento de X es inútil para predecir Y. Como , se debe tener ρ2 ≤ 1 y,
por lo tanto, –1 ≤ ρ ≤ 1. Los valores de ρ ±1 sólo ocurren cuando σ2 = 0, en cuyo caso se tiene
una relación lineal perfecta entre las dos variables. Así, un valor de ρ igual a +1 implica una
relación lineal perfecta con pendiente positiva, en tanto que un valor de ρ igual a –1 resulta de
una relación lineal perfecta con pendiente negativa. Los estimadores muestrales de ρ con
magnitud cercana a la unidad implican una buena correlación o asociación lineal entre X y Y,
mientras que valores cercanos a cero indican poca o ninguna correlación.
La suma de los cuadrados del error es

Al dividir ambos lados de esta ecuación entre S yy y reemplazar Sxy con b1Sxx, se obtiene la
relación

Coeficiente de correlación
La medida ρ de la asociación lineal entre dos variables X y Y se estima por medio del coeficiente
de correlación muestral r, donde

11.13 POSIBLES RIESGOS Y ERRORES CONCEPTUALES

Cada vez que se considere utilizar la regresión lineal simple no sólo es recomendable elaborar
una gráfica de los datos, sino esencial. Siempre es edificante elaborar una gráfica de los
residuales ordinarios y otra de la probabilidad normal de los mismos. Todas esas gráficas están
diseñadas para detectar la transgresión de las suposiciones. El uso de los estadísticos t para
las pruebas sobre los coeficientes de regresión es razonablemente robusto para la suposición
de normalidad. La suposición de varianza homogénea es crucial y las gráficas de los residuales
están diseñadas para detectar una violación.