anÁlisis de regresiÓn lineal...

1Estadística IILicenciatura en Sociología

Autor: Prof. Rubén José Rodríguez

UNIVERSIDAD DE CIENCIAS EMPRESARIALES Y SOCIALESFacultad de Psicología y Ciencias Sociales

Licenciatura en Sociología

ESTADÍSTICA II (Plan 2008)

ANÁLISIS DE REGRESIÓN LINEAL MÚLTIPLE

Prof. TitularLic. Rubén José Rodríguez

21 de marzo de 2011



PRESENTACIÓNEl Análisis de Regresión Lineal Múltiple es una extensión del Análisis de RegresiónLineal Simple para más de dos variables métricas.En el presente documento académico -de 39 diapositivas- se introduce al concepto deCorrelación Múltiple desde la noción Correlación Parcial, y se brinda unavisualización de este concepto abstracto utilizando los diagramas de Venn. Luego sedefinen los conceptos y fórmulas de Coeficiente de Correlación Múltiple (R1.23 óRY.XZ), Coeficiente de Determinación Múltiple (R2), Coeficiente Beta de RegresiónParcial (B12.3), y también, Coeficiente Standarizados Beta (y su diferencias con losCoeficientes No Standarizados b), el Diagrama de dispersión tridimensional y elPlano de regresión múltiple. Por último, se expone el ejemplo (1) desarrollado porEtxcheverría (1999: 52-82) sobre la estimación de la ALTURA del chico a partir de laEDAD del chico y la ALTURA del padre. Se procesa el ejemplo con SPSS y semuestran las salidas típicas del comando Regresión Lineal. Y el ejemplo (2) deRegresiones Parciales: ALTURA del chico y EDAD del chico controlando el efectodel PESO del chico. Se obtienen las correlaciones de orden 0, orden 1, 2, etc. y loscoeficiente parciales y semi-parciales del ejemplo.Se escriben las ecuaciones de regresión múltiple con los coeficiente b nostandarizados, y con los coeficientes Beta standarizados.Finalmente, se presenta una bibliografía básica sobre el temaAutor: Lic. Rubén José Rodríguez



CORRELACIÓN PARCIAL Y MÚLTIPLE

Representan una extensión de la correlación lineal simple, aproblemas de tres o más variables.

La correlación entre dos variables (X Y) es aveces engañosa. La correlación espuria se producecuando una tercer variable (Z) está fuertementecorrelacionada con ambas:

La correlación inicial desaparece cuando se controla osuprime el efecto de esta tercer variable.

El peso y la estatura están fuertemente correlacionadas enforma positiva, porque covarian con la edad, cuando separcializa esta, la correlación puede caer hasta 0.

ZX

Y



CORRELACIÓN PARCIAL r12.3 ó r XY.Z : Técnica multivariada que se utiliza paraobtener una medida de correlación que elimine,suprima o controle el efecto de una tercer variable. Es la correlación residual entre dos variables cuandose ha eliminado o controlado la influencia común de unao más variables ajenas. Los números suscritos 12.3 significan que la 3 se haconstantizado, eliminado el efecto de la variable 3,dejando la correlación neta entre 1 y 2. Los números a la derecha del punto representanvariables cuya influencia han sido eliminados, controladoso dejado constantes. Permite calcular la ecuación de regresión múltiple :

0 1 1 2 2' * * ... *i jY b b X b X b X



FÓRMULA DE LA CORRELACIÓN PARCIAL

12 13 2312.3 2 2

13 23

*

1 * 1

r r rrr r



CÁLCULO DE LA CORRELACIÓN PARCIAL

Muchos atributos aumentan con la edad, desde los6 a los 18 años, la correlación entre puntajes de untest de inteligencia y habilidad psicomotora será altay positiva debido al factor común madurez. El factor edad puede controlarse manteniéndoseconstante la variabilidad, anulándose el efecto ‘edad’.X1= Test de Inteligencia r12= 0,55X2= Test Psicomotor r13= 0,60X3= Edad r23= 0,50

r12.3 = 0,36



VISUALIZACIÓN DE LA CORRELACIÓN PARCIAL

1

3 2

1

3 2

1

233 2

1



COEFICIENTE DE CORRELACIÓN MÚLTIPLER1.23 ó RY.XZ : El Coeficiente R (R múltiple)indica la fuerza de la relación entre una variabledependiente y otras independientes (2 o más)tomadas conjuntamente. El R se relaciona con la intercorrelación de lasvariables independientes (XZ) entre sí, así comotambién, con su correlación con la variabledependiente (Y). El R da la medida de la relación existente, deforma conjunta, entre la variable dependiente y elconjunto de las variables independientes. Mide lacorrelación existente entre la variable Y, y laspredicciones (Yi’) que hacemos de la misma mediantela ecuación de regresión.



COEFICIENTE DE DETERMINACIÓN MÚLTIPLE

R21.23 ó R2

Y.XZ : El Coeficiente R2 (Coeficiente deDeterminación Múltiple) permite calcular el porcentaje de lavariabilidad de la variable dependiente que, de forma conjunta,explican las variables independiente del modelo. R2 indica quéporcentaje de la Variancia Explicada sobre la Variancia Total dela variable Y está explicada por la variación de las variablesindependientes en conjunto

2'2

222

2'2

222

/ 1)Variancia de RegresiónVariancia Total de Y /

/ 1)Variancia Residual (Error)1 1 1

Variancia Total de Y / 1

iR

yi

i ie

yi

Y Y n kSRSY Y k

Y Y n kSRSY Y n



FÓRMULA DEL COEFICIENTE DEDETERMINACIÓN MÚLTIPLE

2 212 132 12 13 23

1.23 223

2 * *1

r r r r rRr



ECUACIÓN DE REGRESIÓN MÚLTIPLE y COEFICIENTES BETA DE REGRESIÓN

PARCIAL

12 13 2312.3 2

23

*1

r r rr

12.3 1 13.2 2' * * ... *i k kiY a X X X

0 1 1 2 2* * .... *cY k kz z z z



ECUACIÓN DE REGRESIÓN DE Yx e XyMÉTODO DE LAS DESVIACIONES DE LAS MEDIAS

• Las rectas obtenidas por el método de los desvíosrespecto de las medias fueron formuladas por KarlPearson de este modo: ,

,( ) ( )

Y x y X

x yY X

z r z

Y Y X XO sea: r

,

,

,

( )(

)

)

( )

(

x y

Yx y

X

Xx y

Y

YX

D espejando Y, tenem os:X X Y Y r

Y r X X Y

X

r Y Y X



PENDIENTES DEL PLANO DE REGRESIÓNCOEFICIENTES DE REGRESIÓN ESTANDARIZADOS (Beta)

MÉTODO DE LAS DESVIACIONES DE LAS MEDIAS

,x

yy x y

x

r

XXY

Y

sbs



COEFICIENTES DE REGRESIÓN ESTANDARIZADOS (Beta)

• Los Coeficiente de Regresión b están expresados en unidades de la variable e indican la magnitud de ´variación de Y por cada incremento unitario de X. No son comparables.

• Los coeficientes b se transforman en Coeficientes de Regresión estandarizados multiplicándolos por el cocientes de las respectivas DS. Son los Coeficientes Beta

• El coeficiente Beta informa de la contribución individual de cada variable independiente en la explicación de la variable dependiente. Mide la importancia relativa de cada VI en la explicación y predicción de la VD.

• Representan el incremento de la VI (en unidades DS) que se produce cuando aumenta una unidad DS el valor de la VI, mientras permanecen constantes las otras variables.



COEFICIENTES DE REGRESIÓN ESTANDARIZADOS (Beta)

• Los Coeficiente de Regresión b están expresados en unidades de lavariable (puntajes directos o brutos) e indican la magnitud de´variaciónde Y por cada incremento unitario de X. No son comparables.

• Los coeficientes b se transforman en Coeficientes de Regresiónestandarizados multiplicándolos por el cocientes de las respectivasDS. Son los Coeficientes Beta• El coeficiente Beta informa de la contribución individual de cadavariable independiente en la explicación de la variabledependiente. Mide la importancia relativa de cada VI en laexplicación y predicción de la VD.• Representan el incremento de la VD “X” (en unidades DS) que seproduce cuando aumenta una unidad DS el valor de la VI “Y”, mientrasse mantienen constantes las otras variables mediante CorrelacionesParciales (R12.3 o Rxy.z).



DIAGRAMA DE DISPERSIÓN TRIDIMENSIONALPLANO DE REGRESIÓN MÚLTIPLE



DIAGRAMA DE DISPERSIÓN TRIDIMENSIONALPLANO DE REGRESIÓN MÚLTIPLE

2 2 2

i i i iY Y Y´ Y´Y Y



Ejercicio 1Estimación de la ALTURA del Chico a partir de la EDAD del

Chico y la ALTURA del PadreResultados de SPSS (1)

MATRIZ DE CORRELACIÓN MÚLTIPLECorrelaciones

1 ,962** ,111*. ,000 ,040

339 339 339,962** 1 ,190**,000 . ,000339 339 339,111* ,190** 1,040 ,000 .339 339 339

Correlación de PearsonSig. (bilateral)NCorrelación de PearsonSig. (bilateral)NCorrelación de PearsonSig. (bilateral)N

edad del CHICO

altura del CHICO

altrua del PADRE

edad delCHICO

altura delCHICO

altrua delPADRE

La correlación es significativa al nivel 0,01 (bilateral).**.

La correlación es significante al nivel 0,05 (bilateral).*.

Etxcheberría, Juan (1999). Regresión Múltiple, Cuadernos de Estadística nº 4, Madrid: Editorial La Muralla-Hespérides. Capítulo 2: Regresión Múltiple, pp. 52-82.



Estimación de la ALTURA del Chico a partir de la EDAD del Chico y la ALTURA del Padre

Resultados de SPSS (2)REGRESIÓN MÚLTIPLE

Variables introducidas/eliminadasb

altrua delPADRE,edad delCHICO

a. Introducir

Modelo1

Variablesintroducidas

Variableseliminadas Método

Todas las variables solicitadas introducidasa.

Variable dependiente: altura del CHICOb.




Resultados de SPSS (3)Coef. CORRELACIÓN MÚLTIPLE: R1.23

Coef. DETERMINACIÓN MÚLTIPLE: R21.23

ERROR ESTÁNDAR DE LA ESTIMACIÓN: Se

Resumen del modelob

,966a ,932 ,932 6,609 1,323Modelo1

R R cuadradoR cuadradocorregida

Error típ. de laestimación

Durbin-Watson

Variables predictoras: (Constante), altrua del PADRE, edad del CHICOa.






ANOVAb

202721,992 2 101360,996 2320,531 ,000a

14676,510 336 43,680217398,501 338

RegresiónResidualTotal

Modelo1

Suma decuadrados gl

Mediacuadrática F Sig.

Variables predictoras: (Constante), altrua del PADRE, edad del CHICOa.


SC Regresión / SC Total = 202721,992 / 217398,501 = 0,932 =

COEFICIENTE de DETERMINACIÓN MÚLTIPLE




Resultados de SPSS (5) REGRESIÓN MÚLTIPLE

Coeficientes B (No estandarizados)Coeficientesa

35,708 9,302 3,839 ,0005,258 ,079 ,953 66,799 ,000

,319 ,055 ,083 5,851 ,000

(Constante)edad del CHICOaltrua del PADRE

Modelo1

B Error típ.

Coeficientes noestandarizados

Beta

Coeficientesestandarizad

ost Sig.

Variable dependiente: altura del CHICOa.

0 1 1 2 2' * * ... *i jY b b X b X b X ALTURA del chico = 35,708+5,298*EDAD del chico+0,319*ALTURA del padre




Resultados de SPSS (6) REGRESIÓN MÚLTIPLE

Coeficientes b Beta (Estandarizados)Coeficientesa

35,708 9,302 3,839 ,0005,258 ,079 ,953 66,799 ,000

,319 ,055 ,083 5,851 ,000


Modelo1

B Error típ.


Beta


ost Sig.


Z ALTURA del chico = 0 + 0,953 * Z EDAD del chico + 0,083 * Z ALTURA del padre

0 1 1 2 2* * .... *cY k kz z z z



Ecuación de regresión: ESTATURA = f (EDAD)Resultados de SPSS (7)

0 1 1 2 2* * .... *cY k kz z z z

bk: Es un coeficiente estandarizado (expresado en puntajes z = (X – ) / DS) y se define como el incremento de la Altura del chico (Yc o Y’ estimado) expresada en unidades de DS (puntaje z del Yc o Y’ ) por cada unidad de DS de la Edad del chico (Xo) expresada en unidades tipificadas (puntaje z), manteniendo constantes las otras variables (si hubiesen entrado en el modelo), se controlarían las influencias de el Peso del chico y la Estatura del padre. En el ejemplo, se espera que la Altura del chico aumente 0,953z por cada unidad de DS de la Edad del chico, manteniendo constantes la variable Altura del padre.También, se estima que la Altura del chico se incrementará 0,083 unidades de DS por cada unidad z que aumente la Edad del chicoLa coordenada al origen es igual a 0 dado que es el promedio de las puntuaciones típicas.

Coeficientes estandarizados b (Beta)

0

X

Coeficientesa

35,708 9,302 3,839 ,0005,258 ,079 ,953 66,799 ,000,319 ,055 ,083 5,851 ,000


Modelo1

B Error típ.


Beta


ost Sig.






Regresión Residuo tipificado

1,75

1,25

,75,25-,25

-,75

-1,25

-1,75

-2,25

-2,75

-3,25

-3,75

-4,25

-4,75

Histograma

Variable dependiente: altura del CHIFr

ecue

ncia

50

40

30

20

10

0

Desv. típ. = 1,00 Media = 0,00

N = 339,00



Estimación de la ALTURA del Chico a partir de la EDAD del Chico y la ALTURA del Padre ECUACIÓN DE REGRESIÓN MÚLTIPLE

X1= EDAD del Chico: 12 años

X2= ALTURA del Padre. 170 cm.

Y’ = a + b1*X1+ b2*X2

ALTURA = 35.708 + 5.258 * EDAD + 0,319 * ALTURA del Padre

ALTURA = 35.708 + 5.258 * 12 + 0,319 * 170 = 153 cm.

Y’ = a + β1*X1+ β2*X2

ALTURA =0 + 0,953*12 años + 0.083 * 170 cm.




Resultados de SPSS (10)DIAGRAMA DE DISPERSIÓN MÚLTIPLE

Gráfico convencional

UA chico

20 200

100

120

190

140

160

180

180

200

Altura del PADREEdad del CHICO17010 160150





Diagnósticos por casoa

-3,200 162-4,720 151-4,218 154

Número de caso314324330

Residuo tip.altura delCHICO




ALTURA del chico en función de la EDAD del chico y ALTURA del padreGráfico Interactivo

Resultados de SPSS (12)Plano de Regresión Múltiple

314

324330

Altura del CHICO = 35,71 + 5,26 * edad + 0,32 * padreR-cuadrado = 0,93

ALTURA = 35.708 + 5.258 * EDAD + 0,319 * ALTURA del Padre



Ejercicio 2Resultados SPSS (13)

Regresiones Parciales: ALTURA del Chico a partir de la EDAD del Chico controlando el efecto del PESO del chico

R12.3Variables introducidas/eliminadas b

Peso delCHICO, Edaddel CHICO

a . Introducir

Modelo1

Variablesintroducidas

Variableseliminadas Método

Todas las variables solicitadas introducidasa.

Variable dependiente: Altura del CHICOb.

Resumen del modelo

,974a ,950 ,949 5,712Modelo1

R R cuadradoR cuadradocorregida

Error típ. de laestimación

Variables predictoras: (Constante), Peso del CHICO, Edaddel CHICO

a.




Regresiones Parciales: ALTURA del Chico a partir de la EDAD del Chico controlando el efecto del PESO del chico

R12.3

ANOVAb

206436,303 2 103218,151 3163,717 ,000a

10962,199 336 32,626217398,501 338

RegresiónResidualTotal

Modelo1

Suma decuadrados gl

Mediacuadrática F Sig.

Variables predictoras: (Constante), Peso del CHICO, Edad del CHICOa.

Variable dependiente: Altura del CHICOb.




Regresiones Parciales: ALTURA del Chico a partir de la EDAD del Chico controlando el efecto del

PESO del chico Coeficientes B (No estandarizados)

R12.3

Coeficientes a

86,822 ,783 110,856 ,0003,286 ,174 ,596 18,913 ,000,573 ,045 ,398 12,636 ,000

(Constante)Edad del CHICOPeso del CHICO

Modelo1

B Error típ.


Beta


ost Sig.

Variable dependiente: Altura del CHICOa.

0 1 1 2 2' * * ... *i jY b b X b X b X ALTURA del chico = 86,822 + 3,286*EDAD del chico + 0,573*PESO del chico




Regresiones Parciales: ALTURA del Chico a partir de la EDAD del Chico

controlando el efecto del PESO del chicoCoeficientes Beta (Estandarizados)

R12.3

0 1 1 2 2' * * ... *i jY X X X

Coeficientes a

86,822 ,783 110,856 ,0003,286 ,174 ,596 18,913 ,000

,573 ,045 ,398 12,636 ,000

(Constante)Edad del CHICOPeso del CHICO

Modelo1

B Error típ.


Beta


ost Sig.


Z ALTURA del chico = 0 + 0,596 * Z EDAD del chico + 0,398 * Z PESO del chico




Regresiones Parciales: ALTURA del Chico a partir de la EDAD del Chico controlando el efecto del

PESO del chicoR12.3

Coeficientesa

,962 ,718 ,232,947 ,568 ,155

Edad del CHICOPeso del CHICO

Modelo1

Orden cero Parcial SemiparcialCorrelaciones


r12 = Correlación de orden 0. Correlación Lineal Simple.

R12.3 = Correlación Parcial de las variables 1 y 2 dejando constante 3.

R1(23)= Correlación Semiparcial. Es el incremento del coef. de Determinación que se produce al incluir una nueva variable en la ecuación de regresión. El cuadrado del coeficiente de correlación semiparcial de las variables 1 y 2 parcializando la influencia de la variable 3, viene definido como el incremento del coef. de Determinación al incluir la variable 3 en la ecuación de regresión.



Interpretación Correlaciones Parciales y Semiparciales (18)Coeficientesa

,962 ,718 ,232,947 ,568 ,155

Edad del CHICOPeso del CHICO

Modelo1

Orden cero Parcial SemiparcialCorrelaciones

Variable dependiente: Altura del CHICOa. Coef Determinación Múltiple: ALTURA-EDAD.PESO= 0,95. El 95% de la variación de la ALTURA está explicada por la variación conjunta de la EDAD y el PESO.

Coef. Determinación de la EDAD: Coef. de Correlación de orden cero de la EDAD al cuadrado: 0,9622=0,9258. Sólo la EDAD explica el 93% de los cambios de la ALTURA.

Coef. Determinación del PESO: Coef. de Correlación de orden cero del PESO al cuadrado: 0,9472=0,8968. Sólo el PESO explica el 89,68 de los cambios de la ALTURA.

Entre las dos explica el 95%. La EDAD sólo, el 92,54%, esto implica que al añadir como 2ª variable el PESO, incrementa la explicación el 2,46% (95,00%-92,54%=2,46%). Este sería el Coef. Determinación Semiparcial de EDAD y ALTURA parcializando la influencia del PESO



Ejercicio 2Resultados SPSS (19) Gráfico Convencional.

Diagrama de dispersión tridimensionalALTURA del chico en función de la EDAD del chico y

PESO del chico

l CHICO

20 100

100

120

140

80

160

180

200

60

Peso del CHICOEdad del CHICO10 4020



Gráfico Interactivo Plano de Regresión Múltiple

ALTURA del chico en función de la EDAD del chico y PESO del chico

290 324

Altura del CHICO = 86,82 + 3,29 * edad + 0,57 * pesoR-cuadrado = 0,95

ALTURA del chico = 0 + 0,596 * EDAD del chico + 0,398 * PESO del chico



Bibliografía Obligatoria Unidad temática 2: ANÁLISIS DE REGRESIÓN LINEAL MÚLTIPLE

• Rodríguez Jaume, María José y Mora Catalá, Rafael (2001). Análisis de Regresión Múltiple En Estadística Informática. Casos y ejemplos con el SPSS. Alicante: Publicaciones Universidad de Alicante. Capítulo 7, pp. 107-123.

• Pérez López, César (2004). Análisis de Regresión lineal y no lineal.En Técnicas Estadísticas con SPSS. Madrid: Pearson-Prentice Hall, 2001, Capítulo 9, pp. 309-356.

• Etxeberría, Juan (1999). Regresión Múltiple, Cuadernos de Estadística nº 4, Madrid: Editorial La Muralla-Hespérides. Capítulo 2: Regresión Múltiple, pp. 52-82.

• SPSS España (2002). Análisis de Correlación Lineal: Los procedi mientos Correlaciones bivariadas y Correlaciones parciales y Análisis de regresión lineal: El procedimientos Regresión lineal. EnGuía para el Análisis de Datos con SPSS 10.0, Capítulo 17, 20 pp. Y Capitulo 18:. 67 pp. http://www.ucm.es/info/socivmyt/paginas/D_departamento/materiales/datos_multivariante.htm

• Cea D’Ancona, María Ángeles (2003). Regresión Múltiple. En Análisis Multivariable. Teoría y Práctica en la Investigación Social. Madrid: Editorial. Síntesis, 2002, Capítulo 1, pp. 15-126.

anÁlisis de regresiÓn lineal...

Documents