regresion minimos cuadrados

--------------------------------------------------------

Materia: Métodos Matemáticos II

Maestría en Energía Renovable

-------------------------------------------------------

Temas:

*Regresión por Mínimos Cuadrados

------------------------------------------------------

Nombre de los estudiantes:

Aguilar Lira Jorge Luis

López Villeda Omar

Fecha de Entrega: 17/07/15

Profesora: Dra. Margarita Cunill Rodríguez

Cuatrimestre: mayo-agosto de 2015

Universidad Politécnica de Tulancingo

Maestría en Energías Renovables

Métodos Matemáticos II

Regresión por Mínimos Cuadrados

Introducción.

Los datos a menudo son dados para valores discretos a lo largo de un continuo. Sin embargo, se puede

requerir una estimación en puntos entre los valores discretos. Existen dos procedimientos generales para el

ajuste de curvas que se distinguen uno del otro con base en el grado de error asociado con los datos. Primero,

donde los datos exhiban un grado significativo de error o “ruido”, la estrategia será derivar una sola curva que

represente la tendencia general de los datos. Debido a que cualquier dato individual puede ser incorrecto,

no se necesita interceptar cada punto. En lugar de esto se designa la curva para seguir un patrón de los

puntos tomados como un grupo. Un procedimiento de esta naturaleza es llamado regresión por mínimos

cuadrados.

Segundo, donde se conoce que los datos son muy precisos, el procedimiento básico será ajustar a una curva

o a una serie de curvas que pasen directamente a través de cada uno de los puntos. Usualmente tales datos

se originan de tablas. Como ejemplos se tiene los valores de densidad del agua o la capacidad calorífica de

los gases en función de la temperatura. La estimación de valores entre puntos discretos bien conocidos es

llamada interpolación.

1. Investigue si existe alguna función propia de MatLab que permita realizar el ajuste por mínimos

cuadrados lineales. Demuestre con ejemplos como funciona.

La función polyfit(x,y,n) del Matlab calcula la aproximación lineal por mínimos cuadrados de un conjunto de

puntos dados en los vectores x e y. La aproximación lineal se logra haciendo n=1.

Ejemplo:

Para los datos:

xi=[1 2 3 4 5 6 7 8 9]

y=[0 3 4 -6 2 4 0 4 3]





>> xi=[1 2 3 4 5 6 7 8 9];

>> yi=[0 3 4 -6 2 4 0 4 3];

>> polyfit(xi,yi,1)

ans =

0.2833 0.1389

>> x=-3:0.1:10;

>> f=(0.2833*x+0.1389);

>> plot(x,f)

>> hold on

>> plot(xi,yi,'ro')

>> grid on

Para los puntos:

xi=[1 2 3 4 5 6 7]

yi=[0.5 2.5 2 4 3.5 6 5.5]

>> xi=[1 2 3 4 5 6 7];

>> yi=[0.5 2.5 2 4 3.5 6 5.5];

>> polyfit(xi,yi,1)

ans =

0.8393 0.0714

>> x=-3:0.01:10;

>> f=(0.8393*x+0.0714);

>> plot(xi,yi,'ro')

>> hold on

>> plot(x,f)

>> grid on





2. Con uno de los ejemplos usados para encontrar el polinomio de Lagrange:

a) Encuentre el polinomio de Lagrange y grafíquelo

INTERPOLACION "POLINOMIO DE LAGRANGE"

Ingrese los puntos pertenecientes a las x: [0 0.25 0.5 0.75 1]

Ingrese los puntos pertenecientes a las y: [0.9162 0.8109 0.6931 0.5596 0.4055]

L0:

(32*(x - 1)*(x - 1/2)*(x - 1/4)*(x - 3/4))/3

L1:

-(128*x*(x - 1)*(x - 1/2)*(x - 3/4))/3

L2:

64*x*(x - 1)*(x - 1/4)*(x - 3/4)

L3:

-(128*x*(x - 1)*(x - 1/2)*(x - 1/4))/3

L4:

(32*x*(x - 1/2)*(x - 1/4)*(x - 3/4))/3

POLINOMIO INTERPOLANTE:

4581/5000 - (1303*x^2)/15000 - (13*x^3)/1875 - (34*x^4)/1875 - (11963*x)/30000

b)Encuentre el polinomio ajustado mediante el método de minimos cuadrados y grafíquelo

>> polyfit(xi,yi,1)

ans =

-0.509080000000000 0.931600000000000

>> x=0:0.01:5;

>> f=4581/5000 - (1303*x.^2)/15000 - (13*x.^3)/1875 - (34*x.^4)/1875 - (11963*x)/30000;

>> subplot(2,1,1)

>> hold on

>> plot(x,f)

>> plot(xi,yi,'ro')

>> grid on

>> f2=-0.509080000000000*x+0.931600000000000;

>> subplot(2,1,2)

>> plot(x,f2)

>> hold on

>> plot(xi,yi,'ro')

>> grid on





Como se puede observar, las gráficas tienen similitud en el intervalo de 0 a 1, conforme va aumentando el

valor de xi, la interpolación de Lagrange nos describe una curva, debido a que con este método se tiene un polinomio de 4to. grado. Esto podria ocasionar errores en valores mas altos de xi, ya que la curva se va a ir alejando mas de los posible valores reales. En cambio la regresion lineal, nos da una recta que se ajusta a los valores de xi y podría tener un menor porcentaje de error.

3. Explique el procedimiento de mínimos cuadrados para un polinomio de segundo grado y

resuelva el ejemplo usando la función en Matlab encontrada.

En la sección 17.1 se desarrolló un procedimiento para obtener la ecuación de una línea recta por medio del

criterio de mínimos cuadrados. Algunos datos de ingeniería, aunque exhiben un patrón marcado como el que

se vio en la figura 17.8, está pobremente representado por una línea recta. Para esos casos, una curva podría

ser más adecuada para el ajuste de los datos. Como se analizó en la sección anterior, un método para cumplir

con este objetivo es usar transformaciones. Otras alternativas son ajustar polinomios con los datos mediante

regresión de polinomios.

El procedimiento de mínimos cuadrados se puede fácilmente extender al ajuste de datos con un polinomio

de orden superior. Por ejemplo, suponga que ajustamos un polinomio de segundo orden o cuadrático:





Para este caso la suma de los cuadrados de los residuos es:

Siguiendo el procedimiento de la sección anterior, tomamos la derivada de la ecuación (17.18) con respecto

de cada uno de los coeficientes desconocidos del polinomio, como en

Estas ecuaciones se pueden igualar a cero y reordenar para desarrollar el siguiente conjunto de ecuaciones

normal:

Donde todas las sumatorias son de i = 1 hasta n. Observe que las tres ecuaciones anteriores son lineales y

tienen tres incógnitas: a0, a1 y a2. Los coeficientes de las incógnitas se pueden evaluar de manera directa a

partir de los datos observados. Para este caso, vemos que el problema de determinar un polinomio por

mínimos cuadrados de segundo orden es equivalente a resolver un sistema de tres ecuaciones lineales

simultáneas. Las técnicas para resolver tales ecuaciones fueron analizadas en la parte tres. El caso en dos

dimensiones puede extenderse con facilidad a un polinomio de m-ésimo orden como

El análisis anterior se puede fácilmente extender a este caso más general. Así, podemos reconocer que la

determinación de los coeficientes de un polinomio de m-ésimo orden es equivalente a resolver un sistema

de m + 1 ecuaciones lineales simultáneas. Para este caso, el error estándar se formula como





Esta cantidad es dividida entre n — (m + 1), ya que (m + 1) coeficientes obtenidos de los datos (a0, a0, a1, am)

se usaron para calcular Sr, así, hemos perdido m + 1 grados de libertad. Además del error estándar, un

coeficiente de determinación puede ser calculado para una regresión de polinomios con la ecuación (17.10).

a) Grafique en una misma figura los datos y la curva de ajuste. Comente los resultados estadísticos

encontrados.

>> xi=[0 1 2 3 4 5];

>> yi=[2.1 7.7 13.6 27.2 40.9 61.1];

>> polyfit(xi,yi,2)

ans =

1.860714285714284 2.359285714285721 2.478571428571420

>> x=0:0.1:10;

>> f=1.860714285714284*x.^2+2.359285714285721*x+2.478571428571420;

>> plot(x,f)

>> hold on

>> plot(xi,yi,'ro')

>> grid on





Conclusión. Donde se ocasiona errores sustanciales con los datos, la interpolación polinomial es inapropiada y puede dar

resultados insatisfactorios cuando se usa para predecir valores intermedios.

Para hacer a un lado esta subjetividad se debe concebir unos criterios con el fin de establecer una base para

el ajuste. Una forma de hacerlo es derivar una curva que minimice la discrepancia entre los puntos y la curva.

La regresión por mínimos cuadrados es una técnica diseñada para cumplir con tal objetivo.

regresion minimos cuadrados

Documents