aln · 2016. 6. 7. · dos matrices (a y b) se dicen semejantes si (p no singular). las dos...

49
Versión 1.0 1 ALN - Valores y vectores propios In. Co. Facultad de Ingeniería Universidad de la República

Upload: others

Post on 14-Aug-2021

3 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 1

ALN -Valores y vectores propios

In. Co.

Facultad de Ingeniería

Universidad de la República

Page 2: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 2

Planteo del problema

Propiedades matemáticas

Método de las potencias Variantes

Transformaciones de semejanza Givens

Householder

Método QR

Matrices simétricas Jacobi

Sturm (tri-diagonales)

El problema generalizado

Page 3: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 3

Definición

Los vectores propios de una matriz A son

vectores v != 0, tal que 𝐴𝑣 = 𝜇𝑣 donde 𝜇 es un

escalar llamado valor propio de A.

En otras palabras:

Los vectores propios de A son vectores que no

cambian de dirección al ser transformados por A, sólo

cambian su magnitud o su sentido. El valor propio

asociado a un vector propio controla dicho cambio.

Page 4: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 4

0)det(0)(

0

IAvIAvAv

v

jjjjjj

j

0)det()( IAx jA

Dicho de otra forma, los valores propios de una

matriz son las raíces de su polinomio

característico:

Definición

Page 5: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 5

Propiedades

Surgen en gran número de problemas:

estabilidad de ecuaciones diferenciales,

fenómenos físicos (resonancia), estadística, etc.

Los valores propios nos dan mucha información

sobre una matriz

Ej: número de condición de una matriz!!

Page 6: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 6

La suma de los valores propios de una matriz es

igual a la traza de la matriz.

El producto de los valores propios de una matriz

es igual al determinante de la matriz.

n

i iin a121 ...

Propiedades

Page 7: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 7

Los valores propios de una matriz simétrica son

reales.

Una matriz definida positiva tiene valores propios

positivos.

Los valores propios de una matriz triangular son

los elementos de la diagonal.

Propiedades

Page 8: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 8

Dos matrices (A y B) se dicen semejantes si

(P no singular). Las dos matrices

poseen el mismo polinomio característico, tienen los

mismos valores propios y sus vectores propios cumplen

Si la matriz A es simétrica, la matriz P es ortogonal.

vvAvAv kk

vcvcIAvAv )()(

1/ PBPAP

BA Pxx

Propiedades

Page 9: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 9

Una matriz es diagonizable si es

semejante a una matriz diagonal.

La matriz D está formada por los valores

propios.

La matriz P está compuesta por los

vectores propios como columnas

Propiedades

Page 10: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 10

Una matriz ortogonal cumple que:

Las columnas son un conjunto ortonormal

El producto por Q mantiene la norma

El producto por Q mantiene el producto escalar

yxQyQx ,,

xQx

Propiedades

Page 11: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 11

Teorema de Gershgorin

Dada una matriz A, llamamos Ri a la región circular del

plano complejo con centro en aii y radio

nj

ijj

iji ar,1

Los valores propios de A están contenidos dentro de

La unión de cualesquiera k de estos círculos que sea

disjunta con los n-k restantes debe contener exactamente k

valores propios.

nj

jij

ijiii aazCzR,1

:

ni

i

iRR

1

Page 12: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 12

Ejemplo:

902

120

114

A

>> eig(A)

ans =

8.48534949329733

4.63182668375403

1.88282382294864

Teorema de Gershgorin

Page 13: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 13

Resolución de la ecuación

característica

0)det( IA j

Como ya se dijo, una primera forma de cálculo

de los valores propios es resolviendo el

polinomio:

Las raíces de un polinomio de alto grado es muy

sensible a perturbaciones en los coeficientes.

Transformamos el problema en mal condicionado

Page 14: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 14

Método de las potencias

n 321

Si se requiere de unos pocos valores (vectores)

propios, puede aplicarse el método de las

potencias.

El método asume que los valores propios

cumplen:

Page 15: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 15

Método de las potencias

nj

j

jjjnnn

nn

nj

j

jjnn

n

xxxx

xAxAxAAzz

Azz

xxxxz

xxx

1

222111

221101

01

1

22110

21

....

....

....

,.....,,

base de vectores propios

Page 16: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 16

Método de las potencias

nj

j

j

k

jjn

k

nn

kkkk

k

nj

j

jjjnnn

xxxxzAzAAz

xxxxzAAzAz

1

2221110

1

1

22

2

2

221

2

11

2

02

....)(

....)(

nj

j

jk

k

j

j

knj

j

jk

k

j

j

k

k xxxz

queNotese

2 1

111

1 1

1 )(

Page 17: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 17

Método de las potencias

kz

111

2 1

111 )(

xxxz

queNotese

knj

j

j

k

j

j

k

k

1Y el cociente de Rayleigh tiende a

Tiende a la dirección del vector propio x1

k

t

k

k

t

kk

zz

Azz

Page 18: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 18

finalizarmientras

z

zy

z

!

0

00

0

1

11

1

1

i

ii

i

t

i

i

t

i

i

t

ik

ii

z

zy

zyyy

Ayy

Ayz

Método de las potencias

Page 19: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.019

Método de las potencias

1

2

Observaciones:

•El criterio de fin puede involucrar al valor o al vector “propio”.

•Nunca fue necesario guardar la potencia de A

•La velocidad de convergencia está vinculada con el cociente

Si es próximo a uno, el progreso es lento.

•El método teóricamente falla si , pero en la práctica los

errores de redondeo afectan favorablemente.

•El número de operaciones requerido en cada paso depende

de la multiplicación Ayi. Es O(n2) en el caso de matrices llenas.

01

Page 20: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 20

Iteración inversa

Si se busca el valor propio con módulo

más pequeño puede utilizarse la misma

idea anterior pero con la matriz inversa.

Recordar que los valores propios de la

inversa de una matriz son los inversos de

los valores propios de dicha matriz.

Page 21: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 21

Iteración inversa

finalizarmientras

z

zy

z

!

0

00

0

1

11

1

1

i

ii

i

t

ii

ii

z

zy

zy

yAz

Page 22: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 22

Iteración inversa

1n

n

Observaciones:

• Hay que resolver un sistema lineal en cada paso.

• Se puede usar la descomposición LU.

• La velocidad de convergencia está determinada por el

coeficiente

Page 23: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 23

Iteración Inversa (con desplazamiento)

finalizarmientras

z

zy

z

!

0

00

0

1

11

1

1

* )(

i

ii

i

t

ik

ii

z

zy

zy

yzIA

•Si se busca un valor propio cercano a un valor *

Page 24: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 24

Deflación

Una vez encontrado el mayor valor propio, para

encontrar los demás se pueden utilizar técnicas

denominadas deflación.

Consisten en hallar otra matriz B que tenga los

mismos valores propios de A, excepto el ya

conocido.

Page 25: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 25

Sea valor propio con el vector v1

asociado y un vector x tal que

SeatxvAB 11

1

11 vxt

Deflación

Page 26: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 26

1. Comprobamos que 0 es valor propio de B

con vector propio

0)( 111

11111

v

vxvAvBv t

1v

Deflación

Page 27: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 27

Deflación

Utilizaremos los siguientes resultados sin

demostrarlos:

Los valores propios de la matriz AT son iguales a los

de A

Los vectores propios de A y AT que corresponden a

distintos valores propios son ortogonales entre sí.

2. Comprobamos que los demás valores

propios de A son valores propios de B

Page 28: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 28

Sea wi el vector propio asociado al valor propio

de AT.

Trasponemos y multiplicamos la ec. original por wi

Entonces los valores propios de A/AT

son también valores propios de B/BT

i

T

i

T

i

T wvxwAwB 11

i

iii

T

i

TwwBwv 01

1, ii

Deflación

Page 29: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 29

Transformaciones de semejanza

Como ya dijimos, si realizamos una transformación de

semejanza (mediante una matriz P no singular) la nueva

matriz mantiene los valores propios.

Buscan crear una matriz semejante para la cual sea más

sencillo hallar los valores propios.

Para evitar problemas numéricos se estila utilizar P

ortogonal.

Generalmente se lleva a una matriz de Hessenberg

mediante transformaciones de semejanza.

Page 30: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 30

Transformaciones de semejanza

Forma de Hessenberg (superior)

Los elementos distintos de cero pertenecen al triángulo

superior y a la primer diagonal inferior a la diagonal

principal.

19000

44600

61520

47055

13864

H

Page 31: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 31

Transformaciones de semejanza

por matrices ortogonales (unitarias)

Método de Givens (rotaciones)

Útiles para hacer aparecer 0’s en lugares puntuales

de la matriz

Reflexiones (matrices de Householder)

También hacen aparecer 0’s.

Para un vector y siempre existe una transformación

de Housholder H tal que: Hy=k*e, donde k es un

escalar y e es el primer vector canónico (1,0,…,0)

Page 32: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 32

Factorización QR

Toda matriz real se puede

descomponer (en forma única), en un

producto A=QR donde Q es ortogonal

(o unitaria) y R triangular superior.

Page 33: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 33

Si A es una matriz densa general nxn la

factorización QR tiene un costo de O(n3)

operaciones.

Si la matriz A es Hessenberg la matriz R

puede computarse usando rotaciones de

Givens en O(n).

Factorización QR

Page 34: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 34

Se basa en que es posible llevar cualquier matriz

A nxn a una matriz T triangular superior cuya

diagonal son los valores propios de A mediante

transformaciones unitarias.

U*AU = T se llama forma de Schur de A

La iteración QR utiliza la factorización QR para

llevar A a la forma de Schur.

Versiones eficientes de este método son

ampliamente utilizadas en la práctica.

Iteración QR para el problema

de valores propios

Page 35: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 35

Iteración QR

A1=A

Iterar

[Qk,Rk]=qr(Ak)

Ak+1=Rk*Qk

R=Q’Ak Ak+1=RQ=Q’AkQ

El limite Ak es una matriz triangular superior a bloques.

Si es simétrica es diagonal a bloques

Page 36: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 36

Iteración QR

Implica calcular una factorización QR en cada

paso.

Si la matriz es densa general el método se vuelve

poco práctico.

Antes de comenzar la iteración se suele reducir A

a una matriz Hessenberg que conserve los valores

propios de A mediante transformaciones de

similitud.

Page 37: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 37

QR21.74018588047121

20.68461694582636

8.63941921966259

0.00000000000000

2.21908728729055

1.71669066674931

4 1 1 4 1 1

0 22 1 0 2 1

-2 0 9 -2 0 9

4 1 1 4 1 1

0 2 1 0 2 1

-2 0 9 -2 0 14

Page 38: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 38

Con desplazamiento

La velocidad de convergencia se puede aumentar si se

incorporan desplazamientos:

Con una aproximación de un valor propio.

IQRA

IARQ

kkkk

kkkk

1

k

Iteración QR

Page 39: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 39

Extensión del método de las potencias

ii AXX 1

La iteración QR puede interpretarse como una

variación del método de las potencias.

En lugar de usar un solo vector se utiliza una

base ortonormal completa.

Page 40: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 40

Extensión del método de las potencias

ii

iii

AQX

XRQ

1

Se utiliza la factorización QR para re-ortonormalizar la

matriz que se multiplica por A.

Para A simétrica, el algoritmo converge a AQ=QD donde

D es diagonal y contiene los valores propios de A. Por lo

tanto, Q también contiene una base ortonormal de

vectores propios.

Page 41: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 41

Métodos basados en

subespacios de Krylov

El método QR se basa en un conjunto de

columnas ortonormal.

Otra opción es trabajar con una base del espacio

de Krylov

],..,,[ 000 xAAxx i

Page 42: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 42

Si obtenemos una matriz tal que

donde C es una matriz Hessenberg

CAKK nn 1

nnn KRQ

HCRRAQQ H

nnn

H

n

nK

Page 43: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 43

Iteración de Arnoldi

Esto se puede ir calculando de a una

columna!

Igualamos

Se llega a

],..,,[ 21 nn qqqQ

HQAQ nn

kkkkkkkk qhqhqhAq 111 ...

k

H

jjk Aqqh

Page 44: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 44

Iteración de Arnoldi

Utiliza un proceso de ortogonalización

(Similar a Gram-Schmidt)

Esto es costoso

Muy inestable

Luego se calculan los valores propios de H

Page 45: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 45

Iteración de Arnoldi

Page 46: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 46

Iteración de Lanczos

Para el caso de matrices simétricas (hermíticas)

H tridiagonal

Solo se necesitan tres coeficientes

Page 47: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 47

Iteración de Lanczos

Page 48: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 48

Método Sturm

Para matrices tridiagonales simétricas

El determinante se puede calcular desarrollando

por la última fila.

)()()()(

)()()()det(

2

2

11

11

nnnnn

nnnn

DbDaD

MbDaDIA

Page 49: ALN · 2016. 6. 7. · Dos matrices (A y B) se dicen semejantes si (P no singular). Las dos matrices poseen el mismo polinomio característico, tienen los mismos valores propios y

Versión 1.0 49

Método Sturm

Para cualquier número dado, se demuestra

que el número de coincidencias de signo entre

dos elementos sucesivos de es igual al

número de valores propios mayores que .

Si encontramos un intervalo en donde

varíe el número de valores propios mayores

podemos localizar el valor propio por ejemplo

con el método de bisección.

)(iD

21,