roberto carlos cabrales dpto. de ciencias b asicas u. del ... · espacios vectorialesproyecciones...

30
Espacios vectoriales Proyecciones ortogonales y m´ ınimos cuadrados Determinantes Vectores y valores propios ´ Algebra lineal Roberto Carlos Cabrales Dpto. de Ciencias B´ asicas U. del B´ ıo-B´ ıo, Chile. [email protected] https://rcabrales.wordpress.com 2do semestre de 2015. ´ Ultimaactualizaci´on: Lunes 16 de Noviembre de 2015.

Upload: others

Post on 18-Oct-2020

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Algebra lineal

Roberto Carlos Cabrales

Dpto. de Ciencias BasicasU. del Bıo-Bıo, Chile.

[email protected]

https://rcabrales.wordpress.com

2do semestre de 2015.Ultima actualizacion: Lunes 16 de Noviembre de 2015.

Page 2: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Espacios vectoriales y subespacios, 1

Consideramos el espacio euclideo n dimensional definido por

Rn =

x1

x2

...xn

: xi es un numero real para todo i = 1, 2, . . . , n

.

En este conjunto se definen dos operaciones que son la suma y la multiplicacion porescalar, las cuales tienen las siguientes propiedades:

Propiedades de la sumaS1. Si x , y ∈ Rn entonces x + y ∈ Rn.S2. Para todo x , y ∈ Rn se tiene x + y = y + x .S3. Para todo x , y , z ∈ Rn se tiene que x + (y + z) = (x + y) + z .S4. Existe un unico vector llamado vector cero y denotado por 0 tal quex + 0 = 0 + x = x para todo x ∈ Rn.S5. Para cada vector x ∈ Rn existe un unico vector llamado inverso aditivo de xdenotado −x tal que x + (−x) = (−x) + x = 0.

Page 3: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Espacios vectoriales y subespacios, 2

Propiedades de la multiplicacion por escalarM1. Si x ∈ Rn y α ∈ R entonces αx ∈ Rn.M2. Para todo x ∈ Rn se tiene que 1x = x .M3. Para todos los escalares α, β ∈ R y todo x ∈ Rn se tiene que(αβ)x = α(βx) = β(αx).M4. Para todos los vectores x , y ∈ Rn y todo escalar α ∈ R se tieneα(x + y) = αx + αy .M5. Para todos los escalares α, β ∈ R y todo x ∈ Rn se tiene que (α+β)x = αx +βx .

De forma mas general, si V es un conjunto no vacıo y K es R o C, y se definen unaoperacion entre elementos de V (suma) y una operacion entre elementos de V y de Ro C (multiplicacion por escalar) y dichas operaciones cumplen las propiedades S1 a S5y M1 a M5, entonces la terna (V ,+, ·) se llama espacio vectorial sobre R o C.Sea V un espacio vectorial. Un subconjunto no vacıo S de V se llama un subespaciovectorial de V si

1. es cerrado con respecto a la suma, es decir, si x , y ∈ S entonces x + y ∈ S .

2. es cerrado con respecto a la multiplicacion por escalar, es decir, si x ∈ S y α esun escalar entonces αx ∈ S .

Page 4: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Espacios vectoriales y subespacios, 3

Sea T = {v1, . . . , v r} ⊂ V . Una combinacion lineal de los vectores de T es un vectorde la forma

v = t1v1 + · · ·+ trv r , donde ti son escalares.

Si V es un espacio vectorial y T = {v1, . . . , v r} entonces el conjunto formado portodas las combinaciones lineales de elementos de T es un subespacio de V , llamadosubespacio generado por T y se denota por genT o gen{v1, . . . , v r}.

Si A ∈Mm×n(R) y b ∈ Rm, entonces el sistema Ax = b es soluble si y solo si b esuna combinacion lineal de las columnas de A. Mas aun, el conjunto de todos losvectores b ∈ Rm tales que Ax = b es soluble es un subespacio de Rm. Masexactamente, el subespacio de Rm generado por las columnas de A, y se llama espaciocolumna de A y se denota C(A).

Sea A ∈Mm×n(R). El conjunto solucion del sistema homogeneo Ax = 0 es unsubespacio de Rn, llamado espacio nulo de A y se denota N (A).

Page 5: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Independencia lineal, bases y dimension, 1

Sea S = {v1, . . . v r} un subconjunto de un espacio vectorial V . Decimos que S eslinealmente dependiente (L.D.) si existen escalares c1, . . . , cr no todos iguales a cerotales que c1v1 + c2v2 + · · ·+ crv r = 0. En caso contrario, diremos que S eslinealmente independiente (L.I.) .

Para determinar si un conjunto S es L.I., se estudia la solucion de la ecuacionc1v1 + c2v2 + · · ·+ crv r = 0. Si la unica solucion es la trivial, entonces S es L.I., sihay otras soluciones es L.D.

Sea S un subconjunto finito de un espacio vectorial V . Entonces

1. Si S consta de dos o mas vectores entonces S es L.D. si y solo si existe al menosun vector de S que es C.L. de los otros.

2. Si S contiene al vector nulo, S es L.D.

3. Si S contiene exactamente dos vectores entonces S es L.D. si solo si uno de losvectores es multiplo escalar de otro.

4. Si S contiene un slo vector diferente de cero, entonces S es L.I.

Sea S = {v1, . . . , vn} ⊂ Rn y A la matriz cuyas columnas son los vectores de S . Elconjunto S es L.I. si y solo si el sistema homogeneo Ax = 0 tiene unicamente lasolucion trivial.

Page 6: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Independencia lineal, bases y dimension, 2

En particular:

1. Si A ∈Mm×n(R) las columnas de A son L.I. si y solo si r(A) = n.

2. Si A ∈Mm(R), A es invertible si y solo si las columnas de A son L.I.

3. Si A ∈Mm(R), A es invertible si y solo si las filas de A son L.I.

4. En Rm todo conjunto con mas de m vectores es L.D.

Si U es una matriz en la forma escalonada:

1. Las filas no nulas de U son L.I.

2. Las columnas de U que contienen pivote son L.I.

Sea S un subconjunto de un espacio vectorial V . Entonces

1. Si S = {v1, . . . , v r} es L.I. y v ∈ V \ gen{S}, entonces S ′ = {v1, . . . , v r , v} esL.I.

2. Si S = {v1, . . . , v r} es L.I y v = c1v1 + · · ·+ civ i + · · ·+ crv r con ci 6= 0entonces S ′ = {v1, . . . , v , . . . , v r} es L.I. y gen{S ′} = gen{S}.

3. Si en S un vector es C.L. de los otros, entonces el conjunto S ′ obtenido de S aldescartar el vector v es tal que gen{S ′} = gen{S}.

Page 7: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Independencia lineal, bases y dimension, 3

Una base para un espacio vectorial V es un subcojunto de V tal que

1. B es L.I.

2. gen(B) = V .

Si B = {v1, . . . , v r} es una base para un espacio vectorial V , cada vector v ∈ V sepuede representar de manera unica como una C.L. de los elementos de la base B.Ningun conjunto que contenga menos de n vectores general a Rn. Mas aun, si V es un

espacio vectorial y una base para V consta de n vectores entonces toda base de Vtiene exactamente n vectores. Sea V es un espacio vectorial. Si V 6= {0}, el numero

de elementos de cualquier base de V se llama dimension de V y se denota dim(V ). SiV = {0}, se dice que la dimension de V es cero. Sean V un espacio vectorial de

dimension n y S un subconjunto finito de V con al menos un vector no nulo. Entonces

1. Si S es L.I., existe una base para V que contiene al conjunto S .

2. Si gen(S) = V , existe una base para V que esta contenida en S .

En particular, si dim(V ) = n, entonces ningun subconjunto de V que contenga menosde n vectores, genera a V y si H es un subespacio de V entonces dim(H) ≤ dim(V ).

Page 8: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Independencia lineal, bases y dimension, 4

Como hallar una base a partir de un conjunto L.I.

Tenemos dos metodos:

Metodo 1 Si S = {v1, . . . , v r} es L.I., se calcula el subespacio generado por S y seelige un vector v r+1 ∈ V \ gen(S). Entonces el conjunto S1 = v1, . . . , v r , v r+1} es L.I.Si gen(S1) 6= V se repite el proceso con S1 y asi sucesivamente.

Metodo 2 Basta elegir una base de V e ir sustituyendo cada uno de los elementos de laesta por los elementos de S , de tal forma que en cada paso, el conjunto que nos quedesea L.I.. El procesos termina cuando se hayan sustituido todos los elementos de S .

Si V es un espacio vectorial de dimension n, entonces

1. Todo subconjunto L.I. de V que contenga exactamente n vectores es base de V .

2. Todo subconjunto que genere a V y contenga exactamente n vectores es unabase de V .

Page 9: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Los cuatro subespacios fundamentales, 1

Sea A ∈Mm×n(R).El espacio columna de A se define como

C(A) = gen{A(1),A(2), . . . ,A(n)} = {b ∈ Rm : el sistema Ax = b es soluble}.

El espacio nulo de A se define como

N (A) = {z ∈ Rn : z es solucion del sistema Ax = 0}.

El espacio fila de A se define como el espacio generado por los vectores que aparecencomo las filas de A:

R(AT ) = gen{A1,A2, . . . ,Am}.

El espacio nulo izquierdo de A se define como

N (AT ) = {z ∈ Rm : z es solucion del sistema AT y = 0}.

Veremos como calcular una base y la dimension de cada uno de estos subespacios.

Page 10: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Los cuatro subespacios fundamentales, 2

Base y dimension para el espacio fila

Sea A ∈Mm×n(R) y U la matriz escalonada superior que se obtiene desde Amediante operaciones elementales. Entonces

1. El espacio de fila de A y U son iguales, es decir, R(A) = R(U).

2. Una base para el espacio fila de A esta formada por los vectores que aparecencomo filas no nulas de la matriz escalonada U.

3. dimR(A) = r(A).

Base y dimension para el espacio nulo

Sea A ∈Mm×n(R) y U la matriz escalonada superior que se obtiene desde Amediante operaciones elementales. Entonces

1. El espacio nulo de de A y U son iguales, es decir, N (A) = N (U).

2. Una base para el espacio nulo de A puede obtenerse como sigue: por cadavariables libre en el sistema reducido Ux = 0, se construye un vector de la base,dando a esa variable el valor 1 y a las restantes variables libres el valor 0, ycalculando en estos valores las variables basicas.

3. dimN (A) = n − r(A).

Page 11: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Los cuatro subespacios fundamentales, 3

Base y dimension para el espacio columna

Sea A ∈Mm×n(R) y U la matriz escalonada superior que se obtiene desde Amediante operaciones elementales. Entonces

1. Si c1, c2, . . . , cn ∈ R entonces

c1U(1) +c2U

(2) +· · ·+cnU(n) = 0, si y solo si c1A

(1) +c2A(2) +· · ·+cnA

(n) = 0.

2. Por cada conjunto de columnas de U que sea L.I., las correspondientes columnasde A tambien son L.I.

3. Cada columna de U que no contiene pivote es una C.L. de las columnas de U quecontienen pivote.

4. En A, cada columna que corresponde a columna sin pivote en U, es una C.L. delas columnas de A correspondientes a columnas con pivote en U.

5. Una base de C(A) esta formada por las columnas de A, correspondientes aaquellas columnas de U que contienen pivote.

6. dim C(A) = r(A).

En general C(A) 6= C(U).

Page 12: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Los cuatro subespacios fundamentales, 4

Base y dimension para el espacio nulo izquierdo

Sea A ∈Mm×n(R) tal que r(A) = r , P un matriz de permutacion, L una matriztriagular inferior con diagonal unitaria y U la matriz escalonada superior que seobtiene desde A mediante operaciones elementales, tales que PA = LU. Entonces

1. dimN (AT ) = m − r(A).

2. Una base para el espacio nulo izquierdo de A, esta dada por los vectores queaparecen como las ultimas m − r filas de la matriz L−1P.

Teorema fundamental del Algebra Lineal, parte 1

Para cada matriz A ∈Mm×n(R), se tiene

1. dim C(A) = r(A) = dimR(A).

2. dimR(A) + dimN (A) = n.

3. dim C(A) + dimN (AT ) = m.

Page 13: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Ortogonalidad de vectores y subespacios, 1

Sean x = (xj ), y = (yj ),vectores de Rn. El producto escalar de x e y es

xT y =[

x1 x2 · · · xn]

y1

y2

...yn

= x1y1 + x2y2 + · · ·+ xnyn.

Propiedades Sean α ∈ R y x , y , z ∈ Rn. Entonces

1. xT y = yT x .

2. (αx)T y = α(xT y) = xT (αy).

3. xT (y + z) = xT y + xT z .4. (x + y)T z = xT z + yT z .5. xT x ≥ 0.

6. xT x = 0 si y solo si x = 0.

Page 14: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Ortogonalidad de vectores y subespacios, 2

Sea x = (xj ) un vector de Rn. La longitud o norma del vector x se define como

‖x‖ =√

xT x =√

x21 + x2

2 + · · ·+ x2n .

Propiedades Sean α ∈ R y x , y , z ∈ Rn. Entonces

1. ‖x‖ ≥ 0.

2. ‖x‖ = 0 si y solo si x = 0.

3. ‖αx‖ = |α|‖x‖.4. ‖x + y‖ ≤ ‖x‖+ ‖y‖, llamada desigualdad triangular.

5. |‖x‖ − ‖y‖| ≤ ‖x − y‖.6. |xT y | ≤ ‖x‖‖y‖, llamada desigualdad de Cauchy-Schwarz.

Si x , y ∈ Rn \ {0}, al unico angulo θ ∈ [0, π] tal que cos θ =xT y‖x‖‖y‖

se llama el angulo

entre los vectores x e y . Si x = 0 o y = 0 diremos que el angulo entre x e y es π2

.

Decimos que x es ortogonal a y si xT y = 0.

• Teorema de Pitagoras x es ortogonal a y si y solo si ‖x‖2 + ‖y‖2 = ‖x + y‖2.

• Si S = {v1, v2, . . . , vk} es un conjunto de vectores no nulos de Rn y mutuamenteortogonales, es decir, vT

i v j = 0 si i 6= j entonces S es L.I.

Page 15: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Ortogonalidad de vectores y subespacios, 3

Si V y W son subespacios de Rn, decimos que V es ortogonal a W , si cada vector deV es ortogonal a todos los vectores de W , es decir, si para cada v ∈ V se tiene quevTw = 0 para todo w ∈W .

Para probar que dos subespacios V y W de Rn son ortogonales, es suficiente probarque cada vector de una base de V es ortogonal a todos los vectores de una base de W .

Si U y W son subespacios ortogonales de Rn, entonces U ∩W = {0}.

Si A ∈Mm×n(R), entonces

1. El espacio fila de A y el espacio nulo de A son subespacios ortogonales de Rn.

2. El espacio columna de A y el espacio nulo izquierdo de A son subespaciosortogonales de Rm.

Sea H un subespacio de Rn. El conjunto formado por todos los vectores de Rn que sonortogonales a todos los vectores de H se llama complemento ortogonal de H y sedenota H⊥. Es decir

H⊥ = {x ∈ Rn : xTh = 0, para todo h ∈ H}.

H⊥ es un subespacio vectorial de Rn.

Page 16: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Ortogonalidad de vectores y subespacios, 4

Teorema fundamental del algebra lineal, parte 2

Para toda matriz A ∈Mm×n(R) se tiene que:

1. El complemento ortogonal del espacio fila es el espacio nulo:(R(A))⊥ = N (A).

2. El complemento ortogonal del espacio nulo es el espacio fila: (N (A))⊥ = R(A).

3. El complemento ortogonal del espacio columna es el espacio nulo izquierdo:(C(A))⊥ = N (AT ).

4. El complemento ortogonal del espacio nulo izquierdo de A es el espacio columnade A: (N (AT ))⊥ = C(A).

Para todo subespacio H de Rn, se tiene:

1. dimH + dimH⊥ = n.

2. Si H 6= {0}, la union de una base de H y una base de H⊥ es una base para Rn.

3. Si V y W son subespacios de Rn tales que V es ortogonal a W ydimV + dimW = n, entonces V⊥ = W y W⊥ = V .

4. Todo vector b ∈ Rn se puede expresar de manera unica como b = h1 + h2 conh1 ∈ H y h2 ∈ H⊥.

h1 se llama la proyeccion ortogonal sobre H y h2 la proyeccion ortogonal sobre H⊥. Sedenotan proyHb y proyH⊥b, respectivamente.

Page 17: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Ortogonalidad de vectores y subespacios, 5

Si H es un subespacio de Rn y b ∈ Rn, entonces:

1. proyHb es el unico vector de H tal que b − proyHb es ortogonal a todos losvectores de H. La norma de este vector, es decir el numero ‖b − proyHb‖, es ladistancia de b al subespacio H.

2. b = proyHb + proyH⊥b.

3. ‖b‖2 = ‖proyHb‖2 + ‖proyH⊥b‖2.

Sea H = gen{a} con a ∈ Rn \ {0} entonces proyHb =

[aTbaTa

]a. Este vector se llama

la proyeccion ortogonal de b sobre a y lo denotamos por proyab.

Figura: Esquema de las relaciones entre los subespacios fundamentales.

Page 18: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Mınimos cuadrados en una variable

Dado un conjunto de puntos (tk , zk ), k = 1, . . . ,m queremos encontrar la ecuacion dela recta y = Dx que mejor se ajuste a dichos puntos, es decir aquella recta queminimice la expresion del error E dada por

E = E(D) = ‖b−Da‖ =

[m∑

k=1

(zk − Dtk )2

]1/2

=[(z1 − Dt1)2 + . . .+ (zm − Dtm)2

]1/2,

donde a = [t1, · · · , tm] y b = [z1, · · · , zm]. Usando calculo diferencial la solucion es

x =aTbaTa

, lo que nos da el error E(x) = ‖b − xa‖.

Figura: Ilustracion del problema de los minimos cuadrados en 1 variable

Page 19: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Mınimos cuadrados lineales en varias variables, 1

Sean A ∈Mm×n(R) y b ∈ Rm. La proyeccion ortogonal de b sobre el espacio columnade A, es el unico vector de C(A) que tiene la propiedad de que su distancia a b esmenor que la distancia de cualquier otro vector del espacio columna de A al vector b.

Figura: Ilustracion de la solucion en terminos de los mınimos cuadrados del sistema Ax = b

Toda solucion del sistema Ax = p = proyC(A)b se llama una solucion en terminos delos mınimos cuadrados del sistema Ax = b.

Page 20: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Mınimos cuadrados lineales en varias variables, 2

Lo que se trata de hacer, es minimizar la funcion error

E : Rn → Rx 7→ E(x) = ‖b − Ax‖.

Sea A ∈Mm×n(R) y p = proyC(A)b. Entonces x0 es solucion de Ax = p si y solo si

x0 es solucion del sistema de ecuaciones normales ATAx = ATb.

Para encontrar las soluciones en terminos de los mınimos cuadrados del sistemaAx = b, es decir, los puntos donde se minimiza el error E(x) = ‖b − Ax‖, bastaresolver el sistema de ecuaciones normales ATAx = ATb.

Sea A ∈Mm×n(R). Entonces

1. ATA es simetrica.

2. N (ATA) = N (A).

3. r(ATA) = r(A).

4. Si A tiene columnas L.I. entonces ATA es invertible.

Page 21: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Matrices de proyeccion ortogonal. Conjuntos ortogonales. 1

Sea M ∈Mm(R). M es simetrica (M = MT ) y M es idempotente (M2 = M) si y solosi M proyecta ortogonalmente cada vector b ∈ Rm sobre el espacio columna de M,C(M). M se llama matriz de proyeccion ortogonal.

Sea A ∈Mm×n(R) tal que r(A) = n y P = A(ATA)−1AT .

1. C(P) = C(A).

2. P es simetrica e idempotente.

Sean x1, x2, . . . , xn ∈ Rn.

1. Decimos que los vectores x1, x2, . . . , xn son ortogonales (o que el conjunto{x1, x2, . . . , xn} es ortogonal) si xT

i x j = 0 para i 6= j .

2. Decimos que los vectores x1, x2, . . . , xn son ortonormales (o que el conjunto{x1, x2, . . . , xn} es ortogonormal) si

xTi x j =

{0 para i 6= 0,

1 para i = j

Page 22: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Matrices de proyeccion ortogonal. Conjuntos ortogonales. 2

Sea A ∈Mm×n(R).

1. Las columnas de A son ortonormales si y solo si ATA = In.

2. Si las columnas de A son ortonormales entonces2.1 Para cada b ∈ Rm, la mejor solucion x del sistema Ax = b en terminos de los minimos

cuadrados es x = ATb.2.2 La matriz de proyeccion ortogonal sobre C(A) esta dada por

P = AAT = a1aT1 + a2a

T2 + · · · + ana

Tn .

2.3 Para cada b ∈ Rm, la proyeccion ortogonal de b sobre C(A) se puede expresar como lasuma de las proyecciones individuales de b sobre las rectas ortogonales de Rm generadaspor las columnas de A, es decir

proyC(A)b = proya1b + proya2

b + · · · + proyanb.

Q ∈Mn(R) es una matriz ortogonal si las columnas de Q son vectores ON. Ademas

1. La matriz Q es ortogonal si y solo si Q es invertible y Q−1 = QT .

2. La matriz Q es ortogonal si y solo si las filas de Q son ortonormales.

3. Si Q es matriz ortogonal entonces, para todo x , y ∈ Rn se tiene

• (Qx)T (Qy) = xT y .

• ‖Qx‖ = ‖x‖.

• El angulo entre Qx y Qy es igual al angulo entre x e y .

Page 23: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Matrices ortogonales y el proceso de Gram-Schmidt

Sean a1, a2, . . . , an ∈ Rn vectores L.I. Sean

v1 = a1,

v2 = a2 −vT

1 a2

v1Tv1v1,

...

vn = an −vT

1 an

v1Tv1v1 −

vT2 an

v2Tv2v2 − · · · −

vTn−1an

vn−1Tvn−1vn−1.

Entonces

1. v1, . . . , vn son vectores mutuamente ortogonales y no nulos.

2. gen{a1, a2, . . . , ai} = gen{v1, v2, . . . , v i} para todo i = 1, 2, . . . , n.

3. Si q i = v i‖v i‖

con i = 1, 2, . . . , n entonces {q1, q2, . . . , qn} es base ortonormal

para el subespacio generador por a1, a2, . . . , an.

Sea A ∈Mm×n(R) de columnas de A son L.I. entonces existen matricesQ ∈Mm×n(R) de columnas ortonormales y R ∈Mn(R) triangular superior einvertible tales que A = QR. En este caso

1. Para cada vector b ∈ Rm la mejor solucion del sistema Ax = b en terminos de losmınimos cuadrados es la unica solucion del sistema triangular superiorRx = QTb.

2. La matriz de proyeccion ortogonal sobre C(A) es P = QQT .

Page 24: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Definiciones

Sea A ∈Mn(R), n ≥ 2. A la matriz cuadrada de orden n − 1 que se obtiene aleliminar en A si i-esima fila y su j-esima columna, se le llama el ij-esimo menor de A yse denota por Mij .

Se define tambien el ij-esimo cofactor de A, denotado por Aij , se define comoAij = (−1)i+j |Mij |.

Sea A = (aij ),∈Mn(R). El determinante de A, denotado por det(A) o |A| se definecomo:

n = 1. det(A) = a11.

n ≥ 2. En este caso, tenemos

det(A) = |A| = a11A11 + a12A12 + · · ·+ a1nA1n =n∑

k=1

a1kA1k .

Note que si n = 2, entonces det(A) = a11a22 − a12a21.

Page 25: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Propiedades de los determinantes

Sea A = (aij ) ∈Mn(R). Entonces

1. El determinante de A se puede calcular haciendo el desarrollo por cofactores decualquier fila o columna de A, es decir

detA = ai1Ai1 + ai2Ai2 + · · ·+ ainAin =n∑

k=1

aikAik

= a1jA1j + a2jA2j + · · ·+ anjAnj =n∑

k=1

akjAkj .

2. El determinante de una matriz triangular de orden n es igual al producto de lasentradas de su diagonal principal. En particular, det In = 1.

3. Si A tiene un fila nula entonces detA = 0.

4. det(Ej (α)A) = α det(A). En particular, det(αA) = αn det(A).

5. Sean A,B,C ∈Mn(R) matrices iguales, salvo por la i-esima fila de C , que esigual a la suma de las i-esimas filas de A y de B. Entonces detC = detA + detB.

6. det(EijA) = (−1) det(A) y det(Eij (α)A) = det(A).

7. Si las filas de A forman un conjunto L.D., entonces detA = 0.

8. A es invertible si y solo si detA 6= 0.

9. det(AB) = (detA)(detB).

10. detA = detAT .

Page 26: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Aplicaciones

Sea A ∈Mn(R). La matriz B =

A11 A12 · · · A1n

A21 A22 · · · A2n

......

...An1 An2 · · · Ann

se llama matriz de

cofactores de A. La matriz adjunta de A, denotada por adj(A), se define como latranspuesta de la matriz de cofactores de A, es decir adj(A) = BT .

Sea A ∈Mn(R), entonces

A−1 =1

detAadj(A).

Regla de Cramer. Sea A ∈Mn(R). Si A es invertible, entonces para j = 1, 2, . . . , n laj-esima componente de la unica solucion de un sistema Ax = b es dada por

xj =detBj

detA,

donde Bj es la matriz obtenida a partir de A, sustituyendo su j-esima columna por elvector b.

Page 27: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Vectores y valores propios de una matriz

Sea A ∈Mn×n(C), decimos que λ ∈ C es un valor propio de A si existe x ∈ Cn \ {0},llamado vector propio de A asociado al valor propio λ, tal que Ax = λx .

λ es un valor propio de A si y solo si det(A− λIn) = 0.

det(A− λIn) = 0 es un polinomio de grado n, donde el coeficiente de λn es (−1)n y sutermino independiente es det(A) es decir

det(A− λIn) = (−1)nλn + an−1λn−1 + · · ·+ a1λ+ a0, donde a0 = det(A).

El polinomio det(A− λIn) se llama polinomio caracterıstico de A y se denota pA(λ).La ecuacion det(A− λIn) = 0 se llama ecuacion caracterıstica de A. El conjunto detodos los valores propios de A se llama el espectro de A y se denota σ(A).

Decir que λ es un valor propio de A significa que hay al menos una solucion no trivialdel sistema homogeneo (A− λIn)x = 0.

Sea λ ∈ σ(A). El conjunto Eλ = {x ∈ Cn : Ax = λx} es un subespacio vectorial deCn, llamado espacio propio de A asociado al valor propio λ. La dimension de Eλ sellama la multiplicidad geometrica de λ y se denota mg(λ).

Una matriz A ∈Mn×n(C) no es invertible si y solo si λ = 0 es valor propio de A.

Page 28: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Diagonalizacion de matrices

Sean A,B ∈Mn×n(C). Decimos que A y B son matrices similares si existe una matrizC invertible tal que B = C−1AC .

Si A y B son matrices similares, entonces

1. pA(λ) = pB(λ)B, es decir σ(A) = σ(B) y det(A) = det(B).

2. r(A) = r(B). Ademas, A es invertible si y solo B es invertible.

Una matriz A ∈Mn×n(C) es diagonalizable si existen matrices Λ,S ∈Mn×n(C) Λdiagonal y S invertible tales que Λ = S−1AS . S se llama una matriz diagonalizantepara A y Λ su diagonal asociada.

Una matriz A ∈Mn×n(C). Las siguientes afirmaciones son equivalentes

1. A es diagonalizable.

2. A posee n vectores propios linealmente independientes.

3. Cn posee una base formada por n vectores propios de A.

Vectores propios correspondientes a valores propios diferentes de una matriz A sonlinealmente independientes. Ademas, si A tiene n valores propios diferentes, entoncesA es diagonalizable.Para todo λ ∈ σ(A) se tiene que mg(λ) ≤ ma(λ). Ademas

1. Si para cada valor propio λ de A, se tiene que mg(λ) = ma(λ), entonces al unirlas bases de los diferentes espacios propios de A, se obtiene una base para Cn ypor ello A es diagonalizable.

2. Si A es diagonalizable entonces mg(λ) = ma(λ), para cada λ ∈ σ(A).

Page 29: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Matrices hermitianas, antihermitianas, unitarias y normales, 1

Sean x = (xj ), y = (yj ),vectores de Cn. El producto hermitiano de x e y es

xHy = x1y1 + x2y2 + · · ·+ xnyn.

Sean α ∈ C y x , y , z ∈ Cn. Algunas propiedades del producto hermitiano son:

1. xHy = yHx .

2. (αx)Hy = α(xHy), xH(αy) = α(xHy).

3. xH(y + z) = xHy + xHz , (x + y)Hz = xHz + yHz .Como xHx es un numero real no negativo, podemos definir la longitud o normahermitiana de x de la siguiente forma:

‖x‖ =√

xHx =√|x1|2 + |x2|2 + · · ·+ |xn|2.

Sea A = (zij ) ∈Mm×n(C). Se define la matriz conjugada de A, como la matriz

A = (zij ) ∈Mm×n(C). Es decir, A es una matriz de orden m por n cuyascomponentes se obtienen al conjugar las componentes de A. Se define la matrizconjugada transpuesta de A, denotada AH , como la matriz transpuesta de la matrizconjugada de A, es decir

AH = (A)T ∈Mn×m(C).

Note que AH = AT .

Page 30: Roberto Carlos Cabrales Dpto. de Ciencias B asicas U. del ... · Espacios vectorialesProyecciones ortogonales y m nimos cuadradosDeterminantesVectores y valores propios Algebra lineal

Espacios vectoriales Proyecciones ortogonales y mınimos cuadrados Determinantes Vectores y valores propios

Matrices hermitianas, antihermitianas, unitarias y normales, 2

Sea A ∈Mn×n(C).

1. Decimos que A es hermitiana si A = AH .

2. Decimos que A es anti-hermitiana si A = −AH .

3. Decimos que A es unitaria si es invertible y A−1 = AH .

4. Decimos que A es normal si AHA = AAH .

5. Decimos que A es diagonalizable unitariamente si existen matrices Λ diagonal y Uunitaria tales que Λ = UHAU = U−1AU.

Toda matriz A ∈Mn×n(C) normal es diagonalizable unitariamente.

Como toda matriz que sea hermitiana, anti-hermitiana o unitaria es normal y por lotanto diagonalizable unitariamente.

Teorema espectral. Sea A ∈Mn×n(C) una matriz normal y λ1, λ2, . . . , λm losdiferentes valores propios de A. Si P1,P2, . . . ,Pm son las respectivas matrices deproyeccion ortogonal sobre los espacios propios Eλ1

,Eλ2, . . . ,Eλm entonces

1. A = λ1P1 + λ2P2 + . . .+ λmPm.

2. P1 + P2 + . . .+ Pm = In.

3. PiPj = 0 para i , j ∈ {1, 2, . . . ,m} i 6= j .