otimizac¸ao cont˜ ´ınua: aspectos te oricos e...

57
Otimizac ¸˜ ao Cont´ ınua: Aspectos te ´ oricos e computacionais Ademir Alves Ribeiro Elizabeth Wegner Karas Cap´ ıtulo 2 - Introduc ¸˜ ao ` a Otimizac ¸˜ ao Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizac ¸˜ ao Cont´ ınua Cap. 2 - Introduc ¸˜ ao ` a Otimizac ¸˜ ao 1 / 40

Upload: others

Post on 17-Aug-2020

14 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Otimizacao Contınua: Aspectos teoricos e computacionais

Ademir Alves RibeiroElizabeth Wegner Karas

Capıtulo 2 - Introducao a Otimizacao

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 1 / 40

Page 2: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

1 Programacao linear

2 Programacao nao linear

3 Condicoes de otimalidade para minimizacao irrestrita

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 2 / 40

Page 3: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Modelagem matematica

Problemas reais em diversas areas podem ser formulados matematicamente,dentre os quais:

Formulacao de misturas

Dieta nutricional

Corte de barras e chapas

Logıstica - transporte

Designacao (pessoas e tarefas)

Analise de credito

Diagnostico de doencas

Reconhecimento de voz

Reconhecimento de padroes

Objetivo: minimizar ou maximizar certa funcao, como o custo ou o lucro emdeterminado processo.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 3 / 40

Page 4: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo: formulacao de misturas

Uma industria produz 2 tipos de aco, de acordo com as informacoes abaixo.

Aco 1 Aco 2 Disponibilidade (h/dia)Tempo de forno (h/Kg) 2 2 8Tempo de resfriamento (h/Kg) 5 3 15Lucro unitario (R$/Kg) 120 100

Determine a quantidade diaria, em (Kg), a ser produzida de cada tipo de acode modo a maximizar o lucro.

Formulacao matematica

maximizar 120x1 +100x2sujeito a 2x1 +2x2 ≤ 8

5x1 +3x2 ≤ 15x1 ≥ 0, x2 ≥ 0

Solucao: Produzir diariamente 1,5 Kg do Aco 1 e 2,5 Kg do Aco 2.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 4 / 40

Page 5: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo: formulacao de misturas

Uma industria produz 2 tipos de aco, de acordo com as informacoes abaixo.

Aco 1 Aco 2 Disponibilidade (h/dia)Tempo de forno (h/Kg) 2 2 8Tempo de resfriamento (h/Kg) 5 3 15Lucro unitario (R$/Kg) 120 100

Determine a quantidade diaria, em (Kg), a ser produzida de cada tipo de acode modo a maximizar o lucro.

Formulacao matematica

maximizar 120x1 +100x2sujeito a 2x1 +2x2 ≤ 8

5x1 +3x2 ≤ 15x1 ≥ 0, x2 ≥ 0

Solucao: Produzir diariamente 1,5 Kg do Aco 1 e 2,5 Kg do Aco 2.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 4 / 40

Page 6: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo: formulacao de misturas

Uma industria produz 2 tipos de aco, de acordo com as informacoes abaixo.

Aco 1 Aco 2 Disponibilidade (h/dia)Tempo de forno (h/Kg) 2 2 8Tempo de resfriamento (h/Kg) 5 3 15Lucro unitario (R$/Kg) 120 100

Determine a quantidade diaria, em (Kg), a ser produzida de cada tipo de acode modo a maximizar o lucro.

Formulacao matematica

maximizar 120x1 +100x2sujeito a 2x1 +2x2 ≤ 8

5x1 +3x2 ≤ 15x1 ≥ 0, x2 ≥ 0

Solucao: Produzir diariamente 1,5 Kg do Aco 1 e 2,5 Kg do Aco 2.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 4 / 40

Page 7: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Problema de programacao linear

Formulacao geral

minimizar cT xsujeito a Ax = b

x≥ 0

Dados: c ∈ Rn, A ∈ Rm×n, b ∈ Rm

Incognitas: x ∈ Rn

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 5 / 40

Page 8: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Interpretacao geometrica de um PPL

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 6 / 40

Page 9: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Interpretacao geometrica de um PPL

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 7 / 40

Page 10: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Interpretacao geometrica de um PPL

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 8 / 40

Page 11: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Interpretacao geometrica de um PPL

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 9 / 40

Page 12: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Interpretacao geometrica de um PPL

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 10 / 40

Page 13: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Interpretacao geometrica de um PPL

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 11 / 40

Page 14: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Interpretacao geometrica de um PPL

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 12 / 40

Page 15: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Programacao nao linear

Nem todos os problemas podem ser formulados em termos de funcoeslineares.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 13 / 40

Page 16: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo: problema de localizacao

O problema

Dados m pontos y1, . . . ,ym em Rn, determinar o ponto cujasoma das distancias aos pontos dados e mınima.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 14 / 40

Page 17: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo: problema de localizacao

O problema

Dados m pontos y1, . . . ,ym em Rn, determinar o ponto cujasoma das distancias aos pontos dados e mınima.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 15 / 40

Page 18: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo: problema de localizacao

O problema

Dados m pontos y1, . . . ,ym em Rn, determinar o ponto cujasoma das distancias aos pontos dados e mınima.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 16 / 40

Page 19: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Formulacao matematica

Programacao nao linear

minimizarm

∑i=1

∥∥x− yi∥∥

x ∈ Rn

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 17 / 40

Page 20: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Programacao nao linear irrestrita

Problema irrestrito

minimizar f (x)x ∈ Rn

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 18 / 40

Page 21: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Voltando ao problema de localizacao

O problemaConsidere o problema anterior, mas com a restricao de que o pontoprocurado deve pertencer a uma regiao pre-estabelecida.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 19 / 40

Page 22: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Voltando ao problema de localizacao

O problemaConsidere o problema anterior, mas com a restricao de que o pontoprocurado deve pertencer a uma regiao pre-estabelecida.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 20 / 40

Page 23: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Formulacao matematica

Programacao nao linear

minimizarm

∑i=1

∥∥x− yi∥∥

sujeito a ‖x− c‖ ≤ r

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 21 / 40

Page 24: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Problema de programacao nao linear

Formulacao geral

minimizar f (x)sujeito a x ∈Ω

f : Rn→ R, dita funcao objetivo.

Ω⊂ Rn, dito conjunto viavel.

Se Ω = Rn, o problema e dito irrestrito.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 22 / 40

Page 25: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Maximizacao versus minimizacao

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 23 / 40

Page 26: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Maximizacao versus minimizacao

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 24 / 40

Page 27: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Problema de programacao nao linear

Considere uma funcao f : Rn→ R e x∗ ∈Ω⊂ Rn.

Solucao

x∗ e um minimizador local de f em Ω quando existe δ > 0, tal quef (x∗)≤ f (x), para todo x ∈ B(x∗,δ)∩Ω.

x∗ e um minimizador global de f em Ω quando f (x∗)≤ f (x),para todo x ∈Ω.

Quando as desigualdades forem estritas para x 6= x∗, diremos que x∗ eminimizador estrito.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 25 / 40

Page 28: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Problema de programacao nao linear

Considere uma funcao f : Rn→ R e x∗ ∈Ω⊂ Rn.

Solucao

x∗ e um minimizador local de f em Ω quando existe δ > 0, tal quef (x∗)≤ f (x), para todo x ∈ B(x∗,δ)∩Ω.

x∗ e um minimizador global de f em Ω quando f (x∗)≤ f (x),para todo x ∈Ω.

Quando as desigualdades forem estritas para x 6= x∗, diremos que x∗ eminimizador estrito.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 25 / 40

Page 29: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Problema de programacao nao linear

Considere uma funcao f : Rn→ R e x∗ ∈Ω⊂ Rn.

Solucao

x∗ e um minimizador local de f em Ω quando existe δ > 0, tal quef (x∗)≤ f (x), para todo x ∈ B(x∗,δ)∩Ω.

x∗ e um minimizador global de f em Ω quando f (x∗)≤ f (x),para todo x ∈Ω.

Quando as desigualdades forem estritas para x 6= x∗, diremos que x∗ eminimizador estrito.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 25 / 40

Page 30: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Unicidade de minimizadores

O minimizador pode nao ser unico.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 26 / 40

Page 31: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Existencia de minimizadores

O minimizador pode nao existir.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 27 / 40

Page 32: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Existencia de minimizadores

Teorema de WeierstrassSejam f : Rn→ R contınua e Ω⊂ Rn compacto nao vazio. Entaoexiste minimizador global de f em Ω.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 28 / 40

Page 33: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Existencia de minimizadores

Corolario do teorema de WeierstrassSeja f : Rn→ R contınua e suponha que existe c ∈ R tal que oconjunto L = x ∈ Rn | f (x)≤ c e compacto nao vazio.Entao f tem um minimizador global.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 29 / 40

Page 34: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Existencia de minimizadores

Funcao coerciva

Uma funcao f : Rn→ R e coerciva quando lim‖x‖→∞

f (x) = ∞, ou seja,

quando para todo M > 0, existe r > 0 tal que f (x) > M sempre que‖x‖> r.

TeoremaSeja f : Rn→ R uma funcao contınua e coerciva.Entao, f tem um minimizador global.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 30 / 40

Page 35: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Condicao necessaria de 1a ordem para problemas irrestritos

Seja f : Rn→ R diferenciavel no ponto x∗ ∈ Rn.Se x∗ e um minimizador local de f , entao x∗ e um ponto crıtico(ou estacionario) de f , ou seja, ∇ f (x∗) = 0.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 31 / 40

Page 36: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Condicoes de otimalidade para minimizacao irrestrita

Seja f : R3→ R dada por

f (x) = sen(3x21 + x2

2)+ cos(x21− x2

2)+5x3.

f tem minimizadores em R3?

∇ f (x) 6= 0, para todo x ∈ R3, pois∂ f∂x3

(x) = 5.

Logo, f nao tem pontos crıticos e consequentemente nao existeminimizador de f em R3.

f tem minimizadores em B =

x ∈ R3 | x21 +

x22

4+

x23

9≤ 1

?

Como f e contınua e B e compacto, o Teorema de Weierstrass garanteque existe minimizador de f em B.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 32 / 40

Page 37: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Condicoes de otimalidade para minimizacao irrestrita

Seja f : R3→ R dada por

f (x) = sen(3x21 + x2

2)+ cos(x21− x2

2)+5x3.

f tem minimizadores em R3?

∇ f (x) 6= 0, para todo x ∈ R3, pois∂ f∂x3

(x) = 5.

Logo, f nao tem pontos crıticos e consequentemente nao existeminimizador de f em R3.

f tem minimizadores em B =

x ∈ R3 | x21 +

x22

4+

x23

9≤ 1

?

Como f e contınua e B e compacto, o Teorema de Weierstrass garanteque existe minimizador de f em B.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 32 / 40

Page 38: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Condicoes de otimalidade para minimizacao irrestrita

Seja f : R3→ R dada por

f (x) = sen(3x21 + x2

2)+ cos(x21− x2

2)+5x3.

f tem minimizadores em R3?

∇ f (x) 6= 0, para todo x ∈ R3, pois∂ f∂x3

(x) = 5.

Logo, f nao tem pontos crıticos e consequentemente nao existeminimizador de f em R3.

f tem minimizadores em B =

x ∈ R3 | x21 +

x22

4+

x23

9≤ 1

?

Como f e contınua e B e compacto, o Teorema de Weierstrass garanteque existe minimizador de f em B.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 32 / 40

Page 39: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Condicoes de otimalidade para minimizacao irrestrita

Seja f : R3→ R dada por

f (x) = sen(3x21 + x2

2)+ cos(x21− x2

2)+5x3.

f tem minimizadores em R3?

∇ f (x) 6= 0, para todo x ∈ R3, pois∂ f∂x3

(x) = 5.

Logo, f nao tem pontos crıticos e consequentemente nao existeminimizador de f em R3.

f tem minimizadores em B =

x ∈ R3 | x21 +

x22

4+

x23

9≤ 1

?

Como f e contınua e B e compacto, o Teorema de Weierstrass garanteque existe minimizador de f em B.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 32 / 40

Page 40: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Condicoes de otimalidade para minimizacao irrestrita

Seja f : R3→ R dada por

f (x) = sen(3x21 + x2

2)+ cos(x21− x2

2)+5x3.

f tem minimizadores em R3?

∇ f (x) 6= 0, para todo x ∈ R3, pois∂ f∂x3

(x) = 5.

Logo, f nao tem pontos crıticos e consequentemente nao existeminimizador de f em R3.

f tem minimizadores em B =

x ∈ R3 | x21 +

x22

4+

x23

9≤ 1

?

Como f e contınua e B e compacto, o Teorema de Weierstrass garanteque existe minimizador de f em B.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 32 / 40

Page 41: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Condicoes de otimalidade para minimizacao irrestrita

Condicao necessaria de 2a ordemSeja f : Rn→ R duas vezes diferenciavel no ponto x∗ ∈ Rn. Se x∗ eum minimizador local de f , entao a matriz Hessiana de f no ponto x∗ esemidefinida positiva, isto e, dT ∇2 f (x∗)d ≥ 0, para todo d ∈ Rn.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 33 / 40

Page 42: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Seja f : R2→ R dada por f (x) = (x1− x22)(x1− 1

2 x22).

Verifique que:x = 0 e o unico ponto estacionario de f e nao e minimizador.

∇ f (x) =(

2x1− 32 x2

2−3x1x2 +2x3

2

)=

(00

)⇒ x = 0.

f( 2

3 x22,x2

)=− x4

218

< 0 ⇒ x = 0 nao e minimizador local de f .

x minimiza localmente f ao longo de qualquer d ∈ Rn \0.Note que, f (x+ td) = t2

(d1− td2

2)(

d1− 12 td2

2

).

Se d1 = 0, entao f (x+ td) = 12 t4d4

2 ≥ 0.Se d1 6= 0, (d1− td2

2)(d1− 12 td2

2) > 0 em t = 0 e, por continuidade,tambem para t proximo de 0.

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 34 / 40

Page 43: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Seja f : R2→ R dada por f (x) = (x1− x22)(x1− 1

2 x22).

Verifique que:x = 0 e o unico ponto estacionario de f e nao e minimizador.

∇ f (x) =(

2x1− 32 x2

2−3x1x2 +2x3

2

)=

(00

)⇒ x = 0.

f( 2

3 x22,x2

)=− x4

218

< 0 ⇒ x = 0 nao e minimizador local de f .

x minimiza localmente f ao longo de qualquer d ∈ Rn \0.Note que, f (x+ td) = t2

(d1− td2

2)(

d1− 12 td2

2

).

Se d1 = 0, entao f (x+ td) = 12 t4d4

2 ≥ 0.Se d1 6= 0, (d1− td2

2)(d1− 12 td2

2) > 0 em t = 0 e, por continuidade,tambem para t proximo de 0.

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 34 / 40

Page 44: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Seja f : R2→ R dada por f (x) = (x1− x22)(x1− 1

2 x22).

Verifique que:x = 0 e o unico ponto estacionario de f e nao e minimizador.

∇ f (x) =(

2x1− 32 x2

2−3x1x2 +2x3

2

)=

(00

)⇒ x = 0.

f( 2

3 x22,x2

)=− x4

218

< 0 ⇒ x = 0 nao e minimizador local de f .

x minimiza localmente f ao longo de qualquer d ∈ Rn \0.Note que, f (x+ td) = t2

(d1− td2

2)(

d1− 12 td2

2

).

Se d1 = 0, entao f (x+ td) = 12 t4d4

2 ≥ 0.Se d1 6= 0, (d1− td2

2)(d1− 12 td2

2) > 0 em t = 0 e, por continuidade,tambem para t proximo de 0.

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 34 / 40

Page 45: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Seja f : R2→ R dada por f (x) = (x1− x22)(x1− 1

2 x22).

Verifique que:x = 0 e o unico ponto estacionario de f e nao e minimizador.

∇ f (x) =(

2x1− 32 x2

2−3x1x2 +2x3

2

)=

(00

)⇒ x = 0.

f( 2

3 x22,x2

)=− x4

218

< 0 ⇒ x = 0 nao e minimizador local de f .

x minimiza localmente f ao longo de qualquer d ∈ Rn \0.Note que, f (x+ td) = t2

(d1− td2

2)(

d1− 12 td2

2

).

Se d1 = 0, entao f (x+ td) = 12 t4d4

2 ≥ 0.Se d1 6= 0, (d1− td2

2)(d1− 12 td2

2) > 0 em t = 0 e, por continuidade,tambem para t proximo de 0.

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 34 / 40

Page 46: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Seja f : R2→ R dada por f (x) = (x1− x22)(x1− 1

2 x22).

Verifique que:x = 0 e o unico ponto estacionario de f e nao e minimizador.

∇ f (x) =(

2x1− 32 x2

2−3x1x2 +2x3

2

)=

(00

)⇒ x = 0.

f( 2

3 x22,x2

)=− x4

218

< 0 ⇒ x = 0 nao e minimizador local de f .

x minimiza localmente f ao longo de qualquer d ∈ Rn \0.Note que, f (x+ td) = t2

(d1− td2

2)(

d1− 12 td2

2

).

Se d1 = 0, entao f (x+ td) = 12 t4d4

2 ≥ 0.Se d1 6= 0, (d1− td2

2)(d1− 12 td2

2) > 0 em t = 0 e, por continuidade,tambem para t proximo de 0.

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 34 / 40

Page 47: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Ilustracao do exemplo anterior

Seja f : R2→ R dada por f (x) = (x1− x22)(x1− 1

2 x22).

x = 0 e o unico ponto estacionario de f e nao e minimizador.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 35 / 40

Page 48: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Ilustracao do exemplo anterior

Seja f : R2→ R dada por f (x) = (x1− x22)(x1− 1

2 x22).

x minimiza localmente f ao longo de qualquer d ∈ Rn \0.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 36 / 40

Page 49: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Condicoes de otimalidade para minimizacao irrestrita

Condicao suficiente de 2a ordemSeja f : Rn→ R duas vezes diferenciavel no ponto x∗ ∈ Rn. Se x∗ eum ponto estacionario da funcao f e ∇2 f (x∗) e definida positiva, entaox∗ e minimizador local estrito de f .

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 37 / 40

Page 50: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Ponto sela

DefinicaoConsidere uma funcao diferenciavel f : Rn→ R e x ∈ Rn um pontoestacionario de f . O ponto x e um ponto de sela da funcao f quandopara todo ε > 0, existem x,y ∈ B(x,ε) tais que

f (x) < f (x) < f (y).

TeoremaSeja f : Rn→ R duas vezes diferenciavel no ponto estacionariox ∈ Rn. Se ∇2 f (x) e indefinida, entao x e ponto de sela de f .

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 38 / 40

Page 51: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Descreva os pontos estacionarios da funcao f : R2→ R dada por

f (x) = 2x31−3x2

1−6x1x2(x1− x2−1).

∇ f (x)=(

6x22 +6x2

6x21−12x1x2−6x1

), ∇

2 f (x)=(

12x1−12x2−6 −12x1 +12x2 +6−12x1 +12x2 +6 12x1

).

x1 =(

00

)e ponto de sela.

x2 =(

10

)e minimizador local.

x3 =(

0−1

)e ponto de sela.

x4 =(−1−1

)e maximizador local.

−2 −1 0 1 2−2

−1.5

−1

−0.5

0

0.5

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 39 / 40

Page 52: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Descreva os pontos estacionarios da funcao f : R2→ R dada por

f (x) = 2x31−3x2

1−6x1x2(x1− x2−1).

∇ f (x)=(

6x22 +6x2

6x21−12x1x2−6x1

), ∇

2 f (x)=(

12x1−12x2−6 −12x1 +12x2 +6−12x1 +12x2 +6 12x1

).

x1 =(

00

)e ponto de sela.

x2 =(

10

)e minimizador local.

x3 =(

0−1

)e ponto de sela.

x4 =(−1−1

)e maximizador local.

−2 −1 0 1 2−2

−1.5

−1

−0.5

0

0.5

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 39 / 40

Page 53: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Descreva os pontos estacionarios da funcao f : R2→ R dada por

f (x) = 2x31−3x2

1−6x1x2(x1− x2−1).

∇ f (x)=(

6x22 +6x2

6x21−12x1x2−6x1

), ∇

2 f (x)=(

12x1−12x2−6 −12x1 +12x2 +6−12x1 +12x2 +6 12x1

).

x1 =(

00

)e ponto de sela.

x2 =(

10

)e minimizador local.

x3 =(

0−1

)e ponto de sela.

x4 =(−1−1

)e maximizador local.

−2 −1 0 1 2−2

−1.5

−1

−0.5

0

0.5

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 39 / 40

Page 54: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Descreva os pontos estacionarios da funcao f : R2→ R dada por

f (x) = 2x31−3x2

1−6x1x2(x1− x2−1).

∇ f (x)=(

6x22 +6x2

6x21−12x1x2−6x1

), ∇

2 f (x)=(

12x1−12x2−6 −12x1 +12x2 +6−12x1 +12x2 +6 12x1

).

x1 =(

00

)e ponto de sela.

x2 =(

10

)e minimizador local.

x3 =(

0−1

)e ponto de sela.

x4 =(−1−1

)e maximizador local.

−2 −1 0 1 2−2

−1.5

−1

−0.5

0

0.5

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 39 / 40

Page 55: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Descreva os pontos estacionarios da funcao f : R2→ R dada por

f (x) = 2x31−3x2

1−6x1x2(x1− x2−1).

∇ f (x)=(

6x22 +6x2

6x21−12x1x2−6x1

), ∇

2 f (x)=(

12x1−12x2−6 −12x1 +12x2 +6−12x1 +12x2 +6 12x1

).

x1 =(

00

)e ponto de sela.

x2 =(

10

)e minimizador local.

x3 =(

0−1

)e ponto de sela.

x4 =(−1−1

)e maximizador local.

−2 −1 0 1 2−2

−1.5

−1

−0.5

0

0.5

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 39 / 40

Page 56: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Exemplo

Descreva os pontos estacionarios da funcao f : R2→ R dada por

f (x) = 2x31−3x2

1−6x1x2(x1− x2−1).

∇ f (x)=(

6x22 +6x2

6x21−12x1x2−6x1

), ∇

2 f (x)=(

12x1−12x2−6 −12x1 +12x2 +6−12x1 +12x2 +6 12x1

).

x1 =(

00

)e ponto de sela.

x2 =(

10

)e minimizador local.

x3 =(

0−1

)e ponto de sela.

x4 =(−1−1

)e maximizador local.

−2 −1 0 1 2−2

−1.5

−1

−0.5

0

0.5

Ref.: A. Friedlander. Elementos de programacao nao-linear, Unicamp, 1994.Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 39 / 40

Page 57: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ewkaras/ensino/ema761/cap2_slides.pdf · 1 Programac¸ao linear˜ 2 Programac¸ao n˜ ao linear˜ 3 Condic¸oes de

Principais referencias

A. Friedlander.Elementos de Programacao Nao-Linear.Unicamp, 1994.

A. Izmailov and M. Solodov.Otimizacao: Condicoes de Otimalidade, Elementos de Analise Convexa eDualidade, volume 1.IMPA, Rio de Janeiro, 2005.

J. M. Martınez and S. A. Santos.Metodos computacionais de otimizacao.20.0 Coloquio Brasileiro de Matematica - IMPA, 1995.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Cap. 2 - Introducao a Otimizacao 40 / 40