powerpoint presentationhspark/csci5561_f2019/lec... · 2019-03-27 · 2 12 ii i l y ywwl ¦ j w w...

of 81/81

Post on 27-Jul-2020

9 views

Category:

Documents

0 download

Embed Size (px)

TRANSCRIPT

  • 1x

    2x

    y1

    w

    2w

  • 1w

    2w

    1 1 2 2y x w x w

    1 2x x

    1x

    2x

    y

  • 1w

    2w

    1 1 2 2y x w x w

    1 2w w1x

    2x

    y

    1 2x x

  • 1w

    2w

    1 1 2 2y x w x w

    1 1 2 20x w x w

    1 2w w1x

    2x

    y

    1 2x x

  • 1 1 2 2y x w x w

    1 1 2 20x w x w

    1 2w w

    1w

    2w

    1x

    2x

    y

    1 2x x

  • 1 1 2 2y x w x w

    1 1

    1 1 2 20x w x w

    1 2w w

    2 2

    1 1 2 20x w x w

    1w

    2w

    1x

    2x

    y

  • 1 1

    1 1 2 21x w x w

    1 2w w

    2 2

    1 1 2 21x w x w

    11y

    1w

    2w

    1x

    2x

    y

  • 2 2

    1 1 2 2

    1 2 1 1 2 2 1 1 2 21 1L w w x w x w x w x w

    1 1

    1 1 2 21x w x w

    1 2w w

    2 2

    1 1 2 21x w x w

    11y

    1 21 2

    minimize w w

    L w w

    1w

    2w

    1x

    2x

    y

  • T x I W x p

    2

    minimizep

    x

    p I W x p T x

    2

    2

    2

    x x

    x

    II W x p p T x I x p T x

    p

    I WI x p T x

    x p

    p

    II W x p p I W x p p

    p

    p

    W x p

    I x

    1 2 3

    4 5 6

    p u p v puW x p

    p u p v pv

    I I W Wp p I p

    p x p p

    1 6

    1 6

    u u

    p pW

    p v v

    p p

  • f

    x

    x

  • f

    x

    x

  • f

    x

    x

    fx

    x

    f x f x x

  • f

    x

    x

    fx

    x

    f x f x x

    minimize x

    f x

    fx x

    x

  • 2 2

    1 1 2 2

    1 2 1 1 2 2 1 1 2 21 1L w w x w x w x w x w

    1w

    2w

    1x

    2x

    y

    minimize x

    f x

    fx x

    x

  • 2 2

    1 1 2 2

    1 2 1 1 2 2 1 1 2 21 1L w w x w x w x w x w

    1 1 2 2

    1 2

    L L

    w w w ww w

    1w

    2w

    1x

    2x

    y

    minimize x

    f x

    fx x

    x

  • 2 2

    1 1 1 2 2 2

    1 2 1 1 2 2 1 1 2 2L w w x w x w y x w x w y

    1 1 2 2

    1 2

    L L

    w w w ww w

    1w

    2w

    1x

    2x

    y

    minimize x

    f x

    fx x

    x

  • 1 1 2 2y x w x w

    2

    1 2L w w y y

    1 1

    1

    L yy y

    w w

    y y x

    1 1 2 2

    1 2

    L L

    w w w ww w

    1w

    2w

    1x

    2x

    y

    2 2

    1 1 1 2 2 2

    1 2 1 1 2 2 1 1 2 2L w w x w x w y x w x w y

  • 1 1 2 2

    1 2

    L L

    w w w ww w

    1w

    2w

    1x

    2x

    y

    2 2

    1 1 1 2 2 2

    1 2 1 1 2 2 1 1 2 2L w w x w x w y x w x w y

    1 1 2 2y x w x w

    2

    1 2L w w y y

    1 1

    1

    L yy y

    w w

    y y x

  • 1 1 1 2 2 2

    1 1 1 1

    1 1 1 2 2 2

    2 2 2 2

    w w y y x y y x

    w w y y x y y x

    1w

    2w

    1x

    2x

    y1 1 2 2

    y x w x w

    2

    1 2L w w y y

    2 2

    1 1 1 2 2 2

    1 2 1 1 2 2 1 1 2 2L w w x w x w y x w x w y

    1 1

    1

    L yy y

    w w

    y y x

  • 2

    1 2 1 1 2 2

    i i i

    i

    L w w x w x w y

    1 2w w

    1 1 2 2

    1 2

    L L

    w w w ww w

    1w

    2w

    1x

    2x

    y

  • 2

    1 2 1 1 2 2

    i i i

    i

    L w w x w x w y

    1 2w w1

    w

    2w

    1x

    2x

    y

    1 1 1

    2 2 2

    i i i

    i

    i i i

    i

    w w y y xn

    w w y y xn

  • 1x

    2x

    y

    1w

    2w

    y f a

    1 1 2 2a x w x w

  • 0 0

    1 0

    xx

    x

  • 0 0

    1 0

    xx

    x

    1 1 2 2

    1 2

    L L

    w w w ww w

  • x ax

    1

    1 xx

    e

    0 0

    1 0

    xx

    x

    x x

  • x ax

    1

    1 xx

    e

    0 0

    1 0

    xx

    x

    0x x

    x x

    1 xx e

  • 1x

    2x

    y

    1w

    2w

    f a

    1 1 2 2a x w x w

  • 1x

    2x

    y

    1w

    2w

    2

    1 2 1 1 2 2

    i i i

    i

    L w w f x w x w y

    1 1 2 2

    1 2

    L L

    w w w ww w

    f a

    1 1 2 2a x w x w

  • 1x

    2x

    y

    1w

    2w

    2

    1 2 1 1 2 2

    i i i

    i

    L w w f x w x w y

    1 1 2 2

    1 2

    L L

    w w w ww w

    1

    L L f a

    w f a w

    f ay y

    a w

    y y f f x

    1

    1 xx

    e

    f a

    1 1 2 2a x w x w

    1f f fx

  • 1x

    2x

    y

    1w

    2w

    2

    1 2 1 1 2 2

    i i i

    i

    L w w f x w x w y

    1 1 2 2

    1 2

    L L

    w w w ww w

    1

    L L f a

    w f a w

    f ay y

    a w

    y y f f x

    1

    1 xx

    e

    f a

    1 1 2 2a x w x w

    1f f fx

  • 1x

    2x

    y

    1w

    2w

    2

    1 2 1 1 2 2

    i i i

    i

    L w w f x w x w y

    1 1 2 2

    1 2

    L L

    w w w ww w

    1

    L L f a

    w f a w

    f ay y

    a w

    y y f f x

    1 1 2 2a x w x w

    fa

    f a

    1

    1 xx

    e

    1f f fx

  • 1x

    2x

    y

    1w

    2w

    1 1 2 21a x w x w b

    fa1 2

    w w

    b

    1b

    f a

  • 1x

    2x

    y

    1w

    2w

    1 1 2 21a x w x w b

    fa

    1b

    2

    1 2 1 1 2 2

    i i i

    i

    L w w f x w x w y

    1 1 2 2

    1 2

    L L

    w w w ww w

    1

    L L f a

    w f a b

    f ay y

    a b

    y y f f

    1

    1 xf x

    e

    1f x f x f xx

    f a

  • 1x

    2x

    y

    1w

    2w

    1 1 2 21a x w x w b

    fa

    1b

    2

    1 2 1 1 2 2

    i i i

    i

    L w w f x w x w y

    1 1 2 2

    1 2

    L L

    w w w ww w

    1

    L L f a

    w f a b

    f ay y

    a b

    y y f f

    1

    1 xf x

    e

    1f x f x f xx

    f a

  • 1x

    2x

    y

    w

    fa

    1

    2

    1 2 1 1 2 2

    i i i

    i

    L w w f x w x w y

    1 1 2 2

    1 2

    L L

    w w w ww w

    1

    L L f a

    w f a b

    f ay y

    a b

    y y f f

    1

    1 xf x

    e

    1f x f x f xx

    f w x

  • 1x

    2x

    y

    w

    fa

    1

    f w x

  • 1x

    2x

    y

    w

    fa

    1

    f w x

    L L f a

    f a

    w w

    f a

    1 1 2 21a x w x w b

  • 1x

    2x

    y

    1w

    2w

    fa

    1

    bnx

    nw

    1x

    nx

  • 1x

    nx

  • 1 2w w1

    x

    2x

    y

    1w

    2w

    fa

    1b

    f w x

  • 1 2w w1

    x

    2x

    y

    1w

    1

    1a

    1f

    1 1f w x

  • 1 2w w1

    x

    2x

    y

    1f

    1a

    1 2f

    2a

    2w

    1 1f w x

    2 2f w x

  • 1 2w w1

    x

    2x

    y

    1f

    1a

    1 2f

    2a

    3f

    3a

    3w

    1 1f w x

    2 2f w x1

    3 3

    2

    ff

    f

    w

  • 1x

    2x

    y

    1f

    1a

    1 2f

    2a

    3f

    3a

    3w

    1 1f w x

    2 2f w x1

    3 3

    2

    ff

    f

    w

  • 1x

    2x

    y

    1f

    1a

    1 2f

    2a

    3f

    3a

    3w

    1 1f w x

    2 2f w x1

    3 3

    2

    ff

    f

    w

  • 1x

    2x

    y

    1

    2f

    2a

    2w

    1f

    1a

    1w

    2 2 1f w w x

  • 1x

    2x

    y

    1

    2f

    2a

    2w

    1f

    1a

    1w

    2 2 1f w w x

  • 1x

    2x

    y

    1w

    2w

    2

    1 2 1 1 2 2

    i i i

    i

    L w w f x w x w y

    1 1 2 2

    1 2

    L L

    w w w ww w

    1

    L L f a

    w f a w

    f ay y

    a w

    y y f f x

    1

    1 xx

    e

    f a

    1 1 2 2a x w x w

    1f f fx

  • 2

    1 2

    i i

    i

    L y y w w

    L

    w ww

    2 2

    2 2 2 2

    f aL L

    f a

    w w

    1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

  • 2

    1 2

    i i

    i

    L y y w w

    L

    w ww

    2 2

    2 2 2 2

    f aL L

    f a

    w w

    1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

    2 2 1 1

    1 2 2 1 1 1

    f a f aL L

    f a f a

    w w

  • 2

    1 2

    i i

    i

    L y y w w

    L

    w ww

    2 2

    2 2 2 2

    f aL L

    f a

    w w

    1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

    2 2 1 1

    1 2 2 1 1 1

    f a f aL L

    f a f a

    w w

  • 2

    1 2

    i i

    i

    L y y w w

    L

    w ww

    1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

    2 2

    2 2 2 2

    f aL L

    f a

    w w

    2 2 1a f w

    2 2f a

    1 1f a

    1 1a x w

  • 2

    1 2

    i i

    i

    L y y w w

    L

    w ww

    1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

    2 2

    2 2 2 2

    f aL L

    f a

    w w

    2 2 1a f w

    2 2f a

    1 1f a

    1 1a x w

  • 2

    1 2

    i i

    i

    L y y w w

    L

    w ww

    1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

    2 2 1 1

    1 2 2 1 1 1

    f a f aL L

    f a f a

    w w

    2 2 1a f w

    2 2f a

    1 1f a

    1 1a x w

  • 2

    1 2

    i i

    i

    L y y w w

    L

    w ww

    1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

    2 2 1 1

    1 2 2 1 1 1

    f a f aL L

    f a f a

    w w

    2 2 1a f w

    2 2f a

    1 1f a

    1 1a x w

  • 1x

    nx

  • 1x

    nx

  • 1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

    2 2 1f w w x

    2

    1 2

    i i

    i

    L y y w w

    2 2 1 1

    1 2 2 1 1 1

    f a f aL L

    f a f a

    w w2 2

    2 2 2 2

    f aL L

    f a

    w w

    1 1

    1

    L

    w ww

    2 2

    2

    L

    w ww

  • 1 1

    1

    2 2

    2

    L

    L

    w ww

    w ww

    1x

    2x

    y

    1

    2f

    2a

    2w

    1f

    1a

    1w

    11 1

    12 2

    1

    1

    n

    i

    i

    n

    i

    i

    LL

    n

    LL

    n

    w w

    w w

    n

  • 1 1

    1

    2 2

    2

    L

    L

    w ww

    w ww

    1x

    2x

    y

    1

    2f

    2a

    2w

    1f

    1a

    1w 11 1

    12 2

    1

    1

    n

    i

    i

    n

    i

    i

    LL

    n

    LL

    n

    w w

    w w

    n

    1 1

    2 2

    i

    i

    LL

    LL

    w w

    w w

    1 1

    2 2

    i

    i

    i

    i

    LL

    LL

    w w

    w w

    n

  • 1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

    2 2 1f w w x

    2

    1 2

    i i

    i

    L y y w w

    2 2 1 1

    1 2 2 1 1 1

    f a f aL L

    f a f a

    w w2 2

    2 2 2 2

    f aL L

    f a

    w w

    1 1

    1

    L

    w ww

    2 2

    2

    L

    w ww

  • 1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

    2 2 1f w w x

    2

    1 2

    i i

    i

    L y y w w

    2 2 1 1

    1 2 2 1 1 1

    f a f aL L

    f a f a

    w w2 2

    2 2 2 2

    f aL L

    f a

    w w

    1 1

    1

    L

    w ww

    2 2

    2

    L

    w ww

  • 1x

    2x

    y

    1

    2f

    2a

    2w

    2 2 1f w w x

    1f

    1a

    1w

    2 2 1f w w x

    2

    1 2

    i i

    i

    L y y w w

    2 2 1 1

    1 2 2 1 1 1

    f a f aL L

    f a f a

    w w2 2

    2 2 2 2

    f aL L

    f a

    w w

    1 1

    1

    L

    w ww

    2 2

    2

    L

    w ww

  • w1x

    1y

    1a

    196x

    1

    10a

    10y

    1 100 0 0 0 0 0 0 1 0 0y y

  • w1x

    1y

    1a

    196x

    1

    10a

    10y

  • w1x

    1y

    1a

    196x

    1

    10a

    10y

  • w1x

    1y

    196x

    1

    10y

    1a

    10a

    1f

    Soft-m

    ax

    10f

    i

    i

    a

    i a

    i

    ef

    e

    a f

  • w1x

    1y

    196x

    1

    10y

    1a

    10a

    1f

    Soft-m

    ax

    10f

    i

    i

    a

    i a

    i

    ef

    e

    a f

    1i ii

    i jj

    f f i jf

    f f i ja

  • w1x

    1y

    196x

    1

    10y

    1a

    10a

    1f

    Soft-m

    ax

    10f

  • w1x

    1y

    196x

    1

    10y

    1a

    10a

    1f

    Soft-m

    ax

    10f

  • 1w

    1x

    196x

    1

    1y

    1a

    10y10a

    1a

    1f

    ma

    mf

    2w

    1f

    Soft-m

    ax

    10f