PROBABILISTIC  REASONING  OVER  TIME

 

AI in Modern Approach : Stuart Russell  Peter Norvig, Prentice Hall, 2003, Page 537~580

 

 

 

 

 

p538

   t        t        

t                          ,            

t = 0    t = 1    t = 0            a    b                    

 

p539

   t    

t

                                   (1)

   

       t

                                   (2)

 

p540

그림 1  

 

그림 2      

   t

x-axis    ±1    x-coordinate

 

p541

1.        

2.            

X-Y                 

   t = 1    

 

p542

   k > 0

   k    0 ≤ k < t

   

t    t + 1    

f

 

p543

t        

       

                                   (3)

   

t

   t = 0    t = 1

t = 1

   t = 1    t = 2

 

p544

t = 2

t + k + 1    t + k

           (4)

<0.5, 0.5>

   

   

                                        (5)

   1 ≤ k < t    k + 1    t

                               (6)

 

p545

그림 3      k    1    t

           1    k    

                           (7)

       

1    k    t    k + 1        1        1

t = 1    1  2

                                   (8)

<.818, .182>

 

p546

   O(t)    k        O(t)    t    k        

FORWARD-BACKWARD (ev, )

1, ..., t

       

0, ..., t

1, ..., t

그림 4

 

p547

O(|f|t)    |f|    O(|f|log t)    log t

   d    d    t    t    d-step    d

   

   

 

p548

그림 5          t        t    

           

                          (9)

1.

    

    

2.    

m

 

p549

t    t

 

       1, ..., S    S        S × S    T

 

   i    j

           t    

 

p550

   0    

                                                       (10)

                                                       (11)

t        S-element    S × S        t    S

k            f    b    f

   b    f    t    

d    t - d    t

t - d

 

p551

t d + 1        

               d

                               (12)

   T    O    B

                        (13)

       B

                                       (14)

B        f    B

 

p552

FIXED-LAG-SMOOTHING(, hmm, d)    

   t

hmm    S × S    T

d

t

f        [hmm]    

B    d-step

   t - d    t

   

   

←

t > d

f ← FORWARD (f, )

   

←    

B ←

B ←

t ← t + 1

t > d    NORMALIZE (f × B1)

그림 6  d

(X, Y, Z)                X - coordinate    Δ

       d    d-element     μ    d × d    Σ

 

p553

그림 7          

1.    

                                   (15)

2.    

                               (16)

                       

 

p554

          

α    

                   

 

p555

그림 8                      x-axis                

       

                                   (17)

                                                         (18)

 

p556

                                   

   x

                                                       (19)

F        H    

                                                   (20)

   μ        t + 1                        

 

p557

X - Y                4 × 4    

그림 9  X - Y

 

p558

그림 10

   

   

 

p559

   

       

 

p560

그림 11    X - Y

           t    

X - Y                        

           

 

p561

                   t = 22    t = 23    

(t = 22)    

 

p562

그림 12      t = 21     t = 22     t = 21

t = 25

               

 

p563

그림 13      

 

p564

그림 14  

   O(t)    O(t)

   

 

p565

N    N

t    t

 

p566

PARTICLE-FILTERING (e, N, dbn)

e

N

dbn           

S         N             

W       N

i = 1    N

S[i] ←

W[i] ←

S ← WEIGHTED-SAMPLE-WITH-REPLACEMENT (N, S, W)

S

그림 15  PRIOR-SAMPLE      WEIGHTED-SAMPLE-WITH-REPLACEMENT     O(N)

N    

N        t                

                                               (21)

N    t + 1    t    

 

p567

그림 16  N = 10      t            t + 1                t + 1        

       

t + 1                

       

t + 1

 

p568

           

   

 

p569

Vowels

Consonants B-N

Consonants P-Z

Phone

Example

Phone

Example

Phone

Example

[iy]

[ih]

[eh]

[æ]

[ah]

[ao]

[ow]

[uh]

[ey]

[er]

[ay]

[oy]

[axr]

[aw]

[ax]

[ix]

[aa]

    beat

    bit

    bet

    bat

    but

    bought

    boat

    book

    bait

    Bert

    buy

    boy

    diner

    down

    about

    roses

    cot

[b]

[ch]

[d]

[f]

[g]

[hh]

[hv]

[jh]

[k]

[l]

[el]

[m]

[em]

[n]

[en]

[ng]

[eng]

    bet

    Chet

    debt

    fat

    get

    hat

    high

    jet

    kick

    let

    bottle

    met

    bottom

    net

    button

    sing

    washing

[p]

[r]

[s]

[sh]

[t]

[th]

[dh]

[dx]

[v]

[w]

[wh]

[y]

[z]

[zh]

 

 

[-]

    pet

    rat

    set

    shoe

    ten

    thick

    that

    butter

    vet

    wet

    which

    yet

    zoo

    measure

     

     

    silence

그림 17  

[s iy l ih ng]    [s iy l ix ng]    [s iy l en]        t

   t            

 

p570

n    n-dimensional     

그림 18

 

p571

n > 2    

   k        k    k    n    k        

[t]    [s]    [w]

 

p 572

[w]    [w(s,iy)],  [w]    [s]    [iy]

n        

   

[t ow m ey t ow]    [t ow m aa t ow]    [t ow m ey t ow]    [t ow m aa t ow]

[t]    [ow]    [t ah]    [t ow]

[m]        

 

p573

그림 19  [ow]    [ah]

그림 20  [m]        

 

p574

       t

   n    

   

 

p575

Word

Unigram

count

Previous words

of

in

is

on

to

from

model

agent

the

on

of

to

is

model

agent

idea

33508

2573

15474

11527

10566

752

2100

241

3833

1

0

0

3

8

10

0

2479

0

0

4

6

1

3

0

832

33

29

450

1

0

3

0

944

2

1

21

4

1

2

0

1365

1

0

4

2

14

3

0

597

0

0

16

1

0

0

0

28

0

88

9

47

6

0

0

24

6

7

82

127

4

36

0

그림 21

        

       p

 

p576

3pW

A* decoder    A*    n    n    W    W                

 

p579

t + 1

 

p580

t    t + 1

[eh]