-
Notifications
You must be signed in to change notification settings - Fork 5
/
Copy path21.html
863 lines (768 loc) · 44.3 KB
/
21.html
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638
639
640
641
642
643
644
645
646
647
648
649
650
651
652
653
654
655
656
657
658
659
660
661
662
663
664
665
666
667
668
669
670
671
672
673
674
675
676
677
678
679
680
681
682
683
684
685
686
687
688
689
690
691
692
693
694
695
696
697
698
699
700
701
702
703
704
705
706
707
708
709
710
711
712
713
714
715
716
717
718
719
720
721
722
723
724
725
726
727
728
729
730
731
732
733
734
735
736
737
738
739
740
741
742
743
744
745
746
747
748
749
750
751
752
753
754
755
756
757
758
759
760
761
762
763
764
765
766
767
768
769
770
771
772
773
774
775
776
777
778
779
780
781
782
783
784
785
786
787
788
789
790
791
792
793
794
795
796
797
798
799
800
801
802
803
804
805
806
807
808
809
810
811
812
813
814
815
816
817
818
819
820
821
822
823
824
825
826
827
828
829
830
831
832
833
834
835
836
837
838
839
840
841
842
843
844
845
846
847
848
849
850
851
852
853
854
855
856
857
858
859
860
861
862
863
<!doctype html>
<html lang="ja">
<head>
<meta charset="utf-8">
<title>パターン認識・機械学習勉強会 第21回 @ ナビプラス </title>
<meta name="description" content="Seminar of category theory">
<meta name="author" content="Koichi Nakamura">
<meta name="apple-mobile-web-app-capable" content="yes" />
<meta name="apple-mobile-web-app-status-bar-style" content="black-translucent" />
<meta name="viewport" content="width=device-width, initial-scale=1.0, maximum-scale=1.0, user-scalable=no">
<link rel="stylesheet" href="css/reveal.css">
<link rel="stylesheet" href="css/theme/beige.css" id="theme">
<meta http-equiv="X-UA-Compatible" CONTENT="IE=EmulateIE7" />
<!-- For syntax highlighting -->
<link rel="stylesheet" href="plugin/highlight/styles/github.css">
<!-- If the query includes 'print-pdf', use the PDF print sheet -->
<script>
document.write( '<link rel="stylesheet" href="css/print/' + ( window.location.search.match( /print-pdf/gi ) ? 'pdf' : 'paper' ) + '.css" type="text/css" media="print">' );
</script>
<script type="text/javascript"
src="https://cdnjs.cloudflare.com/ajax/libs/mathjax/2.7.1/MathJax.js?config=TeX-AMS_HTML">
</script>
<script type="text/x-mathjax-config">
MathJax.Hub.Config({
tex2jax: {
inlineMath: [ ['$','$'], ["\\(","\\)"] ],
displayMath: [ ['$$','$$'], ["\\[","\\]"] ]
}
});
</script>
<style type="text/css">
<!--
div.definition {
padding-left: 10px;
padding-right: 10px;
border: 4px solid #333333;
box-shadow: 0 0 10px rgba(0, 0, 0, 0.15);
}
.reveal .chapter-title {
margin-top: 3em;
}
.reveal {
font-size: 36px;
line-height: 1.4em;
}
.reveal .slides {
text-align: left;
}
.reveal section img {
border: none;
background: 0;
margin-left: 1em;
margin-right: 1em;
box-shadow: none;
}
.reveal strong {
color: #ff6666;
}
.reveal sup {
font-size: 40%;
}
.reveal .note {
font-size: 40%;
}
.reveal .controls div.navigate-up,
.reveal .controls div.navigate-down {
display: none;
}
.reveal .block {
border: solid 2px;
position: relative;
border-radius: 8px;
margin: 0.5em;
padding: 1em 0.8em 0.5em 0.8em;
}
.reveal .block:after {
content: "";
display: block;
clear: both;
height: 1px;
overflow: hidden;
}
-->
</style>
<!--[if lt IE 9]>
<script src="lib/js/html5shiv.js"></script>
<![endif]-->
</head>
<body>
<div class="reveal">
<!-- Any section element inside of this container is displayed as a slide -->
<div class="slides">
<section>
<h2>パターン認識・<br> 機械学習勉強会 <br> 第21回</h2>
<h3>@ナビプラス</h3>
<small> 中村晃一 <br> 2014年9月25日 </small>
</section>
<section>
<h3>謝辞</h3>
<p>
会場・設備の提供をしていただきました<br>
㈱ ナビプラス様<br>
にこの場をお借りして御礼申し上げます.
</p>
</section>
<section>
<h2 class="chapter-title"> 系列データ </h2>
</section>
<section>
<p>
テキスト第12章を一旦飛ばして、テキスト第13章「系列データ」をやります. 所謂「時系列データ解析」の話題ではなく<strong>隠れマルコフモデル(hidden markov model)</strong>の紹介が中心になります.
</p>
</section>
<section>
<h3> 系列データとは </h3>
<p>
何らかの順序を持つデータの列を<strong> 系列データ (sequential data) </strong> と呼びます.
特に時間軸に沿って観測されるデータ列は<strong> 時系列データ (time series)</strong> と呼ばれます.
</p>
<div align="center"> <img width="600px" src="fig/sequential-data.png"> </div>
<p class="fragment" data-fragment-index="1">
例えば以下のようなものを系列データと考える事が出来ます.
</p>
<ul class="fragment" data-fragment-index="1">
<li> 株価の変動 </li>
<li> 音声データ </li>
<li> 文章(文字・単語の列) </li>
<li> ユーザーの行動履歴 </li>
<li> センサーデータ </li>
</ul>
</section>
<section>
<p>
これまで紹介した手法では，学習データ $\{\mathbf{x}_1,\ldots,\mathbf{x}_N\}$ がi.i.d.，つまり独立に同一の分布に従う場合を主に考えてきました.
この場合は
\[ p(\mathbf{x}_1,\ldots,\mathbf{x}_n) = \prod_{i=1}^Np(\mathbf{x}_i)=p(\mathbf{x}_1)\cdot p(\mathbf{x}_2)\cdots p(\mathbf{x}_n)\]
と分解できます.
</p>
<p>
しかし，系列データの多くではi.i.d.性を仮定出来ず，このような単純な分解は出来ません.
</p>
</section>
<section style="font-size:90%">
<h3> マルコフモデル </h3>
<p>
系列データ $\{\mathbf{x}_1,\ldots,\mathbf{x}_N\}$ において
\[ p(\mathbf{x}_{i}|\mathbf{x}_{i-1},\mathbf{x}_{i-2},\ldots,\mathbf{x}_1) = p(\mathbf{x}_{i}|\mathbf{x}_{i-1})\qquad (i=2,\ldots,N) \]
が成り立つとするモデルを<strong> 1次のマルコフモデル(first-order Markov model)</strong> と呼びます.
</p>
<p>
各時点のデータは一ステップ前のデータのみに依存し，それより前のデータとは独立であるとするモデルです.
</p>
<div align="center"> <img width="500px" src="fig/first-order-markov-model.png"> </div>
</section>
<section style="font-size:90%">
<p>
1次のマルコフモデルの同時分布は
\[ \begin{aligned}
p(\mathbf{x}_1,\ldots,\mathbf{x}_N) &= p(\mathbf{x}_1)\prod_{i=2}^Np(\mathbf{x}_i|\mathbf{x}_{i-1}) \\
& =p(\mathbf{x}_1)p(\mathbf{x}_2|\mathbf{x}_1)p(\mathbf{x}_3|\mathbf{x}_2)\cdots p(\mathbf{x}_N|\mathbf{x}_{N-1})
\end{aligned} \]
となります.
</p>
<p class="fragment">
ここで， $p(\mathbf{x}_i|\mathbf{x}_{i-1})$ が全て同一の分布，つまり
\[ p(\mathbf{x}_i=\mathbf{x}'|\mathbf{x}_{i-1}=\mathbf{x}) = p(\mathbf{x}_2=\mathbf{x}'|\mathbf{x}_1=\mathbf{x}) \quad (i=2,\ldots,N)\]
が成り立つモデルを<strong>斉次マルコフモデル(homogeneous Markov model)</strong>，そうでないモデルを<strong>非斉次マルコフモデル(inhomogeneous Markov model)</strong>と呼びます.
</p>
</section>
<section style="font-size:90%">
<p>
2次，3次・・・のマルコフモデルも同様に定義されます. 例えば2次のマルコフモデルは
\[ \begin{aligned}
p(\mathbf{x}_1,\ldots,\mathbf{x}_N) &= p(\mathbf{x}_1,\mathbf{x}_2)\prod_{i=3}^Np(\mathbf{x}_i|\mathbf{x}_{i-1},\mathbf{x}_{i-2}) \\
&= p(\mathbf{x}_1,\mathbf{x}_2)p(\mathbf{x}_3|\mathbf{x}_1,\mathbf{x}_2)\cdots p(\mathbf{x}_N|\mathbf{x}_{N-1},\mathbf{x}_{N-2})
\end{aligned} \]
と表されます. 斉次性も同様に定義されます.
</p>
<div align="center"> <img width="500px" src="fig/second-order-markov-model.png"> </div>
</section>
<section style="font-size:90%">
<p>
マルコフモデルの典型例は <strong> 自己回帰モデル (autoregressive model, ARモデル)</strong> で, 現時点の値は過去 $p$ 時点の値の線形和+ホワイトノイズ(正規ノイズ)であるとするものです.
\[ x_{i} = a_1x_{i-1} + \cdots + a_px_{i-p} + a_0 + \varepsilon_i \qquad \varepsilon_i \sim N(0,\sigma^2) \]
これは $p$ 次の(斉次)自己回帰モデルと呼ばれ $\mathrm{AR}(p)$ などと書かれます.
</p>
</section>
<section style="font-size:90%">
<p>
他には <strong> 移動平均モデル (moving average model, MAモデル) </strong> というものも有名です. これは現時点の値は過去 $q$ 時点のホワイトノイズの線形和+現時点のホワイトノイズであるとするものです.
\[ x_{i} = b_1\varepsilon_{i-1}+\cdots + b_q\varepsilon_{i-q}+b_0 + \varepsilon_i \qquad \varepsilon_i \sim N(0,\sigma^2) \]
これは $\mathrm{MA}(q)$ などと書かれます.
</p>
</section>
<section style="font-size:90%">
<p>
時系列のモデルにはその他ARとMAを組み合わせた <strong> 自己回帰移動平均モデル (ARMAモデル)</strong> や，更に和分という操作を入れた <strong> 自己回帰和分移動平均モデル (ARIMAモデル)</strong>，周期性を取り入れた <strong> 季節性自己回帰和分移動平均モデル (SARIMAモデル) </strong> など様々な物があります.
</p>
<p>
テキストではあまり詳しく説明がありませんので，これらに興味がありましたら他の書籍をあたって下さい.
</p>
</section>
<section>
<h2 class="chapter-title"> 隠れマルコフモデル </h2>
</section>
<section style="font-size:90%">
<p>
下のグラフィカルモデルの様に，観測変数 $\mathbf{x}_i$ 毎に隠れ変数 $\mathbf{z}_i$ を割り当て，隠れ変数がマルコフ過程に従うとするモデルを(広い意味での)<strong> 隠れマルコフモデル (hidden Markov model, HMMモデル)</strong> と呼びます. 一般に隠れマルコフモデルと言った場合には隠れ変数がカテゴリカル変数である物を指します.
</p>
<div align="center"> <img width="500px" src="fig/hmm.png"> </div>
</section>
<section style="font-size:90%">
<p>
隠れマルコフモデルでモデル化出来る事例を紹介します.
</p>
<p class="fragment" data-fragment-index="1">
典型的な例は単語列に対する品詞タグ付けです. 観測変数 $x_i$ は各単語で，隠れ変数 $z_i$ が品詞タグとなります.
</p>
<div align="center" class="fragment" data-fragment-index="1"> <img width="700px" src="fig/part-of-speech-tagging.png"> </div>
</section>
<section style="font-size:80%">
<p>
音声認識の場合 $\mathbf{x}_i$ は音声データであり，隠れ変数 $z_i$ は発声されている音声を表すタグとなります.
</p>
<p>
(実際には $\mathbf{x}_i$ は下図のようなものではなく周波数領域に変換したもの，$z_i$ は「あいうえお」より更に細かい音の単位を使うと思います.多分.)
</p>
<div align="center"> <img width="700px" src="fig/aiueo.png"> </div>
</section>
<section style="font-size:80%">
<p>
以下はある人の <a href="http://archive.ics.uci.edu/ml/datasets/Activity+Recognition+from+Single+Chest-Mounted+Accelerometer">腰に付けた加速度計</a> の約50分間のデータ(ただしキャリブレーションなし)です. このようなセンサーデータから行動を判定するという問題は，Activity recognitionと呼ばれます.
</p>
<p>
加速度データを観測変数 $\mathbf{x}_i$，その時の行動ラベルを $z_i$ としてHMMでモデル化出来そうです. (以下の論文では別の方法を使っています.)
</p>
<div align="center"> <img width="800px" src="fig/chest-mounted-accelerator.png"> <a href="prog/prog21-1.py" style="font-size:60%">prog21-1.py</a> </div>
<p style="font-size:60%">
Casale, P. Pujol, O. and Radeva, P. 'Personalization and user verification in wearable systems using biometric walking patterns' Personal and Ubiquitous Computing, 16(5), 563-580, 2012
</p>
</section>
<section>
<p>
今例に挙げた様な問題では主に隠れ変数を特定する事に興味があります. この様な問題は一般に<strong> 系列ラベリング (sequence labelling) </strong> と呼ばれます.
</p>
<p>
隠れマルコフモデルと言った場合，多くの場合は「ラベルが未知」の場合を指すと思います. しかし，系列ラベリングの問題ではラベルが教えられた状況での学習も良く行われ，その時も隠れマルコフモデルと呼ぶ場合があります.
</p>
</section>
<section style="font-size:80%">
<p>
以下は<a href="http://archive.ics.uci.edu/ml/datasets/UJI+Pen+Characters"> 手書き文字のストローク </a> のデータ例です. 以前やったようなピクセル単位のデータと異なり，
\[ (557, 844) \rightarrow (550, 803) \rightarrow (550, 803) \rightarrow \cdots \]
の様な座標列からなるデータとなります.
</p>
<p>
このようなデータは「今，文字のどのあたりを描いているのか？」を表すラベルを隠れ変数として教師なし学習をするモデル化する事が出来ます.
</p>
<div align="center"> <img width="500px" src="prog/UJI-0.png"> <a href="prog/prog21-2.py" style="font-size:60%">prog21-2.py</a> </div>
</section>
<section>
<p>
隠れ変数を持たない1次のマルコフモデルでは $\mathbf{x}_{i}$ が観測されると $\mathbf{x}_{i-1}$ と $\mathbf{x}_{i+1}$ が独立になります. 高次のマルコフモデルでも，やはりある程度離れた観測データ同士の間に条件付き独立性が存在します.
</p>
<div align="center"> <img width="700px" src="fig/dependency-property-of-markov-model1.png"> </div>
</section>
<section>
<p>
一方，隠れ変数を持つマルコフモデルでは隠れ変数の系列を通るパスが存在するので遠く離れた $\mathbf{x}_i$ と $\mathbf{x}_j$ も従属となります.
</p>
<div align="center"> <img width="700px" src="fig/dependency-property-of-markov-model2.png"> </div>
</section>
<section>
<p>
離れた $\mathbf{x}_i$ と $\mathbf{x}_j$ の関係をマルコフモデルで表現したければ，
</p>
<ul>
<li> 高次のマルコフモデルを使う </li>
<li> 隠れ変数を持つマルコフモデルを使う </li>
</ul>
<p>
という2通りの方法がありますが，前者では次数が高くなるほどパラメータの数が増え計算量が増大してしまいます.
</p>
<p>
隠れマルコフモデルではモデルの複雑さを抑えつつ，離れた観測データ間の関係を表現する事が出来ます.
</p>
<p>
また，間隔の伸び縮みする様な系列データ列に対しても隠れマルコフモデルは有効です.
</p>
</section>
<section>
<h3> HMMのパラメータ </h3>
<p>
HMMに従う観測データ $\mathbf{x}=\{\mathbf{x}_i\}$, 隠れ変数 $\mathbf{z}=\{\mathbf{z}_i\}$ の同時分布は
\[ p(\mathbf{x},\mathbf{z}) = \left\{p(\mathbf{z}_1)\prod_{i=2}^Np(\mathbf{z}_{i}|\mathbf{z}_{i-1})\right\}\left\{\prod_{i=1}^Np(\mathbf{x}_i|\mathbf{z}_i)\right\} \]
となります.
</p>
<p class="fragment" data-fragment-index="1">
従って斉次モデルならば, 以下の三種類のパラメータが必要となります.
</p>
<ul class="fragment" data-fragment-index="1">
<li> $p(\mathbf{z}_1)$ を記述するパラメータ $\boldsymbol{\pi}$ </li>
<li> $p(\mathbf{z}_{i}|\mathbf{z}_{i-1})$ を記述するパラメータ $\mathbf{A}$ </li>
<li> $p(\mathbf{x}_i|\mathbf{z}_i)$ を記述するパラメータ $\boldsymbol{\phi}$ </li>
</ul>
</section>
<section style="font-size:90%">
<p>
隠れ変数 $\mathbf{z}_i$ は <strong> 状態 (state) </strong> と解釈する事ができます. 隠れた状態があり，それに基いて観測データが生成されるという考え方です. この意味で <strong> 状態空間モデル (state space model) </strong> と呼ばれる場合もあります.
</p>
<p class="fragment">
$p(\mathbf{z}_1)$ は初期状態の分布です. 状態数が $K$ のHMMの場合は $\sum_{k=1}^K\pi_k = 1$ を満たすパラメータ $\boldsymbol{\pi}$ を用いて
\[ p(z_1 = k) = \pi_k \]
と書く事が出来ます.
</p>
</section>
<section>
<p>
\[ p(\mathbf{z}_i | \mathbf{z}_{i-1}) \]
は状態 $\mathbf{z}_{i-1}$ から 状態 $\mathbf{z}_{i}$ への<strong> 遷移確率 (transition probability)</strong>です.
</p>
<p class="fragment" data-fragment-index="1">
状態数 $K$ のHMMの場合は $K\times K$ 行列を用いて
\[ p(z_i = k | z_{i-1} = j) = A_{jk} \]
と表す事が出来ます. この $\mathbf{A}$ を<strong> 遷移行列 (transition matrix) </strong> と呼びます.
</p>
<p class="fragment" data-fragment-index="1">
$\mathbf{A}$ は
\[ \sum_{k=1}^KA_{jk} = 1 \qquad (j=1,\ldots,K) \]
を満たす必要があります.
</p>
</section>
<section style="font-size:90%">
<p>
以下が隠れ変数の状態遷移図の例と，対応する遷移行列です.
</p>
<div align="center"> <img width="700px" src="fig/state-space.png"> </div>
</section>
<section style="font-size:90%">
<p>
\[ p(\mathbf{x}_i | \mathbf{z}_i) \]
は隠れ状態と観測値の関係を表しており，<strong> emission probability </strong> と呼ばれます.
</p>
<p class="fragment">
$ p(\mathbf{x}_i | \mathbf{z}_i) $ はどのような分布も考える事が出来ます. HMMの場合は $z_i = k$ の場合の分布のパラメータを $\boldsymbol{\phi}_k$ とすれば
\[ p(\mathbf{x}_i | z_i = k) = p(\mathbf{x}_i | \boldsymbol{\phi}_k) \]
という事になります.
</p>
</section>
<section style="font-size:90%">
<p>
まとめると，HMMは以下のように記述されます.
</p>
<div class="block" style="border-color:blue">
<h4 style="color:blue"> 隠れマルコフモデル </h4>
<p>
隠れ状態数を $K$ とする隠れマルコフモデルは
\[ \begin{aligned}
\text{(初期状態の分布)} & \quad p(z_1 = k) = \pi_k \\
\text{(遷移確率)} & \quad p(z_i=k|z_{i-1}=j) = A_{jk} \\
\text{(emission確率)} & \quad p(\mathbf{x}_i|z_k) = p(\mathbf{x}_i|\boldsymbol{\phi}_k)
\end{aligned} \]
で記述され，その同時分布は
\[ p(\mathbf{x},\mathbf{z}|\boldsymbol{\pi},\mathbf{A},\boldsymbol{\phi}) = \left\{\pi_{z_1} \prod_{i=2}^N A_{z_{i-1},z_{i}}\right\}\left\{\prod_{i=1}^Np(\mathbf{x}_i|\boldsymbol{\phi}_{z_i})\right\} \]
となる.
</p>
</div>
</section>
<section style="font-size:90%">
<h3> HMMの学習(ラベルが隠れていない場合) </h3>
<p>
PRMLでは続いて状態(ラベル)が隠れている場合の学習に進みますが，まずは簡単なラベルが与えられている状況での学習を先に紹介します. 隠れてないのでHMMという呼び方は妥当じゃないと思うのですが，HMMと呼ぶ事にします.
</p>
</section>
<section style="font-size:90%">
<p>
学習データを $D= \{(\mathbf{x}^{(1)},\mathbf{z}^{(1)}),\ldots, (\mathbf{x}^{(N)},\mathbf{z}^{(N)})\}$ とおきます. 第 $i$ 番目のデータ列の長さを $N_i$ とします. すると，尤度は
\[ p(D|\boldsymbol{\pi},\mathbf{A},\boldsymbol{\phi}) = \prod_{i=1}^N\left[ \left\{\pi_{z^{(i)}_1} \prod_{l=2}^{N_i} A_{z^{(i)}_{j-1},z^{(i)}_{j}}\right\}\left\{\prod_{j=1}^{N_i}p(\mathbf{x}^{(i)}_j|\boldsymbol{\phi}_{z^{(i)}_j})\right\}\right] \]
となりますので，
\[ \log p(D|\boldsymbol{\pi},\mathbf{A},\boldsymbol{\phi}) = \sum_{i=1}^N\left[\log \pi_{z^{(i)}_1} + \sum_{l=2}^{N_i} \log A_{z^{(i)}_{j-1},z^{(i)}_{j}} + \sum_{j=1}^{N_i}\log p(\mathbf{x}^{(i)}_j|\boldsymbol{\phi}_{z^{(i)}_j})\right] \]
の最大化を行えば良いです.
</p>
</section>
<section style="font-size:90%">
<p>
ただし，$\boldsymbol{\pi},\mathbf{A}$ には制約条件が付くのでラグランジュの未定乗数を導入し
\[ \begin{aligned}
\log p(D|\boldsymbol{\pi},\mathbf{A},\boldsymbol{\phi}) &= \sum_{i=1}^N\left[\log \pi_{z^{(i)}_1} + \sum_{l=2}^{N_i} \log A_{z^{(i)}_{j-1},z^{(i)}_{j}} + \sum_{j=1}^{N_i}\log p(\mathbf{x}^{(i)}_j|\boldsymbol{\phi}_{z^{(i)}_j})\right] \\
& - \alpha (\sum_{k=1}^K \pi_k - 1) - \sum_{j=1}^K\beta_j (\sum_{k=1}^K A_{jk} - 1)
\end{aligned} \]
の極値問題を解く必要があります.
</p>
<p>
難しく見えますが， $\boldsymbol{\pi},\mathbf{A},\boldsymbol{\phi}$ を含む項は別々になっているので微分計算は非常に単純です.
</p>
</section>
<section style="font-size:90%">
<p>
これは簡単に解くことが出来ます. まず $\boldsymbol{\pi}$ で微分すると
\[ \frac{\partial}{\partial \pi_k}\log p(D|\boldsymbol{\pi},\mathbf{A},\boldsymbol{\phi}) = \sum_{i=1}^N\frac{[z_1^{(i)}=k]}{\pi_k} - \alpha \]
となります. ただし $[z_1^{(i)} = k]$ は中が真ならば $1$, そうでなければ $0$ とします.
</p>
<p class="fragment">
これが $0$ になれば良いので
\[ \pi_k = \frac{1}{\alpha}\sum_{i=1}^N[z_1^{(i)}=k] \]
となります. これと $\sum_{k=1}^K \pi_k = 1$ を合わせて
\[ \pi_k = \frac{1}{N}\sum_{i=1}^N[z_1^{(i)}=k] = \frac{\text{(初期状態が $k$ である系列数)}}{\text{(全系列数)}} \]
となります.
</p>
</section>
<section style="font-size:90%">
<p>
全く同様にして
\[ \begin{aligned}
A_{jk} &= \frac{\sum_{i=1}^N\sum_{\ell=1}^{N_i-1}[z^{(i)}_\ell=j][z^{(i)}_{\ell+1}=k]}{\sum_{i=1}^N\sum_{\ell=1}^{N_i-1} [z^{(i)}_\ell = j]}\\
&= \frac{\text{(状態 $j$ から $k$ へ遷移した回数)}}{\text{((最後を除き)状態 $j$ になった回数)}}
\end{aligned} \]
となります.
</p>
</section>
<section style="font-size:90%">
<p>
emission確率のパラメータ $\boldsymbol{\phi}_k$ ですが， $\boldsymbol{\phi}$ に依存する項だけ取り出すと
\[ \begin{aligned}
\log p(D|\boldsymbol{\pi},\mathbf{A},\boldsymbol{\phi}) &= \sum_{i=1}^N\sum_{j=1}^{N_i}\log p(\mathbf{x}^{(i)}_j|\boldsymbol{\phi}_{z^{(i)}_j})+\mathrm{const}. \\
&= \sum_{k=1}^K\sum_{i=1}^N\sum_{j=1}^{N_i}[z^{(i)}_j=k]\log p(\mathbf{x}^{(i)}_j|\boldsymbol{\phi}_{k}) + \mathrm{const}.\\
&= \sum_{k=1}^K(\text{ラベルが $k$ の観測データの対数尤度の和}) + \mathrm{const}.
\end{aligned} \]
となりますので，各ラベル毎に観測データを分けて通常の最尤法の計算を行えば良いです.
</p>
</section>
<section style="font-size:80%">
<p>
先ほどの加速度センサの例を使ってサンプルプログラム(<a href="prog/prog21-3.py">prog21-3.py</a>)を書いてみました. このデータセットには11人分のデータが入っています. これからパラメータ $\boldsymbol{\pi}, \mathbf{A}, \boldsymbol{\phi}$ を学習する事が目標です.
</p>
<div align="center"> <img width="800px" src="fig/chest-mounted-accelerator.png"> </div>
</section>
<section style="font-size:80%">
<p>
【データセットの注意】<br>
公開されているデータは以下の図のように一部の被験者の教師ラベルが明らかにずれていました. このズレは手作業で測って修正する事にしました. また，測定開始時直後にセンサの取り付けの際の大きなノイズが見られますので，最初の10秒ほどは学習データから削りました.
</p>
<div align="center"> <img width="800px" src="prog/prog21-1-1.png"> </div>
</section>
<section style="font-size:70%">
<p>
【学習データの前処理】<br>
加速度センサのデータには人の動きに起因する加速度と重力に起因する加速度が混ざっており，後者はセンサーの取り付け位置や身長などで微妙に変わりますので除去する必要があります. また，センサーの取り付け角度や姿勢の影響を除去する為に加速度のノルムだけを考える事にします. また元データのサンプリングレート52Hzは高すぎるので1Hzまで減らしました. すると下図のような系列データが得られます. 詳しい処理内容はプログラムのコメントに書いてあります.
</p>
<div align="center"> <img width="800px" src="prog/prog21-3-1.png"> <a href="prog/prog21-3.py" style="font-size:60%">prog21-3.py</a> </div>
</section>
<section style="font-size:80%">
<p>
以下が状態遷移の様子です. このデータセットは全員が大体同じシナリオでやるみたいで, あまりおもしろくありませんでした. コンピュータで仕事をしている所から開始し，歩いたり階段の昇り降りをした後，人と立ち話をして終わるという流れの様です.
</p>
<p>
基本的には同じ状態にとどまり続ける確率が高い事，異なる動作と動作の間には必ずstandingが入る事などの特徴が学習されています.
</p>
<div align="center"> <img width="900px" src="prog/prog21-3-trans.png"> </div>
</section>
<section style="font-size:80%">
<p>
以下はemission分布の学習結果です. 分布の種類はガンマ分布としました. 前処理が正しければ，横軸は動加速度のノルムの二乗になっているはずです. スケーリング調整はしてません.
</p>
<p>
working at computer → standing → talking while standing → … → walking と順に加速度が大きくなる傾向がある事が分かります.
</p>
<div align="center"> <img width="500px" src="prog/prog21-3-2.png"> </div>
</section>
<section style="font-size:90%">
<p>
パラメータ学習が完了したら，次はそれを使って新しい系列データに対するラベリングなどを行いたいですが，その為のアルゴリズムの紹介は次回にまわします.
</p>
</section>
<section style="font-size:90%">
<h3> HMMの学習(ラベルが隠れている場合) </h3>
<p>
本題のラベルが隠れている場合の学習に進みます. 隠れ変数がありますのでEM法や変分ベイズやランダムサンプリングを使う事になります.
</p>
<p>
以下，HMM(隠れ状態がカテゴリカル)の場合の汎用的なEM法のアルゴリズムの導出を行います.
</p>
</section>
<section style="font-size:90%">
<p>
$\boldsymbol{\pi},\mathbf{A},\boldsymbol{\phi}$ を全て合わせて $\boldsymbol{\theta}$ と書く事にします.
</p>
<p class="fragment">
EM法を復習すると，$\boldsymbol{\theta}$ を適当に初期化し $\mathcal{Q}$ 関数
\[ \mathcal{Q}(\boldsymbol{\theta},\boldsymbol{\theta}^{\mathrm{old}}) = \sum_{\mathbf{z}} p(\mathbf{z}|\mathbf{x},\boldsymbol{\theta}^{\mathrm{old}})\log p(\mathbf{x},\mathbf{z}|\boldsymbol{\theta}) \]
が最大となるような $\boldsymbol{\theta}$ にそれを更新するという事を繰り返せば良いのでした.
</p>
<p class="fragment">
簡単の為, 系列データが一本の場合を考え
\[ \begin{aligned}
\gamma_{ik} &= p(z_i =k | \mathbf{x},\boldsymbol{\theta}^{\mathrm{old}}) \\
\xi_{ijk} &= p(z_{i-1}=j,z_i=k|\mathbf{x},\boldsymbol{\theta}^{\mathrm{old}})
\end{aligned} \]
とおきます.
</p>
</section>
<section style="font-size:90%">
<p>
すると， $\mathcal{Q}$ 関数は以下のようになります.
\[ \begin{aligned}
\mathcal{Q}(\boldsymbol{\theta},\boldsymbol{\theta}^{\mathrm{old}}) &= \sum_{k=1}^K \gamma_{1k}\log \pi_k + \sum_{i=1}^N\sum_{j=1}^K\sum_{k=1}^K\xi_{ijk}\log A_{jk} \\
&+ \sum_{i=1}^N\sum_{k=1}^K\gamma_{ik}\log p(\mathbf{x}_i|\boldsymbol{\phi}_k)
\end{aligned} \]
</p>
</section>
<section style="font-size:90%">
<p>
EM法のM stepでは $\gamma,\xi$ を固定した上でこれが最大となる $\boldsymbol{\theta}$ を求めます. 先ほどのラベルが与えられている場合と全く同様にラグランジュの未定乗数法を用いて計算を行うと
\[ \begin{aligned}
\pi_k &= \frac{\gamma_{1k}}{\sum_{k=1}^K\gamma_{1k}} \\
A_{jk} &= \frac{\sum_{i=2}^N \xi_{ijk}}{\sum_{i=2}^N\sum_{k=1}^K \xi_{ijk}}
\end{aligned} \]
となります.
</p>
</section>
<section style="font-size:90%">
<p>
$\boldsymbol{\phi}_k$ の更新式はemission確率 $p(\mathbf{x}_i|\boldsymbol{\phi}_k)$ のモデルに依存しますが，
\[ \begin{aligned}
\mathcal{Q}(\boldsymbol{\theta},\boldsymbol{\theta}^{\mathrm{old}}) &= \sum_{k=1}^K \gamma_{1k}\log \pi_k + \sum_{i=1}^N\sum_{j=1}^K\sum_{k=1}^K\xi_{ijk}\log A_{jk} \\
&+ \sum_{i=1}^N\sum_{k=1}^K\gamma_{ik}\log p(\mathbf{x}_i|\boldsymbol{\phi}_k)
\end{aligned} \]
の一番最後の項しか $\boldsymbol{\phi}_k$ に依存しないので，
\[ \begin{aligned}
\mathcal{Q}(\boldsymbol{\theta},\boldsymbol{\theta}^{\mathrm{old}}) & = \sum_{i=1}^N\sum_{k=1}^K\gamma_{ik}\log p(\mathbf{x}_i|\boldsymbol{\phi}_k) + \mathrm{const}.
\end{aligned} \]
の最大化を行えば良いです. これは第19回にやったのと全く同じ形になっているので，更新式も同じです.
</p>
</section>
<section style="font-size:90%">
<p>
例えば $p(\mathbf{x}_i|\boldsymbol{\phi}_k)$ が正規分布
\[ p(\mathbf{x}_i|\boldsymbol{\phi}_k) = \mathcal{N}(\mathbf{x}_i | \boldsymbol{\mu}_k,\boldsymbol{\Sigma}_k) \]
ならば, 更新式は
\[ \begin{aligned}
\boldsymbol{\mu}_k &= \frac{\sum_{i=1}^N \gamma_{ik}\mathbf{x}_i}{\sum_{i=1}^N\gamma_{ik}} \\
\boldsymbol{\Sigma}_k &= \frac{\sum_{i=1}^N \gamma_{ik}(\mathbf{x}_i-\boldsymbol{\mu}_k)(\mathbf{x}_i-\boldsymbol{\mu}_k)^T}{\sum_{i=1}^N \gamma_{ik}}
\end{aligned} \]
という事になります.
</p>
</section>
<section style="font-size:90%">
<p>
続いてE stepで行う $\gamma_{ik}$ と $\xi_{ijk}$ の学習です. こちらを効率よく計算する為には <strong> 前向き後ろ向きアルゴリズム (forward backward algorithm)</strong> という動的計画法に基づくアルゴリズムを使います.
</p>
<p class="fragment">
まず $\gamma_{ik}$ を求める為には
\[ \gamma_{i} = p(z_i|\mathbf{x}) = \frac{p(\mathbf{x}|z_i)p(z_i)}{p(\mathbf{x})} \]
より $\boldsymbol{\theta}^{\mathrm{old}}$ を使って $p(\mathbf{x}|z_i)$ を計算する事が出来れば良いです.
</p>
</section>
<section style="font-size:90%">
<p>
ここで $z_i$ の値が定まると， $i$ より過去と未来が独立になります.
</p>
<div align="center"> <img width="500px" src="fig/forward-backward.png"> </div>
<p class="fragment">
つまり
\[ p(\mathbf{x}|z_i) = p(\mathbf{x}_1,\ldots,\mathbf{x}_i|z_i)p(\mathbf{x}_{i+1},\ldots,\mathbf{x}_N|z_i) \]
という分解が出来ます.
</p>
</section>
<section style="font-size:90%">
<p>
すると,
\[ p(\mathbf{x}_1,\ldots,\mathbf{x}_i|z_i)p(z_i) = p(\mathbf{x}_1,\ldots,\mathbf{x}_i,z_i) \]
である事を使えば
\[ \gamma_{ik} = p(z_i|\mathbf{x}) = \frac{p(\mathbf{x}_1,\ldots,\mathbf{x}_i,z_i)p(\mathbf{x}_{i+1},\ldots,\mathbf{x}_N|z_i)}{p(\mathbf{x})} \]
となります.
</p>
<p class="fragment">
そこで
\[ \begin{aligned}
\alpha(z_i) &= p(\mathbf{x}_1,\ldots,\mathbf{x}_i,z_i) \\
\beta(z_i) &= p(\mathbf{x}_{i+1},\ldots,\mathbf{x}_N|z_i)
\end{aligned} \]
とおきましょう.
</p>
</section>
<section style="font-size:80%">
<p>
条件付き独立性に注意して変形していくと，$\alpha$ の漸化式を導く事が出来ます.
\[ \begin{aligned}
\alpha(z_i) &= p(\mathbf{x}_1,\ldots,\mathbf{x}_i,z_i) \\
&= p(\mathbf{x}_1,\ldots,\mathbf{x}_i|z_i) p(z_i) \\
&= p(\mathbf{x}_i|z_i)p(\mathbf{x}_1,\ldots,\mathbf{x}_{i-1}|z_i)p(z_i) \\
&= p(\mathbf{x}_i|z_i)p(\mathbf{x}_1,\ldots,\mathbf{x}_{i-1}, z_i) \\
&= p(\mathbf{x}_i|z_i)\sum_{z_{i-1}}p(\mathbf{x}_1,\ldots,\mathbf{x}_{i-1}, z_i, z_{i-1}) \\
&= p(\mathbf{x}_i|z_i)\sum_{z_{i-1}}p(\mathbf{x}_1,\ldots,\mathbf{x}_{i-1}, z_i|z_{i-1})p(z_{i-1}) \\
&= p(\mathbf{x}_i|z_i)\sum_{z_{i-1}}p(\mathbf{x}_1,\ldots,\mathbf{x}_{i-1}|z_{i-1})p(z_i|z_{i-1})p(z_{i-1}) \\
&= p(\mathbf{x}_i|z_i)\sum_{z_{i-1}}p(\mathbf{x}_1,\ldots,\mathbf{x}_{i-1},z_{i-1})p(z_i|z_{i-1}) \\
&= p(\mathbf{x}_i|\boldsymbol{\phi}_{z_i})\sum_{z_{i-1}}\alpha(z_{i-1})A_{z_{i-1},z_i} \\
\end{aligned} \]
</p>
</section>
<section style="font-size:80%">
<p>
初期値は
\[ \alpha(z_1) = p(\mathbf{x}_1|z_1)p(z_1) = p(\mathbf{x}_1|\boldsymbol{\phi}_{z_1})\pi_{z_1} \]
となります.
</p>
<p class="fragment">
以上が前向き後ろ向きアルゴリズムにおける「前向き」の部分の計算です.
</p>
</section>
<section style="font-size:80%">
<p>
同様にして $\beta$ の漸化式も導けます.
\[ \begin{aligned}
\beta(z_i) &= p(\mathbf{x}_{i+1},\ldots,\mathbf{x}_N|z_i) \\
&= \sum_{z_{i+1}} p(\mathbf{x}_{i+1},\ldots,\mathbf{x}_N,z_{i+1} |z_i) \\
&= \sum_{z_{i+1}} p(\mathbf{x}_{i+1},\ldots,\mathbf{x}_N|z_{i+1},z_i)p(z_{i+1} |z_i) \\
&= \sum_{z_{i+1}} p(\mathbf{x}_{i+1},\ldots,\mathbf{x}_N|z_{i+1})p(z_{i+1} |z_i) \\
&= \sum_{z_{i+1}} p(\mathbf{x}_{i+2},\ldots,\mathbf{x}_N|z_{i+1})p(\mathbf{x}_{i+1}|z_{i+1})p(z_{i+1} |z_i) \\
&= \sum_{z_{i+1}} \beta(z_{i+1})p(\mathbf{x}_{i+1}|\boldsymbol{\phi}_{z_{i+1}})A_{z_i,z_{i+1}}
\end{aligned} \]
</p>
</section>
<section style="font-size:80%">
<p>
こちらの初期値ですが，ステップ $N$ 以降の値は存在しないので $\beta(z_N) = 1$ となります.
</p>
<p class="fragment">
以上が前向き後ろ向きアルゴリズムにおける「後ろ向き」の部分の計算です.
</p>
<p class="fragment">
また $p(\mathbf{x})$ の計算が残っていますがこれは
\[ p(\mathbf{x}) = \sum_{z_N} p(\mathbf{x}_1,\ldots,\mathbf{x}_N,z_N) = \sum_{z_N}\alpha(z_N) \]
として計算する事が出来ます.
</p>
</section>
<section style="font-size:90%">
<p>
続いて $\xi_{ijk}$ の更新式ですが，先ほどと同様に条件付き独立性に注意して式を変形していくと
\[ \begin{aligned}
\xi_{i} &= p(z_{i-1},z_i|\mathbf{x}) \\
&= \frac{p(\mathbf{x}|z_{i-1},z_i)p(z_{i-1},z_i)}{p(\mathbf{x})} \\
&= \frac{p(\mathbf{x}_1,\ldots,\mathbf{x}_{i-1}|z_{i-1})p(\mathbf{x}_i|z_i)p(\mathbf{x}_{i+1},\ldots,\mathbf{x}_{N}|z_i)p(z_i|z_{i-1})p(z_{i-1})}{p(\mathbf{x})} \\
&= \frac{\alpha(z_{i-1})\beta(z_{i})p(\mathbf{x}_i|\boldsymbol{\phi}_{z_i})A_{z_{i-1},z_i}}{p(\mathbf{x})}
\end{aligned} \]
となり，既に計算した $\alpha,\beta$ を用いて求める事が出来ます.
</p>
</section>
<section style="font-size:70%">
<div class="block" style="border-color:blue">
<h4 style="color:blue"> 前向き後ろ向きアルゴリズム </h4>
<p>
HMMのパラメータ $\boldsymbol{\pi},\mathbf{A},\boldsymbol{\phi}$ をEM法で学習する際のE stepの計算に必要な
\[ \gamma_{ik} = p(z_i =k | \mathbf{x},\boldsymbol{\theta}^{\mathrm{old}}),\quad \xi_{ijk} = p(z_{i-1}=j,z_i=k|\mathbf{x},\boldsymbol{\theta}^{\mathrm{old}}) \]
を求める為には，以下の漸化式によって $\alpha(z_i),\beta(z_i)$ を求め,
\[ \begin{aligned}
\alpha(z_i) &= p(\mathbf{x}_i|\boldsymbol{\phi}_{z_i})\sum_{z_{i-1}}\alpha(z_{i-1})A_{z_{i-1},z_i},\quad \alpha(z_1) = p(\mathbf{x}_1|\boldsymbol{\phi}_{z_1})\pi_{z_1}\\
\beta(z_i) &= \sum_{z_{i+1}} \beta(z_{i+1})p(\mathbf{x}_{i+1}|\boldsymbol{\phi}_{z_{i+1}})A_{z_i,z_{i+1}},\quad \beta(z_N) = 1 \\
\end{aligned} \]
以下によって更新を行う.
\[ \begin{aligned}
\gamma_{i} &= \frac{\alpha(z_i)\beta(z_i)}{p(\mathbf{x})},\quad \xi_{i} = \frac{\alpha(z_{i-1})\beta(z_{i})p(\mathbf{x}_i|\boldsymbol{\phi}_{z_i})A_{z_{i-1},z_i}}{p(\mathbf{x})} \\
p(\mathbf{x}) &= \sum_{z_N}\alpha(z_N)
\end{aligned} \]
</p>
</section>
<section style="font-size:90%">
<p>
系列が複数 $\mathbf{x}^{(1)},\ldots,\mathbf{x}^{(N)}$ ある場合ですが， E stepで計算する $\gamma_{i},\xi_{i}$ は各系列毎に独立なので別々に前向き後ろ向きアルゴリズムで計算すれば良いです.
</p>
<p class="fragment">
一方，M stepで計算する $\boldsymbol{\theta}$ は全系列で共有していますので, $\mathcal{Q}$ 関数を
\[ \begin{aligned}
\mathcal{Q}(\boldsymbol{\theta},\boldsymbol{\theta}^{\mathrm{old}}) &= \sum_{\ell=1}^N\left[ \sum_{k=1}^K \gamma^{(\ell)}_{1k}\log \pi_k + \sum_{i=1}^{N_\ell}\sum_{j=1}^K\sum_{k=1}^K\xi^{(\ell)}_{ijk}\log A_{jk}\right. \\
&+ \left.\sum_{i=1}^{N_\ell}\sum_{k=1}^K\gamma^{(\ell)}_{ik}\log p(\mathbf{x}_i|\boldsymbol{\phi}_k)\right]
\end{aligned} \]
に直して計算をします. $\Sigma$ が１つ付くだけで計算式は変わりません.
</p>
</section>
<section style="font-size:90%">
<p>
実際に計算する際には浮動小数点数のアンダーフローへの対処が必要です.
$\alpha,\beta$ は以下の様に定義されているので，$\alpha(z_i)$ は $i$ が大きいほど $\beta(z_i)$ は $i$ が小さいほど
その値が指数的に小さくなっていきます.
\[ \begin{aligned}
\alpha(z_i) &= p(\mathbf{x}_1,\ldots,\mathbf{x}_i,z_i) \\
\beta(z_i) &= p(\mathbf{x}_{i+1},\ldots,\mathbf{x}_N|z_i)
\end{aligned} \]
</p>
<p class="fragment">
対数を取って計算する場合には，$\Sigma$ が含まれている為以下のようにして <code>logsumexp</code> 関数を利用します.
\[ \log \alpha(z_i) = \log p(\mathbf{x}_i|\boldsymbol{\phi}_{z_i}) + \log \sum_{z_{i-1}} \exp \left\{\log \alpha(z_{i-1}) + \log A_{z_{i-1},z_i} \right\} \]
スケーリングを用いる方法もありPRML本ではこちらが紹介されています. 一概にどちらかが優れているという事はありません.
</p>
</section>
<section style="font-size:80%">
<p>
<a href="http://archive.ics.uci.edu/ml/datasets/UJI+Pen+Characters"> 手書き文字のストローク </a> のデータに今のアルゴリズムを適用して，「2」の書き方を学習させてみます. このデータセットには11人分, 22文字のサンプルが含まれています.
</p>
<div align="center"> <img width="500px" src="prog/UJI-0.png"> <a href="prog/prog21-2.py" style="font-size:60%">prog21-2.py</a> </div>
</section>
<section style="font-size:80%">
<p>
PRML本で紹介されている方法では「今どの部分を描いているか？」を $K$ 個の値で表します. 状態 $1$ は描き始め, 状態 $K$ は描き終わった事を表します.
</p>
<p>
部分 $k$ を書いている状態からの遷移は，次も同じ部分であるか続く部分 $k+1$ に進むかの2通りしかないと考える事が出来ます. つまり状態遷移図は下のようになります. このようなモデルを <strong> left-to-right HMM</strong> と呼びます.
</p>
<p>
この場合，遷移行列 $A$ の成分の多くが $0$ になりパラメータ数を減らす事が出来ます.
</p>
<div align="center"> <img width="500px" src="fig/left-to-right-model.png"> </div>
</section>
<section style="font-size:90%">
<p>
emission分布には分散を固定した対称的な二次元正規分布を使うことにしました. つまり
\[ p(\mathbf{x}_i|z_i=k) = N(\mathbf{x}_i|\boldsymbol{\mu}_k,\sigma^2I) \]
です. 今回は学習データ数が非常に少ない為モデルの自由度を下げました.
</p>
</section>
<section style="font-size:60%">
<p>
以下が学習された $\boldsymbol{\mu}_k$ の様子です. $\sigma=300$ としました.
</p>
<div align="center"> <img width="500px" src="prog/prog21-4.png"> <a href="prog/prog21-4.py" style="font-size:60%">prog21-4.py</a> </div>
<p>
よりデータ数が多いならば，emissionをもっと複雑にしたりleft-to-rightモデルよりも自由度の高い遷移を考える事が出来ると思います.
</p>
</section>
<section>
<h3> 今回はここで終了します． </h3>
<p>
次回はHMMの続きと，テキスト第12章「連続潜在変数」をやります.
</p>
</section>
</div>
</div>
<script src="lib/js/head.min.js"></script>
<script src="js/reveal.min.js"></script>
<script>
// Full list of configuration options available here:
// https://github.com/hakimel/reveal.js#configuration
Reveal.initialize({
controls: false,
progress: true,
history: true,
center: true,
rollingLinks: false,
theme: Reveal.getQueryHash().theme, // available themes are in /css/theme
transition: Reveal.getQueryHash().transition || 'none', // default/cube/page/concave/zoom/linear/fade/none
// Optional libraries used to extend on reveal.js
dependencies: [
{ src: 'lib/js/classList.js', condition: function() { return !document.body.classList; } },
{ src: 'plugin/markdown/showdown.js', condition: function() { return !!document.querySelector( '[data-markdown]' ); } },
{ src: 'plugin/markdown/markdown.js', condition: function() { return !!document.querySelector( '[data-markdown]' ); } },
{ src: 'plugin/highlight/highlight.js', async: true, callback: function() { hljs.initHighlightingOnLoad(); } },
{ src: 'plugin/zoom-js/zoom.js', async: true, condition: function() { return !!document.body.classList; } },
{ src: 'plugin/notes/notes.js', async: true, condition: function() { return !!document.body.classList; } }
// { src: 'plugin/search/search.js', async: true, condition: function() { return !!document.body.classList; } }
// { src: 'plugin/remotes/remotes.js', async: true, condition: function() { return !!document.body.classList; } }
]
});
Reveal.addEventListener( 'slidechanged', function( event ) {
MathJax.Hub.Rerender(event.currentSlide);
});
</script>
</body>
</html>