摘要 I
Abstract III
致謝 V
章節目錄 VI
圖目錄 IX
表目錄 XI
第一章 緒論 1
1.1 研究背景及動機 1
1.2 研究目的與方法 3
1.3 章節概要 5
第 二 章 相關文獻探討 6
2.1 主題模型 6
2.1.1 機率型潛在語意分析主題模型 6
2.1.2 潛在狄氏配置主題模型 8
2.2 語言模型 14
2.2.1 資料稀疏問題 16
2.2.2 事前分佈及程序 17
2.2.3 階層式Pitman-Yor語言模型 23
2.2.4 長距離資訊不充分問題 27
第 三 章 貝氏稀疏主題模型 29
3.1 稀疏模型建立法 29
3.1.1 連續型機率密度方法 30
3.1.2 尖釘與平板分佈方法 31
3.2 稀疏潛在狄氏配置主題模型 32
3.2.1 模型介紹 32
3.2.2 模型建立 32
3.2.3 模型推論 35
第 四 章 貝氏稀疏語言模型 38
4.1 階層式主題語言模型 39
4.1.1 模型介紹 40
4.1.2 模型建立 42
4.1.3 模型推論 47
4.2 貝氏稀疏語言模型 49
4.2.1 印度晚宴程序 51
4.2.2 模型建立 52
4.2.3 模型推論 54
第 五 章 實驗結果 57
5.1貝氏稀疏主題模型 57
5.1.1語料庫與初值設定 57
5.1.2評估標準 58
5.1.3實驗結果 60
5.1.4資料分析 65
5.2貝氏稀疏語言模型 69
5.2.1語料庫與相關設定 69
5.2.2評估標準 69
5.2.3實驗結果 71
第 六 章 結論及未來研究方向 73
6.1 結論 73
6.2 未來研究方向 74
參考文獻 75
附錄一 Newton-Raphson演算法 81
附錄二 貝氏稀疏主題模型變異性推論過程 83
|