機器學習

標籤

這部著作定位為機器學習領域的入門教材，力求在儘量涵蓋核心概念的同時，減少對複雜數學的直接依賴。儘管如此，讀者仍會接觸到概率、統計、線性代數、優化與邏輯等基礎知識，因此比較適合理工科本科三年級及以上階段的學生、研究生，以及具備相關背景且對機器學習感興趣的人群。為方便學習，書中附有一個簡短的數學基礎知識附錄，幫助讀者補充相關背景。 全書共有16章，分為三大部分：第一部分（第1～3章）介紹機器學習的基本原理與思路；第二部分（第4～10章）討論一些經典且常用的學習方法，包括決策樹、神經網絡、支持向量機、貝葉斯分類器、集成學習、聚類、降維與度量學習等；第三部分（第11～16章）涵蓋進階內容，如特徵選擇與稀疏學習、計算學習理論、半監督學習、概率圖模型、規則學習以及強化學習等。除了第1章之外，其餘各章在相對獨立的層級上展開，讀者可根據個人興趣和時間安排自由選讀。就課程安排而言，一門本科課程可以覆蓋前9章或前10章，研究生課程則可考慮完整學習全書。 每章除了第1章外，都配有十道練習題。部分題目用於鞏固本章內容，另一些則旨在引導讀者拓展相關知識。一個學期內的課程可以這些練習為基礎，輔以2至3個針對具體數據集的綜合作業。帶星號的題目通常具有較高難度，且有時並無現成答案，旨在激發具有進取心的讀者進行深入思考。 總之，本書既適合作為高等院校計算機、自動化及相關專業本科生與研究生的教材，也可供對機器學習感興趣的研究人員和工程技術人員作為參考資料。

序言
前言
如何使用本書 ——寫在第十次印刷之際
主要符號表
第1章 緒論
1.1 引言
1.2 基本術語
1.3 假設空間
1.4 歸納偏好
1.5 發展歷程
1.6 應用現狀
1.7 閱讀材料
習題
參考文獻
休息一會兒
第2章 模型評估與選擇
2.1 經驗誤差與過擬合
2.2 評估方法
2.3 性能度量
2.4 比較檢驗
2.5 偏差與方差
2.6 閱讀材料
習題
參考文獻
休息一會兒
第3章 線性模型
3.1 基本形式
3.2 線性迴歸
3.3 對數幾率迴歸
3.4 線性判別分析
3.5 多分類學習
3.6 類別不平衡問題
3.7 閱讀材料
習題
參考文獻
休息一會兒
第4章 決策樹
4.1 基本流程
4.2 劃分選擇
4.3 剪枝處理
4.4 連續與缺失值
4.5 多變量決策樹
4.6 閱讀材料
習題
參考文獻
休息一會兒
第5章 神經網絡
5.1 神經元模型
5.2 感知機與多層網絡
5.3 誤差逆傳播算法
5.4 全局最小與局部極小
5.5 其他常見神經網絡
5.6 深度學習
5.7 閱讀材料
習題
參考文獻
休息一會兒
第6章 支持向量機
6.1 間隔與支持向量
6.2 對偶問題
6.3 核函數
6.4 軟間隔與正則化
6.5 支持向量迴歸
6.6 核方法
6.7 閱讀材料
習題
參考文獻
休息一會兒
第7章 貝葉斯分類器
7.1 貝葉斯決策論
7.2 極大似然估計
7.3 樸素貝葉斯分類器
7.4 半樸素貝葉斯分類器
7.5 貝葉斯網
7.6 EM算法
7.7 閱讀材料
習題
參考文獻
休息一會兒
第8章 集成學習
8.1 個體與集成
8.2 Boosting
8.3 Bagging與隨機森林
8.4 結合策略
8.5 多樣性
8.6 閱讀材料
習題
參考文獻
休息一會兒
第9章 聚類
9.1 聚類任務
9.2 性能度量
9.3 距離計算
9.4 原型聚類
9.5 密度聚類
9.6 層次聚類
9.7 閱讀材料
習題
參考文獻
休息一會兒
第10章 降維與度量學習
10.1 k近鄰學習
10.2 低維嵌入
10.3 主成分分析
10.4 歸納偏好
10.5 流形學習
10.6 度量學習
10.7 閱讀材料
習題
參考文獻
休息一會兒
第11章 特徵選擇與稀疏學習
11.1 子集搜索與評價
11.2 過濾式選擇
11.3包裹式選擇
11.4 嵌入式選擇與L1正則化
11.5 稀疏表示與字典學習
11.6 壓縮感知
11.7 閱讀材料
習題
參考文獻
休息一會兒
第12章 計算學習理論
12.1 基礎知識
12.2 PAC學習
12.3 有限假設空間
12.4 VC維
12.5 Rademacher複雜度
12.6 穩定性
12.7 閱讀材料
習題
參考文獻
休息一會兒
第13章 半監督學習
13.1 未標記樣本
13.2 生成式方法
13.3 半監督SVM
13.4 圖半監督學習
13.5 基於分歧的方法
13.6 半監督聚類
13.7 閱讀材料
習題
參考文獻
休息一會兒
第14章 概率圖模型
14.1 隱馬爾可夫模型
14.2 馬爾可夫隨機場
14.3 條件隨機場
14.4學習與推斷
14.5 近似推斷
14.6 話題模型
14.7 閱讀材料
習題
參考文獻
休息一會兒
第15章 規則學習
15.1 基本概念
15.2 序貫覆蓋
15.3 剪枝優化
15.4 一階規則學習
15.5 歸納邏輯程序設計
15.6 閱讀材料
習題
參考文獻
休息一會兒
第16章 強化學習
16.1 任務與獎賞
16.2 K-搖臂賭博機
16.3 有模型學習
16.4 免模型學習
16.5 值函數近似
16.6 模仿學習
16.7 閱讀材料
習題
參考文獻
休息一會兒
附錄
A 矩陣
B 優化
C 概率分佈
後記