第 1 章 Scikit-learn入門

1-1 Scikit-learn簡介

1-2 學習地圖

1-3 開發環境安裝

1-4 Jupyter Notebook

1-5 撰寫第一支程式

1-6 本章小結

1-7 延伸練習



第 2 章 資料前置處理

2-1 資料源(Data Sources)

2-2 Scikit-learn內建資料集

2-3 資料清理

2-4 遺失值(Missing value)處理

2-5 離群值(Outlier)處理

2-6 類別變數編碼

2-7 其他資料清理

2-8 本章小結

2-9 延伸練習



第 3 章 資料探索與分析

3-1 資料探索的方式

3-2 描述統計量(Descriptive statistics)

3-3 統計圖

3-4 實務作法

3-5 本章小結

3-6 延伸閱讀



第 4 章 特徵工程

4-1 特徵縮放(Feature Scaling)

4-2 特徵選取(Feature Selection)

4-3 特徵萃取(Feature Extraction)

4-4 特徵生成(Feature Generation)

4-5 小結

4-6 延伸練習



第 5 章 迴歸

5-1 線性迴歸(Linear regression)

5-2 非線性迴歸(Non-linear regression)

5-3 迴歸的假設與缺點

5-4 時間序列分析(Time Series Analysis)

5-5 過度擬合(Overfitting)與正則化(Regularization)

5-6 偏差(Bias)與變異(Variance)

5-7 本章小結

5-8 延伸練習



第 6 章 分類演算法(一)

6-1 羅吉斯迴歸(Logistic Regression)

6-2 最近鄰(K nearest neighbor)

6-3 單純貝氏分類法(Naive Bayes Classifier)

6-4 本章小結

6-5 延伸練習



第 7 章 分類演算法(二)

7-1 支援向量機(Support Vector Machine)

7-2 決策樹(Decision Tree)

7-3 隨機森林(Random Forest)

7-4 ExtraTreesClassifier

7-5 本章小結

7-6 延伸練習



第 8 章 模型效能評估與調校

8-1 模型效能評估

8-2 效能衡量指標(Performance Metrics)

8-3 ROC/AUC

8-4 詐欺偵測(Fraud Detection)個案研究

8-5 本章小結

8-6 延伸練習



第 9 章 集群

9-1 K-Means Clustering

9-2 階層集群(Hierarchical Clustering)

9-3 以密度為基礎的集群(DBSCAN)

9-4 高斯混合模型(Gaussian Mixture Models)

9-5 影像壓縮(Image Compression)

9-6 客戶區隔(Customer Segmentation)

9-7 本章小結

9-8 延伸練習



第 10 章 整體學習

10-1 整體學習概念說明

10-2 多數決(Majority Voting)

10-3 裝袋法(Bagging)

10-4 強化法(Boosting)

10-5 堆疊(Stacking)

10-6 本章小結

10-7 延伸練習



第 11 章 其他課題

11-1 半監督式學習(Semi-supervised learning)

11-2 可解釋的AI(Explainable AI, XAI)

11-3 機器學習系統架構

11-4 結語



?

前言 (Preface)



　　為何撰寫本書



　　近期AI發展相較以往，更加如火如荼，去年(2022) Text to image、ChapGPT引爆生成式AI (Generative AI)熱潮，衝擊藝術創作市場及Google搜索引擎霸主地位，相信有更多人因而希望探究AI科學，了解其背後的技術，或從事相關工作；然而，AI領域博大精深，不是一蹴可幾，需要奠定紮實的基礎，一步一腳印才能進入AI殿堂。



　　筆者從事機器學習教育訓練多年，其間也在『IT邦幫忙』撰寫上百篇的文章，從學員及讀者的回饋獲得許多寶貴意見，有感於在教學現場的時間壓力下，很多細節無法盡情的討論，難免有許多內容成為遺珠之憾，因此，撰寫本書，針對機器學習作較全面性的介紹，讓讀者有充裕的時間思考，或者挑選有興趣的課題深入研究。



　　本書以Scikit-learn套件為主體，介紹各類的演算法，不只是說明用法，也涵蓋背後的原理、數學公式推導，並示範如何自行開發演算法，與Scikit-learn演算法相互驗證，同時介紹大量應用實例，期望讀者能全面性的掌握理論、技術與實作。另外書中每個範例都有詳細的程式說明，也遵循完整的機器學習開發流程，讓讀者能充分理解每個環節的重要任務，包括資料的探索、清理、特徵工程、模型訓練、評估、參數調校到最終的佈署，希望這本書能成為機器學習入門者最佳的夥伴，在讀者紮根的過程中，貢獻一點微薄的力量。



　　本書主要的特點



　　1.?? ?本書不是以Scikit-learn的模組分類介紹，而是以完整的機器學習開發流程角度出發。



　　2.?? ?每一個演算法都包括原理、自行開發、Scikit-learn函數用法，最後再附應用實例。



　　3.?? ?由於筆者身為統計人，希望能「以統計�數學為出發點」，介紹機器學習必備的數理基礎，但又不希望讓離開校園已久的在職者看到一堆數學符號就心生恐懼，因此，會有大量圖解，並以程式開發加深演算法原理的掌握，增進學習樂趣。



　　4.?? ?完整的範例程式及各種演算法的延伸應用，以實用為要，希望能觸發創意，在企業內應用自如。



　　目標對象



　　1.?? ?機器學習的入門者：須熟悉Python程式語言及資料科學基礎套件NumPy、Pandas及MatPlotLib。



　　2.?? ?資料工程師及分析師：以模型開發及導入為職志，希望能應用各種演算法，或更進一步改良與實作演算法。



　　3.?? ?資訊工作者：希望能擴展機器學習知識領域。



　　4.?? ?從事其他領域的工作，希望能一窺機器學習奧秘者。



　　閱讀重點



　　1.?? ?第一章：Scikit-learn模組及機器學習分類、學習地圖、開發流程。



　　2.?? ?第二章：資料前置處理，包括資料清理、資料探索、特徵工程。



　　3.?? ?第三章：資料探索與分析，包括描述統計量、統計圖分析。



　　4.?? ?第四章：特徵工程，包括特徵縮放(Feature Scaling)、特徵選取(Feature Selection)、特徵萃取(Feature Extraction)及特徵生成(Feature Generation)，內含各式降維演算法說明、維度災難(Curse of dimensionality)概念說明。



　　5.?? ?第五章：迴歸(Regression)，包括線性迴歸、多項式迴歸、時間序列等演算法，還有正則化(Regularization)、過度擬合(Overfitting)、偏差(Bias)與變異(Variance)的平衡。



　　6.?? ?第六~七章：分類演算法，包括羅吉斯迴歸(Logistic Regression)、最近鄰(KNN)、單純貝氏分類法(Naive bayes classifier)、支援向量機(SVM)、決策樹(Decision Tree)及隨機森林(Random forest)等，包括各項演算法的原理、開發邏輯、應用與優缺點說明。



　　7.?? ?第八章：模型效能評估與調校，包括交叉驗證法、參數調校、管線(Pipeline)、混淆矩陣(Confusion Matrix)、效能衡量指標(Performance metrics)。



　　8.?? ?第九章：集群(Clustering)演算法，K-Means、階層式集群、以密度為基礎的集群(DBSCAN)、高斯混合模型(GMM)等。



　　9.?? ?第十章：整體學習(Ensemble Learning)演算法，包括多數決(Majority Voting)、裝袋法(Bagging)、強化法(Boosting)、堆疊法(Stacking)。



　　10.?? ?第十一章：介紹其他課題，包括半監督式學習(Semi-supervised learning)、Active learning、可解釋的AI(Explainable AI, XAI)、機器學習架構。



　　本書包括許多應用範例，包括：

　　1?? ?分類

　　1.1?? ?鳶尾花(Iris)品種分類

　　1.2?? ?葡萄酒分類

　　1.3?? ?乳癌診斷

　　1.4?? ?人臉資料集(LFW)辨識

　　1.5?? ?新聞資料集(News groups)分類

　　1.6?? ?鐵達尼號生存預測

　　1.7?? ?手寫阿拉伯數字辨識

　　1.8?? ?員工流失預測

　　1.9?? ?信用卡詐欺

　　2?? ?迴歸及時間預測

　　2.1?? ?股價預測

　　2.2?? ?房價預測

　　2.3?? ?計程車小費預測

　　2.4?? ?航空公司客運量預測

　　2.5?? ?以人臉上半部預測人臉下半部

　　2.6?? ?糖尿病指數預測

　　3?? ?集群

　　3.1?? ?手寫阿拉伯數字影像生成

　　3.2?? ?客戶區隔(RFM)

　　3.3?? ?影像壓縮

　　3.4?? ?離群值偵測

　　4?? ?商品推薦

　　4.1?? ?協同過濾

　　4.2?? ?KNN

　　5?? ?影像

　　5.1?? ?去躁(Image denoising)

　　5.2?? ?影像生成

　　5.3?? ?影像壓縮

　　6?? ?自然語言

　　6.1?? ?文章大意預測

　　6.2?? ?垃圾信分類

　　6.3?? ?問答(Q&A)



　　本書範例程式碼、參考超連結、勘誤表全部收錄在 github.com/mc6666/Scikit_learn_Book，並隨時更新相關資訊。



　　致謝



　　因個人能力有限，還是有許多議題成為遺珠之憾，仍待後續的努力，感謝深智出版社的大力支援，使本書得以順利出版，最後要謝謝家人的默默支持。



　　內容如有疏漏、謬誤或有其他建議，歡迎來信指教(mkclearn@gmail.com)或在『IT邦幫忙』(ithelp.ithome.com.tw/users/20001976/articles)留言討論。

?