ML(機器學(xué)習(xí))：輕松理解回歸觀念

作者：高煥堂（臺灣銘傳大學(xué)、長庚大學(xué) 教授）時間：2021-03-30 來源：電子產(chǎn)品世界

加入技術(shù)交流群
- 掃碼加入
  和技術(shù)大咖面對面交流
  海量資料庫查詢

本文引用地址：http://www.butianyuan.cn/article/202103/424018.htm

1 簡單的回歸觀念

當(dāng)今主流的AI 是機器學(xué)習(xí)(ML)。這種AI 的主要能力之一就是：從復(fù)雜的數(shù)據(jù)里探索潛在的規(guī)律?；镜母怕屎突貧w分析觀念，就是AI/ 機器學(xué)習(xí)探索規(guī)律的基礎(chǔ)技術(shù)。例如，有一群二維的數(shù)據(jù)點，有一條最具有代表性的直線：X*W+B=Y。在統(tǒng)計學(xué)上，這條線通稱為：回歸(Regression) 線。其中，X[ ] 和Y[ ] 值是已知的，而W 和B 是未知的，如圖1。

圖1

所謂“回歸分析”就是找尋最棒的W 和B 值。就得到這條線了。從上圖的Excel 畫面里，按下“尋找規(guī)律”按鈕，就會進行回歸分析，找出最適合的W和B 值，并輸出如圖2。

圖2

剛才的回歸分析已經(jīng)找出最棒的W 和B 值了，也就是找到最具代表性的回歸曲線了。于是就繪出圖形如圖3。

圖3

這一條線就是X*1.3+3.3=Y 線性方程式的圖形表示。接下來，就拿圖3 里的“test data”來進行預(yù)測(Predict)?，F(xiàn)在，請按下“Predict”，就拿新數(shù)據(jù)X 來預(yù)測出對應(yīng)的E(Y/X) 值，如圖4。

圖4

這兩筆資料，就會對映到這回歸線上的兩個點，如圖5。

這就意味著，我們已知X 值為：1.5，經(jīng)由X*1.3+3.3=Y 線性方程式來計算出Y 值為：5.25。這就是一種預(yù)測的方法。

圖5

2 邏輯回歸

一樣使用線性回歸：X*W+B=Y。將得出的Y 值，經(jīng)由Sigmoid() 函數(shù)，可以計算出條件概率P(Y/X) 值。這是機器學(xué)習(xí)的二元分類的標準做法。例如，有7 瓶水，其攝氏溫度分別是：[-5，-2，-1，2，3，4，6]。此時人們常常將之區(qū)分為兩個類別：水與冰。就把這X 值和P(Y/X) 值，呈現(xiàn)于Excel 上，如圖6。

圖6

其數(shù)據(jù)的意義是：依據(jù)人們?nèi)粘Ｉ钪械慕?jīng)驗，第1 瓶溫度是-5℃，有95% 的概率是屬于“冰”類。再如最后一瓶的溫度是6℃，有95% 的概率是屬于“水”類。現(xiàn)在，可以按下“尋找規(guī)律”，就進行回歸分析，找出最棒的W 和B 值，如圖7。

圖7

就得到了線性方程式：X*0.689393699-0.071644135=Y。于是就繪出圖形如圖8。

圖8

這條直線就是AI 機器學(xué)習(xí)里，常常聽到的：分類線。只要經(jīng)有Sigmoid() 函數(shù)進行轉(zhuǎn)換，就成為S 型的回歸曲線了。接著，按下“Sigmoid 圖”，就由Sigmoid()激活函數(shù)轉(zhuǎn)換，將直線轉(zhuǎn)換成為曲線，并繪出圖形如圖9。

圖9

因為Sigmoid() 函數(shù)能從線性公式計算出來Y 值轉(zhuǎn)換成為P(Y/X) 概率值。因此，這條曲線成為上述(Excel里) 數(shù)據(jù)的最佳代表曲線( 即回歸線)。這時候，就把7個瓶子區(qū)分為兩類了，如圖10。

圖10

于是您就可以了解了，AI/ 機器學(xué)習(xí)就是，通過這樣來一堆數(shù)據(jù)進行分門別類，簡稱為：分類(Classification)。剛才的回歸分析已經(jīng)找出最棒的W 和B 值了，然后經(jīng)由Sigmoid() 轉(zhuǎn)換，而找到最具代表性的回歸曲線。接下來，就能給予新的數(shù)據(jù)X，如圖11。