跳到主要內容

淺談機器學習原理-Linear Model

Linear Regession

淺談機器學習原理-Linear Model

Linear Regession

需要預測數值，輸出為實數的數值，我們就稱為它是regession的任務。

  • 範例:Netflix百萬獎金比賽，有100萬筆的rating資料與480K的使用者給17.7k的電影來評分，預測使用者評分電影的星星*數量。

(1)定義問題是否需要使用ML: 預測使用者評分電影的星星*數量，算是一個複雜的問題。且知道評分結果為1~5星，可以知道這是一個regression的任務

(2)收集資料: Netflix有100萬筆的rating資料與

(3)定義模型:假設它是regession問題，我們可以知道hypothesis: h(x) = wT∗xw^T *x的方程式。我們可以與分類Perceptron的公式來比較。

Linear Regession :用來找到最接近實際目標值，也就是最小誤差error的值

(4)測量誤差: squared error : (預測值−真實的值)2(預測值-真實的值)^2 ，我們算出誤差值後，如何得到最小的誤差min(Error(x))

理想化的誤差值

我們可以假設誤差接近於0值為球體的位置，是在曲線的最下方也就是偏微分等於0的位置，我們要找的讓W偏微分等於零。

Statistics vs Machine Learning

Statistics: 統計比較著重在數學的推論

Machine Learning: 機器學習比較著重在資料計算，統計工具對機器學習領域是很有幫助

Logistic Regression 邏輯回歸

需要預測機率，輸出為小數點，我們就稱為它Logistic Regression任務。資料輸出為+1,-1的值，可以預測為機率發生，可以由公式可以知道x在發生+1的機率是多少。範例: 疾病預測、鐵達尼的死完的機率

機率值是介於0~1之間

(1)定義模型:我們一樣使用w∗xw*x的方程式，算出多少機率會發生為S=1，我們通常會hypothesis是一個指數的方程式，當S越大表示發生的機率為1，越小就為0。

(2)測量誤差: 這個跟線性的概念一樣，需要找到與現實差距最小的誤差值，實務上會使用gradient descent驗算法來找到w的這個目標值。

總結:

  1. Linear Classificatoin: 分類問題0或1，這類問題比較特殊案例。

  2. Linear Regression : 線性回歸就是找到w=0的情況就是最佳解

  3. Logistic Regression : 邏輯回歸是找到w最小為機率大

任何情況可以優先考慮Linear Models來解。

參考資料

台大資訊 人工智慧導論影片

https://www.youtube.com/watch?v=BLldaAhrIrA&list=PLOAQYZPRn2V658cD6AjiBmKohfMIevWO7&index=6

https://www.youtube.com/watch?v=lSZWZo7mmnQ

標籤：

留言

張貼留言

這個網誌中的熱門文章

JavaBean 和POJO

前言 今天介紹JavaBean和POJO的不同，這兩個名詞在JAVA文章常常被拿來使用以及討論。在JDK1.1時候釋出才有的一個標準架構，很多時候常常被搞混，所以我們特別開闢一章來加以討論。POJO規範在企業級應用已經廣大的被使用的規範。 解釋 POJO : 全名為Plain-old-Java-object，只需要繼承Object就可以，沒有特定規定，只要建立的類別有setter/getter方法都可以稱為POJO JavaBean: JavaBean通常用來封裝多個物件成為單獨物件使用，規範比較嚴格，規則如下 規則 說明 1 需要實作序列(Serializable/Externalizable) 2 不能有參數的建構子( no-arg constructor) 3 需要有公用setter/getter 4 屬性必須要私人(private) 5 屬於特定POJO規則 比較 所有的JavaBean都為POJO，但是所有的POJO不一定為JavaBean 都可以當作重複元件 都必須序列化 特性都為可用性、易用性和持久化使用 - 應用 由圖我們可以知道POJO在應用程式中，主要用來存取資料庫資料達到持久化的目的，並提供給商業邏輯流程處理使用。這種POJO的架構提供程式人員開發時的可以很有規則將資料封裝並加以使用。 範例1. JavaBean(以員工為實例) JavaBean建立員工物件，可以發現Employee物件建構子沒有任何參數，屬性為私有化並setter/getter的命名方式。 //實作序列化 public class Employee implements java.io.Serializable{ private int id; private String name; //無參數建構子 public Employee(){} //以下實作setter/getter public void setId(int id){this.id=id;} public int getId(){return id;} public void setName(String ...
張貼留言
閱讀完整內容

Python AI-問題集

Python AI-問題集 問題集 Jupyter Notebook執行ipywidgets會出現kernel死掉的錯誤發生(The kernel appears to have died) 解決方法 (1) 根據log檔來判斷問題： 例如：log訊息出現OMP: Error #15: Initializing libiomp5.dylib, but found libiomp5.dylib already initialized. (2) 根據問題關鍵字找出問題所在： 利用google查詢所遭遇到的問題，例如我把上面的問題上google查詢可以找到這篇的解法 https://blog.csdn.net/bingjianIT/article/details/86182096 (3)實作解法： 我實作下面解法後，就可以順利執行手寫辨識的程式． //在Python宣告時加入 import os os.environ["KMP_DUPLICATE_LIB_OK"]="TRUE" 參考 https://blog.csdn.net/bingjianIT/article/details/86182096
1 則留言
閱讀完整內容

H2資料庫(1)-基本安裝與介紹

H2資料庫介紹 H2為嵌入式資料庫，使用java開發，跨平台且內含資料庫管理介面，好處開發階段方便開發人員使用。 比較 詳細比較表: http://www.h2database.com/html/features.html#comparison 由圖比較可以知道，H2比其他資料庫更為優勢，以下會介紹開發時常用的模式: 嵌入式模式Embedded Mode 嵌入式資料庫會與應用程式共用同一JVM底層，在這個模式下persistent或是in-memory資料庫都支援，也沒有連線數的限制。但壞處是只可以給該應用程式使用，其他人無法直接存取資料庫。 伺服器模式 Server Mode 外部應用程式可以藉由JDBC或是OBC的方式連結該資料庫，它也支援persistent或是in-memory資料庫，也沒有連線數的限制。 混合模式 Mixed Mode 同時有嵌入式與伺服器的模式去讓外部應用程式連線或是自己應用程式連線。 安裝H2 database 官方網站: http://www.h2database.com/html/main.html 下載安裝程式 出現安裝連結，本次範例使用 Windows installer 的安裝連結 下載安裝程式後，點擊兩下，進入安裝畫面，按”下一步” 一直按”下一步”後，會出現”完成” 安裝完成後，會出現一個說明網頁，你可以點選Quickstart 它會告訴你，如何進入DBRMS畫面以及開啟資料庫服務 開啟windows的視窗圖示，執行 H2 Console後，會執行H2資料庫 進入DBRMS的登入畫面，使用者預設為”SA”，密碼為空值”“，按下”connect”進入，SQL命令中心 登入後，可以在空白處執行SQL語法 8.大致上安裝H2資料庫滿快速，操作畫面也是很好上手，如果系統在開發階段個人覺的滿推薦給大家使用看看。 參考 H2官方網站
1 則留言
閱讀完整內容