minitab回归分析.pptVIP

迴歸分析 李德治 概論 英國科學家Francis Galton “Regression toward mediocrity in heredity stature” 孩子的身高會趨向平均發展 當雙親的身高都很高(矮)時，他們的孩子身高雖然會高(矮)於一般人，卻往往比父母親矮(高) 相關分析 協助我們判斷二個屬量變數之間的相關性與相關程度 變異數分析 推斷數量應變和屬質自變數間是否相關 迴歸分析 了解二變數間或一個應變數與多個自變數之間是否相關、相關方向與強度、利用觀察其他變數來預測研究者感興趣的變數(應變數) 迴歸分析原理 目的再於找出一條最能夠代表所有觀測資料的函數(迴歸估計式) 用此函數代表應變數和自變數之間的關係 簡單線性迴歸分析 應用時機 以單一變數進行預測 判斷兩變數之間相關的方向和程度 如判斷溫度與用電量之關係，並由溫度預測用電量 統計模型 簡單線性迴歸的基本假設 在各個Xi之下所對應的Y，其平均值可表為E(Y)=?+?Xi 對每一個Xi而言，其所對應的Y為變異數相等的分配 Yi之間無關，且共變數為0 ?Cov(Yi,Yj)=0 自變數X為非隨機變數，且至少要有二個以上觀測值 誤差項?的假設 E(?)=0 ?E(Y)=?+?X 對所有的X值而言， ?的變異數均相同 ?相互獨立 ?為來自常態分配的隨機變數 參數估計 最小平方估計法(ordinary least square estimation, OLSE) 最大概似法(maximum likelihood estimation, MLE) 最小評方法 斜率?的抽樣分配、信賴區間及檢定 ?的檢定可以判斷X、Y之間是否有線性關係的存在 ?=0，表不論X為何值，對於Y的分配不會有任何影響 假設檢定 H0：?=0 H1：??0 ?的抽樣分配 E(b)=? b為常態分配 ?的信賴區間 ?的1-?信賴區間 ?的統計檢定 截距?的抽樣分配、信賴區間及檢定 ?的抽樣分配 E(?)=? ?的信賴區間 ?的統計檢定 判定係數 ?的統計檢定 簡單迴歸F=t2 注意事項 拒絕H0：?=0，到達顯著水準，並不能得到x,y存在線性相關的結論，只能說x,y存在相互關係 已進行t,與F檢定後，不需再利用相關係數進行顯著檢定 有關簡單迴歸分析的結果，可得下列資訊 簡單判定係數 表示整體迴歸模型的適合度 小於顯著水準，表示整體迴歸模型是合宜的 ANOVA表 估計係數 t檢定結果 ?判斷迴歸模型是否符合樣本資料，同時可藉由所得的樣本估計式去進行預測 利用估計迴歸方程式進行估計與預測 已知x值所對應之y平均數的點估計 y平均數的信賴區間估計 個別y值的點估計 個別y值的預測的區間估計 殘差分析：驗證模型假設 殘差分析可協助決定迴歸分析所做之假設是否適切 殘差分析提供有關?的最佳訊息 殘差分析大多以圖形檢查為基礎 殘差分析圖 殘差對應變數x的繪圖 殘差對應變數y的會題 標準化殘差圖 常態機率圖 對應x值的殘差圖 對應y值之殘差圖 標準化殘差圖 常態機率圖 偵測離群值 簡單線性迴歸?散佈圖 標準化殘差圖?小於-2或大於2稱為離群值 偵測具影響力的值 槓桿作用 庫克統計量(Cooks D) 庫克統計量(Cooks D) 迴歸的輸入模式 同時分析法 simultaneous multiple regression 所有的預測變項同時納入迴歸方程式當中。 強制進入法 在某一顯著水準下，將所有對於依變項具有解釋力的預測變項納入迴歸方程式，不考慮預測變數間的關係，計算所有變數的迴歸係數。 強制淘汰法 與強迫進入法相反，強制淘汰法之原理為在某一顯著水準下，將所有對於依變項沒有解釋力的預測變項，不考慮預測變數間的關係，一次全部排除在迴歸方程式之外，再計算所有保留在迴歸方程式中的預測變數的迴歸係數。 迴歸的輸入模式 逐步分析法（stepwise multiple regression） 所有的預測變項並非同時被取用來進行預測，而是依據解釋力的大小，逐步的檢視每一個預測變項的影響，稱為逐步分析法。 順向進入法（forward） 預測變項的取用順序，以具有最大預測力且達統計顯著水準的獨變項首先被選用，然後依序納入方程式中，直到所有達顯著的預測變項均被納入迴歸方程式。 反向淘汰法（backword） 與順向進入法相反的程序，所有的預測變項先以同時分析法的方式納入迴歸方程式的運算當中，然後逐步的將未達統計顯著水準的預測變項，以最弱、次弱的順序自方程式中予以排除。直到所有未達顯著的預測變項均被淘汰完畢為止。 逐步分析法（stepwise） 綜合順向進入法與反向淘汰法 階層分析法 預測變項間可能具有特定的先後關係，而需