类神经网路.ppt

第十章 類神經網路 如何知道網路內部在進行什麼 我們可以藉由同時一次更改兩個或三 個項目，去看是否這些項目的組合特 別的重要。 有時候，在測試資料中，從一個點開 始會比從中心點開始來的好。 前向式類神經網路 右邊的最後一個單元是輸出層，連結到網路的輸出。它完整的連接到隱藏層的所有單元。大部分的時候，類神經網路被用來算一個單一值，在此情形，輸出層中只有一個輸出值在0與1之間的單位。我們必須要反調整(unmassage)這輸出值以便了解。在圖13.6中，我們必須將0.49815轉回到103,000與250,000範圍間的值。得到的是176,228，已經相當的接近真實值171,000了。 前向式類神經網路 有時候輸出層會不只一個。舉例來說，百貨公司連鎖店想要預測顧客在不同部門如淑女服飾，家俱，和育樂部門購買的產品的可能性。以此資訊可以用來設計銷售和郵寄目標的計畫。為了完成這個預測，他們建立了如下圖的網路。這個網路有三個輸出，各對應到一個部門。輸出則根據輸入對顧客的描述，顯示了他們下次到相關部門購買的偏好。 前向式類神經網路 前向式類神經網路 在輸入一個顧客的資料後，類神經網路會計算出三個值。由這些輸出，百貨公司要如何去對這些顧客進行促銷呢？一些常用的方法如下： ●選擇擁有輸出值最大的部門 ●選擇擁有前三高輸出值的部門 ●選擇超出一些臨界值的所有的部門 ●選擇在最高輸出一定比率的所有部門 這些所有的方法都不錯，在不同的情況各有其優缺點。沒有一個絕對的答案說哪一個最正確。在使用上，你可以在測試組上試幾種的可能去找到最符合情況的。 類神經網路如何利用倒傳導（Backpropagation）學習 訓練類神經網路就是在為輸入設定最好權重的過程。訓練的目標在使得產生的權重可以使其輸出值盡可能的接近在訓練資料中的各種例子。到目前為止最常用的就是由約翰．霍普菲德（John Hopfield）所發展出的倒傳導。它的精髓有三個步驟：? 1.網路得到訓練的例子，使用現在的權重去計算出 輸出的結果 2.倒傳導便藉由計算出的值與實際值計算輸出值的 誤差 3.誤差經由回授回到網路，使得權重調整以得到最 小的誤差 。 使用基因演算法訓練 使用基因演算法的第一個步驟就是定義染色體，如下圖所有的在網路的權重被聚集在矩陣裡形成一個染色體。接下來的步驟是染色體決定最適配函數（Fitness Function）。我們可以由特定的訓練資料求出染色體，並得到誤差（誤差定義為計算值與實際值相差的絕對值或是平方）。即然目的是要在訓練資料中減少誤差，我們在完整的訓練資料使用染色體來評估整個網路，並在過程中加入所有的誤差。適配函數便是在所有訓練資料中的誤差和。基因演算法便可以利用選擇，雜交，以及突變來減小適配函數。 使用基因演算法訓練 選擇訓練資料 選擇好的訓練資料有幾個需要的考量的: 涵蓋有特性的值 變數的數量 輸入的數量 輸出的數量 有效的計算能力 準備資料 ● 連續值（小數與整數）的變項 ●簡單的將他們調整到0與１之間 ●使用更大的範圍 ●拒絕掉超出範圍的值 ●將最小值轉到0.1，最大值轉到0.9，而 非轉到0與1 ●下圖表示了有時連續數值的變項所引起 的問題 - 數值的偏移 準備資料 較好的分法是： $10,000 - $17,999 very low $18,000 - $31,999 low $32,000 - $63,999 middle $64,000 - $99,999 high $1,000,000 and above very high 準備資料 另一方法是經由轉換的方法來增進分佈，一個常用來做轉換很棒方法是對數函數（Logarithm）。對底為10 的數，對數值就是它的指數。所以，10的log是1，而100是2，1000是3等等。使用對數可以將收入輚換到4與6間。下圖比較了使用對數與先前的數值。我們可以看到，對數在展開我們有興趣的數值處理得非常好。 準備資料 log 準備資料 ● 有順序，離散（整數）的變項 ●像連續的變項一樣，也有著最 大最小值 ●還有個處理離散，次序值的方 法也是非常好用的。這種方法 我們叫做溫度計碼（Thermometer Code） 準備資料 0???