(3.229.120.26) 您好!臺灣時間:2021/04/10 22:55
字體大小: 字級放大   字級縮小   預設字形  
回查詢結果

詳目顯示:::

我願授權國圖
: 
twitterline
研究生:林金貝
研究生(外文):Chin-Pei Lin
論文名稱:使用準牛頓訓練法之前饋式類神經網路視窗程式設計
論文名稱(外文):Windows Programming of Feedforward Neural Network by Quasi-Newton Training Method
指導教授:林顯聖
口試委員:陳誠亮蘇淵源
口試日期:2007-07-06
學位類別:碩士
校院名稱:國立臺北科技大學
系所名稱:化學工程研究所
學門:工程學門
學類:化學工程學類
論文種類:學術論文
論文出版年:2007
畢業學年度:95
語文別:中文
論文頁數:68
中文關鍵詞:前饋式類神經網路視窗程式設計數據擬合準牛頓法
外文關鍵詞:Feedforward Neural NetworkWindows ProgrammingData-fittingQuasi-Newton Method
相關次數:
  • 被引用被引用:1
  • 點閱點閱:165
  • 評分評分:系統版面圖檔系統版面圖檔系統版面圖檔系統版面圖檔系統版面圖檔
  • 下載下載:0
  • 收藏至我的研究室書目清單書目收藏:0
近年來,類神經網路在工程上的應用開始備受重視,甚至在心理、統計和氣象學也被廣泛討論。本實驗室一直以開發簡易和實用的類神經網路視窗程式為目標,之前開發的版本,從使用動量修正最陡坡度法到共軛梯度法,收斂速度並不理想,故本研究改用準牛頓訓練法進行改善。
本研究使用Visual Basic2005 進行視窗程式開發,並以準牛頓法作為訓練網路參數的方法。程式中使用Davidon-Fletcher-Powell 方程式來求準Hessian矩陣,和以往相較,在結果顯示視窗增加收斂條件的即時運算,讓使用者可以更清楚程式停止的原因以及訓練的進度。
利用本研究所開發之前饋式類神經網路視窗程式,進行三個模擬範例的應用測試,並和之前本實驗室開發的訓練方法做比較,結果顯示本程式有一定的實用性且收歛速度也比較快。
Recently, Neural network has been applied to many engineering fields. People apply Neural network in psychology、 statistics and aerography. Developing a free and practical windows program of feedforward neural network is the object of our laboratory. The training methods used in the former studies are the momentum backpropagation method and Conjugate Gradient Method. However the training rate of those methods is slow and it must take much time to reach convergence. Quasi-Newton training method is studied to speed up the training rate in this research.
Visual Basic 2005 is used to develop the window-based program. Quasi-Newton method is used to train weights and biases of the neural network. In the program, Davidon-Fletcher-Powell method was used to calculate the quasi Hessian matrix. Some stop criterions are added so the programming can stop automatically.
Three simulation cases are used to test the applicability of the program. The convergence rate of three training methods was studied . These results show that the program is practicable and the convergence rate of Quasi-Newton methods is the fastest.
中文摘要 i
英文摘要 ii
致謝 iii
目錄 iv
表目錄 vi
圖目錄 vii
第一章 緒論 1
1.1 文獻回顧 1
1.2 研究動機與目的 2
1.3 章節簡介 3
第二章 前饋式類神經網路 4
2.1 前言 4
2.2 神經元 4
2.3 網路組織架構 12
2.4 資料處理 13
第三章 學習法則 15
3.1 前言 15
3.2 逆傳遞法則的梯度運算 15
3.3 VLBP法則 20
3.4 共軛梯度逆傳遞法則 23
3.5 準牛頓逆傳遞法則 24
第四章 視窗程式 31
4.1 前言 31
4.2 程式介面與操作 31
4.2.1 訓練 31
4.2.1.1 表單輸入 32
4.2.1.2 讀檔輸入 36
4.2.2 檔案說明 36
4.2.3 模擬 40
4.3 程式介紹 42
第五章 模擬範例 50
5.1 前言 50
5.2 範例一 50
5.3 範例二:Himmelblau’s Function 54
5.4 範例三 58
5.5訓練方法的比較 61
第六章 結論與未來展望 63
6.1 結論 63
6.2 未來展望 63
參考文獻 65
符號說明 67
[1]W. S. McCulloch and W. Pitts, " A logical calculus of the ideas immanent in nervous activity, " Bull. Math Biophy, vol.5, 1943, pp. 115-133.
[2]D. O. Hebb, The Organization of Behavior, Wiley, 1949.
[3]F. Rosenblatt, "The perceptron: a probabilistic model for information storage and organization in the brain," Psychol. rex, vol. 65, 1958, pp. 386-408.
[4]B. Widrow and M. E. Hoff, " Adaptive switching circuits " In Proc. WESCON Convention, vol. IV, 1960, pp. 96-104.
[5]M. M. Minsky and S. A. Papert, Perceptrons: An introduction to Computational Geometry, MIT Press, 1969.
[6]J. J. Hopfield, and D. W. Tank,"Neural computation of decisions in optimisation problems," Biol. Cybernetics, vol. 52, 1985, pp. 141-152.
[7]P. Werbos, Beyond Regression:New Tools for Prediction and Analysis in the Behavioral Science, PhD thesis, Harvard University, Cambridge, MA, 1974.
[8]D. E. Rumelhart, G. E. Hinton and R. Williams,"Learning internal representation by error propagation," Nature, vol. 323, 1986, pp. 533-536.
[9]B. Kosko, “Feedback Stability and Unsupervised Learning,” IEEE ICNN, vol.1, 1988, pp. 141-152.
[10]W. C. Chiang, T. L. Urban, and G. W. Baldridge, “A Neural Network Approach
to Mutual Fund Net Asset Value Forecasting,” Omega, Int. J. Mgmt. Sci, vol. 24, no. 2, 1995, pp. 205-210.

[11]J. N. Ivan, “Neural Network Representations for Arterial Street Incident Detection Data Fusion, “Transportation Reserch, vol. 5, no. 34, 1999, pp. 245-254.

[12]M. Mase, M. Sakamoto and M. Sakai, “Neural network for stability analysis of
rubble-mound breakwater,” Journal of Waterway, Port, Coastal, and Ocean
Engineering, vol. 121, Issue 6, 1995, pp. 294–299.
[13]M. Vaziri, “Prediction of caspian sea surface water level by ANN and ARIMA
model, ” Journal of Waterway, Port, Coastal, and Ocean Engineering, ASCE, vol. 123, no. 4, 1997 , pp. 158–162
[14]Y. A. Hassan and O. G. Philip, “A new artificial neural network tracking techniqufor particle image velocimetry,” Experiment in Fluid , vol.23, 1997, pp. 145–154.
[15]羅國彰,逆傳遞類神經網路視窗程式設計,碩士論文,國立臺北科技大學化學工程研究所,臺北,2004。
[16]莊興裕,逆傳遞類神經網路視窗程式設計暨在化工數據的應, 碩士論
文,國立臺北科技大學化學工程研究所,臺北,2005。
[17]魯銘德,使用共軛梯度訓練法之前饋式類神經視窗程式設計, 碩士論文,國立臺北科技大學化學工程研究所,臺北,2006。
[18]羅國彰,逆傳遞類神經網路視窗程式設計,碩士論文,國立臺北科技大學化學工程研究所,臺北,2004。
[19]C. G.. Looney , Pattern recognition using neural networks: theory and algorithms for engineers and scientists , New York: Oxford University Press, 1996 , p. 157.
[20]D. Nguyen and B. Widrow, , "Improving the Learning Speed of 2-Layer Neural Networks by Choosing Initial values of the Adaptive Weights ," IEEE First International Hoint Conference on Neural Networks, vol. 3, 1990 , pp. 21-26,.
[21]張志成,Visual Basic 2005,松崗出版股份有限公司,台北,2005。
電子全文 電子全文(本篇電子全文限研究生所屬學校校內系統及IP範圍內開放)
連結至畢業學校之論文網頁點我開啟連結
註: 此連結為研究生畢業學校所提供,不一定有電子全文可供下載,若連結有誤,請點選上方之〝勘誤回報〞功能,我們會盡快修正,謝謝!
QRCODE
 
 
 
 
 
                                                                                                                                                                                                                                                                                                                                                                                                               
第一頁 上一頁 下一頁 最後一頁 top
系統版面圖檔 系統版面圖檔