臺灣博碩士論文加值系統

本論文分別在倒傳遞類神經網路、徑向基底函數類神經網路與積之和類神經網路三種網路架構下，實現函數近似器。倒傳遞類神經網路與徑向基底函數類神經網路不需對輸入變數空間做切割，但其演算過程與架構皆較積之和類神經網路繁雜，在硬體實現上較為不易。而在積之和類神經網路架構下，其運算方式基本上只是線性記憶陣列的四則運算，所以較為簡單。在傳統積之和類神經網路架構下，輸入變數空間的切割方式，一般採用均等密度切割，此種方式在平滑函數之近似上效果不錯，但於非平滑函數之近似上，則需高密度之切割，亦即切割數目增加，以克服函數劇烈變動區域之近似效果，而切割數目增加意味著記憶體容量之需求也增加。為克服此問題，本論文提出非均等密度切割的方式。最後將這五種函數近似器之模擬結果做比較，得知此五種函數近似器均有令人滿意的近似結果。在考慮硬體實現之難易前提下，選擇積之和類神經網路且運用非均等密度切割的方式在相同甚至較少切割數時之函數近似效果較均等密度切割好，亦即達到學習速度快及所需記憶體容量少又不失精度之要求。

In this thesis, the implementation of function approximators based on Back Propagation Neural Network (PBNN)、Radial Basis Function Neural network (RBFNN) and Sum Of Product Neural Network (SOPNN) are proposed. It is well known that the structures of BPNN and RBFNN are very similar but their concept and operations are different. The SOPNN with simple structure and four basic arithmetic operations makes it easier implementation to hardware than BPNN and RBFNN, however it needs to partition the input variable space when use SOPNN as a function approximator.
The traditional manner of the partition of input variable with evenly spaced may not approximate function well if it is not smooth unless the number of partition is large enough. A modified algorithm with unevenly spaced is proposed to overcome the problem under the same number of partition. In unevenly spaced manner, first, the space of rapidly changed part of the function is found by using evenly spaced manner with small partitioned number, then the unevenly spaced manner is applied to approximate the function in such a way that the rapidly changed part with higher density partition while the rest is lower.
Simulation results of the proposed function approximators are compared. It is seen that the simulation results of BPNN and RBFNN are better than SOPNN, but SOPNN with simple structure and arithmetic operations is more suitable in hardware implementation. Moreover, the unevenly spaced manner in SOPNN structure can learn faster, and use less memory than the traditional way under the same precision required.

中文摘要 i
Abstract ii
目次 iv
表圖目錄 v
第一章 緒論 1
第一節 簡介 1
第二節 論文架構 4
第二章 類神經網路之架構與理論 6
第一節 簡介 6
第二節 倒傳遞類神經網路架構與理論 12
壹、倒傳遞類神經網路架構 12
貳、倒傳遞類神經網路演算法 13
第三節 徑向基底函數類神經網路架構與理論 21
壹、徑向基底函數類神經網路架構 21
貳、徑向基底函數類神經網路演算法 22
第三章 積之和類神經網路架構與理論 28
第一節 簡介 28
第二節 積之和類神網路架構 28
第三節 積之和類神經網路演算法 29
第四章 模擬結果 39
第五章 結論 52
參考文獻 53
作者簡介 57

[1]王冠博，“利用混合式函數近似與實驗設計法於批次操作軌跡的設計”，私立中原大學化學工程學系研究所碩士論文，2003。
[2]王進德、蕭大全編著，“類神經網路與模糊控制理論入門（修訂版）”，全華科技股份有限公司，2005年9月二版二刷。
[3]杜孟奇，“應用RBF類神經網路於超音波馬達之位置控制”，國立中央大學機械工程研究所碩士論文，2000。
[4]汪惠健審校，原著作者：Hagan, Demuth, Beale,，“類神經網路設計”，新加坡商湯姆生亞洲私人有限公司台灣分公司，2004年7月初版一刷。
[5]林錦龍，“類神經網路控制器之設計”，國立台灣科技大學機械工程技術研究所碩士論文，1999。
[6]林玟叡，“類神經網路為基礎之非線性系統的最佳化模糊控制器設計”，國立交通大學電機與控制工程系碩士論文，2001。
[7]林盈灝，吳育錕，“積之和類神經網路之函數近似設計”，銘傳大學2006國際學術研討會，2006。
[8]施柏毅，“類神經網路模擬沙土抗檢試驗之研究”，長榮大學土地管理與開發學系碩士論文，2005。
[9]陳松琳，“以類神經網路為架構之語音辨識系統”，國立中山大學電機工程學系研究所碩士論文，2001。
[10]陳智宏，“應用類神經網路於電力系統負載之溫度敏感度分析”，國立中山大學電機工程學系研究所碩士論文，2002。
[11]孫國庭，“應用類神經網路於人臉辨識之身份識別系統”，國立高雄第一科技大學電腦與通訊工程所碩士論文，2002。
[12]張斐章，張麗秋編著，“類神經網路”，臺灣東華書局股份有限公司，2005年9月初版。
[13]葉怡成編著，“類神經網路模式應用與實作”，儒林圖書有限公司，1993年1月初版，2002年3月七版二刷。
[14]葉怡成編著，“應用類神經網路”，儒林圖書有限公司，1997年7月初版，2001年3月三版。
[15]鄭錦聰編著，“MATLAB程式設計－基礎篇（修訂版）”，全華科技圖書股份有限公司， 2000年5月初版一刷， 2002年1月二版三刷。
[16]滕有為，“以基因演算法為基礎之模糊建模新方法應用於函數近似”，國立中央大學電機工程研究所博士論文，2004。
[17]羅華強編著，“類神經網路－MATLAB的應用”，清蔚科技股份有限公司，2001年9月初版。
[18]C. S. Lin, C. K. Li, “A sum-of-product neural network (SOPNN)”, Neurocomputing 30, pp.273-291, 2000.
[19]D. S. Yeung, Senior Member, IEEE Xuequan Sun, “Using function approximation to analyze the sensitivity of MLP with antisymmetric squashing activation function”, Neural Networks, IEEE Transactions on Volume 13, Issue 1, pp.34-44, Jan. 2002.
[20]E. G. Laukonen , K. M. Passino, “Fuzzy System for Function Approximation with applications to Aailure Estimation”, IEEE International Symposlum on intelligent Control, pp.184-189, Aug. 1994.
[21]F. L. Lewis, S. Q. Zhu, K. Liu, “Function approximation by fuzzy systems”, American Control Conference, Proceedings of the Volume 5, pp.3760-3764, 21-23 June. 1995.
[22]H. R. Lai, C. C. Wong, “A fuzzy CMAC structure and learning method for function approximation”, Fuzzy Systems, The 10th IEEE International Conference on Volume 1, pp.436-439, 2-5 Dec. 2001.
[23]H. Husain, M. Khalid, & R. Yusof, “Nonlinear function approximation using radial basis function neural networks”, SCOReD 2002. pp.326-329, 16-17 July 2002.
[24]J. González, I. Rojas, H. Pomares, J. Ortega, A. Prieto, Member, “A New Clustering Technique for Function Approximation”, IEEE Trans. Neural Networks, Volume 13, no. 1, pp.132-142, Jan. 2002.
[25]J. Yen, L. Wang, R. Langari, “Multiple fuzzy systems for function approximation”, Fuzzy Information Processing Society, NAFIPS '97. 1997 Annual Meeting of the North American, pp.154-159, 21-24 Sept. 1997.
[26]M. A. Ahmed, K. A. D. Jong “Function approximator design using genetic algorithms”, Evolutionary Computation, IEEE International Conference pp.519-524, 13-16 April 1997.
[27]O. Abul, F. Polat, R. Alhajj, “Multiagent reinforcement learning using function approximation”, Systems, Man and Cybernetics, Part C, IEEE Transactions on Volume 30, Issue 4, pp.485-497, Nov. 2000.
[28]P. J. Antsaklis, Senior Member, IEEE, “Neural networks for control systems”, Neural Networks, IEEE Transactions on Volume 1, Issue 2, pp.242-244, June 1990.