導(dǎo)語：如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)反向傳播公式，這就需要搜集整理更多的資料和文獻，歡迎閱讀由公務(wù)員之家整理的十篇范文，供你借鑒。

篇1

關(guān)鍵詞： 神經(jīng)網(wǎng)絡(luò)；工程造價；Vague集貼近度

0 引言

對建筑工程造價進行科學(xué)有效的測算和控制，會使工程造價的組成比較合理，進而節(jié)約工程開銷成本?，F(xiàn)在，經(jīng)典的建筑工程造價測算方法主要有下面幾種：定額法、類比工程法、回歸分析法和模糊數(shù)學(xué)法[1]。其中，定額法必須對定額成本、定額差異和定額變動差異進行單獨核算，任務(wù)較重，現(xiàn)實中很難實施；類比工程法是通過類比工程的相似性實現(xiàn)工程造價的測算，該方法估算準(zhǔn)確度不夠高；回歸分析法的估算準(zhǔn)確度同樣不高，該方法將很多重要因素忽略了；模糊數(shù)學(xué)法是通過模糊數(shù)學(xué)的思想對工程造價進行估算，該方法的不足主要是特征隸屬度不好準(zhǔn)確確定。由于人工神經(jīng)網(wǎng)絡(luò)可以自學(xué)并進行推理，本文通過人工神經(jīng)網(wǎng)絡(luò)和Vague集貼近度理論對住宅樓的工程造價進行估算和控制，可以為建筑工程造價估算提供很好的服務(wù)。

1 BP神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)是一種前饋型神經(jīng)網(wǎng)絡(luò)，包含三種層次或者多層次，各種層次之間相互連接，同一層次可以自由結(jié)合，BP神經(jīng)網(wǎng)絡(luò)的構(gòu)成見圖1。所屬模型的神經(jīng)元數(shù)量決定了BP神經(jīng)網(wǎng)絡(luò)的層數(shù)，各個層次之間通過相互的權(quán)值實現(xiàn)聯(lián)接[2]。

人工神經(jīng)元（Artificial Neuron）模型：

人工神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的基本元素，其原理可以用圖2表示。

圖中x1～xn是從其他神經(jīng)元傳來的輸入信號，wij表示表示從神經(jīng)元j到神經(jīng)元i的連接權(quán)值，θ表示一個閾值（threshold），或稱為偏置（bias）。則神經(jīng)元i的輸出與輸入的關(guān)系表示為：

BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)非常簡潔，包括正向傳播和逆向傳播。下面分別對BP神經(jīng)網(wǎng)絡(luò)信息的正向傳播和誤差信息的反向傳播原理進行介紹。

1.1 信息的正向傳播

式（1）中，n為信息的總個數(shù)。

1）輸入向量為

多層神經(jīng)元網(wǎng)絡(luò)（BP網(wǎng)絡(luò)圖3）。

BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)，即誤差反傳誤差反向傳播算法的學(xué)習(xí)過程，由信息的正向傳播和誤差的反向傳播兩個過程組成。由圖3可知，BP神經(jīng)網(wǎng)絡(luò)是一個三層的網(wǎng)絡(luò)：

輸入層（Input Layer）：輸入層各神經(jīng)元負責(zé)接收來自外界的輸入信息，并傳遞給中間層各神經(jīng)元；

隱藏層（Hidden Layer）：中間層是內(nèi)部信息處理層，負責(zé)信息變換，根據(jù)信息變化能力的需求，中間層可以設(shè)計為單隱層或者多隱層結(jié)構(gòu)；最后一個隱層傳遞到輸出層各神經(jīng)元的信息，經(jīng)進一步處理后，完成一次學(xué)習(xí)的正向傳播處理過程；

輸出層（Output Layer）：顧名思義，輸出層向外界輸出信息處理結(jié)果。

2 建筑工程造價估算模型

2.1 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練 建立BP神經(jīng)網(wǎng)絡(luò)模型，對工程特征向量進行歸一化處理，可以開始神經(jīng)網(wǎng)絡(luò)訓(xùn)練，目標(biāo)是使網(wǎng)絡(luò)性能函數(shù)極小化，實現(xiàn)非線性映射的目的。本文利用Nguyen-Widrow方法[5]對權(quán)值和閾值的初值進行確定。Nguyen-Widrow方法具體原理為

上式中，W是數(shù)值矩陣，θ是權(quán)值矩陣，S、N是節(jié)點的個數(shù)。rand（S，N）為s行n列的平均自由分布任意矩陣，I（S，N）為s行n列標(biāo)準(zhǔn)矩陣。

2.2 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練調(diào)整與測試 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練調(diào)整與測試連接強度加權(quán)值調(diào)整方法，具體公式為：

BP算法在按步驟經(jīng)行的收斂過程中，每一步的學(xué)習(xí)率都將發(fā)生變化，而不是固定不變。此時BP神經(jīng)網(wǎng)絡(luò)不應(yīng)用連接強度加權(quán)值的調(diào)整方法，同時也不使用誤差函數(shù)對梯度調(diào)整和η調(diào)整方法；最終應(yīng)用相對權(quán)重增加量Δwij進行網(wǎng)絡(luò)調(diào)整與測試，權(quán)值wij的修正值Δwij，如下所示：

以上的分析表明，運用BP神經(jīng)網(wǎng)絡(luò)進行建筑工程單方造價估算是可行的，然而該方法對建筑工程項目總造價的估算還不夠精確。當(dāng)前建筑工程項目需要考慮的影響因素非常多，雖然可以引入大量的特征因素，然而里面有很多因素都非常模糊化；即使可以對特征因素進行具體說明，提高輸入點的數(shù)量，這時樣本數(shù)據(jù)會隨著增加，此時神經(jīng)網(wǎng)絡(luò)將會復(fù)雜化，求解效率會降低。所以，本文通過以上運用BP神經(jīng)網(wǎng)絡(luò)對建筑工程項目單方造價的估算，采用Vague集貼近度對BP神經(jīng)網(wǎng)絡(luò)進行改進，對建筑工程總造價進行估算[3]。

2.3 加入Vague集貼近度改進BP神經(jīng)網(wǎng)絡(luò) 文獻[4]采用普通模糊集理論來對工程隸屬度進行確定。本文中建筑工程特征因素隸屬度是指建筑工程特征值隸屬于準(zhǔn)備建設(shè)的項目特征值的大小程度：

3 實例分析

選取2013年西安市某工程項目數(shù)據(jù)進行實例分析，工程造價指數(shù)以2013年為基準(zhǔn)，通過加權(quán)平均法求解造價年綜合指數(shù)。通過選擇，最后選取了二十個樣本，前面十八個樣本為訓(xùn)練樣本，剩余的兩個當(dāng)作檢測樣本。神經(jīng)網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù)見表1。

3.1 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練 采用BP神經(jīng)網(wǎng)絡(luò)對模型進行構(gòu)建，對建筑工程特征向量數(shù)據(jù)處理結(jié)束后，可以開展神經(jīng)網(wǎng)絡(luò)訓(xùn)練。神經(jīng)網(wǎng)絡(luò)訓(xùn)練基本的訓(xùn)練公式為

net，tr=train（NET，P，T）

訓(xùn)練公式中net為最終的網(wǎng)絡(luò)，tr為數(shù)值統(tǒng)計， P是輸入矩陣，T是輸出矩陣。

3.2 BP神經(jīng)網(wǎng)絡(luò)與Vague集貼近度預(yù)測 采用Vague集貼近度的數(shù)據(jù)，基于BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本進行預(yù)測，通過訓(xùn)練好的網(wǎng)絡(luò)對與本文樣本數(shù)據(jù)相類似工程項目的單方造價進行預(yù)估，求得單方造價均值為1800元/m2。緊接著可以對建筑工程的總造價進行預(yù)估，通過對10項樣本進行造價估算預(yù)測，采用BP神經(jīng)網(wǎng)絡(luò)和Vague集貼近度相結(jié)合的方法進行造價預(yù)估，估計誤差在±10%范圍內(nèi)（見表2），造價估算結(jié)果非常準(zhǔn)確。

4 結(jié)論

本文應(yīng)用BP神經(jīng)網(wǎng)絡(luò)造價預(yù)測和Vague集貼近度理論，從理論和實際應(yīng)用兩方面對建筑工程造價估算進行了研究。文中的方法能更準(zhǔn)確地反應(yīng)工程造價的不確定性，為建筑工程項目造價估算方法研究提供了一種新的視角和方法。

參考文獻：

[1]史峰.BP神經(jīng)網(wǎng)絡(luò)在工程量清單中快速估價的應(yīng)用研究[M].北京航空航天大學(xué)出版社，2010.4.

[2]張風(fēng)文.基于MATLAB神經(jīng)網(wǎng)絡(luò)的工程實例分析[J].華東交通大學(xué)學(xué)報，2010，8（3）：26-33.

[3]郭一斌，王紅革，王翔.基于Vague集貼近度的工程項目投資快速估算方法[J].現(xiàn)代經(jīng)濟信息，2011，12（2）：50-55.

篇2

關(guān)鍵詞： BP神經(jīng)網(wǎng)絡(luò)；價格預(yù)測；歸一化處理

期貨市場是一個不穩(wěn)定的、非線性動態(tài)變化的復(fù)雜系統(tǒng)。市場上期貨合約價格的變動受金融、經(jīng)濟、政治及投資者心理等眾多因素的影響，其過程具有非線性、混沌性、長期記憶性等特點。傳統(tǒng)的經(jīng)濟模型大部分是線性模型，具有一定的局限性.而人工神經(jīng)網(wǎng)絡(luò)則能很好地解決這個問題。

一、BP神經(jīng)網(wǎng)絡(luò)原理與過程

BP神經(jīng)網(wǎng)絡(luò)（反向傳播網(wǎng)絡(luò)Back Propagation）是一種多層前饋型神經(jīng)網(wǎng)絡(luò)，其神經(jīng)元的激活函數(shù)是sigmoid函數(shù)，一般為log sigmoid 函數(shù)和tan sigoid 函數(shù)，函數(shù)的圖形是S 型的，其值域是為0到1的連續(xù)區(qū)間。它是嚴(yán)格遞增函數(shù)，在線性和非線之間有著較好的平衡性。

1.數(shù)據(jù)歸一化處理

數(shù)據(jù)歸一化方法是神經(jīng)網(wǎng)絡(luò)預(yù)測前對數(shù)據(jù)常做的一種處理方法。數(shù)據(jù)歸一化處理把所有數(shù)據(jù)都使其落在[0，1]或[-1，1]之間，其目的是取消各維數(shù)據(jù)間數(shù)量級差別。避免因為輸入輸出數(shù)據(jù)數(shù)量級差別較大而造成網(wǎng)絡(luò)預(yù)測誤差較大。數(shù)據(jù)歸一化的方法主要有以下兩種。

（1）平均數(shù)方差法，其公式如下：

2.BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程

BP網(wǎng)絡(luò)的學(xué)習(xí)過程由信號的正向傳播和誤差的反向傳播兩個過程組成。其基本原理是：網(wǎng)絡(luò)先根據(jù)輸出層的誤差來調(diào)整輸出層和隱含層的權(quán)值和閾值，再將部分誤差分配置隱含層，然后根據(jù)誤差來調(diào)整隱含層和輸入層之間的權(quán)值和閾值，并不斷地重復(fù)上述過程，直到網(wǎng)絡(luò)的輸出與目標(biāo)之間的誤差趨于最小，達到規(guī)定的要求。

一般地，BP網(wǎng)絡(luò)的學(xué)習(xí)算法描述為如下步驟。

（1）初始化網(wǎng)絡(luò)及學(xué)習(xí)參數(shù)，如設(shè)置網(wǎng)絡(luò)初始權(quán)矩陣，給出學(xué)習(xí)速率和神經(jīng)元激活函數(shù)等。

（2）提供訓(xùn)練模式，訓(xùn)練網(wǎng)絡(luò)，直到滿足學(xué)習(xí)要求。

（3）前向傳播過程：對給定訓(xùn)練模式輸入，計算網(wǎng)絡(luò)的輸出模式，并與期望模式比較，若有誤差，若執(zhí)行步驟（4），否則，返回步驟（2）。

（4）反向傳播過程：計算同一層單元的誤差，修正權(quán)值和閾值，返回步驟（2）。

二、玉米期貨價格預(yù)測分析

美國是世界上玉米生產(chǎn)大國和消費大國，良好的現(xiàn)貨基礎(chǔ)為美國玉米期貨市場的發(fā)展提供了優(yōu)越條件。其中，以CBOT為代表的美國玉米期貨市場同現(xiàn)貨市場有效接軌，不僅在美國內(nèi)玉米生產(chǎn)流通領(lǐng)域發(fā)揮了重要作用，而且在世界玉米市場上也影響巨大。

發(fā)現(xiàn)價格作為期貨市場的基本功能之一，CBOT作為全球最大的玉米期貨交易市場，其玉米期貨價格的國際影響力是非常巨大的。目前，在國際玉米市場上，玉米貿(mào)易價格的形成和交易活動是以CBOT的玉米期貨價格為中心展開的，該價格是國際玉米貿(mào)易中簽約雙方需要考慮的最重要的依據(jù)之一。美國已經(jīng)通過芝加哥玉米期貨市場取得國際玉米貿(mào)易的定價權(quán)，在國際玉米市場中發(fā)揮著主導(dǎo)作用，并且能夠?qū)Ρ緡推渌麌矣衩桩a(chǎn)業(yè)的發(fā)展產(chǎn)生深刻影響。

本文研究所采取的樣本來自WIND資訊金融終端，以2008年07月-2015年10月的CBOT的玉米期貨為研究對象。共計100組樣本數(shù)據(jù)，將其中92組數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)。8組作為分析樣本。本文從影響全球玉米的供需平衡的角度出發(fā)，從期初庫存、產(chǎn)量、進口、飼料消費、國內(nèi)消費總計、出口、期末庫存、總供給、貿(mào)易量共九個因素進行分析研究，對玉米期貨的價格進行預(yù)測。利用MATLAB軟件訓(xùn)練生成BP神經(jīng)網(wǎng)絡(luò)并進行預(yù)測，將隱含層神經(jīng)元設(shè)為20個，訓(xùn)練次數(shù)為100次，訓(xùn)練精度為0.00005。最后得到結(jié)果見表1。

從表1中可以看出，通過BP神經(jīng)網(wǎng)絡(luò)計算得出的預(yù)測值與實際值絕對誤差相對較小，這說明通過BP神經(jīng)網(wǎng)絡(luò)預(yù)測模型產(chǎn)生的預(yù)測結(jié)果的精確度較高。具有較強的實用性。但是由于玉米期貨除了受到供需因素的影響外，同時還受金融、經(jīng)濟、政治及投資者心理等眾多因素的影響。所以本文的結(jié)果還帶有一定的局限性。若把上述因素考慮進去，其精確度可能進一步提高。

三、結(jié)語

本文采用BP神經(jīng)網(wǎng)絡(luò)對美國玉米期貨的價格進行了研究。使用了多因素BP神經(jīng)網(wǎng)絡(luò)預(yù)測模型，對玉米期貨的價格進行預(yù)測，得到了擬合度在較高的預(yù)測值。這說明BP神經(jīng)網(wǎng)絡(luò)方法可以對玉米期貨價格走勢進行有效預(yù)測。通過預(yù)測，可以對投資者的投資行為進行指導(dǎo)，從而達到規(guī)避風(fēng)險而獲取較好的經(jīng)濟利益。

參考文獻：

篇3

關(guān)鍵詞：BP神經(jīng)網(wǎng)絡(luò)； 模糊矩陣； 教學(xué)評價

中圖分類號：TP183 文獻標(biāo)識碼：A文章編號：2095-2163（2013）06-0060-03

0引言

教師教學(xué)效果的審核評定是高校教學(xué)中的重要工作。傳統(tǒng)的考核方法或者只是由學(xué)生填寫調(diào)查表，給教師劃分等級，進行定性描述，或者是由督導(dǎo)組根據(jù)幾堂課的聽評給教師的課堂教學(xué)打出一個分值。無論是哪種方法都不能全面客觀地對教學(xué)工作做出科學(xué)評定。而且傳統(tǒng)的考核方法受主觀因素影響較大，學(xué)生在對教師的評判中常會加入多種因素，各種因素之間的影響也各不相同，僅以學(xué)生或僅憑督導(dǎo)團的評定來實施評判顯然已不盡合理。因此， 建立一種能盡量排除各種主觀因素的干擾，同時又具有完善且穩(wěn)定的評價體系的評定方法則成為必要和重要的研究課題。

本文構(gòu)建一種教學(xué)效果評價體系，即對教師的評價從“教學(xué)態(tài)度”、“教學(xué)內(nèi)容”、“教授方法”、“課堂效果”四大方面分項進行，無論是學(xué)生還是督導(dǎo)組均可據(jù)此評價體系給出相應(yīng)評分。本文提出使用BP反向傳播神經(jīng)網(wǎng)絡(luò)來構(gòu)建一個穩(wěn)定的評分系統(tǒng)，各項評分指標(biāo)為網(wǎng)絡(luò)輸入，使用已訓(xùn)練完成的BP神經(jīng)網(wǎng)絡(luò)來模擬一個專家的打分經(jīng)驗，由此輸出一個終值。BP神經(jīng)網(wǎng)絡(luò)通常是指基于誤差反向傳播算法的多層前向神經(jīng)網(wǎng)絡(luò)，由于BP網(wǎng)絡(luò)的神經(jīng)元采用的傳遞函數(shù)是Sigmoid型可微函數(shù)，因而可以實現(xiàn)輸入和輸出間的任意非線性映射[1]。由于BP神經(jīng)網(wǎng)絡(luò)本身就是一種高度復(fù)雜的非線性動力系統(tǒng)的辨識模型，并且BP神經(jīng)網(wǎng)絡(luò)具有逼近任意非線性函數(shù)的能力[2]，因此使用BP神經(jīng)網(wǎng)絡(luò)進行評價將使結(jié)果更具客觀性，以此來模擬一個穩(wěn)定的評分系統(tǒng)亦將具備了現(xiàn)實實現(xiàn)基礎(chǔ)。在本文提出的系統(tǒng)中，系統(tǒng)將評價體系中各組評分的分值作為反向傳播神經(jīng)網(wǎng)絡(luò)的輸入，使用BP網(wǎng)絡(luò)運算后得出一個綜合性的評分，即整個過程好似系統(tǒng)模擬一個經(jīng)驗頗豐的專家進行打分。其后，本文又通過數(shù)據(jù)測試驗證了模型的評價結(jié)果與實際相符。

1BP神經(jīng)網(wǎng)絡(luò)模型

BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)是基于誤差反向傳播的多層前向神經(jīng)網(wǎng)絡(luò)，即權(quán)值和閾值的調(diào)節(jié)規(guī)則采用了誤差反向傳播算法，這是一個有導(dǎo)師的神經(jīng)元網(wǎng)絡(luò)學(xué)習(xí)算法[2]。BP網(wǎng)絡(luò)能學(xué)習(xí)和存儲大量的輸入輸出模式映射關(guān)系，而無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。該網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則是使用最速下降法，通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓撲結(jié)構(gòu)包括輸入層（input）、隱層（hide layer）和輸出層（output layer）。其中的隱層可擴展為多層。只要在隱層中有足夠數(shù)量的神經(jīng)元，就可使用這種網(wǎng)絡(luò)來逼近任何一個函數(shù)[3]。一個典型的BP網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

2評價模型的構(gòu)建

本文構(gòu)建了一套評價體系，使用一套客觀標(biāo)準(zhǔn)進行量化表達，且該體系適用于大多數(shù)學(xué)校的教學(xué)評價。評價項目中，各項指標(biāo)的取值范圍為[0，10]。多位專家將根據(jù)評價體系方案為每一位參評教師填表打分，經(jīng)過匯總后，每一個教師的教學(xué)情況評分將和一個評價矩陣A對應(yīng)。列向量x為各個項目指標(biāo)，行向量e為各位專家評出的各項指標(biāo)分值。對列向量進行均值計算，則得到各個教師的教學(xué)效果指標(biāo)向量S。所得教學(xué)效果指標(biāo)向量S即是神經(jīng)網(wǎng)絡(luò)的輸入。評價體系方案設(shè)計如表1所示。

表1教師教學(xué)評價體系

Tab.1 The system of teaching evaluation類別項目教學(xué)態(tài)度嚴(yán)謹(jǐn)負責(zé)x0； 思想教育x1；教學(xué)內(nèi)容教學(xué)目標(biāo)x2； 準(zhǔn)確度x3； 熟練程度x4； 信息量x5；教授方法啟發(fā)思維x6； 講授思路x7；重點難點x8；聯(lián)系實際x9；教學(xué)儀態(tài)x11；語言表述x12；媒體使用x14課堂效果課堂紀(jì)律x15；學(xué)生思維x16 圖2則為一個由6名專家給出的某位教師教學(xué)效果的評分矩陣。

3BP網(wǎng)絡(luò)模型的設(shè)計與實現(xiàn)

使用BP神經(jīng)網(wǎng)絡(luò)可以構(gòu)建穩(wěn)定的評分系統(tǒng)。人為打分時由于主觀因素的影響，分值出入較大，往往不能準(zhǔn)確地反映實際情況，為了避免對同一教師的教學(xué)評價出現(xiàn)較大反差，構(gòu)建一個穩(wěn)定的BP神經(jīng)網(wǎng)絡(luò)系統(tǒng)即已成為實踐發(fā)展過程中的一個必然要求。在系統(tǒng)實現(xiàn)過程中，一位專家首先根據(jù)本文提出的評分系統(tǒng)給出各項成績，并將此成績作為神經(jīng)網(wǎng)絡(luò)的輸入值。其后，這位專家再給出一個綜合評分，作為神經(jīng)網(wǎng)絡(luò)的樣本，即輸出值，以此即可對BP網(wǎng)絡(luò)進行訓(xùn)練。訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)就可以模擬該專家的打分經(jīng)驗，由此構(gòu)建形成一個穩(wěn)定的評分系統(tǒng)。

根據(jù)BP神經(jīng)網(wǎng)絡(luò)模型的定理（Kolmogrov 定理）：給定任一連續(xù)函數(shù)f：[0，1]nRn，f可以用一個三層前向神經(jīng)網(wǎng)絡(luò)來模擬實現(xiàn)。第一層，即輸入層，有n個神經(jīng)元；中間層，神經(jīng)元個數(shù)可由經(jīng)驗公式實驗得出；第三層，輸出層有m個神經(jīng)元。因此一個三層結(jié)構(gòu)的、設(shè)有Sigmoid神經(jīng)元，并具有足夠隱節(jié)點的BP神經(jīng)網(wǎng)絡(luò)則可以逼近任何一個連續(xù)函數(shù)。本系統(tǒng)采用有三層結(jié)構(gòu)的BP神經(jīng)網(wǎng)絡(luò)，其結(jié)構(gòu)如圖1所示。由于評價體系中有17個指標(biāo)，因此網(wǎng)絡(luò)的輸入層有17個輸入。系統(tǒng)的輸出層則確定為1個節(jié)點。隱層神經(jīng)元個數(shù)將根據(jù)實驗結(jié)果而確定為11個。隱層傳遞函數(shù)可使用“l(fā)ognsig”對數(shù)傳遞函數(shù)實現(xiàn)，輸出層傳遞函數(shù)使用“pureline”純線性傳遞函數(shù)實現(xiàn)。訓(xùn)練函數(shù)則使用“traingdm”動量梯度下降反向傳播法對網(wǎng)絡(luò)進行訓(xùn)練，另外，網(wǎng)絡(luò)性能函數(shù)使用了默認(rèn)的“mse”均方誤差函數(shù)。MATLAB中的主要代碼如下：

設(shè)有10位教師需要評分，因而使用10組分?jǐn)?shù)即17×10的矩陣作為10個教師的教學(xué)效果矩陣。教學(xué)效果矩陣即是神經(jīng)網(wǎng)絡(luò)的輸入矩陣，亦是訓(xùn)練樣本，矩陣的行向量為各項評價指標(biāo)，10個樣本，即10位教師的最終評價結(jié)果則作為目標(biāo)樣本來訓(xùn)練神經(jīng)網(wǎng)絡(luò)，獲取1×10矩陣為目標(biāo)矩陣，即10位教師的最終得分。實驗中運用Matlab編程建立三層BP神經(jīng)網(wǎng)絡(luò)，目標(biāo)訓(xùn)練誤差為0.1，最大訓(xùn)練次數(shù)為 3 000次。訓(xùn)練誤差隨訓(xùn)練次數(shù)的變化情況如圖3所示，神經(jīng)網(wǎng)絡(luò)經(jīng)過909步迭代達到精度要求。對應(yīng)輸出與目標(biāo)的誤差如圖4所示。

訓(xùn)練樣本的輸出與專家打分結(jié)果比較如表2所示。

由表2可以看出，訓(xùn)練后的網(wǎng)絡(luò)輸出值與專家給出的終值之間的差異均在可接受的指標(biāo)范圍內(nèi)，因此采用BP神經(jīng)網(wǎng)絡(luò)可以構(gòu)建穩(wěn)定的評分系統(tǒng)。

4結(jié)束語

在對教師教學(xué)效果的評價中存在著多種因素，本文構(gòu)建了一套較為合理的評價體系，并且提出使用BP神經(jīng)網(wǎng)絡(luò)對專家評分進行模擬，利用神經(jīng)網(wǎng)絡(luò)可避免打分過程中出現(xiàn)的寬嚴(yán)不定的情況。實驗證明，BP神經(jīng)網(wǎng)絡(luò)可以構(gòu)建穩(wěn)定的評分系統(tǒng)，并取得了良好的實驗效果。

參考文獻：

[1]許東. 吳錚. 基于Matlab 的系統(tǒng)分析與設(shè)計—神經(jīng)網(wǎng)絡(luò)[M]. 西安：西安電子科技大學(xué)出版社，2003：18-19.

[2]胡守仁. 神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M] . 長沙：國防科技大學(xué)出版社，1993 ：113 - 120.

[3]Martin T. Hagan， Howard B.demuth. 神經(jīng)網(wǎng)絡(luò)設(shè)計[M]. 北京：機械工業(yè)出版社 ，2002：227-255.

[4]郭齊勝. 系統(tǒng)建模原理方法[M]. 長沙：國防科技大學(xué)出版社，2003：172-173.

[5]袁劍. BP神經(jīng)網(wǎng)絡(luò)在學(xué)生綜合考評中的應(yīng)用[J]. 福建電腦，2010（6）.

篇4

【關(guān)鍵詞】時間序列預(yù)測;遲滯神經(jīng)網(wǎng)絡(luò);商品價格預(yù)測

1.前言

本文提出將電生物學(xué)中的遲滯特性引入傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)中，構(gòu)建前向型遲滯神經(jīng)網(wǎng)絡(luò)，以達到改善預(yù)測模型泛化能力和聯(lián)想記憶能力的目的。

之后將遲滯神經(jīng)網(wǎng)絡(luò)模型應(yīng)用到商品價格指數(shù)預(yù)測上，并得出更準(zhǔn)確的預(yù)測效果。

商品零售價格指數(shù)是反映一定時期內(nèi)城鄉(xiāng)商品零售價格變動趨勢和程度的相對數(shù)。商品零售價格指數(shù)的預(yù)測對企業(yè)的經(jīng)營決策具有重要的參考價值。

2.前向型遲滯神經(jīng)網(wǎng)絡(luò)模型

2.1 前向型遲滯神經(jīng)網(wǎng)絡(luò)激勵函數(shù)

將遲滯神經(jīng)元引入前向型神經(jīng)網(wǎng)絡(luò)，同時使用兩個Sigmoid函數(shù)組成激勵函數(shù)如式所示：

其中，a、b作為Sigmoid函數(shù)的中心值，c1、c2表示函數(shù)圖形。在神經(jīng)元中包含的值在未來若是增加的話，激勵函數(shù)取上升階段的函數(shù);反之，激勵函數(shù)取下降階段的函數(shù)。未來的值不變時，神經(jīng)元出現(xiàn)跳變，避免出現(xiàn)駐留狀態(tài)，從而提高學(xué)習(xí)效率。

2.2 前向型遲滯神經(jīng)網(wǎng)絡(luò)

遲滯神經(jīng)元模型可以表述成公式：

其中，x是時間t的輸出，I0表示二值神經(jīng)元的輸入，y表示神經(jīng)元的狀態(tài)，參數(shù)α表示自反饋的增益系數(shù)。將遲滯神經(jīng)元應(yīng)用在前向型神經(jīng)網(wǎng)絡(luò)中，前向型神經(jīng)網(wǎng)絡(luò)具有的特性在遲滯前向型神經(jīng)網(wǎng)絡(luò)中也具有。遲滯神經(jīng)網(wǎng)絡(luò)中a、b的值能提高神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶能力和非線性性能。

激勵函數(shù)由兩個平移的Sigmoid函數(shù)組成，參數(shù)a和b是兩個Sigmoid函數(shù)的中心參數(shù)，參數(shù)c1和c2是形狀參數(shù)。上述激勵函數(shù)在（-∞， +∞）區(qū)間內(nèi)構(gòu)成了一個遲滯環(huán)，激勵函數(shù)的響應(yīng)與歷史輸入有關(guān)，激勵函數(shù)對歷史狀態(tài)具有記憶特性。當(dāng)神經(jīng)元的輸入狀態(tài)由增加變?yōu)闇p小，或由減小變?yōu)樵黾訒r，激勵函數(shù)將在兩條分支曲線間跳變，權(quán)值調(diào)節(jié)率較大，由此抑制了假飽和現(xiàn)象的發(fā)生，易于網(wǎng)絡(luò)的訓(xùn)練和泛化能力的提高。

采用上述激勵函數(shù)，構(gòu)造與BP神經(jīng)網(wǎng)絡(luò)相似的遲滯前向型神經(jīng)網(wǎng)絡(luò)如圖1所示：網(wǎng)絡(luò)輸入層神經(jīng)元數(shù)量為m，輸出層神經(jīng)元數(shù)量為n，隱含層神經(jīng)元數(shù)量為l，fi為遲滯函數(shù)，同時采用誤差反向傳播方法訓(xùn)練網(wǎng)絡(luò)參數(shù)，進行時間序列預(yù)測分析。由此構(gòu)造的神經(jīng)網(wǎng)絡(luò)具有良好的記憶特性體現(xiàn)出良好的泛化能力。

圖1 遲滯前向型神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

2.3 前向型遲滯神經(jīng)網(wǎng)絡(luò)流程

前向型遲滯神經(jīng)網(wǎng)絡(luò)采用誤差反向傳播算法，前向型遲滯神經(jīng)網(wǎng)絡(luò)的計算過程流程圖如圖2所示：

圖2 前向型遲滯神經(jīng)網(wǎng)絡(luò)流程圖

使用遲滯神經(jīng)元組成的前向型遲滯神經(jīng)網(wǎng)絡(luò)的計算流程將普通的激勵函數(shù)變成遲滯激勵函數(shù)，再進行計算、網(wǎng)絡(luò)訓(xùn)練等，直到誤差達到要求。

3.遲滯神經(jīng)網(wǎng)絡(luò)在商品價格指數(shù)預(yù)測的應(yīng)用

商品零售價格指數(shù)是反映一定時期內(nèi)城鄉(xiāng)商品零售價格變動趨勢和程度的相對數(shù)。商品零售價格指數(shù)的預(yù)測對企業(yè)的經(jīng)營決策具有重要意義。

采用上述遲滯神經(jīng)網(wǎng)絡(luò)對我國社會商品零售價格指數(shù)進行預(yù)測分析。令輸入層神經(jīng)元為10，輸出層神經(jīng)元為30，隱含層神經(jīng)元為1。以1950年為基準(zhǔn)折算獲得的定基數(shù)據(jù)，將《中國統(tǒng)計年鑒》中的社會商品零售價格指數(shù)作為實驗數(shù)據(jù)進行仿真實驗。在實驗過程中，將前30個數(shù)據(jù)作為訓(xùn)練樣本進行訓(xùn)練，達到指定次數(shù)后，預(yù)測下一個數(shù)據(jù)，并根據(jù)預(yù)測誤差重新進行訓(xùn)練，達到指定次數(shù)后再預(yù)測下一個數(shù)據(jù)，以此類推所得實驗結(jié)果預(yù)測曲線如圖3所示：

圖3 我國商品零售價格指數(shù)預(yù)測結(jié)果

從實驗結(jié)果可見，遲滯神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)對訓(xùn)練樣本的逼近能力相差不多，對測試樣本的泛化能力差別較大，遲滯神經(jīng)網(wǎng)絡(luò)具有更小的平均誤差。在時間序列變化較為平緩的區(qū)間，兩者預(yù)測誤差都較小，在序列變化激烈的區(qū)間，預(yù)測誤差變大。從總體效果來看，遲滯神經(jīng)網(wǎng)絡(luò)由于具有更好的存儲記憶能力，更好的泛化能力和預(yù)測效果，能夠有效地實現(xiàn)對商品零售價格指數(shù)的預(yù)測分析。

參考文獻

[1]LI G C，WU T，XU S.Prediction model of population gross based on grey artificial neural network and its puter Engineering and Applications，2009，45（16）：215-218.（李國成，吳濤，徐沈.灰色人工神經(jīng)網(wǎng)絡(luò)人口總量預(yù)測模型及應(yīng)用[J].計算機工程與應(yīng)用，2009，45（16）：215-218）.

篇5

關(guān)鍵詞關(guān)鍵詞：MATLAB編程；數(shù)字識別；圖像處理；神經(jīng)網(wǎng)絡(luò)

DOIDOI：10.11907/rjdk.162852

中圖分類號：TP319

文獻標(biāo)識碼：A文章編號文章編號：16727800（2017）005004704

0引言

圖像識別是一項利用計算機對圖像進行處理、分析和理解，以識別各種不同模式目標(biāo)和對象的技術(shù)[1]。圖像識別技術(shù)目前還不能達到人類的認(rèn)知水平，但在特定應(yīng)用環(huán)境中，可以通過模式識別或者神經(jīng)網(wǎng)絡(luò)的方法來對圖像中的事物進行分類判斷。一般而言，一個數(shù)字字符識別系統(tǒng)主要由3個部分組成，如圖1所示。

圖1系統(tǒng)組成

其中，預(yù)處理模塊將圖片格式（例如JPG格式）轉(zhuǎn)換為計算機能識別的二進制數(shù)據(jù)流；圖像處理模塊則實現(xiàn)圖像采集與轉(zhuǎn)換、邊緣提取、歸一化等功能；字符識別模塊可以由兩種方法實現(xiàn)：模式識別或者神經(jīng)網(wǎng)絡(luò)方式，本文系統(tǒng)采用神經(jīng)網(wǎng)絡(luò)方式。

1識別目標(biāo)及預(yù)期結(jié)果

此系統(tǒng)識別目標(biāo)是在沒有強干擾下，系統(tǒng)能夠準(zhǔn)確識別出圖片中的0～9這10個數(shù)字。示例圖片如圖2所示。

系統(tǒng)識別中所用到的含單個數(shù)字的圖片取自圖2，均為純色背景（不一定必須為白色背景）圖片，且圖片中數(shù)字圖像無較大噪聲干擾。系統(tǒng)經(jīng)過一系列處理后，能成功識別，給出識別結(jié)果，并且給出處理過程中各個階段的圖片，以便更好地理解圖像處理過程。

2預(yù)處理

預(yù)處理是將圖片二值化的過程。預(yù)處理的目的簡單來說就是把彩色圖片處理為計算機更好處理的二進制數(shù)據(jù)流。預(yù)處理的過程主要分兩部分：彩色圖轉(zhuǎn)灰白圖，灰白圖轉(zhuǎn)二進制矩陣形式數(shù)據(jù)。

目前用于彩色圖轉(zhuǎn)換為灰度圖的基本算法主要有：最大值法、平均值法、加權(quán)法，本文采用加權(quán)法。加權(quán)法的主要思想是設(shè)當(dāng)前像素的三分量分別為R，G，B，然后利用公式（1）得到轉(zhuǎn)換后的像素分量值：

GRAY=0.3*R+0.59*G+0.11*B（1）

在MATLAB中，函數(shù)img2gray就是采用加權(quán)法實現(xiàn)的。圖像二值化就是將圖像像素點的灰度值設(shè)置為0或255，也就是將整個圖像呈現(xiàn)出明顯的黑白效果。二值化的處理過程是將圖像中有意義的特征和需要應(yīng)用的特征進行分割，利用前景和背景灰度特性的差異，低于閾值的像素設(shè)定為一個灰度值，高于閾值的像素設(shè)定為另一個灰度值。這樣可將前景色與背景色以明顯差異的灰度級區(qū)分開來[2]。閾值選取有手動選取和自適應(yīng)選取兩種方法。MATLAB中圖像二值化的實現(xiàn)主要依靠im2bw函數(shù)來實現(xiàn)。圖像二值化過程中，最重要的是閾值變換。比如數(shù)組a=[120，254，0，200，99]，設(shè)定一個閾值125，并對a進行閾值變換，那么a中凡是大于125的，則變?yōu)?55，小于等于125的則變?yōu)?。具體對臨界情況處理可能不同，不過MATLAB中im2bw函數(shù)是按照上述方法處理的。a經(jīng)過閾值變換后變?yōu)閇0，255，0，255，0]。在MATLAB中使用im2bw函數(shù)進行圖像二值化處理時（將圖像轉(zhuǎn)換為二值圖像），人為設(shè)定閾值并不總是十分有效。MATLAB工具箱提供了graythresh函數(shù)[3]。該函數(shù)使用最大類間方差法得到一個閾值，利用這個閾值進行圖像二值化通常有效。

經(jīng)過預(yù)處理后得到的二值化圖像，還要經(jīng)過一系列圖像處理過程，才能用于神經(jīng)網(wǎng)絡(luò)訓(xùn)練。

3圖像處理

圖像處理的目的是將圖片變?yōu)樯窠?jīng)網(wǎng)絡(luò)能處理的數(shù)據(jù)流。圖像處理流程如下：

（1）利用梯度銳化。使得圖像更加突出，以便分析。算法：當(dāng)前點像素值與其下一個像素值之差的絕對值，加上當(dāng)前點像素值與其下一行當(dāng)前像素值之差的絕對值，如果結(jié)果大于閾值，則當(dāng)前像素值置為此結(jié)果。

（2）去除離散噪聲。利用遞歸方法查找當(dāng)前像素8個方向是否存在黑色像素，這里設(shè)置連續(xù)長度為15，如果用遞歸方法得到連續(xù)像素值大于15，則認(rèn)為不是噪聲；相反，則認(rèn)為是噪聲，則置為白色像素。

（3）字符傾斜度調(diào)整。盡量保存每個字符的位置一致。

（4）分割字符。找出每個字符的區(qū)域，用矩形記錄，記錄每個字符矩形數(shù)據(jù)。

（5）字符歸一化。根據(jù)圖像預(yù)處理準(zhǔn)備階段設(shè)置的歸一化標(biāo)準(zhǔn)，把每個字符的區(qū)域進行歸一化，使得所有字符區(qū)域矩形一樣大，只是位置不一樣。

（6）字符緊密排列。把所有字符緊密排列，以備識別使用。

本文示例樣本圖片中只有單個數(shù)字，且無較大干擾，所以不需要去除離散噪聲、字符傾斜度調(diào)整、分割字符和字符緊密排列等步驟。經(jīng)過預(yù)處理的圖像數(shù)據(jù)，只需要進行銳化和歸一化處理，就可以用于神經(jīng)網(wǎng)絡(luò)訓(xùn)練。

圖像梯度銳化的目的是使原來的模糊圖像變得清晰。MATLAB中使用的梯度函數(shù)為gradient函數(shù)。Gradient（F）函數(shù)求的是數(shù)值上的梯度，計算規(guī)則：[Fx，F(xiàn)y]=gradient（F），其中Fx為其水平方向上的梯度，F(xiàn)y為其垂直方向上的梯度，F(xiàn)x的第一列元素為原矩陣第二列與第一列元素之差，F(xiàn)x的第二列元素為原矩陣第三列與第一列元素之差除以2，以此類推，如公式（2）。

最后一列則為最后兩列之差。同理，可以得到Fy。

歸一化就是把需要處理的數(shù)據(jù)經(jīng)過處理后（通過某種算法）限制在要求范圍內(nèi)。對于圖像處理中的w一化而言，就是將所有數(shù)字圖像中的字符歸化成為一個具有同一高度、同一寬度的圖像，也即讓其中的字符具有同樣規(guī)格。MATLAB中用于實現(xiàn)圖像矩陣歸一化功能的函數(shù)是mat2gray函數(shù)[5]。該函數(shù)在數(shù)字圖像處理中經(jīng)常用到，歸一化的具體流程如圖4所示。

經(jīng)過歸一化處理之后的圖片數(shù)據(jù)，將其存儲在一個矩陣中，用于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。

4神經(jīng)網(wǎng)絡(luò)訓(xùn)練

人工神經(jīng)網(wǎng)絡(luò)算法主要有兩種：一種是先對待識別字符進行特征提取，然后用所獲得的特征來訓(xùn)練神經(jīng)網(wǎng)絡(luò)分類器[6]；另一種方法是直接把待處理圖像輸入網(wǎng)絡(luò)，由網(wǎng)絡(luò)自動實現(xiàn)特征提取直至識別出結(jié)果。前一種方法識別結(jié)果與特征提取有關(guān)，而特征提取比較耗時。因此，特征提取是關(guān)鍵。后一種方法無需特征提取和模板匹配，隨著相關(guān)技術(shù)的進步，這種方法更實用。

神經(jīng)網(wǎng)絡(luò)有許多種，在MATLAB中已經(jīng)有集成神經(jīng)網(wǎng)絡(luò)工具箱。本文系統(tǒng)中，對數(shù)字圖像的識別采用BP神經(jīng)網(wǎng)絡(luò)來進行訓(xùn)練。BP神經(jīng)網(wǎng)絡(luò)為前饋神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)的學(xué)習(xí)狀態(tài)為有導(dǎo)師學(xué)習(xí)狀態(tài)。它是一種具有學(xué)習(xí)能力和記憶能力的神經(jīng)網(wǎng)絡(luò)，主要由輸入層、中間層、輸出層3個部分組成。輸入層、中間層和輸出層可以具有不同數(shù)量的節(jié)點，具體數(shù)量隨需求而定，沒有具體的標(biāo)準(zhǔn)。單層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖6所示。

BP神經(jīng)網(wǎng)絡(luò)是誤差反傳誤差反向傳播算法的學(xué)習(xí)過程，由誤差的反向傳播和信息的正向傳播兩個過程組成[7]。輸入層各神經(jīng)元首先接收來自外界的輸入信息，然后傳遞給中間層各神經(jīng)元；輸入信息經(jīng)過中間層內(nèi)部信息處理，實現(xiàn)信息變換，按照信息變化能力需要，中間層可以布局成多隱層或者單隱層結(jié)構(gòu)；最后，一個隱層傳遞把信息傳遞給輸出層，通過進一步處理，實現(xiàn)一次學(xué)習(xí)的正向傳播處理過程，輸出層把信息處理結(jié)果輸向外界。當(dāng)輸出結(jié)果和預(yù)先期望效果不符時，就進行誤差反向傳播。誤差通過輸出層，根據(jù)誤差梯度下降的方式改變各層權(quán)值，由隱層向輸入層依次反傳。多次交替的信息正向傳播和誤差反向傳播過程，是各層連續(xù)修正的過程，也是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過程，這個步驟一直執(zhí)行到最終輸出的誤差降低到能夠接受的范圍，或者預(yù)先輸入的學(xué)習(xí)次數(shù)為止。

此系統(tǒng)中所使用的神經(jīng)網(wǎng)絡(luò)在中間層設(shè)置25個節(jié)點，1個輸出節(jié)點。此系統(tǒng)采用三層神經(jīng)網(wǎng)絡(luò)來實現(xiàn)。采用s型對數(shù)函數(shù)logsig作為隱含層各神經(jīng)元的傳遞函數(shù)，并采用純線性函數(shù)purelin作為輸出層各神經(jīng)元的傳遞函數(shù)。此神經(jīng)網(wǎng)絡(luò)的訓(xùn)練函數(shù)采用traingdx，學(xué)習(xí)模式函數(shù)為learngdm。訓(xùn)練步數(shù)最長設(shè)為5 000，性能目標(biāo)設(shè)為0.001。

神經(jīng)網(wǎng)絡(luò)模塊的部分代碼如下：

net=newff（pr，[25 1]，{'logsig' 'purelin'}，'traingdx'，'learngdm'）；

net.trainParam.epochs=5000；

net.trainParam.goal=0.001；

pr為前面圖像處理所獲得的矩陣數(shù)據(jù)。

神經(jīng)網(wǎng)絡(luò)的訓(xùn)練結(jié)果如圖7所示。神經(jīng)網(wǎng)絡(luò)的性能曲線如圖8所示。

5用艚換

考慮到該系統(tǒng)具有一定交互功能，讓用戶能自主選擇需要識別的圖片，向系統(tǒng)中添加如下代碼段：

test=input（'請輸入用于測試的圖片編號：'，'s'）；

x=imread（test，'jpg'）；

開始運行時，會提醒用戶選擇需要識別的圖片編號，效果如圖9所示。

用戶輸入需要識別的圖片序號后，系統(tǒng)給出識別結(jié)果和圖像處理各階段中的圖片，此處用subplot函數(shù)來實現(xiàn)一個窗口中顯示多張圖片的效果，部分代碼如下：

6結(jié)語

通過樣本識別驗證，本文數(shù)字識別系統(tǒng)具有一定識別精度。本系統(tǒng)基本做到樣本圖片的100%識別，對于其它只有單數(shù)字的圖片，經(jīng)過訓(xùn)練之后，也能準(zhǔn)確識別。本系統(tǒng)實現(xiàn)了部分人機交互功能，能讓用戶自主選擇需要識別的圖片，并輸出識別結(jié)果和各個處理過程中的圖片。

參考文獻參考文獻：

[1]岡薩雷斯.數(shù)字圖像處理（MATLAB版）[M].阮秋琦，譯.北京：電子工業(yè)出版社，2006.

[2]梁路宏，艾海舟，徐光佑，人臉檢測研究綜述[J].計算機學(xué)報，2002，25（5）：449458.

[3]羅華飛.MATLAB GUI設(shè)計學(xué)習(xí)手記[M].北京：北京航空航天大學(xué)出版社，2009.

[4]聶影.MATLAB軟件應(yīng)用研究[J].軟件導(dǎo)刊，2014，13（7）：102104.

[5]趙春蘭.《MATLAB軟件應(yīng)用》課程教學(xué)淺析[J].科技創(chuàng)新導(dǎo)報，2015（22）：178179.

篇6

股票市場是一個非線性的系統(tǒng),本文基于BP神經(jīng)網(wǎng)絡(luò),以1998年~2008年的上證股市大盤增幅數(shù)據(jù)作為訓(xùn)練,對以后的一年多數(shù)據(jù)進行驗證,以證實神經(jīng)網(wǎng)絡(luò)對股市的預(yù)測。

[關(guān)鍵詞]BP神經(jīng)網(wǎng)絡(luò)股票市場預(yù)測驗證

一、 神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是由大量處理單元廣泛互聯(lián)而成的網(wǎng)絡(luò),是對人腦的抽象、簡化和模擬,反映人腦的基本特性,它與人腦的相似之處概括為兩個方面:一是通過學(xué)習(xí)過程利用神經(jīng)網(wǎng)絡(luò)從外部環(huán)境中獲取知識;二是內(nèi)部神經(jīng)元(突觸權(quán)值)用來存儲獲取的知識信息。

一般的神經(jīng)網(wǎng)絡(luò)都是可調(diào)節(jié)的,或者說可訓(xùn)練的,這樣一個特定的輸入便可得到要求的輸出。如圖1.1所示:

圖1.1 輸入/目標(biāo)對應(yīng)的方法圖

1.人工神經(jīng)元

人工神經(jīng)元是生物神經(jīng)元的模擬與抽象,是構(gòu)成人工神經(jīng)網(wǎng)絡(luò)的基本單元,因此構(gòu)造一個人工神經(jīng)網(wǎng)絡(luò)系統(tǒng),首先要構(gòu)造人工神經(jīng)元模型。一個具有n個輸入分量的單個神經(jīng)元模型如圖所示:

圖1.2 單 個 人 工 神 經(jīng) 元 模 型

人工神經(jīng)元的三個基本要素:

(1)一組連接,連接強度由各連接上的權(quán)值表示,權(quán)值為正表示激活,為負表示抑制。

(2)一個求和單元,用于求取各輸入信號的加權(quán)和。

(3)一個非線性激活函數(shù),起非線性映射作用并將神經(jīng)元輸出幅度限制在一定范圍內(nèi)(一般限制在[0, 1或[-1, +1]之間)。

此外還有一個偏差,即與閾值θ

人工神經(jīng)元相當(dāng)于一個多輸入單輸出的非線性閾值器件。這里 的表示它的n個輸入,表示與它相連的n個突觸的連接強度,對應(yīng)于生物神經(jīng)細胞的膜電位;o表示這個人工神經(jīng)元的輸出;θ表示這個人工神經(jīng)元的閾值.如果輸入信號的加權(quán)和超過θ,則人工神經(jīng)元被激活。這樣,人工神經(jīng)元的輸出可描述為,式中,表示神經(jīng)元的輸入輸出關(guān)系的函數(shù)稱為激活函數(shù)或輸出函數(shù)。

人工信息元的信息處理過程分為三個部分,首先完成輸入信號與神經(jīng)元連接強度的內(nèi)積運算,然后再將結(jié)果通過激活函數(shù),再經(jīng)過閾值的判斷,如果輸入值大于閾值門限,則神經(jīng)元被激活,否則處于抑制狀態(tài)。

2.人工神經(jīng)網(wǎng)絡(luò)模型

人工神經(jīng)網(wǎng)絡(luò)是由大量的神經(jīng)元按照一定的模式(層內(nèi)連接、循環(huán)連接和層間連接)相互連接而成的。按一定規(guī)則將神經(jīng)元連接而成神經(jīng)網(wǎng)絡(luò),才能實現(xiàn)對復(fù)雜信息的處理與存儲。經(jīng)過幾十年的興衰,人們己經(jīng)發(fā)展了上百種人工神經(jīng)網(wǎng)絡(luò),但大部分網(wǎng)絡(luò)都是幾種典型網(wǎng)絡(luò)的變形和組合。一般地說,人工神經(jīng)網(wǎng)絡(luò)的連接形式和拓撲結(jié)構(gòu)可分為兩大類:即分層型和互聯(lián)型神經(jīng)網(wǎng)絡(luò)。分層型神經(jīng)網(wǎng)絡(luò)又分為簡單的前饋網(wǎng)絡(luò)、反饋型前饋網(wǎng)絡(luò)、和內(nèi)層互聯(lián)前饋網(wǎng)絡(luò)。

二、 BP網(wǎng)絡(luò)理論

1.BP網(wǎng)絡(luò)概述

目前,在眾多神經(jīng)網(wǎng)絡(luò)中,誤差反向傳播(Error Back Propagation)網(wǎng)絡(luò)由于其良好的逼近能力和成熟的訓(xùn)練方法而得到了最為廣泛的應(yīng)用。BP網(wǎng)絡(luò)由Rumelhat等人于1985年建立,它是一種多層前饋神經(jīng)網(wǎng)絡(luò),由一個輸入層、一個輸出層和若干個隱含層所組成。位于同一層的單元之間不允許有連接,各層的單元只能向高層的單元輸出激活信號。BP算法是用于前饋多層網(wǎng)絡(luò)的學(xué)習(xí)算法,前饋多層網(wǎng)絡(luò)的結(jié)構(gòu)一般如圖2.1所示

BP網(wǎng)絡(luò)含有輸入層、輸出層以及處于輸入輸出層之間的中間層。中間層有單層或多層,由于它們和外界沒有直接的聯(lián)系,故也稱為隱層。在隱層中的神經(jīng)元也稱隱單元。隱層雖然和外界不連接.但是,它們的狀態(tài)則影響輸入輸出之間的關(guān)系。這也是說,改變隱層的權(quán)系數(shù),可以改變整個多層神經(jīng)網(wǎng)絡(luò)的性能。

2. BP網(wǎng)絡(luò)的學(xué)習(xí)過程

BP網(wǎng)絡(luò)采用有教師的學(xué)習(xí)規(guī)則,其算法的核心是通過一邊向后傳播誤差,一邊修正誤差的方法來不斷調(diào)節(jié)網(wǎng)絡(luò)參數(shù)(權(quán)、閥值),以實現(xiàn)或逼近所希望的輸入、輸出映射關(guān)系。它對每一個學(xué)習(xí)過程進行兩趟傳播計算

(1)工作信號正向傳播

輸入信號從輸入層經(jīng)隱含層,在輸出端產(chǎn)生輸出信號。在信號的向前傳遞過程中網(wǎng)絡(luò)的權(quán)值保持不變,每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層不能得到期望的輸出,則轉(zhuǎn)入誤差信號的反向傳播。

(2)誤差信號反向傳播

網(wǎng)絡(luò)的實際輸出與期望輸出之間差值即為誤差信號,誤差信號由輸出端逐層向前傳播。在誤差信號反向傳播的過程中,網(wǎng)絡(luò)的權(quán)值由誤差反饋進行調(diào)解。通過權(quán)值的不斷修正使網(wǎng)絡(luò)的實際輸出更接近期望輸出。

3.BP算法的改進

在實際應(yīng)用中,傳統(tǒng)的基于標(biāo)準(zhǔn)梯度下降法的BP算法在求解實際問題時很難勝任。為此,人們在標(biāo)準(zhǔn)BP算法的基礎(chǔ)上進行了許多有益的改進,主要目標(biāo)是為了加快訓(xùn)練速度,避免陷入局部極小值和改善其能力。改進后的BP網(wǎng)絡(luò)的訓(xùn)練收斂速度比標(biāo)準(zhǔn)梯度下降法快數(shù)十倍乃至數(shù)百倍。

BP算法的改進分為兩類,一類是基于標(biāo)準(zhǔn)梯度下降法的算法改進,如動量、自適應(yīng)學(xué)習(xí)速率法、彈性BP法等;另一類是基于數(shù)值優(yōu)化方法的改進,如共軛梯度法、擬牛頓法、LM算法等。這里介紹最常用的兩種方法:動量法、自適應(yīng)學(xué)習(xí)速率法。

(1)附加動量的BP算法

標(biāo)準(zhǔn)BP算法的權(quán)值調(diào)節(jié)公式為,式中,為本次權(quán)值校正量,k為訓(xùn)練次數(shù),為學(xué)習(xí)速率,為節(jié)點誤差,為該節(jié)點相應(yīng)的輸入值。

附加動量法每一次對連接權(quán)或輸出閾值進行校正時,按一定比例加上前一次學(xué)習(xí)時的校正量,即動量項,由此加速網(wǎng)絡(luò)學(xué)習(xí)的收斂速度。具體做法是,上式中,mc為動量因子(0

該方法是在反向傳播法的基礎(chǔ)上在每一個權(quán)值的變化上加上一項正比前次權(quán)值變化量的值,并根據(jù)反向傳播法來產(chǎn)生新的權(quán)值變化。

附加動量法的實質(zhì)是將最后一次權(quán)值的影響,通過一個動量因子來傳遞。當(dāng)動量因子取值為零時,權(quán)值的變化僅是根據(jù)梯度下降法產(chǎn)生;當(dāng)動量因子取值為1時,新的權(quán)值變化則是設(shè)置為最后一次權(quán)值的變化,而依梯度法產(chǎn)生的變化部分則被忽略掉了。以此方式,當(dāng)增加了動量后,促使權(quán)值的調(diào)節(jié)向著誤差曲面底部的平均方向變化,當(dāng)網(wǎng)絡(luò)權(quán)值進入誤差曲面底部的平坦區(qū)時,將變得很小,于是,從而防止了的出現(xiàn),有助于使網(wǎng)絡(luò)從誤差曲面的局部極小值中跳出。

根據(jù)附加動量法的設(shè)計原理,當(dāng)修正的權(quán)值在誤差中導(dǎo)致太大的增長結(jié)果是,新的權(quán)值應(yīng)被取消而不被采用,并使動量作用停止下來,以使網(wǎng)絡(luò)不進入較大誤差曲面;當(dāng)新的誤差變化率對其舊值超過一個事先設(shè)定的最大誤差變化率時,也得取消所計算的權(quán)值變化。其最大誤差變化率可以是任何大于或等于1的值。典型的值取1.04。所以在進行附加動量法的訓(xùn)練程序設(shè)計時,必須加進條件判斷。

訓(xùn)練程序中對采用動量法的判斷條件為:

式中,k為訓(xùn)練次數(shù),SSE為網(wǎng)絡(luò)誤差平方和。

附加動量的引入可使網(wǎng)絡(luò)在修正其權(quán)值時,不僅考慮局部的梯度信息,而且考慮誤差曲面最近的變化趨勢,其作用如同一個低通濾波器,它允許網(wǎng)絡(luò)忽略網(wǎng)絡(luò)上的微小變化特性。在沒有附加動量的作用下,網(wǎng)絡(luò)可能陷入淺的局部極小值,利用附加動量的作用則有可能滑過這些極小值 。

(2)自適應(yīng)學(xué)習(xí)率調(diào)整的BP算法

在標(biāo)準(zhǔn)BP算法的權(quán)值調(diào)節(jié)公式中, 是步長,表示學(xué)習(xí)速率,在訓(xùn)練過程中始終保持不變。對于一個特定的問題,要選擇適當(dāng)?shù)膶W(xué)習(xí)速率不是一件容易的事情。通常是憑經(jīng)驗或?qū)嶒灚@取,但即使這樣,對訓(xùn)練開始初期功效較好的學(xué)習(xí)速率,不見得對后來的訓(xùn)練合適。為了解決這一問題,人們希望在訓(xùn)練過程中,自動調(diào)整學(xué)習(xí)速率。通常調(diào)節(jié)學(xué)習(xí)速率的準(zhǔn)則是:檢查權(quán)值的修正值是否真正降低了誤差函數(shù),如果確實如此 ,則說明所選取的學(xué)習(xí)速率可能小了,可以對其增加一個適當(dāng)?shù)牧?若不是這樣,而產(chǎn)生了過調(diào),那么就應(yīng)該減小學(xué)習(xí)速率的值。

自適應(yīng)學(xué)習(xí)率調(diào)整的基本思想是:在保持訓(xùn)練穩(wěn)定的前提下,使每次用于修正權(quán)值的迭代步長盡可能大。較大時,權(quán)值的修改量較大,學(xué)習(xí)的速率就比較快,但有時可能產(chǎn)生振蕩,即誤差 總不能小于某個特別小的值。而當(dāng)取較小值時,學(xué)習(xí)的速率就較慢,但一般比較平穩(wěn),將使計算量變得很大。自適應(yīng)學(xué)習(xí)率調(diào)整這一策略在誤差增加不太大的范圍內(nèi),能提高學(xué)習(xí)速率,在局部區(qū)域內(nèi)獲得有一個近最優(yōu)的學(xué)習(xí)速率,從而得到比標(biāo)準(zhǔn)BP算法更快的收斂速度。

下式給出了一種自適應(yīng)學(xué)習(xí)速率的調(diào)整公式

式中,k為訓(xùn)練次數(shù),SSE為網(wǎng)絡(luò)誤差平方和。

初始學(xué)習(xí)速率的選取范圍可以有很大的隨意性。

與采用附加動量時的判斷條件相仿,當(dāng)新誤差超過舊誤差一定的倍數(shù)時,學(xué)習(xí)速率將減小,否則其學(xué)習(xí)速率保持不變;當(dāng)新誤差小于舊誤差時,學(xué)習(xí)速率將被增加。此方法可以保證網(wǎng)絡(luò)總是可以以最大可接受的學(xué)習(xí)速率進行訓(xùn)練。當(dāng)一個較大的學(xué)習(xí)速率仍能夠使用網(wǎng)絡(luò)穩(wěn)定學(xué)習(xí),使其誤差繼續(xù)下降,則增加學(xué)習(xí)速率,使其以更大的學(xué)習(xí)速率進行學(xué)習(xí)。一旦學(xué)習(xí)速率調(diào)得過大,而不能保證誤差繼續(xù)減少,則減少學(xué)習(xí)速率直到使其學(xué)習(xí)過程穩(wěn)定為止。

4.提高網(wǎng)絡(luò)的推廣能力

推廣能力(Generalization)是衡量神經(jīng)網(wǎng)絡(luò)性能好壞的重要標(biāo)志。所謂推廣能力,就是指神經(jīng)網(wǎng)絡(luò)對訓(xùn)練樣本以外的新樣本數(shù)據(jù)的正確反映能力。一個“過度訓(xùn)練”(overtraining)的神經(jīng)網(wǎng)絡(luò)可能會對訓(xùn)練樣本集達到較高的匹配效果,但對于一個新的輸入樣本矢量卻可能會產(chǎn)生與目標(biāo)矢量差別較大的輸出,即神經(jīng)網(wǎng)絡(luò)不具有或具有較差的推廣能力。

網(wǎng)絡(luò)設(shè)計完成后,要運用樣本集進行訓(xùn)練。對推廣能力的測試不能用訓(xùn)練集的數(shù)據(jù)進行,而要用訓(xùn)練集以外的測試數(shù)據(jù)來進行檢測。一般的做法是,將訓(xùn)練集的可用樣本隨機的分成兩部份;一部分作為訓(xùn)練集,一部分作為測試集。隱層 結(jié)點數(shù)一定的情況下,為了獲得好的推廣能力存在一個最佳訓(xùn)練次數(shù)。

三、 基于BP神經(jīng)網(wǎng)絡(luò)的股市驗證

我們選取上證股市大盤在1998年3月10號到2009年12月2號間的大盤每日漲幅數(shù)據(jù)作為訓(xùn)練樣本和預(yù)測樣本,訓(xùn)練樣本區(qū)間選擇1998年3月10日-2008年5月21號,共2466個大盤每日漲幅。預(yù)測樣本為2008年5月22號-2009年12月2號的大盤每日漲幅,共375個數(shù)據(jù)。

為了加快網(wǎng)絡(luò)的收斂性,我們對收益率數(shù)據(jù)進行歸一化處理,采用MATLAB的premnmx函數(shù),將收益率數(shù)據(jù)變成的取值為(-1,1)之間的數(shù)據(jù)。網(wǎng)絡(luò)訓(xùn)練和仿真完成后再采用MATLAB的postmnmx函數(shù)將數(shù)據(jù)反歸一化變成實際需要的收益率數(shù)據(jù)。

1.網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計

神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計主要需要確定輸入輸出的節(jié)點數(shù)、網(wǎng)絡(luò)層數(shù)、隱層節(jié)點數(shù)等。由于上證綜指收益率數(shù)據(jù)具有混沌特性,根據(jù) 《證綜指日收益率的混沌特性》這個論文得相空

其中取時間延遲τ=25,嵌入維數(shù)m=12。網(wǎng)絡(luò)的輸入節(jié)點數(shù)取嵌入維數(shù)12,將作為輸入。網(wǎng)絡(luò)的輸出節(jié)點數(shù)取1,目標(biāo)輸出

為。

網(wǎng)絡(luò)層數(shù):1989年Robert Hecht-Nielson證明了對于任何在閉區(qū)間內(nèi)的一個連續(xù)函數(shù)都可以用一個隱層的BP網(wǎng)絡(luò)來逼近,因而一個三層的BP網(wǎng)絡(luò)可以完成任意的N維到M維的映射。基于以上定理我們一般選取一個隱層的BP網(wǎng)絡(luò)就可以了。增加層數(shù)主要可以更進一步的降低誤差,提高精度,但同時也使網(wǎng)絡(luò)復(fù)雜化,從而增加了網(wǎng)絡(luò)權(quán)值的訓(xùn)練時間。而誤差精度的提高實際上也可以通過增加隱層中的神經(jīng)元數(shù)目來獲得,其訓(xùn)練效果也比增加層數(shù)更容易觀察和調(diào)整。

隱層神經(jīng)元的選取:隱層神經(jīng)元的作用是從樣本中提取并存儲其內(nèi)在規(guī)律,每個神經(jīng)元有若干個權(quán)值,而每個權(quán)值都是增強網(wǎng)絡(luò)映射能力的一個參數(shù)。網(wǎng)絡(luò)訓(xùn)練精度的提高,可以通過采用一個隱層,而增加其神經(jīng)元數(shù)的方法來獲得。這在結(jié)構(gòu)實現(xiàn)上,要比增加更多的隱層要簡單的多。

那么究竟選取多少個隱層節(jié)點才合適?神經(jīng)元數(shù)量太少,網(wǎng)絡(luò)從樣本中獲取信息的能力就差,不足以概括和體現(xiàn)樣本規(guī)律;神經(jīng)元數(shù)量過多,又可能把樣本中非規(guī)律性的內(nèi)容,如噪聲等也學(xué)會記牢,從而出現(xiàn)所謂“過度吻合”問題。因此,如何確定一個適當(dāng)?shù)纳窠?jīng)元個數(shù)是我們要著重考慮的問題。Gorman曾認(rèn)為隱點數(shù)s與模式數(shù)N的關(guān)系為s=log2N,但大多數(shù)情況并非如此,網(wǎng)絡(luò)修剪與增長方法都是根據(jù)網(wǎng)絡(luò)收斂性能的好壞來決定隱點節(jié)數(shù)的增減,不僅具有很大的盲目性,而且是很費時間的過程。江蘇理工大學(xué)信息科學(xué)研究所的高大啟教授在他的論文《有教師的線性基本函數(shù)前向三層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)研究》中給出了三層網(wǎng)絡(luò)的隱點數(shù)經(jīng)驗公式,其中,s為隱點數(shù),m為輸入節(jié)點數(shù),n為輸出節(jié)點數(shù)。在實際應(yīng)用,由這個公式確定的隱點數(shù)效果較好。本文中m=12,n=1,求出隱層節(jié)點數(shù)s=7。

網(wǎng)絡(luò)激活函數(shù)的選取:由于歸一化后的數(shù)據(jù)的取值范圍在(-1,1)之間,所以本文采用雙曲正切S型函數(shù)

網(wǎng)絡(luò)的訓(xùn)練方法:采用將附加動量法和自適應(yīng)學(xué)習(xí)率法結(jié)合起來使用的改進的BP算法。

2.網(wǎng)絡(luò)訓(xùn)練與仿真

本文運用MATLAB程序?qū)ι衔脑O(shè)計好的神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,訓(xùn)練樣本區(qū)間選擇1998年3月10日-2008年5月21號,共2466個大盤每日漲幅,如圖1.10。

將訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型用于仿真2008年5月22號-2009年12月2號的大盤每日漲幅,共375個數(shù)據(jù)。得到的預(yù)測值與真實值見附錄,圖形見圖1.11。

圖3.2 神經(jīng)網(wǎng)絡(luò)預(yù)測值與真實值圖

四、 總結(jié)和展望

目前,非線性經(jīng)濟學(xué)在資本市場定價方面的研究仍在不斷發(fā)展中,研究熱點主要集中在兩個方面:一是對股票價格是否存在非線性甚至是混沌的診斷研究;二是試圖建立非線性模型來研究股票價格定價及其變動。迄今為止。資本市場上存在非線性的現(xiàn)象得到較廣泛的實證支持。但是否存在混沌,還存在較多的疑問,并沒有得到最終的定論。但無論如何。非線性經(jīng)濟學(xué)對傳統(tǒng)經(jīng)濟學(xué)基礎(chǔ)的挑戰(zhàn)是不容忽視的,它為資本市場定價的研究開辟了一個新的視野,使資本市場的定價行為的研究更接近這種行為本身的真實狀況。因此,它在很大程度上預(yù)示著資本市場定價理論的未來發(fā)展的一個方向。

參考文獻:

[1]陳其安,楊秀苔:中國股市的收益分布特征[J]. 統(tǒng)計與決策. 2005,04: 110-112

[2]杜修立:漲跌幅限制對中國股市結(jié)構(gòu)及有效性的經(jīng)驗分析[J]. 財經(jīng)問題研究. 2006,12:54-58

[3]楊再斌:我國證券市場股價運動非線性特征檢驗[J]. 上海立信會計學(xué)院學(xué)報. 2006,7:78-83

[4]葛哲學(xué)孫志強:神經(jīng)網(wǎng)絡(luò)理論與matlab2007實現(xiàn)[M]. 電子工業(yè)出版社. 2008年5月

[5]黃詒榮:中國股市分形結(jié)構(gòu):理論與實證[M].中山大學(xué)出版社. 2006.3月

篇7

關(guān)鍵詞：人工神經(jīng)元網(wǎng)絡(luò)；BP神經(jīng)網(wǎng)絡(luò)；matlab；識別分類

中圖分類號：TP391.41文獻標(biāo)識碼：A文章編號：1007-9599 (2010) 16-0000-02

Artificial Neural Network Application on Face Classification

Liang Xiaoli

(Heilongjiang Radio&TV University,Harbin150080,China)

Abstract:In the face recognition technology is developing continuously,people not limited to recognize the human face,but the main emphasis on the accuracy and efficiency of face recognition.

Face recognition is divided into three steps,face detection,feature extraction,recognition category,identification and classification of the methods in which the decision of whether to correctly identify the human face.BP neural network with forward propagation and back propagation characteristics,so as to ensure the accuracy of classif-

ication,Therefore,the main author of this article how to MATLAB,the BP neural network used in face recognition classification.

Keywords:Artificial neural network;BP neural network;Matlab;

Recognition category

人工神經(jīng)元網(wǎng)絡(luò)，又稱為神經(jīng)元網(wǎng)絡(luò)，它是對人腦的簡化、抽象和模擬，反映了人腦的基本特性神經(jīng)元網(wǎng)絡(luò)是由大量處理單元廣泛互連而成的網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)研究的是模擬人腦信息處理的功能，從人腦的生理結(jié)構(gòu)出發(fā)來研究人的智能行為。是依托于數(shù)學(xué)、神經(jīng)科學(xué)、物理學(xué)、計算機科學(xué)及工程等學(xué)科的一種綜合性技術(shù)。

一、人工神經(jīng)網(wǎng)絡(luò)的分類

我們可以對人工神經(jīng)網(wǎng)絡(luò)進行如下分類：

（一）單層的前向神經(jīng)網(wǎng)絡(luò)

這里所說的單層前向網(wǎng)絡(luò)是指擁有單層的神經(jīng)元是，作為源節(jié)點個數(shù)的“輸入層”被看作是一層神經(jīng)元，“輸入層”是不具有計算功能。

（二）多層的前向神經(jīng)網(wǎng)絡(luò)

多層前向神經(jīng)網(wǎng)絡(luò)與單層前向神經(jīng)網(wǎng)絡(luò)的差別在于：多層的前向神經(jīng)網(wǎng)絡(luò)和單層前向神經(jīng)網(wǎng)絡(luò)的隱含層個數(shù)不同，在多層的前向神經(jīng)網(wǎng)絡(luò)中完成計算功能的節(jié)點被稱為隱含單元（隱含神經(jīng)元）。由于隱層的數(shù)量不同，使網(wǎng)絡(luò)能進行更高序的統(tǒng)計，尤其當(dāng)輸入層規(guī)模龐大時，隱層神經(jīng)元提取高序統(tǒng)計數(shù)據(jù)的能力便顯得非常重要。

（三）反饋網(wǎng)絡(luò)

反饋網(wǎng)絡(luò)指在網(wǎng)絡(luò)中最少含有一個反饋回路的神經(jīng)網(wǎng)絡(luò)。反饋網(wǎng)絡(luò)中包含一個單層神經(jīng)元，在這一層中的所有的神經(jīng)元將自身的輸出信號反饋給其他所有神經(jīng)元作為輸入。

（四）隨機神經(jīng)網(wǎng)絡(luò)

隨機神經(jīng)網(wǎng)絡(luò)是在神經(jīng)網(wǎng)絡(luò)中引入了隨機概念，每個神經(jīng)元都是按照概率的原理在工作，這樣每個神經(jīng)元興奮或抑制具有隨機性，其概率取決于神經(jīng)元的輸入值。

（五）競爭神經(jīng)網(wǎng)絡(luò)

競爭神經(jīng)網(wǎng)絡(luò)最顯著的特點是它的輸出神經(jīng)元之間相互競爭以確定勝出者，勝出者指出哪一種原型模式最能代表輸入模式。

二、神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)

神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)又被稱為訓(xùn)練，所指的是通過神經(jīng)網(wǎng)絡(luò)所在外界環(huán)境的刺激下調(diào)整神經(jīng)網(wǎng)絡(luò)的參數(shù)，使得神經(jīng)網(wǎng)絡(luò)以一種調(diào)整好的方式對外部環(huán)境做出反應(yīng)的過程。從環(huán)境中學(xué)習(xí)和在學(xué)習(xí)中提高自身性能是神經(jīng)網(wǎng)絡(luò)最有意義的特征了。

學(xué)習(xí)方式可分為：有師學(xué)習(xí)和無師學(xué)習(xí)。有師學(xué)習(xí)又稱為有監(jiān)督學(xué)習(xí)，在學(xué)習(xí)時需要給出指導(dǎo)信號（又可稱為期望輸出或者響應(yīng)）。神經(jīng)網(wǎng)絡(luò)對外部環(huán)境是未知的，但可以將指導(dǎo)信號看作對外部環(huán)境的了解，由輸入―輸出樣本集合來表示。指導(dǎo)信號或期望輸出代表了神經(jīng)網(wǎng)絡(luò)執(zhí)行情況的最佳結(jié)果，即對于網(wǎng)絡(luò)輸入調(diào)整網(wǎng)絡(luò)參數(shù)，使得網(wǎng)絡(luò)輸出逼近期望的輸出值。無師學(xué)習(xí)包括強化學(xué)習(xí)與無監(jiān)督學(xué)習(xí)（可以被稱為自組織學(xué)習(xí)）。在強化學(xué)習(xí)中，對輸出的學(xué)習(xí)是通過與外界環(huán)境的連續(xù)作用最小化完成的。

三、BP神經(jīng)網(wǎng)絡(luò)

BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)，就是指包含信息正向傳播和誤差反向傳播算法的學(xué)習(xí)過程。輸入層的每一個神經(jīng)元負責(zé)接收來自外界的輸入信息，并傳遞給中間層中的每一個神經(jīng)元；中間層的各個神經(jīng)元是內(nèi)部信息處理層，負責(zé)信息變換，可以設(shè)計為單隱層或者多隱層結(jié)構(gòu)；最后隱含層傳遞到輸出層的信息，經(jīng)進一步處理后，完成一次學(xué)習(xí)的正向傳播處理過程，由輸出層向外界輸出信息處理結(jié)果。當(dāng)實際輸出與期望輸出不相符時，進入誤差的反向傳播階段。誤差通過輸出層作用于輸入層，按誤差梯度下降的方式分別修正各層權(quán)值，逐漸向隱含層和輸入層反傳。多次的經(jīng)過信息正向傳播和誤差反向傳播過程，是各層權(quán)值不斷調(diào)整的過程，也就是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過程，此過程一直進行到網(wǎng)絡(luò)的輸出誤差減少到可以被接受的程度，或者達到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)才會停止。

四、實驗過程及結(jié)果

本文中假設(shè)已經(jīng)用奇異值分解得到人臉特征點的數(shù)據(jù)，每個人臉劃分為五部分，每部分又得到5個特征值，所以也就是25個的特征值。本文采集了50個人人臉，每人采集10張不同姿態(tài)下的照片，也就是500張照片，對這些照片進行人臉檢測并進行奇異值分解，得到每張照片對應(yīng)的25個特征值，從每人10張照片中隨機抽出5張用于訓(xùn)練出不同的姿態(tài)下的人臉，另外的5張用作測試樣本。

（一）實驗過程

由于數(shù)據(jù)過長，本文只以2個人，每人2張照片作為的訓(xùn)練樣本數(shù)據(jù)為例來說明。

第一步：訓(xùn)練樣本（每人25個特征值），在p是一個25行，4列的矩陣，每一列代表一個人的25個特征值，屬于一個樣本；列數(shù)4表示樣本總數(shù)；

p=[ 7.4264 9.0728 7.9825 9.5632；

7.5719 7.8115 6.5564 7.8561；

12.8074 12.7073 12.4536 11.5423；

9.0284 10.3744 8.7569 9.9965；

7.0083 9.0284 7.1254 8.8876；

1.2597 2.1578 1.3556 3.0112；

0.6896 0.7835 0.7859 0.9658；

0.7814 0.8818 0.7568 0.8213；

1.0248 1.6783 1.1542 1.5234；

1.0112 1.0248 0.9568 0.9652；

1.0427 1.0813 1.0425 0.9568；

0.5970 0.5886 0.5968 0.5889；

0.4928 0.5969 0.3569 0.6012；

0.6438 0.6417 0.6589 0.5612；

0.3563 0.6438 0.2534 0.6689；

0.4474 0.4235 0.4568 0.4236；

0.2483 0.2282 0.2253 0.2259；

0.3633 0.4616 0.3102 0.4556；

0.3383 0.4167 0.3561 0.3456；

0.3130 0.3383 0.3302 0.3359；

0.3378 0.3313 0.3219 0.3569；

0.1916 0.1767 0.1564 0.1952；

0.2356 0.3422 0.2355 0.3012；

0.2088 0.3268 0.1958 0.3568；

0.1858 0.2088 0.0956 0.1968；]；

第二步：目標(biāo)輸出矩陣

因為就兩個人，所以采用一位二進制編碼就可以，在這里定義第一類樣本的編碼為0；第二類樣本的輸出編碼為1。

t=[0 1 0 1]；

第三步：使用MATLAB建立網(wǎng)絡(luò)結(jié)構(gòu)

net1=newff（minmax（p），[25，9，1]，{'tansig'，'tansig'，'hardlim'}，'traingdm'）；

說明：[25，10，1]表示該網(wǎng)絡(luò)的輸入結(jié)點為25個值，輸出結(jié)果為1為二進制編碼的值，中間層由經(jīng)驗公式 （rnd為0-1之間的隨機數(shù)），所以本文選取5-15之間數(shù)分別作為隱含層的神經(jīng)元個數(shù)，得出的結(jié)論是9的收斂速度最快。

第四步：對網(wǎng)絡(luò)進行訓(xùn)練

[net1，tr]=train（net1，p，t）；

第五步：保存網(wǎng)絡(luò)

save aa net1

則文件會以aa.mat的格式保存，保存了訓(xùn)練好的網(wǎng)絡(luò)以及權(quán)值。

第六步：輸入測試樣本

先加載上一步中保存好的網(wǎng)絡(luò)，本實驗中只輸入一個測試樣本，下面的數(shù)據(jù)代表測試樣本的特征值，共25個。

load aa.mat

p1=[7.8115；0.7835；0.5886；0.2282；0.1767；1.0197；0.7896；0.6814；1.1238；1.1114；0.9427；0.5970；0.4569；0.5438；0.4563；0.1983；0.4632；0.3383；0.3130；0.4377；0.1817；0.2256；0.2088；0.2854；0.2812]；

第六步：網(wǎng)絡(luò)仿真

a=hardlim（sim（net1，p1）-0.5）

（二）實驗結(jié)果

根據(jù)上述實驗過程，得出的結(jié)果是：

下圖是執(zhí)行了10次中的一次算法模擬情況。

Elapsed time is 0.469seconds

網(wǎng)絡(luò)仿真的輸出結(jié)果是：a=0

本文中測試的數(shù)據(jù)來源于訓(xùn)練樣本中輸出為0的樣本，識別結(jié)果正確。換了10個測試樣本，其中識別正確的是6個，也就是正確率大約在60%。

然后，采用相同的辦法，在實驗中把訓(xùn)練樣本由每人兩個不同姿態(tài)下的樣本增加到了3個，也就是輸入向量的p由4列增加到6列，其他的均不變，網(wǎng)絡(luò)的訓(xùn)練時間為0.471 seconds。還是使用上面的10個測試樣本，其中識別正確的達到了8個，正確率提高到了80%左右。

在樣本量擴大到250時，這些樣本是來自于，50個人，每人拍攝10張不同姿態(tài)下的照片，也就是500張，然后從其中隨機的取出每個人對應(yīng)的5張照片作為訓(xùn)練樣本，然后再把從剩余的250張作為測試樣本，進行測試。輸入結(jié)點數(shù)為250，每個結(jié)點對應(yīng)的特征向量為25；輸出值用二進制的編碼表示，由于后面要實現(xiàn)的人臉識別系統(tǒng)中要應(yīng)用在一個只有50人的環(huán)境下，所以采用二進制編碼6位就夠了，但是為了系統(tǒng)的可擴展性，所以采用7位二進制編碼來設(shè)計輸出結(jié)點的值，bp網(wǎng)絡(luò)就是25維輸出7維輸出。此時測試的250個數(shù)據(jù)中只有一組數(shù)據(jù)是錯誤的，原因是照片中的人嘴和鼻子被口罩遮住了。

樣本量增加后網(wǎng)絡(luò)訓(xùn)練到一個樣本測試仿真所有的時間是1.936seconds。

五、小結(jié)

本文介紹了基于BP神經(jīng)網(wǎng)絡(luò)的人臉識別分類方法，先用matlab設(shè)計了一個模擬程序，然后不斷的增加訓(xùn)練樣本中同一人樣本的樣本數(shù)，訓(xùn)練后用10個人分別測試兩個網(wǎng)絡(luò)的正確率，當(dāng)同一人的樣本數(shù)增加到3時，正確率由60%提高到了80%?？梢宰C明網(wǎng)絡(luò)訓(xùn)練樣本的增加有利于提高識別的正確率。把在上一章中采集到的50個人所對應(yīng)的500張照片作為標(biāo)準(zhǔn)樣本庫，從中隨機取出250張作為訓(xùn)練樣本，然后設(shè)定輸出值，輸出的值應(yīng)該有50類，采用二進制的編碼構(gòu)成，然后再實用剩余的250張照片作為測試樣本，進行測試。

篇8

關(guān)鍵詞：參考作物騰發(fā)量 Elman神經(jīng)網(wǎng)絡(luò)

1 前言

目前,中國人均水資源占有量不足世界人均水平的四分之一,耕地平均每公頃水資源占有量也僅為世界平均水平的四分之五。農(nóng)業(yè)用水占到我國總用水量的約70%，農(nóng)業(yè)用水浪費現(xiàn)象普遍存在，21世紀(jì)中國農(nóng)業(yè)水資源供需矛盾將更加突出。因此以提高農(nóng)業(yè)用水效率為目的節(jié)水高效農(nóng)業(yè)對于緩解水資源緊缺的現(xiàn)狀、實現(xiàn)水資源可持續(xù)利用和農(nóng)業(yè)的可持續(xù)發(fā)展都有著極為重要的意義。

參考作物騰發(fā)量是估算作物蒸發(fā)蒸騰量的關(guān)鍵參數(shù)，它的準(zhǔn)確性直接影響著作物需水預(yù)報的精度，進而影響到區(qū)域水資源的優(yōu)化配置。而作物蒸發(fā)蒸騰量是農(nóng)業(yè)方面最主要的水分消耗部分，是確定作物灌溉制度和地區(qū)灌溉水量的基礎(chǔ)，是制定流域規(guī)劃、地區(qū)水利規(guī)劃，灌溉工程規(guī)劃、設(shè)計、管理和農(nóng)田排灌實施的依據(jù)。因此參考作物騰發(fā)量的預(yù)測顯得尤為重要，它對正確估算作物蒸發(fā)蒸騰量，提高農(nóng)業(yè)用水效率，發(fā)展節(jié)水農(nóng)業(yè)有著十分重要的意義。

2 國內(nèi)外研究現(xiàn)狀

2.1 ET0的估算方法的研究

參考作物騰發(fā)量（ET0）的概念由彭曼于1948年首先提出。1979年FAO（聯(lián)合國糧農(nóng)組織）對其進行了定義。1990年聯(lián)合國糧農(nóng)組織在意大利羅馬召開的作物需水量計算方法專題研討會上，推薦使用penman-monteith公式計算參考作物蒸散量。1998年FAO推薦penman-monteith公式作為計算參考作物騰發(fā)量的唯一標(biāo)準(zhǔn)方法。

參考作物騰發(fā)量的估算方法大致可劃分為蒸滲儀測定、蒸發(fā)皿估測以及利用氣象觀測數(shù)據(jù)通過公式計算等三種途徑。利用氣象數(shù)據(jù)通過公式計算參考作物騰發(fā)量的方法又可歸納為經(jīng)驗公式和理論方法兩類。經(jīng)驗公式中常采用輻射、溫度、水汽壓、相對濕度、風(fēng)速及日照時數(shù)等氣象觀測數(shù)據(jù)作參數(shù)，按照某種與參考作物騰發(fā)量的經(jīng)驗函數(shù)關(guān)系進行估算。如Blaney-Criddle(1950)，Ture(1961)，F(xiàn)AO-24Radiation(1977)，Hargreaves(1985)，理論公式法主要有penman法和penman-montieth方法等。penman-montieth方法是目前世界范圍內(nèi)廣泛采用的計算參考作物騰發(fā)量的方法。國內(nèi)在參考作物騰發(fā)量估算方面的研究多是基于國外的計算公式進行地區(qū)性修正或應(yīng)用比較，penman-montieth方法是國內(nèi)計算參考作物騰發(fā)量普遍采用的方法。

2.2 ET0預(yù)測方法的研究

通常ET0的預(yù)測有神經(jīng)網(wǎng)絡(luò)、隨機過程、時間序列、灰色系統(tǒng),以及多元線性、非線性回歸等方法。多學(xué)科的交叉是現(xiàn)代數(shù)據(jù)分析發(fā)展的重要方向，模糊邏輯、神經(jīng)網(wǎng)絡(luò)、粗集理論、遺傳算法以及支持向量機都是目前常用的融合協(xié)作算法，探討它們之間的相互結(jié)合可以取長補短，對改進或提高系統(tǒng)整體性能，具有非常重要的實際意義，近幾年國內(nèi)外對此方面的研究逐漸深入。本文嘗試將動態(tài)神經(jīng)網(wǎng)絡(luò)方法應(yīng)用在參考作物需水量預(yù)測上，并取得了理想效果。

3 Elman神經(jīng)網(wǎng)絡(luò)預(yù)測方法

3.1 Elman神經(jīng)網(wǎng)絡(luò)簡介

Elman神經(jīng)網(wǎng)絡(luò)是Elman于1990年提出的，是一種動態(tài)神經(jīng)網(wǎng)絡(luò)。此網(wǎng)絡(luò)是在BP網(wǎng)絡(luò)基本結(jié)構(gòu)的基礎(chǔ)上，通過存儲內(nèi)部狀態(tài)使其具備映射動態(tài)特性的功能，從而使系統(tǒng)具有適應(yīng)時變特性的能力。

Elman網(wǎng)絡(luò)模型除了普通的輸入層、隱含層和輸出層外，還有一個特別的承接層，其網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。其輸入層、隱含層和輸出層的連接類似于前饋網(wǎng)絡(luò)，輸入層單元僅起信號傳輸作用；輸出層單元起線性加權(quán)的作用；隱含層單元的傳遞函數(shù)可以采用線性或非線性函數(shù)；而承接層單元用來記憶隱含層單元前一時刻的輸出值，可認(rèn)為是一步時延算子。

具體地說，網(wǎng)絡(luò)在k時刻的輸入不僅包括目前的輸入值，而且還包括隱含層前一時刻的輸出值，這時網(wǎng)絡(luò)可視為普通的前饋網(wǎng)絡(luò)，而且可以用BP算法進行訓(xùn)練。訓(xùn)練結(jié)束后，k時刻隱含層的輸出值將通過遞歸連接部分反饋回上下文層單元，并保留到K+1時刻。其中，反饋連接的權(quán)值不能調(diào)整。根據(jù)回歸連接的結(jié)構(gòu)不同，可以將回歸網(wǎng)絡(luò)分為部分回歸和完全回歸。第一類網(wǎng)絡(luò)只是選擇那些特別有意義的反饋連接。由一個正切s形隱層和一個純線性輸出層組成的Elman網(wǎng)絡(luò)，能夠逼近任何連續(xù)函數(shù)。由于它有反饋連接，因此通過學(xué)習(xí)可產(chǎn)生時間模式和空間模式。而且不必先假定系統(tǒng)的數(shù)學(xué)模型形式，不必考慮外部噪聲對系統(tǒng)影響的具體形式，若能給出系統(tǒng)的輸入、輸出數(shù)據(jù)時，就可以利用Elman神經(jīng)網(wǎng)絡(luò)對系統(tǒng)進行建模。Elman神經(jīng)網(wǎng)絡(luò)還能夠體現(xiàn)效應(yīng)量與影響因子的非線性關(guān)系。

3.2 Elman神經(jīng)網(wǎng)絡(luò)的優(yōu)點

近年來，人工神經(jīng)網(wǎng)絡(luò)技術(shù)在水利眾多領(lǐng)域得到了廣泛的應(yīng)用。由于神經(jīng)網(wǎng)絡(luò)具有并行處理、聯(lián)想記憶、分布式知識存儲、魯棒性強等特點，尤其是它的自組織、自適應(yīng)、自學(xué)習(xí)功能，從而在復(fù)雜非線性系統(tǒng)的分析和預(yù)測中得到了廣泛應(yīng)用。目前非線性系統(tǒng)辨識中普遍采用的是BP網(wǎng)絡(luò)，但BP網(wǎng)絡(luò)是靜態(tài)網(wǎng)絡(luò)，它只是實現(xiàn)一一對應(yīng)的靜態(tài)非線性映射關(guān)系，不適合動態(tài)系統(tǒng)的實時辨識。BP網(wǎng)絡(luò)模型隨系統(tǒng)階次的增加，迅速擴大的網(wǎng)絡(luò)結(jié)構(gòu)使網(wǎng)絡(luò)學(xué)習(xí)收斂速度減慢，并造成網(wǎng)絡(luò)輸入節(jié)點過多、訓(xùn)練困難及對外部噪聲敏感等弊病。

相比之下，動態(tài)回歸神經(jīng)網(wǎng)絡(luò)(RNN)提供了一種極具潛力的選擇，它能夠更生動、更直接地反映系統(tǒng)的動態(tài)特性。Elman 型回歸神經(jīng)網(wǎng)絡(luò)是一種典型的動態(tài)神經(jīng)元網(wǎng)絡(luò)，它是在BP網(wǎng)絡(luò)基本結(jié)構(gòu)的基礎(chǔ)上，通過存儲內(nèi)部狀態(tài)使其具備映射動態(tài)特征的功能，從而使系統(tǒng)具有適應(yīng)時變特性的能力。

3.3 Elman神經(jīng)網(wǎng)絡(luò)模型在MATLAB中的實現(xiàn)

在MATLAB神經(jīng)網(wǎng)絡(luò)工具箱中Elman網(wǎng)絡(luò)的工具箱函數(shù)是用newelm(網(wǎng)絡(luò)函數(shù))生成一個Elman遞歸網(wǎng)絡(luò)。格式為net=newelm(PR,[S1S2,...,SM],{TF1TF2…TFM},BTF,BLF,PF)，Elman網(wǎng)絡(luò)由N1層組成（一般兩層即可），其權(quán)函數(shù)用dotprod函數(shù)，輸入函數(shù)用netsum函數(shù)，以及用一些特殊的函數(shù)作為其傳遞函數(shù)。每層權(quán)和閾值初始化用initnw進行操作。其中PR為輸入元素的最大和最小值的矩陣（其維數(shù)為：R×2），Si為第i層的神經(jīng)元個數(shù)。TFi為第i層的傳遞函數(shù)，缺省時TFi=‘tansig’；BTF為反向傳播網(wǎng)絡(luò)的訓(xùn)練函數(shù)（BTF可以是trainged，traindm，traingda，traingdx等函數(shù)）， 缺省時BTF=‘traingdx’；BLF為反向傳播權(quán)，也稱閾值學(xué)習(xí)函數(shù)（BLF可以是learngd或learndm），缺省時BLF=‘learngdm’；PF為性能分析函數(shù)（PF可以是mse或msereg），缺省時PF=‘mse’。具體采用什么函數(shù)應(yīng)根據(jù)算例情況及試算來確定。

3.4 Elman神經(jīng)網(wǎng)絡(luò)的應(yīng)用

本文利用600組蒸發(fā)皿估測數(shù)據(jù)，建立了動態(tài)Elman-ET0預(yù)測模型，利用12組數(shù)據(jù)檢測模型預(yù)測精度，結(jié)果顯示該模型的對ET0的預(yù)測誤差均小于20%，Elman神經(jīng)網(wǎng)絡(luò)可以應(yīng)用在參考作物騰發(fā)量預(yù)測中。

4 結(jié)語

通過收集和閱讀大量文獻，比較已使用的ET0預(yù)測方法，認(rèn)為人工神經(jīng)網(wǎng)絡(luò)及一些融合協(xié)作算法的預(yù)測效果較好，但算法比較復(fù)雜。

考慮到參考作物騰發(fā)量主要受氣象因子影響，一般為非線性函數(shù)，隨時間存在一定的變化趨勢，本文引用了動態(tài)Elman神經(jīng)網(wǎng)絡(luò)對參考作物騰發(fā)量進行建模和預(yù)測，結(jié)果顯示該方法是可行的。

參考文獻

[1]郭冬冬，周新國，孫景生，盧聞航.時間序列法在參考作物騰發(fā)量分析與擬中的應(yīng)用[J].中國農(nóng)村水利水電，2004,(8):4-7.

[2]李曉軍，李取生.東北地區(qū)參考作物蒸散確定方法研究[J].地理科學(xué)，2004,24(2):212-216.

[3]劉志武，倪廣恒，雷志棟，杜衛(wèi)東．計算逐日潛在騰發(fā)量的BP神經(jīng)網(wǎng)絡(luò)方法[J]．灌溉排水學(xué)報，2004，23(4)：75-77．

[4]蔣任飛，阮本清，韓宇平，孫靜. 基于BP神經(jīng)網(wǎng)絡(luò)的參照騰發(fā)量預(yù)測模型[J] .中國水利水電科學(xué)研究院學(xué)報，2005,3 (4)：308-311．

[5]徐俊增等.基于天氣預(yù)報的參考作物蒸發(fā)蒸騰量的神經(jīng)網(wǎng)絡(luò)預(yù)測模型[J] .水利學(xué)報.2006,37(3)：376-379.

[6]蔡甲冰等.應(yīng)用自適應(yīng)神經(jīng)模糊推理系統(tǒng)的ET0預(yù)測[J],農(nóng)業(yè)工程學(xué)報,2004,20(4)：13-16.

[7]蔡甲冰等.根據(jù)天氣預(yù)報估算參照騰法量的模糊神經(jīng)網(wǎng)絡(luò)方法[J].農(nóng)業(yè)工程學(xué)報,2005,21(12)：108-111.

[8]崔遠來，馬承新，沈細中，馬吉剛. 基于進化神經(jīng)網(wǎng)絡(luò)的參考作物騰發(fā)量預(yù)測[J] .水科學(xué)進展，2005,16 (1)：76-81．

[9]高瑞忠，朝倫巴根，于嬋，朱仲元，柴建華. 基于隨機樣本的神經(jīng)網(wǎng)絡(luò)模型估算參考作物騰發(fā)量[J]．農(nóng)業(yè)工程學(xué)報，2006，22(2)：42-45．

[10] 顧世祥，王士武，袁宏源．參考作物騰發(fā)量預(yù)測的徑向基函數(shù)法[J]．水科學(xué)進展，1999，(2):123-128．

[11] 劉丙軍，邵東國，沈新平.基于小波變換的 BP神經(jīng)網(wǎng)絡(luò)參考作物騰發(fā)量預(yù)測模型[J]．武漢大學(xué)學(xué)報，2007,40(1)：69-73．

[12] 羅玉峰 ，崔遠來，蔡學(xué)良．參考作物騰發(fā)量預(yù)報的傅立葉級數(shù)模型[J]．武漢大學(xué)學(xué)報，2005，38（6）：45-52．

[13] 段春青，邱林，黃強，陳曉楠. 基于混沌遺傳程序設(shè)計的參考作物騰發(fā)量預(yù)測模型[J]．水利學(xué)報，2006，37(4)：499-503．

[14] 常秀華，遲道才，李宇，馬憲偉.基于SPSS的撫順地區(qū)參考作物需水量的區(qū)域分析[J].中國農(nóng)村水利水電，2005,(5)：21-26．

[15] 胡慶芳，尚松浩，溫守光，孟寶泉.基于投影尋蹤的徑向基函數(shù)網(wǎng)絡(luò)在參考騰發(fā)量預(yù)測中的應(yīng)用[J] .水利學(xué)報，2006,37(9)：1151-1154．

[16]彭世彰，徐俊增.參考作物蒸發(fā)蒸騰量計算方法的應(yīng)用比較[J].灌溉排水學(xué)報，2004,23(6):5-9.

[17]張兵，袁壽其，成立等.基于L-M 優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)的作物需水量預(yù)測模型[J].農(nóng)業(yè)工程學(xué)報，2004，20（6）：73-76.

篇9

1986年，rumelhart提出了反向傳播學(xué)習(xí)算法，即bp(backpropagation)算法。反向傳播bp（back propagation）神經(jīng)網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一［1］。這種算法可以對網(wǎng)絡(luò)中各層的權(quán)系數(shù)進行修正，故適用于多層網(wǎng)絡(luò)學(xué)習(xí)。bp算法是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法之一，在自動控制中是最有用的學(xué)習(xí)算法，它含有輸人層、輸出層以及處于輸入輸出層之間的中間層。中間層有單層或多層，由于它們和外界沒有直接的聯(lián)系，故也稱為隱層。在隱層中的神經(jīng)元也稱隱單元。隱層雖然和外界不連接，但是，它們的狀態(tài)影響著輸入輸出之間的關(guān)系。也就是說，改變隱層的權(quán)系數(shù)，可以改變整個多層神經(jīng)網(wǎng)絡(luò)的性能［2］。

1bp 神經(jīng)網(wǎng)絡(luò)模型

bp 神經(jīng)網(wǎng)絡(luò)模型由一個輸入層、一個輸出層以及一個或多個隱含層構(gòu)成，同一層中各神經(jīng)元之間相互獨立。輸入信號從輸入層神經(jīng)元開始依次通過各個隱含層神經(jīng)元，最后傳遞到輸出層神經(jīng)元， 圖1給出了包含一個隱含層的bp網(wǎng)絡(luò)模型結(jié)構(gòu)，隱含層神經(jīng)元個數(shù)為m。理論研究表明：具有一個輸入層，一個線性輸出層以及sigmoid 型激活函數(shù)的隱含層bp 網(wǎng)絡(luò)能夠以任意精度逼近任何連續(xù)可微函數(shù)［3］。

三層感知器中，輸入向量為x=（x1,x2…xi…xn）t，圖1中x0=-1是為隱層神經(jīng)元引入閾值而設(shè)置的，隱層輸入向量為y=（y1,y2…yj…ym,）t，圖中y0=-1是為輸出層神經(jīng)元引入閾值而設(shè)置的；輸出層輸出向量o=（o1,o2, …,ok,ol）t，期望輸出向量為d=（d1,d2, …,dk,dl）t,輸入層到隱層之間的權(quán)值矩陣用v表示，v=（v1,v2, …,vj, …vm）t，隱層到輸入層之間的權(quán)值矩陣用w表示，w=（w1,w2, …,w,k …wl）t，下面分析各層信號之間的關(guān)系［4］。

圖1三層bp網(wǎng)絡(luò)

對于輸入層：

ok=f（netk） k=1,2, …，l，netk=∑mj=0wjkyj k=1,2, …，l；

對于隱層：

yj=f（netj）j=1,2, …,m，netj=∑ni=0vijxij=1,2, …,m；

以上兩式中，激活函數(shù)都是sigmoid函數(shù)。

f（x）=11+e－x，f（x）具有連續(xù)、可導(dǎo)的特點且f’（x）= f（x）［1- f（x）］。

根據(jù)以上公式，我們可以推導(dǎo)出權(quán)值調(diào)整量δwjk和δvjk分別是：

δwjk=ηδokyj=η（dk-ok）ok（1-ok）yj，δvij=ηδyjxi=η（∑lk=1δokwjk）yj（1-yj）xi

2智能公交實時調(diào)度模型總體設(shè)計

公交公司的行車計劃一般在年初就制定完成，調(diào)度員根據(jù)行車計劃進行調(diào)度，遇到節(jié)假日、雨天等突況時，就憑調(diào)度員的工作經(jīng)驗調(diào)度。因此，可以考慮使用bp神經(jīng)網(wǎng)絡(luò)算法，在智能公交實時調(diào)度中加入誤差反向傳播算法，利用誤差反向傳播算法超強的學(xué)習(xí)能力和泛化能力，通過對公交海量歷史調(diào)度數(shù)據(jù)的學(xué)習(xí)，建立公交車到達目的站點的預(yù)測模型。通過實時gps數(shù)據(jù)，就可以預(yù)測車輛到達目的地的大概時間，為建立智能公交調(diào)度提供極大的方便。智能公交實時調(diào)度模型如圖2所示。

圖2智能公交實時調(diào)度模型

從圖2可以看出，智能公交實時調(diào)度模型分為3個主要模塊。

(1)數(shù)據(jù)處理分析模塊。智能公交實時調(diào)度模型的基礎(chǔ)模塊，數(shù)據(jù)來源于兩個部分：一是公交歷史行車數(shù)據(jù)，包括發(fā)車時間、天氣等數(shù)據(jù)；二是gps定位系統(tǒng)采集的實時數(shù)據(jù)，主要是各個時刻采集的運行數(shù)據(jù)。該模塊根據(jù)各預(yù)測模型的需要，選擇合理的數(shù)據(jù)輸入，并對數(shù)據(jù)進行處理。

(2)預(yù)測模型模塊。通過對現(xiàn)有數(shù)據(jù)的分析、預(yù)測，得到車輛到達調(diào)度站的運行時間預(yù)測結(jié)果。

(3)智能實時調(diào)度模塊。輸入預(yù)測模型可以得到車輛運行時間，根據(jù)公交歷史調(diào)度計劃以及公交客流數(shù)據(jù)，可以適當(dāng)改變當(dāng)前調(diào)度計劃，臨時下達調(diào)度指令，為建立與實際客流相結(jié)合的調(diào)度方法提供決策支持。

(4)基于bp神經(jīng)網(wǎng)絡(luò)的預(yù)測模型。公交車輛的運行時間總的來說還是比較固定的，但是有時候會隨著道路擁擠情況、節(jié)假日、天氣情況等有所改變。由于神經(jīng)網(wǎng)絡(luò)具備以任意精度逼近連續(xù)函數(shù)功能，具有較強的自我學(xué)習(xí)能力和泛化能力，能夠充分體現(xiàn)輸入數(shù)據(jù)與輸出數(shù)據(jù)之間復(fù)雜的映射關(guān)系。因此，本文采用bp神經(jīng)網(wǎng)絡(luò)來預(yù)測車輛到達時間。

2.1輸入變量對公交運行時間的影響

把公交車運行時間分

為幾個階段，車輛到達目的地所需要的時間往往與該公交車處于的階段有著某種必然的聯(lián)系，根據(jù)車輛實時gps數(shù)據(jù)及車輛運行過程中所處的時間，設(shè)ti為公交車實時時間，所以ti在那個階段對車輛運行有直接影響， ti可以根據(jù)gps數(shù)據(jù)實時取得。

車輛位置：車輛在運行過程中所處的位置對公交車到達目的站有著一定的影響，根據(jù)gps實時數(shù)據(jù)，可以計算出車輛離終點站有多少距離，將車輛在ti時刻距調(diào)度站的距離作為影響因素。

天氣情況：天氣的好壞對公共汽車的運行產(chǎn)生比較大的影響，一般情況下，公交車在晴天的運行時間要比雨天少，車速比雨天快。

星期情況：從周一到周日，不同日子有著不同的客流，所以星期情況對公交的運行產(chǎn)生一定的影響。

節(jié)日：重大節(jié)日客流量明顯增多，車輛的運行時間也會有所延長。

2.2變量獲取

bp神經(jīng)網(wǎng)絡(luò)需要大量數(shù)據(jù)作為輸入、輸出樣本，因此在構(gòu)建bp神經(jīng)網(wǎng)絡(luò)前，首先要做的工作就是獲取這些數(shù)據(jù)。利用先進的信息技術(shù)，可以獲取公交車輛運行的gps數(shù)據(jù)，而天氣、星期情況、是否節(jié)假日這些變量則可以在大量的歷史數(shù)據(jù)中獲得。

2.3基于神經(jīng)網(wǎng)絡(luò)的車輛預(yù)測模型

預(yù)測模型將采用三層bp神經(jīng)網(wǎng)絡(luò)，即一個輸入層，一個隱層以及一個輸出層，輸入層一共有5個變量，分別是時間、車輛位置、天氣情況、星期情況以及節(jié)假日。隱含層節(jié)點數(shù)目一共有11個節(jié)點。輸出層為1個節(jié)點，采用有導(dǎo)師的學(xué)習(xí)方法。至此本文建立的bp網(wǎng)絡(luò)結(jié)構(gòu)為5×11×1，bp網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。

圖3bp神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

bp神經(jīng)網(wǎng)絡(luò)的車輛運行時間測算模型如圖4所示。

其中：t 為當(dāng)前時刻，w(t-t)，當(dāng)前時刻t之前t時刻神經(jīng)網(wǎng)絡(luò)輸入層與隱層以及隱層與輸出層之間的權(quán)值矩陣。

f(t):車輛從起始站到當(dāng)前時刻車輛的運行時間。

f’(t):預(yù)測樣本的輸出時間。

xi(t):t時刻的第i個輸入向量，i∈［0，1］，其中xi為車輛在t時刻到達調(diào)度站的距離的輸入向量，x2為天氣情況輸入向量，x3為車輛運行所處的星期輸入向量，x4為車輛運行當(dāng)天是否節(jié)日的輸入向量，x5為gps采集數(shù)據(jù)的時刻向量。

圖4bp神經(jīng)網(wǎng)絡(luò)的車輛運行時間測算模型

2.4樣本數(shù)據(jù)取值及歸一化方法

（1）gps定位數(shù)據(jù)。在車輛運行過程中，對車載gps數(shù)據(jù)進行采集，采集完成后通過一定的方法進行計算，從而得出車輛離到達站的距離，設(shè)該距離為一對一使用歸一化處理，使得轉(zhuǎn)換后的數(shù)值就落在（0，1）上。

（2）天氣情況。在一段時間內(nèi)，公交車會碰到不同的天氣，不同的天氣對公交的運行產(chǎn)生不同的影響。我們把天氣進行分類，一共分為7種狀況，分別是大雨、小雨、雪、大霧、小霧、晴天和陰天，用不同的數(shù)字來表示這7種天氣情況。

（3）星期情況。對于不同的星期采用不同的分類方法表示，從星期一到星期日也采用不同的數(shù)字表示。

（4）節(jié)假日。節(jié)假日可以用布爾變量來表示，true是節(jié)假日，false為非節(jié)假日。

3結(jié)語

國內(nèi)大多數(shù)公交調(diào)度優(yōu)化研究都是著眼于靜態(tài)調(diào)度，而本文將研究重點放在了實時調(diào)度方面，在智能公交實時調(diào)度中加入bp神經(jīng)網(wǎng)絡(luò)技術(shù)，用誤差反向傳播算法超強的學(xué)習(xí)能力和泛化能力，通過對公交海量歷史調(diào)度數(shù)據(jù)的學(xué)習(xí)，建立公交車到達目的站點的預(yù)測模型。通過實時gps數(shù)據(jù)，就可以預(yù)測車輛到達目的地的大概時間，為建立智能公交調(diào)度提供極大的方便。

參考文獻參考文獻：

\[1\]李翔，朱全銀.adaboost算法改進bp神經(jīng)網(wǎng)絡(luò)預(yù)測研究［j］.計算機工程與科學(xué)，2013（8）.

篇10

［關(guān)鍵詞］人工神經(jīng)網(wǎng)絡(luò)湖南人均GDP預(yù)測

GDP反應(yīng)某地區(qū)在核算期內(nèi)生產(chǎn)活動的最終成果及衡量國民經(jīng)濟發(fā)展規(guī)模、速度、結(jié)構(gòu)、效益的代表性指標(biāo)，也是制定經(jīng)濟發(fā)展戰(zhàn)略目標(biāo)的主要指標(biāo)。湖南省作為中部的一個省份，通過對“十一五”期間湖南省人均GDP的預(yù)測，可以分析全省的勞動量、資本量和技術(shù)知識的存量，利用GDP的存量功能，可以獲得資源與要素的信息，并據(jù)此推算湖南省的經(jīng)濟增長的潛力，從而有利于政府部門制定更合理的經(jīng)濟政策。

一、問題的分析與模型的建立

經(jīng)濟預(yù)報是一個復(fù)雜的非線性系統(tǒng),且系統(tǒng)的內(nèi)部時時刻刻在發(fā)生變化,我們希望能夠建立一個參數(shù)隨預(yù)測環(huán)境的變化而改變的非線性模型,國內(nèi)外對經(jīng)濟的預(yù)測進行了大量的研究，提出了許多預(yù)測的方法，其中神經(jīng)網(wǎng)絡(luò)被認(rèn)為是一種較好的非線性預(yù)測方法，尤其是BP神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡單，非線性處理能力卻很強大。

1.BP網(wǎng)絡(luò)模型

BP網(wǎng)絡(luò)是一種單向傳播的多層前向網(wǎng)絡(luò)，其結(jié)構(gòu)如圖1

BP網(wǎng)絡(luò)是一種具有三層或三層以上的神經(jīng)網(wǎng)絡(luò)，包括輸入層、中間層（隱層）和輸出層。上、下層之間實現(xiàn)聯(lián)接，而每層神經(jīng)元之間無聯(lián)接。當(dāng)一對學(xué)習(xí)樣本提供給網(wǎng)絡(luò)后，神經(jīng)元的激活值，從輸入層經(jīng)各中間層，向輸出層傳播，在輸出層的各神經(jīng)元獲得網(wǎng)絡(luò)的輸入響應(yīng)。接下來，按照減少目標(biāo)輸出與實際值的誤差的方向，從輸出層經(jīng)過各中間層逐層修正各聯(lián)接權(quán)值，最后回到輸入層，這種算法稱為“誤差逆?zhèn)鞑ニ惴ā?，即BP算法。隨著這種誤差逆?zhèn)鞑バ拚粩噙M行，網(wǎng)絡(luò)對輸入模式響應(yīng)的正確率也不斷上升。

圖1為常用的三層BP網(wǎng)絡(luò)結(jié)構(gòu),如果輸入層、隱含層和輸出層的單元個數(shù)分別為n、q、m，則該三層網(wǎng)絡(luò)可表示BP（n，q，m），利用該網(wǎng)絡(luò)可實現(xiàn)n維輸入向量Xn=(X1,X2…Xn)到m維輸出向量Ym=(Y1,Y2…Ym)T的非線性映射。m,n根據(jù)具體問題確定，而隱含層單元數(shù)q的確定尚無成熟的方法，一般可設(shè)定不同的q值，根據(jù)訓(xùn)練結(jié)果進行選擇。網(wǎng)絡(luò)結(jié)構(gòu)BP（n，q，m）確定后，網(wǎng)絡(luò)參數(shù)包括輸入層第i單元到隱含層第j單元的權(quán)重Wij(i=1...n,j=1...q)，隱層第i單元到輸出層第k單元的權(quán)重Wiko（j=1...q,k=1...m）；隱含層第j單元的激活閾值(j=1...q)及輸出層第k單元的激活閾值(k=1...m)，以上權(quán)值和閾值的初值在網(wǎng)絡(luò)訓(xùn)練之前隨機生成；假設(shè)共有p個訓(xùn)練樣本，輸入的第p個訓(xùn)練樣本信息首先向前傳播到隱含層單元上，經(jīng)過激活函數(shù)f(u)的作用得到隱含層的輸出信息: (1)

激活函數(shù)f(u)采用s(0,1)型函數(shù)，即 (2)

隱含層的輸出信息傳到輸出層，可得到最終輸入結(jié)果為

BP算法的基本思想是學(xué)習(xí)過程由信號的正向傳播與誤差的反向傳播兩個過程組成。以上過程為網(wǎng)絡(luò)學(xué)習(xí)的信息正向傳播過程；如果網(wǎng)絡(luò)輸出與期望輸出存在誤差，則將誤差反向傳播，誤差的反射傳播是將輸出誤差以某種形式通過隱層向輸入層逐層反傳，并將誤差分?jǐn)偨o各層的所有單元，從而獲得各層單元的誤差信號，以誤差信號作為修正各單元權(quán)值的依據(jù)，可以利用（4）來調(diào)節(jié)網(wǎng)絡(luò)權(quán)重和閾值。

其中為W(t)次訓(xùn)練，η,α分別為比例系數(shù)和動量系數(shù)，E為誤差平方和反復(fù)運用以上兩個過程，一直進行到網(wǎng)絡(luò)輸出的誤差減少到可接近的程度或進行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止（）。

通常，經(jīng)過訓(xùn)練的網(wǎng)絡(luò)還應(yīng)該進行性能的測試，測試的方面就是選擇樣本向量，將其提供給網(wǎng)絡(luò)，檢驗網(wǎng)絡(luò)對其分類的正確性，測試樣本向量中應(yīng)包括今后網(wǎng)絡(luò)應(yīng)用過程中可能的主要典型模式；樣本可以直接測取得到，也可以通過仿真得到，在樣本數(shù)據(jù)較少或者較難得到時，也可以通過對學(xué)習(xí)樣本加上適當(dāng)?shù)脑肼暬虬凑找欢ǖ囊?guī)則插值得到，總之，一個良好的測試樣本集中，不應(yīng)該包括和學(xué)習(xí)完全相同的模式。

2.BP神經(jīng)網(wǎng)絡(luò)在經(jīng)濟預(yù)報模型中的應(yīng)用

采用神經(jīng)網(wǎng)絡(luò)進行經(jīng)濟預(yù)測,以湖南省1978～1999年的經(jīng)濟數(shù)據(jù)作為訓(xùn)練樣本,2000年～2004年GDP進行預(yù)測仿真試驗。

GDP預(yù)測指標(biāo)體系就包含第一產(chǎn)業(yè)（x1）、第二產(chǎn)業(yè)（x2）、第三產(chǎn)業(yè)（x3）。在考慮諸年數(shù)據(jù)的可比性，在應(yīng)用神經(jīng)網(wǎng)絡(luò)之前，采用如下方法對數(shù)據(jù)環(huán)比處理：

式中，x為指標(biāo)的環(huán)比值；y為指標(biāo)的原始數(shù)據(jù)值；w為物價指數(shù)，t和t-1分別代表當(dāng)年度和上年度。采用BP神經(jīng)網(wǎng)絡(luò)進行預(yù)測，即用上一年的經(jīng)濟數(shù)據(jù)作為輸入，下一年的GDP作為輸出。因此GDP預(yù)測模型可以描述為:

y1=f(x1(t-1),x2(t-1),x3(t-1))

設(shè)置L―M算法BP神經(jīng)網(wǎng)絡(luò)的計算誤差為10-4，最大計算步數(shù)為10000，計算結(jié)果見圖2：

預(yù)測的結(jié)果見下表

從表中預(yù)測的結(jié)果,可以看出,模型擬合得到的數(shù)據(jù)與真實值是比較吻合的,預(yù)測的效果比較好,完全能滿足實際應(yīng)用的需要。如果我們對神經(jīng)網(wǎng)絡(luò)訓(xùn)練的精度作更高的要求，還可進一步降低預(yù)測的誤差。

參考文獻：

[1]Martin T.Hagan.神經(jīng)網(wǎng)絡(luò)設(shè)計.機械工業(yè)出版社,2005

[2]王振龍:時間序列分析.中國統(tǒng)計出版社.2003

[3]伍衛(wèi)國:數(shù)值方法和Matlab實現(xiàn)與應(yīng)用.機械工業(yè)出版社,2004