神經(jīng)網(wǎng)絡(luò)的優(yōu)缺點(diǎn)范文
時(shí)間:2024-03-28 18:12:32
導(dǎo)語(yǔ):如何才能寫(xiě)好一篇神經(jīng)網(wǎng)絡(luò)的優(yōu)缺點(diǎn),這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。
篇1
關(guān)鍵詞:油液光譜;神經(jīng)網(wǎng)絡(luò);遺傳算法;預(yù)測(cè)
磨損金屬顆粒濃度可直接反映了設(shè)備的運(yùn)行狀況,所以在設(shè)備狀態(tài)監(jiān)控領(lǐng)域金屬顆粒濃度預(yù)測(cè)是油分析的最重要內(nèi)容之一。文章通過(guò)研究磨損金屬顆粒濃度數(shù)據(jù)序列構(gòu)成的一般規(guī)律,根據(jù)神經(jīng)網(wǎng)絡(luò)與遺傳算法在時(shí)間序列預(yù)測(cè)中的優(yōu)缺點(diǎn),提出以GA優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)、閾值,構(gòu)建GA-BP模型。實(shí)例預(yù)測(cè)結(jié)果表明,GA-BP模型的精度與速度都比較理想,優(yōu)于單一的BP模型。
1神經(jīng)網(wǎng)絡(luò)和遺傳算法
BP神經(jīng)網(wǎng)絡(luò)在時(shí)間序列分析中不是一個(gè)十分完善的網(wǎng)絡(luò),這是因?yàn)橐环矫鎸W(xué)習(xí)算法的收斂速度較慢,另―方面在優(yōu)化過(guò)程中易陷入局部極小點(diǎn)。
而遺傳算法具備優(yōu)秀的全局搜索能力,所以可利用遺傳算法對(duì)BP網(wǎng)絡(luò)從三個(gè)方面進(jìn)行優(yōu)化:(1)優(yōu)化神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值;(2)優(yōu)化神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)進(jìn)化;(3)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則的進(jìn)化。
通過(guò)得出具有最佳隱層節(jié)點(diǎn)的網(wǎng)絡(luò)結(jié)構(gòu),合理的初始權(quán)值和閾值,及最佳學(xué)習(xí)進(jìn)化規(guī)則,保證網(wǎng)絡(luò)不陷入局部最小值,同時(shí)又具備合理的收斂速度。
2遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型
文章GA-BP算法的假設(shè)是網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)固定。算法的基本思想是:(1)給定網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)以及網(wǎng)絡(luò)的輸入、輸出樣本;(2)構(gòu)建待尋優(yōu)參數(shù)與GA染色串的映射函數(shù);(3)確定GA算法的目標(biāo)函數(shù)、適應(yīng)度函數(shù)和優(yōu)化參數(shù),產(chǎn)生初始種群;(4)計(jì)算目標(biāo)函數(shù)的值,個(gè)體的適應(yīng)度,判斷是否進(jìn)行優(yōu)化計(jì)算,并進(jìn)行遺傳操作(復(fù)制、交叉和變異),產(chǎn)生新一代群體;(5)重復(fù)上述過(guò)程,直至進(jìn)化滿(mǎn)足停止準(zhǔn)則。
step5:新個(gè)體插入到種群中,計(jì)算評(píng)價(jià)函數(shù);
step6:如果找到了滿(mǎn)意的個(gè)體,則結(jié)束,否則轉(zhuǎn)step3。最終群體中的最優(yōu)個(gè)體解碼即可得到優(yōu)化后的網(wǎng)絡(luò)連接權(quán)值;
step7:以GA算法獲得的連接權(quán)值作為初始權(quán)值,用BP算法訓(xùn)練網(wǎng)絡(luò),直到指定精度。
3GA-BP模型預(yù)測(cè)油液光譜參數(shù)
3.1光譜數(shù)據(jù)的處理
在機(jī)械裝備狀態(tài)監(jiān)測(cè)中,一般不直接對(duì)采集到的油液光譜參數(shù)進(jìn)行建模,這是因?yàn)?,一方面直接建模容易忽視參?shù)的摩擦學(xué)特征,另一方面,設(shè)備的元素含量之間本身有一定線性比例關(guān)系,所以,設(shè)備的檢修、補(bǔ)換油等因素的影響效果從某種程度上來(lái)說(shuō)是一致的。在文章的研究中,通過(guò)將元素間比例關(guān)系的數(shù)據(jù)作為系統(tǒng)的輸入與輸出,即以元素間濃度比值的形式對(duì)原始數(shù)據(jù)進(jìn)行處理,使其能夠比較客觀地表征被監(jiān)測(cè)系統(tǒng)的狀態(tài)。一定設(shè)備的油樣中,各種不同元素的濃度差異較大,F(xiàn)e、Cu、Pb、及A1等元素的變化具有一定的規(guī)律。文章數(shù)據(jù)是引用的SGM沖壓機(jī)油系統(tǒng)與液壓系統(tǒng)的油箱中的采樣監(jiān)測(cè)結(jié)果為例進(jìn)行討論。監(jiān)測(cè)過(guò)程中,根據(jù)元素光譜分析的結(jié)果,選取與設(shè)備磨損密切相關(guān)的五種元素,并計(jì)算各種元素濃度值的比例,如表1所示。
3.2實(shí)驗(yàn)分析
將表1的Fe元素百分比數(shù)列前6組作為訓(xùn)練樣本,后2組作為實(shí)驗(yàn)樣本,如表2所示。
構(gòu)建4×9×1的BP神經(jīng)網(wǎng)絡(luò),第一層、第二層采用tansig傳遞函數(shù),第三層采用purelin傳遞函數(shù)。最大循環(huán)次數(shù)10000,收斂誤差0.002,學(xué)習(xí)率0.01。設(shè)置種群規(guī)模為80,遺傳代數(shù)為800,染色體長(zhǎng)度為55,交叉概率為0.98,變異概率0.01。
用Matlab2010編程,主要包括4個(gè)程序:主程序gabpfault.m;網(wǎng)絡(luò)初始化nninit.m;適應(yīng)值計(jì)算函數(shù)gabpEval.m;編碼解碼函數(shù)gadecod.m。經(jīng)過(guò)大約700代的搜索后染色體的平均適應(yīng)度趨于穩(wěn)定,誤差平方和曲線和適應(yīng)度曲線,如圖l所示,將遺傳算法的結(jié)果分配BP網(wǎng)絡(luò)所對(duì)應(yīng)的權(quán)值、閾值,訓(xùn)練神經(jīng)網(wǎng)絡(luò)。如圖2所示,給出了GA-BP算法的訓(xùn)練目標(biāo)曲線。用GAS訓(xùn)練BP網(wǎng)絡(luò)的權(quán)值可以得到滿(mǎn)意的結(jié)果。GA-BPfflBP都用前6組進(jìn)行訓(xùn)練,后2組進(jìn)行仿真,如表3所示,列出了GA-BP和BP的預(yù)測(cè)結(jié)果。
篇2
關(guān)鍵詞:BP網(wǎng)絡(luò) 旋轉(zhuǎn)觸探儀 神經(jīng)網(wǎng)絡(luò)預(yù)測(cè) 訓(xùn)練函數(shù)
中圖分類(lèi)號(hào):TP751 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1674-098X(2014)12(c)-0004-02
隨著計(jì)算機(jī)技術(shù)的快速發(fā)展,人工神經(jīng)網(wǎng)絡(luò)在數(shù)學(xué)p物理p工程p巖土等行業(yè)得到廣泛應(yīng)用。Matlab軟件提供了神經(jīng)網(wǎng)絡(luò)的工具箱,提供了多種神經(jīng)網(wǎng)絡(luò)庫(kù)函數(shù),為數(shù)值計(jì)算提供了計(jì)算平臺(tái)。巖土工程問(wèn)題的復(fù)雜多變性,在運(yùn)用神經(jīng)網(wǎng)絡(luò)分析和預(yù)測(cè)時(shí),其結(jié)果往往受各種因素的影響,關(guān)鍵還是網(wǎng)絡(luò)結(jié)構(gòu)的構(gòu)建和訓(xùn)練函數(shù)的選取。因此,應(yīng)該對(duì)網(wǎng)絡(luò)的訓(xùn)練函數(shù)的選取進(jìn)行深入研究。
該文在大量的旋轉(zhuǎn)觸探試驗(yàn)的基礎(chǔ)上,結(jié)合土的物理性質(zhì)指標(biāo)含水量、干密度,土的強(qiáng)度參數(shù)粘聚力和內(nèi)摩擦角,以及埋深情況,建立土的旋轉(zhuǎn)觸探模型,建立BP神經(jīng)網(wǎng)絡(luò),采用不同的訓(xùn)練函數(shù)對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。
1 BP神經(jīng)網(wǎng)絡(luò)
BP網(wǎng)絡(luò)是一種單向傳播的多層前向網(wǎng)絡(luò),具有三層或三層以上的神經(jīng)網(wǎng)絡(luò),包括輸入層、中間層(隱層)和輸出層。在人工神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中,BP網(wǎng)絡(luò)廣泛應(yīng)用于函數(shù)逼近、模式識(shí)別/分類(lèi)、數(shù)據(jù)壓縮等,人工神經(jīng)網(wǎng)絡(luò)模型采用BP網(wǎng)絡(luò)或它的變化形式,它是前饋網(wǎng)絡(luò)的核心部分,體現(xiàn)了人工神經(jīng)網(wǎng)絡(luò)最精華的部分。BP算法的基本思想[1]是,學(xué)習(xí)過(guò)程由信號(hào)的正向傳播與誤差的反向傳播兩個(gè)過(guò)程組成。正向傳播時(shí),輸入樣本從輸入層傳入,經(jīng)各隱層逐層處理后,傳向輸出層。若輸出層的實(shí)際輸出與期望的輸出不符,則轉(zhuǎn)入誤差的反向傳播階段。誤差反傳是將輸出誤差以某種形式通過(guò)隱層向輸入層逐層反傳,并將誤差分?jǐn)偨o各層的所有單元,從而獲得各層單元的誤差信號(hào),此誤差信號(hào)即作為修正各單元權(quán)值的依據(jù)。這種信號(hào)正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過(guò)程,是周而復(fù)始地進(jìn)行的。權(quán)值不斷調(diào)整的過(guò)程,也是網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過(guò)程。此過(guò)程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減少到可以接受的程度,或進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。
2 BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練函數(shù)
BP神經(jīng)網(wǎng)絡(luò)中的訓(xùn)練算法函數(shù)是根據(jù)BP網(wǎng)絡(luò)格式的輸入、期望輸出,由函數(shù)newff 建立網(wǎng)絡(luò)對(duì)象,對(duì)生成的BP 網(wǎng)絡(luò)進(jìn)行計(jì)算,修正權(quán)值和閾值,最終達(dá)到BP網(wǎng)絡(luò)的設(shè)計(jì)性能,從而完成網(wǎng)絡(luò)的訓(xùn)練和預(yù)測(cè)。BP 神經(jīng)網(wǎng)絡(luò)幾種主要的訓(xùn)練函數(shù)及其特點(diǎn)分述如下[2]。
(1)traingda、trainrp函數(shù)和trainlm函數(shù)。
traingda函數(shù)是最基本的自適應(yīng)學(xué)習(xí)步長(zhǎng)函數(shù),其最大優(yōu)點(diǎn)可以根據(jù)誤差容限的性能要求調(diào)節(jié)函數(shù),彌補(bǔ)標(biāo)準(zhǔn)BP算法中的步長(zhǎng)選擇不當(dāng)問(wèn)題。trainrp函數(shù)可以消除偏導(dǎo)數(shù)的大小權(quán)值帶來(lái)的影響,只考慮導(dǎo)數(shù)符號(hào)引來(lái)的權(quán)更新方向,忽略導(dǎo)數(shù)大小帶來(lái)的影響。trainlm函數(shù)。該函數(shù)學(xué)習(xí)速度較快,但占用內(nèi)存很大,從理論上來(lái)說(shuō)適用于中等規(guī)模的網(wǎng)絡(luò)。
(2)共軛梯度算法:traincgf函數(shù)、traincgp函數(shù)、traincgb 函數(shù)、trainscg函數(shù)。
共軛梯度算法是介于最速下降法與牛頓法之間的一個(gè)方法,其利用一階導(dǎo)數(shù)信息,但克服了最速下降法收斂慢的缺點(diǎn),又避免了牛頓法需要存儲(chǔ)和計(jì)算Hesse矩陣并求逆的缺點(diǎn)。上述四種共軛梯度算法前三種收斂速度比梯度下降快很多,其需要線性搜索,對(duì)于不同的問(wèn)題會(huì)產(chǎn)生不同的收斂速度。而第四種不需要線性搜索,其需要較多的迭代次數(shù),但是每次迭代所需計(jì)算量很小。
(3)Newton算法:trainbfg函數(shù)、trainoss函數(shù)。
trainbfg 算法的迭代次數(shù)較少,由于每步迭代都要Hessian矩陣,其每次迭代計(jì)算量和存儲(chǔ)量都很大,適合小型網(wǎng)絡(luò)。Trainoss為一步割線算法。它是介于共軛梯度法和擬牛頓算法的方法,其需要的存儲(chǔ)和計(jì)算量都比trainbfg要小,比共軛梯度法略大。
上述各算法由于采用的訓(xùn)練函數(shù)不同,其計(jì)算速度、收斂速度及其迭代次數(shù)不盡相同,并且對(duì)內(nèi)存要求依研究對(duì)象的復(fù)雜程度、訓(xùn)練集大小、網(wǎng)絡(luò)的大小及誤差容限的要求等存在差異。在運(yùn)用BP網(wǎng)絡(luò)解決相關(guān)工程性問(wèn)題時(shí),需要選擇合理的訓(xùn)練函數(shù)。
3 網(wǎng)絡(luò)訓(xùn)練函數(shù)的選取
該文著重研究BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練函數(shù)的選擇,所用數(shù)據(jù)樣本均來(lái)自于實(shí)踐中用新型微機(jī)控制旋轉(zhuǎn)觸探儀采集到的數(shù)據(jù),經(jīng)過(guò)歸一化處理建立了網(wǎng)絡(luò)的樣本數(shù)據(jù)庫(kù),根據(jù)訓(xùn)練函數(shù)的特點(diǎn)選擇其隱含層數(shù)為2。文選擇非線性函數(shù)為Sigmoid,輸出層的傳遞函數(shù)為Purelin,可以用來(lái)模擬任何的函數(shù)(必須連續(xù)有界)。
采用不同的訓(xùn)練函數(shù)對(duì)網(wǎng)絡(luò)的性能也有影響,比如收斂速度等等,下面采用不同的訓(xùn)練函數(shù)(trainbr、traingd、traingdm、traingdx、traincgf、trainlm、trainb)對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,并觀察其結(jié)果,如表1所示。
對(duì)比可知,trainlm訓(xùn)練函數(shù)的收斂效果較好,trainbr、trainlm訓(xùn)練函數(shù)得到的絕對(duì)誤差相對(duì)較小,其它訓(xùn)練函數(shù)的收斂性能較差。trainbr訓(xùn)練樣本的絕對(duì)誤差比trainlm訓(xùn)練函數(shù)的絕對(duì)誤差小,且分布比較均勻,但是trainbr訓(xùn)練函數(shù)的收斂精度卻相對(duì)較差,這可能是出現(xiàn)局部最優(yōu)化的問(wèn)題,通過(guò)測(cè)試樣本的進(jìn)一步分析如表2所示,trainbr訓(xùn)練以后的網(wǎng)絡(luò)對(duì)于預(yù)測(cè)樣本的預(yù)測(cè)精度較低,偏差較大,進(jìn)一步驗(yàn)證了該訓(xùn)練函數(shù)在訓(xùn)練過(guò)程中訓(xùn)練收斂精度相對(duì)較差,并出現(xiàn)局部最優(yōu)化[3]。
綜合考慮,可以看到trainlm訓(xùn)練函數(shù)具有訓(xùn)練速度快且預(yù)測(cè)精度高的特點(diǎn),所以本文中選用trainlm作為訓(xùn)練函數(shù)。
4 結(jié)論
該文以Matlab神經(jīng)網(wǎng)絡(luò)的作為工具,基于觸探模型作為研究對(duì)象,對(duì)不同的訓(xùn)練函數(shù)進(jìn)行了仿真比較,結(jié)果表明采用不同的訓(xùn)練函數(shù)其存在明顯的差異。綜合考慮干密度誤差,含水量誤差,干密度誤差(樣本順序),含水量誤差(樣本順序)以及迭代次數(shù)和性能誤差等因素,選用trainlm作為訓(xùn)練函數(shù),trainlm函數(shù)由于其訓(xùn)練速度較快且計(jì)算精度較高而顯現(xiàn)出一定的優(yōu)勢(shì)。
參考文獻(xiàn)
[1] 葛哲學(xué),孫志強(qiáng).神經(jīng)網(wǎng)絡(luò)理論與MATLAB R2007實(shí)現(xiàn)[M].電子工業(yè)出版社,2007.
篇3
[關(guān)鍵詞] 信用評(píng)分 判別分析模型 決策樹(shù)分析 回歸分析法 神經(jīng)網(wǎng)絡(luò)法
一、信用評(píng)分概況
信用評(píng)分模型作為信用風(fēng)險(xiǎn)管理的基礎(chǔ)和核心,無(wú)論是對(duì)于建立社會(huì)征信體系還是對(duì)于金融機(jī)構(gòu)的信貸資產(chǎn)管理,都有著不可替代的作用。其主要目的,在于盡量將能夠預(yù)測(cè)借款人未來(lái)行為的指標(biāo)加以整合,并統(tǒng)一成可以比較的單一指標(biāo),以顯示借款人在未來(lái)特定時(shí)間內(nèi)違約的可能性,所有的信用評(píng)分模型,無(wú)論采用什么理論或方法,其最終目的都是將貸款申請(qǐng)者的信用級(jí)別分類(lèi)。為達(dá)到分類(lèi)目的。當(dāng)前,對(duì)個(gè)人信用評(píng)分模型的定義有多種,較為權(quán)威的種觀點(diǎn)認(rèn)為:“信用評(píng)分是預(yù)測(cè)貸款申請(qǐng)人或現(xiàn)有借款人違約可能性的一種統(tǒng)計(jì)方法?!边@一觀點(diǎn)指出了信用評(píng)分的作用和目的,不過(guò)隨著信用評(píng)分模型的不斷發(fā)展,信用評(píng)分已不僅是一種統(tǒng)計(jì)方法,也包含了運(yùn)籌學(xué),如數(shù)學(xué)規(guī)劃法、非線性模糊數(shù)學(xué)(如神經(jīng)網(wǎng)絡(luò)方法)等。此外,信用評(píng)分的實(shí)際操作應(yīng)用也與決策原則緊密相關(guān),決策原則事實(shí)上決定了信用評(píng)分模型實(shí)現(xiàn)其目的和作用的程度。因此,對(duì)個(gè)人信用評(píng)分模型這一數(shù)學(xué)工具在金融和銀行業(yè)中的應(yīng)用來(lái)說(shuō),較為全面和恰當(dāng)?shù)亩x應(yīng)是,“信用評(píng)分是運(yùn)用數(shù)學(xué)優(yōu)化理論(包括統(tǒng)計(jì)方法、運(yùn)籌方法等),依照即定原則或策略(損失最小原則或風(fēng)險(xiǎn)溢價(jià)原則),在數(shù)據(jù)分析決策階段區(qū)分不同違約率水平客戶(hù)的方法。
二、各類(lèi)信用評(píng)分模型概述
1.判別分析模型
判別分析法是對(duì)研究對(duì)象所屬類(lèi)別進(jìn)行判別的一種統(tǒng)計(jì)分析方法。進(jìn)行判別分析必須已知觀測(cè)對(duì)象的分類(lèi)和若干表明觀測(cè)對(duì)象特征的變量值。判別分析就是要從中篩選出能提供較多信息變量并建立判別函數(shù),使推導(dǎo)出的判別函數(shù)對(duì)觀測(cè)樣本分類(lèi)時(shí)的錯(cuò)判率最小。這種方法的理論基礎(chǔ)是樣本由兩個(gè)分布有顯著差異的子樣本組成,并且它們擁有共同的屬性。它起源于1936年Fisher引進(jìn)的線性判別函數(shù),這個(gè)函數(shù)的目的是尋找一個(gè)變量的組合,把兩個(gè)擁有一些共同特征的組區(qū)分開(kāi)來(lái)。
判別分析方法的優(yōu)點(diǎn):適用于二元或多元性目標(biāo)變量,能夠判斷,區(qū)分個(gè)體應(yīng)該屬于多個(gè)不同小組中的哪一組。自身也存在不可避免的缺點(diǎn):該模型假設(shè)前提是自變量的分布都是正態(tài)分布的,而實(shí)踐中的數(shù)據(jù)往往不是完全的正態(tài)分布,從而導(dǎo)致統(tǒng)計(jì)結(jié)果的不可靠性。
2.決策樹(shù)方法
決策樹(shù)模型是對(duì)總體進(jìn)行連續(xù)的分割,以預(yù)測(cè)一定目標(biāo)變量的結(jié)果的統(tǒng)計(jì)技術(shù)。決策樹(shù)構(gòu)造的輸入是一組帶有類(lèi)別標(biāo)記的例子,構(gòu)造的結(jié)果是一棵二叉或多叉樹(shù)。構(gòu)造決策樹(shù)的方法是采用自上而下的遞歸構(gòu)造。在實(shí)際中,為進(jìn)行個(gè)人信用分析,選取個(gè)人信用作為目標(biāo)屬性,其他屬性作為獨(dú)立變量。所有客戶(hù)被劃分為兩類(lèi),即好客戶(hù)的和壞客戶(hù),將客戶(hù)信用狀況轉(zhuǎn)換為“是否好客戶(hù)”(值為1或0),而后利用數(shù)據(jù)集合來(lái)生成一個(gè)完整的決策樹(shù)。在生成的決策樹(shù)中可以建立一個(gè)規(guī)則基。一個(gè)規(guī)則基包含一組規(guī)則,每一條規(guī)則對(duì)應(yīng)決策樹(shù)的一條不同路徑,這條路徑代表它經(jīng)過(guò)節(jié)點(diǎn)所表示的條件的一條鏈接。通過(guò)創(chuàng)立一個(gè)對(duì)原始祥本進(jìn)行最佳分類(lèi)判別的決策樹(shù),采用遞歸分割方法使期望誤判損失達(dá)到最小。
決策樹(shù)模型的優(yōu)點(diǎn):淺層的決策樹(shù)視覺(jué)上非常直觀,容易解釋?zhuān)粚?duì)數(shù)據(jù)的結(jié)構(gòu)和分布不需做任何假設(shè);可以容易地轉(zhuǎn)化成商業(yè)規(guī)則。它的缺點(diǎn)在于:深層的決策樹(shù)視覺(jué)上和解釋上都比較困難;決策樹(shù)對(duì)樣本量的需求比較大;決策樹(shù)容易過(guò)分微調(diào)于樣本數(shù)據(jù)而失去穩(wěn)定性和抗震蕩性。
3.回歸分析法
回歸分析法是目前為止應(yīng)用最為廣泛的一種信用評(píng)分模型, 這其中以著名的logistic回歸為代表。除此之外, 線性回歸分析、probit回歸等方法亦屬于此類(lèi)。最早使用回歸分析的Orgler,他采用線性回歸模型制定了一個(gè)類(lèi)似于信用卡的評(píng)分卡, 他的研究表明消費(fèi)者行為特征比申請(qǐng)表資料更能夠預(yù)測(cè)未來(lái)違約可能性的大小。同數(shù)學(xué)規(guī)劃方法中一樣, 假設(shè)已經(jīng)通過(guò)一定的方法從樣本變量中提取出了若干指標(biāo)作為特征向量, 回歸分析的思想就是將這些指標(biāo)變量擬合成為一個(gè)可以預(yù)測(cè)申請(qǐng)者違約率的被解釋變量, 自然就是違約率p,回歸分析中應(yīng)用最廣泛的模型當(dāng)屬線性回歸模型,它是對(duì)大量的數(shù)據(jù)點(diǎn)中表現(xiàn)出來(lái)的數(shù)量關(guān)系模擬出一條直線,回歸分析的目標(biāo)就是使目標(biāo)變量值和實(shí)際的目標(biāo)變量值之間的誤差最小。因此最早將回歸方法應(yīng)用于信用評(píng)分研究的模型,就是簡(jiǎn)單的線性回歸模型,目前基于logistic回歸的信用評(píng)分系統(tǒng)應(yīng)用最為普遍。
回歸模型的優(yōu)點(diǎn):容易解釋和使用;自變量可以是連續(xù)性的,也可以是類(lèi)別性的;許多直觀的統(tǒng)計(jì)指標(biāo)來(lái)衡量模型的擬合度。缺點(diǎn):不能有效處理缺失值,必須通過(guò)一定的數(shù)據(jù)加工和信息轉(zhuǎn)換才能處理;模型往往呈線形關(guān)系,比較難把握數(shù)據(jù)中的非線形關(guān)系和變量間的互動(dòng)關(guān)系,而且模型假定變量呈正態(tài)分布;模型受樣本極端值的影響往往比較大。
4.人工神經(jīng)網(wǎng)絡(luò)法
近些年來(lái), 隨著信用評(píng)分領(lǐng)域的研究深入, 有學(xué)者將人工智能領(lǐng)域的一些模型算法引入到了信用評(píng)分研究中, 人工神經(jīng)網(wǎng)絡(luò)模型為典型代表。人工神經(jīng)網(wǎng)絡(luò)是由大量簡(jiǎn)單的基本元件――神經(jīng)元相互連接而成的自適應(yīng)非線性動(dòng)態(tài)系統(tǒng),是一種把各種投入要素通過(guò)復(fù)雜的網(wǎng)絡(luò)轉(zhuǎn)換成產(chǎn)出的信息加工結(jié)構(gòu)。神經(jīng)網(wǎng)絡(luò)模型本質(zhì)上所解決的問(wèn)題仍是分類(lèi)或者說(shuō)模式識(shí)別問(wèn)題, 但其原理卻與其做方法迥然相異。人工神經(jīng)網(wǎng)絡(luò)有多種模型, 比如BP神經(jīng)網(wǎng)絡(luò)、RBF神經(jīng)網(wǎng)絡(luò)、Hopfield網(wǎng)絡(luò)等。BP神經(jīng)網(wǎng)絡(luò)為目前研究最為成熟、算法最為穩(wěn)定同時(shí)應(yīng)用也最為廣泛的一種神經(jīng)網(wǎng)絡(luò)模型。
神經(jīng)網(wǎng)絡(luò)模型的優(yōu)點(diǎn):有效地捕捉數(shù)據(jù)中非線性,非可加性的數(shù)量關(guān)系;適用于二元性,多元性和連續(xù)性的目標(biāo)變量;能處理連續(xù)性和類(lèi)別性的預(yù)測(cè)變量。缺點(diǎn):基本上是一個(gè)黑箱方案,難以理解;如果不經(jīng)過(guò)仔細(xì)控制,容易微調(diào)于樣本數(shù)據(jù),從而不具備充分的抗震蕩性和穩(wěn)定性。
三、結(jié)語(yǔ)
信用評(píng)分作為一種嚴(yán)謹(jǐn)?shù)幕诮y(tǒng)計(jì)學(xué)等理論的決策手段, 正在逐漸被我國(guó)商業(yè)銀行重視。信用評(píng)分系統(tǒng)的建設(shè)在我國(guó)屬于起步階段,應(yīng)逐步建設(shè)適合我國(guó)特色的、高水平的信貸決策支持制度不但需要借鑒國(guó)外已有的理論研究成果和實(shí)踐方案, 更需要我國(guó)學(xué)界的創(chuàng)新或結(jié)合我國(guó)本土數(shù)據(jù)的實(shí)證研究。
參考文獻(xiàn):
[1]陳 建:信用評(píng)分模型技術(shù)與應(yīng)用.中國(guó)財(cái)政經(jīng)濟(jì)出版社,2005
篇4
關(guān)鍵詞 河流,人工神經(jīng)網(wǎng)絡(luò),水質(zhì),Gauss Newton算法
1.前言
河流水體作為淡水資源的重要組成部分,在灌溉、人類(lèi)生活用水的供應(yīng)、生活污水和工業(yè)廢水的接納等密切相關(guān)。水質(zhì)的評(píng)價(jià)是一個(gè)復(fù)雜的問(wèn)題,目前主要的評(píng)價(jià)方法主要有兩大類(lèi),一類(lèi)是以水質(zhì)的物理化學(xué)參數(shù)的實(shí)測(cè)值為依據(jù)的評(píng)價(jià)方法;另一類(lèi)是以水生物種群與水質(zhì)的關(guān)系為依據(jù)的生物學(xué)評(píng)價(jià)方法。較多采用的是物理化學(xué)參數(shù)評(píng)價(jià)方法,其中又分單因子法和多項(xiàng)參數(shù)綜合評(píng)價(jià)法。前者即用某一參數(shù)的實(shí)測(cè)濃度代表值與水質(zhì)標(biāo)準(zhǔn)對(duì)比,判斷水質(zhì)的優(yōu)劣或適用程度。多項(xiàng)參數(shù)綜合評(píng)價(jià)法即把選用的若干參數(shù)綜合成一個(gè)概括的指數(shù)來(lái)評(píng)價(jià)水質(zhì)。多因子指數(shù)評(píng)價(jià)法用兩種指數(shù)即參數(shù)權(quán)重評(píng)分疊加型指數(shù)和參數(shù)相對(duì)質(zhì)量疊加型指數(shù)兩種。參數(shù)權(quán)重評(píng)分疊加型指數(shù)的計(jì)算方法是,選定若干評(píng)價(jià)參數(shù),按各項(xiàng)參數(shù)對(duì)水質(zhì)影響的程度定出權(quán)系數(shù),然后將各參數(shù)分成若干等級(jí),按質(zhì)量?jī)?yōu)劣評(píng)分,最后將各參數(shù)的評(píng)分相加,求出綜合水質(zhì)指數(shù)。數(shù)值大表示水質(zhì)好,數(shù)值小表示水質(zhì)差。用這種指數(shù)表示水質(zhì),方法簡(jiǎn)明,計(jì)算方便。參數(shù)相對(duì)質(zhì)量疊加型指數(shù)的計(jì)算方法是,選定若干評(píng)價(jià)參數(shù),把各參數(shù)的實(shí)際濃度與其相應(yīng)的評(píng)價(jià)標(biāo)準(zhǔn)濃度相比,求出各參數(shù)的相對(duì)質(zhì)量指數(shù),然后求總和值。根據(jù)生物與環(huán)境條件相適應(yīng)的原理建立起來(lái)的生物學(xué)評(píng)價(jià)方法,通過(guò)觀測(cè)水生物的受害癥狀或種群組成,可以反映出水環(huán)境質(zhì)量的綜合狀況,因而既可對(duì)水環(huán)境質(zhì)量作回顧評(píng)價(jià),又可對(duì)擬建工程的生態(tài)效應(yīng)作影響評(píng)價(jià),是物理化學(xué)參數(shù)評(píng)價(jià)方法的補(bǔ)充。缺點(diǎn)是難確定水污染物的性質(zhì)和含量。隨著計(jì)算機(jī)計(jì)算的發(fā)展,神經(jīng)網(wǎng)絡(luò)也被越來(lái)越多用在水質(zhì)評(píng)價(jià)工程中。神經(jīng)網(wǎng)絡(luò)是一種非常適合解決復(fù)雜的非線性響應(yīng)關(guān)系的數(shù)學(xué)模型。它可以用在分類(lèi)、聚類(lèi)、預(yù)測(cè)等方面,通過(guò)歷史數(shù)據(jù)對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,網(wǎng)絡(luò)可以學(xué)習(xí)到數(shù)據(jù)中隱含的非線性映射關(guān)系。本文試圖應(yīng)用人工神經(jīng)網(wǎng)絡(luò),來(lái)評(píng)價(jià)河流的水質(zhì),并對(duì)訓(xùn)練方法進(jìn)行探討,采用MATLAB語(yǔ)言編寫(xiě)相應(yīng)的評(píng)價(jià)程序進(jìn)行實(shí)例評(píng)價(jià),試圖找出此種算法和傳統(tǒng)BP算法在水質(zhì)綜合評(píng)價(jià)中的優(yōu)缺點(diǎn)。
2.網(wǎng)絡(luò)結(jié)構(gòu)和數(shù)據(jù)預(yù)處理
采用BP ANN網(wǎng)絡(luò),網(wǎng)絡(luò)分一層輸入層、一層輸出層和幾層隱含層組成。同一層之間的神經(jīng)元之間沒(méi)有聯(lián)系,相鄰兩層的神經(jīng)元之間通過(guò)連接權(quán)值和激活函數(shù)進(jìn)行連接。在訓(xùn)練的過(guò)程中,通過(guò)不斷調(diào)節(jié)連接權(quán)值來(lái)使網(wǎng)絡(luò)的仿真結(jié)果逐漸接近期望值。本文采用4層的網(wǎng)絡(luò)結(jié)構(gòu),兩層隱含層都是4個(gè)神經(jīng)元節(jié)點(diǎn),輸出層只有一個(gè)節(jié)點(diǎn),代表評(píng)價(jià)結(jié)果,輸入層5個(gè)節(jié)點(diǎn),代表5個(gè)評(píng)價(jià)參數(shù)。
評(píng)價(jià)標(biāo)準(zhǔn)選《國(guó)家地表水環(huán)境標(biāo)準(zhǔn)》(GB3838-2002),訓(xùn)練樣本直接由該標(biāo)準(zhǔn)生成。輸出層和輸入層進(jìn)行線性歸一化處理。
3.Gauss Newton算法
針對(duì)傳統(tǒng)BP ANN算法的收斂速度慢,魯棒性弱,容易陷入局部極小值的缺點(diǎn),采用了改進(jìn)的算法Gauss- ANN算法。激活函數(shù)采用sigmoid函數(shù),層與層之間的連接權(quán)值和閾值隨著每次的訓(xùn)練修正出新值。每次訓(xùn)練用Gauss- ANN方法計(jì)算出權(quán)值和閾值的修正值。
4.結(jié)果
為了驗(yàn)證Gauss-Newton算法的性能,將它與傳統(tǒng)BP算法進(jìn)行比較。使用生成的訓(xùn)練樣本進(jìn)行訓(xùn)練,兩種算法各訓(xùn)練10次,每次訓(xùn)練最多迭代200000次,網(wǎng)絡(luò)誤差函數(shù)為所有訓(xùn)練樣本誤差的平方和。誤差為3.0的時(shí)候認(rèn)為網(wǎng)絡(luò)收斂。表1為訓(xùn)練過(guò)程對(duì)比,表2為水質(zhì)的評(píng)價(jià)結(jié)果。從結(jié)果看,水質(zhì)都在地表水環(huán)境質(zhì)量標(biāo)準(zhǔn)里面的1類(lèi)水水平。
表1 兩種算法訓(xùn)練和評(píng)價(jià)結(jié)果比較
傳統(tǒng)BP算法 RPROP算法
迭代次數(shù) 200000 22700
誤差 12.25 6.0
收斂次數(shù) 1 3
訓(xùn)練樣本準(zhǔn)確率(%) 75.1 92.5
驗(yàn)證樣本準(zhǔn)確率(%) 74.2 91.2
表2 評(píng)價(jià)結(jié)果
NH3-N TP COD BOD 評(píng)價(jià)結(jié)果
斷面I 0.002 0.034 3 1.0 1.22
斷面II 0.002 0.020 4 1.0 1.17
斷面III 0.002 0.012 2 1.0 1.13
5.建議
(1)使用的訓(xùn)練算法,使神經(jīng)網(wǎng)絡(luò)的收斂速度加快,魯棒性加強(qiáng),適合用在水質(zhì)評(píng)價(jià)工作。
篇5
關(guān)鍵詞: 計(jì)算機(jī)網(wǎng)絡(luò)安全; 安全評(píng)價(jià); 神經(jīng)網(wǎng)絡(luò); 遺傳神經(jīng)網(wǎng)絡(luò)
中圖分類(lèi)號(hào): TN915.08?34 文獻(xiàn)標(biāo)識(shí)碼: A 文章編號(hào): 1004?373X(2017)03?0089?03
Computer network security evaluation simulation model based on neural network
WEN Siqin1, WANG Biao2
(1. Department of Computer Science and Technology, Hohhot Minzu College, Hohhot 010051, China;
2. College of Computer Information Management, Inner Mongolia University of Finance and Economics, Hohhot 010051, China)
Abstract: The applications of the complex network algorithm, neural network algorithm and genetic algorithm in computer network security evaluation are introduced. On the basis of the BP neural network algorithm, the genetic algorithm is used to improve the computer network security evaluation simulation model. The application of GABP neural network algorithm in computer network security evaluation is studied deeply. The simulation model has high theoretical significance and far?reaching application value for the computer network security evaluation.
Keywords: computer network security; security evaluation; neural network; genetic neural network
0 引 言
隨著科學(xué)技術(shù)的不斷進(jìn)步,Internet和計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)越來(lái)越深入到了政治、經(jīng)濟(jì)、軍事等各個(gè)層面。網(wǎng)絡(luò)技術(shù)發(fā)展的越快,網(wǎng)絡(luò)安全問(wèn)題越突出。目前,信息系統(tǒng)存在著很大安全風(fēng)險(xiǎn),受到嚴(yán)重的威脅,許多網(wǎng)絡(luò)入侵者針對(duì)計(jì)算機(jī)網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性和規(guī)模龐大性,利用網(wǎng)絡(luò)系統(tǒng)漏洞或安全缺陷進(jìn)行攻擊[1?2]。
目前,國(guó)內(nèi)存在不少的計(jì)算機(jī)網(wǎng)絡(luò)安全評(píng)估系統(tǒng),但是僅有少部分在使用,其主要任務(wù)是檢測(cè)網(wǎng)絡(luò)安全存在的漏洞,對(duì)于網(wǎng)絡(luò)安全的風(fēng)險(xiǎn)評(píng)估涉及不多或只是簡(jiǎn)單的分析,并且基本上沒(méi)有涉及計(jì)算機(jī)網(wǎng)絡(luò)安全態(tài)勢(shì)評(píng)估和預(yù)測(cè)[3]。由于網(wǎng)絡(luò)安全評(píng)估系統(tǒng)沒(méi)有能夠?qū)⒃u(píng)估技術(shù)和檢測(cè)技術(shù)相結(jié)合,所以沒(méi)有形成一個(gè)框架和一個(gè)有力支撐平臺(tái)的網(wǎng)絡(luò)信息安全測(cè)試評(píng)估體系,用于指導(dǎo)各行業(yè)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)評(píng)估和檢測(cè)[4]。因此,需要建立一個(gè)包括多種檢測(cè)方法和風(fēng)險(xiǎn)評(píng)估手段的全面網(wǎng)絡(luò)安全評(píng)估系統(tǒng)。本文在BP神經(jīng)網(wǎng)絡(luò)和遺傳算法的基礎(chǔ)上,研究并制定了一個(gè)簡(jiǎn)單、有效、實(shí)用的計(jì)算機(jī)網(wǎng)絡(luò)安全評(píng)估仿真模型。
1 基于GABP神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)網(wǎng)絡(luò)安全評(píng)價(jià)
仿真模型
1.1 染色串與權(quán)系值的編碼映射
以下為BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練結(jié)果,分為4個(gè)矩陣。在設(shè)定時(shí),輸入節(jié)點(diǎn)、隱含節(jié)點(diǎn)和輸出節(jié)點(diǎn)分別設(shè)置為[i,][j,][k。]
(1) 輸入層到隱含層之間的權(quán)值矩陣為:
(2) 隱含層閾值矩陣:
[γ=γ1γ2?γj] (2)
(3) 隱含層到輸出層的權(quán)值矩陣:
(4) 輸出層的閾值矩陣:
[h=h1h2?hj] (4)
為利用GA進(jìn)行BP神經(jīng)網(wǎng)絡(luò)的權(quán)值優(yōu)化,對(duì)上述四個(gè)矩陣進(jìn)行優(yōu)化,形成染色體串,并進(jìn)行編碼,如圖1所示。
1.2 自適應(yīng)函數(shù)
使用GA算法的具體目的是為了優(yōu)化權(quán)值,首先要設(shè)定一個(gè)函數(shù),這個(gè)函數(shù)基于輸出層誤差并且是一個(gè)能夠評(píng)價(jià)染色體具有自適應(yīng)功能的函數(shù),具體定義為:
[ft=1E,t=1,2,3,…] (5)
其中[minE=12i=1r(yak-yi)2,][yak]和[yi]分別表示期望輸出和實(shí)際輸出。
1.3 GABP算法
GABP算法的具w實(shí)現(xiàn)步驟如下:
1.4 BP算法實(shí)現(xiàn)
BP算法如下:
[Wij(K+1)=Wij(K)-lr-w??Ek?Wij, i=1,2,…,r;j=1,2,…,m] (6)
式中:[?Ek?Wij=?Ek?netijOjk=δjkOjk,]其中[Ojk]表示前一層第[j]個(gè)單元輸出,[Ojk=fnetjk]。
1.5 GA算法實(shí)現(xiàn)
(1) 權(quán)系編碼
本系統(tǒng)對(duì)神經(jīng)網(wǎng)絡(luò)權(quán)值系數(shù)進(jìn)行碼時(shí)采用的是實(shí)數(shù)編碼,因?yàn)橄到y(tǒng)內(nèi)包含96個(gè)變量,但是若是一般的情況,遺傳算法基本采用二進(jìn)制編碼。
[w1,1,w2,1,…,w17,1φ1w1,2…w17,5φ2…φ17b1b2φ18]
其中,[φi](i=1,2,…,17)是指單元數(shù)目。
(2) 初始化及自適應(yīng)函數(shù)
GA算法搜索最優(yōu)函數(shù)參數(shù)[θc=cij,bij,]使得[minE=12i=1r(yak-yi)2,][yak]和[yi]分別表示期望輸出和實(shí)際輸出,從而求得每個(gè)染色體的適應(yīng)度值[ft=1E(t=1,2,3,…)。]
(3) 比率選擇
比率選擇是基于“賭輪法”進(jìn)行概率分布的選擇過(guò)程:
計(jì)算單個(gè)染色體的適應(yīng)值eval(θi);
計(jì)算群體的總適應(yīng)值:[f=i=1popsizeeval(θ);]
計(jì)算每一個(gè)染色體的被選擇概率:[Pt=eval(θt)F;]
計(jì)算每個(gè)染色體的累積概率:[qt=j=1tPj 。]
羅盤(pán)轉(zhuǎn)動(dòng)popsize次,按照相應(yīng)的方法選擇一個(gè)單個(gè)染色體。
(4) 雜交
雜交的兩種方式分別是按照遺傳算法進(jìn)行的雜交,屬于簡(jiǎn)單雜交,與二進(jìn)制雜交類(lèi)似,就是在浮點(diǎn)數(shù)之間進(jìn)行具體的劃分;另一種叫做算數(shù)雜交,就是將不同的兩個(gè)向量進(jìn)行組合。
(5) 變異
本系統(tǒng)采用均勻變異,也就是被變異個(gè)體必須要有較好的適應(yīng)值,才能夠被接受為新的成員,替代變異前的群體,否則變異體被消去,群體保持不變。
2 仿真模型性能分析
計(jì)算機(jī)的網(wǎng)絡(luò)安全等級(jí)按照網(wǎng)絡(luò)安全評(píng)價(jià)的特點(diǎn)劃分為四級(jí),A級(jí)對(duì)應(yīng)安全程度為很高,B級(jí)對(duì)應(yīng)安全程度為較高,C級(jí)對(duì)應(yīng)安全程度為一般,D級(jí)對(duì)應(yīng)安全程度為較低。在本系統(tǒng)中,作為輸入值的是計(jì)算機(jī)17項(xiàng)網(wǎng)絡(luò)安全指標(biāo)的具體分值,而將安全綜合評(píng)價(jià)分值作為網(wǎng)絡(luò)期望的惟一一項(xiàng)輸出項(xiàng)。BP神經(jīng)網(wǎng)絡(luò)的輸入數(shù)值有一定的要求,需要一定量的樣本且具有一致性的特點(diǎn),并對(duì)其進(jìn)行訓(xùn)練,同時(shí)在對(duì)其評(píng)價(jià)時(shí)也采用訓(xùn)練好的網(wǎng)絡(luò),但是就現(xiàn)在來(lái)看符合要求的數(shù)據(jù)相對(duì)來(lái)說(shuō)較少,如表1所示,本系統(tǒng)評(píng)價(jià)數(shù)據(jù)時(shí)采用12組典型的網(wǎng)絡(luò)安全單項(xiàng)指標(biāo)。在進(jìn)行綜合評(píng)價(jià)時(shí)采用層次分析的方法,并作為訓(xùn)練樣本訓(xùn)練BP神經(jīng)網(wǎng)絡(luò),以檢驗(yàn)該仿真模型的安全評(píng)價(jià)效果。
本模型用Matlab語(yǔ)言實(shí)現(xiàn),神經(jīng)網(wǎng)絡(luò)的隱藏節(jié)點(diǎn)為5,表2為對(duì)最后樣本進(jìn)行評(píng)價(jià),閾值調(diào)整系數(shù)[β]的值為0.1,權(quán)值調(diào)整參數(shù)[α]為0.1,經(jīng)過(guò)1 000次的訓(xùn)練,1‰的學(xué)習(xí)精度,所得結(jié)果收斂于之前所要求的誤差范圍內(nèi)??芍摲抡婺P褪怯行铱煽康?,實(shí)際輸出的數(shù)值與期望值的相對(duì)誤差低于3.7%,其安全等級(jí)為B級(jí)與期望值相同。
3 結(jié) 論
通過(guò)分析BP神經(jīng)網(wǎng)絡(luò)系統(tǒng)和遺傳算法的優(yōu)缺點(diǎn),針對(duì)BP神經(jīng)網(wǎng)絡(luò)收斂速率低和搜索能力弱等問(wèn)題,采用GA算法進(jìn)行補(bǔ)償,并設(shè)計(jì)了GABP計(jì)算機(jī)網(wǎng)絡(luò)安全評(píng)價(jià)仿真模型,并對(duì)評(píng)價(jià)結(jié)果進(jìn)行相應(yīng)的分析,認(rèn)為該評(píng)價(jià)仿真模型性能比較優(yōu)良,具有較高的理論價(jià)值和廣闊的應(yīng)用前景。
參考文獻(xiàn)
[1] RAYNUS J. Software process improvement with CMM [M]. Norwood: Manning Publications, 2009.
[2] 司奇杰.基于圖論的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)評(píng)估方法的研究[D].青島:青島大學(xué),2006.
[3] 張?zhí)熘?GABP算法的復(fù)雜計(jì)算機(jī)網(wǎng)絡(luò)安全評(píng)價(jià)中的應(yīng)用[D].成都:電子科技大學(xué),2015.
[4] KUCHANA P.Java軟件結(jié)構(gòu)設(shè)計(jì)模式標(biāo)準(zhǔn)指南[M].北京:電子工業(yè)出版社,2006:358.
[5] 占俊.基于自適應(yīng)BP神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)網(wǎng)絡(luò)安全評(píng)價(jià)[J].現(xiàn)代電子技術(shù),2015,38(23):85?88.
[6] 于群,馮玲.基于BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)安全評(píng)價(jià)方法研究[J].計(jì)算機(jī)工程與設(shè)計(jì),2008(8):1118?1125.
[7] SUR S, BOTHRA A K, SEN A. Bond rating: a non?conservative application of neural networks [C]// Proceedings of 1988 IEEE International Conference on Neural Networks. San Diego: IEEE, 1988: 443?450.
篇6
關(guān)鍵詞:脫機(jī)手寫(xiě)藏文識(shí)別;GABP神經(jīng)網(wǎng)絡(luò);特征提取
中圖分類(lèi)號(hào):TP317.2 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):16727800(2013)009007902
基金項(xiàng)目:青海省普通高等學(xué)校研究生創(chuàng)新項(xiàng)目
作者簡(jiǎn)介:梁會(huì)方(1987-),女,青海師范大學(xué)計(jì)算機(jī)學(xué)院碩士研究生,研究方向?yàn)椴匚男畔⑻幚怼?/p>
0引言
模式識(shí)別在各個(gè)領(lǐng)域中的應(yīng)用非常多,從這些應(yīng)用中可以看到它們的共性,即一個(gè)模式識(shí)別系統(tǒng)通常包括原始數(shù)據(jù)的獲取和預(yù)處理、特征提取與選擇、分類(lèi)或聚類(lèi)、后處理4個(gè)主要部分。其中藏文識(shí)別需要解決的關(guān)鍵問(wèn)題是模式分類(lèi),其理論基礎(chǔ)是模式識(shí)別技術(shù),其中最常用的方法是統(tǒng)計(jì)模式識(shí)別方法和結(jié)構(gòu)模式識(shí)別方法。近年來(lái)也有很多人將隱馬爾科夫模型用于手寫(xiě)識(shí)別領(lǐng)域,取得了良好的效果。本文主要介紹統(tǒng)計(jì)模式識(shí)別、結(jié)構(gòu)模式識(shí)別以及使用較多的隱馬爾科夫模型和人工神經(jīng)網(wǎng)絡(luò)模型。
1模式識(shí)別
1.1統(tǒng)計(jì)模式識(shí)別
統(tǒng)計(jì)模式識(shí)別是依據(jù)統(tǒng)計(jì)的原理來(lái)建立分類(lèi)器,其分類(lèi)器設(shè)計(jì)方法主要有貝葉斯決策理論和判別函數(shù)。貝葉斯決策理論基本思想為:在類(lèi)條件概率密度和先驗(yàn)概率已知或者可以估計(jì)的條件下,利用貝葉斯公式比較樣本屬于兩類(lèi)的后驗(yàn)概率,然后將類(lèi)別決策為后驗(yàn)概率大的一類(lèi),從而使總體錯(cuò)誤率最小。常見(jiàn)的一種貝葉斯決策為最小錯(cuò)誤率貝葉斯決策[1],其決策規(guī)律如下:
如果P(w\-1|x)>P(w\-2|x),則x∈w\-1;反之,則x∈w\-2。
通過(guò)貝葉斯公式 ,后驗(yàn)概率的比較可以轉(zhuǎn)化為類(lèi)條件概率密度的比較,離散情況下也是類(lèi)條件概率的比較,而這種條件概率或條件密度則反映了在各類(lèi)模型下觀察到當(dāng)前樣本的可能性或似然度,因此可以定義兩類(lèi)之間的似然比或?qū)?shù)似然比進(jìn)行決策。
該方法的主要優(yōu)點(diǎn)是抗干擾能力強(qiáng),且易于實(shí)現(xiàn),但是應(yīng)用中的主要缺點(diǎn)是細(xì)分能力較弱,區(qū)分相似字的能力較差。
1.2結(jié)構(gòu)模式識(shí)別
藏文文字結(jié)構(gòu)復(fù)雜,但同時(shí)具有相當(dāng)?shù)囊?guī)律性,這種文字都含有豐富的結(jié)構(gòu)信息,因此可以獲取這些組字的規(guī)律以及藏文字符信息的結(jié)構(gòu)特征作為識(shí)別的依據(jù)。結(jié)構(gòu)模式識(shí)別[2]的主要思想就是文字圖像劃分為很多基本組合,然后利用一些相似性度量準(zhǔn)則確定出這些組合之間的關(guān)系,以及這些字符圖像模式和一些典型模式之間利用一些相似性度量準(zhǔn)則確定的相似程度。
1.3隱馬爾科夫模型
HMM模型[3]是將特征值和一個(gè)狀態(tài)轉(zhuǎn)移模型聯(lián)系起來(lái),它是一個(gè)雙重隨機(jī)過(guò)程,其中狀態(tài)轉(zhuǎn)移過(guò)程是不可觀察即隱藏的馬爾科夫模型,而可觀察事件的隨機(jī)過(guò)程是隱藏狀態(tài)轉(zhuǎn)換過(guò)程的隨機(jī)函數(shù)。HMM有3個(gè)基本問(wèn)題及常用算法:①評(píng)估問(wèn)題:前后向遞推算法;②解碼問(wèn)題:Viterbi算法;③學(xué)習(xí)問(wèn)題:BaumWelch算法。
HMM模型可以用一種特定的神經(jīng)網(wǎng)絡(luò)模型來(lái)模擬[4],該模型收斂性較差,易陷入局部極值。
1.4人工神經(jīng)網(wǎng)絡(luò)模型
神經(jīng)系統(tǒng)是由大量神經(jīng)細(xì)胞構(gòu)成的復(fù)雜網(wǎng)絡(luò),是一個(gè)由大量簡(jiǎn)單的處理單元組成的高度復(fù)雜的大規(guī)模非線性自適應(yīng)系統(tǒng)。神經(jīng)網(wǎng)絡(luò)是一個(gè)高度并行的分布處理結(jié)構(gòu),它是非線性的,具有自組織和自學(xué)習(xí)的能力。神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)的模式識(shí)別不同,能夠直接輸入數(shù)據(jù)并進(jìn)行學(xué)習(xí),用樣本訓(xùn)練網(wǎng)絡(luò)并實(shí)現(xiàn)識(shí)別。它是非參數(shù)的識(shí)別方法,不需要傳統(tǒng)方法中的建模、參數(shù)估計(jì)以及參數(shù)校驗(yàn)、重新建模等復(fù)雜過(guò)程。
在字符識(shí)別領(lǐng)域常用的網(wǎng)絡(luò)模型有:BP網(wǎng)絡(luò)、RBF網(wǎng)絡(luò)、自組織網(wǎng)絡(luò)、Hopfield網(wǎng)絡(luò)、SVM網(wǎng)絡(luò)等。
BP網(wǎng)絡(luò)是一種多層前饋網(wǎng)絡(luò)[5],是一種依靠反饋值來(lái)不斷調(diào)整節(jié)點(diǎn)之間的連接權(quán)值而構(gòu)建的一種網(wǎng)絡(luò)模型。它由輸入層、隱藏層、輸出層相互連接構(gòu)成,其結(jié)構(gòu)如圖1所示。
網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過(guò)程由信號(hào)的正向傳播與誤差的反向傳播組成,其中正向傳播是把輸入樣本從輸入層輸入,經(jīng)各隱層處理后傳向輸出層,若輸出層的實(shí)際輸出和期望輸出不符,則轉(zhuǎn)入誤差的反向傳播階段。誤差反傳是將輸出誤差以某種形式通過(guò)隱層向輸入層逐層反傳,并將誤差分?jǐn)偨o各層的所有單元,從而獲得各層單元的誤差信號(hào),此誤差信號(hào)即作為修正各單元權(quán)值的依據(jù)。各層權(quán)值調(diào)整過(guò)程是周而復(fù)始地進(jìn)行,直到網(wǎng)絡(luò)輸出的誤差減少到可以接受的程度。
2遺傳算法改進(jìn)的BP網(wǎng)絡(luò)
藏文字符識(shí)別是中國(guó)多文種信息處理系統(tǒng)的重要組成部分,脫機(jī)手寫(xiě)藏文識(shí)別在很多領(lǐng)域有廣闊的使用前景。在現(xiàn)有漢字以及數(shù)字識(shí)別方法的基礎(chǔ)上,提出了很多預(yù)處理和模式識(shí)別的方法,大大提高了手寫(xiě)藏文的識(shí)別精度。為了提高脫機(jī)手寫(xiě)藏文識(shí)別精度,本文將GABP神經(jīng)網(wǎng)絡(luò)應(yīng)用于脫機(jī)手寫(xiě)藏文識(shí)別分析中,識(shí)別過(guò)程分為兩步:訓(xùn)練階段、識(shí)別階段。在訓(xùn)練階段,提取訓(xùn)練樣本集的特征,建立網(wǎng)絡(luò)模型,以輸入為目標(biāo),保存網(wǎng)絡(luò)的連接權(quán)值和閾值以及字符特征;在識(shí)別階段,將待識(shí)別的藏文特征送入網(wǎng)絡(luò)運(yùn)行,待網(wǎng)絡(luò)運(yùn)行到平衡狀態(tài),將輸出結(jié)果與數(shù)字特征庫(kù)的值進(jìn)行比較,識(shí)別出藏文字符。
BP網(wǎng)絡(luò)是目前應(yīng)用最多的神經(jīng)網(wǎng)絡(luò),這主要是因?yàn)锽P算法[6]有較強(qiáng)的非線性映射能力、泛化能力以及容錯(cuò)能力。但是它本身存在大量的問(wèn)題,突出表現(xiàn)在:BP算法的學(xué)習(xí)速度很慢,需要較長(zhǎng)的訓(xùn)練時(shí)間;網(wǎng)絡(luò)訓(xùn)練失敗的可能性較大,易陷入局部極小點(diǎn),逼近局部極小值[5]。為了改善這些缺點(diǎn),通常會(huì)改變隱層數(shù)量,隱藏層一般根據(jù)具體情況制定,但是增加隱藏層的層數(shù)和隱藏層神經(jīng)元個(gè)數(shù)不一定總能夠提高網(wǎng)絡(luò)精度和表達(dá)能力。而遺傳算法的基本作用對(duì)象是多個(gè)可行解的集合,而非單個(gè)可行解。它同時(shí)處理多個(gè)個(gè)體,同時(shí)對(duì)搜索空間中的多個(gè)解進(jìn)行評(píng)估,使得遺傳算法具有較好的全局搜索性能,減少了陷于局部最優(yōu)解的可能性,同時(shí),它本身具有良好的并行性。所以用遺傳算法學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的權(quán)重及拓?fù)浣Y(jié)構(gòu)[6],對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn),提高了神經(jīng)網(wǎng)絡(luò)的精度,同時(shí)也提高了遺傳算法的局部搜索能力。在模式分類(lèi)應(yīng)用中進(jìn)行數(shù)據(jù)預(yù)處理,利用遺傳算法進(jìn)行特征提取,其后用神經(jīng)網(wǎng)絡(luò)進(jìn)行分類(lèi)。GABP混合學(xué)習(xí)算法結(jié)構(gòu)如圖2所示,采用GA優(yōu)化BP網(wǎng)絡(luò)權(quán)值。
①BP網(wǎng)絡(luò)參數(shù)初始化;
②按BP網(wǎng)絡(luò)的權(quán)值和閾值連接隨機(jī)產(chǎn)生染色體;
③計(jì)算染色體的適應(yīng)值以及迭代次數(shù),如果達(dá)到要求,則結(jié)束GA算法,產(chǎn)生最佳個(gè)體,如果沒(méi)有達(dá)到,進(jìn)行下一步;
④按適應(yīng)度進(jìn)行選擇、交叉和變異操作,產(chǎn)生新的染色體,重復(fù)上一步;
⑤將產(chǎn)生的最好個(gè)體依次映射到BP網(wǎng)絡(luò)中對(duì)應(yīng)的權(quán)值和閾值,并將此作為BP網(wǎng)絡(luò)的初始值;
⑥利用BP網(wǎng)絡(luò),判斷誤差是否達(dá)到預(yù)定要求,達(dá)到就結(jié)束,如果沒(méi)有,則BP網(wǎng)絡(luò)反向傳播,返回上一步。
3結(jié)語(yǔ)
本文分析了文字識(shí)別的常用方法及其優(yōu)缺點(diǎn),著重分析了手寫(xiě)藏文識(shí)別征提取和分類(lèi)器設(shè)計(jì)兩個(gè)關(guān)鍵技術(shù),并對(duì)藏文識(shí)別研究領(lǐng)域今后的研究方向和發(fā)展前景提出了一些看法。在原BP網(wǎng)絡(luò)的基礎(chǔ)上改進(jìn)GABP神經(jīng)網(wǎng)絡(luò),可以提高其學(xué)習(xí)速度,加快收斂速度,相比而言識(shí)別精度較高、訓(xùn)練時(shí)間較短,且具有較強(qiáng)的魯棒性。由于神經(jīng)網(wǎng)絡(luò)和遺傳算法已經(jīng)發(fā)展得比較成熟,將兩者結(jié)合的方法用于藏文識(shí)別,具有很大的實(shí)用價(jià)值,同時(shí)將GABP神經(jīng)網(wǎng)絡(luò)用于藏文識(shí)別,有助于神經(jīng)網(wǎng)絡(luò)用于藏文識(shí)別的可能性和有效性。
參考文獻(xiàn):
[1]張學(xué)工.模式識(shí)別[M].北京:清華大學(xué)出版社,2010.
[2]吳剛,德熙嘉措,黃鶴鳴.印刷體藏文識(shí)別技術(shù)[C].第十屆全國(guó)少數(shù)民族語(yǔ)言文字信息處理學(xué)術(shù)研討會(huì)論文集,2005.
[3]劉衛(wèi),李和成.基于局部保持投影與隱馬爾可夫模型的維文字符識(shí)別[J].計(jì)算機(jī)應(yīng)用,2012,32(8).
[4]梁弼,王維蘭,錢(qián)建軍.基于HMM的分類(lèi)器在聯(lián)機(jī)手寫(xiě)藏文識(shí)別中的應(yīng)用[J].微電子學(xué)與計(jì)算機(jī),2009,26(4).
篇7
【關(guān)鍵詞】模糊神經(jīng)網(wǎng)絡(luò);模糊控制;模糊辨識(shí);規(guī)則抽?。粚W(xué)習(xí)算法
1 問(wèn)題的提出
模糊邏輯和神經(jīng)網(wǎng)絡(luò)都適于處理那些被控對(duì)象模型難以建立或存在大的不確定性和強(qiáng)非線性的系統(tǒng). 由于神經(jīng)網(wǎng)絡(luò)在分布式處理,學(xué)習(xí)能力,魯棒性,泛化能力方面具有明顯的優(yōu)勢(shì),而模糊系統(tǒng)的優(yōu)勢(shì)在于良好的可讀性和可分析性,因此,將神經(jīng)網(wǎng)絡(luò)的思想融合到模糊辨識(shí)和模糊控制模型中就可以實(shí)現(xiàn)兩者的優(yōu)勢(shì)互補(bǔ).模糊神經(jīng)網(wǎng)絡(luò)控制針對(duì)雙方的特點(diǎn)相互借鑒和利用,比單獨(dú)的神經(jīng)網(wǎng)絡(luò)控制或單獨(dú)的模糊控制具有更好的控制性能. 隨著智能控制理論的發(fā)展,模糊神經(jīng)網(wǎng)絡(luò)控,難以實(shí)現(xiàn)系統(tǒng)的實(shí)時(shí)控制制受到控制界的廣泛關(guān)注,相繼提出了許多控制和辨識(shí)的方法.
本文總結(jié)了近期我國(guó)學(xué)者提出的幾種新的基于模糊神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識(shí)與控制方法,并通過(guò)仿真進(jìn)行了各自特點(diǎn)的比較,希望可以通過(guò)這些比較,對(duì)這些研究加以改進(jìn)和應(yīng)用.
2 模糊神經(jīng)網(wǎng)絡(luò)
2.1 仿射非線性系統(tǒng)
為了實(shí)現(xiàn)非線性系統(tǒng)的實(shí)時(shí)控制,基于徑向基函數(shù)網(wǎng)絡(luò)與TSK 型模糊推理系統(tǒng)的函數(shù)等價(jià)的特點(diǎn),有學(xué)者提出了一種動(dòng)態(tài)模糊神經(jīng)網(wǎng)絡(luò)的在線自組織線性算法,從而實(shí)現(xiàn)了系統(tǒng)的結(jié)構(gòu)和參數(shù)的同時(shí)在線自適應(yīng). 學(xué)習(xí)速度快是這種模糊神經(jīng)網(wǎng)絡(luò)的突出特點(diǎn).在此基礎(chǔ)上,針對(duì)未知仿射非線性SISO 系統(tǒng)提出了一種在線自適應(yīng)模糊神經(jīng)網(wǎng)絡(luò)辨識(shí)與控制方法. 該方法首先采用G2FNN 學(xué)習(xí)算法實(shí)時(shí)建模系統(tǒng)的逆動(dòng)態(tài),實(shí)現(xiàn)模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)的同時(shí)在線學(xué)習(xí). 然后,設(shè)計(jì)一個(gè)魯棒補(bǔ)償器與辨識(shí)好的模糊神經(jīng)網(wǎng)絡(luò)組成復(fù)合控制器,并基于Lyapunov 穩(wěn)定性理論設(shè)計(jì)自適應(yīng)控制律進(jìn)一步在線調(diào)整網(wǎng)絡(luò)的權(quán)值,實(shí)現(xiàn)系統(tǒng)的跟蹤控制.
控制目標(biāo)是設(shè)計(jì)一個(gè)由G2FNN 控制器和魯棒控制器構(gòu)成的模糊神經(jīng)網(wǎng)絡(luò)自適應(yīng)魯棒控制器, 使得系統(tǒng)的輸出y 跟蹤給定的參考輸入信號(hào)ym ,對(duì)于一個(gè)給定的干擾衰減水平常數(shù)ρ>0 ,獲得良好的H ∞跟蹤性能指標(biāo).
廣義模糊神經(jīng)網(wǎng)絡(luò)G2FNN 由四層網(wǎng)絡(luò)結(jié)構(gòu)組成,分別實(shí)現(xiàn)模糊邏輯的模糊化、模糊推理和解模糊化過(guò)程. 圖1 所示為單個(gè)輸出結(jié)點(diǎn)G2FNN 的結(jié)構(gòu).
圖1 G2FNN 的結(jié)構(gòu)
G2FNN 中有兩類(lèi)學(xué)習(xí)算法,即結(jié)構(gòu)學(xué)習(xí)和參數(shù)學(xué)習(xí). 結(jié)構(gòu)學(xué)習(xí)是通過(guò)對(duì)每個(gè)新的訓(xùn)練數(shù)據(jù)計(jì)算出G2FNN 的輸出與期望輸出之間的偏差來(lái)決定是否產(chǎn)生新的模糊規(guī)則或刪除多余的規(guī)則; 參數(shù)學(xué)習(xí)有兩個(gè)方面,一是當(dāng)系統(tǒng)產(chǎn)生第N r+1條新的模糊規(guī)則時(shí)確定新規(guī)則前提參數(shù)ci ( N r+1) ,σi(N r+1),另一個(gè)是當(dāng)不需要進(jìn)行結(jié)構(gòu)學(xué)習(xí)時(shí)對(duì)第三層與第四層網(wǎng)絡(luò)之間的權(quán)值向量W 的調(diào)節(jié).
第一層直接將輸入語(yǔ)言變量xi(i =1,2,…Ni) 傳遞到下一層.
第二層計(jì)算輸入分量隸屬于各語(yǔ)言變量值模糊集合的隸屬度,隸屬度函數(shù)為高斯函數(shù):
式中: cij ,σij (i =1 ,2 , …, N r) 分別是第i 個(gè)輸入語(yǔ)言變量xi的第j 條隸屬度函數(shù)的中心和寬度;N r 為系統(tǒng)產(chǎn)生的規(guī)則數(shù).
第三層是規(guī)則層, 這一層的每個(gè)結(jié)點(diǎn)代表一條模糊規(guī)則,它的作用是用來(lái)匹配模糊規(guī)則的前提,每個(gè)結(jié)點(diǎn)的輸出可以表示為:
第四層是結(jié)點(diǎn)定義語(yǔ)言變量的輸出, 它的作用是用來(lái)匹配模糊規(guī)則的結(jié)論,實(shí)現(xiàn)TSK型模糊推理系統(tǒng)的解模糊化過(guò)程. 其輸出為:
這里, Wj 為第三層與第四層之間的權(quán)值.
使用倒立擺系統(tǒng)方程進(jìn)行仿真研究, 倒立擺的動(dòng)態(tài)方程為:
系統(tǒng)仿真結(jié)果如圖(圖2):
圖2 自適應(yīng)模糊神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)跟蹤軌跡
由圖可知,所設(shè)計(jì)的控制器實(shí)現(xiàn)了模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)的在線自適應(yīng),輸出跟蹤參考輸入信號(hào),系統(tǒng)的誤差收斂速度快,魯棒性好.
由仿真可見(jiàn),該方法不僅實(shí)現(xiàn)了模糊控制規(guī)則的自動(dòng)產(chǎn)生和刪除,還保證了閉環(huán)系統(tǒng)的全局穩(wěn)定,并使外部干擾和模糊神經(jīng)網(wǎng)絡(luò)逼近誤差對(duì)系統(tǒng)跟蹤誤差的影響衰減到一個(gè)指定的水平.本方法不需要知道系統(tǒng)的控制增益,設(shè)計(jì)了一個(gè)魯棒補(bǔ)償器來(lái)抑制模糊神經(jīng)網(wǎng)絡(luò)逼近誤差和外部干擾的影響. 系統(tǒng)魯棒性好,抗干擾能力強(qiáng),所設(shè)計(jì)的控制器可用于系統(tǒng)的實(shí)時(shí)控制.
2.2 網(wǎng)絡(luò)參數(shù)自學(xué)習(xí)模糊控制
在模糊系統(tǒng)的許多應(yīng)用中, 如模糊推理、模糊邏輯控制器、模糊分類(lèi)器等, 提取模糊規(guī)則是一個(gè)重要步驟。在新興的研究領(lǐng)域――數(shù)據(jù)挖掘中, 提取模糊規(guī)則也起著重要作用。然而模糊控制規(guī)則的獲得通過(guò)由專(zhuān)家經(jīng)驗(yàn)給出, 這就存在諸如控制規(guī)則不夠客觀、專(zhuān)家經(jīng)驗(yàn)難以獲得等問(wèn)題。因此研究模糊規(guī)則的自動(dòng)生成有著重要的理論和應(yīng)用價(jià)值。在許多問(wèn)題中, 希望提取出來(lái)的模糊規(guī)則能夠用語(yǔ)言變量表示, 以便揭示模糊系統(tǒng)內(nèi)部的規(guī)律, 同時(shí)這也是模糊系統(tǒng)的一個(gè)特色。為了提高抽取復(fù)雜系統(tǒng)模糊if- then 規(guī)則的質(zhì)量, 將具有極好學(xué)習(xí)能力的神經(jīng)網(wǎng)絡(luò)與模糊推理系統(tǒng)相結(jié)合, 產(chǎn)生了神經(jīng)- 模糊建模方法, 這種方法綜合了兩種形式的特點(diǎn), 提供了一種從數(shù)值數(shù)據(jù)集抽取模糊規(guī)則的有效框架。有關(guān)領(lǐng)域的研究者們提出了多種模糊邏輯與神經(jīng)網(wǎng)絡(luò)結(jié)合的方法, 給出了各種用于提取模糊if- then 規(guī)則的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)框架。
由于徑向基函數(shù)網(wǎng)絡(luò)(RBFN)以其結(jié)構(gòu)簡(jiǎn)單、良好的逼近能力、獨(dú)特點(diǎn)可分解性以及和模糊推理系統(tǒng)的函數(shù)等價(jià)性, 因此可應(yīng)用于模糊系統(tǒng)。然而, 當(dāng)一個(gè)模糊系統(tǒng)使用學(xué)習(xí)算法被訓(xùn)練之后可能會(huì)影響其可解釋性, 也就是使得模糊系統(tǒng)的可理解性下降, 而可解釋性是模糊系統(tǒng)的一個(gè)突出特點(diǎn)。為了讓模糊系統(tǒng)在具有自學(xué)習(xí)和自組織性的同時(shí)也具有可解釋性這一突出特點(diǎn), 以下提出了一種能夠有效表達(dá)模糊系統(tǒng)可解釋性RBF 網(wǎng)絡(luò)結(jié)構(gòu), 并進(jìn)行了仿真實(shí)驗(yàn), 取得較好的仿真結(jié)果。
根據(jù)測(cè)量數(shù)據(jù)采用各種神經(jīng)網(wǎng)絡(luò)自動(dòng)提取模糊規(guī)則的方法, 在輸入輸出空間劃分部分運(yùn)用的是聚類(lèi)的思想, 而大多數(shù)其輸入輸出空間劃分?jǐn)?shù)( 聚類(lèi)數(shù)) 是預(yù)先給定, 這不免帶有一定的盲目性, 直接影響規(guī)則的提取質(zhì)量。為此, 本文關(guān)于初始聚類(lèi)中心及聚類(lèi)中心個(gè)數(shù)的確定方法采用文獻(xiàn)7 提出的一種聚類(lèi)神經(jīng)網(wǎng)絡(luò)初始聚類(lèi)中心的確定方法。利用這種基于密度和基于網(wǎng)格的聚類(lèi)方法, 能自動(dòng)地進(jìn)行樣本空間的劃分, 針對(duì)樣本空間劃分過(guò)程中不同階段的特點(diǎn), 采用了不同的處理手段, 使得該方法在樣本空間劃分?jǐn)?shù)、聚類(lèi)學(xué)習(xí)時(shí)間等方面都具有比較明顯的優(yōu)越性(圖3)。
圖3 仿真實(shí)驗(yàn)結(jié)果
下面針對(duì)每個(gè)仿真曲面分別給出一組訓(xùn)練樣本點(diǎn)為500 個(gè), 評(píng)價(jià)樣本點(diǎn)為100 個(gè)的仿真結(jié)果圖, 如圖4所示:
圖4
從圖中, 可見(jiàn)各樣本數(shù)據(jù)的預(yù)測(cè)值與實(shí)際值吻合的比較好, 只有個(gè)別的點(diǎn)誤差較大, 這與訓(xùn)練樣本點(diǎn)的選取有關(guān)。另外, 在系統(tǒng)模型建立好后, 為了檢驗(yàn)?zāi)P偷男Ч?筆者另外又抽取幾組數(shù)據(jù)樣本作為評(píng)價(jià)樣本, 結(jié)果發(fā)現(xiàn)預(yù)測(cè)值與實(shí)際值相比, 誤差也在允許范圍內(nèi), 效果比較令人滿(mǎn)意。
本方法的創(chuàng)新點(diǎn)是提出了一種能夠有效表達(dá)模糊系統(tǒng)可解釋性RBF 網(wǎng)絡(luò)結(jié)構(gòu), 并給出了一種有效的提取模糊規(guī)則的算法, 這就使模糊系統(tǒng)在具有自學(xué)習(xí)和自組織性的同時(shí)也具有可解釋性這一突出特點(diǎn)。利用這種網(wǎng)絡(luò)結(jié)構(gòu)和算法進(jìn)行控制器設(shè)計(jì), 至少有以下的優(yōu)點(diǎn):
(1)模糊系統(tǒng)具有很好的可解釋性。
(2)該算法克服了RBF 中心個(gè)數(shù)選擇的隨機(jī)性,較好地解決了樣本聚類(lèi)。
(3)提出的增量數(shù)據(jù)處理方法保證了網(wǎng)絡(luò)結(jié)構(gòu)能適應(yīng)不斷擴(kuò)大的數(shù)據(jù)集。
綜上所述, 這種RBF 模糊神經(jīng)網(wǎng)絡(luò)控制算法,對(duì)于研究非線性, 時(shí)變的多變量系統(tǒng), 提供了一種新的思路, 具有一定的理論意義和工程應(yīng)用價(jià)值。
2.3 其他一些方法
其他的一些最近被提出的,如基于神經(jīng)模糊網(wǎng)絡(luò)的方法,基于模糊推理網(wǎng)絡(luò)的方法(見(jiàn)圖5), 基于非線性自回歸滑動(dòng)平均模型等,都取得了很好的控制和辨識(shí)效果,具有有良好的發(fā)展和應(yīng)用前景.
圖5 6層神經(jīng)模糊推理網(wǎng)絡(luò)
3 總結(jié)
本文系統(tǒng)地?cái)⑹隽四壳把芯勘容^熱門(mén)的近期我國(guó)學(xué)者提出的幾種新的基于模糊神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識(shí)與控制方法的研究成果,并簡(jiǎn)要分析了各種方法的優(yōu)缺點(diǎn). 限于篇幅,除本文介紹的幾種方法外, 還有一些研究成果沒(méi)有列出. 本文的目的是為在這方面進(jìn)行研究的學(xué)者提供一個(gè)系統(tǒng)的參考和建議.
【參考文獻(xiàn)】
[1]李佳寧,易建強(qiáng),等.一種新的基于神經(jīng)模糊推理網(wǎng)絡(luò)的復(fù)雜系統(tǒng)模糊辨識(shí)方法[J].自動(dòng)化學(xué)報(bào),2006,Vol.32,No.5.
[2]王鍇,王占林,付永領(lǐng),祁曉野. 基于PNN與FNN模型神經(jīng)網(wǎng)絡(luò)控制器設(shè)計(jì)與分析[J].北京航空航天大學(xué)學(xué)報(bào),Vol.32, No.9,2006.
[3]李曉秀,劉國(guó)榮,沈細(xì)群.仿射非線性系統(tǒng)的在線自適應(yīng)模糊神經(jīng)網(wǎng)絡(luò)辨識(shí)與控制[J].湖南大學(xué)學(xué)報(bào)(自然科學(xué)版),2006,8,33(4).
[4]李延新,李光宇,孫輝,李文.基于RBF 網(wǎng)絡(luò)的參數(shù)自學(xué)習(xí)模糊控制的研究[J].微計(jì)算機(jī)信息,2006,8,22(8).
篇8
關(guān)鍵詞:電網(wǎng)規(guī)劃;交流線路;線路長(zhǎng)度;多元回歸;神經(jīng)網(wǎng)絡(luò) 文獻(xiàn)標(biāo)識(shí)碼:A
中圖分類(lèi)號(hào):TP273 文章編號(hào):1009-2374(2016)22-0062-03 DOI:10.13535/ki.11-4406/n.2016.22.030
1 概述
電網(wǎng)規(guī)劃是電網(wǎng)安全穩(wěn)定運(yùn)行的基石,電網(wǎng)規(guī)劃數(shù)據(jù)的準(zhǔn)確性尤其是數(shù)據(jù)中交流架空線路參數(shù)的準(zhǔn)確性對(duì)規(guī)劃結(jié)果的合理性具有重要影響。
對(duì)于輸電線路的參數(shù)辨識(shí)方法較多,例如增廣狀態(tài)估計(jì)法、偏移向量法、卡爾曼濾波法等傳統(tǒng)數(shù)值方法,這些方法能較好地逼滑目標(biāo)函數(shù)的極值點(diǎn),但其迭代過(guò)程都依賴(lài)量測(cè)方程的增廣雅可比矩陣,苛刻地要求量測(cè)系統(tǒng)必須同時(shí)滿(mǎn)足狀態(tài)可觀測(cè)和參數(shù)可估計(jì)條件,并且可能遭受數(shù)值問(wèn)題的干擾。參考文獻(xiàn)[4]中提出一種線路參數(shù)估計(jì)啟發(fā)式方法,將目標(biāo)函數(shù)從增廣解空間垂直投影到參數(shù)空間,以啟發(fā)式方法搜索參數(shù)空間,尋找投影下表面的下確解,較好地解決了數(shù)值問(wèn)題的干擾。參考文獻(xiàn)[5]在基于雙端PMU數(shù)據(jù)的線路線性數(shù)學(xué)模型和相應(yīng)的最小二乘辨識(shí)的基礎(chǔ)上,引入基于IGG法的抗差準(zhǔn)則。
2 BP人工神經(jīng)網(wǎng)絡(luò)
2.1 BP神經(jīng)網(wǎng)絡(luò)模型
BP神經(jīng)網(wǎng)絡(luò)由輸入層、隱含層和輸出層三層網(wǎng)絡(luò)組成。BP神經(jīng)網(wǎng)絡(luò)的核心在于其誤差反向傳播,反向傳播的學(xué)習(xí)規(guī)則是基于梯度下降法,由輸出端的實(shí)際輸出值與期望輸出值的誤差平方和進(jìn)行鏈?zhǔn)角髮?dǎo),從而各層之間的連接權(quán)值。
2.2 BP神經(jīng)網(wǎng)絡(luò)模型算法優(yōu)缺點(diǎn)分析
神經(jīng)網(wǎng)絡(luò)可以充分逼近任意復(fù)雜的非線性關(guān)系;采用并行分布處理方法;可學(xué)習(xí)和自適應(yīng)不確定的系統(tǒng)等。
BP神經(jīng)網(wǎng)絡(luò)算法的極小化代價(jià)函數(shù)易產(chǎn)生收斂慢或者振蕩的現(xiàn)象;代價(jià)函數(shù)不是二次的,而是非凸的,存在許多局部極小點(diǎn)的超曲面。這也導(dǎo)致神經(jīng)網(wǎng)絡(luò)算法對(duì)初值的要求較高,給定較好的初值,BP神經(jīng)網(wǎng)絡(luò)的收斂速度會(huì)大大加快,而且不易陷入局部極小值。
3 線路參數(shù)辨識(shí)中多元回歸模型與神經(jīng)網(wǎng)絡(luò)的結(jié)合
3.1 線路長(zhǎng)度回歸計(jì)算模型
實(shí)際工程中,線路長(zhǎng)度與阻抗導(dǎo)納值之間的關(guān)系是確定的,對(duì)于架空線路,當(dāng)長(zhǎng)度小于300km時(shí),其阻抗導(dǎo)納參數(shù)等于該型號(hào)架空線路單位長(zhǎng)度的阻抗導(dǎo)納值與線路長(zhǎng)度的乘積,此時(shí)阻抗導(dǎo)納參數(shù)與線路長(zhǎng)度為簡(jiǎn)單的線性關(guān)系;而當(dāng)長(zhǎng)度大于300km時(shí),其阻抗導(dǎo)納參數(shù)的值就需要考慮長(zhǎng)距離輸電線路分布參數(shù)的情況,此時(shí)并不能用簡(jiǎn)單的線性關(guān)系來(lái)描述。
在建立線路長(zhǎng)度回歸計(jì)算模型時(shí),首先忽略線路的分布參數(shù)特性,建立回歸模型如下:
式中:L表示線路長(zhǎng)度;lX表示通過(guò)電抗參數(shù)除以單位長(zhǎng)度的電抗值得到的線路長(zhǎng)度;lR表示通過(guò)電阻參數(shù)得到的線路長(zhǎng)度;lG表示通過(guò)電導(dǎo)參數(shù)得到的線路長(zhǎng)度;lB表示通過(guò)電納參數(shù)得到的線路長(zhǎng)度;K1、K2、K3、K4、K5分別為各自的系數(shù)值。
回歸方程的求解采用最小二乘法,目標(biāo)是使長(zhǎng)度的計(jì)算值與長(zhǎng)度的實(shí)際值差值的平方和達(dá)到最小,目標(biāo)函數(shù)為:
J=∑Ni=1(Li~-Li)2
式中:J為線路長(zhǎng)度計(jì)算值與實(shí)際值差值平方和;N為樣本線路的條數(shù);Li~為線路長(zhǎng)度的實(shí)際值;Li為線路長(zhǎng)度通過(guò)回歸模型的計(jì)算值。
3.2 BP神經(jīng)網(wǎng)絡(luò)模型的建立
當(dāng)考慮線路長(zhǎng)度的分布參數(shù)情況時(shí),線路參數(shù)之間就不僅是簡(jiǎn)單的線性關(guān)系,本文建立了神經(jīng)網(wǎng)絡(luò)模型,輸入層為線路的電阻、電抗、電導(dǎo)和電納參數(shù)值;隱含層包含5個(gè)神經(jīng)元;輸出層為線路的長(zhǎng)度值。
如圖1所示,神經(jīng)網(wǎng)絡(luò)模型的輸入層為線路的阻抗導(dǎo)納值;輸出層結(jié)果為線路長(zhǎng)度,其中隱含層到輸出層的連接權(quán)值采用3.1中回歸模型的5個(gè)系數(shù)值作為初始值,然后輸入樣本值對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,直到輸出實(shí)際值與理想值滿(mǎn)足誤差要求時(shí)停止。
4 回歸分析與神經(jīng)網(wǎng)絡(luò)結(jié)合模型在線路參數(shù)辨識(shí)中的應(yīng)用
4.1 線路參數(shù)辨識(shí)流程
根據(jù)以下步驟建立線路參數(shù)辨識(shí)模型,完成對(duì)BPA中交流架空線路的電阻、電抗、電導(dǎo)和電納參數(shù)的辨識(shí)。
第一步:提取BPA中所有交流架空線路的完整參數(shù)信息。
第二步:訓(xùn)練回歸模型和神經(jīng)網(wǎng)絡(luò)模型,直至滿(mǎn)足收斂標(biāo)準(zhǔn)。
第三步:判斷線路長(zhǎng)度參數(shù)是否填寫(xiě)。如果已填寫(xiě)線路長(zhǎng)度則進(jìn)入步驟四,若沒(méi)有填寫(xiě)線路長(zhǎng)度進(jìn)入步驟五。
第四步:根據(jù)已訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)模型反推線路的長(zhǎng)度值,并比較線路長(zhǎng)度的訓(xùn)練值與長(zhǎng)度填寫(xiě)值之間的差距,如果兩者差距在合理范圍之內(nèi),進(jìn)入步驟六,如果兩者差距過(guò)大,則采用長(zhǎng)度訓(xùn)練值進(jìn)行后續(xù)的參數(shù)辨識(shí)過(guò)程。
第五步:根據(jù)已訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)模型反推線路的長(zhǎng)度值。
第六步:根據(jù)單位標(biāo)準(zhǔn)參數(shù)值與線路長(zhǎng)度計(jì)算得到線路參數(shù)的標(biāo)準(zhǔn)值,將標(biāo)準(zhǔn)值與線路參數(shù)的實(shí)際填寫(xiě)值進(jìn)行比對(duì),如果計(jì)算得到的標(biāo)準(zhǔn)值與實(shí)際填寫(xiě)值之差沒(méi)有超過(guò)閾度值,則進(jìn)入步驟七;反之進(jìn)入步驟八。
第七步:線路參數(shù)填寫(xiě)合理,進(jìn)入第十步。
第八步:線路參數(shù)填寫(xiě)存在問(wèn)題并按照計(jì)算得到的標(biāo)準(zhǔn)值作為推薦的修改值,并標(biāo)識(shí)修改后的線路。
第九步:輸出標(biāo)識(shí)的不合理數(shù)據(jù),由規(guī)劃人員審核是否接受建議的修改值。
第十步:結(jié)束參數(shù)辨識(shí)。
4.2 辨識(shí)結(jié)果分析
4.2.1 線路長(zhǎng)度訓(xùn)練結(jié)果分析。如圖2所示,采用100條線路測(cè)試樣例,長(zhǎng)度值由小到大進(jìn)行排序,折線表示線路長(zhǎng)度的實(shí)際值,折線表示的是通過(guò)本論文所建立的神經(jīng)網(wǎng)絡(luò)模型得到的線路長(zhǎng)度計(jì)算值。
對(duì)模型的訓(xùn)練誤差做進(jìn)一步分析可得:
訓(xùn)練長(zhǎng)度的平均誤差為1.35;訓(xùn)練長(zhǎng)度誤差最大值為8.9;訓(xùn)練長(zhǎng)度誤差最小值為0;訓(xùn)練長(zhǎng)度誤差均方差為1.68。
由以上數(shù)據(jù)可以看出,本論文所提的線路長(zhǎng)度訓(xùn)練算法準(zhǔn)確度較高,能夠滿(mǎn)足參數(shù)辨識(shí)工作的需要。
4.2.2 線路參數(shù)辨識(shí)結(jié)果。算例采用數(shù)據(jù)為某電網(wǎng)某年的實(shí)際BPA規(guī)劃數(shù)據(jù),辨識(shí)結(jié)果如表1所示:
由表1和表2的對(duì)比可以看出,上述交流線路的電納參數(shù)的填寫(xiě)的確存在問(wèn)題,由表2可以看出線路電阻和電抗的填寫(xiě)值與標(biāo)準(zhǔn)值的差距很小,這說(shuō)明線路填寫(xiě)的電阻和電抗值是合理的,而電納的填寫(xiě)值與標(biāo)準(zhǔn)值差距較大,由此可以說(shuō)明線路電納值的填寫(xiě)有誤;將表1中的辨識(shí)電納結(jié)果值與表2中的標(biāo)準(zhǔn)電納值做比較可以發(fā)現(xiàn)兩者之間差距不大,如表3所示,這說(shuō)明采用該算法進(jìn)行線路參數(shù)的辨識(shí)是有效合理的,辨識(shí)的結(jié)果值具有很大的參考價(jià)值。以上結(jié)果證明了算法的有效性,可以對(duì)參數(shù)填寫(xiě)存在問(wèn)題的交流線路進(jìn)行辨識(shí),并給出準(zhǔn)確性較高的辨識(shí)結(jié)果值作為建議修正值。
5 結(jié)語(yǔ)
本文提出了電網(wǎng)規(guī)劃數(shù)據(jù)中輸電線路參數(shù)辨識(shí)算法。算法的創(chuàng)新點(diǎn)是根據(jù)線路阻抗導(dǎo)納參數(shù)與長(zhǎng)度之間的潛在關(guān)系,首先建立線性回歸模型得到回歸系數(shù)作為BP神經(jīng)網(wǎng)絡(luò)模型隱含層到輸出層的初始連接權(quán)值,然后建立神經(jīng)網(wǎng)絡(luò)模型,訓(xùn)練線路參數(shù)與線路長(zhǎng)度之間的非線性關(guān)系。采用電網(wǎng)規(guī)劃中的實(shí)際BPA數(shù)據(jù)進(jìn)行了算法有效性的驗(yàn)證,結(jié)果表明本文提出的解決思路和算法對(duì)規(guī)劃工作具有很大的實(shí)際應(yīng)用價(jià)值。
參考文獻(xiàn)
[1] 于爾鏗.電力系統(tǒng)狀態(tài)估計(jì)[M].北京:水利電力出
版社,1985.
[2] Liu W H E,Wu F F,Lun S M.Estimation of parameter
errors from measurement residuals in stateestimation[J].
IEEE Transactions on Power Systems,1992,7(1).
[3] Slutsker I W,Clements K A.Real time recursive
parameter estimation in energy management systems[J].
IEEE Transactions on Power Systems,1996,11(3).
[4] 趙紅嘎,薛禹勝,汪德星,等.計(jì)及PMU支路電流
相量的狀態(tài)估計(jì)模型[J].電力系統(tǒng)自動(dòng)化,2004,28
(17).
[5] 戴長(zhǎng)春,王正風(fēng),張兆陽(yáng),等.基于IGG準(zhǔn)則的抗差
最小二乘輸電線路參數(shù)辨識(shí)[J].現(xiàn)代電力,2014,31
(2).
[6] 陳珩.電力系統(tǒng)穩(wěn)態(tài)分析[M].北京:中國(guó)電力出版
社,2007.
[7] 曾明,魏衍.一種BP神經(jīng)網(wǎng)絡(luò)改進(jìn)算法的研究及應(yīng)用
[J].微計(jì)算機(jī)信息,2009,(18).
[8] 孟棟,樊重俊,王家楨.混沌遺傳算法對(duì)BP神經(jīng)網(wǎng)絡(luò)
的改進(jìn)研究[J].數(shù)學(xué)理論與應(yīng)用,2014,34(1).
[9] 吳俊利,張步涵,王魁.基于Adaboost的BP神經(jīng)網(wǎng)
絡(luò)改進(jìn)算法在短期風(fēng)速預(yù)測(cè)中的應(yīng)用[J].電網(wǎng)技術(shù),
2012,36(9).
[10] 楊耿煌,溫渤嬰.基于量子行為粒子群優(yōu)化――人
工神經(jīng)網(wǎng)絡(luò)的電能質(zhì)量擾動(dòng)識(shí)別[J].中國(guó)電機(jī)工程學(xué)
報(bào),2008,28(10).
[11] 王越,衛(wèi)志農(nóng),吳佳佳.人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)技術(shù)
在微網(wǎng)運(yùn)行中的應(yīng)用[J].電力系統(tǒng)及其自動(dòng)化學(xué)報(bào),
2012,24(2).
[12] 龐清樂(lè).基于粗糙集理論的神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法及
其在短期負(fù)荷預(yù)測(cè)中的應(yīng)用[J].電網(wǎng)技術(shù),2010,34
(12).
[13] 師彪,李郁俠,于新花,等.基于改進(jìn)粒子群-徑向
基神經(jīng)網(wǎng)絡(luò)模型的短期電力負(fù)荷預(yù)測(cè)[J].電網(wǎng)技術(shù),
2009,33(17).
[14] 王旭東,劉金鳳,張雷.蟻群神經(jīng)網(wǎng)絡(luò)算法在電動(dòng)
車(chē)用直流電機(jī)起動(dòng)過(guò)程中的應(yīng)用[J].中國(guó)電機(jī)工程學(xué)
篇9
【關(guān)鍵詞】智能控制 火電廠 熱工自動(dòng)化
1 智能控制的發(fā)展
隨著社會(huì)經(jīng)濟(jì)的發(fā)展和科學(xué)技術(shù)的進(jìn)步,尤其是信息技術(shù)的發(fā)展,在新時(shí)期,人們又將信息論的因素融入到智能控制中、因此發(fā)展為例成熟的四元交集,近年來(lái),在計(jì)算機(jī)技術(shù)高速發(fā)展的作用下,智能控制技術(shù)得到了快速的發(fā)展,在火電廠等行業(yè)中得到了廣泛的應(yīng)用。
2 智能控制技術(shù)分類(lèi)
2.1 專(zhuān)家控制
專(zhuān)家系統(tǒng)可以按照其在整個(gè)控制系統(tǒng)中的使用繁雜度進(jìn)行分類(lèi),一般分為專(zhuān)家式控制器與專(zhuān)家控制系統(tǒng)兩種,前者適用于數(shù)據(jù)庫(kù)較小、推理較易的控制,常見(jiàn)的就是工業(yè)專(zhuān)家控制器,它強(qiáng)調(diào)的是邏輯與實(shí)算;后者則必須建立在復(fù)雜的數(shù)據(jù)庫(kù)和推理上,它具有較為完善的系統(tǒng)結(jié)構(gòu)及處理能力。
2.2 模糊控制
模糊控制建立在模糊推理與模擬思考的基礎(chǔ)上,它可以用于無(wú)法創(chuàng)建有效數(shù)學(xué)模型目標(biāo)的控制,對(duì)于推理及控制系統(tǒng)中的不確定及不精確問(wèn)題,它能進(jìn)行有效的管理和控制。模糊數(shù)學(xué)、模糊邏輯推理以及模糊言語(yǔ)表達(dá)是模糊控制技術(shù)的建立基礎(chǔ),它在計(jì)算機(jī)系統(tǒng)的作用下實(shí)現(xiàn)了反饋和閉環(huán)的自動(dòng)控制。模糊控制的控制是通過(guò)系統(tǒng)設(shè)計(jì)人員的控制能力以及控制數(shù)據(jù)來(lái)完成的,它無(wú)需進(jìn)行數(shù)學(xué)建模;模糊控制有很好的魯棒性,能夠很好地克服一些時(shí)變、時(shí)滯、非線性以及不確定控制問(wèn)題;模糊控制使用單純的語(yǔ)言變量,因此很容易建立相應(yīng)的專(zhuān)家系統(tǒng)。
2.3 復(fù)合智能控制
不同智能控制系統(tǒng)具有不同的優(yōu)缺點(diǎn),復(fù)合智能系統(tǒng)就是將各種不同種類(lèi)的控制系統(tǒng)進(jìn)行綜合使用,這樣可以在克服各個(gè)控制系統(tǒng)缺點(diǎn)的同時(shí),實(shí)現(xiàn)各個(gè)系統(tǒng)優(yōu)點(diǎn)的綜合。目前常用的復(fù)合系統(tǒng)是主要有模糊滑??刂?、模糊專(zhuān)家控制以及神經(jīng)網(wǎng)絡(luò)模糊控制。
模糊專(zhuān)家系統(tǒng)。該系統(tǒng)的特點(diǎn)就是,即使初始信息獲取的不夠完整或者準(zhǔn)確,但該系統(tǒng)還是可以較為有效的人類(lèi)專(zhuān)家思維模擬,在既有的不完整的信息下提出最優(yōu)化的解決方案。模糊專(zhuān)家系統(tǒng)是模擬人類(lèi)有關(guān)專(zhuān)家進(jìn)行有關(guān)問(wèn)題解決的思路,因此是一種較容易開(kāi)發(fā)應(yīng)用的復(fù)合系統(tǒng)。神經(jīng)網(wǎng)絡(luò)模糊系統(tǒng)。神經(jīng)網(wǎng)絡(luò)模糊系統(tǒng)是兩種系統(tǒng)的有效結(jié)合,它在實(shí)現(xiàn)模糊邏輯利用少量信息進(jìn)行知識(shí)表達(dá)的同時(shí),也可通過(guò)聯(lián)想進(jìn)行有關(guān)知識(shí)的應(yīng)用,這使得該控制方法實(shí)現(xiàn)了表達(dá)和學(xué)習(xí)能力的綜合提升。模糊滑??刂啤;?刂谱畲蟮膬?yōu)點(diǎn)就是不受系統(tǒng)不確定性的影響,魯棒性較佳;其缺點(diǎn)主要體現(xiàn)在未建模動(dòng)態(tài)及補(bǔ)償干擾的高控制增益,此外在高頻轉(zhuǎn)換時(shí)易產(chǎn)生一定的抖振。綜合模糊系統(tǒng)以后的模糊滑??刂凭秃芎玫目朔诉@些問(wèn)題,它將二者不依賴(lài)性及魯棒性好的優(yōu)點(diǎn)進(jìn)行了一定的結(jié)合,因而可以有效實(shí)現(xiàn)控制對(duì)象的轉(zhuǎn)換。該控制方法具有很好的應(yīng)用前途。
2.4 神經(jīng)網(wǎng)絡(luò)控制
基于對(duì)人類(lèi)大腦神經(jīng)元的模擬,神經(jīng)網(wǎng)絡(luò)控制可以通過(guò)神經(jīng)元的權(quán)值分布和聯(lián)結(jié)來(lái)進(jìn)行有關(guān)信息的表達(dá)。它可以實(shí)現(xiàn)有效的神經(jīng)萬(wàn)羅模擬,通過(guò)權(quán)值的調(diào)整和學(xué)習(xí),經(jīng)過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)、直接或者間接的矯正等實(shí)現(xiàn)智能控制,這一過(guò)程具有非線性特點(diǎn),從理論上來(lái)說(shuō),它可以實(shí)現(xiàn)各種非線性圖像。神經(jīng)網(wǎng)絡(luò)控制不僅在并行能力和并行結(jié)構(gòu)上實(shí)現(xiàn)有效的控制,而且還有較好的經(jīng)濟(jì)性。
3 智能控制在火電廠熱工自動(dòng)化的應(yīng)用
3.1 對(duì)中儲(chǔ)式制粉系統(tǒng)的控制
磨負(fù)荷信號(hào)較難測(cè)量、數(shù)學(xué)建型復(fù)雜以及被控參數(shù)耦合,是中儲(chǔ)式制粉系統(tǒng)主要的問(wèn)題所在,此時(shí)就可以利用模糊語(yǔ)言規(guī)則克服其延遲與非線性的問(wèn)題,具體內(nèi)容包括,將操作人員的經(jīng)驗(yàn)以數(shù)據(jù)的形式存入計(jì)算機(jī)并進(jìn)行計(jì)算,然后通過(guò)預(yù)測(cè)和分級(jí)兩種模糊控制的進(jìn)行控制。
3.2 對(duì)給水加藥的控制
給水加藥工作主要涉及的是氨與聯(lián)胺的加入,前者可以使給水與高凝結(jié)水處于較高的堿性,避免酸性水腐蝕高低壓給水設(shè)備;而后者是通過(guò)聯(lián)胺的化學(xué)作用控制水內(nèi)氧和二氧化碳的含量,從而避免相關(guān)設(shè)備出現(xiàn)腐蝕、生垢等問(wèn)題。在給水加藥系統(tǒng)中使用模糊控制系統(tǒng)以后,專(zhuān)家有關(guān)經(jīng)驗(yàn)的信息就會(huì)融入到控制系統(tǒng)中,這樣系統(tǒng)控制的質(zhì)量就會(huì)實(shí)現(xiàn)大大的提升。在變頻器輸出頻率的控制中使用模糊控制,能夠有效的進(jìn)行加藥泵機(jī)的轉(zhuǎn)速調(diào)整,這種融入模糊控制的給水加藥系統(tǒng)樂(lè)意避免人工加藥引起的各種不良后果,從而提高了給水加藥的工作質(zhì)量。
3.3 對(duì)鍋爐燃燒過(guò)程的控制
鍋爐燃燒易受到煤種煤質(zhì)、變量耦合、時(shí)滯等多種因素的干擾,且其燃燒率很難實(shí)行頸椎的測(cè)區(qū)。將專(zhuān)家控制應(yīng)用到鍋爐燃燒過(guò)程的控制中以后,專(zhuān)家系統(tǒng)通過(guò)逐次的判斷、分析和推理以后,可實(shí)現(xiàn)前進(jìn)式的系統(tǒng),具體包括對(duì)緊急事故、工況判斷子集、送風(fēng)調(diào)節(jié)子集、執(zhí)行機(jī)構(gòu)診斷子集、煤厚調(diào)節(jié)子集等多內(nèi)容的判斷。
3.4 對(duì)單元機(jī)組負(fù)荷的控制
非線性、不確定、時(shí)變以及耦合等是單元機(jī)組負(fù)荷控制的難題所在,對(duì)此,可以設(shè)計(jì)出建立在機(jī)跟爐與爐跟機(jī)上的具有自適應(yīng)性的兩種神經(jīng)元模擬負(fù)荷控制系統(tǒng)。試驗(yàn)發(fā)現(xiàn)該系統(tǒng)下各權(quán)系數(shù)學(xué)習(xí)收斂明顯提速,且效果自適應(yīng)性及控制性均較理想。
3.5 對(duì)過(guò)熱汽溫的控制
改變減溫水是實(shí)施鍋爐過(guò)熱汽溫控制的常用方法,大慣性、時(shí)滯性,以及動(dòng)態(tài)特性的隨便是該系統(tǒng)主要面對(duì)的問(wèn)題。隨著智能控制技術(shù)的發(fā)展,人們逐漸將神經(jīng)網(wǎng)絡(luò)控制技術(shù)引入到過(guò)熱汽溫系統(tǒng)中來(lái),這使得系統(tǒng)的運(yùn)行狀況、控制質(zhì)量及適應(yīng)性都有了明顯的提升。
4 結(jié)語(yǔ)
隨著對(duì)智能控制技術(shù)的創(chuàng)新和發(fā)展,智能控制技術(shù)已經(jīng)取得了巨大的進(jìn)步和完善,并且在各行各業(yè)已經(jīng)得到了廣泛的應(yīng)用。通過(guò)上述分析發(fā)現(xiàn),在火電廠熱工程自動(dòng)化使用智能控制技術(shù),能夠解決在原系統(tǒng)中出現(xiàn)的各種問(wèn)題,極大提高了火電廠自動(dòng)化控制的質(zhì)量,為電廠的發(fā)展做出了貢獻(xiàn)。
參考文獻(xiàn):
[1] 曾友和.構(gòu)建火電廠熱工自動(dòng)化安全系統(tǒng)的分析和探討[J].投資與創(chuàng)業(yè),2012(8).
[2] 王家金.火電廠熱工自動(dòng)化現(xiàn)狀及新發(fā)展淺議[J].城市建設(shè),2013(24).
篇10
【關(guān)鍵詞】 數(shù)據(jù)挖掘 信用風(fēng)險(xiǎn) 決策樹(shù) 支持向量機(jī)
一、引言
我國(guó)上市公司是整個(gè)國(guó)民經(jīng)濟(jì)整體的一個(gè)有機(jī)組成部分,甚至可以說(shuō)是整個(gè)國(guó)民經(jīng)濟(jì)的核心所在。至2008年底,滬深兩市的股票總市值在縮水62.9%的情況下仍達(dá)到12.13萬(wàn)億,占GDP的48.6%。從這些數(shù)據(jù)可以看出,上市公司在我國(guó)經(jīng)濟(jì)中占有主體地位,因此,上市公司的優(yōu)劣存亡將關(guān)系到整個(gè)國(guó)民經(jīng)濟(jì)的發(fā)展。然而,我國(guó)上市公司所積累的信用風(fēng)險(xiǎn)已經(jīng)非常巨大,在深交所的誠(chéng)信檔案里僅主板市場(chǎng)就列出了20頁(yè)的違規(guī)通報(bào)批評(píng)和處分決定。就國(guó)有企業(yè)而言,信用危機(jī)依然存在,突出的表現(xiàn)就是惡意拖欠逃債現(xiàn)象。企業(yè)信用風(fēng)險(xiǎn)狀況直接關(guān)系到我國(guó)金融市場(chǎng)的健康發(fā)展和國(guó)民經(jīng)濟(jì)的持續(xù)穩(wěn)定??梢?jiàn),對(duì)上市公司信用風(fēng)險(xiǎn)的管理是非常必要和迫在眉睫的,而上市公司信用風(fēng)險(xiǎn)評(píng)估模型的建立是防范信用風(fēng)險(xiǎn)的重要手段。因此,研究上市公司信用風(fēng)險(xiǎn)評(píng)估這一課題,已經(jīng)成為我國(guó)目前經(jīng)濟(jì)生活中亟待解決的一個(gè)重要問(wèn)題。
目前許多定量技術(shù)和支持工具、軟件已付諸商業(yè)應(yīng)用,繼傳統(tǒng)的比例分析之后,統(tǒng)計(jì)方法得到了廣泛的應(yīng)用,如判別分析和Logistic回歸等。信用等級(jí)評(píng)估是通過(guò)對(duì)企業(yè)或個(gè)人的某些單一財(cái)務(wù)指標(biāo)進(jìn)行加權(quán)平均確定的,該方法最大的缺陷在于指標(biāo)和加權(quán)值的確定帶有很大的主觀性,使得評(píng)估結(jié)果和實(shí)際狀況有很大的出入。因此,需要引入科學(xué)方法來(lái)確定有效評(píng)估指標(biāo),并建立準(zhǔn)確的定量模型來(lái)解決信用等級(jí)評(píng)估的問(wèn)題。近年來(lái),信息技術(shù)得到了迅速發(fā)展,如數(shù)據(jù)挖掘技術(shù)等能從海量數(shù)據(jù)中智能發(fā)現(xiàn)有用的規(guī)則和知識(shí),再加上我國(guó)上市公司信息披露制度的不斷完善,使得我們的研究能夠得到的數(shù)據(jù)資料也不斷的增多,這些有利條件的出現(xiàn)使得我們對(duì)基于數(shù)據(jù)挖掘的上市公司信用風(fēng)險(xiǎn)評(píng)估模型的研究有了數(shù)據(jù)基礎(chǔ)和技術(shù)基礎(chǔ)。
二、基于數(shù)據(jù)挖掘的信用風(fēng)險(xiǎn)評(píng)估模型比較綜述
1、決策樹(shù)
決策樹(shù)方法于20世紀(jì)60年代起源于對(duì)概念學(xué)習(xí)建模;20世紀(jì)70年代后期Quinlan發(fā)明用信息增益作為啟發(fā)策略的ID3算法,從樣本中學(xué)習(xí)構(gòu)造專(zhuān)家系統(tǒng);1993年Quinlan在ID3算法基礎(chǔ)上研究出了改進(jìn)的決策樹(shù)歸納包(C4.5),這是目前被普遍采用的數(shù)據(jù)分類(lèi)方法。其思想是一個(gè)類(lèi)似于流程圖的樹(shù)結(jié)構(gòu),其中每個(gè)內(nèi)部結(jié)點(diǎn)表示在一個(gè)屬性熵的測(cè)試,每個(gè)分支代表一個(gè)測(cè)試輸出,而每個(gè)樹(shù)葉節(jié)點(diǎn)代表類(lèi)或類(lèi)分布。決策樹(shù)通過(guò)把實(shí)例從根節(jié)點(diǎn)排列到某個(gè)葉子節(jié)點(diǎn)來(lái)分類(lèi)實(shí)例,葉子節(jié)點(diǎn)即為實(shí)例所屬的分類(lèi),樹(shù)上每個(gè)節(jié)點(diǎn)說(shuō)明了對(duì)實(shí)例的某個(gè)屬性的測(cè)試,節(jié)點(diǎn)的每個(gè)后繼分支對(duì)應(yīng)于該屬性的一個(gè)可能值。決策樹(shù)分類(lèi)模型之所以被廣泛應(yīng)用于信用風(fēng)險(xiǎn)評(píng)估,主要是因?yàn)闆Q策樹(shù)具有以下優(yōu)點(diǎn):(1)與神經(jīng)網(wǎng)絡(luò)或貝葉斯分類(lèi)等其他分類(lèi)模型相比,決策樹(shù)的分類(lèi)原理簡(jiǎn)單易懂,很容易被使用人員理解和接受。在決策樹(shù)分類(lèi)過(guò)程中,一般不需要人為設(shè)定參數(shù),更適合于知識(shí)發(fā)現(xiàn)的要求;(2)決策樹(shù)的學(xué)習(xí)算法具有建立速度快、計(jì)算量相對(duì)不是很大、可以處理連續(xù)值和離散值屬性;(3)決策樹(shù)能使用信息原理對(duì)大量樣本的屬性進(jìn)行信息量分析,計(jì)算各屬性的信息量,找出反映類(lèi)別的重要屬性(可以清晰的顯示哪些屬性對(duì)分類(lèi)比較重要);(4)決策樹(shù)分類(lèi)方法與其他分類(lèi)模型相比,易于生成可理解的規(guī)則。決策樹(shù)方法對(duì)記錄數(shù)越大的數(shù)據(jù)庫(kù),它的效果越明顯,這就是它顯著的優(yōu)點(diǎn)。
研究表明,一般情況下,樹(shù)越小則樹(shù)的預(yù)測(cè)能力越強(qiáng)。要構(gòu)造盡可能小的決策樹(shù),關(guān)鍵在于選擇恰當(dāng)屬性。而屬性選擇依賴(lài)于各種對(duì)例子子集的不純度度量方法。其中,基于數(shù)據(jù)挖掘中決策樹(shù)C4.5算法的分析框架建立的上市公司信用風(fēng)險(xiǎn)評(píng)估模型,對(duì)數(shù)據(jù)分布無(wú)任何要求,應(yīng)用于上市公司信用風(fēng)險(xiǎn)評(píng)估的效果比較好,因此具有良好的發(fā)展前景,值得我們深入研究。
2、神經(jīng)網(wǎng)絡(luò)
BP網(wǎng)是面向映射變換的神經(jīng)網(wǎng)絡(luò)中應(yīng)用最廣泛的一種,其結(jié)構(gòu)如圖1所示。典型的BP網(wǎng)有三個(gè)層次:輸入層、隱含層和輸出層,相鄰層次神經(jīng)元間采用全互連形式,同層神經(jīng)元間則不相連。其思路是:當(dāng)給網(wǎng)絡(luò)提供一個(gè)輸入模式時(shí),該模式由輸入層傳到隱含,經(jīng)隱含層神經(jīng)元作用函數(shù)處理后傳送到輸出層,再經(jīng)由輸出層神經(jīng)元作用函數(shù)處理后產(chǎn)生一個(gè)輸出模式。如果輸出模式與期望的輸出模式有誤差,就從輸出層反向?qū)⒄`差逐層傳送到輸入層,把誤差“分?jǐn)偂苯o各神經(jīng)元并修改連接權(quán),使網(wǎng)絡(luò)實(shí)現(xiàn)從輸入模式到輸出模式的正確映射。對(duì)于一組訓(xùn)練模式,可以逐個(gè)用訓(xùn)練模式作為輸入,反復(fù)進(jìn)行誤差檢測(cè)和反向傳播過(guò)程,直到不出現(xiàn)誤差為止。這時(shí),BP網(wǎng)完成了學(xué)習(xí)階段,具備所需的模式分類(lèi)(識(shí)別)能力。
20世紀(jì)80年代末,西方發(fā)達(dá)國(guó)家將人工智能引入銀行業(yè),協(xié)助銀行進(jìn)行貸款決策,這其中,尤其以人工神經(jīng)網(wǎng)絡(luò)最為突出,其在企業(yè)財(cái)務(wù)分析中顯示了巨大的優(yōu)勢(shì)和潛力。而在我國(guó),無(wú)論是用統(tǒng)計(jì)方法還是用神經(jīng)網(wǎng)絡(luò)技術(shù)來(lái)研究信用風(fēng)險(xiǎn),目前都尚處于起步階段。王春峰等(1999)用神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行商業(yè)銀行信用風(fēng)險(xiǎn)評(píng)估;郝麗萍等(2001)研究了商業(yè)銀行信貸風(fēng)險(xiǎn)分析的人工神經(jīng)網(wǎng)絡(luò)模型;柳炳祥、盛昭翰(2003)利用粗神經(jīng)網(wǎng)絡(luò)對(duì)企業(yè)財(cái)務(wù)危機(jī)進(jìn)行了分析;龐素琳等(2003)利用BP算法對(duì)我國(guó)某商業(yè)銀行2001年120家貸款企業(yè)進(jìn)行3類(lèi)模式(“信用好”、“信用一般”、“信用差”)分類(lèi),分類(lèi)準(zhǔn)確率達(dá)到83.34%;張德棟、張強(qiáng)(2004)建立了基于BP神經(jīng)網(wǎng)絡(luò)的企業(yè)信用3層神經(jīng)網(wǎng)絡(luò)評(píng)估模型,實(shí)驗(yàn)結(jié)果證明,該模型用于企業(yè)信用評(píng)估,減少了企業(yè)信用評(píng)估傳統(tǒng)的定性方法中權(quán)重確定的人為因素,評(píng)估正確率達(dá)到了92.12%;王凱、黃世祥(2007)建立起基于BP神經(jīng)網(wǎng)絡(luò)的行業(yè)間信用評(píng)估模型,并代入2003年度全國(guó)農(nóng)業(yè)和工業(yè)的部分行業(yè)數(shù)據(jù)進(jìn)行實(shí)證。
神經(jīng)網(wǎng)絡(luò)由于其自身優(yōu)勢(shì)已經(jīng)在各個(gè)領(lǐng)域得到了廣泛的應(yīng)用,近幾年來(lái),經(jīng)濟(jì)學(xué)和管理學(xué)方面的學(xué)者將其運(yùn)用到經(jīng)濟(jì)領(lǐng)域,特別是在信用風(fēng)險(xiǎn)評(píng)估方面取得了很好的成效。尤其BP神經(jīng)網(wǎng)絡(luò)在商業(yè)銀行信用風(fēng)險(xiǎn)評(píng)估上應(yīng)用的可行性,其優(yōu)點(diǎn)主要體現(xiàn)在:(1)BP神經(jīng)網(wǎng)絡(luò)模型具有高速信息處理能力。信用風(fēng)險(xiǎn)評(píng)價(jià)是一個(gè)非常復(fù)雜的系統(tǒng),簡(jiǎn)單的信用風(fēng)險(xiǎn)打分模型不能很好地表述這種關(guān)系,同時(shí)結(jié)果與實(shí)際也有較大的差別。而神經(jīng)網(wǎng)絡(luò)是由大量的神經(jīng)元廣泛互連而成的系統(tǒng),并行處理能力很強(qiáng),得到的模型能對(duì)實(shí)際作出很好的預(yù)測(cè)。(2)BP神經(jīng)網(wǎng)絡(luò)模型具有很強(qiáng)的不確定性信息處理能力。由于神經(jīng)網(wǎng)絡(luò)中神經(jīng)元個(gè)數(shù)眾多以及整個(gè)網(wǎng)絡(luò)存儲(chǔ)信息容量巨大,使得它具有很強(qiáng)的對(duì)不確定性信息的處理能力。而信用風(fēng)險(xiǎn)本身就有一種不確定性,信用風(fēng)險(xiǎn)評(píng)價(jià)指標(biāo)體系涉及指標(biāo)眾多,這些變量本身就具有一種動(dòng)態(tài)性和不穩(wěn)定性。運(yùn)用BP神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測(cè)可以很好地解決這種不確定性。(3)BP神經(jīng)網(wǎng)絡(luò)模型是一個(gè)具有高度非線性的系統(tǒng)。神經(jīng)網(wǎng)絡(luò)同現(xiàn)行的計(jì)算機(jī)不同,它是一種非線性的處理單元,因此神經(jīng)網(wǎng)絡(luò)是一種具有高度非線性的系統(tǒng)。在信用風(fēng)險(xiǎn)評(píng)估運(yùn)用上,它突破了傳統(tǒng)信用風(fēng)險(xiǎn)評(píng)估方法以線性處理為基礎(chǔ)的局限性,能更有效、更精確地處理復(fù)雜信息。但是,神經(jīng)網(wǎng)絡(luò)也存在明顯的不足。首先,當(dāng)神經(jīng)網(wǎng)絡(luò)的輸入維數(shù)高時(shí),隱含規(guī)則呈幾何級(jí)數(shù)增加,致使網(wǎng)絡(luò)結(jié)構(gòu)龐大,同時(shí)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)速率固定,存在局部最小點(diǎn)問(wèn)題,因此網(wǎng)絡(luò)收斂速度慢,需要很長(zhǎng)的訓(xùn)練時(shí)間,甚至可能發(fā)生網(wǎng)絡(luò)癱瘓;其次,網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜,導(dǎo)致網(wǎng)絡(luò)的輸入節(jié)點(diǎn)單元數(shù)、隱含層數(shù)的確定缺乏理論依據(jù)。盡管存在一些遺憾,神經(jīng)網(wǎng)絡(luò)方法作為一門(mén)嶄新的信息處理科學(xué)方法仍然吸引著眾多領(lǐng)域的研究者。
3、支持向量機(jī)
支持向量機(jī)(Support Vector Machine,SVM)是根據(jù)統(tǒng)計(jì)學(xué)習(xí)理論得出的一種新的機(jī)器學(xué)習(xí)算法,它用結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則替代經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原則,較好地解決了小樣本學(xué)習(xí)問(wèn)題,是一種通用的前饋網(wǎng)絡(luò)類(lèi)型。支持向量機(jī)的實(shí)現(xiàn)是通過(guò)某種事先選擇的非線性映射(核函數(shù))將輸入向量映射到一個(gè)高維特征空間,在這個(gè)空間中構(gòu)造最優(yōu)分類(lèi)超平面。使用SVM進(jìn)行數(shù)據(jù)集分類(lèi)工作的過(guò)程首先是通過(guò)預(yù)先選定的一些非線性映射將輸入空間映射到高維特征空間,它使得在高維屬性空間中有可能對(duì)訓(xùn)練數(shù)據(jù)實(shí)現(xiàn)超平面的分割,避免了在原輸入空間中進(jìn)行非線性曲面分割計(jì)算。SVM數(shù)據(jù)集形成的分類(lèi)函數(shù)具有這樣的性質(zhì):它是一組以支持向量為參數(shù)的非線性函數(shù)的線性組合,因此分類(lèi)函數(shù)的表達(dá)式僅和支持向量的數(shù)量有關(guān),而獨(dú)立于空間的維度。
隨著機(jī)器學(xué)習(xí)理論的不斷發(fā)展,支持向量機(jī)作為一種專(zhuān)門(mén)針對(duì)小樣本學(xué)習(xí)的算法被引入到了信用風(fēng)險(xiǎn)評(píng)估中。在我國(guó),張秋水、羅林開(kāi)等(2006)通過(guò)SVM與傳統(tǒng)的多元線性回歸(Multi Linear Regression,MLR)和Logit分析(Logit Analysis,LA)的實(shí)證對(duì)比和模型分析,得出SVM在20組測(cè)試樣本集上的平均誤判率是最低的,顯著優(yōu)于MLR,也優(yōu)于LA。吳沖等(2009)建立了基于模糊積分的支持向量機(jī)集成方法,該方法綜合考慮了子支持向量機(jī)的輸出重要性并與單個(gè)支持向量機(jī)和最多投票原則的支持向量機(jī)集成進(jìn)行比較,實(shí)證結(jié)果表明,該方法具有更高的分類(lèi)精度。與BP神經(jīng)網(wǎng)絡(luò)相比,SVM方法的優(yōu)缺點(diǎn)是:(1)模型的準(zhǔn)確率。SVM是通過(guò)解一個(gè)凸二次規(guī)劃來(lái)得出結(jié)果的,因此找到的解是全局最優(yōu)解,且精度高,利用支持向量機(jī)進(jìn)行上市公司信用風(fēng)險(xiǎn)評(píng)估,根據(jù)有限的訓(xùn)練樣本,建立了非線性映射關(guān)系,解決了維數(shù)問(wèn)題,這種算法具有簡(jiǎn)單、準(zhǔn)確率高的優(yōu)點(diǎn),很適合推廣。(2)泛化能力。SVM通過(guò)結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則實(shí)現(xiàn)了經(jīng)驗(yàn)風(fēng)險(xiǎn)和置信范圍的良好折衷,避免了過(guò)擬合現(xiàn)象,而人工神經(jīng)網(wǎng)絡(luò)是基于經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原理。(3)模型的適用性。SVM方法通過(guò)對(duì)不同的核函數(shù)和參數(shù)的選擇,可以?xún)?yōu)化評(píng)估結(jié)果,不同的核函數(shù)可以滿(mǎn)足不同的需求,模型的適用范圍更廣。(4)對(duì)數(shù)據(jù)要求。SVM可以避免小樣本和“維數(shù)災(zāi)難”問(wèn)題,對(duì)有限數(shù)量和維數(shù)較高的樣本評(píng)估精度較高;而B(niǎo)P神經(jīng)網(wǎng)絡(luò)模型由于數(shù)據(jù)較少,易產(chǎn)生過(guò)擬合現(xiàn)象,因而使用范圍受限制。(5)核函數(shù)也需要人為的確定,尚未有理論證明決定應(yīng)選擇的核函數(shù)。
三、結(jié)束語(yǔ)
隨著信息技術(shù)的發(fā)展,數(shù)據(jù)挖掘方法被廣泛應(yīng)用于金融、經(jīng)濟(jì)領(lǐng)域,在信用風(fēng)險(xiǎn)方面也受到越來(lái)越多的重視。在我國(guó),對(duì)上市企業(yè)的信用風(fēng)險(xiǎn)評(píng)估還是一個(gè)很具有挑戰(zhàn)性的領(lǐng)域,不僅體現(xiàn)在其信用風(fēng)險(xiǎn)變化的復(fù)雜性,還在于評(píng)估所面臨的巨大工作量。上市企業(yè)的信用狀況是構(gòu)成整個(gè)社會(huì)體系不可缺少的重要部分,因此,解決其信用風(fēng)險(xiǎn)評(píng)估問(wèn)題的首要任務(wù)是要建立簡(jiǎn)單可操作的模型,并充分發(fā)揮計(jì)算機(jī)處理信息等的優(yōu)勢(shì)作用。
(注:本文系華東交通大學(xué)校立科研基金資助課題《基于數(shù)據(jù)挖掘的上市公司信用風(fēng)險(xiǎn)評(píng)估模型研究》的部分研究成果,課題編號(hào):09GD02。)
【參考文獻(xiàn)】
[1] Qualian JR,C4.5: Programs for Machine Learning [J],San Mateo, CA:Morgan Kaufmann Publishers,1993.
[2] Virongrong Tesprasit,Paisarn Charoenpornsawat ,Virach Sornlertlamvanich,A Context-Sensitive Homograph Disambiguation in Thai Text-to-Speech Synthesis,Proceedings ofHuman Language Technology Conference,2003.
[3] 周松林、吳銘:滬深兩市總市值全年縮水62.9%[J].金融界,2009(1).
[4] 王春峰、萬(wàn)海暉、張維:基于神經(jīng)網(wǎng)絡(luò)技術(shù)的商業(yè)銀行信用風(fēng)險(xiǎn)評(píng)估[J].系統(tǒng)工程理論與實(shí)踐,1999(9).
[5] 郝麗萍、胡欣悅、李麗:商業(yè)銀行信貸風(fēng)險(xiǎn)分析的人工神經(jīng)網(wǎng)絡(luò)模型研究[J].系統(tǒng)工程理論與實(shí)踐,2001(5).
[6] 柳炳祥、盛昭翰:基于粗神經(jīng)網(wǎng)絡(luò)的企業(yè)危機(jī)預(yù)警系統(tǒng)設(shè)計(jì)[J].信息與控制,2003(1).
[7] 龐素琳、王燕鳴、黎榮舟:基于BP算法的信用風(fēng)險(xiǎn)評(píng)價(jià)模型研究[J].數(shù)學(xué)的實(shí)踐與認(rèn)識(shí),2003(8).
[8] 張德棟、張強(qiáng),基于神經(jīng)網(wǎng)絡(luò)的企業(yè)信用評(píng)估模型[J].北京理工大學(xué)學(xué)報(bào),2004(11).
[9] 王凱、黃世祥:基于BP神經(jīng)網(wǎng)絡(luò)的行業(yè)間中小企業(yè)信用評(píng)估模型及應(yīng)用[J].數(shù)學(xué)的實(shí)踐與認(rèn)識(shí),2007(24).
熱門(mén)標(biāo)簽
神經(jīng)內(nèi)科論文 神經(jīng)外科 神經(jīng)網(wǎng)絡(luò)論文 神經(jīng)內(nèi)科 神經(jīng)元 神經(jīng)科學(xué) 神經(jīng) 神經(jīng)病學(xué) 神經(jīng)阻滯 神經(jīng)網(wǎng)絡(luò) 心理培訓(xùn) 人文科學(xué)概論
相關(guān)文章
1神經(jīng)網(wǎng)絡(luò)在工程造價(jià)中的運(yùn)用
4教學(xué)法在神經(jīng)內(nèi)科護(hù)理教學(xué)的應(yīng)用
相關(guān)期刊
-
中國(guó)神經(jīng)腫瘤
主管:中山大學(xué)腫瘤防治中心;中國(guó)抗癌協(xié)會(huì)神經(jīng)腫瘤專(zhuān)業(yè)委員會(huì)
級(jí)別:部級(jí)期刊
影響因子:--
-
現(xiàn)代神經(jīng)疾病
主管:中華人民共和國(guó)國(guó)家衛(wèi)生
級(jí)別:北大期刊
影響因子:1.69
-
中國(guó)神經(jīng)免疫學(xué)和神經(jīng)病...
主管:中華人民共和國(guó)國(guó)家衛(wèi)生健康委員會(huì)
級(jí)別:統(tǒng)計(jì)源期刊
影響因子:1.5
-
國(guó)際神經(jīng)病學(xué)神經(jīng)外科學(xué)
主管:中華人民共和國(guó)教育部
級(jí)別:統(tǒng)計(jì)源期刊
影響因子:1.43