神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文
時(shí)間:2024-03-27 18:03:00
導(dǎo)語:如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。
篇1
關(guān)鍵詞: 圖像檢索; 特征提?。?神經(jīng)網(wǎng)絡(luò); 機(jī)器學(xué)習(xí); 相關(guān)反饋
中圖分類號(hào): TN711?34; TM417 文獻(xiàn)標(biāo)識(shí)碼: A 文章編號(hào): 1004?373X(2016)21?0078?05
Design and development of image retrieval platform based on artificial neural network
ZHANG Weihua, GAO Ang
(Department of Information Engineering, Zhengzhou Chenggong University of Finance and Economics, Gongyi 451200, China)
Abstract: Since the difference exists between the high?level abstract semantics and underlying feature of the user?description image, the retrieval system based on the image content feature can′t accurately accomplish the user′s retriecal task. To solve the above problem, an image matching calculation method based on neural network is proposed. The correct mapping from image low?level feature to image classification is formed by means of sample automatic learning and user feedback learning. The neural network after learning can classify and retrieve the image automatically. This method is combined with the image low?layer feature description and user high?level semantics feedback to effectively recover the semantic gap. The whole process of neural network learning and image retrieval was realized by integrating the Web front end, image extraction module, neural network module and database module.
Keywords: image retrieval; feature extraction; neural network; machine learning; relevance feedback
在利用神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像檢索的過程中,圖像的大小、精度及細(xì)節(jié)越來越豐富,信息含量相應(yīng)的也越來愈多,當(dāng)使用大量的信息進(jìn)行神經(jīng)網(wǎng)絡(luò)的構(gòu)建和訓(xùn)練時(shí),所需的時(shí)間和成本都大大增加,并且神經(jīng)網(wǎng)絡(luò)的檢索效率也會(huì)降低,這就使得其滿足不了用戶準(zhǔn)確搜索圖像的需求[1]。同時(shí),隨著神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展,可以利用各種改進(jìn)技術(shù)提高神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)效率和預(yù)測(cè)準(zhǔn)確率,使得利用神經(jīng)網(wǎng)絡(luò)來模擬人腦對(duì)圖像的分類和檢索可以得到更好的效果。
1 圖像特征的提取
系統(tǒng)使用圖像分割方法對(duì)圖像的形狀特征進(jìn)行描述,提取圖像中各個(gè)部分的形狀特征。
1.1 形狀特征的提取
使用K?均值聚類分割算法進(jìn)行圖像的分割。將圖像分割后,由于每個(gè)簇中的像素在視覺特征上具有很強(qiáng)的相似性,因此對(duì)每一區(qū)域的特征進(jìn)行簡(jiǎn)單的描述,提取相應(yīng)的圖像特征然后保存結(jié)果,并將其作為圖像檢索系統(tǒng)的區(qū)域特征庫。系統(tǒng)針對(duì)不同的圖像特征選取不同的方法進(jìn)行描述:
(1) 區(qū)域顏色特征,提取該區(qū)域中像素點(diǎn)在Lab顏色空間中的均值來描述。
(2) 區(qū)域位置特征,提取該區(qū)域中像素點(diǎn)在二維空間中的坐標(biāo)的平均值來描述。
(3) 區(qū)域紋理特征,提取該區(qū)域中像素的平均對(duì)比度及平均各向異性來描述。
(4) 區(qū)域形狀特征,提取該區(qū)域的封閉輪廓,并將其分解為可由若干橢圓重構(gòu)的由橢圓參數(shù)組成的序列,然后通過傅里葉描述符來描述該封閉曲線[2]。
1.2 顏色特征的提取
由于顏色直方圖的限制,選擇顏色相關(guān)圖進(jìn)行圖像顏色的提取。圖像的顏色相關(guān)圖就是由所有顏色對(duì)進(jìn)行索引的表,在表中[(i, j)]的第[m]個(gè)條目表示找到與顏色為[i]的一個(gè)像素點(diǎn)距離為[m]的顏色為[j]的一個(gè)像素點(diǎn)的幾率。在計(jì)算顏色相關(guān)圖時(shí)需采用一些并行計(jì)算,這樣可以提高計(jì)算效率。
1.3 紋理特征的提取
通過對(duì)比基于Tamura紋理特征算法的檢索程序、基于灰度?梯度共生矩陣算法的檢索程序和基于Gabor小波變換算法,基于Tamura紋理特征提取算法的檢索程序的查詢準(zhǔn)確率要比后兩者都高,且其查詢使用的時(shí)間也要少很多,因此系統(tǒng)選擇采用Tamura紋理特征提取算法。
2 BP神經(jīng)網(wǎng)絡(luò)模型的搭建
2.1 BP神經(jīng)網(wǎng)絡(luò)特點(diǎn)
選擇BP神經(jīng)網(wǎng)絡(luò)作為圖像的神經(jīng)網(wǎng)絡(luò)分類器,其將[n]維圖像底層視覺特征映射為圖像的分類。通過實(shí)驗(yàn)對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行一些改進(jìn)和優(yōu)化,使其能有效地完成圖像檢索的任務(wù)。典型樣本集的選擇、學(xué)習(xí)復(fù)雜性、網(wǎng)絡(luò)結(jié)構(gòu)的選擇、輸入特征向量的選擇、預(yù)測(cè)能力的極限都是需要在搭建BP神經(jīng)網(wǎng)絡(luò)時(shí)需要考慮的問題[3]。
2.2 BP神經(jīng)網(wǎng)絡(luò)的原理及拓?fù)浣Y(jié)構(gòu)
基于BP神經(jīng)網(wǎng)絡(luò)相關(guān)原理的學(xué)習(xí)與分析,確定了系統(tǒng)中BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和構(gòu)建過程:首先定義輸入層、隱含層和輸出層的神經(jīng)元數(shù)目分別為[n,l]和[m,]則[(x1,x2,…,xn)]為網(wǎng)絡(luò)的輸入矢量,[(h1,h2,…,hl)]為隱含層神經(jīng)元的輸出矢量,[(y1,y2,…,ym)]為網(wǎng)絡(luò)的實(shí)際輸出矢量,同時(shí)定義[(d1,d2,…,dm)]為訓(xùn)練樣本所對(duì)應(yīng)的預(yù)期輸出矢量。然后定義輸出層神經(jīng)元[i]與隱含層神經(jīng)元[j]的連接權(quán)值為[Vij,]隱含層神經(jīng)元[j]與輸出層神經(jīng)元[k]的連接權(quán)值為[Wjk,]隱含層神經(jīng)元[j]的閾值為[b,]輸出層神經(jīng)元[k]的閾值為[c。]由于傳遞函數(shù)需要表示具有線性特性的輸入信號(hào)與輸出信號(hào)的聯(lián)系,又根據(jù)BP神經(jīng)網(wǎng)絡(luò)要求傳遞函數(shù)必須連續(xù)可導(dǎo),因此其一般使用在(0,1)之間連續(xù)并可導(dǎo)的Sigmoid函數(shù)作為傳遞函數(shù),該函數(shù)公式為:
[f(x)=11-e-x] (1)
實(shí)際輸出矢量與預(yù)期輸出矢量的誤差計(jì)算公式為:
[E=12j=1m(dk-yk)2] (2)
隱含層神經(jīng)元輸出矢量的計(jì)算公式為:
[hj=fj=1N-1Vijxi+?j] (3)
輸出層神經(jīng)元輸出矢量的計(jì)算公式為:
[yk=fj=0L-1Wjkhj+θk] (4)
BP神經(jīng)網(wǎng)絡(luò)通過反向傳播算法調(diào)整權(quán)值,其權(quán)值修正公式為:
[Wij(n+1)=Wij(n)+ηδjx′i] (5)
在式(5)中,[Wij(n)]表示第[n]次學(xué)習(xí)后的神經(jīng)元[i]與神經(jīng)元[j]之間的連接權(quán)值,信號(hào)輸出的神經(jīng)元為[i,]信號(hào)輸入的神經(jīng)元為[j,][Xi]為神經(jīng)元[i]的實(shí)際輸出,[η]為網(wǎng)絡(luò)的學(xué)習(xí)速率,[δj]為神經(jīng)元[j]的學(xué)習(xí)誤差。
系統(tǒng)中BP神經(jīng)網(wǎng)絡(luò)的構(gòu)建流程如下:
(1) 初始化網(wǎng)絡(luò)的連接權(quán)值和閾值,其值為均勻分布的隨機(jī)數(shù)。
(2) 對(duì)網(wǎng)絡(luò)使用一組樣例數(shù)據(jù)進(jìn)行訓(xùn)練。
(3) 網(wǎng)絡(luò)搭建完成,將輸入矢量輸入網(wǎng)絡(luò)可仿真輸出符合預(yù)期的輸出矢量[4]。
2.3 BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程
通過對(duì)相關(guān)反饋算法的學(xué)習(xí),提出了一種基于BP神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)的圖像檢索方法,它包含兩種學(xué)習(xí)過程:
(1) 自動(dòng)樣例學(xué)習(xí),首先通過包含高層語義標(biāo)注的樣例圖像的學(xué)習(xí)構(gòu)建圖像高層語義的分類器,其中對(duì)于圖像的每種語義分別構(gòu)造一個(gè)分類器,輸入樣例圖像后使系統(tǒng)提取圖像的底層特征作為神經(jīng)網(wǎng)絡(luò)的輸入,然后經(jīng)過一定時(shí)間的學(xué)習(xí)可以得到網(wǎng)絡(luò)的解,使分類器能夠初步完成分類任務(wù);
(2) 用戶交互學(xué)習(xí),首先通過用戶的指導(dǎo),將初步檢索結(jié)果進(jìn)行分類,然后系統(tǒng)將用戶的反饋整理為學(xué)習(xí)樣本,同樣使用自動(dòng)樣例學(xué)習(xí)過程進(jìn)行學(xué)習(xí),最后得出網(wǎng)絡(luò)最新的解,使分類器能更精確地完成分類任務(wù)。系統(tǒng)中BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)流程如圖1所示。
2.4 BP算法的改進(jìn)
使用附加動(dòng)量法可以使網(wǎng)絡(luò)在修正連接權(quán)值時(shí),不只考慮誤差在其梯度上的變化趨勢(shì),還考慮誤差在其曲面上的變化趨勢(shì)。在沒有附加動(dòng)量的情況中,網(wǎng)絡(luò)在訓(xùn)練過程中有可能陷入局部極小狀態(tài),通過使用附加動(dòng)量則可以在一定程度上繞過這些極小值,避免進(jìn)入極小狀態(tài)[5]。附加動(dòng)量法在反向傳播過程中,在每一個(gè)神經(jīng)元的連接權(quán)值及閾值的當(dāng)次訓(xùn)練的變化量上附加一個(gè)正比于上次訓(xùn)練后的連接權(quán)值及閾值的變化量的項(xiàng),根據(jù)新的變化量計(jì)算出新的連接權(quán)值及閾值。添加了附加動(dòng)量因子的連接權(quán)值和閾值的變化量計(jì)算公式分別為:
[Δwij(k+1)=(1-mc)ηδjpj+mcΔwij(k)] (6)
[Δbj(k+1)=(1-mc)ηδj+mcΔbij(k)] (7)
式中:[k]表示第[k]次訓(xùn)練;[mc]表示動(dòng)量因子,[mc]的取值一般在0.95附近。
在結(jié)合附加動(dòng)量法的網(wǎng)絡(luò)訓(xùn)練過程中,需要根據(jù)不同條件判斷何時(shí)使用動(dòng)量因子來修正權(quán)值,其判斷條件為:
[mc=0,E(k)>E(k-1)×1.040.95,E(k)
式中[E(k)]為第[k]步的誤差平方和。
自適應(yīng)學(xué)習(xí)速率的調(diào)整公式為:
[η(k+1)=1.05η(k),E(k+1)E(k)×1.04η(k),etc] (9)
式中[E(k)]為第[k]步的誤差平方和。
動(dòng)量法可以幫助BP算法正確找到全局最優(yōu)解,自適應(yīng)學(xué)習(xí)速率法可以幫助BP算法縮短訓(xùn)練時(shí)間,通過這兩種方法的使用,可以有效地提高神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)效果。
2.5 實(shí)驗(yàn)結(jié)果分析
實(shí)驗(yàn)?zāi)康臑榇_定系統(tǒng)中BP神經(jīng)網(wǎng)絡(luò)分類器的隱含層神經(jīng)元數(shù)目。首先根據(jù)研究獲得的圖像特征向量的元素個(gè)數(shù)構(gòu)建神經(jīng)網(wǎng)絡(luò)分類器的學(xué)習(xí)樣例,此處每個(gè)樣例的輸入向量的元素個(gè)數(shù)為165個(gè),因此構(gòu)建16組含有165個(gè)元素的輸入向量,4個(gè)一組劃分為一種類別,最終形成含有4種類別的16組訓(xùn)練樣本,以此方法再生成該4種類別的4組測(cè)試樣本。然后根據(jù)經(jīng)驗(yàn)公式獲得合適隱含層神經(jīng)元數(shù)目的取值范圍,此處為9~17個(gè)。最后將訓(xùn)練樣本及測(cè)試樣本先后輸入隱含層神經(jīng)元數(shù)目不同的網(wǎng)絡(luò)中進(jìn)行訓(xùn)練和測(cè)試,記錄數(shù)據(jù)。
表1記錄了隱含層神經(jīng)元數(shù)目及對(duì)應(yīng)的訓(xùn)練誤差和測(cè)試誤差的數(shù)據(jù),由其數(shù)據(jù)可以看出,隨著隱含層神經(jīng)元數(shù)目的增加訓(xùn)練誤差總體上逐漸減小,當(dāng)個(gè)數(shù)超過15后訓(xùn)練誤差出現(xiàn)一定程度的波動(dòng),出現(xiàn)小幅的增加,雖然不影響網(wǎng)絡(luò)的學(xué)習(xí)效果,但是過多的神經(jīng)元個(gè)數(shù)會(huì)增加學(xué)習(xí)時(shí)間,而此時(shí)測(cè)試誤差還是處于降低的趨勢(shì)。綜合分析實(shí)驗(yàn)結(jié)果,本系統(tǒng)確定采用較合適的15個(gè)隱含層神經(jīng)元。
3 檢索系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)
3.1 系統(tǒng)結(jié)構(gòu)分析
3.1.1 系統(tǒng)結(jié)構(gòu)
系統(tǒng)的結(jié)構(gòu)如圖2所示,圖中除了與用戶交互的Web前端,其余的圖像特征提取模塊、神經(jīng)網(wǎng)絡(luò)模塊及數(shù)據(jù)庫都在服務(wù)器端,這種瀏覽器?服務(wù)器結(jié)構(gòu)平臺(tái)搭建后,用戶可以通過不同客戶端的Web瀏覽器進(jìn)行圖像檢索的功能,而不必安裝本地應(yīng)用程序,同時(shí)將主要的核心功能集中到服務(wù)器上,不僅大大簡(jiǎn)化了系統(tǒng)的開發(fā)和維護(hù)流程,降低了成本,還增強(qiáng)了系統(tǒng)的擴(kuò)展性。
3.1.2 系統(tǒng)流程
系統(tǒng)針對(duì)不同的功能需求設(shè)計(jì)了相應(yīng)的不同流程,這些流程包括系統(tǒng)樣例學(xué)習(xí)流程、用戶反饋學(xué)習(xí)流程、用戶查詢流程。
如圖3所示,在系統(tǒng)的樣例學(xué)習(xí)過程中,系統(tǒng)接收到樣例數(shù)據(jù)后會(huì)先對(duì)數(shù)據(jù)進(jìn)行分析,然后交給神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí),最終生成對(duì)應(yīng)類別的分類器,這些分類器會(huì)在用戶檢索時(shí)對(duì)數(shù)據(jù)庫中的圖像進(jìn)行分類,查找到符合用戶需求的圖像[6]。樣例學(xué)習(xí)的流程是本系統(tǒng)學(xué)習(xí)分類知識(shí)的關(guān)鍵步驟,在該步驟中用戶并不參與系統(tǒng)的學(xué)習(xí)過程,整個(gè)學(xué)習(xí)過程均為系統(tǒng)自動(dòng)進(jìn)行,因此需提供大量被正確標(biāo)注的清晰圖像樣例,通過對(duì)這些優(yōu)質(zhì)樣例的學(xué)習(xí),系統(tǒng)會(huì)自動(dòng)生成針對(duì)圖像各種分類所對(duì)應(yīng)的分類器,且經(jīng)過長(zhǎng)時(shí)間的學(xué)習(xí),這些分類器的準(zhǔn)確率會(huì)不斷上升,最終使查詢結(jié)果更符合用戶需求。
如圖4所示,在系統(tǒng)的用戶查詢流程中,用戶的查詢條件為圖像特征的語義描述,系統(tǒng)最終返回為包含該描述特征的圖像集,這個(gè)過程利用神經(jīng)網(wǎng)絡(luò)分類器學(xué)習(xí)的高層描述語義與低層圖像特征之間的映射,因此隨著神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)時(shí)間的增大,這種映射也就越精確,系統(tǒng)完成的查詢也就越符合用戶要求。
3.1.3 圖像特征提取模塊
如圖5所示,當(dāng)圖像輸入到圖像特征提取模塊中時(shí),圖像會(huì)進(jìn)行K?均值聚類分割算法處理、顏色相關(guān)圖算法處理及Tamura紋理特征算法處理,這三個(gè)處理過程并行進(jìn)行。
經(jīng)過K?均值聚類分割算法處理,圖像被分割為若干塊區(qū)域,每個(gè)區(qū)域中的像素都具有相似的屬性,對(duì)于每個(gè)區(qū)域,會(huì)提取其簡(jiǎn)單的區(qū)域特征,如顏色特征、位置特征、紋理特征及形狀特征等;經(jīng)過顏色相關(guān)圖算法處理,生成當(dāng)前圖像的顏色自相關(guān)圖;經(jīng)過Tamura紋理特征算法處理,計(jì)算出圖像的粗糙度、對(duì)比度、方向度、線性度等數(shù)值。將經(jīng)過三個(gè)算法處理后得到的數(shù)值整理后得到圖像的特征向量[7]。
3.1.4 神經(jīng)網(wǎng)絡(luò)模塊
系統(tǒng)中的圖像神經(jīng)網(wǎng)絡(luò)分類器由三層組成,分別為輸入層、隱含層及輸出層,其中輸入層的神經(jīng)元個(gè)數(shù)與歸一化后的圖像特征向量的個(gè)數(shù)相同,為固定值;隱含層的神經(jīng)元個(gè)數(shù)通過前文中的實(shí)驗(yàn)得出,適合于本系統(tǒng)中神經(jīng)網(wǎng)絡(luò)的要求;輸出層只有一個(gè)神經(jīng)元進(jìn)行分類,設(shè)定1為屬于該分類的學(xué)習(xí)期望,設(shè)定0為不屬于該分類的學(xué)習(xí)期望,但是實(shí)際運(yùn)行時(shí)需要設(shè)定1為0.9,0為0.1,這是因?yàn)镾igmoid函數(shù)無法經(jīng)過有限的連接權(quán)值計(jì)算得到1與0的值[8]。
3.1.5 Web 平臺(tái)模塊
系統(tǒng)的Web界面包括用戶查詢輸入框、用戶圖像上傳框、查詢結(jié)果瀏覽框等。
3.2 實(shí)驗(yàn)結(jié)果分析
為了檢驗(yàn)圖像檢索平臺(tái)的性能,首先將系統(tǒng)設(shè)置為學(xué)習(xí)模式,然后從圖像庫中選取1 000幅已進(jìn)行人工標(biāo)注的樣例集輸入系統(tǒng),最后當(dāng)系統(tǒng)發(fā)出已訓(xùn)練完畢信號(hào)后,對(duì)系統(tǒng)已學(xué)習(xí)的分類當(dāng)作查詢輸入系統(tǒng)進(jìn)行檢索,記錄系統(tǒng)檢索結(jié)果。
檢索結(jié)果可知經(jīng)過人工指導(dǎo)學(xué)習(xí),系統(tǒng)可以仿真模擬更符合人類視覺感知的分類方式,并將其記憶于相應(yīng)的神經(jīng)網(wǎng)絡(luò)分類器中,經(jīng)過不斷的學(xué)習(xí),系統(tǒng)可以返回更準(zhǔn)確的符合用戶需求的檢索結(jié)果。
4 結(jié) 論
本文主要研究包括基于內(nèi)容的圖像檢索技術(shù)及人工神經(jīng)網(wǎng)絡(luò)技術(shù)兩個(gè)方面。首先使用K?均值聚類分割算法、顏色相關(guān)圖算法及Tamura紋理特征提取算法提取圖像相應(yīng)的形狀、顏色及紋理特征,通過整合形成可以完整描述圖像信息的特征向量。同時(shí),針對(duì)基于內(nèi)容的圖像檢索系統(tǒng)中用戶高層語義與圖像底層特征之間存在的問題,通過樣例自動(dòng)學(xué)習(xí)和用戶反饋學(xué)習(xí)兩種學(xué)習(xí)方式,BP神經(jīng)網(wǎng)絡(luò)通過反向傳播學(xué)習(xí)算法調(diào)節(jié)網(wǎng)絡(luò)權(quán)值,從而形成圖像底層特征到圖像分類的正確映射,學(xué)習(xí)后的神經(jīng)網(wǎng)絡(luò)通過這種映射可以進(jìn)行圖像的自動(dòng)分類及檢索,該方法結(jié)合了圖像的底層特征描述及用戶的高層語義反饋,有效地彌補(bǔ)了語義鴻溝。
參考文獻(xiàn)
[1] KHERFI M L, ZIOU D. Relevance feedback for CBIR: a new approach based on probabilistic feature weighting with positive and negative examples [J]. IEEE transactions on image processing, 2006, 15(4): 1017?1030.
[2] TRAINA A J M, MARQUES J. Fighting the semantic gap on CBIR systems through new relevance feedback techniques [C]// Proceedings of 2011 the 21th IEEE International Symposium on Computer?Based Medical Systems. [S.l.]: IEEE, 2006: 881?886.
[3] 周資云.基于內(nèi)容的圖像檢索系統(tǒng)研發(fā)與應(yīng)用[J].華章,2012(29):22.
[4] 劉麗,匡綱要.圖像紋理特征提取方法綜述[J].中國圖象圖形學(xué)報(bào),2013,14(4):622?635.
[5] KANUNGO T, MOUNT D M, NETANYAHU N S, et al. An efficient k?means clustering algorithm: analysis and implementation [J]. IEEE transactions on pattern analysis and machine intelligence, 2002, 24(7): 881?892.
[6] WILLIAMS A, YOON P. Content?based image retrieval using joint correlograms [J]. Multimedia tools and applications, 2007, 34(2): 239?248.
篇2
上海市作為國家云計(jì)算服務(wù)創(chuàng)新試點(diǎn)城市之一,“十二五”期間將在五大領(lǐng)域推進(jìn)云計(jì)算的示范應(yīng)用,其中包括以云計(jì)算、物聯(lián)網(wǎng)等信息服務(wù)系統(tǒng)來支撐上海建設(shè)“智慧城市”的交通管理。面對(duì)傳統(tǒng)交通信息來源有限、可靠性差、滯后等缺陷,急需借助于云計(jì)算環(huán)境來研究多源交通信息的融合機(jī)理,催生多源交通信息服務(wù)模式的改變。本文著力構(gòu)建多源信息云智能交通系統(tǒng)自適應(yīng)服務(wù)模型,篩選年鑒數(shù)據(jù)為樣本,通過SPSS軟件仿真,最終驗(yàn)證此模型的可行性。
模型構(gòu)建
1、處理流程云計(jì)算環(huán)境下智能交通系統(tǒng)中多源信息渠道得到的原始數(shù)據(jù)具有典型無組織性。本文構(gòu)建多源信息云智能交通系統(tǒng)自適應(yīng)服務(wù)模型,處理流程如圖1所示。多源信息云智能交通系統(tǒng)自適應(yīng)服務(wù)模型全流程均在云計(jì)算環(huán)境下進(jìn)行,實(shí)時(shí)信息至歷史信息的傳遞過程體現(xiàn)本模型處理過程的動(dòng)態(tài)性。此模型中自適應(yīng)性體現(xiàn)在:(1)通過Newton多元參數(shù)優(yōu)化法實(shí)現(xiàn)樣本降維處理;(2)通過前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程得到云智能交通系統(tǒng)信息服務(wù)最優(yōu)拓?fù)浣Y(jié)構(gòu),即確定前饋神經(jīng)網(wǎng)絡(luò)中隱藏層邏輯結(jié)構(gòu),通過前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程得到最優(yōu)層間權(quán)重和最優(yōu)迭代參數(shù),從而得到最優(yōu)神經(jīng)網(wǎng)絡(luò);(3)通過有限混合分布擬合前饋神經(jīng)網(wǎng)絡(luò)正向輸出數(shù)據(jù),得到更具靈活性的全局分布。2、多元參數(shù)優(yōu)化多元參數(shù)優(yōu)化目的旨在尋找維元參數(shù)向量的標(biāo)量評(píng)分函數(shù)的最小值。在多源信息神經(jīng)網(wǎng)絡(luò)自適應(yīng)服務(wù)模型中,實(shí)驗(yàn)樣本維數(shù)通常比較大,而多維空間中局部最小值現(xiàn)象突出,如果在多源數(shù)據(jù)預(yù)處理過程中找到局部最小值,則能剔除非最小值空間,從而有效將樣本數(shù)據(jù)降維。多元參數(shù)優(yōu)化運(yùn)用迭代的思想,直至找到局部最小值。局部迭代一般過程為:其中,是第步迭代時(shí)的估計(jì)參數(shù),是下一步迭代移動(dòng)方向的維向量。神經(jīng)網(wǎng)絡(luò)中的反饋思想運(yùn)用的是最陡峭下降算法,最陡峭下降的梯度不一定指向最小值,理論上經(jīng)過有限次迭代可以找到對(duì)應(yīng)的,但并不是優(yōu)選迭代法。Newton方法定義局部迭代過程為:其中,是在點(diǎn)處二階導(dǎo)數(shù)矩陣的逆矩陣(),為函數(shù)的一階導(dǎo)數(shù),為矩陣中元素,幫助判定并剔除迭代過程中非指向局部最小值的點(diǎn)。3、前饋神經(jīng)網(wǎng)絡(luò)多層前饋神經(jīng)網(wǎng)絡(luò)包括輸入層、若干隱藏層和輸出層。訓(xùn)練樣本反饋入輸入層,輸入層與隱藏層、隱藏層與輸出層之間加權(quán)全連接,和分別為其權(quán)重,如圖2所示。多層前饋神經(jīng)網(wǎng)絡(luò)層數(shù)取決于隱藏層個(gè)數(shù),若隱藏層個(gè)數(shù)為3,則有4層輸出單元,則此多層前饋神經(jīng)網(wǎng)絡(luò)為四層神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)越復(fù)雜,則多層前饋神經(jīng)網(wǎng)絡(luò)的層數(shù)越多,需要權(quán)重參數(shù)參與數(shù)越多,自適應(yīng)系統(tǒng)訓(xùn)練能力也就越強(qiáng)。確定最優(yōu)系統(tǒng)的隱藏層個(gè)數(shù)沒有確定的規(guī)則可以遵循,多層前饋神經(jīng)網(wǎng)絡(luò)最優(yōu)結(jié)構(gòu)的確定與網(wǎng)絡(luò)層間最優(yōu)參數(shù)的確定一樣,都是重復(fù)訓(xùn)練過程,訓(xùn)練結(jié)果直接影響神經(jīng)網(wǎng)絡(luò)自適應(yīng)系統(tǒng)的準(zhǔn)確性。估計(jì)的準(zhǔn)確性為本模型重要精度指標(biāo)。4、有限混合分布一般地,多源數(shù)據(jù)集數(shù)據(jù)為異質(zhì)數(shù)據(jù)集,代表數(shù)據(jù)來自不同的小組,而非單一同質(zhì)組。通常,異質(zhì)數(shù)據(jù)可能反映不同內(nèi)在現(xiàn)象,簡(jiǎn)單處理異質(zhì)數(shù)據(jù)將人為導(dǎo)致數(shù)據(jù)信息沉沒。引入權(quán)重處理有限源數(shù)據(jù)集的數(shù)據(jù)異質(zhì)性,使得混合分布模型比單一擬合分布模型在分析和預(yù)測(cè)上更具靈活性和靈敏性。假設(shè)全局分布為:其中,為隨機(jī)變量的值,為隨機(jī)變量在分量上的分布函數(shù),是分量上的參數(shù)向量,為分布函數(shù)的權(quán)重,全局混合度有限,為。
仿真與結(jié)果
1、樣本選擇本次仿真樣本來源于2003年至2011年的《上海年鑒》以及2001年至2011年的《上海統(tǒng)計(jì)年鑒》,抽取2000年至2010年間4組大類8組小類共32個(gè)屬性(如圖3)驗(yàn)證本文中多源信息云智能交通系統(tǒng)自適應(yīng)服務(wù)模型的可行性。樣本數(shù)據(jù)從旅客出行行為出發(fā),對(duì)不同交通出行模式和支付方式數(shù)據(jù)依次進(jìn)行預(yù)處理、優(yōu)化處理、前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練、混合分布擬合。2、前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練結(jié)果本次仿真在進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練之前,運(yùn)用SPSS軟件對(duì)維度為11×32維數(shù)據(jù)進(jìn)行預(yù)處理,首先通過區(qū)間估算方法處理統(tǒng)計(jì)過程中的缺省數(shù)據(jù),其次統(tǒng)一所有數(shù)據(jù)量綱,最后Newton法優(yōu)化為11×19維。優(yōu)化結(jié)果顯示,{{旅客發(fā)送量,公路},{{“市民信箱”累計(jì)注冊(cè)用戶“,付費(fèi)通”業(yè)務(wù)平臺(tái)交易量“,付費(fèi)通”業(yè)務(wù)平臺(tái)交易額,交通卡銷售額,銀行卡交易額},{個(gè)人信用報(bào)告累計(jì)出具數(shù)量}},{{軌道運(yùn)營車輛,軌道行駛里程,軌道客運(yùn)總量},{高架道路長(zhǎng)度}},{{公交線路長(zhǎng)度,公交線路條數(shù),公交客運(yùn)總量},{出租運(yùn)營車輛數(shù),出租載客車次量,出租運(yùn)營里程},{輪渡乘客人數(shù)}}}被保留進(jìn)入神經(jīng)網(wǎng)絡(luò)訓(xùn)練進(jìn)程。本次仿真取100%樣本作為訓(xùn)練數(shù)據(jù)集,運(yùn)用SPSSClementine軟件進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練,對(duì)隱藏層數(shù)為1、2、3三種情況分別做訓(xùn)練,結(jié)果如表1所示。結(jié)果顯示,本次樣本訓(xùn)練得到2個(gè)隱藏層的神經(jīng)網(wǎng)絡(luò)為本次最優(yōu)神經(jīng)網(wǎng)絡(luò),估計(jì)的準(zhǔn)確性可達(dá)90.188%。同時(shí)證明Newton法預(yù)優(yōu)化原始數(shù)據(jù)一方面縮短神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)間,另一方面控制神經(jīng)網(wǎng)絡(luò)具有較高估計(jì)準(zhǔn)確性。可以認(rèn)為,本多源信息云智能交通系統(tǒng)自適應(yīng)服務(wù)模型基本可行。3、混合分布擬合結(jié)果本次仿真運(yùn)用SPSS軟件擬合混合分布。擬合結(jié)果如圖4所示。X軸為時(shí)間軸,Y軸為數(shù)量軸,X軸下方19個(gè)屬性代號(hào),代表混合分布由19個(gè)簡(jiǎn)單分布混合擬合得到。綜上證明,源信息云智能交通系統(tǒng)自適應(yīng)服務(wù)模型具有可行性。
篇3
【關(guān)鍵詞】 遺傳算法 BP神經(jīng)網(wǎng)絡(luò) 結(jié)構(gòu)參數(shù) 優(yōu)化
一、引 言
傳統(tǒng)的濾波器設(shè)計(jì)需要大量繁瑣計(jì)算和曲線查找,在商用電磁仿真軟件出現(xiàn)后,微波濾波器的設(shè)計(jì)得到了很大的改善,但是在實(shí)際操作中對(duì)經(jīng)驗(yàn)依賴性還是很強(qiáng)。如何快速準(zhǔn)確的設(shè)計(jì)出符合要求的濾波器,是傳統(tǒng)的濾波器設(shè)計(jì)方法和目前的商用電磁仿真軟件難以有效解決的。針對(duì)以上問題,本文將遺傳算法和BP神經(jīng)網(wǎng)絡(luò)結(jié)合[1],在MATLAB環(huán)境下實(shí)現(xiàn)了對(duì)腔體濾波器結(jié)構(gòu)參數(shù)的設(shè)計(jì)。
二、遺傳神經(jīng)網(wǎng)絡(luò)優(yōu)化
BP神經(jīng)網(wǎng)絡(luò)尤其適用在有大量實(shí)驗(yàn)數(shù)據(jù),而數(shù)據(jù)間的內(nèi)在關(guān)系很難用明確的表達(dá)式的非線性系統(tǒng)中,但在實(shí)際應(yīng)用中神經(jīng)網(wǎng)絡(luò)存在學(xué)習(xí)時(shí)間長(zhǎng),容易陷入局部極小點(diǎn)等弊端。因?yàn)樵撍惴◤谋举|(zhì)上來說屬于局部尋優(yōu)算法,為此利用遺傳算法全局搜索能力強(qiáng)的特點(diǎn),結(jié)合神經(jīng)網(wǎng)絡(luò)的局部尋優(yōu)能力,可以更好的實(shí)現(xiàn)對(duì)非線性系統(tǒng)的預(yù)測(cè),其基本思想是通過遺傳算法得到更好的網(wǎng)絡(luò)初始權(quán)重。
2.1算法實(shí)現(xiàn)過程
遺傳神經(jīng)網(wǎng)絡(luò)分為BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)確定、遺傳算法優(yōu)化和BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)3個(gè)部分。本文是以三腔體濾波器為例,將濾波器的頻率f和耦合系數(shù)c作為輸入向量
其次,使用改進(jìn)的遺傳算法對(duì)網(wǎng)絡(luò)初始權(quán)重進(jìn)行優(yōu)化,將初步得到的權(quán)重賦給尚未開始訓(xùn)練的BP神經(jīng)網(wǎng)絡(luò)。然后,設(shè)置訓(xùn)練參數(shù),開始訓(xùn)練網(wǎng)絡(luò),將 90組數(shù)用于網(wǎng)絡(luò)訓(xùn)練,10組作為測(cè)試樣本。最后將預(yù)測(cè)結(jié)果反歸一化,觀察得到的誤差值,其流程圖如圖1所示。
2.2 優(yōu)化結(jié)果
采用上述遺傳神經(jīng)網(wǎng)絡(luò)算法對(duì)腔體濾波器的結(jié)構(gòu)參數(shù)進(jìn)行優(yōu)化,均方誤差為5.0972×10-5, 時(shí)間為1.056s;BP網(wǎng)絡(luò)的均方誤差為2.8871×10-4,時(shí)間為2.103s,可以看出遺傳神經(jīng)網(wǎng)絡(luò)優(yōu)化值更加精確,速度快。
三、結(jié)論
本文針對(duì)遺傳算法和神經(jīng)網(wǎng)絡(luò)的優(yōu)缺點(diǎn),將遺傳算法與BP神經(jīng)網(wǎng)絡(luò)有機(jī)地結(jié)合在一起,應(yīng)用在腔體濾波器結(jié)構(gòu)參數(shù)的優(yōu)化中,優(yōu)化結(jié)果表明此方法可以在較短的時(shí)間內(nèi)達(dá)到精度范圍內(nèi)的優(yōu)化值,為腔體濾波器的結(jié)構(gòu)參數(shù)優(yōu)化設(shè)計(jì)提供了一種新方法。
篇4
關(guān)鍵詞:粒子群 徑向基 神經(jīng)網(wǎng)絡(luò) 語音識(shí)別
中圖分類號(hào):TP391 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1007-9416(2013)04-0109-02
近年來,語音識(shí)別作為一種便捷的人機(jī)交互方式被大量研究,并在日常生活中得到廣泛應(yīng)用。大體上講,語音識(shí)別就是在給定的語料庫中找出與待識(shí)別詞語相同的語料,其識(shí)別方法的選擇對(duì)識(shí)別效果至關(guān)重要。語音識(shí)別的方法主要有3種:基于語音特征和聲道模型的方法、模板匹配的方法和人工神經(jīng)網(wǎng)絡(luò)[1]。第1種方法出現(xiàn)較早,但由于其模型過于復(fù)雜,并未得到實(shí)際應(yīng)用。第2種方法較為成熟,主要通過動(dòng)態(tài)時(shí)間規(guī)整(DTW)、隱馬爾可夫模型(HMM)和矢量量化(VQ)技術(shù)實(shí)現(xiàn)[2]。第3種方法充分利用人工神經(jīng)網(wǎng)絡(luò)較強(qiáng)的分類能力和輸入——輸出映射能力,非常適合解決語音識(shí)別這類難以用算法描述而又有大量樣本可供學(xué)習(xí)的問題[3]。
因此,本文將智能領(lǐng)域廣泛使用的RBF神經(jīng)網(wǎng)絡(luò)運(yùn)用到語音識(shí)別中,針對(duì)RBF神經(jīng)網(wǎng)絡(luò)隱層基函數(shù)的中心值和寬度隨機(jī)確定的缺陷,運(yùn)用具有全局尋優(yōu)能力的粒子群算法(PSO)進(jìn)行優(yōu)化,來提高網(wǎng)絡(luò)的泛化能力和收斂速度,從而提高識(shí)別率。實(shí)驗(yàn)結(jié)果表明,粒子群優(yōu)化的RBF神經(jīng)網(wǎng)絡(luò)用于語音識(shí)別,能夠顯著提升識(shí)別性能。
1 粒子群優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)
1.1 RBF神經(jīng)網(wǎng)絡(luò)
1.2 粒子群優(yōu)化RBF網(wǎng)絡(luò)算法
因此,RBF神經(jīng)網(wǎng)絡(luò)隱層基函數(shù)中心值和寬度的優(yōu)化過程就是PSO算法依據(jù)輸入樣本進(jìn)行聚類的過程,其基本流程為:
(1)參數(shù)初始化,包括粒子速度、位置,個(gè)體最優(yōu)位置和全局最優(yōu)位置;
(2)據(jù)(5)式計(jì)算慣性權(quán)重;
(3)據(jù)(3)(4)式更新粒子的速度和位置;
(4)據(jù)(6)式計(jì)算各粒子適應(yīng)度值,并更新個(gè)體最優(yōu)位置和全局最優(yōu)位置;
(5)用全局最優(yōu)粒子代替本次迭代適應(yīng)度差的粒子;
(6)反復(fù)迭代,直到最大迭代次數(shù)則停止,得聚類中心。
2 PSO優(yōu)化RBF語音識(shí)別系統(tǒng)
語音識(shí)別過程主要包括信號(hào)預(yù)處理、特征提取、網(wǎng)絡(luò)訓(xùn)練及識(shí)別[6]。預(yù)處理主要對(duì)語音進(jìn)行分幀、預(yù)加重和加窗處理。特征提取用于提取語音中反映聲學(xué)特征的相關(guān)參數(shù),本文采用的是過零峰值幅度(ZCPA)。網(wǎng)絡(luò)訓(xùn)練是在識(shí)別之前從語音樣本中去除冗余信息,提取關(guān)鍵參數(shù),再按照一定規(guī)則對(duì)數(shù)據(jù)加以聚類,形成模式庫。網(wǎng)絡(luò)識(shí)別是通過已訓(xùn)練好的網(wǎng)絡(luò),計(jì)算測(cè)試樣本數(shù)據(jù)與模式庫之間的相似度,判斷出輸入語音所屬的類別。粒子群優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)的語音識(shí)別系統(tǒng)原理框圖如圖1所示。
PSO優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)進(jìn)行語音識(shí)別的實(shí)驗(yàn)步驟如下:
第1步:提取特征。
首先對(duì)用于訓(xùn)練和識(shí)別的各種信噪比的語音文件進(jìn)行ZCPA特征提取。語音信號(hào)的采樣頻率為11.025kHz,每幀為256個(gè)采樣點(diǎn),經(jīng)過時(shí)間和幅度歸一化處理后,得到256維特征矢量序列。
第2步:網(wǎng)絡(luò)訓(xùn)練。
網(wǎng)絡(luò)訓(xùn)練的過程就是調(diào)整RBF神經(jīng)網(wǎng)絡(luò)基函數(shù)的中心和寬度以及隱層到輸出層之間的連接權(quán)值。實(shí)驗(yàn)中,類別數(shù)為待識(shí)別的詞匯數(shù),如對(duì)10個(gè)詞進(jìn)行識(shí)別,則隱層節(jié)點(diǎn)數(shù)、輸出層節(jié)點(diǎn)數(shù)和聚類中心均為10,如對(duì)20個(gè)詞進(jìn)行識(shí)別,則隱層節(jié)點(diǎn)數(shù)、輸出層節(jié)點(diǎn)數(shù)和聚類中心均為20,以此類推,本文對(duì)10詞、20詞、30詞和40詞分別進(jìn)行訓(xùn)練識(shí)別。利用PSO優(yōu)化算法通過聚類獲取隱層基函數(shù)的中心值和寬度,網(wǎng)絡(luò)輸出權(quán)值使用偽逆法得到。在PSO算法中,種群大小為20,最大進(jìn)化迭代次數(shù)為40。
第3步:網(wǎng)絡(luò)識(shí)別。
RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練好后,將測(cè)試集中的樣本輸入網(wǎng)絡(luò)進(jìn)行識(shí)別測(cè)試。每輸入一個(gè)單詞的特征矢量,經(jīng)過隱層、輸出層的計(jì)算后可得一個(gè)單詞分類號(hào),將這個(gè)分類號(hào)與輸入詞自帶的分類號(hào)進(jìn)行對(duì)比,相等則認(rèn)為識(shí)別正確,反之,識(shí)別錯(cuò)誤。最后將識(shí)別正確的個(gè)數(shù)與所有待識(shí)別單詞數(shù)的比值作為最終的識(shí)別率。
3 實(shí)驗(yàn)仿真分析
本文運(yùn)用matlab在PC機(jī)上仿真實(shí)現(xiàn)了PSO優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)的孤立詞語音識(shí)別系統(tǒng),選用在不同高斯白噪聲條件下(包含15dB、20dB、25dB和無噪聲),18個(gè)人分別錄制40詞各三次,形成實(shí)驗(yàn)語音數(shù)據(jù),實(shí)驗(yàn)時(shí)選其中10人的10詞、20詞、30詞、40詞語音數(shù)據(jù)分別作為訓(xùn)練樣本,另外8個(gè)人對(duì)應(yīng)的10詞、20詞、30詞、40詞語音數(shù)據(jù)分別作為測(cè)試樣本進(jìn)行實(shí)驗(yàn),得到了不同噪聲和詞匯量下的粒子群優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)的語音識(shí)別結(jié)果。
表1所示為在不同詞匯量和不同SNR下,分別基于PSO優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)和標(biāo)準(zhǔn)RBF神經(jīng)網(wǎng)絡(luò)采用ZCPA語音特征參數(shù)的語音識(shí)別結(jié)果。由表中識(shí)別率的變化可知,基于PSO優(yōu)化的RBF神經(jīng)網(wǎng)絡(luò)的識(shí)別率在不同詞匯量和不同信噪比下都比標(biāo)準(zhǔn)RBF神經(jīng)網(wǎng)絡(luò)的高,正確識(shí)別出的詞匯量明顯增多,這充分證明改進(jìn)后的RBF神經(jīng)網(wǎng)絡(luò)具有自適應(yīng)性和強(qiáng)大的分類能力,縮短網(wǎng)絡(luò)訓(xùn)練時(shí)間的同時(shí),提高了系統(tǒng)的識(shí)別性能,尤其在大詞匯量的語音識(shí)別中表現(xiàn)出更加明顯的優(yōu)勢(shì)。
4 結(jié)語
本文采用粒子群優(yōu)化算法來聚類RBF神經(jīng)網(wǎng)絡(luò)隱層基函數(shù)中心值和寬度,并將PSO改進(jìn)的RBF神經(jīng)網(wǎng)絡(luò)用于語音識(shí)別中。通過仿真實(shí)驗(yàn),得出了其與標(biāo)準(zhǔn)RBF神經(jīng)網(wǎng)絡(luò)在不同詞匯量和不同SNR下的語音識(shí)別結(jié)果。通過分析比較,證明了PSO優(yōu)化后的RBF神經(jīng)網(wǎng)絡(luò)有較高的識(shí)別率,且訓(xùn)練時(shí)間明顯縮短,表明神經(jīng)網(wǎng)絡(luò)方法非常適宜求解語音識(shí)別這類模式分類問題。
參考文獻(xiàn)
[1]Edmondo Trentin, Marco Gori. A survey of hybrid ANN/HMM models for automatic speech recognition[J].Neurocomputing,2001,(37):91-126.
[2]王凱.免疫粒子群改進(jìn)LBG的孤立詞語音識(shí)別算法研究[J].數(shù)字技術(shù)與應(yīng)用,2013,(1):111-113.
[3]夏妍妍,黃健,尹麗華.基于徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的語音識(shí)別[J].大連海事大學(xué)學(xué)報(bào),2007,(S1):157-159.
[4]孟艷,潘宏俠.PSO聚類和梯度算法結(jié)合的RBF神經(jīng)網(wǎng)絡(luò)優(yōu)化[J].自動(dòng)化儀表,2011,(02):6-8.
篇5
人工神經(jīng)網(wǎng)絡(luò)是在非線性經(jīng)濟(jì)預(yù)測(cè)領(lǐng)域應(yīng)用較為廣泛的一種方法。它是模擬人的大腦的一種非線性映射,不僅具有很強(qiáng)的容錯(cuò)性,而且能夠從大量的歷史數(shù)據(jù)中進(jìn)行學(xué)習(xí),從而揭示大量復(fù)雜數(shù)據(jù)中隱含的重要信息。神經(jīng)網(wǎng)絡(luò)方法已經(jīng)在很多領(lǐng)域得到了成功的應(yīng)用,在煤炭行業(yè),煤炭生產(chǎn)成本預(yù)測(cè)、煤炭需求量的預(yù)測(cè)、煤炭企業(yè)可持續(xù)發(fā)展的評(píng)價(jià)、煤炭建設(shè)項(xiàng)目投資估算、煤炭成漿濃度預(yù)測(cè)、煤炭調(diào)運(yùn)的優(yōu)化等很多方面都有神經(jīng)網(wǎng)絡(luò)模型成功應(yīng)用的案例。但是,在實(shí)際應(yīng)用中由于缺乏問題的先驗(yàn)知識(shí),往往很難找到理想的網(wǎng)絡(luò)結(jié)構(gòu),這就影響了神經(jīng)網(wǎng)絡(luò)的泛化能力。神經(jīng)網(wǎng)絡(luò)的泛化能力是指學(xué)習(xí)后的神經(jīng)網(wǎng)絡(luò)對(duì)測(cè)試樣本做出正確反應(yīng)的能力,神經(jīng)網(wǎng)絡(luò)是否成功不在于對(duì)訓(xùn)練樣本本身擬合誤差的大小,而關(guān)鍵在于其泛化效果。本文探討了神經(jīng)網(wǎng)絡(luò)集成的框架模型,并對(duì)煤炭企業(yè)的可持續(xù)發(fā)展評(píng)價(jià)進(jìn)行了實(shí)證研究,以期在提高神經(jīng)網(wǎng)絡(luò)泛化能力的同時(shí)讓這種技術(shù)更加有效地應(yīng)用于煤炭領(lǐng)域。
二、神經(jīng)網(wǎng)絡(luò)集成
1990年,Hansen和Salamon開創(chuàng)性地提出了神經(jīng)網(wǎng)絡(luò)集成,為解決神經(jīng)網(wǎng)絡(luò)泛化能力提高的問題提供了一個(gè)簡(jiǎn)易可行的方法。使用這種方法,可以簡(jiǎn)單地通過訓(xùn)練多個(gè)神經(jīng)網(wǎng)絡(luò)并將其結(jié)果進(jìn)行合成顯著地提高學(xué)習(xí)系統(tǒng)的泛化能力。1996年,Sollich和Krogh為神經(jīng)網(wǎng)絡(luò)集成下了一個(gè)定義,即“神經(jīng)網(wǎng)絡(luò)集成是用有限個(gè)神經(jīng)網(wǎng)絡(luò)對(duì)同一個(gè)問題進(jìn)行學(xué)習(xí),集成在某輸入實(shí)例下的輸出由構(gòu)成集成的各神經(jīng)網(wǎng)絡(luò)在該實(shí)例下的輸出共同決定”。目前這個(gè)定義已被廣泛接受。
1 神經(jīng)網(wǎng)絡(luò)集成個(gè)體生成方法
在生成集成個(gè)體網(wǎng)絡(luò)方面,目前最重要的技術(shù)是Boosting和Bagging。這兩種技術(shù)本身并非專為神經(jīng)網(wǎng)絡(luò)集成設(shè)計(jì),可用于多種學(xué)習(xí)模型。
Boosting是一大類算法的總稱,通過這種方法可以產(chǎn)生一系列神經(jīng)網(wǎng)絡(luò),各網(wǎng)絡(luò)的訓(xùn)練集決定于在其之前產(chǎn)生的網(wǎng)絡(luò)的表現(xiàn),被已有網(wǎng)絡(luò)錯(cuò)誤判斷的實(shí)例將以較大的概率出現(xiàn)在新網(wǎng)絡(luò)的訓(xùn)練集中。這樣,新網(wǎng)絡(luò)將能夠很好地處理對(duì)已有網(wǎng)絡(luò)來說很困難的實(shí)例。另一方面,雖然Boosting方法能夠增強(qiáng)神經(jīng)網(wǎng)絡(luò)集成的泛化能力,但是同時(shí)也有可能使集成過分偏向于某幾個(gè)特別困難的實(shí)例。因此,該方法不太穩(wěn)定,有時(shí)能起到很好的作用,有時(shí)卻沒有效果。
Bagging的基礎(chǔ)是可重復(fù)取樣。在該方法中,各神經(jīng)網(wǎng)絡(luò)的訓(xùn)練集由從原始訓(xùn)練集中隨機(jī)選取若干實(shí)例組成,訓(xùn)練實(shí)例允許重復(fù)選取。這樣,原始訓(xùn)練集中某些實(shí)例可能在新的訓(xùn)練集中出現(xiàn)多次,而另外一些實(shí)例則可能一次也不出現(xiàn)。Bagging方法通過重新選取訓(xùn)練集增加了神經(jīng)網(wǎng)絡(luò)集成的差異度,從而提高了泛化能力。
2 神經(jīng)網(wǎng)絡(luò)集成結(jié)論生成方法
當(dāng)神經(jīng)網(wǎng)絡(luò)集成用于分類器時(shí),集成的輸出通常由個(gè)體網(wǎng)絡(luò)的輸出投票產(chǎn)生。通常采用絕對(duì)多數(shù)投票法(某分類成為最終結(jié)果當(dāng)且僅當(dāng)有超過半數(shù)的神經(jīng)網(wǎng)絡(luò)輸出結(jié)果為該分類)或相對(duì)多數(shù)投票法(某分類成為最終結(jié)果當(dāng)且僅當(dāng)輸出結(jié)果為該分類的神經(jīng)網(wǎng)絡(luò)的數(shù)目最多)。理論分析和大量試驗(yàn)表明,后者優(yōu)于前者。因此,在對(duì)分類器進(jìn)行集成時(shí),目前大多采用相對(duì)多數(shù)投票法。
三、神經(jīng)網(wǎng)絡(luò)集成的框架模型
為了增強(qiáng)神經(jīng)網(wǎng)絡(luò)模型的泛化能力,筆者使用了如下圖所示的神經(jīng)網(wǎng)絡(luò)集成框架模型,模型使用了對(duì)訓(xùn)練樣本利用得比較充分的Bagging技術(shù)來產(chǎn)生個(gè)體神經(jīng)網(wǎng)絡(luò),即通過Bagging從初始訓(xùn)練集中隨機(jī)抽取出多個(gè)規(guī)模相同的訓(xùn)練集,然后為每一個(gè)訓(xùn)練集訓(xùn)練出一個(gè)神經(jīng)網(wǎng)絡(luò)個(gè)體,再結(jié)合具體應(yīng)用實(shí)際使用相應(yīng)的結(jié)論生成方法將上述多個(gè)神經(jīng)網(wǎng)絡(luò)的輸出進(jìn)行合成從而得到最初問題的結(jié)論。
四、用于煤炭企業(yè)可待續(xù)發(fā)展評(píng)價(jià)
煤炭資源屬不可再生資源,煤炭開采必然受到礦區(qū)剩余儲(chǔ)量的制約,煤炭企業(yè)遲早要面臨資源衰竭。因而,煤炭企業(yè)的可持續(xù)發(fā)展問題日益突出,國內(nèi)外學(xué)術(shù)界和決策部門為此進(jìn)行了大量的探索,特別是在煤炭企業(yè)可持續(xù)發(fā)展水平評(píng)價(jià)上,開展了不少的研究。應(yīng)用神經(jīng)網(wǎng)絡(luò)集成模型對(duì)煤炭企業(yè)可持續(xù)發(fā)展水平進(jìn)行評(píng)價(jià),可以避免復(fù)雜的數(shù)學(xué)推導(dǎo),在樣本缺損和參數(shù)漂移的情況下,仍能保證得到穩(wěn)定的結(jié)果,同時(shí),也有效回避經(jīng)典的可持續(xù)發(fā)展評(píng)價(jià)方法(如層次分析法、模糊數(shù)學(xué)和主成分分析法等)無法回避的經(jīng)驗(yàn)知識(shí)以及決策者個(gè)人主觀意向所起的作用,集成學(xué)習(xí)的方法也保證了模型的泛化能力,這對(duì)解決煤炭企業(yè)全局性的決策規(guī)劃是大有裨益的。
實(shí)際操作中,可以先按照煤炭企業(yè)可持續(xù)發(fā)展的涵義和指標(biāo)體系設(shè)計(jì)的原則結(jié)合已有的研究成果構(gòu)建評(píng)價(jià)指標(biāo)體系;然后根據(jù)所評(píng)價(jià)的問題,結(jié)合具體的神經(jīng)網(wǎng)絡(luò)算法建立煤炭企業(yè)可持續(xù)發(fā)展神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)模型;接下來對(duì)訓(xùn)練樣本采用Bagging方法進(jìn)行處理,然后為每個(gè)訓(xùn)練樣本訓(xùn)練出一個(gè)神經(jīng)網(wǎng)絡(luò)模型,對(duì)這些訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型的輸出采用相應(yīng)的結(jié)論生成方法進(jìn)行合并,最后得到模型輸出的最終評(píng)價(jià)結(jié)果。
1 煤炭企業(yè)可持續(xù)發(fā)展評(píng)價(jià)指標(biāo)體系
對(duì)于煤炭企業(yè)可持續(xù)發(fā)展評(píng)價(jià)指標(biāo)體系的建立,目前有不少科研機(jī)構(gòu)和學(xué)者進(jìn)行了大量的研究,但煤炭企業(yè)可持續(xù)發(fā)展的度量和評(píng)估還未達(dá)成共識(shí),還需有較大的改善。但作為煤炭企業(yè),在研究其可持續(xù)發(fā)展時(shí),應(yīng)該包括生態(tài)持續(xù)、經(jīng)濟(jì)持續(xù)和社會(huì)持續(xù)等方面內(nèi)容,并從煤炭企業(yè)的實(shí)際需要和可能出發(fā),我們把煤炭企業(yè)可持續(xù)發(fā)展評(píng)價(jià)指標(biāo)體系劃分為三個(gè)層次,即目標(biāo)層、準(zhǔn)則層和指標(biāo)層,如表1所示。
經(jīng)過訓(xùn)練學(xué)習(xí),評(píng)價(jià)網(wǎng)絡(luò)可以輸出衡量可持續(xù)發(fā)展水平的評(píng)價(jià)值O,為明確煤炭企業(yè)可持續(xù)發(fā)展水平,設(shè)可持續(xù)發(fā)展?fàn)顟B(tài)分為四級(jí):一級(jí)為可持續(xù)發(fā)展;二級(jí)為初級(jí)可持續(xù)發(fā)展;三級(jí)為由傳統(tǒng)發(fā)展向可持續(xù)發(fā)展過渡,四級(jí)為傳統(tǒng)發(fā)展。
2 煤炭企業(yè)可持續(xù)發(fā)展評(píng)價(jià)神經(jīng)網(wǎng)絡(luò)集成模型
(1)神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)模型的建立
設(shè)可持續(xù)發(fā)展評(píng)價(jià)時(shí)采用的指標(biāo)集合為I,評(píng)價(jià)企業(yè)的非空有限集合為U,Iu,表示評(píng)價(jià)企業(yè)u在指標(biāo)集I上的取值,Ou表示評(píng)價(jià)企業(yè)u對(duì)應(yīng)的可持續(xù)發(fā)展評(píng)價(jià)結(jié)果,則Ou是在一定的可持續(xù)發(fā)展評(píng)價(jià)準(zhǔn)則下獲得的,即:
Ou=EVA(Iu)
對(duì)所有的評(píng)價(jià)企業(yè)而言,上式可以表達(dá)為:
O=EVA(I)
由上式構(gòu)造BP神經(jīng)網(wǎng)絡(luò)模型,以I為輸入向量,O為輸出向量,即為IO映射模型。本文中設(shè)置神經(jīng)網(wǎng)絡(luò)的輸出神經(jīng)元個(gè)數(shù)為2,分別以[0,0]、[0,1]、[1,0]、[1 11]代表企業(yè)可持續(xù)發(fā)展的四級(jí)狀態(tài)。通過大量煤炭企業(yè)可持續(xù)發(fā)展評(píng)價(jià)的實(shí)例數(shù)據(jù)的收集,用樣本(I,O)對(duì)其進(jìn)行訓(xùn)練,BP神經(jīng)網(wǎng)絡(luò)即可學(xué)習(xí)煤炭企業(yè)可持續(xù)發(fā)展的評(píng)價(jià)準(zhǔn)則,在給定的誤差要求下,當(dāng)網(wǎng)絡(luò)學(xué)習(xí)完成后,仟意給定煤炭企業(yè)可持續(xù)發(fā)展評(píng)價(jià)的指標(biāo)值向量I,神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)模型將給出其可持續(xù)發(fā)展結(jié)論O,從而完成對(duì)煤炭企業(yè)可持續(xù)發(fā)展的評(píng)價(jià)。
(2)神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)模型的訓(xùn)練
本文將所獲得的煤炭企業(yè)可持續(xù)發(fā)展評(píng)價(jià)的數(shù)據(jù)按訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集分為兩部分,應(yīng)用Matlab 7中神經(jīng)網(wǎng)絡(luò)工具箱提供的函數(shù)對(duì)建立的訓(xùn)練數(shù)據(jù)集進(jìn)行訓(xùn)練,I和O分別表示訓(xùn)練數(shù)據(jù)集的輸入和輸出,測(cè)試數(shù)據(jù)集的輸入和輸出分別為I′和O′,網(wǎng)絡(luò)訓(xùn)練完成后,將I′輸入該網(wǎng)絡(luò),Ol為模型識(shí)別后的輸出結(jié)果。設(shè)定訓(xùn)練終止次數(shù)為100次,訓(xùn)練終止誤差為10-2,訓(xùn)練函數(shù)為TRAINLM,經(jīng)反復(fù)試驗(yàn)網(wǎng)絡(luò)在隱層神經(jīng)元個(gè)數(shù)為26個(gè)、經(jīng)68次訓(xùn)練達(dá)到誤差要求。然后將O+與O′進(jìn)行比較,選取均方差MSE、隱層結(jié)點(diǎn)數(shù)Nh總評(píng)價(jià)錯(cuò)誤率做為檢驗(yàn)?zāi)P偷闹笜?biāo)。表2所示為訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)模型N的檢驗(yàn)指標(biāo)。
(3)神經(jīng)網(wǎng)絡(luò)集成評(píng)價(jià)模型
在神經(jīng)網(wǎng)絡(luò)集成識(shí)別模型中,個(gè)體神經(jīng)網(wǎng)絡(luò)的輸入、輸出向量的維數(shù)相同,結(jié)論合成方法采用相對(duì)多數(shù)投票法。先生成10個(gè)BP網(wǎng)絡(luò)作為神經(jīng)網(wǎng)絡(luò)集成的個(gè)體網(wǎng)絡(luò),這些網(wǎng)絡(luò)的輸出神經(jīng)元分別表示可持續(xù)發(fā)展評(píng)價(jià)的結(jié)論。通過Matlab對(duì)神經(jīng)網(wǎng)絡(luò)集成識(shí)別模型進(jìn)行仿真,神經(jīng)網(wǎng)絡(luò)集成評(píng)價(jià)模型的檢驗(yàn)指標(biāo)如表3所示。
按圖1的流程利用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)集成對(duì)測(cè)試集進(jìn)行識(shí)別,總評(píng)價(jià)錯(cuò)誤率為9.2%,這個(gè)指標(biāo)遠(yuǎn)遠(yuǎn)優(yōu)于表2中的單一神經(jīng)網(wǎng)絡(luò)。實(shí)證研究的結(jié)果表明神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)的評(píng)價(jià)模型可以在很大程度上提高神經(jīng)網(wǎng)絡(luò)模型的泛化能力。
篇6
[關(guān)鍵詞]人工神經(jīng)網(wǎng)絡(luò);旅游物流;需求預(yù)測(cè)
[DOI]1013939/jcnkizgsc201538051
1引言
旅游物流對(duì)廣西地區(qū)經(jīng)濟(jì)的發(fā)展至關(guān)重要,準(zhǔn)確把握、預(yù)測(cè)旅游物流需求有助于有關(guān)部門制定合理的旅游物流規(guī)劃、促進(jìn)國民經(jīng)濟(jì)可持續(xù)發(fā)展、提高居民生活水平。國內(nèi)學(xué)者通過一定的方法和模型確定了影響旅游物流能力的關(guān)鍵要素,為旅游物流需求的預(yù)測(cè)提供了一定的理論基礎(chǔ),而在物流需求預(yù)測(cè)方面也提出了很多如時(shí)間序列模型、灰色預(yù)測(cè)、回歸分析等具有創(chuàng)新性和實(shí)踐意義的方法。由于旅游物流具有的獨(dú)特性和負(fù)責(zé)性使得這些模型及分析方法在前提條件、適用范圍和側(cè)重點(diǎn)的選取方面具有一定的困難,因此在實(shí)際應(yīng)用中各有利弊。人工神經(jīng)網(wǎng)絡(luò)可以將定量或定性的信息等勢(shì)的分布貯存于網(wǎng)絡(luò)內(nèi)的各神經(jīng)元,有很強(qiáng)的魯棒性和容錯(cuò)性,通過建立基于人工神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型,利用Braincell軟件進(jìn)行計(jì)算以期達(dá)到精確預(yù)測(cè)旅游物流需求的目的。
2旅游物流的需求界定
經(jīng)過多年的發(fā)展,關(guān)于旅游物流需求的定義至今仍沒有一個(gè)令各方滿意的結(jié)論。物流服務(wù)貫穿了整個(gè)旅游活動(dòng)過程中,旅游物流可以看作為了使旅游消費(fèi)者獲得更好地滿足感和旅游體驗(yàn),與旅游相關(guān)的主體提供讓旅游消費(fèi)者更為暢通流動(dòng)的旅游服務(wù),與此相應(yīng)的旅游物流的能力指提供的旅游服務(wù)內(nèi)容以及相關(guān)主體使用物流設(shè)施對(duì)旅游物流活動(dòng)進(jìn)行計(jì)劃、組織、協(xié)調(diào)和控制的能力,到旅游物流的具體環(huán)節(jié),可以從涉及旅游者的吃、住、行、購、游、娛等方面界定旅游相關(guān)主體運(yùn)用物流設(shè)施為游客提供旅游服務(wù)的能力。文中對(duì)旅游物流需求的預(yù)測(cè)可以從往年的旅游物流能力方面進(jìn)行預(yù)測(cè),通過準(zhǔn)確的預(yù)測(cè)旅游物流需求可以較好地規(guī)劃未來年份旅游業(yè)發(fā)展方向,對(duì)物流設(shè)施和設(shè)備進(jìn)行準(zhǔn)確的投入,減少資源的浪費(fèi)及設(shè)施投入不足的狀況。
旅游物流能力是指旅游服務(wù)主體向旅游消費(fèi)者從“吃、住、行、購、游、娛”6個(gè)方面提供服務(wù)的能力,旅游物流需求可根據(jù)這6方面來選取指標(biāo),但是旅游物流需求預(yù)測(cè)的準(zhǔn)確性不僅受到旅游物流的獨(dú)特性的制約,還受到一些客觀性條件的影響。如物流統(tǒng)計(jì)制度不健全,目前,我國仍沒有建立系統(tǒng)全面的物流統(tǒng)計(jì)制度,更沒有涉及旅游物流領(lǐng)域;物流統(tǒng)計(jì)沒有涉及物流活動(dòng)的全過程;物流統(tǒng)計(jì)指標(biāo)過于單一。此外,國內(nèi)只有基本的貨物運(yùn)輸量和貨物周轉(zhuǎn)量統(tǒng)計(jì),其他與物流相關(guān)的指標(biāo)沒有公開的統(tǒng)計(jì)資料,也沒有權(quán)威的統(tǒng)計(jì)方法和基礎(chǔ)數(shù)據(jù),致使物流需求預(yù)測(cè)不能通過直接指標(biāo)來衡量需求規(guī)模的大小。
3基于神經(jīng)網(wǎng)絡(luò)的旅游物流需求預(yù)測(cè)模型的建立
神經(jīng)網(wǎng)絡(luò)具有非線性、曲線擬合能力、學(xué)習(xí)能力和抗干擾能力,是一種通用的非線性函數(shù)逼近工具。通過對(duì)BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,特別適用于構(gòu)造非線性預(yù)測(cè)函數(shù),而且精度可達(dá)到預(yù)定的要求。
31預(yù)測(cè)領(lǐng)域中的BP神經(jīng)網(wǎng)絡(luò)模型簡(jiǎn)介
BP神經(jīng)網(wǎng)絡(luò)通過正向輸入,反向傳播誤差不斷迭代的學(xué)習(xí)過程,直到誤差減到可以接受的程度。一般包括輸入層、隱含層和輸出層的單隱含層網(wǎng)絡(luò)就能以任意精度表示并揭示任何連續(xù)函數(shù)所蘊(yùn)含的非線性關(guān)系。其中:
(1)工作信號(hào)正向傳播。輸入信號(hào)從輸入層經(jīng)過隱含層,傳向輸出層,在輸出端產(chǎn)生輸出信號(hào),這是工作信號(hào)的正向傳播。在信號(hào)的正向傳播過程中網(wǎng)絡(luò)的權(quán)值是固定不變的,上一層神經(jīng)元的只影響下一層神經(jīng)元的狀態(tài),即正向影響。如果在輸出層不能得到期望的輸出,則轉(zhuǎn)入誤差信號(hào)反向傳播。
(2)誤差信號(hào)反向傳播。網(wǎng)絡(luò)的實(shí)際的輸出與所期望的輸出之間差值即為誤差信號(hào),誤差信號(hào)由輸出端開始逐層向前傳播,即誤差信號(hào)的反向傳播。在誤差信號(hào)反向傳播中,神經(jīng)網(wǎng)絡(luò)的權(quán)值根據(jù)誤差的反饋進(jìn)行調(diào)節(jié)。通過不斷地對(duì)權(quán)值的修正,使實(shí)際輸出更加接近期望輸出。
(3)預(yù)測(cè)神經(jīng)網(wǎng)絡(luò)流程。通過了解工作信號(hào)與誤差信號(hào)的傳播方向,可以清楚地了解預(yù)測(cè)神經(jīng)網(wǎng)絡(luò)的工作流程。預(yù)測(cè)開始時(shí)神經(jīng)網(wǎng)絡(luò)讀入樣本、權(quán)值,通過計(jì)算輸入層的輸入得出結(jié)果傳遞到輸出層,在輸出層進(jìn)行計(jì)算,最后在計(jì)算輸出值與期望值的誤差。若誤差小于確定值則計(jì)算結(jié)束,若誤差大于確定值則繼續(xù)回到前兩層進(jìn)行權(quán)值調(diào)整,把調(diào)整后的權(quán)值重新輸入到模型中,直到誤差小于設(shè)定的確定值。
本文應(yīng)用Braincell神經(jīng)網(wǎng)絡(luò)軟件來實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的計(jì)算與分析。
32BrainCell軟件及實(shí)現(xiàn)
321BrainCell 神經(jīng)網(wǎng)絡(luò)基本原理
BrainCell 神經(jīng)網(wǎng)絡(luò)采用誤差反向傳播學(xué)習(xí)算法,算法從兩個(gè)方面(信號(hào)的前向傳播和誤差的反向傳播)反復(fù)進(jìn)行迭代學(xué)習(xí),與神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模式基本原理相同。
322BrainCell 神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)步驟
(1)數(shù)據(jù)的預(yù)處理和后處理。為方便的計(jì)算減少誤差,保證數(shù)據(jù)同一量綱,需要將數(shù)據(jù)歸一化為區(qū)域[0,1]之間數(shù)據(jù)。在實(shí)際的預(yù)測(cè)模型中當(dāng)數(shù)據(jù)接近0或1的時(shí)候訓(xùn)練效果會(huì)明顯下降。因此,為了避免數(shù)據(jù)落入最大飽和區(qū),保持?jǐn)?shù)據(jù)的原有特征,根據(jù)經(jīng)驗(yàn)將數(shù)據(jù)規(guī)范到[015,085]來進(jìn)行修正。模型中采用反歸一化處理輸出數(shù)據(jù)。
(2)網(wǎng)絡(luò)層數(shù)目的確定。由Kolmogorov定理可知,含有一個(gè)神經(jīng)元隱含層的三層神經(jīng)網(wǎng)絡(luò)可以從任意精度逼近一個(gè)從輸入到輸出的映射關(guān)系,因此在Braincell神經(jīng)網(wǎng)絡(luò)中采用含有單隱層的三層神經(jīng)網(wǎng)絡(luò)[2]。
(3)網(wǎng)絡(luò)節(jié)點(diǎn)的確定。輸入層節(jié)點(diǎn)的多少與評(píng)價(jià)指標(biāo)個(gè)數(shù)是相對(duì)應(yīng)的。
(4)網(wǎng)絡(luò)訓(xùn)練。假設(shè)訓(xùn)練樣例是形式(x,y),其中x為輸入向量,y為輸出值。N為輸入節(jié)點(diǎn)數(shù),M為輸出層節(jié)點(diǎn)數(shù)。從單位i到單位j的輸入表示xij,單位i 到單位j的權(quán)值表示W(wǎng)ij。一是創(chuàng)建具有N 個(gè)輸入單位,M 個(gè)輸出單位的BrainCell 神經(jīng)網(wǎng)絡(luò);二是用隨機(jī)數(shù)(0 或1)初始化某些數(shù)字變量網(wǎng)絡(luò)權(quán)值Wij;三是對(duì)于第k個(gè)訓(xùn)練樣例(a,b),把入跟著網(wǎng)絡(luò)前向傳播,并計(jì)算網(wǎng)絡(luò)中每個(gè)單元x的輸出Qx,使誤差沿著反向傳播;四是對(duì)于每個(gè)輸出單元u,計(jì)算它的誤差項(xiàng);五是對(duì)于每個(gè)隱含單元h,計(jì)算它的誤差項(xiàng);六是利用誤差項(xiàng)更新調(diào)整每個(gè)網(wǎng)絡(luò)權(quán)值;七是重復(fù)三到六點(diǎn),直到完成指定的迭代次數(shù)或者是其誤差值達(dá)到可接受的范圍。
33神經(jīng)網(wǎng)絡(luò)的旅游物流需求預(yù)測(cè)模型的建立
331模型中數(shù)據(jù)指標(biāo)確定
目前我國仍沒有健全的物流統(tǒng)計(jì)制度,因此實(shí)際工作中收集旅游物流需求數(shù)據(jù)十分困難。這里采用間接指標(biāo)法――利用與旅游物流需求相關(guān)的經(jīng)濟(jì)指標(biāo)來建立旅游物流需求的經(jīng)濟(jì)指標(biāo)體系,通過數(shù)學(xué)的方法進(jìn)行總結(jié)與推導(dǎo),確定旅游物流需求模型。
旅游物流需求是一種派生需求,這種需求的大小與其本身發(fā)展有著密切的關(guān)系。從宏觀層面上考慮主要有內(nèi)外兩部分因素:旅游業(yè)自身發(fā)展的狀況及外部環(huán)境的影響。從微觀層面來說,旅游業(yè)自身發(fā)展的狀況是旅游物流需求的關(guān)鍵因素。旅游業(yè)產(chǎn)值越高,旅游物流需求增長(zhǎng)隨之增加,反之亦然。由此,本文選取旅游總收入和接待人數(shù)作為預(yù)測(cè)旅游物流需求的指標(biāo)。其次,影響旅游物流的其他關(guān)鍵因素就是旅游行業(yè)本身所投入的設(shè)施、人員、公路鐵路旅客周轉(zhuǎn)量等因素。根據(jù)旅游物流能力的理解從“吃、住、行、購、游、娛”等方面進(jìn)行指標(biāo)的選取,如“吃、住”方面使用餐飲住宿從業(yè)人數(shù)、星級(jí)飯店數(shù)目衡量;“行”使用公路、鐵路旅客的周轉(zhuǎn)量來衡量等;“游”則使用旅行社從業(yè)人數(shù)等方面來衡量。這些因素都對(duì)行業(yè)的產(chǎn)值有較大的影響。因此,在模型中可將這些相關(guān)經(jīng)濟(jì)指標(biāo)作為旅游物流需求規(guī)模的影響因素。由此可選擇如下輸入層指標(biāo):星級(jí)飯店數(shù)X1、接待入境旅游者平均每人消費(fèi)額X2、餐飲住宿業(yè)從業(yè)人數(shù)X3、旅行社從業(yè)人數(shù)X4、鐵路旅客周轉(zhuǎn)量X5、公路旅客周轉(zhuǎn)量X6、旅游部門游船年末實(shí)有船數(shù)X7,旅游部門旅游客車年末實(shí)有數(shù)X8,共有8個(gè)。而把旅游業(yè)的年收入Y1與年接待入境旅游者人數(shù)Y2作為物流需求預(yù)測(cè)的目標(biāo)。
332數(shù)據(jù)來源
本文選取的數(shù)據(jù)資料來源于廣西壯族自治區(qū)歷年統(tǒng)計(jì)年鑒、中國統(tǒng)計(jì)年鑒、中國旅游年鑒,如表1所示。根據(jù)樣本數(shù)據(jù)選取原則,將2005年和2012年的數(shù)據(jù)作為網(wǎng)絡(luò)測(cè)試樣本,最后用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)2014―2016年的物流需求規(guī)模。
333廣西旅游物流需求的BP人工神經(jīng)網(wǎng)絡(luò)模型
(1)樣本數(shù)據(jù)的歸一化處理。選取X1,X2,X3,X4,X5,X6,X7,X8作為廣西旅游物流需求預(yù)測(cè)BP人工神經(jīng)網(wǎng)絡(luò)模型的輸入,Y1,Y2為BP網(wǎng)絡(luò)的輸出。根據(jù)BP 的本身特點(diǎn),對(duì)輸入層數(shù)據(jù)進(jìn)行歸一化時(shí),采用如下公式:y=log[JB((]x[JB))]/10。對(duì)輸出層數(shù)據(jù)則使用歸反一化處理,公式如下:P=log[JB((]tT[JB))]/10。
(2)網(wǎng)絡(luò)節(jié)點(diǎn)的確定。根據(jù)構(gòu)建好的評(píng)價(jià)指標(biāo)體系,可以確定輸入層的節(jié)點(diǎn)數(shù)為8,輸出層的指標(biāo)數(shù)為2。
(3)網(wǎng)絡(luò)訓(xùn)練。以traindx作為訓(xùn)練函數(shù),利用matlab計(jì)算??芍谧畲笥?xùn)練次數(shù)為200次,目標(biāo)誤差為001,學(xué)習(xí)率設(shè)置為003,誤差曲線收斂于目標(biāo)001,進(jìn)過45次迭代后,網(wǎng)絡(luò)達(dá)到目標(biāo)要求,訓(xùn)練誤差圖見下圖。
訓(xùn)練誤差圖
通過設(shè)置的數(shù)據(jù),使用Braincell軟件對(duì)數(shù)據(jù)進(jìn)行訓(xùn)練,選取全部數(shù)據(jù)作為樣本數(shù)據(jù)組,2010―2013年的樣本作為將預(yù)測(cè)樣本,輸入模型可得2010―2013年的預(yù)測(cè)值見表2。
據(jù)表3可以看出,預(yù)測(cè)效果較好,一般來說,對(duì)于經(jīng)濟(jì)指標(biāo)的預(yù)測(cè),誤差能夠控制在3%以內(nèi)就算比較準(zhǔn)確。因此,基于與旅游物流相關(guān)的其他經(jīng)濟(jì)數(shù)據(jù)來建立BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)旅游物流需求有一定的實(shí)用價(jià)值。
4結(jié)論
根據(jù)人工神經(jīng)網(wǎng)絡(luò)理論建立的旅游物流需求預(yù)測(cè)模型,通過Braincell神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)特征,運(yùn)用traindx函數(shù)進(jìn)行訓(xùn)練,在訓(xùn)練過程中對(duì)權(quán)值進(jìn)行不斷修正,誤差比率控制合適的在范圍內(nèi),使網(wǎng)絡(luò)的實(shí)際輸出向量逐漸地接近期望的輸出值。最后把仿真的預(yù)測(cè)結(jié)果與真實(shí)量進(jìn)行初步比較分析,得出的結(jié)果能夠證明使用神經(jīng)網(wǎng)絡(luò)模型對(duì)旅游物流的預(yù)測(cè)精度較高。因此可以得出以下的結(jié)論:用BP神經(jīng)網(wǎng)絡(luò)建立模型,可以準(zhǔn)確地把與旅游物流相關(guān)的經(jīng)濟(jì)數(shù)據(jù)與目標(biāo)本身的需求量進(jìn)行結(jié)合,可得到較為精準(zhǔn)的旅游物流需求預(yù)測(cè)值。由此可以推斷,人工神經(jīng)網(wǎng)絡(luò)作為高度的非線性體系,能夠?qū)?jīng)濟(jì)系統(tǒng)中個(gè)變量之間的非線性關(guān)系進(jìn)行高精度的預(yù)測(cè),將其運(yùn)用在物流領(lǐng)域中的應(yīng)用具有更加廣闊的發(fā)展?jié)摿Α?/p>
參考文獻(xiàn):
[1]王新利,趙琨基于神經(jīng)網(wǎng)絡(luò)的農(nóng)產(chǎn)品物流需求預(yù)測(cè)研究[J].農(nóng)業(yè)技術(shù)經(jīng)濟(jì),2010(2):64-66
[2]秦立公,韋金榮等基于BrainCell 的B2B 電子商務(wù)供應(yīng)鏈協(xié)同績(jī)效評(píng)價(jià)體系[J].中國集體經(jīng)濟(jì),2014(15):112-113
[3]張圣楠,郭文義,等基于MATLAB的BP神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)與訓(xùn)練[J].內(nèi)蒙古科技與經(jīng)濟(jì),2005(17):96-98
[4]熊勛人工神經(jīng)網(wǎng)絡(luò)在環(huán)境質(zhì)量評(píng)價(jià)和預(yù)測(cè)中的應(yīng)用研究[D].武漢:華中科技大學(xué),2009
[5]白平,陳菊紅基于旅游物流能力的西部旅游發(fā)展研究[J].新疆大學(xué)學(xué)報(bào),2013(41):16-17
[6]秦立公,王東,等旅游景區(qū)物流能力優(yōu)化研究[J].現(xiàn)代商業(yè),2010(24):47
篇7
人臉識(shí)別是指利用計(jì)算機(jī)分析人臉圖像,在安全系統(tǒng)、刑偵方面有非常大的應(yīng)用空間,本文主要分析基于子圖分割和BP神經(jīng)網(wǎng)絡(luò)的人臉識(shí)別研究,證明該方法運(yùn)行速度快、效果好,具有使用價(jià)值。
【關(guān)鍵詞】人臉識(shí)別 子圖分割 BP神經(jīng)網(wǎng)絡(luò)
當(dāng)前人臉識(shí)別已經(jīng)發(fā)展到三維的復(fù)雜背景的人臉識(shí)別,所涉及的背景也是更加復(fù)雜,在人臉識(shí)別的的研究中存在不少的困難,本文主要基于子圖分割思想和BP神經(jīng)網(wǎng)絡(luò)的開發(fā),構(gòu)建人臉識(shí)別流程,希望能為人臉識(shí)別提供一些參考。
1 子圖分割和BP神經(jīng)網(wǎng)絡(luò)概述
子圖分割思想是將原始的人臉圖像轉(zhuǎn)化為灰度矩陣,把分割的子圖進(jìn)行奇異值分解變化,進(jìn)而歸一化處理。神經(jīng)網(wǎng)絡(luò)有很多簡(jiǎn)單單元組成,屬于并行的分布式系統(tǒng),具有自組織學(xué)習(xí)的優(yōu)點(diǎn)。BP算法主要是推算前導(dǎo)層的誤差,進(jìn)而得到其他各層的誤差估計(jì),BP神經(jīng)網(wǎng)絡(luò)當(dāng)前存在些問題,理論研究還不夠完善,想要提高人臉圖像的識(shí)別率,還需要進(jìn)行改進(jìn)和完善。
2 基于子圖分割和BP神經(jīng)網(wǎng)絡(luò)的人臉識(shí)別方法構(gòu)建
基于子圖分割和BP神經(jīng)網(wǎng)路的人臉識(shí)別框架圖包括訓(xùn)練過程和識(shí)別過程,主要包括人臉圖像的載入、預(yù)處理、特征圖像的提取以及識(shí)別等步驟。
2.1 試驗(yàn)環(huán)境
試驗(yàn)硬件主要是1.6GHzCPU,內(nèi)存512MB,編程工具為Matlab7.0平臺(tái),這種編程平臺(tái)語法結(jié)構(gòu)簡(jiǎn)單,圖像功能比較完善,方便開展神經(jīng)網(wǎng)絡(luò)訓(xùn)練。
人臉圖像樣本庫采用劍橋大學(xué)的ORL人臉數(shù)據(jù)庫,實(shí)驗(yàn)者拍攝不同的圖像,由于拍攝的時(shí)間不同,各個(gè)圖像之間在光照、臉部以及面部表情等方面存在很多的不同。在本研究中采用200幅圖像作為樣本庫。
2.2 特征提取
為控制神經(jīng)網(wǎng)絡(luò)的輸入層節(jié)點(diǎn)數(shù),對(duì)人臉圖像進(jìn)行壓縮,在提取人臉特征時(shí)先將人臉圖像轉(zhuǎn)化為灰度矩陣,選擇子圖的最大奇異值,歸一化處理。依照子圖分割影響,將人臉圖像分割成16維、32維、48維。經(jīng)過子圖分割后,圖像矩陣大小相等,組合每個(gè)子圖矩陣的最大奇異值,歸一化處理組合后的向量。
在設(shè)計(jì)中將BP神經(jīng)網(wǎng)絡(luò)作為識(shí)別分類器,輸入層節(jié)點(diǎn)由特征向量的維數(shù)決定,試驗(yàn)研究中輸入層節(jié)點(diǎn)數(shù)根據(jù)上文確定的人臉分割圖像維度分別為16、32、48。在隱含層數(shù)的選擇中,增加隱含層可以進(jìn)一步降低誤差,但是也會(huì)導(dǎo)致神經(jīng)網(wǎng)絡(luò)更加復(fù)雜化。增加隱含層節(jié)點(diǎn)數(shù)也會(huì)提高訓(xùn)練的誤差精度,更加易于觀察和調(diào)整。BP神經(jīng)網(wǎng)絡(luò)的隱含層的選擇也會(huì)影響神經(jīng)網(wǎng)絡(luò)的性能,若是節(jié)點(diǎn)過少,可能訓(xùn)練不出來,若是節(jié)點(diǎn)過高,會(huì)增加一次訓(xùn)練的時(shí)間,降低神經(jīng)網(wǎng)絡(luò)分類器的推廣,在本試驗(yàn)中層內(nèi)節(jié)點(diǎn)數(shù)設(shè)定為40、60、80。
確定訓(xùn)練數(shù)據(jù)和拓?fù)浣Y(jié)構(gòu)后,就能確定傳遞函數(shù),由于神經(jīng)網(wǎng)絡(luò)是非線性的,若是初始權(quán)值過大,會(huì)導(dǎo)致導(dǎo)數(shù)過小,一般情況下,要求初始加權(quán)后的神經(jīng)元都不接近零。因此神經(jīng)網(wǎng)絡(luò)的初始權(quán)值確定為[-1,1]。神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)訓(xùn)練中受到學(xué)習(xí)速率η影響,若是速率較小,時(shí)間就會(huì)比較長(zhǎng),若是速率過大,就難以得到恰當(dāng)?shù)闹?。在本?shí)驗(yàn)中設(shè)定學(xué)習(xí)速率為0.01,得到較快的收斂速度。
傳遞函數(shù)設(shè)定為雙曲面正切S型函數(shù),若是輸入向量不合適,會(huì)導(dǎo)致輸出函數(shù)斜率無線接近零,若是無法得到最優(yōu)值會(huì)使得訓(xùn)練結(jié)束。權(quán)值大小與幅值無關(guān)的修正值密切相關(guān),本試驗(yàn)中采用彈性梯度下降算法,增量因子和減量因子分別設(shè)置為1.2和0.5.人臉識(shí)別程序主要代碼包括讀入人臉圖像M=double(imread(e)),根據(jù)特征矩陣對(duì)抽樣訓(xùn)練集進(jìn)行歸一化處理,構(gòu)建BP神經(jīng)網(wǎng)絡(luò),num_train=5;func_hidden=tansig,調(diào)用MATLAB神經(jīng)網(wǎng)絡(luò)工具箱,構(gòu)建BP神經(jīng)網(wǎng)絡(luò)[netl,trl]=train(net,pnl,tl),用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)進(jìn)行識(shí)別result _test=sim(net2,pnewn),[C,I]=max(result_test)確定測(cè)試集圖像數(shù)目count_test=count_test+1;計(jì)算識(shí)別率Test_reg=conut_test/total_test。
2.3 試驗(yàn)結(jié)果
對(duì)不同輸入層特征向量個(gè)數(shù)和隱含層節(jié)點(diǎn)數(shù)進(jìn)行試驗(yàn),訓(xùn)練集數(shù)目、測(cè)試集數(shù)目均為5,隱含層到輸入層的傳遞函數(shù)為purelin,BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練目標(biāo)為0.001,學(xué)習(xí)效率為0.01,結(jié)果表示輸入層特征向量32個(gè),人臉識(shí)別率最高為86.5%,增加特征向量的個(gè)數(shù)能夠提高人臉識(shí)別率,增加神經(jīng)網(wǎng)絡(luò)的隱含層節(jié)點(diǎn)數(shù),能夠提高人臉識(shí)別率。
3 結(jié)束語
綜上所述,本文主要分析構(gòu)建子圖分割和BP神經(jīng)網(wǎng)絡(luò)的人臉識(shí)別方法,試驗(yàn)表明該方法人臉識(shí)別率比較好,由于研究時(shí)間比較短,基于ORL人臉圖像樣本庫,范圍比較小,還不能很好的解決光照強(qiáng)弱等問題,會(huì)受到網(wǎng)絡(luò)參數(shù)很大的影響,這些還需要人們更多的研究。
參考文獻(xiàn)
[1]馮玉涵.BP神經(jīng)網(wǎng)絡(luò)在人臉識(shí)別中的應(yīng)用研究[J].計(jì)算機(jī)光盤軟件與應(yīng)用,2014(02):152+154.
[2]吳岸雄.基于RBF神經(jīng)網(wǎng)絡(luò)的人臉識(shí)別方法[J].肇慶學(xué)院學(xué)報(bào),2014(02):27-31.
[3]許S. 基于子圖分割和神經(jīng)網(wǎng)絡(luò)的人臉識(shí)別研究[D].中山大學(xué),2010.
作者簡(jiǎn)介
唐守軍(1980-),男 ,山東省淄博市人?,F(xiàn)為廣東開放大學(xué)、廣東理工職業(yè)學(xué)院講師。主要研究方向?yàn)樯窠?jīng)網(wǎng)絡(luò)、數(shù)據(jù)庫性能優(yōu)化、人臉識(shí)別。
作者單位
篇8
是以研究以模擬人體神經(jīng)系統(tǒng)的運(yùn)動(dòng)行為,建立神經(jīng)網(wǎng)絡(luò)基本特征的一種神經(jīng)網(wǎng)絡(luò)系統(tǒng)運(yùn)算算法。這種算法可在計(jì)算機(jī)上,通過硬件與軟件的相互配合來實(shí)現(xiàn),也可以在神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)上更加快捷的實(shí)現(xiàn),最終可以實(shí)現(xiàn)智能計(jì)算機(jī)終端智能運(yùn)算的目標(biāo)。神經(jīng)網(wǎng)絡(luò)系統(tǒng)是由大量的神經(jīng)元--簡(jiǎn)單的信息處理單元,按特定的配對(duì)方式相互構(gòu)成,神經(jīng)元之間的信息傳遞和儲(chǔ)存,依照一定的規(guī)則進(jìn)行,網(wǎng)絡(luò)連接規(guī)則以及數(shù)據(jù)存儲(chǔ)方式有一定的穩(wěn)定性與匹配性,即具有學(xué)習(xí)和訓(xùn)練的特定效果。
1.1神經(jīng)網(wǎng)絡(luò)系統(tǒng)模型與應(yīng)用范圍
有反饋網(wǎng)絡(luò)模型。有反饋網(wǎng)絡(luò)也稱回(遞)歸網(wǎng)絡(luò),在這這當(dāng)中,多個(gè)神經(jīng)元互聯(lián)以組成一個(gè)互連神經(jīng)網(wǎng)絡(luò)。有些神經(jīng)元的輸出被反饋至同層或前層神經(jīng)元,因此,信號(hào)能夠從正向和反向流通。
1.2神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)
在決定采用神經(jīng)網(wǎng)絡(luò)技術(shù)之前,應(yīng)首先考慮是否有必要采用神經(jīng)網(wǎng)絡(luò)來解決問題。一般地,神經(jīng)網(wǎng)絡(luò)與經(jīng)典計(jì)算方法相比并非優(yōu)越。只有當(dāng)常規(guī)方法無法解決或效果不佳時(shí)神經(jīng)網(wǎng)絡(luò)才能顯示出其優(yōu)越性。尤其是當(dāng)問題的機(jī)理等規(guī)律不甚了解,或不能用數(shù)學(xué)模型表示的系統(tǒng),神經(jīng)網(wǎng)絡(luò)往往是最有力的工具。另一方面,神經(jīng)網(wǎng)絡(luò)對(duì)處理大量原始數(shù)據(jù)而不能用規(guī)劃或公式描述的問題,表現(xiàn)出極大的靈活性和自適應(yīng)性。
2建筑管理模式
建筑管理模式是在TFV理論基礎(chǔ)上構(gòu)筑的。建筑管理模式在國外,對(duì)精益建造的理論和應(yīng)用研究已取得了很多成果,但國內(nèi)對(duì)于精益建造,未能給予足夠重視。數(shù)據(jù)處理技術(shù)在企業(yè)的逐步成功應(yīng)用,企業(yè)積累了大量的生產(chǎn)科研相關(guān)和業(yè)務(wù)數(shù)據(jù),但面對(duì)浩如煙海的企業(yè)數(shù)據(jù),決策人員常常難以及時(shí)獲得足夠信息,提出決策的現(xiàn)狀,許多企業(yè)已經(jīng)構(gòu)建了完善的數(shù)據(jù)庫.并且通過聯(lián)機(jī)分析處理的方式技術(shù),可以使決策人員更快捷的從數(shù)據(jù)倉庫中提取精良信息。
3建筑管理模式
3.1任務(wù)制度管理
任務(wù)制度管理是從生產(chǎn)管理轉(zhuǎn)換的角度管理生產(chǎn)制造,雖然本質(zhì)依然是硬性管理,但管理的內(nèi)容為與適應(yīng)建造相關(guān)用戶的合理配合安排,主要依據(jù)顧客需求設(shè)計(jì)來配編生產(chǎn)系統(tǒng),最后一招合同流程來實(shí)現(xiàn)。
3.2流程過程管理
流程過程管理是從流程的角度管理數(shù)據(jù)模型,其本質(zhì)為軟性數(shù)據(jù)管理。流程管理的目標(biāo)是不但要有高效率可預(yù)測(cè)數(shù)據(jù)目標(biāo)的綜合流程,而且要做好建設(shè)項(xiàng)目的相關(guān)單位,現(xiàn)場(chǎng)數(shù)據(jù)工作人員之間的相互協(xié)調(diào)工作。
3.3價(jià)值趨向管理
價(jià)值趨向管理是從數(shù)據(jù)價(jià)值的角度管理生產(chǎn),它是以一種更加柔性的方式來體現(xiàn)顧客消費(fèi)價(jià)值和一種硬性的方式完成生產(chǎn)預(yù)訂目標(biāo)的的趨向性管理。
4數(shù)據(jù)倉庫概論
數(shù)據(jù)倉庫,就是一個(gè)更完全面支持企業(yè)組織的決策分析處理數(shù)據(jù)的面向主題的總成的,不可隨時(shí)間不斷變化持續(xù)更新的數(shù)據(jù)倉庫體系結(jié)構(gòu),美國哈佛大學(xué)計(jì)算機(jī)科學(xué)系的專門小組,通過長(zhǎng)期對(duì)數(shù)據(jù)技術(shù)的研究,提出了數(shù)據(jù)倉庫技術(shù)的完善概念,該概念是在體系結(jié)構(gòu)整體上對(duì)數(shù)據(jù)倉庫進(jìn)行了描述,從各個(gè)數(shù)據(jù)源收集所需數(shù)據(jù),并與其他數(shù)據(jù)源的數(shù)據(jù)銜接,將集成的總體數(shù)據(jù)存入數(shù)據(jù)倉庫終端,用于用戶直接從數(shù)據(jù)倉庫中訪問相關(guān)數(shù)據(jù),用于理論和實(shí)踐應(yīng)用的案例.運(yùn)用這種建筑管理模式,可以提高生產(chǎn)率,降低成本和增加顧客滿意度,在建筑業(yè)中有廣闊的應(yīng)用前景。
5結(jié)語
篇9
關(guān)鍵詞:光伏發(fā)電;發(fā)電量預(yù)測(cè);BP神經(jīng)網(wǎng)絡(luò);果蠅算法
中圖分類號(hào):TM615;TP39 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):2095-1302(2017)04-00-02
0 引 言
隨著全球經(jīng)濟(jì)的不斷發(fā)展,人類對(duì)能源需求不斷增長(zhǎng),不可再生能源不斷減少,使得發(fā)展并利用新能源迫在眉睫。研究和實(shí)踐表明,太陽能是資源最豐富的可再生能源,是人類社會(huì)未來能源的基石。由于光伏發(fā)電具有較強(qiáng)的隨機(jī)性和波動(dòng)性,光伏電站并網(wǎng)勢(shì)必會(huì)造成電網(wǎng)的不穩(wěn)定,因此準(zhǔn)確預(yù)測(cè)光伏發(fā)電量具有重要意義。
目前,國內(nèi)外對(duì)光伏發(fā)電量預(yù)測(cè)已有相關(guān)研究,一些相關(guān)人工智能算法也被應(yīng)用到預(yù)測(cè)模型中,如馬爾科夫鏈,神經(jīng)網(wǎng)絡(luò),灰色理論,粒子群,遺傳算法等。考慮到神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的非線性擬合、學(xué)習(xí)規(guī)則簡(jiǎn)單,但收斂速度慢且易陷入局部最優(yōu)等缺點(diǎn),同時(shí)考慮到果蠅算法與其他算法相比具有全局尋優(yōu)能力強(qiáng)、計(jì)算復(fù)雜度小、精度高、收斂速度快等優(yōu)點(diǎn),故本文提出一種果蠅算法結(jié)合神經(jīng)網(wǎng)絡(luò)的混合算法。此混合算法能很好的結(jié)合兩者的優(yōu)點(diǎn)。
1 光伏發(fā)電量預(yù)測(cè)模型
1.1 BP神經(jīng)網(wǎng)絡(luò)模型
神經(jīng)網(wǎng)絡(luò)(Neural Network)是模擬人大腦學(xué)習(xí)知識(shí)的過程而提出的一種人工智能算法。神經(jīng)網(wǎng)絡(luò)分為單層前饋網(wǎng)絡(luò)(LMS學(xué)習(xí)算法)、多層前饋網(wǎng)絡(luò)(BP神經(jīng)網(wǎng)絡(luò))、后饋網(wǎng)絡(luò)等。其中BP神經(jīng)網(wǎng)絡(luò)是目前研究最為成熟、廣泛的預(yù)測(cè)網(wǎng)絡(luò)模型之一。預(yù)測(cè)模型分為輸入層、隱含層以及輸出層,如圖1所示。
(1)輸入層
針對(duì)本文的預(yù)測(cè)模型,輸入變量為光伏發(fā)電系統(tǒng)各個(gè)時(shí)段的平均溫度、平均光照。
(2)隱含層
本文模型采用雙隱含層。多層前向網(wǎng)絡(luò)是單層感知器的推廣,解決了非線性可分問題。隱含層由神經(jīng)元組成,神經(jīng)元決定了各輸入變量權(quán)值以及各輸出變量權(quán)值。
(3)輸出層
本文預(yù)測(cè)模型的輸出變量為當(dāng)日各時(shí)段的光伏發(fā)電量。文中將光伏發(fā)電預(yù)測(cè)模型分為24小時(shí)/天,每一個(gè)小時(shí)為一個(gè)計(jì)算單位。輸入層中的每個(gè)結(jié)點(diǎn)作為激勵(lì)信號(hào),組成下一層的輸入信號(hào),而該層輸出信號(hào)又作為下層的輸入信號(hào),以此類推。神經(jīng)網(wǎng)絡(luò)具有很好的非線性擬合性,學(xué)習(xí)規(guī)則簡(jiǎn)單。
1.2 果蠅算法
果蠅優(yōu)化算法(Fruit Fly Optimization Algorithm, FOA)是一種基于果蠅覓食行為的人工智能仿生算法,是由臺(tái)灣潘文超教授于2011年6月提出的。果蠅可以使用嗅覺和視覺來尋找食物及同伴,具有很好的群體智能性。
果蠅尋找食物時(shí)飛行線路具有一定的隨機(jī)性,為了尋找食物,果蠅會(huì)根據(jù)空間中的食物氣味濃度進(jìn)行判定,向濃度高的方向飛行。其算法流程如下所示:
(1)在搜索空間中隨機(jī)產(chǎn)生果蠅種群。隨機(jī)產(chǎn)生個(gè)體果蠅的位置及各自飛行方向向量。
(2)各果蠅分別沿預(yù)定方向移動(dòng)一定的步長(zhǎng),計(jì)算各果蠅所在位置的濃度。
(3)找出種群中濃度最高的果蠅的位置,保存為Piter,然后所有果蠅飛向濃度最高的位置。
(4)計(jì)算移動(dòng)后各果蠅所處位置的濃度,若Piter,i比Piter濃度更高,則更新Piter,再轉(zhuǎn)到步驟(2),直到找到食物位置。
Piter表示第iter代的濃度最高的位置;Piter,i表示第i個(gè)果蠅第iter代的位置。
1.3 FOA-BP算法
榻餼鏨窬網(wǎng)絡(luò)收斂速度慢以及容易陷入局部最優(yōu)的缺點(diǎn),本文提出一種果蠅算法結(jié)合神經(jīng)網(wǎng)絡(luò)的混合算法,該混合算法具有較強(qiáng)的全局搜索能力、不易陷入局部最優(yōu)、收斂快等優(yōu)點(diǎn)。本文主要利用果蠅算法來優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值以達(dá)到優(yōu)化的目的。混合算法流程如下所示:
(1) 初始化。初始化種群規(guī)模S,最大迭代次數(shù)iter,隨機(jī)生成各果蠅的位置、移動(dòng)方向、移動(dòng)步長(zhǎng)及神經(jīng)元權(quán)值等。
(2) 讀取數(shù)據(jù)。讀取光伏發(fā)電系統(tǒng)訓(xùn)練樣本數(shù)據(jù),包括各時(shí)段的平均溫度、平均光照強(qiáng)度以及光伏發(fā)電量,對(duì)樣本數(shù)據(jù)進(jìn)行歸一化處理。
(3)通過神經(jīng)網(wǎng)絡(luò)樣本進(jìn)行訓(xùn)練,得到相應(yīng)的權(quán)值,并利用果蠅算法對(duì)權(quán)值進(jìn)行修正與優(yōu)化。果蠅個(gè)體向預(yù)定方向移動(dòng)一定的步長(zhǎng),計(jì)算濃度,此時(shí)濃度即預(yù)測(cè)值,若預(yù)測(cè)值Pbest更優(yōu),則保留,繼續(xù)迭代,直到達(dá)到預(yù)測(cè)精度為止。
(4)輸出種群中果蠅所處濃度最高的位置,即神經(jīng)網(wǎng)絡(luò)的最優(yōu)權(quán)值。輸出預(yù)測(cè)結(jié)果。FOA-BP算法流程如圖2所示。
2 實(shí)驗(yàn)結(jié)果與分析
本模型采用武漢某發(fā)電企業(yè)發(fā)電機(jī)組1的發(fā)電數(shù)據(jù)進(jìn)行試驗(yàn)。時(shí)間段選取6:00-19:00。訓(xùn)練樣本選取6月份的數(shù)據(jù)120組,其中輸入量是各時(shí)段的平均光照強(qiáng)度、平均溫度,輸出量是各時(shí)段的發(fā)電量。預(yù)測(cè)樣本是6月6日6:00-19:00各時(shí)段的數(shù)據(jù)。神經(jīng)網(wǎng)絡(luò)激勵(lì)函數(shù)采用單極性sigmod激勵(lì)函數(shù)g(x)=1/(1+e-x),神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為雙隱含層,隱含層神經(jīng)元個(gè)數(shù)為25,預(yù)測(cè)樣本各時(shí)段的平均溫度以及平均光照,分別如圖3,圖4所示。
預(yù)測(cè)發(fā)電量與實(shí)際發(fā)電量的對(duì)比如圖5所示。預(yù)測(cè)誤差如圖6所示。
由圖6的預(yù)測(cè)曲線圖可知,大部分時(shí)段的預(yù)測(cè)誤差都在15%內(nèi),在第6、第10時(shí)段誤差較大,總體來看發(fā)電量預(yù)測(cè)曲線能很好的與實(shí)際發(fā)電量曲線擬合。
3 結(jié) 語
本文提出的FOA-BP算法能應(yīng)用到光伏發(fā)電量預(yù)測(cè)模型,使得輸出結(jié)果具有較強(qiáng)的準(zhǔn)確性、收斂速度快以及尋優(yōu)能力強(qiáng)等特點(diǎn)。本模型算法可以有效為光伏發(fā)電廠的選址以及電廠維護(hù)提供理論依據(jù),從而為發(fā)電企業(yè)帶來更多的利益。準(zhǔn)確的光伏發(fā)電量預(yù)測(cè)能夠?yàn)楣搽娋W(wǎng)的維護(hù)和電力的再分配提供有力的理論支持。
參考文獻(xiàn)
[1]李春鵬,張廷元,周封.太陽能光伏發(fā)電綜述[J].電工材料,2006(3):45-48.
[2]孟杰,李庚銀.含風(fēng)光電站的電力系統(tǒng)動(dòng)態(tài)經(jīng)濟(jì)調(diào)度[J].電網(wǎng)與清潔能源,2013,29(11):70-75.
[3]潘文超.果蠅最佳化演算法[M].臺(tái)北:滄海書局,2011.
[4]景亞平,張?chǎng)危_艷.基于灰色神經(jīng)網(wǎng)絡(luò)與馬爾科夫鏈的城市需組合預(yù)測(cè)水量[J].西北農(nóng)林科技大學(xué)學(xué)報(bào)(自然科學(xué)版),2011,39(7):229-234.
[5]陳勇,劉洲,李伏麟,等.人工神經(jīng)網(wǎng)絡(luò)在貨運(yùn)預(yù)測(cè)系統(tǒng)中的應(yīng)用[J].物聯(lián)網(wǎng)技術(shù),2016,6(1):42-43.
[6]劉瑞葉,黃磊.基于動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的風(fēng)電場(chǎng)輸出功率預(yù)測(cè)[J].電力系統(tǒng)自動(dòng)化,2012,36(11):19-22.
篇10
焦孟孟
(中國71320部隊(duì)66分隊(duì),河南 開封 475000)
【摘要】本文利用仿真分析軟件采集電路各種故障模式的特征數(shù)據(jù),后將采集到的數(shù)據(jù)構(gòu)造多層次的神經(jīng)網(wǎng)絡(luò)來進(jìn)行診斷,最后使用虛擬儀器LabVIEW完成對(duì)整個(gè)流程的編程與控制,通過實(shí)際驗(yàn)證故障診斷正確率非常好。
關(guān)鍵詞 BP神經(jīng)網(wǎng)絡(luò);多級(jí)構(gòu)架;Labview
【Abstract】Characteristics of the data we use simulation software acquisition circuit failure mode analysis, the neural network structure of multi-level data collected for diagnosis, finally, using the virtual instrument LabVIEW to complete the programming and control of the whole process, through the actual verification accuracy of fault diagnosis is very good.
【Key words】BP Multilevel;Framework;Labview
0引言
模擬電路故障診斷研究在軍事領(lǐng)域率先興起,隨后在通訊、自動(dòng)控制、電氣化網(wǎng)絡(luò)等領(lǐng)域掀起研究熱潮,引起廣大學(xué)者的興趣,至今與電網(wǎng)分析和電網(wǎng)綜合一起作為網(wǎng)絡(luò)理論的重要分支[1]。國內(nèi)外學(xué)者已提出的故障診斷理論和方法包括:神經(jīng)網(wǎng)絡(luò)、螞蟻算法、主元分析、遺傳算法、馬氏距離、及其他故障診斷方法[2]。根據(jù)實(shí)際工作中對(duì)裝備故障排除的方法與經(jīng)驗(yàn),本文在提出多級(jí)神經(jīng)網(wǎng)絡(luò)構(gòu)造的思路上,并最終使用LabVIEW完成系統(tǒng)設(shè)計(jì)。
1多級(jí)神經(jīng)網(wǎng)絡(luò)的模型
模擬電路的故障診斷可以看作是故障分類問題。BP神經(jīng)網(wǎng)絡(luò)用于故障診斷的原理是:通過分析確定電路故障集,選擇電路測(cè)試點(diǎn)對(duì)某一或多種特征參數(shù)進(jìn)行測(cè)量,根據(jù)得到的數(shù)據(jù)進(jìn)行BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練,經(jīng)過訓(xùn)練的網(wǎng)絡(luò)即可對(duì)故障數(shù)據(jù)進(jìn)行判斷,識(shí)別故障類型,但是往往會(huì)存在這樣的問題,故障集內(nèi)總有幾個(gè)故障非常類似,只有少量參數(shù)有所區(qū)別,造成網(wǎng)絡(luò)對(duì)這類故障的識(shí)別率不高,本文針對(duì)這種問題提出多級(jí)神經(jīng)網(wǎng)絡(luò)的來解決。
1.1軟件平臺(tái)實(shí)現(xiàn)功能介紹
首先利用Pspice軟件對(duì)電路進(jìn)行器件靈敏度分析,找出器件故障時(shí)影響最大的參數(shù),一般根據(jù)電路特性選擇即可,如放大電路選擇節(jié)點(diǎn)電壓或信號(hào)幅值,鎖相環(huán)電路選擇節(jié)點(diǎn)電壓或輸出頻率值等,然后利用蒙特卡羅分析功能(抵消器件容差的影響)對(duì)電路進(jìn)行分析,輸出故障數(shù)據(jù)到輸出文件。
其次在Matlab設(shè)計(jì)程序?qū)spice軟件生成的數(shù)據(jù)進(jìn)行讀取,讀取后的數(shù)據(jù)進(jìn)行預(yù)處理后利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,訓(xùn)練完成后,利用訓(xùn)練好的網(wǎng)絡(luò)對(duì)檢驗(yàn)樣本進(jìn)行檢驗(yàn),利用診斷結(jié)果對(duì)故障模式進(jìn)行再分類,組建成多個(gè)神經(jīng)網(wǎng)絡(luò),以故障類型最多的神經(jīng)網(wǎng)絡(luò)為主網(wǎng)絡(luò),少的為子網(wǎng)絡(luò),并將子網(wǎng)絡(luò)中的故障做為一類在主網(wǎng)絡(luò)中進(jìn)行體現(xiàn)。
最后,在Labview中利用MathScript節(jié)點(diǎn)實(shí)現(xiàn)對(duì)Matlab程序的調(diào)用,并通過圖形化程序完成對(duì)多級(jí)神經(jīng)網(wǎng)絡(luò)的控制。
1.2多級(jí)神經(jīng)網(wǎng)絡(luò)構(gòu)建步驟
第一步:對(duì)樣本數(shù)據(jù)進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練。
第二步:用測(cè)試樣本檢驗(yàn)是故障診斷結(jié)果。
第三步:若診斷結(jié)果無錯(cuò)誤則結(jié)束訓(xùn)練。若存在錯(cuò)誤,對(duì)診斷錯(cuò)誤的故障類型進(jìn)行分析,找出差異特征參數(shù)集M,和共同參數(shù)集N。
第四步:將診斷錯(cuò)誤的故障類型合為一類與其它故障類型組成主網(wǎng)絡(luò)故障集,特征參數(shù)使用N,診斷錯(cuò)誤的故障類型使用參數(shù)集M組成子網(wǎng)絡(luò),分別進(jìn)行訓(xùn)練。
第五步:若診斷結(jié)果無錯(cuò)誤則結(jié)束訓(xùn)練,對(duì)主網(wǎng)絡(luò)及子網(wǎng)絡(luò)進(jìn)行參數(shù)記錄。若仍有錯(cuò)誤,返回第一步。
2故障診斷實(shí)例
本文采用的一個(gè)典型負(fù)反饋放大器電路,如圖1所示。電阻的容差范圍取5%,信號(hào)源采用幅值0.1V,頻率10Mhz的固定信號(hào)頻率(與實(shí)際測(cè)試電路相符),V2為12V直流電壓,R1=500k,R2=1k,R3=l0k,R4=2k,R5=0.5,R6=3k,R7=1k,R8=9k,R9=5k。
按照器件不同的故障類型,使用蒙特卡洛分析方法,對(duì)所有器件故障狀態(tài)響應(yīng)數(shù)據(jù)進(jìn)行采集并分析數(shù)據(jù),找到電路故障時(shí)比較靈敏的特征參數(shù),同時(shí)確定電路故障集,最終找出確定14種故障模式:正常狀態(tài),R2開路,R3開路,R4開路,R5增大50%,R6開路,R7開路,R8開路,C4短路,Q4基極與發(fā)射極短路,Q5基極與發(fā)射極短路,Q4基極開路,Q5基極開路。
對(duì)樣本數(shù)據(jù)進(jìn)行BP神經(jīng)網(wǎng)絡(luò)進(jìn)行分析后發(fā)現(xiàn),故障11、12難以分辨故合為一類,差異主元為V2頻率幅度值,3、8、14難以分辨故合為一類,差異主元無,另選主元Q5基極電壓。最終主網(wǎng)絡(luò)共有10類故障模式,其中有兩個(gè)代表多種模式,其余為單故障模式。分別對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練后,利用測(cè)試樣本進(jìn)行診斷,結(jié)果為100%,樣本與診斷結(jié)果見表1。
3診斷系統(tǒng)的實(shí)現(xiàn)
若要對(duì)多級(jí)網(wǎng)絡(luò)在Matlab中實(shí)現(xiàn),程序過于繁瑣,因此本文采用虛擬儀器Labview對(duì)程序的控制進(jìn)行實(shí)現(xiàn),本文是通過Labview軟件實(shí)現(xiàn)的其程序圖與前界面如圖2所示。
其程序流程為:輸入相關(guān)測(cè)試參數(shù),對(duì)主元參數(shù)通過Matlab節(jié)點(diǎn)進(jìn)行網(wǎng)絡(luò)訓(xùn)練,輸出分10路,每一路都于0.9進(jìn)行比較,若某一輸出大于0.9則認(rèn)為某一故障為真,故障燈亮。若子網(wǎng)絡(luò)判定條件為真,則開始子網(wǎng)絡(luò)訓(xùn)練,對(duì)子網(wǎng)絡(luò)模式進(jìn)行識(shí)別。
4結(jié)束語
本文提出一種基于優(yōu)化類間間距的方法,通過實(shí)際驗(yàn)證與文獻(xiàn)相比,故障模式多5種,故障診斷率卻上升到100%,顯然大提高了診斷正確率,最后通過Labview軟件完成系統(tǒng)的實(shí)現(xiàn),界面直觀,自動(dòng)化診斷,具有很大的實(shí)際運(yùn)用價(jià)值。該方法對(duì)于大型模擬電路同樣具有研究?jī)r(jià)值,只需將大型電路撕裂成分電路即可,為大規(guī)模電路的診斷研究提出了一種可行的方法。
參考文獻(xiàn)
[1]楊士元.模擬系統(tǒng)的故障診斷與可靠性設(shè)計(jì)[M].北京:清華大學(xué)出版社,2001,11.
熱門標(biāo)簽
神經(jīng)內(nèi)科論文 神經(jīng)外科 神經(jīng)網(wǎng)絡(luò)論文 神經(jīng)內(nèi)科 神經(jīng)元 神經(jīng)科學(xué) 神經(jīng) 神經(jīng)病學(xué) 神經(jīng)阻滯 神經(jīng)網(wǎng)絡(luò) 心理培訓(xùn) 人文科學(xué)概論
相關(guān)文章
1神經(jīng)網(wǎng)絡(luò)在工程造價(jià)中的運(yùn)用
4教學(xué)法在神經(jīng)內(nèi)科護(hù)理教學(xué)的應(yīng)用
相關(guān)期刊
-
中國神經(jīng)腫瘤
主管:中山大學(xué)腫瘤防治中心;中國抗癌協(xié)會(huì)神經(jīng)腫瘤專業(yè)委員會(huì)
級(jí)別:部級(jí)期刊
影響因子:--
-
現(xiàn)代神經(jīng)疾病
主管:中華人民共和國國家衛(wèi)生
級(jí)別:北大期刊
影響因子:1.69
-
中國神經(jīng)免疫學(xué)和神經(jīng)病...
主管:中華人民共和國國家衛(wèi)生健康委員會(huì)
級(jí)別:統(tǒng)計(jì)源期刊
影響因子:1.5
-
國際神經(jīng)病學(xué)神經(jīng)外科學(xué)
主管:中華人民共和國教育部
級(jí)別:統(tǒng)計(jì)源期刊
影響因子:1.43