婷婷超碰在线在线看a片网站|中国黄色电影一级片现场直播|欧美色欧美另类少妇|日韩精品性爱亚洲一级性爱|五月天婷婷乱轮网站|久久嫩草91婷婷操在线|日日影院永久免费高清版|一级日韩,一级鸥美A级|日韩AV无码一区小说|精品一级黄色毛片

首頁 > 文章中心 > 訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法

訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法

前言:想要寫出一篇令人眼前一亮的文章嗎?我們特意為您整理了5篇訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文,相信會為您的寫作帶來幫助,發(fā)現(xiàn)更多的寫作思路和靈感。

訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法

訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文第1篇

1基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)

1.1貝葉斯算法基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)是基于貝葉斯定理而發(fā)展出來的用于解決統(tǒng)計問題的方法,即任意一個待求量都可以看作是一個隨機變量,因此可以通過概率分布來對待求量進行描述,這個概率是在抽樣前就有的關(guān)于待求量的先驗概率分布。貝葉斯理論正是在沒有樣本信息時,只根據(jù)先驗概率分布來求解待求量。而在有樣本后,則可根據(jù)總體、樣本和先驗信息的聯(lián)合分布來對未知量進行判斷。后驗分布π(θ|x)是反映人們在抽樣后對隨機變量θ的認識,其與先驗分布即樣本x的差異是由于樣本出現(xiàn)后人們對θ的調(diào)整,即后驗分布π(θ|x)為抽樣信息對先驗分布π(θ)調(diào)整的結(jié)果[6]。

1.2貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)是一種以神經(jīng)網(wǎng)絡(luò)基本原理為構(gòu)架,通過引入貝葉斯推理有效地控制網(wǎng)絡(luò)模型的復(fù)雜度,進而更好地解決非線性問題及其不確定性[7]。在BP神經(jīng)網(wǎng)絡(luò)中,訓(xùn)練樣本集為D(xm,Om),xm為輸入信號,Om為輸出節(jié)點,在一定的網(wǎng)絡(luò)結(jié)構(gòu)A與網(wǎng)絡(luò)參數(shù)W下,可以得到網(wǎng)絡(luò)的輸出由網(wǎng)絡(luò)的輸入D唯一的確定。網(wǎng)絡(luò)訓(xùn)練的目標(biāo)函數(shù)為誤差函數(shù)ED(D|W,A),則有。采用貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)步驟如下:(1)確定網(wǎng)絡(luò)結(jié)構(gòu)A,初始化超參數(shù)α,β,對網(wǎng)絡(luò)參數(shù)W進行賦值。(2)以最終目標(biāo)函數(shù)為M(W)最小為原則,對BP神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,尋找最優(yōu)可能網(wǎng)絡(luò)參數(shù)W。(3)尋找最優(yōu)可能參數(shù)α,β。(4)采用不同初始網(wǎng)絡(luò)參數(shù)尋找最優(yōu)網(wǎng)絡(luò)參數(shù)。(5)對不同網(wǎng)絡(luò)結(jié)構(gòu)A,尋找最優(yōu)網(wǎng)絡(luò)參數(shù)。

2貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)量化結(jié)果分析

2.1訓(xùn)練樣本與測試樣本在對管道進行磁化的過程中,最常用的方法是沿管道軸向進行磁化,提取缺陷處沿軸向變化的漏磁場與沿周向變化的漏磁場,缺陷的長度信息主要由沿軸向變化漏磁場反應(yīng),缺陷的寬度信息主要由沿周向變化的漏磁場反應(yīng),而缺陷的深度信息則是由這兩個量共同反應(yīng)[9]。本文采用實驗的方法獲取網(wǎng)絡(luò)所需樣本,這里以對陡壁缺陷的分析為例,研究貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)對陡壁缺陷量化的有效性。分別制作缺陷長度為3,3.5,4,4.5,5,5.5倍管道壁厚,寬度為0.5,1,1.5,2倍管道壁厚,深度為0.1,0.15,0.2,0.25倍管道壁厚,共得到96組測量結(jié)果,取其中80個缺陷特征作為網(wǎng)絡(luò)的訓(xùn)練樣本,剩余的16個缺陷特征作為測試樣本。

2.2長度的量化采用統(tǒng)計分析的方法選取與缺陷長度關(guān)系密切的特征量作為神經(jīng)網(wǎng)絡(luò)的輸入信號,將缺陷長度作為網(wǎng)絡(luò)的輸出信號來對網(wǎng)絡(luò)進行訓(xùn)練。所選取主要特征有漏磁場軸向分量的靜態(tài)閾值截取長度、一階微分信號極小值的位置與周向變化漏磁場動態(tài)閾值截取長度。分別對基本的BP神經(jīng)網(wǎng)絡(luò)與貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,當(dāng)均方誤差小于10-3時停止訓(xùn)練,得到兩種網(wǎng)絡(luò)的訓(xùn)練與學(xué)習(xí)過程如圖1所示。比較兩種算法訓(xùn)練過程可以看出貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)總共進行了331次訓(xùn)練,而基本的BP神經(jīng)網(wǎng)絡(luò)總共進行了1789次訓(xùn)練,可見貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)的收斂速率更快。用16組測試數(shù)據(jù)對兩種網(wǎng)絡(luò)長度的量化誤差進行比較,得到量化后缺陷最大相對誤差與最小相對誤差如表1所示,對應(yīng)貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)量化的缺陷如表2所示。從表2中可以看出,采用貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)量化得到的缺陷長度與設(shè)計值的誤差明顯小于基本的BP神經(jīng)網(wǎng)絡(luò),最大相對誤差僅為0.05%。

2.3寬度的量化與缺陷長度的量化相似,采用統(tǒng)計分析的方法選取與缺陷寬度關(guān)系密切的特征量作為神經(jīng)網(wǎng)絡(luò)的輸入信號,將缺陷寬度作為網(wǎng)絡(luò)的輸出信號來對網(wǎng)絡(luò)進行訓(xùn)練。所選取主要特征有軸向變化漏磁場峰谷值、周向變化漏磁場波形面積、波形能量、靜態(tài)閾值截取長度。分別對基本的BP神經(jīng)網(wǎng)絡(luò)與貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,當(dāng)均方誤差小于10-3時停止訓(xùn)練,得到兩種網(wǎng)絡(luò)的訓(xùn)練與學(xué)習(xí)過程如圖2所示。比較兩種算法訓(xùn)練過程可以看出貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)總共進行了269次訓(xùn)練,而基本的BP神經(jīng)網(wǎng)絡(luò)總共進行了2248次訓(xùn)練,可見引入貝葉斯算法后的BP神經(jīng)網(wǎng)絡(luò)的收斂速率大幅提升。與之前相同,用16組測試數(shù)據(jù)對兩種網(wǎng)絡(luò)寬度的量化誤差進行比較,得到量化后缺陷誤差如表3所示,貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)量化達到誤差的缺陷見表4。在對缺陷寬度進行量化的過程中,盡管量化得到的最大相對誤差仍較大,采用貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)量化得到的缺陷寬度與設(shè)計值的誤差明顯小于基本的BP神經(jīng)網(wǎng)絡(luò)。

2.4深度的量化在對缺陷的深度進行量化時,采用統(tǒng)計分析的方法選取了缺陷的長度、寬度以及軸向變化漏磁場的兩個峰谷值、波形面積、周向變化漏磁場峰值、峰谷值作為神經(jīng)網(wǎng)絡(luò)的輸入信號,將缺陷深度作為網(wǎng)絡(luò)的輸出信號來對網(wǎng)絡(luò)進行訓(xùn)練。對基本的BP神經(jīng)網(wǎng)絡(luò)與貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,得到兩種網(wǎng)絡(luò)的訓(xùn)練與學(xué)習(xí)過程如圖3所示。貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)總共進行了4152次訓(xùn)練,基本的BP神經(jīng)網(wǎng)絡(luò)總共進行了8763次訓(xùn)練,盡管引入貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程仍舊較長,但比基本BP神經(jīng)網(wǎng)絡(luò)的收斂速率有所提升。用16組測試數(shù)據(jù)對兩種網(wǎng)絡(luò)深度的量化誤差進行比較,得到量化后缺陷誤差如表5所示,貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)量化達到誤差的缺陷見表6。從對缺陷深度量化結(jié)果可以看出,采用貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)對缺陷深度進行量化,得到的缺陷深度與設(shè)計值的誤差小于基本的BP神經(jīng)網(wǎng)絡(luò)。

3結(jié)束語

訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文第2篇

關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò) 礦山 安全狀態(tài) 評判能力

中圖分類號:TD77;TP181 文獻標(biāo)識碼:A 文章編號:1007-9416(2015)04-0206-01

通過改變神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本等方式,對神經(jīng)網(wǎng)絡(luò)不同訓(xùn)練樣本的反應(yīng)能力進行對比分析,從而探討人工神經(jīng)網(wǎng)絡(luò)對礦山安全程度評價的適應(yīng)性。為了有效的提高人工神經(jīng)網(wǎng)絡(luò)對礦山安全程度評價的能力,可以通過改變神經(jīng)網(wǎng)絡(luò)的神經(jīng)元數(shù)目以及初值賦值的方式來測試不同的結(jié)構(gòu),從而得出不同參數(shù)下神經(jīng)網(wǎng)絡(luò)對相同訓(xùn)練樣本的評價結(jié)論,以便提高其評價能力,在礦山安全狀態(tài)評判中充分發(fā)揮出人工神經(jīng)網(wǎng)絡(luò)的作用。

1 人工神經(jīng)網(wǎng)絡(luò)中的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計與原始數(shù)據(jù)的準(zhǔn)備

本文中主要采取如1所示的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),根據(jù)測試目的的差異性,其測試過程中神經(jīng)網(wǎng)絡(luò)的部分性能也就不同,但是對整個網(wǎng)絡(luò)結(jié)構(gòu)的性能不會改變。

這種神經(jīng)網(wǎng)絡(luò)的主體結(jié)構(gòu)是單輸入、三層式BP的網(wǎng)絡(luò)結(jié)構(gòu),輸出連接、目標(biāo)連接、輸入權(quán)重連接、偏置連接以及層權(quán)連接等是其主要的連接方式。各層神經(jīng)元的分類包括:第一隱含層有8個正切S型神經(jīng)元,第二隱含層有8個對數(shù)S型的神經(jīng)元,輸入層有4個元素,輸出層有一個線性神經(jīng)元。其網(wǎng)絡(luò)函數(shù)主要包括訓(xùn)練函數(shù)、初始化函數(shù)、性能函數(shù)以及各網(wǎng)絡(luò)層的層初始化函數(shù)。其訓(xùn)練函數(shù)需要采取TRAINLM回轉(zhuǎn)方法來運算;初始化函數(shù)需要采取逐層初始化的方法運算;性能函數(shù)需要采取均方誤差法來計算;各網(wǎng)絡(luò)層的層初始化函數(shù)需要采取優(yōu)化規(guī)則的方式計算,有的時候還需要采取INITWB的方式進行運算。各個權(quán)閾值的初始化需要采用RANDS方法來計算。在人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練的原始樣本數(shù)據(jù)以及期望值中,這些數(shù)據(jù)主要是用來評價地質(zhì)因素對礦山安全影響程度的原始數(shù)據(jù)。當(dāng)訓(xùn)練完成之后,需要對其各種數(shù)據(jù)進行仿真測試,以便評斷這種人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)在礦山安全狀態(tài)中的應(yīng)用價值與能力,并對其不足之處以及缺陷問題等進行分析,以便尋找出更加優(yōu)化的方案,從而提高人工神經(jīng)網(wǎng)絡(luò)在礦山安全狀態(tài)中的評判作用與能力。

2 人工神經(jīng)網(wǎng)絡(luò)對礦山安全狀態(tài)評判能力的訓(xùn)練以及仿真測試

對礦山安全評價的方法較多,但是能夠較好的應(yīng)用于礦山安全評價的方法卻很少,例如事故樹分析法、概率風(fēng)險評價法以及事件樹分析法等,這些方法均由于基本事件的發(fā)生概率的確定方面存在一定的困難,從而導(dǎo)致運用于礦山過程中的安全評價效率不高。另外,在礦山安全狀態(tài)評價的過程中,其安全檢查表、專家評價方法等存在一定的缺點與不足,其在評價的過程中,主觀性較強,受到個人意識的影響較大。綜合指標(biāo)評價法由于其指標(biāo)間的邏輯關(guān)系,指標(biāo)的權(quán)值與指標(biāo)的量化等問題,從而導(dǎo)致該方法難以在礦山安全狀態(tài)中進行準(zhǔn)確的評價。只有能夠更好的適應(yīng)這種復(fù)雜的動態(tài)系統(tǒng)的安全評價方法,才能夠?qū)⑵涓玫膽?yīng)用在礦山安全狀態(tài)評價中[1]。

其中人工神經(jīng)網(wǎng)絡(luò)在處理無法使用簡單規(guī)則或公式進行描述的大量的原始數(shù)據(jù)的問題時,以及在處理規(guī)律不清楚的問題時,其具有較大的優(yōu)勢。也正是由于這種方法能夠?qū)?fù)雜的非線性動力學(xué)系統(tǒng)的適應(yīng),才能夠使其在礦山安全狀態(tài)評價中得到引進與推廣。將人工神經(jīng)網(wǎng)絡(luò)對礦山安全狀態(tài)評價能力的訓(xùn)練進行仿真實驗,在每次實驗檢測之前,都需要對同一神經(jīng)網(wǎng)絡(luò)進行重新初始化,之后需要運用相同的訓(xùn)練樣本數(shù)據(jù)對神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,以便達到訓(xùn)練要求后對網(wǎng)絡(luò)進行仿真測試,訓(xùn)練性能函數(shù)的誤差需要保持在10以內(nèi)。其神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程是網(wǎng)絡(luò)在初始權(quán)閾值的基礎(chǔ)上,對其權(quán)閾值進行不斷的修改,以便尋找出它們之間的某種聯(lián)系,使得輸入的整個訓(xùn)練樣本集數(shù)據(jù)經(jīng)過網(wǎng)絡(luò)的運算之后,其輸出與相應(yīng)的目標(biāo)數(shù)據(jù)差別能夠滿足性能函數(shù)的要求。因此,在人工網(wǎng)絡(luò)對礦山安全狀態(tài)進行評判的時候,即使所有數(shù)據(jù)與性能均符合要求,但是由于在訓(xùn)練的時候就被賦予了不同的權(quán)閾值,訓(xùn)練之后得到的權(quán)閾值的最終組合也會存在較大的差異。通過神經(jīng)網(wǎng)絡(luò)對礦山進行安全評判的目的在于運用神經(jīng)網(wǎng)絡(luò)總結(jié)分析數(shù)據(jù),對礦井各個致災(zāi)的貢獻率進行分析,進而對礦山的安裝狀態(tài)進行評判。從神經(jīng)網(wǎng)絡(luò)的角度來分析,通過運用網(wǎng)絡(luò)的運算功能對訓(xùn)練樣本的數(shù)據(jù)進行統(tǒng)計分析,并從中找出滿足目標(biāo)值以及性能要求的權(quán)閾值組合形式,從而通過仿真方式來評價礦山的安全狀態(tài)。

3 結(jié)語

通過對人工神經(jīng)網(wǎng)絡(luò)在礦山安全狀態(tài)的評判能力進行訓(xùn)練以及仿真測試后,發(fā)現(xiàn)人工神經(jīng)網(wǎng)絡(luò)與人類評判方法存在一定的差異性,在今后的發(fā)展過程中,還需要對人工神經(jīng)網(wǎng)絡(luò)在礦山安全狀態(tài)中的評判能力進行不斷的優(yōu)化與改進,以便更好的適應(yīng)礦山安全狀態(tài)的評判,在礦山安全狀態(tài)的評判中充分發(fā)揮出人工神經(jīng)網(wǎng)絡(luò)的作用,從而更好的確保礦山生產(chǎn)與經(jīng)營的安全性。

訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文第3篇

>> 基于人工神經(jīng)網(wǎng)絡(luò)過閘流量模型在南水北調(diào)中線工程的應(yīng)用 基于人工神經(jīng)網(wǎng)絡(luò)的優(yōu)化配置研究 基于BP神經(jīng)網(wǎng)絡(luò)的彩色溫度軟測量 基于小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測研究 基于改進小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測研究 基于混沌神經(jīng)網(wǎng)絡(luò)的區(qū)域物流量預(yù)測 基于BP神經(jīng)網(wǎng)絡(luò)的鐵路客流量預(yù)測研究 基于人工神經(jīng)網(wǎng)絡(luò)的煤炭需求預(yù)測 基于人工神經(jīng)網(wǎng)絡(luò)的PPI預(yù)測模型 基于人工神經(jīng)網(wǎng)絡(luò)的自適應(yīng)距離保護 基于人工神經(jīng)網(wǎng)絡(luò)的故障診斷 基于人工神經(jīng)網(wǎng)絡(luò)的化工安全評價 基于人工神經(jīng)網(wǎng)絡(luò)的人口預(yù)測 基于人工神經(jīng)網(wǎng)絡(luò)的圖像識別 基于人工神經(jīng)網(wǎng)絡(luò)的車牌識別探究 基于人工神經(jīng)網(wǎng)絡(luò)的信息處理 基于人工神經(jīng)網(wǎng)絡(luò)的巨大兒預(yù)測的研究 基于BP人工神經(jīng)網(wǎng)絡(luò)的土壤含水量預(yù)測模型的研究 基于BP人工神經(jīng)網(wǎng)絡(luò)的知識管理戰(zhàn)略選擇研究 基于人工神經(jīng)網(wǎng)絡(luò)的水泵故障診斷技術(shù)研究 常見問題解答 當(dāng)前所在位置:

關(guān)鍵詞:BP網(wǎng)絡(luò);軟測量;過閘流量;MATLAB神經(jīng)網(wǎng)絡(luò)工具箱

DOI: 10.3969/j.issn.1005-5517.2013.10.011

引言

通過閘門的水流量是一個非常重要的參數(shù)。只有獲得準(zhǔn)確的流量值,才能實現(xiàn)對水資源的優(yōu)化配置。目前對于過閘水流量的測量已形成了幾種方法:流速儀法、水力學(xué)公式法以及曲線法[1,2]。其中,被廣泛運用與現(xiàn)場測流中的方法是流速儀法,它也是流量測量中最重要的方法。流速儀法是通過實測斷面上的流速和水道斷面積來確定流量的方法。測量時先在斷面上布設(shè)測速垂線和測速點,再將流速儀放到測速點處測速,用分割法計算斷面面積,推算出流量。雖然這種測流方法是目前的主導(dǎo)方法,但卻存在著一些天生的缺陷:一是很難確定合適的測速垂線及測點,這是由于河道斷面形狀的不規(guī)則以及流速場分布情況復(fù)雜等原因造成的;二是實時性不高,測量時間比較長,從而導(dǎo)致管理部門不能及時了解過閘流量,耽誤啟閉閘門的最佳時機;三是需要的硬件資源比較多,因此大大增加了測流成本。鑒于此,研究一種新型的即簡單、操作方便實時性又高,并且精度滿足要求的測流方法已成為目前的迫切需求。而本文采用的BP網(wǎng)絡(luò)軟測量技術(shù)正好解決了以上諸多問題。

BP神經(jīng)網(wǎng)絡(luò)軟測量模型

隱含層神經(jīng)元數(shù)的確定

隱含層神經(jīng)元數(shù)的選擇在理論上并沒有一個明確的規(guī)定。因此,選擇合適的神經(jīng)元數(shù)就顯得十分麻煩。如果神經(jīng)元太少,則網(wǎng)絡(luò)不能很好地學(xué)習(xí),需要的訓(xùn)練次數(shù)也多,訓(xùn)練的精度也不高。反而言之,如果隱含層神經(jīng)元數(shù)選的太多,雖然功能會越大,但是循環(huán)次數(shù)也就是訓(xùn)練時間也會隨之增加。另外可能還會出現(xiàn)其他的問題,如導(dǎo)致不協(xié)調(diào)的擬合。一般的選擇原則是:在能夠解決問題的前提下,再加上一到兩個神經(jīng)元以加快誤差的下降速度即可[7]。

這里,我們通過對不同神經(jīng)元數(shù)進行訓(xùn)練對比,以及通過簡單的交叉驗證法確定隱含層的神經(jīng)元數(shù)為15個?;贐P網(wǎng)絡(luò)的過閘流量軟測量模型如圖1所示。

數(shù)據(jù)樣本的選取及處理

所用的人工神經(jīng)網(wǎng)絡(luò)的訓(xùn)練與測試集樣本來源于碧口水電廠右泄工作門2001年水文歷史數(shù)據(jù)。從中選取典型的60組數(shù)據(jù),其中前40組作為訓(xùn)練樣本,后20組作為測試樣本。限于篇幅只列出部分數(shù)據(jù),如表1所示。

由于輸入樣本各參數(shù)的集中取值范圍不同,參數(shù)大小不一,為了使各類參數(shù)所起的作用大致相同,必須對輸入數(shù)據(jù)進行標(biāo)準(zhǔn)化,把輸入數(shù)據(jù)都規(guī)一到[0,1]閉區(qū)域內(nèi)[8]。因此,我們對表1的數(shù)據(jù)做如下處理:H*G=HG/10;H*UP=HUP/1000;Q*=Q/Qmax。

運用MATLAB神經(jīng)網(wǎng)絡(luò)工具箱對網(wǎng)絡(luò)進行訓(xùn)練與測試

在運用MATLAB神經(jīng)網(wǎng)絡(luò)工具箱對網(wǎng)絡(luò)進行訓(xùn)練之前,要注意兩方面問題。一是初始權(quán)值的選擇,再個就是學(xué)習(xí)速率的選取。

由于系統(tǒng)是非線性的,初始值對于學(xué)習(xí)是否達到局部最小、是否能夠收斂以及訓(xùn)練時間的長短的關(guān)系很大。一般選取初始權(quán)值為(-1,1)之間的隨機數(shù)。在MATLAB工具箱中可采用函數(shù)initnw.m初始化隱含層權(quán)值。學(xué)習(xí)速率決定每一次循環(huán)訓(xùn)練中所產(chǎn)生的權(quán)值變化量。若學(xué)習(xí)速率過大可能導(dǎo)致系統(tǒng)的不穩(wěn)定;但學(xué)習(xí)速率過小會導(dǎo)致訓(xùn)練時間較長,收斂速度很慢,不過能保證網(wǎng)絡(luò)的誤差值不跳出誤差表面的低谷而最終趨于最小誤差值。所以在一般情況下,傾向于選取較小的學(xué)習(xí)速率以保證系統(tǒng)的穩(wěn)定性。學(xué)習(xí)速率的選取范圍在0.01到0.8之間。綜合考慮一下,本系統(tǒng)選取學(xué)習(xí)速率為0.1。BP網(wǎng)絡(luò)訓(xùn)練程序如下所示[9]:

%定義輸入向量和目標(biāo)向量

P=[0.5 0.6 0.8 ??;0.7082 0.7081 0.7079 ??];

T=[0.3744 0.4533 0.3735 0.648??];

%創(chuàng)建BP網(wǎng)絡(luò)和定義訓(xùn)練函數(shù)及參數(shù)

net=newcf( minmax(P),[15,1],{‘lo gsig’,‘purelin’},‘traingd’);

net=initnw(net,1);

net.trainParam.epochs=5000;

net.trainParam.lr=0.1;

net.trainParam.goal=0.00001;

%訓(xùn)練神經(jīng)網(wǎng)絡(luò)

[net,tr]=train(net,P,T);

待網(wǎng)絡(luò)訓(xùn)練好后,利用選定的20組測試樣本對其進行測試,以測量其泛化能力。測試結(jié)果如圖2和圖3所示。

圖2為真實流量值與通過BP網(wǎng)絡(luò)軟測量模型的預(yù)測值之間的擬合曲線,方框代表預(yù)測值,圓點代表真實值。

訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文第4篇

【關(guān)鍵詞】大學(xué)生身體素質(zhì)評估 遺傳算法 BP神經(jīng)網(wǎng)絡(luò) MATLAB計算程序

在校大學(xué)生是國家重要的人才后備力量,大學(xué)生的身體素質(zhì)培養(yǎng)和鍛煉是學(xué)校體育教學(xué)中關(guān)注的重點。對大學(xué)生身體素質(zhì)進行科學(xué)、切實的評價可制訂更為有效的培養(yǎng)方案,幫助大學(xué)生提高其身體素質(zhì)。身體素質(zhì)評價就是將大學(xué)生的身體形態(tài)、生理機能及運動能力等方面的數(shù)據(jù)綜合起來進行評價[1]。從以往的研究成果看,對大學(xué)生身體素質(zhì)評價集中于采用概率統(tǒng)計、多元回歸分析和神經(jīng)網(wǎng)絡(luò)[2]的方法。然而,概率統(tǒng)計僅得到整體評價結(jié)果,多元回歸分析預(yù)測精度較低,且兩者受樣本空間影響較大。為此,本文利用遺傳算法來訓(xùn)練初始網(wǎng)絡(luò)模型,再用BP算法來進行精確求解,是對神經(jīng)網(wǎng)絡(luò)評估大學(xué)生身體素質(zhì)的進一步優(yōu)化應(yīng)用。

基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)理論

通過把神經(jīng)網(wǎng)絡(luò)和遺傳算法合理、科學(xué)的結(jié)合,既能夠利用神經(jīng)網(wǎng)絡(luò)較強的學(xué)習(xí)能力,又發(fā)揮了遺傳算法全局尋優(yōu)的搜索功能。首先利用遺傳算法得到權(quán)值的較優(yōu)初始取值,訓(xùn)練網(wǎng)絡(luò)避免了局部極小,利用BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練次數(shù)和最終權(quán)值也相對穩(wěn)定,訓(xùn)練速度明顯加快,從而既節(jié)約了時間,又提高了預(yù)測結(jié)果的準(zhǔn)確性。

1.基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

BP網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則采用最速下降法,利用遺傳算法根據(jù)訓(xùn)練目標(biāo)函數(shù)對網(wǎng)絡(luò)權(quán)值進行迭代,找到最佳初始網(wǎng)絡(luò)權(quán)值。通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)權(quán)值,使網(wǎng)絡(luò)誤差平方和最小,該系統(tǒng)的網(wǎng)絡(luò)結(jié)構(gòu),如圖1所示。先對大學(xué)生身體素質(zhì)的評估指標(biāo)進行分類,抽取大學(xué)生身體素質(zhì)的特征指標(biāo),并作為輸入信息送入由輸入層、中間層和輸出層組成的三層網(wǎng)絡(luò)模型進行評估。經(jīng)過測試的網(wǎng)絡(luò),成為穩(wěn)定的模式評估器,即可輸出評估結(jié)果[3,4]。

該模型的輸入層節(jié)點數(shù)為n,即大學(xué)生身體素質(zhì)評價指標(biāo)數(shù),中間層節(jié)點數(shù)為 ,輸出層節(jié)點數(shù)為1,即身體素質(zhì)評估結(jié)果值,ωij和ωj為BP神經(jīng)網(wǎng)絡(luò)權(quán)值,初始化隱含層閾值為ɑ,輸出層閾值為b,由此可給定學(xué)習(xí)速率和神經(jīng)元激勵函數(shù)。從圖1可發(fā)現(xiàn),BP神經(jīng)網(wǎng)絡(luò)可以看成一個非線性函數(shù),網(wǎng)絡(luò)輸入值和輸出值分別為該函數(shù)的自變量和因變量。當(dāng)輸入層節(jié)點數(shù)為n,輸出層節(jié)點數(shù)為1時,BP神經(jīng)網(wǎng)絡(luò)就表達了從n個自變量到1個因變量的函數(shù)映射關(guān)系。

2.基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)算法

遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的核心是用遺傳算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值,使優(yōu)化后的BP神經(jīng)網(wǎng)絡(luò)能夠更好地預(yù)測函數(shù)輸出,計算流程如圖2所示。

1.背景資料

根據(jù)本校某班2011年大學(xué)生身體素質(zhì)測評成績,從中選取30名學(xué)生的測試結(jié)果作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本和校驗樣本。結(jié)合遺傳算法和BP神經(jīng)網(wǎng)絡(luò)算法,在大型數(shù)學(xué)計算軟件MATLAB中編程實現(xiàn)基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)大學(xué)生身體素質(zhì)評估[4]。

2.計算結(jié)果與分析

遺傳算法優(yōu)化過程中最優(yōu)個體的適應(yīng)度變化(如圖3)。把最優(yōu)初始權(quán)值、閾值賦給神經(jīng)網(wǎng)絡(luò),用訓(xùn)練數(shù)據(jù)訓(xùn)練100次后,得到基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)預(yù)測值。為了對比分析,也進行了BP神經(jīng)網(wǎng)絡(luò)預(yù)測分析(如圖4)。

從圖4可看出,采用BP神經(jīng)網(wǎng)絡(luò)及遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)兩種算法得到的預(yù)測結(jié)果,與專家判斷(實際值)基本一致。但基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)較BP神經(jīng)網(wǎng)絡(luò)預(yù)測精度高。特別在輸入節(jié)點,即評價大學(xué)生身體素質(zhì)的指標(biāo)較多時,基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)預(yù)測效果要好一些。

結(jié) 論

1.本文提出了基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)大學(xué)生身體素質(zhì)評價算法,并建立了相應(yīng)的網(wǎng)絡(luò)模型。

2.基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)算法不但具有神經(jīng)網(wǎng)絡(luò)的函數(shù)逼近能力,而且應(yīng)用遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的權(quán)值、閾值,可使優(yōu)化后的神經(jīng)網(wǎng)絡(luò)避免訓(xùn)練時間長、易陷入局部極值的缺點。

3.結(jié)合實例,將基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)大學(xué)生身體素質(zhì)評價算法,應(yīng)用于本校學(xué)生身體素質(zhì)評估。結(jié)果表明,該算法較BP神經(jīng)網(wǎng)絡(luò)預(yù)測精度及效率高,可作為今后大學(xué)生身體素質(zhì)評價的一種新方法。

參考文獻:

[1]范正森,張明如,周瑞琪.大學(xué)生身體素質(zhì)綜合評價數(shù)學(xué)模型[J].武漢工業(yè)大學(xué)學(xué)報,2001,4:92-94.

[2]陳海英,郭巧.短跑運動能力的神經(jīng)網(wǎng)絡(luò)評價方法[J].北京理工大學(xué)學(xué)報,2003,1:54-57.

[3]陳剛,何政偉,楊斌,楊洋.遺傳BP神經(jīng)網(wǎng)絡(luò)在泥石流危險性評價中的應(yīng)用[J].計算機工程與應(yīng)用,2010,46(3).

訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文第5篇

關(guān)鍵詞:風(fēng)電機組;matlab;人工神經(jīng)網(wǎng)絡(luò);風(fēng)功率預(yù)測

1 風(fēng)電功率預(yù)測模型

1.1 徑向基神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)算法是近年來發(fā)展起來的一種新型人工智能算法。不同于以往的數(shù)學(xué)算法,它是一種模仿動物神經(jīng)網(wǎng)絡(luò)行為特征,進行分布式并行信息處理的算法數(shù)學(xué)模型,具有自學(xué)習(xí)、自適應(yīng)和自組織能力的特點。

徑向基神經(jīng)網(wǎng)絡(luò)(即RBF神經(jīng)網(wǎng)絡(luò))是一種三層前向網(wǎng)絡(luò),由輸入層、隱含層和輸出層組成,網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。由輸入到輸出的映射是非線性的,而隱含層到輸出層是線性的,從而大大加快了學(xué)習(xí)速度并避免局部極小問題。

根據(jù)徑向基函數(shù)中心選取方法的不同,RBF神經(jīng)網(wǎng)絡(luò)有很多學(xué)習(xí)方法,如隨機選取中心法、梯度訓(xùn)練法、有監(jiān)督選取中心法和正交最小二乘法等。這里,選用梯度訓(xùn)練法作為RBF神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法。

1.2 梯度訓(xùn)練方法

RBF網(wǎng)的梯度訓(xùn)練方法是通過最小化目標(biāo)函數(shù)實現(xiàn)對各隱節(jié)點數(shù)據(jù)中心、擴展常數(shù)和輸出權(quán)值的調(diào)節(jié)。使用一種帶遺忘因子的單輸出RBF網(wǎng)學(xué)習(xí)方法,此時神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的目標(biāo)函數(shù)為:

(1)

其中,?茁j為遺忘因子,誤差信號ej的定義為:

(2)

由于神經(jīng)網(wǎng)絡(luò)函數(shù)F(X)對數(shù)據(jù)中心ci、擴展常數(shù)ri和輸出權(quán)值wi的梯度分別為:

(3)

(4)

(5)

考慮所有訓(xùn)練樣本和遺忘因子的影響,ci、ri和wi的調(diào)節(jié)量為

(6)

(7)

(8)

其中,?椎i(Xj)為第i個隱節(jié)點對Xj的輸出,?濁為學(xué)習(xí)速率。

1.3 數(shù)據(jù)歸一化

數(shù)據(jù)歸一化是神經(jīng)網(wǎng)絡(luò)預(yù)測前對數(shù)據(jù)常用的一種處理方法。數(shù)據(jù)歸一化處理將所有數(shù)據(jù)都轉(zhuǎn)化為[0,1]之間的數(shù),其目的是取消各維數(shù)據(jù)間數(shù)量級別差,避免因為輸入輸出數(shù)據(jù)數(shù)量級差別較大而造成神經(jīng)網(wǎng)絡(luò)預(yù)測誤差較大。

風(fēng)速歸一化:應(yīng)用多年統(tǒng)計的極限風(fēng)速對風(fēng)速數(shù)據(jù)進行歸一化處理

(9)

其中,Vg為歸一化處理后的風(fēng)速標(biāo)量值;vt為應(yīng)用于預(yù)測的歷史風(fēng)速值;vmax為風(fēng)場氣象觀測到的歷史最大風(fēng)速,如不超過風(fēng)場風(fēng)機最大切除風(fēng)速,則取為風(fēng)機的切除風(fēng)度。

風(fēng)功率歸一化:根據(jù)風(fēng)電機組額定功率,采用與風(fēng)速歸一化相同的方式,對風(fēng)電機組歷史出力情況進行歸一化,并對網(wǎng)絡(luò)預(yù)測的輸出功率進行反歸一化,得到預(yù)測結(jié)果。

1.4 神經(jīng)網(wǎng)絡(luò)的構(gòu)建

首先挑選幾組數(shù)據(jù)風(fēng)功率作為樣本,將每個樣本的前n個風(fēng)速和風(fēng)功率值進行歸一化處理,將處理后的數(shù)值作為RBF神經(jīng)網(wǎng)絡(luò)的輸入;可將每個樣本的后n個風(fēng)速和風(fēng)功率值進行歸一化處理,將處理后的數(shù)值作為RBF神經(jīng)網(wǎng)絡(luò)的目標(biāo)輸出,通過對RBF神經(jīng)網(wǎng)絡(luò)的訓(xùn)練學(xué)習(xí),實現(xiàn)從輸入空間到輸出空間的映射。

2 短期風(fēng)功率預(yù)測結(jié)果

將前10天的風(fēng)功率數(shù)據(jù)作為訓(xùn)練樣本,對風(fēng)機功率提前1小時進行預(yù)測。圖2預(yù)測風(fēng)功率與實測風(fēng)功率比較可知,可以看到神經(jīng)網(wǎng)絡(luò)預(yù)測風(fēng)功率變化趨勢與實際風(fēng)功率變化基本趨勢一致,并且預(yù)測功率比實際功率變化平緩。

神經(jīng)網(wǎng)絡(luò)在風(fēng)功率預(yù)測時,每點的預(yù)報誤差不盡相同,這主要與早晚溫差造成的風(fēng)速突然變化以及當(dāng)天天氣變化情況等有關(guān),從預(yù)測曲線的總體趨勢以及與實際曲線誤差值大小來看,該神經(jīng)網(wǎng)絡(luò)模型預(yù)測結(jié)果基本令人滿意。

3 結(jié)束語

采用人工神經(jīng)網(wǎng)絡(luò)進行預(yù)測精度較高、訓(xùn)練速度快,適用于在線預(yù)測的場合。但是由于所用訓(xùn)練數(shù)據(jù)為風(fēng)速相對平穩(wěn)時期的數(shù)據(jù),所以該模型對于突變風(fēng)速的處理能力仍然有限,為提高預(yù)測結(jié)果的精度,還需對模型進行進一步改進??傮w而言,通過建立神經(jīng)網(wǎng)絡(luò)模型,對短期風(fēng)功率進行預(yù)測,雖有一定局限性,但其預(yù)測精度滿足工程要求。

參考文獻

[1]Tony Burton,等.風(fēng)能技術(shù)[M].北京:科學(xué)出版社,2007.