前言:想要寫出一篇令人眼前一亮的文章嗎?我們特意為您整理了5篇神經(jīng)網(wǎng)絡(luò)實驗總結(jié)范文,相信會為您的寫作帶來幫助,發(fā)現(xiàn)更多的寫作思路和靈感。
關(guān)鍵詞 :GA-RBF神經(jīng)網(wǎng)絡(luò) 預(yù)測模型 仿真
泵的性能預(yù)測研究就是根據(jù)泵的葉輪、蝸殼、導(dǎo)葉等過流部件的幾何參數(shù),分析內(nèi)部流動特征,以此預(yù)測泵的性能,是在泵產(chǎn)品設(shè)計中必不可少的重要環(huán)節(jié),具有縮短研發(fā)周期、降低開發(fā)成本和提高產(chǎn)品設(shè)計質(zhì)量等優(yōu)點。針對離心泵的性能研究不但具有重要的學術(shù)價值和社會效益,而且對研究其他泵的性能提供了可資借鑒的依據(jù)。
一、GA-RBF神經(jīng)網(wǎng)絡(luò)簡介
GA-RBF神經(jīng)網(wǎng)絡(luò)是將遺傳算法引入到前饋式神經(jīng)網(wǎng)絡(luò)(RBF)發(fā)展起來的一種神經(jīng)網(wǎng)絡(luò)。作為三層前向網(wǎng)路的RBF神經(jīng)網(wǎng)絡(luò),由輸入層、徑向基層(RBF層)和輸出層構(gòu)成,它利用RBF作為隱含單元的“基”構(gòu)成隱含空間,輸入矢量不需要通過權(quán)連接直接進入隱含層,只要能夠確定RBF的中心點,就能夠確定其相應(yīng)的映射關(guān)系,具有突出的最佳逼近性能和全局最有特性且構(gòu)造簡單、訓(xùn)練速度快,在非線性函數(shù)逼近及模式識別領(lǐng)域取得了很好的效果。
二、構(gòu)建基于GA-RBF神經(jīng)網(wǎng)絡(luò)性能預(yù)測模型
在利用GA-RBF神經(jīng)網(wǎng)絡(luò)算法來實現(xiàn)對離心泵性能預(yù)測時可根據(jù)如圖1所示的流程圖進行。
因為在GA-RBF神經(jīng)網(wǎng)絡(luò)中,輸入模式對于離心泵性能預(yù)測預(yù)測結(jié)果有比較大影響,因此我們選取對離心泵能量性能影響較大的離心泵幾何參數(shù)和設(shè)計流量()作為GA-RBF神經(jīng)網(wǎng)絡(luò)的輸入變量。其中,主要的離心泵幾何參數(shù)包括:葉輪出口直徑()、葉片出口寬度()、葉片出口安放角()、渦殼的基圓直徑()、渦殼進口寬度()、蝸殼第八斷面面積()、葉片包角()以及葉片數(shù)()。根據(jù)輸入模式可以確定輸入層神經(jīng)元數(shù)目為9。考慮到RBF神經(jīng)網(wǎng)絡(luò)的隱含層神經(jīng)元是徑向基函數(shù),該特性使RBF神經(jīng)網(wǎng)絡(luò)的擬合特性為局部性,于是本文將泵的揚程和效率預(yù)測設(shè)計為2個相類似結(jié)構(gòu)的GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型,即為離心泵揚程GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型和離心泵效率GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型,如圖2所示。
三、仿真實驗
為了考察建立的離心泵揚程GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型和離心泵效率GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型的有效性,我們選取沈陽水泵研究所編撰的《全國優(yōu)秀水力模型匯編》和江蘇大學關(guān)醒凡教授編撰的《現(xiàn)代泵技術(shù)手冊》選取57組單級單吸離心泵的設(shè)計參數(shù)和試驗參數(shù)作為訓(xùn)練樣本數(shù)據(jù)和目標數(shù)據(jù)。
根據(jù)訓(xùn)練樣本數(shù)據(jù)和目標數(shù)據(jù)輸入離心泵揚程GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型和離心泵效率GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型進行訓(xùn)練,其訓(xùn)練學習效果分別如圖3、圖4所示。
為了考察建立的離心泵揚程GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型和離心泵效率GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型的效果,本文也從沈陽水泵研究所編撰的《全國優(yōu)秀水力模型匯編》和江蘇大學關(guān)醒凡教授編撰的《現(xiàn)代泵技術(shù)手冊》選取6組單級單吸離心泵的設(shè)計參數(shù)和試驗參數(shù)數(shù)據(jù)作為檢驗樣本,其具體數(shù)據(jù)如表1所示。
采用表1的數(shù)據(jù)和利用已經(jīng)建立的離心泵揚程GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型和離心泵效率GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型分別進行預(yù)測離心泵的揚程、效率等性能指標,與談明高等人所做實驗和撰寫的文獻參數(shù)進行對比,其結(jié)果如表2所示。
分析表2的離心泵性能的GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型檢驗樣本預(yù)測結(jié)果發(fā)現(xiàn):GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測的揚程最大相對誤差的絕對值為12.06% 、最小相對誤差的絕對值為2.34%、均方根相對誤差為6.56%;效率誤差最大相對誤差的絕對值為6.99% 、最小相對誤差的絕對值為0.67% 、均方根誤差為3.99%。RBF神經(jīng)網(wǎng)絡(luò)預(yù)測的揚程最大相對誤差的絕對值為13.86% 、最小相對誤差的絕對值為2.29%、均方根相對誤差為7.56%;效率誤差最大相對誤差的絕對值為6.00% 、最小相對誤差的絕對值為1.78% 、均方根誤差為3.70%。
由圖3和圖4我們可以看到,RBF神經(jīng)網(wǎng)絡(luò)及其改進的GA-RBF神經(jīng)網(wǎng)絡(luò)在離心泵揚程預(yù)測精度方面都低于效率預(yù)測精度;雖然GA-RBF神經(jīng)網(wǎng)絡(luò)在預(yù)測離心泵效率的精度雖然比RBF神經(jīng)網(wǎng)絡(luò)略低,但在預(yù)測離心泵揚程的精度明顯要好得多。
四、總結(jié)
我們采用GA-RBF神經(jīng)網(wǎng)絡(luò)算法建立離心泵性能GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型,在沈陽水泵研究所編撰的《全國優(yōu)秀水力模型匯編》和江蘇大學關(guān)醒凡教授編撰的《現(xiàn)代泵技術(shù)手冊》選取57組單級單吸離心泵的設(shè)計參數(shù)和試驗參數(shù)進行建模和驗證,并通過闡述性能預(yù)測的實現(xiàn)過程,結(jié)果表明離心泵性能GA-RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型與原有的離心泵性能RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型通一樣有效,并且設(shè)置參數(shù)更簡單、更方便。
參考文獻:
[1]關(guān)醒凡.現(xiàn)代泵技術(shù)手冊[M].宇航出版社,1995.
[2]張頂學,劉新芝,關(guān)治洪.RBF神經(jīng)網(wǎng)絡(luò)算法及其應(yīng)用[J].石油化工高等學校學報,2007,(03).
摘要:本文利用神經(jīng)網(wǎng)絡(luò)的強大的自學習能力和自適應(yīng)性來提高安全審計系統(tǒng)的性能。在眾多神經(jīng)網(wǎng)絡(luò)中,PNN概率神經(jīng)網(wǎng)絡(luò)尤為適合運用到入侵行為模式的誤用檢測方面。因此本文將PNN概率神經(jīng)網(wǎng)絡(luò)和入侵檢測技術(shù)結(jié)合起來,研究保護企業(yè)數(shù)據(jù)庫的安全技術(shù),并構(gòu)造出一套企業(yè)數(shù)據(jù)庫入侵誤用檢測模型。該模型主要用于檢測已知的入侵行為模式,并給系統(tǒng)及時處理入侵行為提供依據(jù)。
關(guān)鍵詞:數(shù)據(jù)庫安全 PNN概率神經(jīng)網(wǎng)絡(luò) 入侵檢測
Abstract:The thesis uses the neural network's powerful self-learning and self-adaptive to improve the performance of the security audit system. In many neural networks, the Probabilistic Neural Network is particularly suitable for the misuse detection of intrusion mode. The thesis combines the method of the Probabilistic Neural Network with the technique of intrusion detection, and constructs a model of intrusion detection system applied to the corporation database. The mode can detect the known intrusion modes, in the same time, provides the basis for system to deal with the intrusions in time.
Key words: Database security Probabilistic Neural Network Intrusion detection
數(shù)據(jù)庫作為企業(yè)和部門信息系統(tǒng)的重要組成部分,存儲著大量的數(shù)據(jù),其中某些數(shù)據(jù)可能是機密的重要數(shù)據(jù),這些數(shù)據(jù)一旦遭到破壞,會給企業(yè)和部門造成不可挽回的損失,所以,這些數(shù)據(jù)的安全性在信息系統(tǒng)的安全中起著至關(guān)重要的作用。當前,數(shù)據(jù)庫安全技術(shù)的研究已經(jīng)成為信息安全的重要課題,入侵檢測技術(shù)是新一代的動態(tài)安全保障技術(shù),它用來檢測內(nèi)部用戶的不合法操作和外部非法入侵者的惡意攻擊。檢測系統(tǒng)在檢測到攻擊的同時,還會采取適當?shù)奶幚砼c保護措施,對有效保護數(shù)據(jù)庫安全提供了一種很好的解決思路,被稱為防火墻之后的第二道安全閘門。其本身也成為當今信息安全領(lǐng)域的一個研究熱點。
入侵檢測ID(Intrusion Detection)是近十年發(fā)展起來的一種預(yù)防、動態(tài)監(jiān)測和抵御系統(tǒng)入侵行為的安全機制,彌補了傳統(tǒng)安全技術(shù)的不足。入侵檢測系統(tǒng)IDS(Intrusion Detection System)可以實時監(jiān)控網(wǎng)絡(luò)和計算機主機,發(fā)現(xiàn)可疑事件,入侵行為一旦被檢測出來,系統(tǒng)就會采取報警、記錄和切斷連接等措施,在對系統(tǒng)安全產(chǎn)生的危害之前及時消除風險。
神經(jīng)網(wǎng)絡(luò)技術(shù)具有自適應(yīng)和自學習的能力,只要給系統(tǒng)提供所需的網(wǎng)絡(luò)數(shù)據(jù)包和審計數(shù)據(jù),它就可以通過自學習構(gòu)造出相對正常的用戶或系統(tǒng)活動模型,從而檢測出異常活動的攻擊模式,因此在檢測方法上,將神經(jīng)網(wǎng)絡(luò)引入到入侵檢測的研究中,使得入侵檢測的智能性研究逐漸成為熱點。
PNN概率神經(jīng)網(wǎng)絡(luò)在數(shù)據(jù)庫入侵的誤用檢測中,能夠?qū)θ肭中袨槟J竭M行快速準確的檢測及判斷,為系統(tǒng)及時采取相應(yīng)的措施提供依據(jù)。誤用檢測是指運用已知的攻擊方法,根據(jù)定義好的異常模式,通過判斷這些異常模式是否出現(xiàn)來檢測。本文圍繞PNN神經(jīng)網(wǎng)絡(luò)的運用,對整個數(shù)據(jù)處理過程進行了介紹,從數(shù)據(jù)采集,到網(wǎng)絡(luò)訓(xùn)練,以及測試網(wǎng)絡(luò)性能,提出利用PNN概率神經(jīng)網(wǎng)絡(luò)進行入侵行為模式判斷的優(yōu)勢,進而總結(jié)出一種新型的企業(yè)數(shù)據(jù)庫入侵的誤用檢測模型。
一、PNN神經(jīng)網(wǎng)絡(luò)算法模型
概率神經(jīng)網(wǎng)絡(luò)PNN(Probabilistic Neural Network)是根據(jù)徑向基函數(shù)網(wǎng)絡(luò)發(fā)展而來的一種前饋型神經(jīng)網(wǎng)絡(luò),是徑向基網(wǎng)絡(luò)的一種變化形式,其理論依據(jù)是貝葉斯最小風險準則。PNN具有結(jié)構(gòu)簡單、訓(xùn)練快捷等優(yōu)點,在分類問題中,它的優(yōu)勢在于可以利用線性學習算法來完成非線性算法所做的工作,同時又可以保持非線性算法高精度的特點。其結(jié)構(gòu)如圖1所示。
輸入層測試向量X(X1…Xn)通過傳遞機制傳遞到模式層,經(jīng)過模式層的相應(yīng)處理產(chǎn)生新的信息量依次經(jīng)過該網(wǎng)絡(luò)的所有層,其神經(jīng)元的數(shù)目由訓(xùn)練數(shù)據(jù)的維數(shù)決定。模式層中各個類別組的輸出為:
其中Wi表示連接輸入層與模式層的權(quán)值,δ表示平滑因子。
求和層具有線性求和的功能,估計分類模式的各個類別的累計概率。概率密度函數(shù)為:
其中m為屬于類別A的訓(xùn)練樣本數(shù),XAi為樣本中屬于類別A的第i個訓(xùn)練樣本,σ為平滑因子。訓(xùn)練過程可以表示如下:首先通過輸入層輸入訓(xùn)練樣本向量,然后在模式層中分別計算該向量與代表不同類別組的神經(jīng)元之間的距離,再在求和層中求出每個類別模式的概率,最后在輸出層計算各個類別的概率估計,由閾值辨別器從中選擇并傳遞出后驗概率密度最大的神經(jīng)元的輸出即1,而其他的輸出0。
二、數(shù)據(jù)采集
入侵檢測的數(shù)據(jù)采集可以收集系統(tǒng)、網(wǎng)絡(luò)、數(shù)據(jù)及用戶活動的狀態(tài)和行為,一般可以利用的信息主要來自以下三個方面。
1、系統(tǒng)和網(wǎng)絡(luò)日志文件
2、非正常的程序執(zhí)行
3、非正常的目錄和文件改變
入侵檢測的準確性很大程度上依賴于收集信息的可靠性和正確性,因此很有必要只利用精確的軟件來報告這些信息。本文利用SQL Server的事件探查器(SQL Server Profiler)跟蹤各客戶端的數(shù)據(jù)庫調(diào)用。首先建立跟蹤文件,使用SQL Profile標準模板,將跟蹤的結(jié)果存儲到表。表1為SQL事件探查器監(jiān)控的事件分類。
本文主要跟蹤企業(yè)數(shù)據(jù)庫,相應(yīng)數(shù)據(jù)庫事件類主要為
1、TSQL分類中的SQL:BatchCompleted、SQL:StmtCompleted和SQL:StmtStarting
2、安全審核分類中的Audit Login和Audit LogOut
3、存儲過程中的RPC:Output Paramete、RPC:Completed、RPC:Starting、SP:CacheHit、SP:CacheInsert、SP:CacheMiss、SP:Cac-
heRemove、SP:Completed、SP:ExecContextHit和SP:Recompile
4、會話分類中的Existing Connection事件類。
相應(yīng)的事件類數(shù)據(jù)為EventClass(捕獲的事件類類型)、LoginName(客戶數(shù)據(jù)庫登錄名)、CPU(CPU占用時間)、Reads(服務(wù)器代表事件執(zhí)行的邏輯磁盤讀取數(shù))、Writes(服務(wù)器代表事件執(zhí)行的物理磁盤寫入數(shù))、ClientProcessID(客戶端進程號)、SPID(SQL Server指派的與客戶端相關(guān)的服務(wù)器進程ID)和objectID(系統(tǒng)分配對象)。
SQL探查器將采集到的數(shù)據(jù)存儲在表中,為后續(xù)的神經(jīng)網(wǎng)絡(luò)訓(xùn)練與測試提供直接的數(shù)據(jù)源。
三、實驗
(一)實驗數(shù)據(jù)
本文選取實驗數(shù)據(jù)為從SQL事件探查器中采集到的具有入侵行為模式分類的入侵數(shù)據(jù),有5類入侵模式,所以用1、2、3、4、5分別代表各類入侵模式。本文所采用的入侵數(shù)據(jù)的特征向量為上節(jié)所采集的各個數(shù)據(jù)列,在上述監(jiān)控的八個數(shù)據(jù)列里面去掉LoginName數(shù)據(jù)列,選取EventClass、LoginName、CPU、Reads、Write、ClientProcessID、SPID和objectID七個數(shù)據(jù)列作為神經(jīng)網(wǎng)絡(luò)的七個特征向量。一共有4500個入侵數(shù)據(jù)樣本,隨機選取其中的4000個入侵數(shù)據(jù)樣本作為PNN神經(jīng)網(wǎng)絡(luò)的訓(xùn)練集,其余的500個數(shù)據(jù)樣本作為測試集以測試PNN神經(jīng)網(wǎng)絡(luò)的性能。此入侵數(shù)據(jù)集為4500×8維的矩陣,1到7列為七個特征向量,第8列為分類的輸出,也就是入侵類別。實驗采用MATLAB2012B軟件及其神經(jīng)網(wǎng)絡(luò)工具箱。
(二)入侵檢測的實現(xiàn)
如圖1,在對入侵數(shù)據(jù)進行測試時,輸入層接收具有分類號的數(shù)據(jù)樣本(訓(xùn)練樣本向量)的值,即1、2、3、4、5,將入侵數(shù)據(jù)樣本的屬性傳遞給網(wǎng)絡(luò)。模式層計算輸入特征向量(樣本屬性)與訓(xùn)練集中各個模式的匹配關(guān)系,求和層將屬于某類的概率累計,按式(1)計算,從而得到各類的估計概率密度函數(shù)。模式層由5類入侵類型的數(shù)據(jù)樣本構(gòu)成,將分類好的樣本向量填充到模式層,即可完成該PNN的構(gòu)建。
測試時,輸入層把未分類的需要測試的入侵數(shù)據(jù)樣本向量Xn送至所有的模式層單元。每個模式層單元計算測試入侵數(shù)據(jù)樣本向量Xn和該單元訓(xùn)練向量之間的距離,求和層各單元把模式層單元的輸出按類別號相加求和,獲得各分類對應(yīng)的分布密度。輸出層從求和層中求得輸入測試數(shù)據(jù)相對于各類別號的分布密度最大值,并將其對應(yīng)的類別號1、2、3、4、5作為PNN的輸出。
(三)PNN神經(jīng)網(wǎng)絡(luò)性能分析
選取1530到1580這50個樣本來分析,在這50個樣本中有2個樣本判斷錯誤,如圖2所示。實際上在此次PNN網(wǎng)絡(luò)訓(xùn)練過程中,4000個樣本只有5個樣本判斷錯誤,如圖3所示。并且,用預(yù)測樣本進行驗證的時候,選取150到200個這50個樣本,其中有1個樣本的入侵模式類別判斷錯誤,如圖4所示。而實際在此次PNN網(wǎng)絡(luò)檢測過程中,500個樣本只有2個樣本的入侵模式類別判斷錯誤,精度高達99.6%。將網(wǎng)絡(luò)重復(fù)運行10次,其平均精度為99.64%。
(四)PNN神經(jīng)網(wǎng)絡(luò)優(yōu)勢
1、PNN過程簡單,收斂速度快。PNN神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)結(jié)構(gòu)簡單,需要調(diào)節(jié)的參數(shù)很少,其處理數(shù)據(jù)的時間與其他神經(jīng)網(wǎng)絡(luò)相比有較大優(yōu)勢。
2、PNN網(wǎng)絡(luò)基于貝葉斯最小風險分類準則,能夠最大限度地考慮樣本數(shù)據(jù)的先驗信息,即使分類問題異常復(fù)雜,只要用于學習的樣本向量足夠多,就能夠得到Bayes判別準則下的最優(yōu)解。
3、樣本的追加能力強,且可以容忍個別錯誤樣本,即使訓(xùn)練樣本改變也不需要花費較多時間重新訓(xùn)練網(wǎng)絡(luò)。由于PNN神經(jīng)網(wǎng)絡(luò)考慮的是訓(xùn)練樣本屬于各個類別的概率,在估計出各個類別的概率密度函數(shù)(PDF, Probability Density Function)之后,即使根據(jù)實際問題有新的入侵行為模式的加入,只需要相應(yīng)改變模式層神經(jīng)元數(shù)目,而無需重新訓(xùn)練網(wǎng)絡(luò)。
4、PNN在異常與否分類問題應(yīng)用中,通過線性學習算法來完成非線性學習算法所做的工作,同時能保持非線性算法的高精度等特性。
5、PNN網(wǎng)絡(luò)不需要訓(xùn)練,因而能夠滿足數(shù)據(jù)庫入侵檢測實時處理的要求。
四、企業(yè)數(shù)據(jù)庫入侵檢測的系統(tǒng)模型
該模型主要由以下三個模塊組成:
1、數(shù)據(jù)采集模塊。該模塊主要利用SQL Server事件探查器采集相關(guān)數(shù)據(jù)。
2、特征數(shù)據(jù)庫模塊。該模塊為訓(xùn)練好的PNN神經(jīng)網(wǎng)絡(luò),相當于事件數(shù)據(jù)庫,其征數(shù)據(jù)庫與被監(jiān)控數(shù)據(jù)庫分離存儲。
3、報警單元模塊。該模塊對檢測到的異常事件進行處理,將數(shù)據(jù)損失降低到最小,提供報警的可視化界面,將報警信息反饋給系統(tǒng)管理員并記錄到相關(guān)文件,以便及時處理或進行事后分析。
該模型主要流程為:利用事件探查器實時跟蹤各客戶端調(diào)用,采集相關(guān)數(shù)據(jù)并進行處理,將數(shù)據(jù)直接導(dǎo)入特征數(shù)據(jù)庫,利用PNN神經(jīng)網(wǎng)絡(luò)對誤用檢測的優(yōu)勢,實現(xiàn)快速檢測及判斷各種數(shù)據(jù)是否為已知的異常調(diào)用,如有匹配則為某種入侵行為模式,將數(shù)據(jù)送入報警單元,不匹配的數(shù)據(jù)則為正常行為,不作處理。
總結(jié):
隨著互聯(lián)網(wǎng)迅猛發(fā)展,企業(yè)數(shù)據(jù)庫的安全顯得非常重要。入侵檢測作為一種重要的安全保障手段,涉及到廣泛的技術(shù)領(lǐng)域。本文提出一種基于PNN概率神經(jīng)網(wǎng)絡(luò)的算法,實驗結(jié)果表明將PNN概率神經(jīng)網(wǎng)絡(luò)引入到入侵檢測中的具有快速、精準的優(yōu)勢,由此結(jié)合PNN概率神經(jīng)網(wǎng)絡(luò)與入侵檢測技術(shù)研究了一類企業(yè)數(shù)據(jù)庫的安全保護技術(shù),實現(xiàn)了企業(yè)數(shù)據(jù)庫入侵檢測的系統(tǒng)模型,并詳細介紹了模型各個模塊的具體實現(xiàn)方法及流程??梢杂行У姆婪兜絹碜詢?nèi)部的越權(quán)操作、違規(guī)操作和惡意破壞等,并可以抵制外部的遠程非法入侵,是運用神經(jīng)網(wǎng)絡(luò)技術(shù)解決企業(yè)數(shù)據(jù)庫安全保障的有效嘗試?;谄髽I(yè)數(shù)據(jù)庫的數(shù)據(jù)采集方法和神經(jīng)網(wǎng)絡(luò)檢測技術(shù)為今后的工作打開了思路。
參考文獻:
[1]王小川,史峰等。《MATLAB神經(jīng)網(wǎng)絡(luò)30個案例分析》.第一版.北京:北京航空航天大學出版社,2010:176-182.
[2]張德豐等.《MATLAB神經(jīng)網(wǎng)絡(luò)應(yīng)用設(shè)計》.第二版.北京:機械工業(yè)出版社,出版年2011:320-323.
[3]金波.入侵檢測智能方法的研究.上海:華東理工大學,2000:29-131.
[4]李鋼.基于神經(jīng)網(wǎng)絡(luò)的入侵檢測研究與實現(xiàn).南京:南京師范大學.2006.
[5]Sushil Jajodia.Database Security and Privacy.ACM Computing Surveys.1996.
關(guān)鍵詞:樹葉識別;支持向量機;卷積神經(jīng)網(wǎng)絡(luò)
中圖分類號 TP18 文獻標識碼:A 文章編號:1009-3044(2016)10-0194-03
Abstract: In this paper, the convolution neural network recognition in the leaves, and the process by convolution of image visualization. Experiments show that the neural network application identification convolution leaves a 92% recognition rate. In addition , this neural network and support vector machine comparative study can be drawn from the study , convolutional neural network in either speed or accuracy better than support vector machines, visible, convolution neural network in the leaves aspect has good application prospects.
Key words recognition leaves; SVM; convolutional neural network
1 概述
樹葉識別與分類在對于區(qū)分樹葉的種類,探索樹葉的起源,對于人類自身發(fā)展、科普具有特別重要的意義。目前的樹葉識別與分類主要由人完成,但,樹葉種類成千上萬種,面對如此龐大的樹葉世界,任何一個植物學家都不可能知道所有,樹葉的種類,這給進一步研究樹葉帶來了困難。為了解決這一問題,一些模式識別方法諸如支持向量機(Support Vector Machine,SVM)[1],K最近鄰(k-NearestNeighbor, KNN)[2]等被引入,然而,隨著大數(shù)據(jù)時代的到來,這些傳統(tǒng)分類算法暴露出越來越多的不足,如訓(xùn)練時間過長、特征不易提取等不足。
上世紀60年代開始,學者們相繼提出了各種人工神經(jīng)網(wǎng)絡(luò)[3]模型,其中卷積神經(jīng)網(wǎng)絡(luò)由于其對幾何、形變、光照具有一定程度的不變形,因此被廣泛應(yīng)用于圖像領(lǐng)域。其主要特點有:1)輸入圖像不需要預(yù)處理;2)特征提取和識別可以同時進行;3)權(quán)值共享,大大減少了需要訓(xùn)練的參數(shù)數(shù)目,是訓(xùn)練變得更快,適應(yīng)性更強。
卷積神經(jīng)網(wǎng)絡(luò)在國內(nèi)研究才剛剛起步。LeNet-5[4]就是一種卷積神經(jīng)網(wǎng)絡(luò),最初用于手寫數(shù)字識別,本文研究將卷積神經(jīng)網(wǎng)絡(luò)LeNet-5模型改進并應(yīng)用于樹葉識別中。本文首先介紹一下卷積神經(jīng)網(wǎng)絡(luò)和LeNet-5的結(jié)構(gòu),進而將其應(yīng)用于樹葉識別,設(shè)計了實驗方案,用卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)的模式識別算法支持向量機(SVM)進行比較,得出了相關(guān)結(jié)論,并對進一步研究工作進行了展望。
2人工神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)方面的研究很早就已開展,現(xiàn)在的人工神經(jīng)網(wǎng)絡(luò)已經(jīng)發(fā)展成了多領(lǐng)域、多學科交叉的獨立的研究領(lǐng)域。神經(jīng)網(wǎng)絡(luò)中最基本的單元是神經(jīng)元模型。類比生物神經(jīng)元,當它“興奮”時,就會向相連的神經(jīng)元發(fā)送化學物質(zhì),從而改變這些神經(jīng)元的狀態(tài)。人工神經(jīng)元模型如圖1所示:
上述就是一個簡單的神經(jīng)元模型。在這個模型中,神經(jīng)元接收來自n個其他神經(jīng)元傳遞過來的輸入信號,這些信號通過帶權(quán)重的w進行傳遞,神經(jīng)元接收到的總輸入值將與神經(jīng)元的閾值進行比較,然后通過“激活函數(shù)”來產(chǎn)生輸出。
一般采用的激活函數(shù)是Sigmoid函數(shù),如式1所示:
[σz=11+e-z] (1)
該函數(shù)圖像圖2所示:
2.1多層神經(jīng)網(wǎng)絡(luò)
將上述的神經(jīng)元按一定的層次結(jié)構(gòu)連接起來,就得到了如圖3所示的多層神經(jīng)網(wǎng)絡(luò):
多層神經(jīng)網(wǎng)絡(luò)具有輸入層,隱藏層和輸出層。由于每一層之間都是全連接,因此每一層的權(quán)重對整個網(wǎng)絡(luò)的影響都是特別重要的。在這個網(wǎng)絡(luò)中,采用的訓(xùn)練算法是隨機梯度下降算法[5],由于每一層之間都是全連接,當訓(xùn)練樣本特別大的時候,訓(xùn)練需要的時間就會大大增加,由此提出了另一種神經(jīng)網(wǎng)絡(luò)―卷積神經(jīng)網(wǎng)絡(luò)。
2.2卷積神經(jīng)網(wǎng)絡(luò)
卷積神經(jīng)網(wǎng)絡(luò)(CNN)由于在圖像分類任務(wù)上取得了非常好的表現(xiàn)而備受人們關(guān)注。發(fā)展到今天,CNN在深度學習領(lǐng)域已經(jīng)成為了一種非常重要的人工神經(jīng)網(wǎng)絡(luò)。卷積神經(jīng)網(wǎng)絡(luò)的核心在于通過建立很多的特征提取層一層一層地從圖片像素中找出關(guān)系并抽象出來,從而達到分類的目的,CNN方面比較成熟的是LeNet-5模型,如圖4所示:
在該LeNet-5模型中,一共有6層。如上圖所示,網(wǎng)絡(luò)輸入是一個28x28的圖像,輸出的是其識別的結(jié)果。卷積神經(jīng)網(wǎng)絡(luò)通過多個“卷積層”和“采樣層”對輸入信號進行處理,然后在連接層中實現(xiàn)與輸出目標之間的映射,通過每一層卷積濾波器提取輸入的特征。例如,LeNet-5中第一個卷積層由4個特征映射構(gòu)成,每個特征映射是一個24x24的神經(jīng)元陣列。采樣層是基于對卷積后的“平面”進行采樣,如圖所示,在第一個采樣層中又4的12x12的特征映射,其中每個神經(jīng)元與上一層中對應(yīng)的特征映射的2x2鄰域相連接,并計算輸出??梢?,這種局部相關(guān)性的特征提取,由于都是連接著相同的連接權(quán),從而大幅度減少了需要訓(xùn)練的參數(shù)數(shù)目[6]。
3實驗研究
為了將LeNet-5卷積網(wǎng)絡(luò)用于樹葉識別并檢驗其性能,本文收集了8類樹葉的圖片,每一類有40張照片,如圖5所示的一張樹葉樣本:
本文在此基礎(chǔ)上改進了模型,使用了如圖6卷積神經(jīng)網(wǎng)絡(luò)模型:
在此模型中,第一個卷積層是由6個特征映射構(gòu)成,每個特征映射是一個28*28的神經(jīng)元陣列,其中每個神經(jīng)元負責從5*5的區(qū)域通過卷積濾波器提取局部特征,在這里我們進行了可視化分析,如圖7所示:
從圖中可以明顯地看出,卷積網(wǎng)絡(luò)可以很好地提取樹葉的特征。為了驗證卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)分類算法之間的性能,本文基于Python語言,CUDA并行計算平臺,訓(xùn)練同樣大小8類,一共320張的一批訓(xùn)練樣本,采用交叉驗證的方法,得到了如表1所示的結(jié)論。
可見,無論是識別率上,還是訓(xùn)練時間上,卷積網(wǎng)絡(luò)較傳統(tǒng)的支持向量機算法體現(xiàn)出更好地分類性能。
4 總結(jié)
本文從人工神經(jīng)網(wǎng)絡(luò)出發(fā),重點介紹了卷積神經(jīng)網(wǎng)絡(luò)模型LeNet-5在樹葉識別上的各種研究并提取了特征且進行了可視化,并與傳統(tǒng)分類算法SVM進行比較。研究表明,該模型應(yīng)用在樹葉識別上較傳統(tǒng)分類算法取得了較好的結(jié)果,對收集的樹葉達到了92%的準確率,并大大減少了訓(xùn)練所需要的時間。由于卷積神經(jīng)網(wǎng)絡(luò)有如此的優(yōu)點,因此在人臉識別、語音識別、醫(yī)療識別、犯罪識別方面具有很廣泛的應(yīng)用前景。
本文的研究可以歸納為探討了卷積神經(jīng)網(wǎng)絡(luò)在樹葉識別上的效果,并對比了傳統(tǒng)經(jīng)典圖像分類算法,取得了較好的分類精度。
然而,本文進行實驗的樣本過少,當數(shù)據(jù)集過多的時候,這個卷積神經(jīng)網(wǎng)絡(luò)算法的可行性有待我們進一步的研究;另外,最近這幾年,又有很多不同的卷積神經(jīng)網(wǎng)絡(luò)模型出現(xiàn),我們會繼續(xù)試驗其他的神經(jīng)網(wǎng)絡(luò)模型,力求找到更好的分類算法來解決樹葉識別的問題。
參考文獻:
[1]Bell A, Sejnowski T. An Information-Maximization Approach to Blind Separation and Blind Deconvolution[J]. Neural Computation, 1995, 7(6):1129-59.
[2]Altman N S. An Introduction to Kernel and Nearest-Neighbor Nonparametric Regression[J]. American Statistician, 1992, 46(3):175-185.
[3]Ripley B D, Hjort N L. Pattern Recognition and Neural Networks[M]. Pattern recognition and neural networks. Cambridge University Press,, 1996:233-234.
[4]Lécun Y, Bottou L, Bengio Y, et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE, 1998, 86(11):2278-2324.
【關(guān)鍵詞】模糊神經(jīng)網(wǎng)絡(luò);模糊控制;模糊辨識;規(guī)則抽?。粚W習算法
1 問題的提出
模糊邏輯和神經(jīng)網(wǎng)絡(luò)都適于處理那些被控對象模型難以建立或存在大的不確定性和強非線性的系統(tǒng). 由于神經(jīng)網(wǎng)絡(luò)在分布式處理,學習能力,魯棒性,泛化能力方面具有明顯的優(yōu)勢,而模糊系統(tǒng)的優(yōu)勢在于良好的可讀性和可分析性,因此,將神經(jīng)網(wǎng)絡(luò)的思想融合到模糊辨識和模糊控制模型中就可以實現(xiàn)兩者的優(yōu)勢互補.模糊神經(jīng)網(wǎng)絡(luò)控制針對雙方的特點相互借鑒和利用,比單獨的神經(jīng)網(wǎng)絡(luò)控制或單獨的模糊控制具有更好的控制性能. 隨著智能控制理論的發(fā)展,模糊神經(jīng)網(wǎng)絡(luò)控,難以實現(xiàn)系統(tǒng)的實時控制制受到控制界的廣泛關(guān)注,相繼提出了許多控制和辨識的方法.
本文總結(jié)了近期我國學者提出的幾種新的基于模糊神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識與控制方法,并通過仿真進行了各自特點的比較,希望可以通過這些比較,對這些研究加以改進和應(yīng)用.
2 模糊神經(jīng)網(wǎng)絡(luò)
2.1 仿射非線性系統(tǒng)
為了實現(xiàn)非線性系統(tǒng)的實時控制,基于徑向基函數(shù)網(wǎng)絡(luò)與TSK 型模糊推理系統(tǒng)的函數(shù)等價的特點,有學者提出了一種動態(tài)模糊神經(jīng)網(wǎng)絡(luò)的在線自組織線性算法,從而實現(xiàn)了系統(tǒng)的結(jié)構(gòu)和參數(shù)的同時在線自適應(yīng). 學習速度快是這種模糊神經(jīng)網(wǎng)絡(luò)的突出特點.在此基礎(chǔ)上,針對未知仿射非線性SISO 系統(tǒng)提出了一種在線自適應(yīng)模糊神經(jīng)網(wǎng)絡(luò)辨識與控制方法. 該方法首先采用G2FNN 學習算法實時建模系統(tǒng)的逆動態(tài),實現(xiàn)模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)的同時在線學習. 然后,設(shè)計一個魯棒補償器與辨識好的模糊神經(jīng)網(wǎng)絡(luò)組成復(fù)合控制器,并基于Lyapunov 穩(wěn)定性理論設(shè)計自適應(yīng)控制律進一步在線調(diào)整網(wǎng)絡(luò)的權(quán)值,實現(xiàn)系統(tǒng)的跟蹤控制.
控制目標是設(shè)計一個由G2FNN 控制器和魯棒控制器構(gòu)成的模糊神經(jīng)網(wǎng)絡(luò)自適應(yīng)魯棒控制器, 使得系統(tǒng)的輸出y 跟蹤給定的參考輸入信號ym ,對于一個給定的干擾衰減水平常數(shù)ρ>0 ,獲得良好的H ∞跟蹤性能指標.
廣義模糊神經(jīng)網(wǎng)絡(luò)G2FNN 由四層網(wǎng)絡(luò)結(jié)構(gòu)組成,分別實現(xiàn)模糊邏輯的模糊化、模糊推理和解模糊化過程. 圖1 所示為單個輸出結(jié)點G2FNN 的結(jié)構(gòu).
圖1 G2FNN 的結(jié)構(gòu)
G2FNN 中有兩類學習算法,即結(jié)構(gòu)學習和參數(shù)學習. 結(jié)構(gòu)學習是通過對每個新的訓(xùn)練數(shù)據(jù)計算出G2FNN 的輸出與期望輸出之間的偏差來決定是否產(chǎn)生新的模糊規(guī)則或刪除多余的規(guī)則; 參數(shù)學習有兩個方面,一是當系統(tǒng)產(chǎn)生第N r+1條新的模糊規(guī)則時確定新規(guī)則前提參數(shù)ci ( N r+1) ,σi(N r+1),另一個是當不需要進行結(jié)構(gòu)學習時對第三層與第四層網(wǎng)絡(luò)之間的權(quán)值向量W 的調(diào)節(jié).
第一層直接將輸入語言變量xi(i =1,2,…Ni) 傳遞到下一層.
第二層計算輸入分量隸屬于各語言變量值模糊集合的隸屬度,隸屬度函數(shù)為高斯函數(shù):
式中: cij ,σij (i =1 ,2 , …, N r) 分別是第i 個輸入語言變量xi的第j 條隸屬度函數(shù)的中心和寬度;N r 為系統(tǒng)產(chǎn)生的規(guī)則數(shù).
第三層是規(guī)則層, 這一層的每個結(jié)點代表一條模糊規(guī)則,它的作用是用來匹配模糊規(guī)則的前提,每個結(jié)點的輸出可以表示為:
第四層是結(jié)點定義語言變量的輸出, 它的作用是用來匹配模糊規(guī)則的結(jié)論,實現(xiàn)TSK型模糊推理系統(tǒng)的解模糊化過程. 其輸出為:
這里, Wj 為第三層與第四層之間的權(quán)值.
使用倒立擺系統(tǒng)方程進行仿真研究, 倒立擺的動態(tài)方程為:
系統(tǒng)仿真結(jié)果如圖(圖2):
圖2 自適應(yīng)模糊神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)跟蹤軌跡
由圖可知,所設(shè)計的控制器實現(xiàn)了模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)的在線自適應(yīng),輸出跟蹤參考輸入信號,系統(tǒng)的誤差收斂速度快,魯棒性好.
由仿真可見,該方法不僅實現(xiàn)了模糊控制規(guī)則的自動產(chǎn)生和刪除,還保證了閉環(huán)系統(tǒng)的全局穩(wěn)定,并使外部干擾和模糊神經(jīng)網(wǎng)絡(luò)逼近誤差對系統(tǒng)跟蹤誤差的影響衰減到一個指定的水平.本方法不需要知道系統(tǒng)的控制增益,設(shè)計了一個魯棒補償器來抑制模糊神經(jīng)網(wǎng)絡(luò)逼近誤差和外部干擾的影響. 系統(tǒng)魯棒性好,抗干擾能力強,所設(shè)計的控制器可用于系統(tǒng)的實時控制.
2.2 網(wǎng)絡(luò)參數(shù)自學習模糊控制
在模糊系統(tǒng)的許多應(yīng)用中, 如模糊推理、模糊邏輯控制器、模糊分類器等, 提取模糊規(guī)則是一個重要步驟。在新興的研究領(lǐng)域――數(shù)據(jù)挖掘中, 提取模糊規(guī)則也起著重要作用。然而模糊控制規(guī)則的獲得通過由專家經(jīng)驗給出, 這就存在諸如控制規(guī)則不夠客觀、專家經(jīng)驗難以獲得等問題。因此研究模糊規(guī)則的自動生成有著重要的理論和應(yīng)用價值。在許多問題中, 希望提取出來的模糊規(guī)則能夠用語言變量表示, 以便揭示模糊系統(tǒng)內(nèi)部的規(guī)律, 同時這也是模糊系統(tǒng)的一個特色。為了提高抽取復(fù)雜系統(tǒng)模糊if- then 規(guī)則的質(zhì)量, 將具有極好學習能力的神經(jīng)網(wǎng)絡(luò)與模糊推理系統(tǒng)相結(jié)合, 產(chǎn)生了神經(jīng)- 模糊建模方法, 這種方法綜合了兩種形式的特點, 提供了一種從數(shù)值數(shù)據(jù)集抽取模糊規(guī)則的有效框架。有關(guān)領(lǐng)域的研究者們提出了多種模糊邏輯與神經(jīng)網(wǎng)絡(luò)結(jié)合的方法, 給出了各種用于提取模糊if- then 規(guī)則的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)框架。
由于徑向基函數(shù)網(wǎng)絡(luò)(RBFN)以其結(jié)構(gòu)簡單、良好的逼近能力、獨特點可分解性以及和模糊推理系統(tǒng)的函數(shù)等價性, 因此可應(yīng)用于模糊系統(tǒng)。然而, 當一個模糊系統(tǒng)使用學習算法被訓(xùn)練之后可能會影響其可解釋性, 也就是使得模糊系統(tǒng)的可理解性下降, 而可解釋性是模糊系統(tǒng)的一個突出特點。為了讓模糊系統(tǒng)在具有自學習和自組織性的同時也具有可解釋性這一突出特點, 以下提出了一種能夠有效表達模糊系統(tǒng)可解釋性RBF 網(wǎng)絡(luò)結(jié)構(gòu), 并進行了仿真實驗, 取得較好的仿真結(jié)果。
根據(jù)測量數(shù)據(jù)采用各種神經(jīng)網(wǎng)絡(luò)自動提取模糊規(guī)則的方法, 在輸入輸出空間劃分部分運用的是聚類的思想, 而大多數(shù)其輸入輸出空間劃分數(shù)( 聚類數(shù)) 是預(yù)先給定, 這不免帶有一定的盲目性, 直接影響規(guī)則的提取質(zhì)量。為此, 本文關(guān)于初始聚類中心及聚類中心個數(shù)的確定方法采用文獻7 提出的一種聚類神經(jīng)網(wǎng)絡(luò)初始聚類中心的確定方法。利用這種基于密度和基于網(wǎng)格的聚類方法, 能自動地進行樣本空間的劃分, 針對樣本空間劃分過程中不同階段的特點, 采用了不同的處理手段, 使得該方法在樣本空間劃分數(shù)、聚類學習時間等方面都具有比較明顯的優(yōu)越性(圖3)。
圖3 仿真實驗結(jié)果
下面針對每個仿真曲面分別給出一組訓(xùn)練樣本點為500 個, 評價樣本點為100 個的仿真結(jié)果圖, 如圖4所示:
圖4
從圖中, 可見各樣本數(shù)據(jù)的預(yù)測值與實際值吻合的比較好, 只有個別的點誤差較大, 這與訓(xùn)練樣本點的選取有關(guān)。另外, 在系統(tǒng)模型建立好后, 為了檢驗?zāi)P偷男Ч?筆者另外又抽取幾組數(shù)據(jù)樣本作為評價樣本, 結(jié)果發(fā)現(xiàn)預(yù)測值與實際值相比, 誤差也在允許范圍內(nèi), 效果比較令人滿意。
本方法的創(chuàng)新點是提出了一種能夠有效表達模糊系統(tǒng)可解釋性RBF 網(wǎng)絡(luò)結(jié)構(gòu), 并給出了一種有效的提取模糊規(guī)則的算法, 這就使模糊系統(tǒng)在具有自學習和自組織性的同時也具有可解釋性這一突出特點。利用這種網(wǎng)絡(luò)結(jié)構(gòu)和算法進行控制器設(shè)計, 至少有以下的優(yōu)點:
(1)模糊系統(tǒng)具有很好的可解釋性。
(2)該算法克服了RBF 中心個數(shù)選擇的隨機性,較好地解決了樣本聚類。
(3)提出的增量數(shù)據(jù)處理方法保證了網(wǎng)絡(luò)結(jié)構(gòu)能適應(yīng)不斷擴大的數(shù)據(jù)集。
綜上所述, 這種RBF 模糊神經(jīng)網(wǎng)絡(luò)控制算法,對于研究非線性, 時變的多變量系統(tǒng), 提供了一種新的思路, 具有一定的理論意義和工程應(yīng)用價值。
2.3 其他一些方法
其他的一些最近被提出的,如基于神經(jīng)模糊網(wǎng)絡(luò)的方法,基于模糊推理網(wǎng)絡(luò)的方法(見圖5), 基于非線性自回歸滑動平均模型等,都取得了很好的控制和辨識效果,具有有良好的發(fā)展和應(yīng)用前景.
圖5 6層神經(jīng)模糊推理網(wǎng)絡(luò)
3 總結(jié)
本文系統(tǒng)地敘述了目前研究比較熱門的近期我國學者提出的幾種新的基于模糊神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識與控制方法的研究成果,并簡要分析了各種方法的優(yōu)缺點. 限于篇幅,除本文介紹的幾種方法外, 還有一些研究成果沒有列出. 本文的目的是為在這方面進行研究的學者提供一個系統(tǒng)的參考和建議.
【參考文獻】
[1]李佳寧,易建強,等.一種新的基于神經(jīng)模糊推理網(wǎng)絡(luò)的復(fù)雜系統(tǒng)模糊辨識方法[J].自動化學報,2006,Vol.32,No.5.
[2]王鍇,王占林,付永領(lǐng),祁曉野. 基于PNN與FNN模型神經(jīng)網(wǎng)絡(luò)控制器設(shè)計與分析[J].北京航空航天大學學報,Vol.32, No.9,2006.
[3]李曉秀,劉國榮,沈細群.仿射非線性系統(tǒng)的在線自適應(yīng)模糊神經(jīng)網(wǎng)絡(luò)辨識與控制[J].湖南大學學報(自然科學版),2006,8,33(4).
[4]李延新,李光宇,孫輝,李文.基于RBF 網(wǎng)絡(luò)的參數(shù)自學習模糊控制的研究[J].微計算機信息,2006,8,22(8).
[關(guān)鍵詞] 藥品;神經(jīng)網(wǎng)絡(luò);組合預(yù)測;需求預(yù)測
doi : 10 . 3969 / j . issn . 1673 - 0194 . 2014 . 08. 051
[中圖分類號] TP183 [文獻標識碼] A [文章編號] 1673 - 0194(2014)08- 0084- 05
0 引 言
隨著人工智能技術(shù)的發(fā)展,人工神經(jīng)網(wǎng)絡(luò)得到了廣泛研究和應(yīng)用。由于神經(jīng)網(wǎng)絡(luò)具有良好的學習能力和較強的非線性處理能力、不依賴于特定數(shù)學模型等優(yōu)勢,其作為一種預(yù)測方法已被廣泛應(yīng)用于許多領(lǐng)域。
在醫(yī)藥企業(yè)、醫(yī)藥衛(wèi)生管理領(lǐng)域,藥品需求預(yù)測一直是管理部門關(guān)心的熱點問題。藥品需求除了受由藥品自身屬性影響外,還受國家政策或醫(yī)藥行業(yè)規(guī)定等因素的影響,如藥品在某地區(qū)是否中標、是否為處方藥等;同時,制藥企業(yè)自身制定的定價、渠道以及促銷等營銷策略和銷售團隊的組建制度也對藥品需求產(chǎn)生不同程度的影響。藥品需求特征的多樣性,決定了藥品需求預(yù)測本質(zhì)上是一個復(fù)雜的非線性系統(tǒng)建模問題。
國內(nèi)外眾多學者對藥品需求預(yù)測進行了深入的研究,產(chǎn)生了一批有價值的研究成果。目前,藥品需求預(yù)測的主要方法包括:回歸分析法、時間序列分析法、神經(jīng)網(wǎng)絡(luò)、遺傳算法等。這些方法從不同角度出發(fā)建模,均取得一定效果,尤其是BP神經(jīng)網(wǎng)絡(luò),已經(jīng)在藥品預(yù)測研究中取得了眾多應(yīng)用。盡管相關(guān)討論和研究不斷增多,但是目前常用的神經(jīng)網(wǎng)絡(luò)預(yù)測方法普遍存在以下問題:由于藥品需求特征頗為復(fù)雜的特殊性,運用單項預(yù)測方法對其進行預(yù)測無法涵蓋其較多的特征信息,通常表現(xiàn)為對某類特定的藥品預(yù)測效果良好,而對其他藥品則預(yù)測性能較差,從一定程度上限制了預(yù)測模型的適用范圍。
本文采用基于神經(jīng)網(wǎng)絡(luò)的組合預(yù)測模型來解決上述問題。組合預(yù)測方法(combined forecasting)是指通過一定數(shù)學方法將不同的單項預(yù)測模型組合起來,綜合利用各種單項預(yù)測方法所提供的信息,從而達到提高預(yù)測精度的目的。組合預(yù)測方法最早由Bates和Granger[1]于1969年提出,他們認為對于一個包含系統(tǒng)獨立信息的單項預(yù)測方法,與預(yù)測精度較小的預(yù)測方法進行組合預(yù)測完全可以增強系統(tǒng)的預(yù)測性能。
考慮到各種神經(jīng)網(wǎng)絡(luò)預(yù)測方法的特點及其適用范圍,本文選擇BP神經(jīng)網(wǎng)絡(luò)預(yù)測方法、RBF神經(jīng)網(wǎng)絡(luò)預(yù)測方法和基于廣義回歸神經(jīng)網(wǎng)絡(luò)(GRNN)3種常用的神經(jīng)網(wǎng)絡(luò)預(yù)測方法作為組合預(yù)測模型中的單項預(yù)測方法。在此基礎(chǔ)上,用平均絕對相對誤差(MAPE)和方差為衡量標準,并根據(jù)設(shè)置的閾值對單項預(yù)測方法進行篩選,最后選取了MAPE作為最優(yōu)準則計算得到權(quán)重,從而建立組合預(yù)測模型,在提高組合預(yù)測模型精度的同時,使得組合預(yù)測模型具有現(xiàn)實意義。實驗結(jié)果表明,本文提出的模型的預(yù)測精度高于傳統(tǒng)的線性組合模型的預(yù)測精度。
1 相關(guān)工作
基于神經(jīng)網(wǎng)絡(luò)的預(yù)測方法具有很多其他預(yù)測方法所不具備的優(yōu)點,近年來越來越被人們所關(guān)注。吳正佳 等(2010)[2]針對某備貨型企業(yè)的產(chǎn)品需求量,建立了基于良好學習能力的BP神經(jīng)網(wǎng)絡(luò)預(yù)測模型,并通過實證分析與簡單移動平滑法和加權(quán)移動平滑法的預(yù)測結(jié)果相比較,結(jié)果表明BP神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果比其他兩種更為有效果。童明榮 等(2007)[3]提出一種季節(jié)性RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型,對具有季節(jié)性的產(chǎn)品月度市場需求進行預(yù)測,最后利用構(gòu)建好的RBF神經(jīng)網(wǎng)絡(luò)模型進行仿真實驗,并與ARIMA模型、分組回歸模型等常用季節(jié)預(yù)測模型做對比分析,結(jié)果表明前者的預(yù)測誤差均方差最小,預(yù)測精度較高。Maria Cleofé(2005)[4]利用人工神經(jīng)網(wǎng)絡(luò)(ANN)對圣保羅地區(qū)的降雨量進行預(yù)測,并通過實證分析與其他線性回歸模型作對比評價,實驗結(jié)果表明人工神經(jīng)網(wǎng)絡(luò)有著更好地預(yù)測效果。此外還有其他很多學者在交通、航運、氣候等多個領(lǐng)域運用神經(jīng)網(wǎng)絡(luò)進行了預(yù)測[5-7],不在此贅述。
針對藥品銷量預(yù)測這一特定問題,國內(nèi)外部分學者也做了一定的研究工作,試圖尋找合適的預(yù)測方法對藥品需求做出較為準確的預(yù)測。馬新強 等(2008)[8]提出了一種基于BP神經(jīng)網(wǎng)絡(luò)的藥品需求預(yù)測模型,該文先利用數(shù)據(jù)倉庫及數(shù)據(jù)挖掘技術(shù)分析提取了相關(guān)有效的藥品銷售信息作為研究對象,在此基礎(chǔ)上利用BP神經(jīng)網(wǎng)絡(luò)對其進行預(yù)測,最后在較為精確銷售量的基礎(chǔ)上提出了一種優(yōu)化的生產(chǎn)決策系統(tǒng)方法。王憲慶 等(2009)[9]利用BP神經(jīng)網(wǎng)絡(luò)模型對藥品超市的藥品銷售情況進行預(yù)測并做了相關(guān)實證分析,該文通過觀察藥品預(yù)測的顯著性差異評價模型的性能,最終取得了良好的效果,支持了其BP神經(jīng)網(wǎng)絡(luò)非常適用于資金有限、倉儲量不大的藥品超市的結(jié)論。劉德玲(2012)[10]提出了一種針對大范圍內(nèi)的藥品銷售的預(yù)測方法。該文利用遺產(chǎn)算法優(yōu)化支持向量機藥品銷售預(yù)測方式進行預(yù)測,提高了藥品銷售預(yù)測的精確度,得到了較為滿意的結(jié)果。
盡管有關(guān)研究不斷增多,但由于藥品需求特征頗為復(fù)雜的特殊性,運用單項預(yù)測方法對其進行預(yù)測無法涵蓋其較多的特征信息,從一定程度上限制了預(yù)測模型的適用范圍。本文根據(jù)藥品需求高度非線性的特點選取了3種不同特性神經(jīng)網(wǎng)絡(luò)模型作為單項預(yù)測方法,每種神經(jīng)網(wǎng)絡(luò)都有其所針對的藥品需求特征,并在此基礎(chǔ)上建立組合預(yù)測模型,擴大了藥品預(yù)測模型的適應(yīng)范圍,對于提高藥品預(yù)測精度和預(yù)測穩(wěn)定性具有重要意義。
2 基于神經(jīng)網(wǎng)絡(luò)的藥品需求組合預(yù)測模型的建立
基于神經(jīng)網(wǎng)絡(luò)的藥品需求組合預(yù)測模型的具體步驟如下:
(1)數(shù)據(jù)異常點預(yù)處理。為提高組合預(yù)測模型的適用范圍和預(yù)測精度,本文運用基于距離的異常點檢測方法對存在異常點的藥品需求數(shù)據(jù)進行異常點修復(fù),得到正常的需求數(shù)據(jù)。
(2)單項預(yù)測方法的選取。針對藥品需求的不同特征,選取3種不同特性的神經(jīng)網(wǎng)絡(luò)模型作為單項預(yù)測方法,以此作為組合預(yù)測模型單項預(yù)測方法的篩選基礎(chǔ)。
(3)單項預(yù)測方法的篩選與變權(quán)重的計算。因為不同藥品具備不同需求特征,在進行組合預(yù)測時仍需要在已選取單項預(yù)測方法的基礎(chǔ)上再次篩選合適的單項預(yù)測方法進行組合,以相對誤差為最優(yōu)準則,通過求解二次規(guī)劃問題得到權(quán)重并按照一定的變權(quán)規(guī)則進行變權(quán)。
(4)根據(jù)權(quán)重建立組合模型進行預(yù)測。
2.1 藥品數(shù)據(jù)異常點預(yù)處理
在藥品銷售數(shù)據(jù)中,由于特殊事件(如鋪貨)等原因,個別數(shù)據(jù)會表現(xiàn)出明顯突變,導(dǎo)致藥品歷史數(shù)據(jù)存在異常點,掩蓋了數(shù)據(jù)本身的規(guī)律。本文通過基于距離的異常點檢測方法和多項式擬合方法對藥品數(shù)據(jù)做預(yù)處理,具體處理步驟如下:
首先,選擇一個較大的數(shù)(如1010)將缺失數(shù)據(jù)補足,然后運用基于距離的異常點檢測方法進行檢測。第一步,對藥品需求數(shù)據(jù)進行歸一化處理并計算出各個數(shù)據(jù)之間的距離,得到距離矩陣P。計算公式如下:
Pij=|xi-xj|,i,j=1,…,n(1)
式中,xi表示時間序列中第i期的數(shù)據(jù),Pij表示時間序列中i期數(shù)據(jù)與j期數(shù)據(jù)之差的絕對值。距離矩陣P的第i列表示時間序列第i期數(shù)據(jù)與長度為n的時間序列中所有數(shù)據(jù)(包括第i期數(shù)據(jù)本身)的距離。
P=p11,p12,…,p1np21,p22,…,p2n… … … …pn1,pn2,…,pnn(2)
通過設(shè)置距離閾值d,計算出所有滿足Pij>d的距離個數(shù),記di,得到判別矩陣D。
D=[d1,d2,d3,…,dn](3)
將di與閾值f進行比較,若大于f,則識別該點為異常點,否則為正常值。最后利用多項式擬合方法,將檢測出來的異常點作擬合處理,得到建模需要的正常數(shù)據(jù)。
2.2 單項預(yù)測方法的選取
藥品需求預(yù)測是一個復(fù)雜的非線性系統(tǒng)建模問題,相對于傳統(tǒng)分析方法(如指數(shù)平滑方法、ARMA模型、MTV模型),神經(jīng)網(wǎng)絡(luò)依據(jù)數(shù)據(jù)本身的內(nèi)在聯(lián)系建模,具有良好的自組織、自適應(yīng)性,以及抗干擾能力以及非線性映射能力,能夠較好地解決非線性數(shù)據(jù)擬合問題。
本文選取3種具有不同特征的神經(jīng)網(wǎng)絡(luò)模型,即BP神經(jīng)網(wǎng)絡(luò)、RBF神經(jīng)網(wǎng)絡(luò)和GRNN廣義回歸神經(jīng)網(wǎng)絡(luò),綜合其各自優(yōu)勢建立組合預(yù)測模型,提升整個預(yù)測模型的泛化能力,提高預(yù)測精度與預(yù)測穩(wěn)定性。
2.2.1 基于BP神經(jīng)網(wǎng)絡(luò)的藥品需求預(yù)測方法
BP神經(jīng)網(wǎng)絡(luò)由Rumelhard和McClelland于1986年提出,它是一種典型的多層前向型神經(jīng)網(wǎng)絡(luò)。藥品銷售記錄作為BP神經(jīng)網(wǎng)絡(luò)輸入值,藥品需求預(yù)測即為BP神經(jīng)網(wǎng)絡(luò)輸出值。當輸入節(jié)點數(shù)為m,輸出節(jié)點數(shù)為n時,BP神經(jīng)網(wǎng)絡(luò)就表達了從m個自變量到n個因變量的非線性函數(shù)映射關(guān)系。
BP神經(jīng)網(wǎng)絡(luò)側(cè)重對全樣本的學習,因此適合對樣本整體特征相近的時間序列進行預(yù)測,即適應(yīng)受某一特定因素影響顯著,且該影響因素相對穩(wěn)定的藥品預(yù)測。
2.2.2 基于RBF神經(jīng)網(wǎng)絡(luò)的藥品需求預(yù)測方法
徑向基函數(shù)(RBF,Radical Basis Function)由Powell于1985年首次提出,它是一種三層前饋網(wǎng)絡(luò),即輸入層、隱含層和輸出層。從輸入層到隱含層是一個非線性到線性的變換過程,從隱含層到輸出層是一個線性處理過程。RBF神經(jīng)網(wǎng)絡(luò)在處理非線性問題時,引入RBF核函數(shù)將非線性空間映射到線性空間,極大地提高了非線性處理能力,且RBF神經(jīng)網(wǎng)絡(luò)采用自組織有監(jiān)督的學習算法進行訓(xùn)練,其訓(xùn)練收斂速度具有顯著的優(yōu)勢。
RBF神經(jīng)網(wǎng)絡(luò)具有很好的非線性處理能力,其學習算法屬于局部激活性較高的高斯函數(shù),對于相似的樣本有著較高的逼近能力,因此適用于受會隨時間變化而較為顯著變化的因素影響的藥品需求預(yù)測。
2.2.3 基于GRNN的藥品需求預(yù)測方法
廣義回歸神經(jīng)網(wǎng)絡(luò)(GRNN,Generalized Regression Neural Network)由美國學者Donald F. Specht在1991年提出,它是徑向基神經(jīng)網(wǎng)絡(luò)的一種。GRNN具有很強的非線性映射能力和柔性網(wǎng)絡(luò)結(jié)構(gòu)以及高度的容錯性和魯棒性,適用于解決非線性問題。
GRNN在逼近能力和學習速度上較RBF網(wǎng)絡(luò)有更強的優(yōu)勢,網(wǎng)絡(luò)最后收斂于樣本量積聚較多的優(yōu)化回歸面,并且在樣本數(shù)據(jù)較少時,預(yù)測效果也較好。此外,網(wǎng)絡(luò)還可以處理不穩(wěn)定數(shù)據(jù)。因此GRNN適用于數(shù)據(jù)不全、異常點較多的藥品。
綜上所述,3種神經(jīng)網(wǎng)絡(luò)都具有良好的非線性處理及預(yù)測能力,因為學習算法的不同有著各自側(cè)重的學習方向,皆為應(yīng)用廣泛的預(yù)測方法,且對各自適應(yīng)范圍內(nèi)有著較好的預(yù)測效果。因此本文選擇BP神經(jīng)網(wǎng)絡(luò)、RBF神經(jīng)網(wǎng)絡(luò)以及廣義回歸神經(jīng)網(wǎng)絡(luò)作為單項預(yù)測方法,并在此基礎(chǔ)上建立組合預(yù)測模型。
2.3 單項預(yù)測方法的篩選與變權(quán)系數(shù)的計算
本文在已選取3種單項預(yù)測方法的基礎(chǔ)上,再根據(jù)合適的MAPE和誤差方差篩選出組合模型中的單項預(yù)測方法,計算出變權(quán)系數(shù)。假設(shè)藥品需求的實際時間序列為y(t),t=1,2,…,N,N+1,…,N+T,其中t表示預(yù)測區(qū)間,T表示預(yù)測步長。
(1)單項方法篩選
單項方法進一步篩選的具體步驟為:
①預(yù)先設(shè)置選擇單項方法MAPE閾值m 和誤差方差閥值ε
②進行逐期單步預(yù)測,預(yù)測序列為:
{i(t),i=1,2,…,n;t=N+1,…,N+T}
③計算n種單項方法的相對誤差ei(t)、誤差方差εi(t)和MAPE。其中,單項預(yù)測方法的相對誤差序列為:
ei(t)=i=1,2,…,n;t=N+1,…,N+T(4)
單項預(yù)測方法的誤差方差為:
εi(t)=(5)
單項預(yù)測方法的MAPE為:
MAPEi(t)=ei(j),(i=1,2,…,n;t=N+1,…,N+T)(6)
④若MAPEi(t)
(2)變權(quán)系數(shù)的計算
本文考慮預(yù)測效果,選用基于相對誤差為最優(yōu)準則的最優(yōu)加權(quán)法進行計算。
假設(shè)從n中方法中篩選出p(p≤n)種單項預(yù)測方法,則組合模型第t+1期的權(quán)系數(shù)w(t+1)由相對誤差ei(1),…,ei(t)決定,其中i=1,…,p。變權(quán)規(guī)則如表1所示。
權(quán)系數(shù)具體計算過程如下:
①設(shè)組合權(quán)重wi為方法mi在組合預(yù)測方法中權(quán)重,則組合預(yù)測方法第t期相對誤差為:
e(t)=wi*ei(t),i=1,2,…,p(7)
②組合模型前t期的相對誤差平方和為:
e2=e(1)2+e(2)2+…+e(t)2(8)
令w=[w1,w2,…,wP]T,
E=e1(1),e2(1),…,ep(1)e1(2),e2(2),…,ep(2) … … … …e1(t),e2(t),…,ep(t)
建立如下目標規(guī)劃:
min P=e2=wT*ET*E*w
s.t. wi=1(9)
③求解該目標規(guī)劃得到變權(quán)系數(shù)w。
2.4 建立組合模型進行預(yù)測
組合預(yù)測模型可表示為:
式中, wi(t)表示第t期單項方法mi的變權(quán)系數(shù),(t)表示第t期組合預(yù)測方法的預(yù)測值。根據(jù)該模型對藥品進行預(yù)測。
3 實驗與分析
本文以上海市某制藥企業(yè)月度銷售額為藥品需求預(yù)測的實證數(shù)據(jù),根據(jù)銷售地區(qū)的不同抽取有代表性的藥品銷售數(shù)據(jù),其中選取上海地區(qū)10種藥品,北京地區(qū)4種藥品及全區(qū)域銷售數(shù)據(jù)12種藥品,數(shù)據(jù)長度皆為30(2009-1至2011-6)。
數(shù)據(jù)選擇依據(jù)如下:①藥品銷售有一定的連續(xù)性,為公司主推或在某地區(qū)主推藥品,具有代表性及預(yù)測意義;②在考慮異常點和數(shù)據(jù)缺失時,選取異常點和缺失數(shù)據(jù)較少的藥品。
3.1 單項方法篩選和變權(quán)系數(shù)計算
根據(jù)不同銷售區(qū)域藥品需求的具體情況,設(shè)定單一省市藥品的MAPE閾值和方差閾值分別為20%和0.1;設(shè)定公司的MAPE閾值和方差閾值分別為30%和0.1。shy03和all03的單項預(yù)測方法選取結(jié)果如表2 所示。
利用單項預(yù)測方法的6期預(yù)測結(jié)果計算組合預(yù)測模型的3期權(quán)重,選相對誤差最優(yōu)準則進行權(quán)重計算,運用MATLAB的二次規(guī)劃函數(shù)quadprog求解。變權(quán)規(guī)則及權(quán)重計算結(jié)果如表3所示。
3.2 預(yù)測模型的精度比較
本文選取平均絕對相對誤差(MAPE)和預(yù)測有效度兩個指標來綜合評價模型的預(yù)測精度。當MAPE越小時,說明預(yù)測精度越高。然而當實際值非常小時,即使是預(yù)測值與真實值之差較小,其平均絕對相對誤差也會很大,而預(yù)測有效度能很好地避免此類問題,故我們引入預(yù)測有效度來綜合評價預(yù)測精度,預(yù)測有效度越大,預(yù)測精度越高。
用單項預(yù)測方法BP、RBF、GRNN與組合預(yù)測方法單一省市和全區(qū)域藥品銷售預(yù)測值的MAPE和有效度,對MAPE和有效度的情況進行統(tǒng)計并且計算MAPE和有效度的平均值,比較結(jié)果如表4所示。
可以看出,運用組合預(yù)測方法對單一省市的14種藥品進行需求預(yù)測時,MAPE小于標準值20%的有8個,占藥品總數(shù)的57.14%,優(yōu)于BP(7)、RBF(4)、GRNN(6)方法;14種藥品的MAPE平均值為19.81%,優(yōu)于BP(26.71%)、RBF(28.45%)、GRNN(40.59%)方法。預(yù)測有效度大于標準值0.5的有11個,占藥品總數(shù)的78.57%,優(yōu)于BP(8)、RBF(10)、GRNN(8)方法;14種藥品的預(yù)測有效度平均值為0.62,優(yōu)于BP(0.57)、RBF(0.61)、GRNN(0.57)方法。
此外,運用組合預(yù)測方法對全區(qū)域銷售的12種藥品進行需求預(yù)測時,MAPE小于標準值30%的有7個,占藥品總數(shù)的58.33%,優(yōu)于BP(4)、RBF(6)、GRNN(3)方法;12種藥品的MAPE平均值為25.22%,優(yōu)于BP(35.90%)、RBF(32.07%)、GRNN(70.59%)方法。預(yù)測有效度大于標準值0.45的有10個,占藥品總數(shù)的83.33%,優(yōu)于BP(7)、RBF(9)、GRNN(5)方法;12種藥品的預(yù)測有效度平均值為0.58,優(yōu)于BP(0.46)、RBF(0.56)、GRNN(0.49)方法。
通過上述實證結(jié)果,從整體上看,組合預(yù)測方法的預(yù)測精度優(yōu)于單項預(yù)測方法,而且模型的適用范圍較廣。
3.3 預(yù)測模型的穩(wěn)定性比較
本文選擇預(yù)測誤差的方差作為評價模型穩(wěn)定性的指標。將單項預(yù)測方法BP、RBF、GRNN與組合預(yù)測方法的誤差方差進行比較,單一省市和全區(qū)域的比較結(jié)果如表5所示。
可以看出,運用組合預(yù)測方法對單一省市的14種藥品進行需求預(yù)測時,誤差方差小于標準值0.1的有12種,占藥品總數(shù)的85.71%,優(yōu)于BP(10)、RBF(11)、GRNN(10)方法;此外,14種藥品誤差方差平均值為0.0263,優(yōu)于BP(0.0613)、RBF(0.0361)、GRNN(0.0522)方法。運用組合預(yù)測方法對全區(qū)域銷售的12種藥品進行需求預(yù)測時,誤差方差小于標準值0.1的有11個,占總數(shù)的91.67%,優(yōu)于BP(9)、RBF(10)、GRNN(8)方法,此外,14種藥品的誤差方差平均值為0.031 0,優(yōu)于BP(0.092 7)、RBF(0.033 5)、GRNN(0.065 0)方法。因此從整體上看,組合預(yù)測方法的預(yù)測穩(wěn)定性優(yōu)于單項預(yù)測方法。
4 總結(jié)及展望
本文選擇3種具有不同適應(yīng)特征的神經(jīng)網(wǎng)絡(luò)模型作為單項預(yù)測方法,建立了基于神經(jīng)網(wǎng)絡(luò)的藥品需求組合預(yù)測模型,以上海市某藥企的實際銷售數(shù)據(jù)作為實證對象,驗證了該模型在預(yù)測精度和預(yù)測穩(wěn)定性上均優(yōu)于單項預(yù)測方法。當然,雖然建立的神經(jīng)網(wǎng)絡(luò)組合模型在一定程度上彌補了現(xiàn)有方法的不足,擴大了預(yù)測方法的適用范圍,但在研究過程中依然存在亟待解決的問題:
(1)單項預(yù)測方法的參數(shù)優(yōu)化有待進一步研究。本文在參數(shù)優(yōu)化時,大部分采用遍歷法和經(jīng)驗法進行設(shè)置,缺乏相應(yīng)理論依據(jù)和方法指導(dǎo)。如何采用合適參數(shù)尋優(yōu)方法進行參數(shù)確定是下一步亟待解決的問題。
(2)進行組合預(yù)測時,選擇合適的最優(yōu)準則有待于進一步研究。本文選取相對誤差作為最優(yōu)準則進行需求預(yù)測,該準則的選取忽視了量綱統(tǒng)一性,未來的研究應(yīng)該綜合考慮量綱統(tǒng)一、預(yù)測誤差和預(yù)測穩(wěn)定性,使組合預(yù)測方法更科學、更合理。
主要參考文獻
[1]J M Bates,C W J Granger.The Combination of Forecasts[J]. Operations Research Quarterly,1969,20(4):451-468.
[2]吳正佳,王文,周進.BP神經(jīng)網(wǎng)絡(luò)在備貨型企業(yè)銷售預(yù)測中的應(yīng)用[J].工業(yè)工程,2010(1):105-108.
[3]童明榮,薛恒新,劉路冰.基于季節(jié)性RBF神經(jīng)網(wǎng)絡(luò)的月度市場需求預(yù)測研究[J].運籌與管理,2007(3),146-150.
[4]Maria Cleofé,R Valverde.Artificial Neural Network Technique for Rainfall Forecasting Applied to the S?觔o Paulo Region[J].Journal of Hydrology,2005,1(20):146-162.
[5]A A Khan,K E Marion,C Bil. The Prediction of Ship Motions and Attitudes Using Artificial Neural Networks[C].19th National Conference of the Australian Society for Operations Research, Melbourne, Victoria, 2007.
[6]D C Park,El-Sharkawi.Electric Load Forecasting Using an Artificial Neural Network[J].IEEE Transaction on Power Systems, 1991, 6(2):442-449.
[7]Maria Cleofé, Valverde Ramírez.Artificial Neural Network Technique for Rainfall Forecasting Applied to the S?觔o Paulo Region[J]. Journal of Hydrology , 2005, 301(20):146-162.
[8]馬新強,黃羿.基于BP神經(jīng)網(wǎng)絡(luò)的藥品銷售預(yù)測模型設(shè)計[J].重慶文理學院學報,2008(2):64-66.
神經(jīng)科研究 神經(jīng)內(nèi)科論文 神經(jīng)網(wǎng)絡(luò)論文 神經(jīng)外科論文 神經(jīng)網(wǎng)絡(luò)技術(shù) 紀律教育問題 新時代教育價值觀