前言:想要寫出一篇令人眼前一亮的文章嗎?我們特意為您整理了5篇人工神經(jīng)網(wǎng)絡優(yōu)缺點范文,相信會為您的寫作帶來幫助,發(fā)現(xiàn)更多的寫作思路和靈感。
【關鍵詞】 圖像識別技術 神經(jīng)網(wǎng)絡識別
模式識別研究的目的是用機器來模擬人的各種識別能力―比如說模擬人的視覺與聽覺能力,因此圖像識別的目的是對文字、圖像、圖片、景物等模式信息加以處理和識別,以解決計算機與外部環(huán)境直接通信這一問題。可以說,圖像識別的研究目標是為機器配置視覺“器官”,讓機器具有視覺能力,以便直接接受外界的各種視覺信息。
一、圖像識別系統(tǒng)
一個圖像識別系統(tǒng)可分為四個主要部分:被識圖像、圖像信息獲取、圖像預處理、圖像特征提取、分類判決。
二、圖像識別方法
圖像識別的方法很多,可概括為統(tǒng)計(或決策理論)模式識別方法、句法(或結構)模式識別方法、模糊模式識別方法以及神經(jīng)網(wǎng)絡識別方法。重點介紹神經(jīng)網(wǎng)絡識別方法。
2.1神經(jīng)網(wǎng)絡識別方法
2.1.1人工神經(jīng)網(wǎng)絡的組成
人工神經(jīng)網(wǎng)絡(簡稱ANN)是由大量處理單元經(jīng)廣泛互連而組成的人工網(wǎng)絡,用來模擬腦神經(jīng)系統(tǒng)的結構和功能。而這些處理單元我們把它稱作人工神經(jīng)元。
2.1.2人工神經(jīng)網(wǎng)絡的輸出
2.1.3人工神經(jīng)網(wǎng)絡的結構
人工神經(jīng)網(wǎng)絡中,各神經(jīng)元的不同連接方式就構成了網(wǎng)絡的不同連接模型。常見的連接模型有:前向網(wǎng)絡、從輸入層到輸出層有反饋的網(wǎng)絡、層內有互聯(lián)的網(wǎng)絡及互聯(lián)網(wǎng)絡。
2.1.4 學習算法
1)感知器模型及其算法
算法思想:首先把連接權和閾值初始化為較小的非零隨機數(shù),然后把有n個連接權值的輸入送入網(wǎng)絡中,經(jīng)加權運算處理后,得到一個輸出,如果輸出與所期望的有較大的差別,就對連接權值參數(shù)按照某種算法進行自動調整,經(jīng)過多次反復,直到所得到的輸出與所期望的輸出間的差別滿足要求為止。
2)反向傳播模型及其算法
反向傳播模型也稱B-P模型,是一種用于前向多層的反向傳播學習算法。
算法思想是:B-P算法的學習目的是對網(wǎng)絡的連接權值進行調整,使得調整后的網(wǎng)絡對任一輸入都能得到所期望的輸出。學習過程包括正向傳播和反向傳播。正向傳播用于對前向網(wǎng)絡進行計算,即對某一輸入信息,經(jīng)過網(wǎng)絡計算后求出它的輸出結果;反向傳播用于逐層傳遞誤差,修改神經(jīng)元之間的連接權值,使網(wǎng)絡最終得到的輸出能夠達到期望的誤差要求。
B-P算法的學習過程如下:
第一步:選擇一組訓練樣例,每一個樣例由輸入信息和期望的輸出結果兩部分組成;第二步:從訓練樣例集中取出一樣例,把輸入信息輸入到網(wǎng)絡中;第三步:分別計算經(jīng)神經(jīng)元處理后的各層節(jié)點的輸出;第四步:計算網(wǎng)絡的實際輸出和期望輸出的誤差;第五步:從輸出層反向計算到第一個隱層,并按照某種原則(能使誤差向減小方向發(fā)展),調整網(wǎng)絡中各神經(jīng)元的權值;第六步:對訓練樣例集中的每一個樣例重復一到五的步驟,直到誤差達到要求時為止。
3)Hopfield模型及其學習算法
它是一種反饋型的神經(jīng)網(wǎng)絡,在反饋網(wǎng)絡中,網(wǎng)絡的輸出要反復地作為輸入再送入網(wǎng)絡中,使得網(wǎng)絡具有了動態(tài)性,因此網(wǎng)絡的狀態(tài)在不斷的改變之中。
算法思想是:
(a) 設置互連權值
其中xis是s類樣例的第i個分量,它可以為1或0,樣例類別數(shù)為m,節(jié)點數(shù)為n。
(b) 未知類別樣本初始化。 Yi(0)=Xi 0≤i≤n-1
其中Yi(t)為節(jié)點I在t時刻的輸出,當t=0時,Yi(0)就是節(jié)點I的初始值,Xi為輸入樣本的第I個分量。
(c) 迭代直到收斂
關鍵詞:神經(jīng)網(wǎng)絡 ;BP網(wǎng)絡; 優(yōu)缺點; 改進算法
【中圖分類號】 TP183 【文獻標識碼】 B【文章編號】 1671-1297(2012)09-0196-02
思維學普遍認為,人類大腦的思維分為抽象(邏輯)思維、形象(直觀)思維和靈感(頓悟)思維三種基本方式。
人工神經(jīng)網(wǎng)絡(Artificial Neural Networks,NN)就是模擬人思維的第二種方式。這是一個非線性動力學系統(tǒng),其特色在于信息的分布式存儲和并行協(xié)同處理。雖然單個神經(jīng)元的結構極其簡單,功能有限,但大量神經(jīng)元構成的網(wǎng)絡系統(tǒng)所能實現(xiàn)的行為卻是極其豐富多彩的。人工神經(jīng)網(wǎng)絡系統(tǒng)從20世紀40年代末誕生至今僅短短半個多世紀,但由于它具有信息的分布存儲、并行處理以及自學習能力等優(yōu)點,已經(jīng)在信息處理、模式識別、智能控制及系統(tǒng)建模等領域得到越來越廣泛的應用。
神經(jīng)網(wǎng)絡拓撲結構的單隱層前饋網(wǎng)絡,一般稱為三層前饋網(wǎng)或三層感知器,即:輸入層、中間層(也稱隱層)和輸出層。它的特點是:各層神經(jīng)元僅與相鄰層神經(jīng)元之間相互全連接,同層內神經(jīng)元之間無連接,各層神經(jīng)元之間無反饋連接,夠成具有層次結構的前饋型神經(jīng)網(wǎng)絡系統(tǒng)。單計算層前饋神經(jīng)網(wǎng)絡只能求解線性可分問題,能夠求解非線性問題的網(wǎng)絡必須是具有隱層的多層神經(jīng)網(wǎng)絡。
一 BP網(wǎng)絡
1986年,Rumelhart和Hinton提出了誤差反向傳播神經(jīng)網(wǎng)絡(Error Back Propagation Neural Network),簡稱BP網(wǎng)絡。它是一種能向著滿足給定的輸入輸出關心方向進行自組織的神經(jīng)網(wǎng)絡。
1. BP網(wǎng)絡的原理
輸入層各神經(jīng)元負責接收來自外界的輸入信息,并傳遞給中間層各神經(jīng)元;中間層是內部信息處理層,負責信息變換,根據(jù)信息變化能力的需求,中間層可以設計為單隱層或者多隱層結構;最后一個隱層傳遞到輸出層各神經(jīng)元的信息,經(jīng)進一步處理后,完成一次學習的正向傳播處理過程,由輸出層向外界輸出信息處理結果。當實際輸出與期望輸出不符時,進入誤差的反向傳播階段。誤差通過輸出層,按誤差梯度下降的方式修正各層權值,向隱層、輸入層逐層反傳。周而復始的信息正向傳播和誤差反向傳播過程,是各層權值不斷調整的過程,也是神經(jīng)網(wǎng)絡學習訓練的過程,此過程一直進行到網(wǎng)絡輸出的誤差減少到可以接受的程度,或者預先設定的學習次數(shù)為止。
2. BP網(wǎng)絡的特點
(1)輸入和輸出是并行的模擬量。
(2)網(wǎng)絡的輸入輸出關系是各層連接的權因子決定,沒有固定的算法。
(3)權因子是通過學習信號調節(jié)的,這樣學習越多,網(wǎng)絡越聰明。
(4)隱含層越多,網(wǎng)絡輸出精度越高,且個別權因子的損壞不會對網(wǎng)絡輸出產生大的影響。
3. BP網(wǎng)絡的優(yōu)點
(1)網(wǎng)絡實質上實現(xiàn)了一個從輸入到輸出的映射功能,而數(shù)學理論已證明它具有實現(xiàn)任何復雜非線性映射的功能。這使得它特別適合于求解內部機制復雜的問題。
(2)網(wǎng)絡能通過學習帶正確答案的實例集自動提取"合理的"求解規(guī)則,即具有自學習能力。
(3)網(wǎng)絡具有一定的推廣、概括能力。
4. BP網(wǎng)絡的缺點
BP算法的學習速度很慢,其原因主要有:
(1)由于BP算法本質上為梯度下降法,而它所要優(yōu)化的目標函數(shù)又非常復雜,因此,必然會出現(xiàn)"鋸齒形現(xiàn)象",這使得BP算法低效;
(2)存在麻痹現(xiàn)象,由于優(yōu)化的目標函數(shù)很復雜,它必然會在神經(jīng)元輸出接近0或1的情況下,出現(xiàn)一些平坦區(qū),在這些區(qū)域內,權值誤差改變很小,使訓練過程幾乎停頓;
(3)為了使網(wǎng)絡執(zhí)行BP算法,不能用傳統(tǒng)的一維搜索法求每次迭代的步長,而必須把步長的更新規(guī)則預先賦予網(wǎng)絡,這種方法將引起算法低效。
網(wǎng)絡訓練失敗的可能性較大,其原因有:
(1)從數(shù)學角度看,BP算法為一種局部搜索的優(yōu)化方法,但它要解決的問題為求解復雜非線性函數(shù)的全局極值,因此,算法很有可能陷入局部極值,使訓練失敗;
(2)網(wǎng)絡的逼近、推廣能力同學習樣本的典型性密切相關,而從問題中選取典型樣本實例組成訓練集是一個很困難的問題。
難以解決應用問題的實例規(guī)模和網(wǎng)絡規(guī)模間的矛盾。這涉及到網(wǎng)絡容量的可能性與可行性的關系問題,即學習復雜性問題。
網(wǎng)絡結構的選擇尚無一種統(tǒng)一而完整的理論指導,一般只能由經(jīng)驗選定。為此,有人稱神經(jīng)網(wǎng)絡的結構選擇為一種藝術。而網(wǎng)絡的結構直接影響網(wǎng)絡的逼近能力及推廣性質。因此,應用中如何選擇合適的網(wǎng)絡結構是一個重要的問題。
新加入的樣本要影響已學習成功的網(wǎng)絡,而且刻畫每個輸入樣本的特征的數(shù)目也必須相同。
二 BP網(wǎng)絡的改進算法
BP算法最優(yōu)化的方向主要有權值調整、自適應學習速率調整、網(wǎng)絡結構調整等。常用的改進方法有以下幾種:
1.加入動量項
利用附加動量的作用則有可能滑過局部極小值。該方法所加入的動量實質上相當于阻尼項,它減小了學習過程的振蕩趨勢,改善了收斂性,這是目前應用比較廣泛的一種改進算法。
2.自適應學習速率調整
對于一個特定的問題,要選擇適當?shù)膶W習速率并不是一件容易的事情。對訓練開始初期功效很好的學習速率,不一定對后來的訓練合適。為了解決這一問題,人們自然會想到在訓練過程中自動調整學習速率。
3.共軛梯度算法
在各種改進算法中,共軛梯度法(Conjugate Gradient)是非常重要的一種。其優(yōu)點是所需存儲量小,具有N步收斂性,穩(wěn)定性高,而且不需要任何外來參數(shù)。
4.Levenberg-Marquart算法(最小二乘擬合算法)
除了改進算法以外,通過改變神經(jīng)網(wǎng)絡結構(隱層結點數(shù)和網(wǎng)絡層數(shù))、調整誤差等方法,也能加快BP算法的收斂速度。
參考文獻
關鍵詞:切削數(shù)據(jù)庫;數(shù)據(jù)尋優(yōu)算法;實例推理;粒子群算法;神經(jīng)網(wǎng)絡算法
中圖分類號:TG506 文獻標志碼:A 文章編號:1007-2683(2013)01-0001-06
0.引言
近年來,隨著數(shù)控機床及切削刀具技術的不斷發(fā)展,切削數(shù)據(jù)在機械制造領域中越來越顯示出其重要性,并且已經(jīng)成為一種極為重要的資源。
數(shù)據(jù)庫是集中、保存和管理某一領域內所有這些信息的集合,是管理信息系統(tǒng)的核心。切削數(shù)據(jù)庫是切削加工技術與計算機技術相結合的產物。切削數(shù)據(jù)庫最初只是管理加工中出現(xiàn)的切削數(shù)據(jù),隨著神經(jīng)網(wǎng)絡算法、粒子群算法等優(yōu)化算法的應用,切削數(shù)據(jù)庫中添加了優(yōu)化切削數(shù)據(jù)和切削數(shù)據(jù)的智能化評價等功能,使得切削數(shù)據(jù)庫系統(tǒng)得到了很大的發(fā)展并已受到各相關行業(yè)的高度重視。選擇合理的優(yōu)化算法建立切削數(shù)據(jù)庫,可以合理地選擇切削參數(shù),對提高生產率、降低生產成本有著非常重要的意義。對于解決某一類問題,可以通過多種算法來實現(xiàn)但并不是每一種算法都能找到最優(yōu)解,需要根據(jù)每個算法自身的優(yōu)缺點、適合的領域、優(yōu)化方式等來選擇合適的算法,從而使尋優(yōu)路徑達到最短,優(yōu)化效果達到最好。但是傳統(tǒng)的優(yōu)化算法也存在一定的弊端,為此提出了算法的改進算法,在很大程度上增強了算法的尋優(yōu)能力。
1.數(shù)據(jù)獲取技術在切削數(shù)據(jù)庫中的應用
1.1神經(jīng)網(wǎng)絡推理技術
神經(jīng)網(wǎng)絡算法是指模擬生物的神經(jīng)結構以及其處理信息的方式來進行計算的一種算法。神經(jīng)網(wǎng)絡可以處理例外及不正常的輸入數(shù)據(jù),這對于很多系統(tǒng)都很重要。黃傳真等研究的汽車覆蓋件模具鋼高速切削數(shù)據(jù)庫將分別基于MATLAB神經(jīng)網(wǎng)絡和基于指數(shù)函數(shù)的刀具磨損預報模型的擬合誤差相比較,優(yōu)選出基于MATLAB神經(jīng)網(wǎng)絡的刀具磨損預報模型,并將.NET框架和MATLAB環(huán)境引入到刀具磨損集成預報系統(tǒng)中,實現(xiàn)了模具鋼精加工過程中對刀具磨損的在線預報,實現(xiàn)了對高速切削加工技術的合理應用。
為了實現(xiàn)神經(jīng)網(wǎng)絡模型的智能尋優(yōu),將其與蟻群算法相結合使用,用蟻群算法的啟發(fā)式尋優(yōu)和全局優(yōu)化的特點來訓練神經(jīng)網(wǎng)絡的權值即用蟻群算法來訓練神經(jīng)網(wǎng)絡,最終解決尋優(yōu)問題。如詹曉娟等研究的基于蟻群神經(jīng)網(wǎng)絡銑削數(shù)據(jù)庫系統(tǒng)就是利用蟻群算法優(yōu)化神經(jīng)網(wǎng)絡的方法,使系統(tǒng)在切削參數(shù)的選擇具有一定的智力水平,實現(xiàn)了切削參數(shù)的合理選擇。這種智能尋優(yōu)的方法不僅避免了以往算法收斂速度慢易陷入局部最優(yōu)等缺陷,提高了系統(tǒng)的運行速度和運算效率,還能夠通過自學習提高自身決策能力,使決策結果更趨合理。
神經(jīng)網(wǎng)絡在解決非線性映射問題如切削用量選擇上可達到良好的效果,在機械工程領域具有很高的利用價值。但是當前的神經(jīng)網(wǎng)絡仍普遍存在收斂速度慢、計算量大、訓練時間長和不可解釋等缺點。
1.2動力學仿真優(yōu)化技術
切削參數(shù)數(shù)據(jù)庫的數(shù)據(jù)主要來源于切削手冊、生產實踐和切削實驗,傳統(tǒng)來源的切削參數(shù)難以完全滿足切削加工的要求。為了存儲優(yōu)化型仿真切削數(shù)據(jù),保證切削加工穩(wěn)定性,趙海洋等在平臺下開發(fā)了基于B/S數(shù)據(jù)庫結構的動力學仿真優(yōu)化型切削數(shù)據(jù)庫系統(tǒng)。該系統(tǒng)通過動力學仿真優(yōu)化方式獲取優(yōu)化型切削參數(shù),實現(xiàn)了高速加工過程中的穩(wěn)定高效切削。
將動力學仿真優(yōu)化技術引入到切削數(shù)據(jù)庫及其應用系統(tǒng)中,不僅能使系統(tǒng)具有良好的結構和可擴展性,還能提供工藝人員合理的切削參數(shù),大大減少了以往試切所帶來的經(jīng)濟和時間上的浪費,從而提高了生產效率,降低了生產成本。
1.3實例推理技術
1982年Schank通過研究人和機器學習的動態(tài)存儲理論,提出了基于實例的推理(case-based reason-ing,CBR)其本質是利用舊問題的解決方案來解決新問題,并且具有自學習功能,CBR原理如圖1所示。
利用實例推理技術,將其與規(guī)則推理相結合使用,把以往取得的經(jīng)驗應用于新問題的解決上,減少知識獲取的工作量,不僅可以為建立切削參數(shù)數(shù)據(jù)庫提供一個有效可行的方法,還可以為新的工件加工問題提供參考解決方案,對切削技術的推廣應用具有非常重要的意義。
CBR是一種人工智能的推理方法,廣泛應用于問題求解領域,在一定程度上突破了知識獲取的瓶頸問題。由于CBR中實例都是以往問題的優(yōu)化結果,因此其本身就包含了大量的設計經(jīng)驗知識,不僅避免了在獲取知識上的時間的浪費,而且設計結果的實用性也很強。CBR為快速設計新的工藝提供了依據(jù)。
2.切削數(shù)據(jù)優(yōu)化算法分析對比
2.1多目標優(yōu)化算法的比較
從古老的時代開始,人們就力求在解決一個問題的眾多方案中尋求一種最優(yōu)方案,因此實際中優(yōu)化問題大多數(shù)是多目標優(yōu)化問題,它也是一類普遍存在的問題?;谌后w智能進化的群體智能優(yōu)化算法在解決多目標優(yōu)化問題上提高了人們解決和處理優(yōu)化問題的能力。但是粒子群算法等群體智能優(yōu)化算法在解決多目標優(yōu)化問題時有著各自的優(yōu)缺點,需要對它們進行比較以選擇合適的算法。表1是幾種智能優(yōu)化算法的比較。
通過表1中幾種算法的對比可以看出,每種優(yōu)化算法都有自己獨特的優(yōu)缺點,但是在處理高維復雜問題時都出現(xiàn)易陷入局部最優(yōu)、收斂效果不好的問題。粒子群算法和遺傳算法都屬于全局優(yōu)化算法,利用目標函數(shù)來衡量個體的優(yōu)劣程度,粒子群算法計算復雜度比遺傳算法低,可以短時間內找到最優(yōu)解,但粒子群算法在搜索性能上好于混洗蛙跳算法。可以將幾種算法結合使用或者對某種算法進行改進,彌補以往算法的缺點,從而達到更好的解決多目標優(yōu)化問題的目的。
2.2知識獲取的推理方式比較
規(guī)則推理、人工神經(jīng)網(wǎng)絡、實例推理、模糊邏輯、遺傳算法和混合推理等智能推理方法被普遍應用在工程中。實例推理作為基于規(guī)則推理技術的一個重要補充,已受到人們越來越廣泛的關注。但目前比較常用的智能推理方法有規(guī)則推理、神經(jīng)網(wǎng)絡和實例推理,它們在解決不同問題上表現(xiàn)出各自的優(yōu)缺點,如表2所示。
根據(jù)表2列出的3種智能推理方式的比較可以看出,在總體上來看實例推理表現(xiàn)最好,但在解決復雜知識獲取問題上仍表現(xiàn)出明顯的不足。針對這一問題研究人員將實例推理、規(guī)則推理、人工神經(jīng)網(wǎng)絡三者結合,產生了各種各樣的混合推理,這些推理不僅結合了它們各自的優(yōu)點,而且很大程度上克服了單個方法的缺點,可
以很好的解決復雜問題,如高速切削數(shù)據(jù)庫系統(tǒng)的建立就是采用規(guī)則推理和實例相結合的混合推理方式,通過這一方式使該系統(tǒng)的數(shù)據(jù)采集和知識更新變得簡單易行。
2.3數(shù)據(jù)查詢優(yōu)化算法比較
隨著現(xiàn)代切削數(shù)據(jù)庫規(guī)模的不斷擴大,高效率的信息提取技術逐漸成為人們研究的熱點。高效的查詢被用來體現(xiàn)一個系統(tǒng)性能的好壞,查詢的效率也就成為了評價切削數(shù)據(jù)庫系統(tǒng)的重要指標。提高查詢效率是建立一個系統(tǒng)首要解決的問題之一,因此對作為有效手段的查詢優(yōu)化的研究就顯得尤為重要。但是一個較好的優(yōu)化算法,并不是通用和萬能的,根據(jù)不同的環(huán)境不同的優(yōu)化算法適用于不同的的問題及用戶。目前常用的數(shù)據(jù)查尋優(yōu)化算法有啟發(fā)式搜索算法又稱為A算法,它是在貪婪算法的基礎上提出的一種基于人工智能理論的改進算法;基于Agent的分布式查詢優(yōu)化算法,它結合了分布式人工智能與切削數(shù)據(jù)庫管理系統(tǒng)兩個領域;遺傳算法,它是模擬生物在環(huán)境中遺傳和進化過程而形成得一種自適應的全局優(yōu)化概率搜索算法;全局查詢優(yōu)化算法如模擬退火算法、快速分解模擬退火等,能夠找出全局最優(yōu)解;等聯(lián)結操作結果估算模型,它是一種改進算法,能保證優(yōu)化方法在一定條件下生成的任意兩個相鄰的操作次序是最優(yōu)的;分裂大表算法即將大表分成若干個子表和一個索引表,將子表放在不同的邏輯設備上,各子表的名稱和分裂條件存放在索引表里來提高查詢速度;神經(jīng)網(wǎng)絡技術的異構數(shù)據(jù)庫集成,它可以通過將全局查詢快速地分解為各個子查詢,來進行優(yōu)化操作;多元連接查詢優(yōu)化算法,針對遠程網(wǎng)和局域網(wǎng)這兩種不同的網(wǎng)絡,提出了最小生成樹算法和改進的最小生成樹算法兩種全局優(yōu)化算法,反復使用此算法可使預先估計的總代價最?。环植际讲樵儍?yōu)化算法,它的核心是SDD-1查詢優(yōu)化算法,該算法在一定程度上可以使整個網(wǎng)絡上的傳輸量保持最小。對數(shù)據(jù)庫進行查詢時,可供選擇查詢優(yōu)化算法很多,需要根據(jù)一定的標準來評價各算法是否適用于此環(huán)境,以提高效率的目的。為此研究人員提出了評價算法的4個標準:一是否適用于大數(shù)據(jù)量;二是否能應付異構數(shù)據(jù)庫的要求;三是局部優(yōu)化還是全局優(yōu)化;四是算法的效率是否滿足大數(shù)據(jù)量、高復雜性的要求。表3是幾種數(shù)據(jù)查詢優(yōu)化算法的比較。
由表3可知,對數(shù)據(jù)庫進行查詢時,對查詢優(yōu)化算法的選擇需要考慮很多因素,不能通過一個固定的原則來評價優(yōu)化算法的優(yōu)劣,需要根據(jù)當時的系統(tǒng)環(huán)境來選擇合適的優(yōu)化算法,這樣才能充分利用算法的優(yōu)點。
3.數(shù)據(jù)尋優(yōu)算法的改進
目前許多數(shù)據(jù)優(yōu)化算法被廣泛應用在機械加工領域,在一定程度上達到了數(shù)據(jù)尋優(yōu)的目的,提高了系統(tǒng)的尋優(yōu)能力,但是面臨一些復雜的問題時一些算法表現(xiàn)出收斂速度慢、陷入局優(yōu)等問題,為了解決這一問題,對一些算法提出了改進,下面介紹了幾種算法的改進算法。
3.1變形遺傳算法
變形遺傳算法是從簡單遺傳算法發(fā)展而來的,是對其運算因子的擴展和補充。簡單遺傳算法存在許多的不足之處,變形遺傳算法在此基礎上進行了一些改進:改進編碼方式,改進初始群體的生成方式,改進適應度函數(shù)的定義方式,改進選擇算子操作方式,改進變異算子操作方式,改進算法終止條件。這些算法增強了變形遺傳算法搜索過程的方向性,從而增強了算法搜索尋優(yōu)的方向性。圖2為切削用量優(yōu)化的變形遺傳算法的流程圖。
變形遺傳算法有兩個優(yōu)點:一是具有局部的隨機搜索能力;二是可維持群體多樣性,防止出現(xiàn)未成熟收斂現(xiàn)象,從而使收斂概率達到大值。
3.2改進的粒子群算法
粒子群優(yōu)化算法在函數(shù)優(yōu)化等領域蘊涵了廣闊的應用前景,利用粒子群優(yōu)化參數(shù)原理(如圖3),并與局部搜索算法混合,可以提高了算法在局部區(qū)域內進行精細搜索的能力。尋找到最優(yōu)化的加工參數(shù)。目前針對粒子群算法存在的問題,已提出了多種粒子群算法改進算法,并且這些改進的算法廣泛應用于函數(shù)優(yōu)化,神經(jīng)網(wǎng)絡訓練,模式分類等領域。其中一種改進的粒子群算法是針對粒子群算法在求解高維函數(shù)時易陷入局部最優(yōu)的問題提出的,該算法通過對粒子的速度和位置更新公式進行改進,使粒子在其最優(yōu)位置的基礎上進行位置更新,從而增強算法的尋優(yōu)能力。如圖4為改進的粒子群算法流程圖。
另外兩種典型的粒子群算法的改進算法為:①全局鄰域模式和局部鄰域模式粒子群優(yōu)化算法,前者收斂速度快,但易陷入局部極小值;后者收斂速度慢,但能在較大程度上避開局部極小值;②混沌粒子群優(yōu)化算法,它不但具有混沌的隨機性、遍歷性、規(guī)律性等特性,還能引導粒子及其組成的群落搜索全局最優(yōu)解。
3.3協(xié)同優(yōu)化算法的改進
協(xié)同優(yōu)化算法(eollaborati Veoptimization,CO)是多學科設計優(yōu)化方法中應用最廣、效果最好的算法,但是在應用中存在計算困難的問題,根據(jù)這一問題提出了改進的協(xié)同優(yōu)化算法一ICO(Improvedeollaborati Veoptimization)多學科設計優(yōu)化方法。
ICO多學科設計優(yōu)化方法保持了CO算法模塊化和學科自治性的優(yōu)點,以新的表達方式來克服CO算法的計算困難。ICO算法利用快速啟動方法提高了計算速度,使得ICO算法比標準CO算法更加穩(wěn)定、可靠,計算效率明顯提高。以往協(xié)同粒子群算法不能保證全局收斂,易產生偽最優(yōu)值的問題,根據(jù)這一問題提出改進的協(xié)同粒子群優(yōu)化算法,它將混沌理論引入?yún)f(xié)同粒子群算法中,改善了協(xié)同粒子群算法的性能,使其具備了求解高維優(yōu)化問題的優(yōu)越性。但是IC0算法還需要在大型復雜工程系統(tǒng)設計優(yōu)化中進行應用、檢驗及進一步完善。
Matherton提出Kriging數(shù)學理論之后,Kriging技術在許多領域得到應用,研究人員以此為基礎并基于統(tǒng)計學理論提出了Kriging模型,Kriging模型被視為一種最優(yōu)的線性無偏估計。對于計算量大的問題可以利用基于Kriging模型的改進協(xié)同優(yōu)化算法(Kriging-CO算法)來提高系統(tǒng)的優(yōu)化效率,該改進算法的原理如圖5所示。Kriging-CO算法適用于解決共享變量多、子模型復雜的問題,應用該算法減少迭代次數(shù),提高運算效率。
雖然一些改進算法彌補了以往算法一些不足,但切削數(shù)據(jù)庫技術的發(fā)展越來越快,對切削數(shù)據(jù)庫性能的要求越來越高,出現(xiàn)的問題也會越來越多,因此對算法的研究也必須更加深入。
4.結語
關鍵詞:SOM神經(jīng)網(wǎng)絡;負荷特性曲線;聚類分析
中圖分類號:TM7 文獻標識碼:A 文章編號:1007-0079(2014)33-0204-03
在國家提出建設堅強智能電網(wǎng)的背景下,提高電力營銷服務水平和智能用電技術已成為電網(wǎng)企業(yè)關注的焦點。電力營銷服務水平與智能用電技術的提升離不開在對電力用戶用電行為特征的準確、全面、及時地掌握,而從海量負荷數(shù)據(jù)中提取用戶日負荷特征曲線并進行深入分析成為研究用戶用電行為特征的一種有效方式。
從研究對象層面來看,以往相關研究側重專線用戶(負荷數(shù)據(jù)來源為SCADA系統(tǒng))和專變用戶,并以傳統(tǒng)意義上的行業(yè)分類作為提取負荷特征曲線時聚類的依據(jù)。從研究方法層面來看,電力用戶日負荷特征曲線的提取多使用聚類算法,主要有統(tǒng)計方法、機器學習方法、人工神經(jīng)網(wǎng)絡方法和面向數(shù)據(jù)庫的方法。人工神經(jīng)網(wǎng)絡因具有大規(guī)模的并行協(xié)同處理能力、較強的容錯能力、聯(lián)想能力、學習能力和自適應能力,故能夠較好地適應海量數(shù)據(jù)背景下的數(shù)據(jù)挖掘。應用較多的典型的神經(jīng)網(wǎng)絡模型包括BP網(wǎng)絡、Hopfield網(wǎng)絡、ART網(wǎng)絡和Kohonen網(wǎng)絡。[1-3]BP網(wǎng)絡屬于有監(jiān)督學習的神經(jīng)網(wǎng)絡,需要提供聚類對象類別數(shù)量的先驗知識,而公變用戶缺乏傳統(tǒng)意義上類似專變用戶的行業(yè)分類,故不適合采用BP網(wǎng)絡。Hopfield網(wǎng)絡、ART網(wǎng)絡和Kohonen網(wǎng)絡都屬于無監(jiān)督學習的神經(jīng)網(wǎng)絡,在解決聚類問題上有其各自的優(yōu)缺點。
本文提出采用SOM神經(jīng)網(wǎng)絡[4-6]聚類算法提取公變用戶日負荷特征曲線,用MATLAB軟件進行仿真,輸出可視化聚類結果,并對聚類結果進行分析,驗證了采用SOM神經(jīng)網(wǎng)絡聚類算法提取出的公變用戶日負荷特征曲線能夠較好地顯示不同類型公變用戶用電行為特征上的差異,具備良好的聚類效果,同時為電網(wǎng)企業(yè)優(yōu)化電力營銷服務提供參考和指導。
一、SOM神經(jīng)網(wǎng)絡
SOM(Self-Organizing Map,自組織映射)神經(jīng)網(wǎng)絡是較為廣泛應用于聚類的神經(jīng)網(wǎng)絡。它是由Cohonen提出的一種無監(jiān)督學習的競爭型神經(jīng)網(wǎng)絡模型,通過不斷縮小獲勝神經(jīng)元的鄰域來達到聚類的目的。主要功能是將輸入的高維空間數(shù)據(jù)映射到一個較低的維度,通常是一維或者二維輸出,同時保持數(shù)據(jù)原有的拓撲邏輯關系。
SOM神經(jīng)網(wǎng)絡由輸入層和輸出層兩層組成,輸入層中的每一個神經(jīng)元通過權與輸出層中的每一個神經(jīng)元相連,如圖1所示。輸入層的神經(jīng)元以一維的形式排列,輸入神經(jīng)元的個數(shù)由輸入矢量中的分量個數(shù)決定,輸出層的神經(jīng)元一般以一維或者二維的形式排列,計輸入層的神經(jīng)元數(shù)量為m,輸出層神經(jīng)元數(shù)量為c。輸入的樣本總數(shù)為n,第i個輸入樣本用矢量表示為,每個輸出神經(jīng)元的輸出值記為,。與第j個輸出神經(jīng)元相連的權用矢量表示為:。
Kohonen算法是無教師示教的聚類方法,它能將任意維輸入模式在輸入層映射成一維或二維離散圖形,并保持其拓撲結構不變,即在無教師示教的情況下,通過對輸入模式的自組織學習,在輸出層將聚類結果表示出來。此外,網(wǎng)絡通過對輸入模式的反復學習,可以使連接權矢量空間分布密度與輸入模式的概率分布趨于一致,即連接權矢量空間分布能反映輸入模式的統(tǒng)計特性。該算法往往在完成極高維數(shù)、超大量數(shù)據(jù)和高度非線性問題的聚類,模式表征和數(shù)據(jù)壓縮,分類等任務時是一個很有效、很簡便,且快速、穩(wěn)健、泛化性好的算法。
Kohonen的學習算法如下:
(1)初始化:將整個輸入向量存儲在矩陣p中,對權值w進行初始化,權值向量的每一維的取值范圍同輸入向量每一維的取值范圍。
(2)選擇一個輸入向量,提供給網(wǎng)絡輸入層。
(3)按照下式計算輸出層每一個神經(jīng)元 j 的權值與輸入向量之差:,其中,。
(4)按照“勝者為王”的原則,對每一個神經(jīng)元j,以minDist中的最小值所對應的神經(jīng)元 k作為勝者,對它和它的鄰域內的神經(jīng)元的權值進行調整,假設當前處于學習的第l步,權值的修正按照下式進行:
其中,lr表示學習速率,br表示鄰域調整率;表示獲勝神經(jīng)元的鄰域,即:。
(5)選擇另一個輸入向量,返回(3),直到所有的輸入向量全部提供給網(wǎng)絡。
(6)返回(2),直到達到最大訓練步數(shù)。
二、MATLAB仿真算例
1.MATLAB仿真實現(xiàn)
對于日負荷特征曲線的提取,負荷曲線的采樣點越多,曲線越精細,越容易進行分類,研究數(shù)據(jù)來自于電力用戶用電信息采集系統(tǒng),從中提取公變用戶每15分鐘采集一次的有功功率構成其日負荷曲線,一天共96個采樣點。從某省電力用戶用電信息采集系統(tǒng)中隨機抽取1000臺公用變壓器,選取其2012年7月10日(工作日,該省全年負荷最高日)作為典型日進行日負荷特征曲線提取和分析。每臺公變日負荷曲線由96個有功采樣點組成。由于每臺公變額定容量大小不等,為了有效聚類,首先需要對負荷數(shù)據(jù)進行歸一化處理。
本文采用聚類SOM神經(jīng)網(wǎng)絡,在MATLAB環(huán)境下,對這些數(shù)據(jù)進行聚類仿真。聚類SOM神經(jīng)網(wǎng)絡的MATLAB實現(xiàn)步驟如下:(1)準備數(shù)據(jù)源。首先從原始數(shù)據(jù)庫讀取相關數(shù)據(jù)(輸入樣本總數(shù)70,每一個樣本有96個采集時點)作為輸入矢量,并將其以二維數(shù)組70×96形式輸入。(2)確定參數(shù)。輸入神經(jīng)元個數(shù)為采集時點的個數(shù)96;輸出神經(jīng)元以二維數(shù)組3×3形式呈現(xiàn)。(3)運用rand( )函數(shù)產生[0,1)之間的隨機數(shù)作為權值。(4)調用SOM創(chuàng)建函數(shù)newsom( ),創(chuàng)建自組織映射網(wǎng)絡net=newsom( )。(5)對迭代次數(shù)net.trainParam.epochs賦值2000;對net.trainParam.show賦值20,表示每20次顯示一下誤差變化情況。(6)運用網(wǎng)絡訓練函數(shù)train( )訓練上述初始化后的網(wǎng)絡net=train( )。(7)調用plot( )畫輸入點; plotsom( )作訓練后的權值點及其與相鄰權值點的連線。
2.仿真結果分析
經(jīng)MATLAB仿真運行后得到聚類結果圖2所示:
圖2所示為SOM神經(jīng)網(wǎng)絡聚類結果,將樣本公變用戶分為7個類別,為便于后文描述,不妨按照行優(yōu)先的順序為各激活的優(yōu)勝神經(jīng)元標識聚類編號,依次分別為為:公變用戶第一類(包含13個樣本用戶)、公變用戶第二類(包含12個樣本用戶)、公變用戶第三類(包含5個樣本用戶)、公變用戶第四類(包含10個樣本用戶)、公變用戶第五類(包含10個樣本用戶)、公變用戶第六類(包含10個樣本用戶)、公變用戶第七類(包含10個樣本用戶)。
每個競爭層神經(jīng)元與各輸入神經(jīng)元之間的連接權構成的向量代表了該優(yōu)勝神經(jīng)元所標識類別的聚類中心即日負荷特征曲線,競爭層神經(jīng)元鄰域權值距離如圖3所示,顏色越深表示領域神經(jīng)元間的權值距離越遠,即鄰域神經(jīng)元的聚類中心距離越遠、提取的日負荷特征曲線差異越大。
圖4所示為通過SOM神經(jīng)網(wǎng)絡聚類算法提取的七大類公變用戶日負荷特征曲線。日負荷特征曲線較為明顯地反映了不同類型公變用戶在該典型日的用電行為。
第一類公變日負荷特征曲線呈現(xiàn)出明顯的午高峰和晚高峰特征,且晚高峰明顯高于午高峰。推測此類為城鎮(zhèn)居民生活的典型日負荷特征曲線,可能由于部分居民上班因素造成晚高峰高于午高峰;第二類公變日負荷特征曲線走勢同全網(wǎng)負荷基本一致,呈現(xiàn)出明顯午高峰和晚高峰,但午高峰一枝獨秀,可能該公變下的用戶類型較多,包括居民用戶和一般工商業(yè)用戶,由于各類用電特征比例與全網(wǎng)比例類似,形成具有全網(wǎng)負荷特征的曲線;第七類公變日負荷特征曲線與前六種主要集中在白天用電不同,主要在天黑時間段內(晚上7點左右至第二天早上6點)用電,推測這類用戶主要集中在市政工程類。
三、總結與展望
本文將SOM神經(jīng)網(wǎng)絡聚類算法應用到電力用戶日負荷特征曲線提取的研究中,選取某省公變用戶作為分析樣本,通過MATLAB仿真計算將樣本公變用戶分為七個類別,以優(yōu)勝神經(jīng)元與輸入神經(jīng)元之間連接權向量作為聚類中心即該類別用戶的日負荷特征曲線。根據(jù)提取出的日負荷特征曲線,結合電力用戶用電信息采集系統(tǒng)中的營銷檔案分析了不同類別公變用戶的用電特征與習慣。分析表明,采用SOM神經(jīng)網(wǎng)絡聚類算法提取日負荷特征曲線具有良好的效果,提取出的日負荷特征曲線能夠較好反映該類型用戶的用電行為與特征,為電力企業(yè)了解用戶用電習慣、細分電力市場、調整定價策略和實施需求側管理提供了有益參考。
下一步研究將考慮采用電力用戶全年負荷數(shù)據(jù)進行聚類分析,驗證小樣本下的聚類結果、發(fā)現(xiàn)新的用戶類型;同時改進SOM神經(jīng)網(wǎng)絡算法,使其適應海量數(shù)據(jù)下的負荷曲線聚類分析,并通過調整競爭層神經(jīng)元個數(shù)與抑制權值使訓練結果更加穩(wěn)定,得到更好的聚類效果。
參考文獻:
[1]馬玉梅,馬志超.基于人工神經(jīng)網(wǎng)絡的手寫阿拉伯數(shù)字識別[J].中央民族大學學報(自然科學版),2007,(4).
[2]劉小波,李亞玲,趙景濤,等.基于KOHONEN神經(jīng)網(wǎng)絡的電壓控制分區(qū)[J].浙江電力,2007,(3).
[3]莫禮平.基于Kohonen神經(jīng)網(wǎng)絡的故障診斷方法[J].成都大學學報(自然科學版),2007,(1).
[4]李培強,李欣然,陳輝華,等.基于模糊聚類的電力負荷特性的分類與綜合[J].中國電機工程學報,2005,(24).
關鍵詞:人工神經(jīng)網(wǎng)絡;SOM;城市分類
一、引言
城市分類不僅便于我們對各個城市的發(fā)展進行評估,并且為我們制定城市的發(fā)展決策提供了依據(jù)。然而,如何能夠進行科學的城市分類一直備受關注。而基于近些年來人工神經(jīng)網(wǎng)絡的飛速發(fā)展,它幫助我們解決了許多棘手的難題,其中的自組織特征映射網(wǎng)絡(SOM)具有強大的聚類功能,利用它可以幫助我們根據(jù)各個城市的特點從而進行科學分類,為加速我國城市的發(fā)展和城鎮(zhèn)化建設有著重要的意義。2005年吳聘奇、黃民生利用SOM網(wǎng)絡對福建省城市進行了職能分類,同年,劉耀彬、宋學鋒又基于SOM人工神經(jīng)網(wǎng)絡對長江三角洲地區(qū)城市職能分類做了研究。從而可見,基于人工神經(jīng)網(wǎng)絡的自組織特征映射網(wǎng)絡(SOM)在城市的分類問題確實可以發(fā)揮強大的作用。
評價一個城市的各個行業(yè)的發(fā)展,有許多指標。其中行業(yè)就業(yè)人口是評價一個城市該行業(yè)的發(fā)展的基礎指標。本文對山東地區(qū)城市的分類實證分析中,對各個城市的各行業(yè)就業(yè)人口數(shù)量進行了采集,其中包括農林牧漁業(yè),采礦業(yè),制造業(yè),電力、煤氣及水的生產和供應業(yè),建筑業(yè),交通運輸、倉儲和郵政業(yè),信息傳輸、計算機服務和軟件業(yè),批發(fā)和零售業(yè),房地產業(yè),住宿和餐飲業(yè),金融業(yè),租賃和商務服務業(yè),水利、環(huán)境和公共設施管理業(yè),居民服務和其他服務業(yè),教育,科學研究、技術服務和地質勘查業(yè),衛(wèi)生、社會保障和社會福利業(yè),文化、體育和娛樂業(yè),公共管理和社會組織等19個行業(yè)的從業(yè)人員數(shù)。然后,通過MATLAB軟件進行編程構建,成功地將山東省的17個城市進行了分類,從而說明了SOM網(wǎng)絡在城市分類方面的確有優(yōu)于其他傳統(tǒng)方法的優(yōu)點。
二、SOM網(wǎng)絡的基本原理
(一)SOM網(wǎng)絡簡介
自組織特征映射網(wǎng)絡也稱Kohonen網(wǎng)絡,或者稱為Self-OrgnizingFeatureMap(SOM)網(wǎng)絡,它是由芬蘭學者TeuvoKohonen于1981年提出的。該網(wǎng)絡是一個由全連接的神經(jīng)元陣列組成的無教師自組織、自學習網(wǎng)絡。Kohonen認為,處于空間中不同區(qū)域的神經(jīng)元有不同的分工,當一個神經(jīng)網(wǎng)絡接受外界輸入模式時,將會分成不同的反應區(qū)域,各區(qū)域對輸入模式具有不同的響應特征。
SOM網(wǎng)絡的一個典型特征就是可以在一維或二維的處理單元陣列上,形成輸入信號的特征拓撲分布,因此SOM網(wǎng)絡具有抽取輸入信號模式特征的能力。SOM網(wǎng)絡一般只包含有一維陣列和二維陣列,但也可以推廣到多維處理單元陣列中去。
(二)SOM網(wǎng)絡學習算法
1、初始化。對N個輸入神經(jīng)元到輸出神經(jīng)元的連接權值賦予較小的權值。選取輸出神經(jīng)元j個“鄰接神經(jīng)元”的集合Sj。其中Sj(0),表示時刻t=0的神經(jīng)元j的“鄰接神經(jīng)元”的集合,Sj(t)表示時刻t的“鄰接神經(jīng)元”的集合。區(qū)域Sj(t)隨著時間的增長而不斷縮小。
2、提供新的輸入模式X。
4、給出一個周圍的鄰域Sk(t)。
7、提供新的學習樣本來重復上述學習過程。
三、基于SOM網(wǎng)絡的城市分類實證分析
城市分類可以便于我們了解各個城市的發(fā)展狀況,從而為我們制訂城市的發(fā)展決策提供依據(jù)?,F(xiàn)在人工神經(jīng)網(wǎng)絡已經(jīng)得到了很大的發(fā)展,它為我們研究此類問題提供了一種新的工具和思路。所以基于這個問題,我們嘗試利用SOM網(wǎng)絡來進行城市分類。SOM網(wǎng)絡是一種具有聚類功能的神經(jīng)網(wǎng)絡,并且它是無教師訓練方式,我們只需要采集輸入樣本,而不必如入目標值就可以得到我們想要的結果,可見SOM網(wǎng)絡使用也十分方便。
(一)網(wǎng)絡樣本設計
從山東省統(tǒng)計局網(wǎng)站,我們得到了山東省17個地級市城市的樣本。從中我們看出,原始指標數(shù)據(jù)波動較大,而一般來說,神經(jīng)元的輸出函數(shù)在0-1之間最為靈敏,為了提高訓練的效率,所以要把數(shù)據(jù)進行歸一化處理。歸一化處理方法為:找出每個指標數(shù)據(jù)中的最大和最小值,利用(x-min)/(max-min)公式把所有數(shù)據(jù)歸一化為0到1之間的數(shù)。
(二)網(wǎng)絡設計
本文利用MATLABR2008進行編程構建。確定網(wǎng)絡的輸入模式為:
Pk=(P1k,P2k,…pkn),k=1,2,…17,n=19
即一共有17組城市樣本向量,每個樣本中包括19個元素。
1、首先利用函數(shù)newsom創(chuàng)建一個SOM網(wǎng)絡。根據(jù)實際情況本文創(chuàng)建網(wǎng)絡的競爭層分別選用3、4、5、6層的結構。然后經(jīng)過實驗,分別觀察其性能,從而選取分類效果最好的一組。
2、利用函數(shù)train和仿真函數(shù)sim對網(wǎng)絡進行訓練并仿真。仿真的步數(shù)大小同樣影響網(wǎng)絡的聚類性能,這里我們設置步數(shù)為1000。
最后經(jīng)過分類結果如表1所示。
(三)實驗結果分析
最后經(jīng)過分析篩選,發(fā)現(xiàn)當這17個城市被劃分為6類時和現(xiàn)實情況較為符合。分類情況如表2所示。
第一類:從表中看出,濟南和青島被歸為了一類,并且在分類數(shù)為3、4、5、6時,濟南和青島都被列為了一類。從表中我們可以看到濟南、青島在各方面都優(yōu)于其他城市,尤其是制造業(yè)、教育、以及公共管理和社會組織方面。濟南是山東省省會,是全省、文化、經(jīng)濟,金融,教育中心,也是國家批準的沿海開放城市和十五個副省級城市之一。青島是全國70個大中城市之一,全國五個計劃單列市之一。工業(yè)有紡織、機車車輛、機械、化學、石油化工、鋼鐵、橡膠、家用電器、啤酒、卷煙等。有馳名中外的青島啤酒、海爾集團、海信集團等大企業(yè)集團。并且,二者都有豐富的教育資源,全省大多高校均聚集在此。
第二類:淄博、泰安、德州、聊城在發(fā)展方面,各個方面較為均衡,沒有特別顯著的特點。四者的制造業(yè)、建筑業(yè)和教育大約位于全省中間地位。
第三類:棗莊、東營屬特殊職能類型城市。兩個城市相對其他城市來說,采礦業(yè)較為發(fā)達。棗莊境內已探明地下礦藏36種:煤、鐵、銅、鋁、金、銀、鍶(天青石)、石膏、螢石、水泥原料灰?guī)r等。其中煤、石膏地質儲量為15.4億噸和4.1億噸。而東營又稱“石油之城”,豐富的石油、天然氣資源。但是,兩個城市的制造業(yè)相對薄弱,其他產業(yè)大約處于平均水平。
第四類:煙臺在此被單獨分成了一類,其具有自身的特色,并且發(fā)展?jié)摿薮?。煙臺的制造業(yè)和交通運輸業(yè)位于全省前列。煙臺的工業(yè)主要以造船、輕紡、機械、建材、電子、冶金、醫(yī)藥等行業(yè)為主,并且還有張裕葡萄酒、三環(huán)鎖等煙臺的傳統(tǒng)產品。近年來,錦綸、白卡紙、電子網(wǎng)目板等技術水平較高的項目相繼投產。煙臺在地理位置上東連,西接濰坊,西南與毗鄰,北瀕、,與對峙,并與隔海相望,共同形成拱衛(wèi)首都的海上門戶。所以,煙臺的交通運輸業(yè)較為發(fā)達。另外,煙臺的招遠金礦為煙臺采礦業(yè)也提供了大量了就業(yè)機會。
第五類:濰坊、臨沂、濟寧和菏澤在教育和公共管理和社會組織方面處于全省前列地位,其他方面稍稍遜色一些。
第六類:威海、日照、萊蕪、濱州這四個城市各個方面表現(xiàn)均不太突出,但是,這些城市的發(fā)展?jié)摿艽?。威海、日照屬沿海城市,交通便利,可以重點發(fā)展交通運輸業(yè)。萊蕪、濱州雖地處內陸,但也可依附內陸的經(jīng)濟中心——濟南來發(fā)揮特色經(jīng)濟。