- 相關推薦
遺傳神經網絡在電信業(yè)務收入預測中的應用研究
誤差反向傳播神經網絡(BPNN)由于優(yōu)越的非線性數(shù)據(jù)處理性能以及較強的學習能力而被廣泛地運用于電信業(yè)務的預測當中。然而,神經網絡常常存在著收斂于局部最優(yōu)解、學習時間長等缺陷而影響其預測效果,而遺傳算法(GA)是一種全局尋優(yōu)搜索算法,能夠有效克服上述缺陷。本文針對影響電信業(yè)務收入的主要因素,將BP神經網絡與遺傳算法有機結合起來,建立了相應的遺傳神經網絡模型用于電信業(yè)務收入預測,并利用實際數(shù)據(jù)進行效果驗證。實驗表明,該預測模型具有很強的學習能力和自適應性,其預測結果優(yōu)于BP神經網絡模型,而且具有良好的泛化性。一、引言
電信業(yè)務預測是通信網絡分階段建設規(guī)劃的前提條件,同時也是規(guī)劃期電信業(yè)務量和收入估算的必要條件之一。預測方法的選擇直接關系到預測目標的實現(xiàn)和預測結果的精確程度。近年來人工神經網絡技術和遺傳算法逐漸得到預測科學工作者的重視,誤差反向傳播(BP)神經網絡已經在預測領域中得到了廣泛的應用,是一種由多個神經元以某種規(guī)則連接而形成的層次網絡結構,其基本原理是這些神經元之間“相互協(xié)作”,它有許多優(yōu)點,對不完全信,具有良好的適應性;對非線性輸入輸出關系的學習更具有優(yōu)越性,其描述問題的能力很強。但是BP算法是一種基于誤差函數(shù)梯度下降的學習方法,學習過程收斂速度較慢;其次,BP神經網絡訓練開始時初始權值是隨機給定的,這對網絡的訓練效果也會有極大影響,甚至導致網絡陷入局部最小點。
遺傳算法 (GA)有很好的全局搜索能力,能從概率的意義上以隨機的方式尋求到問題的最優(yōu)解。但另一方面,遺傳算法應用中容易產生早熟現(xiàn)象,局部尋優(yōu)能力較差,而遺傳算法與神經網絡的結合可以發(fā)揮各自的優(yōu)點。本文研究采用遺傳神經網絡應用到電信業(yè)務的訓練中,結果表明該方法是可效的。
本文其它結構安排如下:第二部分為遺傳神經網絡模型的結構與算法介紹;第三部分為數(shù)據(jù)來源及實證結果分析;最后為本文結論。
二、遺傳神經網絡模型結構及算法
1.遺傳神經網絡模型結構
多層前向神經網絡在經濟領域中是被普遍運用的一種強有力的學習系統(tǒng),系統(tǒng)結構簡單易于編程。在其具體應用中,最重要的首先就是確定網絡結構,而網絡結構的關鍵在于隱含層及其結點數(shù)。研究表明,對于學習任何函數(shù)來講,一個隱含層足夠。因此一個三層前向神經網絡可以逼近任意非線性函數(shù)。在前向神經網絡結構中,如果采用誤差反向傳播算法(Back Propagation, BP)來對網絡結構的權系數(shù)進行學習,那就是我們通常所說的BP神經網絡模型。本研究中的遺傳神經網絡模型結構就是建立在一個三層前向神經網絡基礎之上,將遺傳算法與神經網絡有機地結合起來的一種混合模型。
網絡的具體結構如圖1
該網絡分為三層:第一層為輸入層,共有n個節(jié)點;第二層為隱含層,共有m個節(jié)點;第三層為輸出層,有一個節(jié)點。網絡的目標函數(shù)為,式中y為實際輸出,Y為期望輸出,Ep為平方誤差函數(shù)。
2.遺傳神經網絡模型的算法
在本模型算法當中,一種改進的遺傳算法,被提出來優(yōu)化模型結構的權值系數(shù)。該算法首先利用遺傳算法善于發(fā)現(xiàn)最優(yōu)解區(qū)域的特點同時,找出網絡參數(shù)的最優(yōu)初始值,然后再利用BP算法的尋優(yōu)能力來搜索模型參數(shù)的最優(yōu)解空間。算法具體步驟如下:
步驟1:初始化
用遺傳算法來優(yōu)化神經網絡,主要是優(yōu)化神經網絡中神經元之間的連接權,初始化種群P(t)。由于網絡的連接權是實數(shù),因此本算法采用實數(shù)編碼方案,避免權重步進變化。網絡隱含層轉移函數(shù)為Sigmoid函數(shù)。在編碼過程中,以神經網絡的所有權值和閾值作為染色體的基因,各個基因組成染色體向量V=[v1,…vk,…vL],vK為染色體中的第k個基因。
步驟2:適應度計算及評價
根據(jù)適應度函數(shù)值對個體進行評價,對每個個體進行解碼得到一個BP神經網絡輸入樣本,計算出神經網絡的輸出誤差值E,選擇適應度函數(shù)
式中,Ymk,Ymk分別為第m個訓練樣本的第k個輸入節(jié)點的期望輸出和實際輸出。適應度f越高,表明誤差平方和越小,就越接近性能要求。
步驟3:遺傳操作
(1)選擇與復制
保留群體中適應度最高的個體,它不參與交叉和變異運算,而直接將其復制到下一代。群體中的其他個體,采用輪盤賭選擇法進行選擇,這樣適應度小的個體也有機會進入被保留。因此保證了群體中個體的多樣性,防止算法落入局部最優(yōu)。如果M個個體中的第i個個體的適應度為fi,則其被選中的概率為:
(2)交叉
由于權重系數(shù)采用實數(shù)編碼,故本文采用算術交叉方式,以Pc的概率對選擇后的個體進行交叉。設在個體XA和個體XB之間進行交叉,交叉算子為
式中:,為父代個體基因;,為子代個體基因,a為區(qū)間[0,1]上的隨機數(shù)。兩個個體在交叉點后的基因進行交換,從而產生兩個新個體。
。3)變異
變異是對按變異概率Pm(這里取0.05)選取的個體進行變異,然后隨機選取一變異點,變異的基因安進行變異操作。若新產生的種群個體的最大適應度小于原種群個體的最大適應度,則用原種群適應度最大的個體替換新種群中適應度最大的個體。
步驟4: 產生新種群
將新個體插入到種群P(t)中,產生新的種群P(t+1),再把新種群個體的連接權賦予神經網絡中,并計算新個體的適應度函數(shù),若達到預定值εGA,則進入下一步,否則繼續(xù)進行遺傳操作。
步驟5再用BP算法訓練網絡權值
達到所要求的性能指標或最大遺傳代數(shù)后,將最終群體中的最優(yōu)個體解碼即可得到優(yōu)化后的網絡連接權系數(shù)。以GA遺傳出的優(yōu)化初值作為BP神經網絡的初始權值,再用BP算法訓練直到誤差平方和達到指定精度 或達到設定的最大迭代次數(shù),算法結束。
模型算法流程圖見圖2
:
三、數(shù)據(jù)來源及實證結果
1.實驗數(shù)據(jù)來源
本文采用遺傳神經網絡的方法對我國某地市的電信公司的業(yè)務收入進行預測。影響電信企業(yè)收入的因素可以分兩大類:內部因素和外部因素;內部因素指由企業(yè)自身對收入造成影響的主要因素,如產品數(shù)量、投入成本、工程投資、固定資產、企業(yè)體制等。外部因素指當?shù)亟洕l(fā)展指標、當?shù)厝丝跀?shù)量、相關法律法規(guī)、消費者偏好、競爭環(huán)境等。
2.網絡結構確定
以1999年~2003年的數(shù)據(jù)來預測第2004~2005年的數(shù)據(jù),取神經網絡的輸入層節(jié)點數(shù)為m=20個,輸出量n為1個即電信業(yè)務收入,由經驗公式:k=(m+n)+c結合試錯法,可得隱含層節(jié)點數(shù)s1=14,輸出層數(shù)s2=1。
因此建立的網絡基本參數(shù)為:拓撲結構20-14-1;
3.遺傳神經網絡訓練:
應用遺傳操作(選擇、交叉、變異)訓練神經網絡,產生新一代個體,淘汰父代個體,直至達到最大進化代數(shù)或者產生最優(yōu)解。給定精度(εGA=0.005),經遺傳優(yōu)化訓練后得到最終的初始權值和閾值。用遺傳算法訓練得到的初始權值和閾值建立BP網絡模型,并訓練網絡直至達到指定精度。
4.結果檢驗
用訓練好的權值和閾值的遺傳神經網絡對2004年和2005年的電信業(yè)務進行預測,并將預測結果與一般BP神經網絡預測結果進行比較(見表2):
從表2的結果可以看出,在建模樣本相同下,基于遺傳算法的BP網絡模型對兩年獨立樣本的預報精度明顯優(yōu)于BP網絡模型,而且預報結果穩(wěn)定,收斂速度快、精度高,并且克服了以往憑經驗確定網絡的拓撲結構的缺陷,提高了網絡的精確性和泛化能力。
四、結論
本文為克服BP神經網絡模型所存在易于陷入局部最優(yōu)解等缺陷而提出了結合遺傳算法和神經網絡的一種混合模型——遺傳神經網絡模型,并利用所設計的遺傳神經網絡模型,選擇我國某地市的電信公司數(shù)據(jù)作為數(shù)據(jù)樣本,對該公司的業(yè)務收入進行預測,并對比BP神經網絡模型,實證結果表明,遺傳神經網絡模型,相對BP神經網絡而言,其預測效率和準確率大大得到提高,在電信業(yè)務收入預測方面具有較好的應用前景。
【遺傳神經網絡在電信業(yè)務收入預測中的應用研究】相關文章:
憶阻器在神經網絡中的應用10-06
網絡安全評價中神經網絡的實踐應用10-26
臭氧在口腔醫(yī)學中的應用研究10-26
BP神經網絡在無人機成本估算中的應用10-07
全面預算管理中企業(yè)應用研究論文10-10
電子商務在國際貿易中的應用研究10-05
物聯(lián)網技術在卷煙行業(yè)中的應用研究10-26
計算機在通信技術中的應用研究論文10-09