遺傳神經(jīng)網(wǎng)絡(luò )在電信業(yè)務(wù)收入預測中的應用研究
誤差反向傳播神經(jīng)網(wǎng)絡(luò )(BPNN)由于優(yōu)越的非線(xiàn)性數據處理性能以及較強的學(xué)習能力而被廣泛地運用于電信業(yè)務(wù)的預測當中。然而,神經(jīng)網(wǎng)絡(luò )常常存在著(zhù)收斂于局部最優(yōu)解、學(xué)習時(shí)間長(cháng)等缺陷而影響其預測效果,而遺傳算法(GA)是一種全局尋優(yōu)搜索算法,能夠有效克服上述缺陷。本文針對影響電信業(yè)務(wù)收入的主要因素,將BP神經(jīng)網(wǎng)絡(luò )與遺傳算法有機結合起來(lái),建立了相應的遺傳神經(jīng)網(wǎng)絡(luò )模型用于電信業(yè)務(wù)收入預測,并利用實(shí)際數據進(jìn)行效果驗證。實(shí)驗表明,該預測模型具有很強的學(xué)習能力和自適應性,其預測結果優(yōu)于BP神經(jīng)網(wǎng)絡(luò )模型,而且具有良好的泛化性。一、引言
電信業(yè)務(wù)預測是通信網(wǎng)絡(luò )分階段建設規劃的前提條件,同時(shí)也是規劃期電信業(yè)務(wù)量和收入估算的必要條件之一。預測方法的選擇直接關(guān)系到預測目標的實(shí)現和預測結果的精確程度。近年來(lái)人工神經(jīng)網(wǎng)絡(luò )技術(shù)和遺傳算法逐漸得到預測科學(xué)工作者的重視,誤差反向傳播(BP)神經(jīng)網(wǎng)絡(luò )已經(jīng)在預測領(lǐng)域中得到了廣泛的應用,是一種由多個(gè)神經(jīng)元以某種規則連接而形成的層次網(wǎng)絡(luò )結構,其基本原理是這些神經(jīng)元之間“相互協(xié)作”,它有許多優(yōu)點(diǎn),對不完全信,具有良好的適應性;對非線(xiàn)性輸入輸出關(guān)系的學(xué)習更具有優(yōu)越性,其描述問(wèn)題的能力很強。但是BP算法是一種基于誤差函數梯度下降的學(xué)習方法,學(xué)習過(guò)程收斂速度較慢;其次,BP神經(jīng)網(wǎng)絡(luò )訓練開(kāi)始時(shí)初始權值是隨機給定的,這對網(wǎng)絡(luò )的訓練效果也會(huì )有極大影響,甚至導致網(wǎng)絡(luò )陷入局部最小點(diǎn)。
遺傳算法 (GA)有很好的全局搜索能力,能從概率的意義上以隨機的方式尋求到問(wèn)題的最優(yōu)解。但另一方面,遺傳算法應用中容易產(chǎn)生早熟現象,局部尋優(yōu)能力較差,而遺傳算法與神經(jīng)網(wǎng)絡(luò )的結合可以發(fā)揮各自的優(yōu)點(diǎn)。本文研究采用遺傳神經(jīng)網(wǎng)絡(luò )應用到電信業(yè)務(wù)的訓練中,結果表明該方法是可效的。
本文其它結構安排如下:第二部分為遺傳神經(jīng)網(wǎng)絡(luò )模型的結構與算法介紹;第三部分為數據來(lái)源及實(shí)證結果分析;最后為本文結論。
二、遺傳神經(jīng)網(wǎng)絡(luò )模型結構及算法
1.遺傳神經(jīng)網(wǎng)絡(luò )模型結構
多層前向神經(jīng)網(wǎng)絡(luò )在經(jīng)濟領(lǐng)域中是被普遍運用的一種強有力的學(xué)習系統,系統結構簡(jiǎn)單易于編程。在其具體應用中,最重要的首先就是確定網(wǎng)絡(luò )結構,而網(wǎng)絡(luò )結構的關(guān)鍵在于隱含層及其結點(diǎn)數。研究表明,對于學(xué)習任何函數來(lái)講,一個(gè)隱含層足夠。因此一個(gè)三層前向神經(jīng)網(wǎng)絡(luò )可以逼近任意非線(xiàn)性函數。在前向神經(jīng)網(wǎng)絡(luò )結構中,如果采用誤差反向傳播算法(Back Propagation, BP)來(lái)對網(wǎng)絡(luò )結構的權系數進(jìn)行學(xué)習,那就是我們通常所說(shuō)的BP神經(jīng)網(wǎng)絡(luò )模型。本研究中的遺傳神經(jīng)網(wǎng)絡(luò )模型結構就是建立在一個(gè)三層前向神經(jīng)網(wǎng)絡(luò )基礎之上,將遺傳算法與神經(jīng)網(wǎng)絡(luò )有機地結合起來(lái)的一種混合模型。
網(wǎng)絡(luò )的具體結構如圖1
該網(wǎng)絡(luò )分為三層:第一層為輸入層,共有n個(gè)節點(diǎn);第二層為隱含層,共有m個(gè)節點(diǎn);第三層為輸出層,有一個(gè)節點(diǎn)。網(wǎng)絡(luò )的目標函數為,式中y為實(shí)際輸出,Y為期望輸出,Ep為平方誤差函數。
2.遺傳神經(jīng)網(wǎng)絡(luò )模型的算法
在本模型算法當中,一種改進(jìn)的遺傳算法,被提出來(lái)優(yōu)化模型結構的權值系數。該算法首先利用遺傳算法善于發(fā)現最優(yōu)解區域的特點(diǎn)同時(shí),找出網(wǎng)絡(luò )參數的最優(yōu)初始值,然后再利用BP算法的尋優(yōu)能力來(lái)搜索模型參數的最優(yōu)解空間。算法具體步驟如下:
步驟1:初始化
用遺傳算法來(lái)優(yōu)化神經(jīng)網(wǎng)絡(luò ),主要是優(yōu)化神經(jīng)網(wǎng)絡(luò )中神經(jīng)元之間的連接權,初始化種群P(t)。由于網(wǎng)絡(luò )的連接權是實(shí)數,因此本算法采用實(shí)數編碼方案,避免權重步進(jìn)變化。網(wǎng)絡(luò )隱含層轉移函數為Sigmoid函數。在編碼過(guò)程中,以神經(jīng)網(wǎng)絡(luò )的所有權值和閾值作為染色體的基因,各個(gè)基因組成染色體向量V=[v1,…vk,…vL],vK為染色體中的第k個(gè)基因。
步驟2:適應度計算及評價(jià)
根據適應度函數值對個(gè)體進(jìn)行評價(jià),對每個(gè)個(gè)體進(jìn)行解碼得到一個(gè)BP神經(jīng)網(wǎng)絡(luò )輸入樣本,計算出神經(jīng)網(wǎng)絡(luò )的輸出誤差值E,選擇適應度函數
式中,Ymk,Ymk分別為第m個(gè)訓練樣本的第k個(gè)輸入節點(diǎn)的期望輸出和實(shí)際輸出。適應度f(wàn)越高,表明誤差平方和越小,就越接近性能要求。
步驟3:遺傳操作
(1)選擇與復制
保留群體中適應度最高的個(gè)體,它不參與交叉和變異運算,而直接將其復制到下一代。群體中的其他個(gè)體,采用輪盤(pán)賭選擇法進(jìn)行選擇,這樣適應度小的個(gè)體也有機會(huì )進(jìn)入被保留。因此保證了群體中個(gè)體的多樣性,防止算法落入局部最優(yōu)。如果M個(gè)個(gè)體中的第i個(gè)個(gè)體的適應度為fi,則其被選中的概率為:
(2)交叉
由于權重系數采用實(shí)數編碼,故本文采用算術(shù)交叉方式,以Pc的概率對選擇后的個(gè)體進(jìn)行交叉。設在個(gè)體XA和個(gè)體XB之間進(jìn)行交叉,交叉算子為
式中:,為父代個(gè)體基因;,為子代個(gè)體基因,a為區間[0,1]上的隨機數。兩個(gè)個(gè)體在交叉點(diǎn)后的基因進(jìn)行交換,從而產(chǎn)生兩個(gè)新個(gè)體。
。3)變異
變異是對按變異概率Pm(這里取0.05)選取的個(gè)體進(jìn)行變異,然后隨機選取一變異點(diǎn),變異的基因安進(jìn)行變異操作。若新產(chǎn)生的種群個(gè)體的最大適應度小于原種群個(gè)體的最大適應度,則用原種群適應度最大的個(gè)體替換新種群中適應度最大的個(gè)體。
步驟4: 產(chǎn)生新種群
將新個(gè)體插入到種群P(t)中,產(chǎn)生新的種群P(t+1),再把新種群個(gè)體的連接權賦予神經(jīng)網(wǎng)絡(luò )中,并計算新個(gè)體的適應度函數,若達到預定值εGA,則進(jìn)入下一步,否則繼續進(jìn)行遺傳操作。
步驟5再用BP算法訓練網(wǎng)絡(luò )權值
達到所要求的性能指標或最大遺傳代數后,將最終群體中的最優(yōu)個(gè)體解碼即可得到優(yōu)化后的網(wǎng)絡(luò )連接權系數。以GA遺傳出的優(yōu)化初值作為BP神經(jīng)網(wǎng)絡(luò )的初始權值,再用BP算法訓練直到誤差平方和達到指定精度 或達到設定的最大迭代次數,算法結束。
模型算法流程圖見(jiàn)圖2
:
三、數據來(lái)源及實(shí)證結果
1.實(shí)驗數據來(lái)源
本文采用遺傳神經(jīng)網(wǎng)絡(luò )的方法對我國某地市的電信公司的業(yè)務(wù)收入進(jìn)行預測。影響電信企業(yè)收入的因素可以分兩大類(lèi):內部因素和外部因素;內部因素指由企業(yè)自身對收入造成影響的主要因素,如產(chǎn)品數量、投入成本、工程投資、固定資產(chǎn)、企業(yè)體制等。外部因素指當地經(jīng)濟發(fā)展指標、當地人口數量、相關(guān)法律法規、消費者偏好、競爭環(huán)境等。
2.網(wǎng)絡(luò )結構確定
以1999年~2003年的數據來(lái)預測第2004~2005年的數據,取神經(jīng)網(wǎng)絡(luò )的輸入層節點(diǎn)數為m=20個(gè),輸出量n為1個(gè)即電信業(yè)務(wù)收入,由經(jīng)驗公式:k=(m+n)+c結合試錯法,可得隱含層節點(diǎn)數s1=14,輸出層數s2=1。
因此建立的網(wǎng)絡(luò )基本參數為:拓撲結構20-14-1;
3.遺傳神經(jīng)網(wǎng)絡(luò )訓練:
應用遺傳操作(選擇、交叉、變異)訓練神經(jīng)網(wǎng)絡(luò ),產(chǎn)生新一代個(gè)體,淘汰父代個(gè)體,直至達到最大進(jìn)化代數或者產(chǎn)生最優(yōu)解。給定精度(εGA=0.005),經(jīng)遺傳優(yōu)化訓練后得到最終的初始權值和閾值。用遺傳算法訓練得到的初始權值和閾值建立BP網(wǎng)絡(luò )模型,并訓練網(wǎng)絡(luò )直至達到指定精度。
4.結果檢驗
用訓練好的權值和閾值的遺傳神經(jīng)網(wǎng)絡(luò )對2004年和2005年的電信業(yè)務(wù)進(jìn)行預測,并將預測結果與一般BP神經(jīng)網(wǎng)絡(luò )預測結果進(jìn)行比較(見(jiàn)表2):
從表2的結果可以看出,在建模樣本相同下,基于遺傳算法的BP網(wǎng)絡(luò )模型對兩年獨立樣本的預報精度明顯優(yōu)于BP網(wǎng)絡(luò )模型,而且預報結果穩定,收斂速度快、精度高,并且克服了以往憑經(jīng)驗確定網(wǎng)絡(luò )的拓撲結構的缺陷,提高了網(wǎng)絡(luò )的精確性和泛化能力。
四、結論
本文為克服BP神經(jīng)網(wǎng)絡(luò )模型所存在易于陷入局部最優(yōu)解等缺陷而提出了結合遺傳算法和神經(jīng)網(wǎng)絡(luò )的一種混合模型——遺傳神經(jīng)網(wǎng)絡(luò )模型,并利用所設計的遺傳神經(jīng)網(wǎng)絡(luò )模型,選擇我國某地市的電信公司數據作為數據樣本,對該公司的業(yè)務(wù)收入進(jìn)行預測,并對比BP神經(jīng)網(wǎng)絡(luò )模型,實(shí)證結果表明,遺傳神經(jīng)網(wǎng)絡(luò )模型,相對BP神經(jīng)網(wǎng)絡(luò )而言,其預測效率和準確率大大得到提高,在電信業(yè)務(wù)收入預測方面具有較好的應用前景。
【遺傳神經(jīng)網(wǎng)絡(luò )在電信業(yè)務(wù)收入預測中的應用研究】相關(guān)文章:
遺傳小學(xué)作文10-01
中考作文預測及優(yōu)秀范文:在好奇中成長(cháng)(精選26篇)10-16
營(yíng)業(yè)收入證明主營(yíng)業(yè)務(wù)收入證明11-10
電信渠道拓展方案-電信拓展方案10-01
企業(yè)投融資管理中管理會(huì )計的應用研究論文12-03
電信詐騙簡(jiǎn)報11-14
電信競聘報告12-28
電信詐騙簡(jiǎn)報07-20
電信詐騙簡(jiǎn)報12-08
電信詐騙的簡(jiǎn)報01-21