人工神經網絡的發展范文

時間:2024-04-02 11:39:25

導語:如何才能寫好一篇人工神經網絡的發展,這就需要搜集整理更多的資料和文獻,歡迎閱讀由公務員之家整理的十篇范文,供你借鑒。

人工神經網絡的發展

篇1

關鍵詞:灌溉 人工神經網絡 預測 糧食 發展需求 計算機

近年來國內外興起的人工神經網絡研究方法能對信息進行大規模并行處理;具有很強的魯棒性和容錯性;善于聯想、概括、類比和推理;而且具有很強的自學習能力,善于從大量統計資料中分析提取宏觀統計規律,很適合灌溉宏觀發展戰略的定量研究.因此,本文引入人工神經網絡原理,來建立全國糧食總產與影響因子間的定量關系模型.

1 模型的建立

在其它條件不變的情況下,糧食總產主要取決于播種面積、灌溉面積、農田成災面積、漬澇鹽堿地面積、糧食價格、良種覆蓋率、化肥使用量、科技貢獻率8個主要因素.為確定糧食總產與影響因子間的定量關系,根據人工神經網絡基本原理,設計相應的神經網絡:

網絡共分四層,一個輸入層,二個隱含層,一個輸出層.輸入層8個節點,輸出層1個節點.

令Qm,Hi,Wj,O分別為第1、2、3、4層的輸出;Ui,Vj,S分別為第2、3、4層的輸入;Aim,Bji,Cj分別為第1~2層,2~3層,和3~4層單元的連接權值;Xi,Yj,Z分別為第2、3、4層單元的偏置值;Di,Jj,G分別為第2、3、4層的誤差信號.

篇2

關鍵詞:人工神經網絡;教學實踐;教學方法;生物信息學

中圖分類號:G642.0 文獻標志碼:A 文章編號:1674-9324(2014)17-0208-03

人工神經網絡是在神經生理學、生物學、數學、計算機學等學科發展的基礎上提出的,模擬人類大腦的結構和思維方式處理、記憶信息的一門學科。具體來說,早在20世紀40年代,隨著醫學、生物學家們對人腦神經的結構、組成以及信息處理的工作原理的認識越來越充分,有學者提出以數學和物理方法對人腦神經網絡進行抽象,并建立簡化的模型,用以進行信息處理,這種應用類似于大腦神經突觸聯接的結構進行信息處理的數學模型,稱之為人工神經網絡ANN(Artificial Neural Network)[1]。

在人工神經網絡中,各種待處理的對象(數據、特征、字符、抽象的模式等等)都可用神經元處理單元表示。這些神經元主要可以分為輸入神經元、隱含神經元和輸出神經元三大類。其作用各不相同,作為輸入神經元的處理單元用來與外界產生連接,接收外界的信號輸入;隱含神經元處于中間層,為信息處理的不可見層;輸出神經元主要實現結果的輸出。神經元之間相互連接,連接的權重反映了各神經元之間的連接強度,神經元之間的連接關系中蘊含著信息的表示和處理。人工神經網絡主要是在不同程度、不同層次上模擬大腦處理信息的風格,具有非程序化、較強的適應性、自組織性、并行分布式等特點,其實現主要是通過網絡的變換和動力學行為,涉及數學、生物學、人工智能、計算機科學、非線性動力學等多個學科[1]。作為一門活躍的邊緣叉學科,在處理信息方面,相比于傳統人工智能方法具有非線性適應性,成功地應用于神經專家系統、模式識別、組合優化、預測等多個領域,尤其在生物信息學領域得到了廣泛的應用。生物信息學是20世紀末發展起來的一極具發展潛力的新型學科。人類的基因中蘊含著大量有用信息,利用神經網絡可以對這些海量的信息進行識別與分類,進而進行相關的生物信息學分析。如利用神經網絡分析疾病與基因序列的關系,基于神經網絡對蛋白質結構的預測,基因表達譜數據的分析,蛋白質互作位點的預測等等,都取得了很好的效果[2]。

因此,在生物信息相關專業的本科生中開設人工神經網絡課程尤為重要。經過多年的研究發展,已經提出上百種的人工神經網絡模型,這就需要教師針對不同的專業背景,不同層次的學生,講授不同模型的核心思想、推導過程、實際應用等等。本文主要根據人工神經網絡在生物信息學相關專業的教學實踐,從以下幾個方面進行探討。

一、引導式教學,激發學生的學習積極性

神經網絡作為一門偏于理論分析的學科,傳統的教學模式,即首先講解模型的起源,接下來介紹模型的核心思想,然后就是一連串的數學公式推導,面對滿黑板的公式,學生很難提起興趣去認真學習相應的模型。所以,如何激發起學生的學習積極性,讓學生重視這門課程,更好地掌握課程內容,掌握相關的模型理論基礎、核心思想,更好地服務于本專業,是人工神經網絡教學者亟待解決的問題。

首先,在導課的時候要生動,以引起學生對將要學習的內容的好奇心,讓學生有興趣投入到課堂學習內容中去。布盧姆說過:“最大的學習動機莫過于學生對所學知識有求知的興趣?!敝挥性谶@種動機下的學習,才會提高自身的主動性與自覺性,達到提高教學質量的目的[3]。例如,在講解hopfield神經網絡的時候,通過舉例對蘋果、橘子的質地、形狀、重量等特征的描述,運用“0,1”進行量化描述,然后應用神經網絡就可以進行有效地分類;對于旅行商TSP問題,也可以通過hopfield神經網絡尋找到最優路徑。那么,這些問題是如何解決的呢?就需要大家來一起揭開hopfield神經網絡的神秘面紗。其次,由于神經網絡涉及大量的數學公式與數學方法,學生往往會有畏懼的心理,這就需要教師幫學生澄清思想誤區,現在很多用于數據分析與計算的軟件,如matlab工具箱、R軟件里面都有很成熟的人工神經網絡軟件包,所以,學生只需要理解其工作原理、核心思想,學會使用現成的人工神經網絡軟件包處理數據,在熟練應用程序包的基礎上,對相應的神經網絡模型進行優化,改進,并且與其他的人工智能算法相結合,更好地為本專業服務。第三,在講授人工神經網絡理論內容的時候,要摒棄傳統的呆板式的推導過程,以往的神經網絡教學方法注重理論分析,通常是一連串的公式推導,公式中又涉及大量的符號,計算起來復雜又煩瑣,學生會覺得索然無趣,厭學情緒嚴重。在教學過程中,教師要精心設計,創設出特定的問題環境,將所學內容與本專業相結合起來,多講應用,啟發和誘導學生選取合適的神經網絡模型來解決本專業的實驗數據分析與處理等問題。

二、理論教學與實驗教學相結合

除了在理論課堂上將基本的理論知識傳輸給學生,教師還應該安排若干實驗教學內容,讓學生以實驗為主,將理論課上所學的知識運用到解決實際問題中來,理論聯系實際,主動操作思考,觀察,分析,討論,以培養學生解決問題的能力。一旦學生自己動手處理一些問題后,很自然地就會對人工神經網絡產生一種親切感,并能強烈激發起學生繼續探究下去的興趣。對于同一問題,可以讓學生選取不同的網絡模型,設置不同的參數,甚至可以讓學生自己動手編寫相應的網絡模型程序,并且給予改進,根據得出的結果來評價模型在解決實際問題時的好壞,以及模型改進的效果。作為授課教師,需要不斷優化實驗教學內容,在生物信息學專業開設人工神經網絡課程,實驗教學主要是針對生物信息專業的海量生物數據處理與分析的實際需要,培養學生綜合運用人工神經網絡方法和生物信息學知識,進行信息的分析與處理。除了在實驗課堂上給學生最大的自由發揮空間外,課后作業也盡量以開放式問題的形式給出,比如,可以讓學生選取相應的網絡模型處理本專業的一些實際問題,例如,數據的分類、聚類等等,其中,數據來源可以不同,類型也可自由選取,最后給出相應的模型參數設置、方法的改進、實驗結果,也可以安排學生自己查詢文獻進行學習,并安排學生作報告。這樣,學生可以在世界范圍內了解神經網絡的在本專業的應用情況,又能提高英語的讀寫能力,還能鍛煉學生做科研報告的能力。

三、加強師資隊伍建設以及其他基本條件的建設

由于生物信息學是一門新興的交叉學科[4],這就要求人工神經網絡的授課教師要熟練掌握生物信息相關專業的知識,教師的業務水平必須得到充分保證,才能給學生以全面透徹的指導。學院應該本著自主培養與重點引進的原則,優化教師隊伍的專業結構和學歷結構,提高教師的自身修養。授課教師要將課堂的理論知識聯系實際生物問題進行講授,讓學生感受到人工神經網絡在本專業的應用,提高學生的學習效率,同時也需要閱讀大量的專業文獻,提高編程技巧和數據庫應用能力,讓自己成為一名合格的復合型教師。同時,人工神經網絡課程的實驗,高度依賴于計算機網絡等設備,因此,相關的軟硬件設施的建設也必不可少,由于,基因組測序技術的發展,目前生物信息學研究所用的數據都是海量的,神經網絡訓練起來所需時間太長,不能用普通的電腦完成,需要專門的服務器來處理,學校有關部門應在條件允許的情況下,配備機房,購買服務器,以及相關的軟件,為學生創造良好的環境,讓學生完成課程內容。

最后,人工神經網絡涉及數學、計算機、人工智能和神經學等專業知識,因此,需要授課教師加強與其他相關專業教師的交流與合作,并滲透到授課過程中去,讓學生在學習人工神經網絡網絡時能將各專業聯系起來,更好地解決生物信息學中的問題,要想成為一名合格的人工神經網絡課程教師,首先要成為一名復合型的教師,不僅要具備教學和科研能力,同時也要具備計算機、生物學、信息學等多學科的知識。

參考文獻:

[1]朱大奇,史慧.人工神經網絡及其應用[M].北京:科學出版社,2006.

[2]朱偉,史定華,王翼飛.人工神經網絡在蛋白質二級結構預測中的應用[J].自然雜志,2003,(3):167-171.

[3]趙俊,李曉紅.趣味教學法在預防醫學教學中的運用[J].現代醫藥衛生,2005,21(15):2089-2090.

篇3

決策支持系統經過二十多年的發展,形成了如圖l所示公認的體系結構。它把模型并入信息系統軟件中,依靠管理信息系統和運籌學這兩個基礎逐步發展起來。它為解決非結構化決策問題提供了相應的有用信息,給各級管理決策人員的工作帶來了便利。從圖1可以看出決策支持系統體系結構可劃分為三級,即語言系統(LS)級、問題處理系統(PPS)級和知識系統fKS)級。其中問題處理系統級包括推理機系統(RS)、模型庫管理系統(MBMS)、知識庫管理系統(KBMS)及數據庫管理系統(DBMS)。知識系統級包括模型庫(MB)、知識庫(KB)及數據庫(DBo九十年代中期,興起了三個輔助決策技術:數據倉庫(DW)、聯機分析處理(0LAP)和數據挖掘(DM)。聯機分析處理是以客戶,服務器的方式完成多維數據分析。數據倉庫是根據決策主題的需要匯集大量的數據庫,通過綜合和分析得到輔助決策的信息。數據挖掘顧名思義,是為了獲得有用的數據,在大量的數據庫中進行篩選。人工智能技術建立一個智能的DSS人機界面,可進行圖、文、聲、像、形等多模式交互,人機交互此時變得更為自然和諧,人們能沉浸其中,進行合作式、目標向導式的交互方法。從目前情況來看,財務決策支持系統的研究還處于初級發展階段,財務數據的保密性、特殊性決定了財務決策不能全部公開化、透明化,但隨著中央及國務院相關部門財務預決算數據的公開,財務決策系統及其支持系統和過程也將隨之公開,這就要求決策者充分利用財務知識和決策支持系統的知識“聰明”決策、合理決策、科學決策、規范決策。

2財務管理神經網絡智能決策支持系統總體研究框架

2.1神經網絡運行機制神經網絡的著眼點是采納生物體中神經細胞網絡中某些可利用的部分,來彌補計算機的不足之處,而不是單單用物理的器件去完整地復制。第一,神經網絡中的鏈接的結構和鏈接權都可以通過學習而得到,具有十分強大的學習功能;第二,神經網絡所記憶的信息是一種分布式的儲存方式,大多儲存在神經元之間的權中;第三,神經網絡部分的或局部的神經元被破壞后,仍可以繼續進行其他活動,不影響全局的活動,因此說,神經網絡的這種特性被稱作容錯性;第四,神經網絡是由大量簡單的神經元組成的,每個神經元雖然結構簡單,但是它們組合到一起并行活動時,卻能爆發出較快較強的速度來。我們可以利用神經網絡的上述特點,將之應用于模式識別、自動控制、優化計算和聯想記憶、軍事應用以及決策支持系統中。

2.2財務管理神經網絡集成智能財務DSS的必然性在企業經營管理、政府機構財務活動中,人們時常面臨著財務決策。人們往往需要根據有關的理論及經驗制定出一系列的衡量標準。這種評價是一個非常復雜的非結構化決策過程,一般都是由內行專家根據一定的專業理論憑經驗和直覺在收集大量不完全、不確定信息基礎上建立起多級指標體系。但在這種指標體系中,各種指標之間的關系很難明確,而且還受評價者的效用標準和主觀偏好所左右。因此,很難在指標體系和評價目標間建立起準確的定量或定性模型。因此,我們需要采用一種可處理不確定性、不完全性信息的評價方法以支持決策。自然,利用人工神經網絡構造系統模式來支持這類評價決策問題是目前財務管理智能決策支持系統的一種發展趨勢和必然趨勢圈。

2.3財務管理神經網絡集成智能DSS系統框架神經網絡智能決策支持系統主要以知識、數據和模型為主體,結合神經網絡進行推理與數據開采。圖2給出了神經網絡智能決策支持系統研究框架『2I。研究中有兩個重點,即神經網絡推理系統和神經網絡數據開采系統。

2.3.1神經網絡數據開采系統神經網絡數據開采時利用神經網絡技術協助從數據中抽取模式。數據開采有五項基本任務:相關分析、聚類、概念描述、偏差監測、預測。常用的前饋式神經網絡,如BP網絡,可用于進行概念描述及預測。對向傳播(CounterPropagation,簡稱CP)神經網路可用來進行統計分析和聚類。CP網絡是美國神經計算專家RobertHecht—Nielsen提出的一種新型特征映射網絡,其網絡結構分輸入、競爭、輸出三層。該網絡吸取了無教師示教型網絡分類錄活、算法簡練的優點,又采納了有教師示教型網絡分類精細、準確的好處,使兩者有機地結合起來。由競爭層至輸出層,網絡按基本競爭型網絡學習規則得到各輸出神經元的實際輸出值,并按有教師示教的誤差校正方法調整由競爭層至輸出層的鏈接權。經過這樣反復地學習,可以將任意輸入模式映射為輸出模式。

2.3.2財務管理神經網絡推理系統財務管理神經網絡推理系統主要利用神經網絡的并行處理機制來解決傳統推理方法中存在的“組合爆炸”、“無窮遞歸”,等問題。在神經網絡系統中,計算與存儲時完全合二為一的,即信息的存儲體現在神經元互連的分布上,并以大規模并行方式處理。流動的過程就是從部分信息找到全部信息的過程,這就是聯想記憶的基本原理。若視動力系統的穩定吸引子為系統計算能量函數的極小點,系統最終會流向期望的最小點,計算也就在運動過程中悄悄地完成了。因而,可用雙向聯想記憶(BAM)網絡或CP網絡實現并行推理。CP網絡具有特殊的聯想推理映射功能。將輸入學習模式和期望輸出模式取為同一模式,且將之分為x和Y兩部分。網絡通過提供的樣本對進行充分的學習后,就可用來進行模式問的聯想推理。

3財務管理神經網絡智能DSS研究展望

當前世界上最熱門的研究課題,是模仿人類的思維方式來解決實際問題。專家系統和人工神經網絡是比較常用的技術,但由于自身的局限性,它們都側重于人類思維方式的某一方面。平時解決簡單的問題的時候還好,但真遇到解決復雜的問題的時候,它就顯得力不從心了,所以,這個時候我們可以將兩種技術結合起來解決,除了它們要自身不斷發展和完善外,還要注重兩者的協調配合,神經網絡DSS未來的發展趨勢就是依靠這兩種技術不斷結合,從而能幫助我們解決更多的實際問題。

3.1財務管理神經網絡支持專家系統常見的財務管理神經網絡支持專家系統主要包括幾個方面:知識維護、知識表示、知識獲取、推理等,我們針對各個步驟展開討論。

3.1.1知識維護。如果知識是通過人工神經網絡來獲取的,我們就可以同樣利用人工神經網絡,來讓維護工作變得更加方便快捷,維護可以通過人工神經網絡來自動完成,我們需要做的只是重新運行網絡模塊,或者重新訓練網絡模塊,又或是增加新的網絡模塊。

3.1.2推理。一般的專家系統只是求解專門性問題,應用的領域非常狹窄,同時由于控制策略不靈活,推理方法簡單,容易出現一些這樣或那樣的問題,推理效率低、速度慢。人-T-~$經網絡可以解決這一問題,從根本上提升工作效率,提高工作速度,它可以拓展知識空間,不只局限在狹窄的領域。

3.1.3知識表示。很多專家知識事實上很難用規則表示出來,但在現實工作中,我們大部分財務管理專家卻都采取這種方式,無論是直接的還是間接的。其它的知識表示方法也存在著同樣的問題。為了解決這一問題,我們可以采用人工神經網絡系統來將知識提供給專家系統,這樣做就可以避免這一問題,當專家系統需要相應知識時,就不需要用規則來表示知識,直接調用人工神經網絡就可以了。

3.1.4知識獲取。人工神經網絡可以幫專家系統來獲取知識,知識獲取是通過人機對話的形式進行的。首先,專家系統向專家提出問題,人工神經網路則負責對這些信息進行收集、處理,在人工神經網絡的聯結權值中已經具有通用的知識,所以這一步驟會很方便,之后再產生相應的數據結果。接著,專家系統在對這些數據進行進一步的分析。在這一過程中,專家系統只運用很少的規則就可以獲得相關的知識,大大提高了工作效率。

3.2財務管理專家系統支持神經網絡財務管理專家主要通過三種方式來對神經網絡提供必要的支持:第一,提供相應的必要的解釋;第二,進行預處理:第三,聯合應用。

3.2.1解釋。作為專家系統的人工神經網絡,它做不到同其他專家系統那樣,具體詳細地跟蹤問題求解的過程,以獲得答案的原因,它只能依靠增加一個小型的專家來解決這一問題,以獲得答案的原因,這個專家系統可以反向推理,從結果到初始輸入,系統提供具體的解決方法。在這種模式中,經過訓練的人工神經網絡來解決問題。當用戶要求解釋的時候,就可以通過網絡輸入一個并行的專家系統。

篇4

關鍵詞:人工神經網絡;尖峰神經元模型

近年來,人們在計算機智能化領域上取得了很大的進步,但計算機領域還有很多問題無法解決,例如視覺、語言識別和計算機等技術,人們仍不能將計算機系統設計得像生物系統那樣靈活。因此,大批研究者轉移到仿生科學研究,希望由此找到新的技術,設計出新的智能計算機,其中人工神經網絡是其中一個比較熱門的領域。隨著這個領域的發展,一些團隊已經建立起一些創造性的、復雜的神經電路模型,并將其應用到一些項目中,也有研究團隊在致力研究人工神經網絡的軟件和硬件方案,希望能夠為智能計算機提供更高層次的理解能力。

人工神經網絡模型的并行特性使它與傳統的計算機模型相比具有更強的理能力,使它更有機會解決如手寫文字識別這類問題。長期以來,大多數研究者都是在CPU上使用模擬的方式進行神經網絡的計算,由于CPU工作模式和結構的限制,無法提供最佳的計算性能,因此本文尋求一種新的智能計算硬件平臺,在硅芯片上設計神經網絡電路。

一、神經網絡模型

人工神經網絡理論已發展了很多年,并日益趨于成熟,在各領域都得到了一定的應用。人工神經網絡的運算主要由計算的基本單位神經元進行,通過若干個神經元構成神經網絡以解決現實中的各種問題。

如圖1所示,一組神經元構成一個神經網絡系統。每一個神經元都有獨立的計算單元。神經元計算公式如下:yi(t)=■W■?著ij(t-tij) (1)

公式(1)中yi(t)表示神經元的輸出結果,i表示神經元序號,?著ij(t-tij)表示神經元輸入值,W■表示每個神經元的權值。

人工神經網絡的基本運算包括了乘法和加法運算。為了能夠在硬件上執行神經網絡的理功能,必須為每個神經元設計獨立的加法器和乘法器,我們將其稱為加乘法運算單元(MAC),每個神經元都包含了一個MAC單元。

為了使系統能夠更好地模擬人類神經系統工作原理,發揮硬件的理能力,本文采用了Gerstner的尖峰神經元模型構建神經元理器的工作流程。在該模型中,每個神經元的膜電位在時間t時表示如下:

ui(t)=■■■W■?著ij(t-tij)+?濁i(t-tij) (2)

?著ij(t)=exp(-■)-exp(-■)*H(t-t■) (3)

公式(2)中,W■表示為第i神經元和第j神經元之間連接的權值,?著ij(t-tij)表示為神經元i能夠提供給神經元j的突觸后電位(PSP),而?濁i(t-tij)表示倔強函數。公式(3)表示突觸后電位(PSP)的計算方法,其中t■和t■為時間常數,H(t-t■) 為Heaviside階梯函數,t■為軸突傳輸延時系數。

二、神經元硬件設計

如圖2所示,神經網絡系統是由多個神經元構成,每個神經元是一個單獨的實體,神經元既相互獨立,又相互聯系,神經元根據所受到外界的刺激(輸入)和鄰居神經元對自己的影響,做出判斷與決策(輸出),并影響到周圍神經元的反應。為了能夠實現神經網絡功能,需要模擬神經元單位設計一個特殊的理器用于計算外界刺激而做出的反應,它包含了簡單的算數邏輯運算單元、寄存器和控制器,在本文中使用PN表示該理器。

圖3顯示了一個PN理單元的工作流程圖,每個PN理器包括了進行神經元計算必須的運算器和存儲器以及相關附屬器件。PN理單元的工作流程是:當外部有輸入數據通過總線進入PN理器時先存放在輸入事件存儲器;系統根據事件時間將數據輸入到突觸后電勢寄存器;同時輸入值被編號后分別放入公共連接存儲器;突觸后電勢PSP值與其他神經元的權值相乘后與原有膜電位值相加,相加結果更新膜電位存儲器值;同時結果與閾值相比較,如果大于閾值則將結果輸出到輸出存儲器中作為該神經元的輸出結果存放在輸出時間存儲器。

系統是由若干個神經元理器構成。如圖4所示,人工神經網絡系統由若干個神經元共同構成,圖5表示了人工神經網絡的硬件構成。每一個人工神經網絡都是由若干個神經元理單元構成,每個神經元理單元又是由邏輯運算器、存儲器和通信單元構成。將這些神經元理器構建在一塊電路板或者芯片上,同時理器與理器通過總線連接起來相互通信,共同完成神經網絡的運算。系統還為每一個神經元單位配置了一個PN理器,理器之間相互獨立,并行計算。當外部刺激(輸入)進入系統時,立刻被分配到各個PN理器并行計算神經元對刺激的響應(輸出),同時根據計算結果,調整神經元之間的權值系數,并更新存儲其中的權值。由于PN理器是并行計算,相對于傳統計算機模擬運算,極大地提高了神經網絡的計算速度。

本文以Gerstner的尖峰神經元模型為基礎,設計了模擬神經元工作的PN理單元,并由若干個PN理單元構成模擬人類神經系統的人工神經網絡的硬件系統。相對于在傳統計算機上的操作,PN理單元的并行性使新系統有更強的理能力,有效地提高了神經網絡的計算速度,使神經網絡系統有更好的應用前景。

(作者單位:廣東肇慶科技職業技術學院)

參考文獻:

[1]Gerstner,W. & Kistler,W.M.Spiking neuron models:single neurons,populations,plasticity. Cambridge,UK:Cambridge University Press,2002.

[2]Mazad S. Zaveri. Dan Hammerstrom1. Performance/price estimates for cortex-scale hardware: A design space exploration,2011,(24).

[3]徐明華,甘強.脈沖神經網絡的振蕩與分割[J].生物物理學報,1997,(1).

篇5

摘要:隨著電力工業的發展,人工神經元網絡(ANN)在電力系統中獲得了廣泛的應用。本文概述了人工神經元網絡的特點、基本結構以及發展過程,并對ANN在電力系統中的具體應用做了詳細的話述。最后,對人工神經元網絡的發展趨勢和在電力系統中的應用前景進行了展望。

關鍵詞:人工神經元網絡(ANN) 電力系統 應用前景 展望

人工神經網絡,是一種模范動物神經網絡行為特征,進行分布式并行信息處理的算法數學模型。這種網絡依靠系統的復雜程度,通過調整內部大量節點之間相互連接的關系,從而達到處理信息的目的。人工神經網絡具有自學習和自適應的能力,可以通過預先提供的一批相互對應的輸入一輸出數據,分析掌握兩者之間潛在的規律,最終根據這些規律,用新的輸入數據來推算輸出結果。人工神經網絡具有四個基本特征:非線性、非局限性、非定性、非凸性。人工神經網絡理論,作為人工智能的一個最活躍的分支,其模擬人腦的工作方式,為解決復雜的非線性、不確定性、不確知性系統的問題開創了一個嶄新的途徑,因而在電力系統應用研究中受到了廣泛的關注。

1.ANN發展過程

1943年,心理學家W.S.McCulloch和數理邏輯學家W.Pitts建立了神經網絡和數學模型,稱為MP模型。他們通過MP模型提出了神經元的形式化數學描述和網絡結構方法,證明了單個神經元能執行邏輯功能,從而開創了人工神經網絡研究的時代。60年代,人工神經網絡得到了進一步發展,更完善的神經網絡模型被提出,其中包括感知器和自適應線性元件等。1982年,美國加州工學院物理學家J.J.Hopfield提出了Hopfield神經網格模型,引入了“計算能量”概念,給出了網絡穩定性判斷。1984年,他又提出了連續時間Hopfield神經網絡模型,為神經計算機的研究做了開拓性的工作,開創了神經網絡用于聯想記憶和優化計算的新途徑,有力地推動了神經網絡的研究。人工神經網絡的研究受到了各個發達國家的重視,美國國會通過決議將1990年1月5日開始的十年定為“腦的十年”,國際研究組織號召它的成員國將“腦的十年”變為全球行為。

2.ANN的特點與結構

人工神經網絡的研究與發展及神經生理科學、數理科學、信息科和計算機科學等眾多領域,是一種新的信息處理理論。它所特有的信息處理機制,與傳統的數字計算機有著本質的不同。ANN網絡由大量模擬人腦的神經元互連組成,無獨立的用于存儲的信息空間,更沒有單一執行指令的CPU,每個神經元的結構都十分簡單,信息處理與存儲合二為一,通過調整連接權值,由整體狀態來給出響應信息。ANN是一種非線性映射系統,具有強大的模式識別能力,可以對任意復雜狀態或過程進行分類和識別。

3.ANN在電力系統中的應用

目前,ANN已用于負荷預測,警報處理,控制等方面,它已經從研究階段轉為實際應用。

3.1智能控制

在電力系統中利用ANN實現智能控制,就是利用其估計和聯想的能力,實現系統狀態與參數的識別和控制,這已在多種控制結構中如自校正控制、模型跟蹤控制、預測控制等控制中得到應用。Y M Park等采用2個BP網絡構成電力系統穩定器(PSS)的模型,其中1個在系統功率擺動中估計發電機的輸出功率。另一個用于判斷并給出控制決策。范澍等應用4層BP網絡對發電機運行方式和系統干擾進行精確在線識別,并以此為基礎設計了一種最優勵磁調節器模型,計算與仿真結果表明,這種調節器比固定點線性勵磁方式具有更強的穩定性能和動態品質,在系統運行方式較大的變化范圍內都能提供很好的控制性能,在大小擾動下均表現出很好的阻尼特性和良好的電壓性能。袁宇春等提出了用ANN進行電力系統的實時切負荷控制,選用的是多輸入單輸出的單層前向神經網絡,選取185個樣例進行網絡訓練后,在西北電網模擬某線路故障顯示了較好的控制特性。

3.2優化計算

由于ANN能夠建立任意非線性的模型,并適于解決時間序列預報問題,尤其是隨機平穩過程的預報,因此電力系統短期負荷預報是其應用研究的一個重要方面,歐建平等以3個ANN構成負荷與天氣變化量的周、日、時3個預報分析系統,氣象參數和預測周、日、時前某段歷史負荷參數作為網絡的訓練輸入參數,各自產生獨立的預報,再綜合產生最終的預報。姜齊榮等則用ANN建立發電機、勵磁系統和調速系統的詳細模型,把這三部分的模型連接起來并與電力系統網絡接口,形成一個ANN模型與電力系統網絡混聯的系統,這種混聯系統的暫態穩定計算結果與用常規機理模型的計算結果幾乎相同。為實現ANN并行、快速、在線處理電力系統實時計算提供新途徑。

3.3故障診斷

要保證電力系統的安全運行和實現電力設備由定期檢修轉變為狀態檢修,如何準確地進行電力設備的故障診斷,一直是受關注的焦點之一。而這類故障的征兆錯綜復雜,往往呈現出非線性和不確定性,很難用某一確定的邏輯或算法進行識別。而這種識別恰好是ANN所擅長的。ANN在電機狀態監測與診斷上也獲得了成功的應用。何雨儐等提出一種聯想記憶神經網絡,取零序電流、定子不對稱電流及其變化率等電測參數為故障征兆,通過網絡的聯想能力快速準確地進行電機早期故障的雙向診斷,能有效地處理各種模式并存的故障診斷問題。并且容錯性好,能有效抑制現場噪聲干擾,使診斷系統具有良好的魯棒性。電網故障診斷中,用全局逼近的BP算法完成故障的快速定位,便于控制人員及時處理故障。

3.4繼電保護

繼電保護是電力系統安全運行的重要保障之一,隨著電力系統的發展,常規的繼電保護技術已經不能完全適應需要。黨德玉提到一種基于小波變換和ANN的保護模型,其輸入特征量經過小波變換,也選用了3個三層的BP網絡用于判斷故障種類,故障性質和故障定位。故障種類和故障性質的判斷正確率可達100%,對線性短路故障的位置判斷正確率為94%,非線性故障(如經非線性過渡電阻接地)的判斷正確率為96%。張海峰等使用3層前向網絡構成變壓器保護模型,取變壓器2端的電流和其他故障特征量進行綜合判斷。經大量樣本訓練后,可準確判斷變壓器的勵磁涌流和各種故障。張津春等介紹了ANN構成的自適應自動重合閘模型,能較好地判別各種情況下瞬時性故障與永久性故障。

為了解決用電路方法進行巨量神經元連接無法實現的問題,采用光電集成技術制作的光神經元、光互連器件、光神經芯片也已出現,并成功地應用于模式識別、聯想記憶等方面。此外,ANN在輸電容量限制條件下經濟調度、基于同步相量測量的電壓安全監控、電廠控制、HVDC的電流控制器等方面也得到了研究與應用。

4.ANN在電力系統中的發展趨勢

ANN在電力系統中應用已做了大量的研究,一但是總體上來說仍停留在理論分析和仿真實驗上,因此必須加強理論研究與實際工程應用的結合,例如可在狀態檢修、在線監測等電力系統有較迫切需求的領域中,尋找實際應用的突破口。近幾年興起的小波變換方法,由于其克服了傅里葉變換不能對信號進行局部化分析的缺點。同時具有很強的特征值提取功能,特別適用于故障信號的分析,經小波變換處理后的信號作為神經網絡的輸入,可使網絡大大提高抗干擾性并加速收斂。所以小波分析與ANN的結合將在電力系統控制、保護、故障診斷等方而發揮更大的作用。ANN與專家系統和模糊控制的綜合對電力系統這樣一個復雜的動態大系統來說,應用潛力更大。ANN的形象思維能力,專家系統的邏輯思維能力和模糊邏輯這三者的結合,可體現出各自的優勢,互相彌補各自的不足。

人工神經網絡特有的非線性適應性信息處理能力,克服了傳統人工智能方法對于直覺,如模式、語音識別、非結構化信息處理方面的缺陷,使之在神經專家系統、模式識別、智能控制、組合優化、預測等領域得到成功應用。人工神經網絡與其它傳統方法相結合,將推動人丁智能和信息處理技術不斷發展。近年來,人工神經網絡正向模擬人類認知的道路上更加深入發展,與模糊系統、遺傳算法、進化機制等結合,形成計算智能,成為人工智能的一個重要方向,將在實際應用中得到發展。將信息幾何應用于人工神經網絡的研究,為人工神經網絡的理論研究開辟了新的途徑。神經計算機的研究發展很快,已有產品進入市場。光電結合的神經計算機為人工神經網絡的發展提供了良好條件。

篇6

關鍵詞:BP人工神經網絡;RBF人工神經網絡;經濟增長預測

中圖分類號:TP183文獻標識碼:A文章編號:1009-3044(2011)10-2345-03

The Study of Forecast of Zhejiang Province's Economic Growth Using BP and RBF Artificial Neural Network

BAI Xue-bing

(Zhengjiang University of Technology, Hangzhou 310014, China)

Abstract: Based on existing studies of economic forecasting methods, the article studies the Zhejiang province'sEconomic Growth Forecastusing BP and RBF Artificial Neural Network.Thedata research shows Artificial Neural Network hasgood precision, but different Artificial Neural Network have different behavior, some have big error. Artificial Neural Network can provide good reference for the making policy of sector of economy.

Key words: BP artificial neural network; RBF artificial neural network; economic growth forecast

1 經濟預測概論

經濟預測是與未來有關的旨在減少不確定性對經濟活動影響的一種經濟分析。它是對將來經濟發展的科學認識活動。經濟預測不是靠經驗、憑直覺的預言或猜測,而是以科學的理論和方法、可靠的資料、精密的計算及對客觀規律性的認識所作出的分析和判斷。

2 人工神經網絡經濟預測技術

由于人工神經網絡具有大規模并行處理、容錯性、自適應和聯想功能強等特點,作為非線性智能預測方法的人工神經網絡預測方法成為國內外經濟預測研究的一個熱點。

人工神經網絡不斷應用于證券預測分析、企業經濟戰略預測、經濟理論創新、經濟預測預警等研究中,都得到了一定的效果。

3 BP與RBF神經網絡預測模型分析

3.1 經濟增長神經網絡設計模型

3.1.1 宏觀經濟預測指標

經濟增長率是判斷宏觀經濟運行狀況的一個主要指標。經濟增長率指的就是不變價國內生產總值增長率(簡稱國內生產總值增長率。因此,判斷宏觀經濟運行狀況要落腳到對國內生產總值的核算上。在本文中我們采用GDP的增長率來作為預測目標。

3.1.2 神經網絡設計模型經濟模型的設計

本論文采用兩種模型對經濟進行預測。

1) 第一種 GDP預測模型:第n年的一、二、三產業的增長率作為輸入,第n+1年GDP增長率作為輸出。

2) 第二種預測模型。第n-3、n-2、n-1、n年的經濟增長率作為輸入,第n-1、n、n+1年經濟增長率作為輸出。

這里還要說明兩個問題。第一我們用到的數據來自2009年 浙江省統計年鑒,它的網址是 。

3.1.3 神經網絡模型結構

設計經濟預測神經網絡模型前,首先需要確定神經網絡的結構,主要包括如下內容:網絡的層數,每層的神經元數和激活函數等。采用的神經網絡結構如圖1。

3.2 使用BP在以浙江省過去的每年的GDP增長指數的基礎上進行BP神經網絡預測

3.2.1 學習樣本的選擇

本次實驗使用Matlab 軟件采用3層BP神經網絡建立浙江省經濟發展的的預測模型。輸入層節點數為n=4,輸出層節點m=3.而隱含層節點數的選擇是人工神經網絡最為關鍵的一步,它直接影響網絡隊復雜問題的映射能力,實驗中我們采用試湊法來確定最佳節點數。現設置較少的隱節點訓練網絡,然后逐漸增加網絡節點數,用同一樣本進行訓練,從中確定網絡誤差最小時對應的節點數,隱層、輸出層神經元的轉移函數,隱含層和輸出層轉移函數分別采用tansig和logsig,訓練函數選擇traindx。

3.2.2 數值歸一化處理

對于浙江省經濟增長序列Q=(Q1,Q2…,Qt)。設序列的最大值、最小值分別為Qmax、Qmin。對時間序列的值作歸一化處理。

令xi=(Qi-Qmin)/(Qmax-Qmin)

3.2.3 樣本數據訓練和數據預測

采用1978~2003年的數據樣本在MatLab7.0軟件中對輸入網絡進行訓練.隱層節點數先從4開始訓練,逐步增加到12時,當數值 為10時預測結果較好。允許誤差為0.001,訓練3217次達到訓練要求。

采用1978~2004年的數據作為第一組訓練數據,2005-年數據作為仿真預測數據,通過神經網絡預測GDP。采用1978~2005年的數據作為第一組訓練數據,2006年數據作為仿真預測數據,通過神經網絡預測GDP, 采用1978~2006年的數據作為第一組訓練數據,2007-年數據作為仿真預測數據,通過神經網絡預測GDP,依次類推,產生結果如表1所示。

3.2.4 數據分析

從2000-2004的擬合數據來看,相對誤差比較小,BP網絡對整個模擬數據的擬合程度還是比較好的,但是從2005-2009的預測數據來看預測數據的誤差還是比較大的,這也說明對未來的預測是很難的。各種不確定的因素在起作用。

3.3 三種產業增加率BP確定法預測GDP

3.3.1 樣本數據訓練

將1978-2004年數據對輸入網絡進行訓練。然后把需要預測的樣本2000-2004年的樣本數據輸入網絡,得到結果,然后用反歸一化公式獲得結果。在Matlab7.0中調用newff函數,建立一個3個輸入節點、18個隱含層節點、一個輸出結點的BP神經網絡,隱含層和輸出層轉移函數分別采用tansig和logsig,訓練函數選擇traindx,允許誤差為0.001,訓練1748次達到訓練要求。

采用1978~2004年的數據作為第一組訓練數據,2005年數據作為仿真預測數據,通過神經網絡預測GDP。采用1978~2005年的數據作為第一組訓練數據,2006年數據作為仿真預測數據,通過神經網絡預測GDP, 采用1978~2006年的數據作為第一組訓練數據,2007年數據作為仿真預測數據,通過神經網絡預測GDP,依次類推,產生結果如表2所示。

3.3.2 數據分析

從預測數據來看預測數據的誤差盡管比上一種類型的數據要好,但是誤差還是比較大的,但是考慮到預測的能力 ,數據還是可以接受的 。但是數據誤差還是比較大的,這也說明對未來的預測是很難的,不是十分確定的,有些文章的數據精確度挺高的,但我想應該是不太可能的,也許有故意湊數據的嫌疑。如果預測一年的話,可以通過調整參數獲得近似結果,但是很多年就很困難。

3.4 使用RBF在以浙江省過去的每年的GDP增長指數的基礎上進行RBF神經網絡預測.

3.4.1 RBF 神經網絡模型設計

該種方式與第一種BP神經網絡預測方法類似, 以以前四年的GDP增長率作為輸入,后兩年加以預測的年作為輸出。輸入層節點數為n=4,輸出層節點m=3.而隱含層節點數的選擇是采用matlab的newrbe自動來設置.然后用同一樣本進行訓練。

3.4.2 樣本數據訓練和數據預測

1) 采用1978~2004年的數據作為第一組訓練數據,2005年數據作為仿真預測數據,通過神經網絡預測GDP。采用1978~2005年的數據作為第一組訓練數據,2006年數據作為仿真預測數據,通過神經網絡預測GDP,依次類推,產生結果如表3所示。這兒采用newrbe函數,spread參數為0.25。這是因為通過測試采用0.25獲得的數據結果較好。

3.4.3 數據分析

從實驗數據看,RBF對整個模擬數據的曲線擬合程度是相當完美,但是從2005-2009的預測數據來看預測數據的誤差還是比較大的,這也說明RBF神經網絡盡管曲線的擬合程度比BP網絡好 ,但是從預測的能力來講,并不比BP網絡好,反而通過試驗顯得更差一些。這仍然表明對未來的預測是很難的。各種不確定的因素在起作用。神經網絡的預測也只能作為參考之用,不能對各種的突發事件進行預測。

3.5 使用RBF三種產業增加率確定法預測GDP

3.5.1 RBF神經網絡模型設計

該種方式與對應的BP神經網絡預測方法類似, 以一年的三種產業增長率作為輸入,后一年的GDP增長率預測作為輸出。本次實驗采用RBF神經網絡建立浙江省經濟發展的的預測模型。輸入層節點數為n=3,輸出層節點m=1.而隱含層節點數的選擇采用RBF自動的newrbe方法實現。

3.5.2 數據處理

1) 采用1978~2004年的數據作為第一組訓練數據,2005年數據作為仿真預測數據,通過神經網絡預測GDP。采用1978~2005年的數據作為第一組訓練數據,2006年數據作為仿真預測數據,通過神經網絡預測GDP, 采用1978~2006年的數據作為第一組訓練數據,2007-年數據作為仿真預測數據,通過神經網絡預測GDP,依次類推,產生結果如表4所示。

3.5.3 數據分析

但是從2005-2009的預測數據來看預測數據的誤差比上一組得RBF的誤差還要大,幾乎有點難以接受。這也說明RBF神經網絡盡管曲線的擬合程度比BP網絡好,但是從預測的能力來講,并不比BP網絡好,反而我通過試驗更差一些。2009年的數據變得極為不合理,從而導致數據的偏差性很高。,從測試數據可看出,但是由于經濟運行的復雜性,以及不可預知性,特別是由于2008的美國金融導致的世界范圍的經濟危機,導致經濟數據的不可靠性大大增加,歷史數據變得用處不太大。2009年的數據變得極為不合理,從而導致數據的偏差性很高。

4 總結與歸納

從我們的試驗來看,各種神經網絡的確可以對未來進行預測,但是精度多高卻有一些問題,從我們的試驗來看BP神經網絡的數據要比RBF神經網絡的數據要好,但是也只在一定范圍內 ,四種檢測方法,只有一種數據還略微能夠接受。神經網絡預測仍然需要不斷的完善。

參考文獻:

[1] 張德豐.Matlab神經網絡應用設計[M].北京:機械工業出版社,2009.

[2] 高雋.人工神經網絡原理及仿真實例[M].2版.北京:機械工業出版社,2007.

[3] 韓力群.人工神經網絡理論、設計與應用[M].2版.北京:化學工業出版社,2007.

篇7

關鍵詞 BP網絡;客車備件;需求預測

中圖分類號 F426 文獻標識碼 A 文章編號 1673-9671-(2012)102-0195-01

客車備件需求是售后服務的基礎和重要組成部分。產品備件準備的是否合理,不僅關系到售后服務的質量,而且也關系到企業的經營效率。然而,準確的備件預測是相當困難的。一方面,影響備件需求量的因素很多,例如產品的市場保有量、產品的地理分布及使用狀態、備件的生命周期、備件通用度等等。另一方面,需求預測具有很強的時效性和復雜性,各種因素的影響力隨環境變化而變化。

目前國際上采用多種方法進行需求預測的應用研究,如增量法、回歸法、季節指數法、時間序列法等。但在備件需求預測方面的實際效果卻不盡如人意。起源于二十世紀八十年代的人工神經網絡(ANN)屬于人工智能技術之一,突破了傳統技術的局限,在諸多領域取得了成功。近年來,ANN技術已經成為經濟預測、管理決策領域的研究熱點,并已經成功的運用在非線性領域以及識別、智能傳感器等工程領域。

但在汽車和客車備件需求預測領域,很少見到采用該方法進行研究的案例,因此,本文著重研究神經網絡在客車備件需求預測領域的應用。

1 人工神經網絡基本理論

1.1 人工神經網絡概述

人工神經網絡(Artificial Neural Network,簡稱ANN)的研究始于20世紀四十年代初期。經過半個多世紀的興衰,經歷了從興起到又到蕭條最終走向穩步發展的艱難路途,如今人工神經網絡已經是一門比較成熟的學科了。特別是經過最近將近20年的發展,目前的人工神經網絡是一門融匯了神經學、信息學、計算機科學、工程學等為一體的邊緣交叉學科,是一種大規模、并行、復雜的非線性系統。人工神經網絡具有高度并行的處理機制,高度靈活的拓撲結構,以及強大的自組織、自學習、自適應能力和處理非線性問題的能力。因此,人工神經網絡在預測科學領域得到了高度重視。

至今為止,人工神經網絡技術的發展大致經歷了五個階段,其研究集中在三個方面:開發現有模型的應用,并在應用中根據實際運行情況對模型、算法加以改造,以提高網絡的訓練速度和運行的準確度;希望在理論上尋找新的突破,建立新的專用或通用的模型和算法;進一步對生物神經系統進行研究,不斷的豐富對人腦的認識。

人工神經網絡模擬人腦的功能,雖然只是低級近似,但區別于一般的人工智能和其他計算機智能程序,它表現出的許多特質與人類的智能相似。同人類的大腦類似,單個神經元功能很弱,但是當成千上萬的神經元組合起來所表現出的活動處理功能卻十分強大。

1.2 人工神經網絡模型

人工神經網絡是由大量的神經元按照層內連接、循環連接和層間連接等模式相互連接起來而構成的。將一個神經元的輸出送至另一個神經元作為輸入信號稱之為連接,每個連接通路對應一個連接權值,神經元的連接方式不同會生成具有不同特性的神經網絡。經過幾十年的探索,目前已經提出了上百種人工神經網絡結構,但大部分都是幾種典型網絡的組合和變形。

根據神經元的連接方式不同這一特點,可將神經網絡分為兩大類:分層網絡和相互連接型網絡。分層網絡的代表是BP網絡、RBF網絡和Hopfield網絡。

1.3 BP神經網絡

目前應用最為廣泛的神經網絡結構是多層前饋神經網絡。由于采用的網絡結構、傳遞函數和學習規則的不同,前饋網絡主要有感知神經網絡、BP網絡(Back Propagation Network)、RBF網絡等不同網絡模型。上述三種網絡各有其優缺點,經對比得知,BP網絡相比其他網絡具有算學習精度高、運行速度很快、網絡具有一定的推廣能力和概括能力等多方面優點。

因此,我們決定采用BP網絡作為客車備件需求預測的神經網絡模型。

2 基于BP網絡的客車備件需求預測設計

2.1 客車備件需求預測方法設計

2.1.1 模型輸入和輸出設計

本文選取對配件需求量影響程度大的三個因素即近期實際需求量(6個月的實際需求值)、季節性因素以及客車保有量作為網絡的輸入,分別將其量化后得到8個點作為神經網絡的輸入向量。顯而易見,目標向量Y就是某配件預測月當月的需求量。

2.1.2 數據歸一化

在本研究過程中,除了季節性因素值X7已經提前設置在0~1之間,其余各變量都應按照上式進行歸一化處理;在網絡訓練完畢進行測試時,還要將預測輸出結果進行反歸一化處理并與實際值進行比較來對網絡進行評價。

2.2 BP網絡結構設計

本研究選擇三層BP網絡即單隱層的BP網絡進行設計仿真。本文使用Kolmogorov定理和試湊法相結合的方法,經多次試驗和結果比較,選擇網絡誤差最小和訓練速度最快時對應的隱層節點個數,最終確定隱層神經元個數為17。

針對本文研究的問題,按照BP網絡的一般設計原則,中間層神經元的傳遞函數設定為S型正切函數tansig()。由于網絡的輸出向量值已經被歸一化到區間[0,1]中,因此,輸出層神經元傳遞函數設定為 S型對數函數logsig()。

網絡的訓練算法對網絡收斂速度、泛化能力、網絡性能等有很大影響。經過對幾種改進的BP算法進行實驗對比,觀察各算法的收斂速度和網絡誤差,最終確定最適合本研究的訓練算法為“擬牛頓算法”。

2.3 預測實現和結果對比

本文選取某大型客車制造企業的售后備件進行研究,選取高頻需求備件中的兩種數據歸一化后作為樣本數據進行實驗。根據設計好的網絡結構方案進行網絡創建和訓練仿真。使用train()函數對兩種備件分別進行訓練。經過35次和44次訓練后,網絡目標誤差達到要求。

使用訓練好的模型開始對其余樣本數據進行預測,實際結果說明,網絡的預測誤差范圍在±7%之內,已達到客車領域備件需求預測預期目標。

在將網絡測試結果與實際值比較的同時,我們也將它與該企業目前采用的時序預測方法進行對比,結果說明利用神經網絡進行備件需求預測的效果明顯好于傳統方法。

參考文獻

[1]張立明.人工神經網絡的模型及其應用[J].復旦大學出版社,1993:5.

[2]丁杏娟.基于人工神經網絡的產品需求預測研究[J].上海交通大學碩士學位論文,2006:1.

[3]王萬森.人工智能原理及其應用[J].電子工業出版社,2000:27-51.

篇8

【摘要】 人工神經網絡由于其具有高度的自適應性、非線性、善于處理復雜關系的特點,在許多研究領域得到了廣泛應用,并取得了令人矚目的成就。對其目前在醫學研究領域中的應用做一簡單綜述。

【關鍵詞】 人工神經網絡; 應用

人工神經網絡(Artificial Neural Network,ANN)方法自從本世紀40年代被提出以來,許多從事人工智能、計算機科學、信息科學的科學家都在對它進行研究,已在軍事、醫療、航天、自動控制、金融等許多領域取得了成功的應用。目前出現了許多模仿動物和人的智能形式與功能的某個方面的神經網絡,例如,Grossberg提出的自適應共振理論(Adaptive Resonance Theory,ART),T-Kohenen的自組織特征映射網絡(Self-Organizing feature Map,SOM),徑向基函數網絡(Radial Basis Function,RBF),Hopfield網等。進入90年代以后,由于計算機技術和信息技術的發展,以及各種算法的不斷提出,神經網絡的研究逐漸深化,應用面也逐步擴大,本研究對常用的神經網絡方法及其在醫學領域中的應用做一簡單綜述。

1 自組織特征映射網絡(self-organizing feature map,SOM)在基因表達數據分析中的應用

1.1 方法介紹

腦神經學的研究表明,人腦中大量的神經元處于空間的不同區域,有著不同的功能,各自敏感著各自的輸入信息模式的不同特征。芬蘭赫爾辛基大學神經網絡專家T.Kohonen根據大腦神經系統的這一特性,于1981年提出了自組織特征映射網絡,它模擬人的大腦,利用競爭學習的方式進行網絡學習,具有很強的自組織、自適應學習能力,魯棒性和容錯能力,其理論及應用發展很快,目前已在信息處理、模式識別、圖像處理、語音識別、機器人控制、數據挖掘等方面都有成功應用的實例。

Kohonen網絡由輸入層和競爭層組成,網絡結構見圖1。輸入層由N個神經元組成,競爭層由M個輸出神經元組成,輸入層與競爭層各神經元之間實現全互連接,競爭層之間實行側向連接。設輸入向量為x=(x1,…,xd)T ,輸出神經元j對應的權重向量為wj=(wj1,…,wjd)T ,對每一輸出神經元計算輸入向量x 和權重向量wj 間的距離,據此利用競爭學習規則對權向量進行調節。在網絡的競爭層,各神經元競爭對輸入模式的響應機會,最后僅一個神經元成為勝利者,并對與獲勝神經元有關的各權重朝著更有利于它競爭的方向調整,這樣在每個獲勝神經元附近形成一個“聚類區”,學習的結果使聚類區內各神經元的權重向量保持與輸入向量逼近的趨勢,從而使具有相近特性的輸入向量聚集在一起,這種自組織聚類過程是系統自主、無教師示教的聚類方法,能將任意維輸入模式在輸出層映射成一維或二維離散圖形,并保持其拓撲結構不變。網絡通過對輸入模式的學習,網絡競爭層神經元相互競爭,自適應地形成對輸入模式的不同響應,模擬大腦信息處理的聚類功能、自組織、自學習功能,實現用低維目標空間的點去表示高維原始空間的點,其工作原理和聚類算法及改進方法參見相關文獻[1]。

1.2 應用

基因芯片技術的應用使得人們可以從基因水平探討疾病的病因及預后,而基因芯片產生的數據具有高維度(變量多)、樣本量小、高噪聲的特點,樣本量遠小于變量數,如何從海量的數據中挖掘信息或知識成為重大課題。聚類分析是數據挖掘中的一類重要技術,傳統方法主要有系統聚類、k-means聚類等,但在處理復雜非線性關系及變量間的交互作用時效果較差,受異常值影響較大。近年來神經網絡技術法成為聚類領域的研究熱點,其中自組織特征映射網絡由于其良好的自適應性,其算法對基因表達數據的聚類有較高的穩定性和智能性,尤其在處理基因表達中有缺失數據及原始空間到目標空間存在非線性映射結構時有較好的體現,適用于復雜的多維數據的模式識別和特征分類等探索性分析,同時可實現聚類過程和結果的可視化[2]。目前Kohonen網絡已被成功用到許多基因表達數據的分析中,Jihua Huang等[3]設計6×6的網絡對酵母細胞周期數據進行分析,總正確率為67.7%;曹暉等[4]將其算法改進后用在酵母菌基因表達數據中,總正確率高達84.73%,有較高的聚類效能;鄧慶山[5]將該模型與K平均值聚類方法結合用于公開的結腸基因表達數據集和白血病基因表達數據集,聚類的準確率分別為94.12%和90.32%。目前Kohonen網絡在醫學領域中主要應用前景有:① 發現與疾病相關的新的未知基因,對目標基因進一步研究,提高診斷的正確率,并對藥物的開發研究提供重要的線索;② 對腫瘤組織的基因表達譜數據聚類,以期發現新的、未知的疾病亞型(腫瘤亞型),以便提出更加有針對性的治療方案,為從分子水平對疾病分型、診斷、預后等提供依據;③ 發現與已知基因有相似功能的基因,為推斷未知基因的可能功能提供線索。

2 BP神經網絡在醫學研究中的應用

2.1 BP神經網絡在疾病輔助診斷中的應用

2.1.1 方法介紹

BP神經網絡是目前應用最多的神經網絡,一般由一個輸入層(input layer)、一個輸出層(output layer)、一個或幾個中間層(隱層)組成。每一層可包含一個或多個神經元,其中每一層的每個神經元和前一層相連接,同一層之間沒有連接。輸入層神經元傳遞輸入信息到第一隱層或直接傳到輸出層,隱層的神經元對輸入層的信息加權求和,加一個常數后,經傳遞函數運算后傳到下一個隱層(或輸出層),常用的傳遞函數是logistic函數,即Φh=1/(1+exp(-z)) ,輸出層神經元對前一層的輸入信息加權求和經傳遞函數Φ0 (線性或logistic函數或門限函數)運算后輸出,BP神經網絡一般采用BP算法訓練網絡,關于BP算法及改進可參考相關文獻[1]。

人工神經網絡具有強大的非線性映射能力,含一個隱層的網絡可以實現從輸入到輸出間的任意非線性映射,是典型的非線性數學模型,建立BP神經網絡模型的一般步驟為:① BP網訓練集、校驗集、測試集的確定;② 輸入數據的預處理:使輸入變量的取值落在0到1的范圍內,如果是無序分類變量,以啞變量的形式賦值;③ 神經網絡模型的建立及訓練:學習率、傳遞函數、隱層數、隱單元數的選擇,注意防止過度擬合。一般使用靈敏度、特異度、陽性預測值、陰性預測值、ROC曲線對模型的預測性能進行評價。

2.1.2 應用

BP神經網絡已廣泛用于臨床輔助診斷中,白云靜等[6]用于中醫證候的非線性建模,建立了RA證侯BP網絡模型和DN證侯BP網絡模型,結果顯示平均診斷準確率分別為90.72%、92.21%,具有較高的診斷、預測能力。曹志峰[7]采用PROBEN1中的甲狀腺疾病數據庫用于甲狀腺疾?。卓骸⒓诇p、正常)的診斷,結果顯示訓練樣本的正確識別率為99.3% ,測試樣本的正確識別率為98.2%,提示對臨床診斷甲狀腺疾病提供有益的幫助;還有學者用于急性心肌梗塞、甲狀腺功能紊亂、乳腺癌、前列腺癌、宮頸癌、肺癌、卵巢癌、急性肺梗塞等的輔助診斷等[8]。

2.2 BP神經網絡在生存分析中的應用

2.2.1 方法介紹

傳統的生存分析方法有非參數、半參數、參數模型,參數模型主要有指數回歸模型、Weibull回歸模型,都要求對基線風險做一定的假設,但實際資料常常不符合條件,生存分析中應用最為廣泛的半參數模型:Cox比例風險模型,但它要求滿足比例風險的假定,在很多情況下也難以滿足?;谏窠浘W絡的生存分析模型可以克服這些困難,可以探測復雜的非線性效應,復雜的交互效應,模型中協變量的效應可以隨時間變化,對數據的分布不做要求。目前一些策略被用到神經網絡預測方法中分析含有刪失的生存數據,主要有Faraggi-Simon(1995)法、Liestol-Andersen-Andersen(1994) 法、改良uckley-James(1979)法等。

BP神經網絡建立生存分析模型常用的方法有[9]:連續時間模型(continuous time models)與離散時間模型(discrete time models)。常用的Faraggi和Simon[10]提出的連續時間模型擴展了Cox回歸模型,允許非線性函數代替通常的協變量的線性組合,這種方法既保持了Cox回歸模型的比例風險的特點,又提供了處理復雜非線性關系、交互作用能力的好方法。

離散時間模型常用的模型有:① 輸出層為單個結點:模型的輸出層只有一個神經元結點,是最簡單的神經網絡模型,生存時間被分成兩個區間,當研究者僅僅對某一時間點的預后感興趣時,例如預測癌癥患者的5年生存情況,如欲預測多個時間點,則需建立多個神經網絡模型(每個模型對應一個時間區間);② 輸出層為多個結點:生存時間被分成幾個離散的區間,估計某個時間區間事件發生的概率,Liestol法是常用的離散時間模型。還有研究者在建立多個時間區間模型時將時間也做為一個輸入變量,也有學者將神經網絡納入Bayes方法的研究框架。

一般采用靈敏度、特異度、一致性指數C(Concordance index)作為預測準確性的評價指標,神經網絡在生存分析中的應用主要在于[11]:個體患者預后的預測,研究預后因子的重要性,研究預后因子的相互作用,對于預測變量的影響力強弱及解釋性,還有待進一步探討。

2.2.2 應用

國外Ruth M.Ripley等[9]將7種不同的神經網絡生存分析模型(3種離散時間模型,4種連續時間模型)用于1335例乳腺癌患者復發概率的預測,并對其精確性、靈敏度、特異度等預測性能指標進行比較,結果證明神經網絡方法能成功用于生存分析問題,可以提取預后因子所蘊涵的最大可能的信息。Anny Xiang等[12]采用Monte Carlo模擬研究方法,在9種實驗條件下(不同的輸入結點、刪失比例、樣本含量等)對Faraggi-Simon法、Liestol-Andersen-Andersen法、改良Buckley-James法處理右刪失生存數據的性能與Cox回歸作比較,研究結果提示神經網絡方法可以作為分析右刪失數據的一個有效的方法。D.J.Groves[13]等將Cox回歸與神經網絡方法對兒童急性淋巴母細胞白血病的預后進行了比較,Lucila Ohno-Machado等[14]建立輸出層為4個結點的離散時間神經網絡模型做為AIDS預后研究的工具,并使用ROC曲線下面積、靈敏度、特異度、陽性預測值、陰性預測值對不同時間區間的預測性能做了評價。國內用于生存分析方面的研究還較少,黃德生[15]等利用BP神經網絡建立time-coded model和single-time point model用于肺鱗癌預后預測,賀佳[16]等把BP網絡用于預測肝癌患者術后無瘤生存期,也有學者對AIDS、惡性腫瘤的預后做了相關的研究。

2.3 BP神經網絡在其它方面的應用

近年來BP神經網絡在疾病篩查中的的應用引起學者的關注,例如在乳腺癌、宮頸癌、糖尿病的篩查都有成功的應用[17]。神經網絡在法醫學研究領域具有實用性和廣泛的應用前景,法醫學家將其用在死亡時間推斷、死因分析、個體識別和毒物分析等研究中[18]。在藥學研究中也有一定的應用,例如在定量藥物設計、藥物分析、藥動/藥效學研究中,都有成功的應用案例,相秉仁等[19]對其做了詳細的綜述。曹顯慶[20]等還將神經網絡用于ECG、EEG等信號的識別和處理、醫學圖像分析中,取得了較好的結果。

人工神經網絡是在研究生物神經網絡的基礎上建立的模型,迄今為止有代表性的網絡模型已達數10種,人工神經網絡不需要精確的數學模型,沒有任何對變量的假設要求,能通過模擬人的智能行為處理復雜的、不確定的、非線性問題。在醫學研究領域,變量間關系往往非常復雜,為了探測變量間的復雜模式,神經網絡正逐漸變成分析數據的流行工具。目前國際上已出現許多著名的神經網絡專業雜志:Neural Network,Neural Computation,IEEE Transaction on Neural Networks等,同時已有許多商業化的神經網絡開發軟件,如Matlab軟件, S-plus軟件,SNNS(Stuttgart Neural Network Simulator)等,高版本SAS系統中的Enterprise Miner應用模塊中也可以建立神經網絡模型,隨著計算機技術的進一步發展,人工神經網絡在醫學領域的應用前景也會更加廣闊。

【參考文獻】

1 余雪麗,主編.神經網絡與實例學習.中國鐵道出版社,1996.

2 白耀輝,陳明.利用自組織特征映射神經網絡進行可視化聚類.計算機仿真,2006,23(1):180~183.

3 Jinua Huang,Hiroshi Shimizu,Suteaki Shioya.Clustering gene expression pattern and extracting relationship in gene network based on artificial neural networks.Journal of bioscience and bioengineering,2003,96(5):421~428.

4 曹暉,席斌,米紅.一種新聚類算法在基因表達數據分析中的應用.計算機工程與應用,2007,43(18):234~238.

5 鄧慶山.聚類分析在基因表達數據上的應用研究.計算機工程與應用,2005,41(35):210~212.

6 白云靜,申洪波,孟慶剛,等.基于人工神經網絡的中醫證侯非線性建模研究.中國中醫藥信息雜志,2007,14(7):3~4.

7 曹志峰. BP 神經網絡在臨床診斷中的應用與探討.實用醫技雜志,2005,12(9):2656~2657.

8 William G Baxt. Application of artificial neural networks to clinical medicine. The Lancet,1995,346(8983):1135~1138.

9 Ruth M.Ripley,Adrian L.Harris,Lionel Tarassenko.Non-linear survival analysis using neural networks. Statistics in medicine,2004,23(5):825~842.

10 David Faraggi,Richard Simon.A neural network model for survival data. Statistics in medicine,1995,14(1):73~82.

11 高蔚,聶紹發,施侶元,等.神經網絡在生存分析中的應用進展.中國衛生統計,2006,23(4):358~360.

12 Anny Xiang,Pablo Lapuerta, Alex Ryutov.Comparison of the performance of neural network methods and Cox regression for censored survival data.Computational statistics & data analysis,2000,34(2):243~257.

13 D.J.Groves,S.W.Smye,S.E.Kinsey.A comparison of Cox regression and neural networks for risk stratification in case of acute lymphoblastic leukaemia in children.Neural computing & applications,1999,8(3):257~264.

14 Lucila Ohno-Machado.A comparison of cox proportional hazards and artificial neural network models for medicial prognosis.Comput Biol Med,1997,27(1):55~65.

15 黃德生,周寶森,劉延齡,等.BP人工神經網絡用于肺鱗癌預后預測.中國衛生統計,2000,17(6):337~340.

16 賀佳,張智堅,賀憲民.肝癌術后無瘤生存期的人工神經網絡預測.數理統計與管理,2002,21(4):14~16.

17 黎衍云,李銳,張勝年.人工神經網絡及其在疾病篩查中的應用前景.環境與職業醫學,2006,23(1):71~73.

18 汪嵐,劉良.人工神經網絡的法醫學應用.中國法醫學雜志,2005,20(3):161~163.

篇9

摘要:旅游需求的預測預報研究一直是旅游學研究的一個重要課題。本文在對到訪澳門地區中國內地游客量分析的基礎上,運用人工神經網絡(ANN)的理論和方法,構建了ANN模型分析中的3層BP模型,以澳門近10年(1996-20__)入境來訪的中國內地旅游人數為例進行模型驗證,模擬結果表明,BP神經網絡預測的結果能夠高程度的吻合原始數據,在旅游市場預測中,BP神經網絡預測是一種有效的預測方法。一.問題的提出與分析近年來,對澳門地區的旅游業來說,中國內地旅客是旅游收入的主要來源。目前旅游業已成為澳門地區經濟發展特別是第二產業發展的支柱。建立科學的可操作的旅游預測模型是實現澳門地區旅游業持續健康穩定發展的理論基石和前提。由于影響某地旅游人數的因素各異,還不存在普遍適用的神經網絡模型。基于此,本文擬用3層BP神經網絡模型來仿真模擬分析和預測澳門地區旅游需求,以此為旅游需求預測提供一種新的方法。二.模型的假設與符號說明1.基本假設1)交通在旅游中通常不是重要的,為了研究的方便(主要是無法獲得交通數據),把交通這個影響忽略。2)假設澳門的接待能力都滿足需求。3)在本例旅游需求預測模型中,我們考慮的主要因素有:客源地的人口,客源地的總收入,客源地的消費水平,旅游目的地的生活水平。4)為了研究的方便,假定以上四因子之間相互獨立,本例旅游需求即為上述四因子的函數,即y=f(GDI,POP,GDE,M-GP)。就用這四個因素作為人工神經網絡模型輸入層的神經元。2.符號說明T澳門內地游客量GDI中國內地國民總收入POP中國內地人口總數GDE中國內地國民消費水平M-GP澳門生產總值三.模型的建立與求解1.人工神經網絡模型理論原理

人工神經網絡(ArtificialNeuralNetwork)是由大量的、簡單元件(神經元)廣泛相互聯結而成的非線性的、動態的復雜網絡信息處理系統,它是在現代神經學研究成果基礎上提出的,能模擬人腦的若干基本功能[1]。它具有并行分布的信息處理結構,可以通過“自學習”或“訓練”的方式完成某一特定的工作。它可以從積累的工作案例中學習知識,盡可能多地把各種定性或定量的因素作為變量加以輸入,從而建立各種影響因素與結論之間的高度非線性映射,采用自適應模式識別方法來完成預測工作[2]。人工神經網絡模型尤其是對處理內部規律不甚了解、不能用一組規則或方程進行描述的復雜的、開放的非線性系統顯得較為優越。人工神經網絡模型一般由處理單元、激活狀態、單元輸出、連接模式、激活規則、學習規則等6個部分組成。一個多層神經網絡中包含有很多個信息處理單元,分布于不同的層次中。根據每項輸入和相應的權重獲取一個綜合信號,當信號超過閾值則激活神經元而產生輸出。各類影響因素和最終輸出結果之間可以假定存在一種映射,即輸出結果=F(影響因素)。為了尋求最佳的映射關系F,將訓練樣本集合和輸入、輸出轉化為一種非線性關系,通過對簡單非線性函數的復合,從而建立一個高度的非線性映射關系F,最終實現輸出值的最優逼近[3]。在人工神經網絡的實際應用中,80~90的人工神經網絡是采用前饋反向傳播網絡(back-propagation-network,簡稱BP網絡)或它的變化形式。BP神經網絡(如圖一)是一種單項傳播的多層前向神經網絡,分為輸入層、隱含層和輸出層,層與層之間采用全連接方式,同一層單元之間不存在相互連接。它是前向網絡的核心部分,體現了人工神經網絡最精華的部分[4]。標準的BP網絡是根據W-H學習規則,采用梯度下降算法,對非線性可微函數進行權值訓練的多層網絡。圖一:BP神經網絡的每一層的權值通過學習來調節,其基本處理單元為非線性輸入-輸出關系,選用S型作用函數:其中:xj為該神經元第i個輸入;wij為前一層第i個神經元至該神經元j的連接權值,i=0時的權值為閾值。其計算步驟如下:(1)給定一組隨機的權值和閾值初始值及步長系數η與勢態因子α;(2)取學習樣本數據,根據學習樣本、權值及閥值計算輸出,并與學習期望輸出比較,當誤差滿足要求時結束訓練,否則將誤差向后逐層傳播,并修正各層連接權值,調整公式為:其中:k取j結點所在層的前一層所有結點。5)澳門內地旅客人數神經網絡模型的建立(一)BP網絡設計網絡設計是一個綜合性問題,它應滿足多種不同要求,例如,希望所涉及的網絡有較好的推理能力,易于硬件實現,訓練速度快等,其中有較好的推理能力是最主要的。一般來說,推廣能力決定于3個主要因素,即問題本身的復雜程度、網絡結構以及樣本量大小。在一般情況下,旅游需求預測研究中樣本的數量是一定的,因此可歸結為在樣本量一定的情況下,如何選擇網絡規模的問題。在進行BP網絡預測模型設計中,我們主要考慮以下因素:網絡的層數、每層中的神經元個數、初始值的選擇、學習速率和期望誤差。i)網絡的層數已證明:具有偏差和至少一個S型隱含層加上一個線性輸出層的網絡,能夠逼近任何有理函數。所以,本文選擇一個3層的BP網絡。ii)每層中神經元的個數輸入層和輸出層神經元的個數根據解決具體問題的復雜程度而定。為了提高網絡訓練的精度,可以通過采用一個隱含層,再加上1到2個神經元以加快誤差的下降速度即可。因此,本文輸入層神經元個數選擇為4個,隱含層神經元個數分別選擇了9、12、15個,輸出層神經元個數選擇為1個。iii)初始值的選擇由于人工神經網絡是一個非線性系統,初始值的選擇對于網絡學習是否達到局部最小、是否能夠收斂以及訓練時間的長短都有較大影響。在初始值的選擇上一般是使經過初始值加權后的每個神經元的輸出值都接近零,這樣可以保證每一個神經元的連接權值都能夠在它們的S型激活函數變化最大處進行調解。所以,初始值一般選擇在(-1,1)之間的隨機數。本文的初始值為默認值。iv)學習速率對于任何一個網絡都對應一個合適的學習速率。學習速率決定每一次循環訓練中所產生的權值的變化量。大的學習速率可以導致網絡的不穩定,但是小的學習速率又會導致訓練時間延長,收斂速度較慢,不能保證網絡的誤差能最終趨于最小。綜合上述考慮,在學習速率的選擇上傾向于選擇較小的學習速率以保證網絡的穩定性,本文選擇的學習速率為0.01。v)期望誤差值期望誤差值的確定也是通過網絡對不同誤差值分別進行訓練比較后確定的最適合值。所謂的最適合值是相對于所需要的隱含層的節點數來確定的,一個較小的誤差值的獲得需要增加隱含層的節點以及訓練時間。本文經過不斷測試,選擇0.0001為期望誤差值。(二)1.網絡訓練模式的選擇訓練網絡有兩類模式:逐變模式和批變模式。在逐變模式中,每一個輸入被作用于網絡后,權重和偏置量被更新一次。在批變模式中,所有的輸入被應用于網絡后,權重和偏置量才被更新 一次。使用批變模式不需要為每一層的權重和偏置量設定訓練函數,而只需為整個網絡制定一個訓練函數,使用起來相對方便,因此,本文在進行網絡訓練時采用批變模式。表格一:年度

澳門的內地游客量(T)(千人)中國內地國民總收入(GDI)(億元)中國內地人口數(POP)(萬人)中國內地居民消費水平(GDE)(元)澳門生產總值(M-GP)(億美元)1996604.270142.5122389278966.31997529.877653.1123626300266.71998816.883024.3124761315961.919991645.288189.0125786334659.220__2274.798000.5126743363261.020__3005.7108068.2127627386961.920__4240.4119095.7128453410668.220__5742.0135174.0129227441179.220__9529.7159586.71299884925103.320__10463183956.11307565439115.62.數據和模型的建立神經網絡模型要求數據具有:A、易獲得性B、可靠性C、可測度性。本項研究采用很可靠的官方發表的數據作為分析的數據源(見表1),主要來自于中國統計局網。用3層BP網絡模型對本例旅游需求進行模擬,根據BP網絡的映射原理,對于樣本集合X和輸出Y,可以假設存在一映射F。為了尋求F的最佳映射值,BP網絡模型將樣本集合的輸入、輸出轉化為非線性優化,通過對簡單的非線性函數的復合,建立一個高度的非線性映射關系,實現F值的最優逼近。對于本例旅游需求模型的模擬:其輸入層結點數(4個神經元):中國內地國民總收入(GDI)、中國內地人口總數(POP)、中國內地國民消費水平(GDE)、澳門生產總值(M-GP)。把澳門內地游客量(T)作為輸出結點。從而得出3層前饋反向傳播神經網絡模型。四.模型結果及分析1網絡訓練性能的檢查。不同個數的隱層單元組成的BP網絡訓練曲線如圖1,2,3所示。通過比較發現,中間層神經元個數為9和12時,網絡的收斂速度比較快。2網絡預測性能的考查。在數據列表中選取1996年到20__年的數據作為網絡的測試數據。20__、20__年的(文秘站:)游客量檢驗誤差曲線如圖4。其仿真結果令人滿意,達到預期的效果。圖1圖2圖3圖4五.模型的應用與評價(優缺點與改進)從上面的分析可以看出,3層BP神經網絡模型的仿真模擬效果是鄰人滿意的??梢钥闯觯斯ど窠浘W絡的擬合精度比較高,主要是基于人工神經網絡抗干擾能力強,穩定性好,能自動準確地找出各種輸入和輸出之間的線性或非線性關系,具有較強的模擬適應能力等特點。在本例對于澳門的內地游客量的旅游預測中BP神經網絡模型是一種有效的預測方法。這一研究方法為旅游學的定量預測研究提供了一種新的思路,也為工程實踐問題中的一些研究工作提供了一種非常好的指導方法。雖然BP網絡得到了廣泛應用,但其自身也存在一些缺陷和不足,主要包括幾個方面的問題。首先,由于學習速率是固定的,因此,網絡的收斂速度慢,需要較強的訓練時間。再次,網絡隱含層的層數和單元數的選擇尚無理論上的指導,一般是根據應驗或者通過反復試驗確定的。因此,網絡往往存在很大的冗余性,在一定上也增加了網絡學習的負擔。六.原題附帶問題簡析通過對本例旅游需求模型的分析,我們認為在利用數學建模的方法對旅游需求進行預測預報時,對于數據的采集和整理工作需要認真做好。對于數據的分析有助于我們尋求變量間的關系,以形成初步的想法。如何獲得數據以及如何獲得準確的數據對于我們研究實際問題具有相當重大的意義。收集數據并非多多益善,而是要弄清究竟需要哪些數據,剔除不必要的數據,從而減少冗余的工作。同時,需要什么形式的數據也是我們應該思考的一個問題,這與建立模型的目的和所選擇的模型的特點有關。[參考文獻][1]王士同,等.問題求解的人工智能:神經網絡方法[M].北京:氣象出版社,1995.[2]HillT,MarquezO’connorM,RemusW.ArtificialNeuralNetworkMedelsfor

ForecastingandDecisionMaking[J].InternationalJournalofForecasting,1993,

篇10

[關鍵詞]多目標決策;BP神經網絡;礦產資源;綜合開發利用評價

礦產資源綜合開發利用評價是一個典型的多目標決策問題,應用多目標決策的有關技術進行方案的排序選優,能較好地解決多方案的優化問題。關鳳峻根據給出的多個綜合開發利用方案,采用的層次評價方法,建立評價體系并采用理想點法進行排序,選出最優方案。宋光興等人改進了理想點法中權重的確定方式,利用熵技術法確定礦產資源綜合開發利用的評價指標的權重,并得出了排序選優的最終結果。李學全等人提出了一種灰色關聯度線性加權和方法,是解決礦產資源綜合開發利用評價問題的一個有益的嘗試。周科平提出了一種新的多屬性決策法,有效解決了主觀確定的權重不精確的缺點。陳林、曹樹剛采用博弈論分析框架中混合策略情況下應用最優化方法,尋求混合策略Nash均衡的最優化點,作為多指標決策問題的優選方案。

礦產資源綜合開發利用評價中權重的確定是一個關鍵,采用BP人工神經網絡技術構建的非線性評價模型對礦產資源的綜合利用水平進行評價,可避免人為確定各指標的權重帶來的主觀性。本文試采用BP人工神經網絡方法對礦產資源綜合開發利用各個方案做出評價,并把評價結果與其他方法作比較,以驗證方法的可靠性。

1數據來源以及研究方法

1.1數據來源

(1)數據來源于參考文獻三篇論文的舉例部分,某鐵金礦經研究設計得出9個方案。

(2)將數據進行歸一化處理,將每一列的數字xi代入歸一化公式x*i=[SX(]ximaxxi′[SX)]

即每一指標數據除以各自指標中的最大值,將數據劃歸在[0,1]范圍之內。

1.2研究方法

BP人工神經網絡簡介:人工神經網絡是將大量簡單的神經元廣泛連接而成,用以模擬人腦思維方式的復雜網絡系統,具有自組織、自適應、自學習和容錯性等特點,被廣泛應用于模式識別、圖像處理、自適應控制等領域。由于礦產資源綜合利用水平評價系統是一個多層次、多因素的復雜系統,采用BP人工神經網絡技術構建的非線性評價模型對礦產資源的綜合利用水平進行評價和識別可避免人為確定各指標的權重帶來的主觀性,提高評價結果的準確性。

2運用BP人工神經網絡對礦產資源綜合開發方案進行評價

運用matlab環境下的BP網絡模塊,我們將經濟發展水平分級指標作為樣本輸入,評價級別作為網絡輸出BP網絡通過不斷學習修改權重,找出評價指標與評價級別間的內在對應關系,利用此網絡模型進行經濟發展水平的綜合評價。

第一、評價指標體系的建立。以某銅鐵礦設計方案為例建立評價體系。參考其他人的研究成果及數據的可獲取性,選取5項指標,分別為鐵選礦回收率(%)、金選礦回收率(%)、產值利潤率(%)、成本利潤率(%)、噸礦利潤(元/噸)。

第二、網絡模型的構建。選取以上5項指標作輸入神經元,輸出神經元為銅鐵礦的綜合開發利用水平,構建神經網絡,采用等間距的線性內插方法,對已經歸一化了的數據進行等級劃分,構建人工神經網絡的訓練數據(見表1),并將銅鐵礦的綜合開發利用水平分為3級,3代表綜合開發利用水平高,2代表綜合開發利用水平中等,1代表綜合開發利用水平低。

據此構建5×1×1的神經網絡結構,其中隱含層神經元為3個,輸出層神經元1個。網絡設計的參數為:網絡初始值為[0,1]之間的隨機數,基本學習速率0.1;網絡訓練的終止參數為:最大訓練批次為10000次,最大誤差為0.01。網絡訓練達標后,將表1中的原始數據歸一化后輸入網絡,得出銅鐵礦的綜合開發利用水平的BP估計值。

表2表明,方案8的綜合開發利用水平BP值最大,是諸方案中最優的;方案7的綜合開發利用水平次之,為次優方案;方案1的綜合開發利用水平BP值最小,是諸方案中最差的。

3與基于理想點法評價模型計算得到的結果相比較

3.1理想點法簡介

理想點法是屬于多屬性效用理論的多目標決策方法,它最基本的思想是依據“綜合效用值”進行方案排序選優。其效用值的計算是用理想點法中的“距離值”的計算方法而得。通過選取各個目標中的最優值構成一個多目標的理想方案(也稱為理想點),并以目標空間中,各方案與理想方案的距離值來度量各方案的優劣。距離越小表示方案目標值越接近理想方案的目標點。這樣依距離值的大小來排列方案的優劣順序,距離越小,方案越優。

以下兩表格分別為基于層次評價方法與基于熵值法確定權重的理想點法得到的礦產資源綜合開發利用評價結果。

3.2各評價模型所得結果比較

將礦產資源綜合開發利用水平的BP值排序情況(表2)分別與基于層次方法和基于熵值法確定權重的理想點法(表3)得到的優方案排序相比較。采用BP人工神經網絡計算得到的結果與采用熵值確定權重的理想點法得到的結果相同;BP值法計算的結果中最好的三個方案分別為方案8、方案7、方案9,與層次理想點法的結果相同,不同之處僅僅存在于方案1與方案2,方案5與方案6,他們的排名也十分接近。這充分說明采用BP人工神經網絡方法對礦產資源的綜合開發利用進行評價是可行的。此外,由于運用matlab軟件可以輕易地實現BP神經網絡運算,這種方法在處理大量數據方面還有著獨特的優越性。