人工神經(jīng)網(wǎng)絡(luò)的特點有哪些?

人工神經(jīng)網(wǎng)絡(luò)的特點有哪些?

????? 近些年來神經(jīng)網(wǎng)絡(luò)在眾多領(lǐng)域得到了廣泛的運用。在民用應(yīng)用領(lǐng)域的應(yīng)用，如語言識別、圖像識別與理解、計算機視覺、智能機器人故障檢測、實時語言翻譯、企業(yè)管理、市場分析、決策優(yōu)化、物資調(diào)運、自適應(yīng)控制、專家系統(tǒng)、智能接口、神經(jīng)生理學(xué)、心理學(xué)和認知科學(xué)研究等等；在軍用應(yīng)用領(lǐng)域的應(yīng)用，如雷達、聲納的多目標(biāo)識別與跟蹤，戰(zhàn)場管理和決策支持系統(tǒng)，軍用機器人控制各種情況、信息的快速錄取、分類與查詢，導(dǎo)彈的智能引導(dǎo)，保密通信，航天器的姿態(tài)控制等。

人工神經(jīng)網(wǎng)絡(luò)模型具有并連結(jié)構(gòu)、容錯性、非線性映射等特征，近年來已在河道水流模擬及平面二維流場計算中得到一定的應(yīng)用和發(fā)展。Y.B.Dibike，D.Olomatne ＆M.B.Abbott[1]將神經(jīng)網(wǎng)絡(luò)理論與水動力學(xué)模型結(jié)合，利用水動力學(xué)模型為神經(jīng)網(wǎng)絡(luò)提供網(wǎng)絡(luò)學(xué)習(xí)樣本，再用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)對重要河段航深、二維流場中重要位置的水流運動(包括水位、流速、流向以及流量等要素)進行預(yù)測，取得了令人鼓舞的結(jié)果。神經(jīng)網(wǎng)絡(luò)模型和水動力模型的有機結(jié)合避免了水動力學(xué)模型計算量大、計算速度慢難以滿足實時預(yù)報的要求等問題，同時利用水動力學(xué)模型給神經(jīng)網(wǎng)絡(luò)提供訓(xùn)練樣本，彌補了神經(jīng)網(wǎng)絡(luò)在重要河段和區(qū)域缺乏資料而應(yīng)用受到局限的困難。楊榮富、丁晶和劉國東[2]將流域概化為若干個水庫，利用水量平衡和非線性水庫原理與神經(jīng)網(wǎng)絡(luò)結(jié)合，對英國Irwell流域的Salford大學(xué)控制站的徑流及以上6個降雨站的觀測資料進行了模擬，模型對流域的日和月徑流時序變化模擬效果較好，對洪水過程模擬尚需進一步的研究。盡管如此，神經(jīng)網(wǎng)絡(luò)理論在河網(wǎng)水沙運動模擬方面還幾乎是空白。目前用于各類模擬及預(yù)報的神經(jīng)網(wǎng)絡(luò)模型普遍存在網(wǎng)絡(luò)內(nèi)部參數(shù)物理概念不明確，隱層結(jié)構(gòu)難以確定等問題。

　　人工神經(jīng)網(wǎng)絡(luò)與河網(wǎng)在結(jié)構(gòu)上具有許多相似之處，兩者都是由各個內(nèi)部結(jié)構(gòu)通過并聯(lián)或串聯(lián)形成一個相互制約的整體網(wǎng)絡(luò)結(jié)構(gòu)。通過調(diào)整系統(tǒng)內(nèi)部各個“神經(jīng)元”之間的相互作用達到系統(tǒng)輸入、輸出之間的最優(yōu)或平衡，即可達到運用神經(jīng)網(wǎng)絡(luò)模擬復(fù)雜河網(wǎng)水沙運動的目的。

1 一般河網(wǎng)概化

　　天然河網(wǎng)水系十分復(fù)雜，河流湖泊眾多。根據(jù)問題研究的需要、河道湖泊之間的相互關(guān)系以及計算的需要，對河網(wǎng)可以作不同的概化，本文對河網(wǎng)的概化主要目的是滿足建立具有河網(wǎng)水沙運動特點人工神經(jīng)網(wǎng)絡(luò)模型的要求。

　　(1)將河網(wǎng)概化為不同非線性水庫相互連接而成的網(wǎng)絡(luò)結(jié)構(gòu)。

　　(2)水系中各個水源、沙源(如上游進入河網(wǎng)的來水來沙)作為模型的輸入，水系需要預(yù)測站點的水流、泥沙運動過程作為模型的輸出。

　　(3)每層水庫之間相互有關(guān)連(如自然狀態(tài)下某個上下層之間不存在水流或泥沙交換關(guān)系，則在網(wǎng)絡(luò)優(yōu)化中連接權(quán)賦0，這樣處理既能較好地反映河網(wǎng)的水沙運動特性，又能滿足人工神經(jīng)網(wǎng)絡(luò)模型的要求)，而處于同一層的水庫沒有水沙交換。

　　(4)第一層節(jié)點只是簡單地將河網(wǎng)輸入量輸入到下一節(jié)點，節(jié)點沒有水量調(diào)蓄作用也沒有泥沙量的變化；中間各層節(jié)點存在水量調(diào)蓄作用并且存在泥沙沖淤變化，而最后一層接受上一層各水庫的來水來沙，模擬結(jié)果作為整個網(wǎng)絡(luò)的輸出值。

　　(5)非線性水庫的出流與水庫蓄水量之間為非線性關(guān)系，對于每一水庫水量及整個河網(wǎng)總水量保持守恒。

　　(6)水庫的輸沙與水庫“蓄沙”之間為非線性關(guān)系。對于每一水庫泥沙總量及整個河網(wǎng)總沙量保持守恒。

　　在上述概化條件下，整個河網(wǎng)由河網(wǎng)水源或沙源的輸入、河網(wǎng)內(nèi)部相互串聯(lián)和并聯(lián)而成的水庫、河網(wǎng)輸出三部分構(gòu)成；第一層和最后一層節(jié)點的輸入輸出為簡單的線性關(guān)系；利用節(jié)點輸水輸沙平衡方程和整個河網(wǎng)泥沙和水量守恒關(guān)系保證各個節(jié)點和整個河網(wǎng)沙量、水量守恒。

2 具有河網(wǎng)水沙特點的人工神經(jīng)網(wǎng)絡(luò)模型

　　傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)模型是一種簡單的非線性系統(tǒng)模型，通過誤差反傳自動調(diào)整網(wǎng)絡(luò)內(nèi)部連接權(quán)向量，達到系統(tǒng)輸入、輸出之間的響應(yīng)。有許多自然現(xiàn)象就屬于這類簡單的關(guān)系。例如電力負荷變化與天氣變化、工業(yè)狀況等因素之間的關(guān)系；年徑流量受年降雨量和年蒸發(fā)量的影響；短時段河段出流主要取決于河段進流、區(qū)間匯流等。

　　然而，大多數(shù)情況下的系統(tǒng)輸出不僅依賴于當(dāng)時或前期的輸入量，同時也取決于系統(tǒng)的狀態(tài)。如在河道發(fā)生較大的沖淤變形時，其輸出不僅依賴于系統(tǒng)的輸入量，同時還決定于系統(tǒng)所處的狀態(tài)即河道沖淤情況。在這樣的情況下，用傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)來模擬系統(tǒng)的輸入輸出關(guān)系比較困難。另外，傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)模型是一個“黑箱”模型，內(nèi)部參數(shù)沒有物理意義，也很難找出參數(shù)與模型輸出向量之間的關(guān)系。因此，用神經(jīng)網(wǎng)絡(luò)理論來模擬河網(wǎng)水流泥沙運動時，不能簡單地利用BP算法，還應(yīng)考慮河網(wǎng)內(nèi)各個部分以及整個河網(wǎng)的水量沙量守恒。在概化的河網(wǎng)模型中，每一節(jié)點以及整個河網(wǎng)都應(yīng)滿足水量沙量守恒方程。

　　水流連續(xù)方程：

式中：,i為第k層第i個“水庫”的蓄水量；Qki為第k層“水庫”第i個水源出流量；為第k層“水庫”第j個水源進入第k+1層第i水庫的份額，即相應(yīng)權(quán)重；T為時間；N為進入第k+1層水庫的水源數(shù)。

　　泥沙連續(xù)方程：

式中：VKs,i為第k層第i個“水庫”的泥沙沖淤量；Vki為第k層“水庫”第i個水源出沙量；為第k層“水庫”第j個沙源進入第k+1層第i水庫的份額，即相應(yīng)權(quán)重；S為含沙量。

　　上述兩方程的通用形式可寫為：

式中：,,.

　　式(3)的差分形式為：

則T+1時刻K+1層第i水庫的相互物理量的變化為：

　　一般情況下，水庫或河道水系由于邊界條件或其他外界條件的改變常常引起水流形態(tài)和泥沙輸移規(guī)律的改變，這種改變往往會引起河道和水庫的輸沙不平衡，水庫或河道發(fā)生沖淤變形，從而又導(dǎo)致水流運動和泥沙輸移規(guī)律的改變。這種水沙規(guī)律的變化以泥沙為“紐帶”，在輸沙平衡與不平衡之間交替變化。因此，水庫出流量和水庫輸沙量應(yīng)該還要考慮河道沖淤等因素的影響。如以水庫累計沖淤量近似表示水庫的地形，則水庫出流表示為：

同樣，水庫每個節(jié)點的泥沙輸出為輸入沙量、水庫地形等因素的函數(shù)，表示為：

其中：

　　當(dāng)水庫沖淤變形不很明顯時，水庫出流可以認為是水庫蓄水量的非線性函數(shù)，即T時刻的水庫出流量與水庫蓄水量之間的關(guān)系式為：

　　同樣，水庫沖淤不很明顯的條件下，水庫排沙量也可以認為是水庫來沙量的非線性函數(shù)，即T時刻的水庫輸沙量與水庫來沙之間的關(guān)系為：

　　設(shè)網(wǎng)絡(luò)第k各層節(jié)點數(shù)為NK，K為網(wǎng)絡(luò)總層數(shù)，對第一層節(jié)點，其輸入輸出關(guān)系表示為：

式中：φin、φ1i分別為第一層節(jié)點輸入和輸出量；Wi,j為該層第i節(jié)點與下層第j節(jié)點之間的連接權(quán)；N2為第二層節(jié)點的個數(shù)。

　　對河網(wǎng)內(nèi)部第k+1層節(jié)點，輸入輸出關(guān)系為：

式中φkj,in為K層第j節(jié)點的輸入量。

　　對輸出層輸出節(jié)點，輸入輸出關(guān)系為：

　　由水沙連續(xù)方程和水庫排水排沙方程一起組成具有河網(wǎng)特點的神經(jīng)網(wǎng)絡(luò)模型。盡管本文所建立的模型在結(jié)構(gòu)和算法上與傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和算法有許多相似之處，但神經(jīng)網(wǎng)絡(luò)理論與水沙守恒方程的有機結(jié)合形成的具有河網(wǎng)水沙運動特點的神經(jīng)網(wǎng)絡(luò)模型在許多方面有其本身的特點：

　　(1)考慮水沙的相互作用。水沙非耦合神經(jīng)網(wǎng)絡(luò)模型為泥沙神經(jīng)網(wǎng)絡(luò)模型和水流神經(jīng)網(wǎng)絡(luò)模型組成的整體模型。泥沙模型中各個節(jié)點在相同輸入條件下其輸出并不一定相同，受節(jié)點沖淤變化的影響；水流模型中的各個節(jié)點的輸出同樣受河床累積沖淤量的影響，而此時的河床累積沖淤量必須由泥沙模型得到。

　　(2)網(wǎng)絡(luò)結(jié)構(gòu)合理。由于人工神經(jīng)網(wǎng)絡(luò)與河網(wǎng)在結(jié)構(gòu)上相似，可按照河網(wǎng)的復(fù)雜程度、模擬需要的精度以及現(xiàn)有河網(wǎng)的數(shù)據(jù)資料先確定模型網(wǎng)絡(luò)，然后再結(jié)合網(wǎng)絡(luò)計算需要對網(wǎng)絡(luò)結(jié)構(gòu)進行一定的修改。這樣既可以滿足神經(jīng)網(wǎng)絡(luò)計算要求，也能在一定程度上反映河網(wǎng)水系之間的相互關(guān)系。在本文所建立的水沙非耦合模型中，網(wǎng)絡(luò)結(jié)構(gòu)的確定必須同時滿足水流和泥沙模型的要求，即兩模型在結(jié)構(gòu)上既要相同，又要符合兩者各自的要求。

圖1 長江中游概化簡圖

　　(3)網(wǎng)絡(luò)結(jié)構(gòu)內(nèi)部參數(shù)的物理意義明確。傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)內(nèi)部節(jié)點之間的關(guān)系是一個“黑盒”，內(nèi)部參數(shù)的物理意義模糊；而本文所建模型中的參數(shù)具有明確的物理含義，上下層之間的連接實質(zhì)上反映了上層節(jié)點向下層節(jié)點輸入的水量或沙量，即上層對下層節(jié)點的影響大小。

　　(4)對每個節(jié)點以及整個河網(wǎng)保證水量和沙量的守恒。傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)每個節(jié)點只考慮了其非線性作用，未考慮節(jié)點以及整個河網(wǎng)的物質(zhì)是否守恒。本文模型從水流和泥沙連續(xù)方程出發(fā)，建立的模型反映了水流泥沙運動的客觀規(guī)律。

　　(5)在本模型中，蓄水量及淤積量和輸出水沙量隨上下游條件不斷變化，這種變化可以較好地反映河網(wǎng)水沙運動中邊界條件的變化對網(wǎng)絡(luò)輸入與輸出的影響，避免了傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)模型難以考慮系統(tǒng)狀態(tài)影響的缺陷。當(dāng)河道或水庫淤積量增加，可通過自動調(diào)整來調(diào)節(jié)河道的水沙輸出量，如果不考慮這種影響，在同樣進流進沙條件下，其產(chǎn)生同樣的出流和出沙，這都會過高或過低估計出流出、出沙。

　　(6)若不考慮水庫蓄水量和排沙量隨時間的變化，則模型與傳統(tǒng)BP網(wǎng)絡(luò)相一致。

3 模型應(yīng)用實例 3.1 長江中游荊江和洞庭湖河網(wǎng)區(qū)概況 洞庭湖平原區(qū)位于長江中游荊江河段南岸，北面有松滋、太平、藕池三口分泄長江洪水進入湖區(qū)，西南有湘、資、沅、澧四水入?yún)R，洪水經(jīng)過湖區(qū)調(diào)峰后經(jīng)洞庭湖出口城陵磯注入長江干流。洞庭湖經(jīng)過長期演變已由原來的八百里洞庭演變成為今天的東洞庭、南洞庭、西洞庭以及與之相連的縱橫交錯的洪道(如圖1所示).洞庭湖流域是一個以洞庭湖為中心，從四面八方向中央?yún)R流的輻射狀河網(wǎng)，不同水系有不同的地貌和氣象特征，洪水組成及遭遇非常復(fù)雜，洪水歷時特別長，最早出現(xiàn)在3月，遲者可至10月，主汛期一般為5～8月。這種錯綜復(fù)雜的洪水遭遇，互相頂托，使不同來源的洪水在交匯處產(chǎn)生壅積，水位異常抬高，大大加劇了局部地區(qū)洪災(zāi)的威脅。為了充分反映四水不同的來水來沙過程對洞庭湖區(qū)水沙運動變化的影響，在模型中必須將四水作為四個不同的獨立影響因子，分別作用于河網(wǎng)區(qū)。另外，為了將水流網(wǎng)絡(luò)結(jié)構(gòu)和泥沙網(wǎng)絡(luò)結(jié)構(gòu)相互配套，文中將區(qū)間匯流按比例分配給四水來水。

圖2 長江中游網(wǎng)絡(luò)概化模型

　　從荊江洞庭湖區(qū)水流泥沙運動特點和河道蓄水垸的特征將荊江洞庭湖區(qū)劃分為8個相互聯(lián)系的區(qū)域以及湘、資、沅、澧4個洪道區(qū)域(如圖2所示).這12個區(qū)域分別為：區(qū)域Ⅰ：松滋河(包括東、西兩支)、大湖口河、自治局河、管垸河、虎渡河水系；區(qū)域Ⅱ：藕池河的西、中兩支水系；區(qū)域Ⅲ：藕池河的東支水系；區(qū)域Ⅳ～Ⅵ分別為：西洞庭湖(目平湖)水系、南洞庭湖水系、東洞庭湖水系；區(qū)域Ⅶ：枝江～藕池口河段；區(qū)域Ⅷ：藕池口～螺山河段；區(qū)域Ⅸ～Ⅻ分別為：湘、資、沅、澧4個洪道區(qū)域。

3.2 模型結(jié)構(gòu) 由上述荊江及洞庭湖區(qū)基本情況分析可知：荊江及洞庭湖區(qū)是由區(qū)域Ⅰ～Ⅻ等12個區(qū)域通過串聯(lián)或并聯(lián)而成的相互聯(lián)系的整體網(wǎng)絡(luò)結(jié)構(gòu)，河網(wǎng)區(qū)的輸入輸出就是通過這些區(qū)域的相互調(diào)節(jié)達到匹配。在不影響河網(wǎng)基本地理及水流特征的條件下，按照神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)要求對前文所分區(qū)域進行適當(dāng)?shù)恼{(diào)整，如將區(qū)域Ⅸ～區(qū)域Ⅻ分為上下兩部分以及將區(qū)域Ⅷ分為三部分等。神經(jīng)網(wǎng)絡(luò)節(jié)點與河網(wǎng)區(qū)域之間的對應(yīng)關(guān)系如表1.

　　根據(jù)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)要求，上下各個節(jié)點之間相互有聯(lián)系。但從物理意義上來看，河網(wǎng)上下區(qū)域并不是都有必然聯(lián)系。因此，本文將上下區(qū)域沒有必然聯(lián)系的點之間的權(quán)重強加為0，這樣使模型既滿足神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的要求，又符合河網(wǎng)水流運動規(guī)律。如區(qū)3除與區(qū)11有水量交換外，與第三層其余節(jié)點之間沒有水量交換，故在模型中可以賦0.另外為簡化起見，三口來流合并為一個來流，故荊江與洞庭湖之間的關(guān)系可以概化為與圖2相似的網(wǎng)絡(luò)模型。

　　由概化模型結(jié)構(gòu)圖可知，本文用來模擬洞庭湖水流運動的網(wǎng)絡(luò)為一個6層網(wǎng)絡(luò)結(jié)構(gòu)。第1層為6個節(jié)點，分別代表宜昌+清江來流、四水來流；第2層～第5層為模型隱層，分別有6、7、3、2個節(jié)點；第6層為1個節(jié)點，代表螺山出流。

從神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)要求來看，神經(jīng)網(wǎng)絡(luò)輸入節(jié)點數(shù)為影響輸出變量的個數(shù)，輸出變量的數(shù)即為輸出節(jié)點的個數(shù)。而隱單元數(shù)的選擇是一個十分復(fù)雜的問題，往往根據(jù)設(shè)計得的經(jīng)驗和試驗來確定，因而沒有一個很好的解析式來表示?？梢哉f隱單元數(shù)與問題的要求、輸入輸出單元的多少都有直接關(guān)系。隱單元數(shù)太多導(dǎo)致學(xué)習(xí)時間過長，誤差不一定最佳；隱單元太少，容錯性差，不能識別以前沒有看到的樣本。隱單元的選取決定了網(wǎng)絡(luò)性能的好壞，因此就存在一個隱單元數(shù)的選取問題。文獻[3]提供了隱層節(jié)點數(shù)參考公式；式中：m為輸出神經(jīng)元數(shù)，n為輸入單元數(shù)，a為1～10之間的常數(shù)。

　　由此可見，本文采用6層隱層、隱層節(jié)點數(shù)同時，也符合網(wǎng)絡(luò)結(jié)構(gòu)的要求。鑒于人工神經(jīng)網(wǎng)絡(luò)與河網(wǎng)在結(jié)構(gòu)上相似，將神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)確定方法同河網(wǎng)本身的水系結(jié)構(gòu)有機聯(lián)系起來共同確定網(wǎng)絡(luò)結(jié)構(gòu)，可以大大節(jié)省工作量，給網(wǎng)絡(luò)結(jié)構(gòu)的確定提供了一種新的方法。

表1 模型節(jié)點與河網(wǎng)區(qū)域之間的對應(yīng)關(guān)系

2.3 城陵磯水沙過程模擬 本文利用洞庭湖1981年～1983年及1984年宜昌、四水以及螺山出口日平均水流資料，區(qū)間匯流資料根據(jù)資料用區(qū)間匯流與三口四水來流總量的比值確定。1981～1983年資料作為模型率定資料，1984年作為檢驗資料。為了防止部分神經(jīng)元達到過飽和，對以上資料進行了規(guī)格化處理。

　　荊江和洞庭湖之間的演變關(guān)系是通過三口分流分沙作為紐帶，三口分流分沙變化對荊江和洞庭湖的水沙變化起著關(guān)鍵性的作用。因此，模型要比較好地反映荊江和洞庭湖的演變發(fā)展，在模型訓(xùn)練過程中必須充分、正確地反映三口分流分沙變化規(guī)律。圖3為1984年計算流量過程與實測流量過程比較。由圖可知：用本文所建立的河網(wǎng)水情預(yù)報模型來模擬1984年流量過程時，模型模擬的流量過程基本上與實測流量過程變化一致，平均誤差小于3%，最大誤差小于6%.因此，本文所建立的河網(wǎng)預(yù)報模型基本上能夠反映河網(wǎng)水流變化規(guī)律。

圖3 計算與實測量過程比較	圖4 計算與實測輸沙量比較

　　本文用洞庭湖1954年～1988年三口、四水以及城陵磯出口年平均輸沙量資料，來率定網(wǎng)絡(luò)各個連接權(quán)重。由于洞庭湖區(qū)多年情況淤積率保持在74%左右，各個湖區(qū)淤積率也基本未發(fā)生大的變化，可以認為洞庭湖區(qū)的淤積對湖區(qū)泥沙淤積速率影響不大。圖4為1954～1988年35年城陵磯計算輸沙量過程與實測過程比較結(jié)果。

　　由圖4可見，計算結(jié)果與實測結(jié)果誤差在要求的范圍之內(nèi)，能夠較好地反映城陵磯輸沙過程，表明本文建立的具有河網(wǎng)水沙運動特點的神經(jīng)網(wǎng)絡(luò)模型能夠用于洞庭湖區(qū)泥沙輸移規(guī)律的分析和模擬。

4 結(jié)論

　　河網(wǎng)水沙運動復(fù)雜，傳統(tǒng)水動力學(xué)數(shù)值方法在模擬河網(wǎng)水沙運動時很難達到實時預(yù)報的要求，對河網(wǎng)地形資料較缺乏的情況應(yīng)用也比較困難。由于河網(wǎng)結(jié)構(gòu)與神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)相似，其輸入輸出關(guān)系也基本一致，因此用神經(jīng)網(wǎng)絡(luò)能夠較好地模擬河網(wǎng)水沙運動狀態(tài)。鑒于傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)模型存在網(wǎng)絡(luò)結(jié)構(gòu)確定困難、內(nèi)部節(jié)點參數(shù)物理意義不明確等缺點，本文從水沙運動的連續(xù)方程和槽蓄方程出發(fā)，建立了能反映水沙基本規(guī)律，內(nèi)部節(jié)點物理意義清楚的河網(wǎng)神經(jīng)網(wǎng)絡(luò)模型。利用所建模型對長江中游水沙運動宏觀規(guī)律進行模擬，模擬結(jié)果表明本文模型能夠較好地反映客觀水沙輸移規(guī)律。