用于英文字母識別的三種人工神經(jīng)網(wǎng)絡(luò)的設(shè)計

摘要分別采用單層感知器、BP網(wǎng)絡(luò)和霍普菲爾德網(wǎng)絡(luò)三種神經(jīng)網(wǎng)絡(luò)對26個英文字母進(jìn)行識別，通過實驗給出各網(wǎng)絡(luò)的識別出錯率，從中可以看出三種人工神經(jīng)網(wǎng)絡(luò)各自的優(yōu)缺點，為選擇神經(jīng)網(wǎng)絡(luò)進(jìn)行字符識別提供了一定的依據(jù)。

1引言

人工神經(jīng)網(wǎng)絡(luò)是在人類對其大腦神經(jīng)網(wǎng)絡(luò)認(rèn)識理解的基礎(chǔ)上人工構(gòu)造的能夠?qū)崿F(xiàn)某種功能的神經(jīng)網(wǎng)絡(luò)。代寫論文 它是理論化的人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型，是基于模仿大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng)。因其自組織、自學(xué)習(xí)能力以及具有信息的分布式存儲和并行處理，信息存儲與處理的合一等特點得到了廣泛的關(guān)注，已經(jīng)發(fā)展了上百種人工神經(jīng)網(wǎng)絡(luò)。

一般來說，人工神經(jīng)網(wǎng)絡(luò)從結(jié)構(gòu)上可分為兩種:前向網(wǎng)絡(luò)和反饋網(wǎng)絡(luò)。典型的前向網(wǎng)絡(luò)有單層感知器、BP網(wǎng)絡(luò)等，反饋網(wǎng)絡(luò)有霍普菲爾德網(wǎng)絡(luò)等[1]。

人工神經(jīng)網(wǎng)絡(luò)已經(jīng)被廣泛應(yīng)用于模式識別、信號處理、專家系統(tǒng)、優(yōu)化組合、智能控制等各個方面，其中采用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行模式識別具有一些傳統(tǒng)技術(shù)所沒有的優(yōu)點:良好的容錯能力[2j、分類能力、并行處理能力和自學(xué)習(xí)能力，并且其運行速度快，自適應(yīng)性能好，具有較高的分辨率。單層感知器、BP網(wǎng)絡(luò)和霍普菲爾德網(wǎng)絡(luò)均可以用于字符識別。

本文通過具體采用感知器網(wǎng)絡(luò)、BP網(wǎng)絡(luò)和霍普菲爾德反饋網(wǎng)絡(luò)對26個英文字母進(jìn)行識別的應(yīng)用，通過實驗給出各自的識別出錯率，通過比較，可以看出這3種神經(jīng)網(wǎng)絡(luò)的識別能力以及各自的優(yōu)缺點。

2 字符識別問題描述與網(wǎng)絡(luò)識別前的預(yù)處理

字符識別在現(xiàn)代日常生活的應(yīng)用越來越廣泛，比如車輛牌照自動識別系統(tǒng)[3，4]，手寫識別系統(tǒng)[5]，辦公自動化等等[6]。代寫畢業(yè)論文 本文采用單層感知器、BP網(wǎng)絡(luò)和霍普菲爾德網(wǎng)絡(luò)對26個英文字母進(jìn)行識別。首先將待識別的26個字母中的每一個字母都通過長和寬分別為7×5的方格進(jìn)行數(shù)字化處理，并用一個向量表示。其相應(yīng)有數(shù)據(jù)的位置置為1，其他位置置為O。圖1給出了字母A、B和C的數(shù)字化過程，其中最左邊的為字母A的數(shù)字化處理結(jié)果所得對應(yīng)的向量為:IetterA~「00100010100101010001111111000110001〕’，由此可得每個字母由35個元素組成一個向量。由26個標(biāo)準(zhǔn)字母組成的輸人向量被定義為一個輸人向量矩陣alphabet，即神經(jīng)網(wǎng)絡(luò)的樣本輸人為一個35×26的矩陣。其中alphabet=[letterA，letterB，lettere，……letterZj。網(wǎng)絡(luò)樣本輸出需要一個對26個輸人字母進(jìn)行區(qū)分輸出向量，對于任意一個輸人字母，網(wǎng)絡(luò)輸出在字母對應(yīng)的順序位置上的值為1，其余為O，即網(wǎng)絡(luò)輸出矩陣為對角線上為1的26×26的單位陣，定義target=eye(26)。

本文共有兩類這樣的數(shù)據(jù)作為輸人:一類是理想的標(biāo)準(zhǔn)輸人信號;另一類是在標(biāo)準(zhǔn)輸人信號中加上用MATLAB工具箱里的噪聲信號，即randn函數(shù)。

3 識別字符的網(wǎng)絡(luò)設(shè)計及其實驗分析

3.1單層感知器的設(shè)計及其識別效果

選取網(wǎng)絡(luò)35個輸人節(jié)點和26個輸出節(jié)點，設(shè)置目標(biāo)誤差為0.0001，最大訓(xùn)練次數(shù)為40。設(shè)計出的網(wǎng)絡(luò)使輸出矢量在正確的位置上輸出為1，在其他位置上輸出為O。代寫醫(yī)學(xué)論文 首先用理想輸人信號訓(xùn)練網(wǎng)絡(luò)，得到無噪聲訓(xùn)練結(jié)果，然后用兩組標(biāo)準(zhǔn)輸入矢量加上兩組帶有隨機(jī)噪聲的輸人矢量訓(xùn)練網(wǎng)絡(luò)，這樣可以保證網(wǎng)絡(luò)同時具有對理想輸人和噪聲輸人分類的能力。網(wǎng)絡(luò)訓(xùn)練完后，為保證網(wǎng)絡(luò)能準(zhǔn)確無誤地識別出理想的字符，再用無噪聲的標(biāo)準(zhǔn)輸入訓(xùn)練網(wǎng)絡(luò)，最終得到有能力識別帶有噪聲輸人的網(wǎng)絡(luò)。下一步是對所設(shè)計的網(wǎng)絡(luò)進(jìn)行性能測試:給網(wǎng)絡(luò)輸人任意字母，并在其上加人具有平均值從。~0.2的噪聲，隨機(jī)產(chǎn)生100個輸人矢量，分別對上述兩種網(wǎng)絡(luò)的字母識別出錯率進(jìn)行實驗，結(jié)果如圖2所示。其中縱坐標(biāo)所表示的識別出錯率是將實際輸出減去期望輸出所得的輸出矩陣中所有元素的絕對值和的一半再除以26得到的;虛線代表用無噪聲的標(biāo)準(zhǔn)輸人信號訓(xùn)練出網(wǎng)絡(luò)的出錯率，實線代表用有噪聲訓(xùn)練出網(wǎng)絡(luò)的出錯率。從圖中可以看出，無噪聲訓(xùn)練網(wǎng)絡(luò)對字符進(jìn)行識別時，當(dāng)字符一出現(xiàn)噪聲時，該網(wǎng)絡(luò)識別立刻出現(xiàn)錯誤;當(dāng)噪聲均值超過0.02時，識別出錯率急劇上升，其最大出錯率達(dá)到21.5%。由此可見，無噪聲訓(xùn)練網(wǎng)絡(luò)識別幾乎沒有抗干擾能力。而有噪聲訓(xùn)練出的網(wǎng)絡(luò)具有一定的抗干擾能力，它在均值為。~0.06之間的噪聲環(huán)境下，能夠準(zhǔn)確無誤地識別;其最大識別出錯率約為6.6%，遠(yuǎn)遠(yuǎn)小于無噪聲訓(xùn)練出的網(wǎng)絡(luò)。

3.2BP網(wǎng)絡(luò)的設(shè)計及其識別效果

該網(wǎng)絡(luò)設(shè)計方法在文獻(xiàn)[lj中有詳細(xì)介紹。網(wǎng)絡(luò)具有35個輸人節(jié)點和26個輸出節(jié)點。目標(biāo)誤差為0.0001，采用輸人在(0，l)范圍內(nèi)對數(shù)S型激活函數(shù)兩層109519/109519網(wǎng)絡(luò)，隱含層根據(jù)經(jīng)驗選取10個神經(jīng)元。和單層感知器一樣，分別用理想輸人信號和帶有隨機(jī)噪聲的輸人訓(xùn)練網(wǎng)絡(luò)，得到有噪聲訓(xùn)練網(wǎng)絡(luò)和無噪聲訓(xùn)練網(wǎng)絡(luò)。由于噪聲輸人矢量可能會導(dǎo)致網(wǎng)絡(luò)的1或o輸出不正確，或出現(xiàn)其他值，所以為了使網(wǎng)絡(luò)具有抗干擾能力，在網(wǎng)絡(luò)訓(xùn)練后，再將其輸出經(jīng)過一層競爭網(wǎng)絡(luò)的處理，使網(wǎng)絡(luò)的輸出只在本列中的最大值的位t為1，保證在其他位置輸出為O，其中網(wǎng)絡(luò)的訓(xùn)練采用自適應(yīng)學(xué)習(xí)速率加附加動量法，在MATLAB工具箱中直接調(diào)用traingdx。在與單層感知器相同的測試條件下對網(wǎng)絡(luò)進(jìn)行性能測試，結(jié)果如圖3所示。其中虛線代表用無噪聲訓(xùn)練網(wǎng)絡(luò)的出錯率，實線代表用有噪聲訓(xùn)練網(wǎng)絡(luò)的出錯率。從圖中可以看出，在均值為o一0.12之間的噪聲環(huán)境下，兩個網(wǎng)絡(luò)都能夠準(zhǔn)確地進(jìn)行識別。在0.12~0.15之間的噪聲環(huán)境下，由于噪聲幅度相對較小，待識別字符接近于理想字符，故無噪聲訓(xùn)練網(wǎng)絡(luò)的出錯率較有噪聲訓(xùn)練網(wǎng)絡(luò)略低。當(dāng)所加的噪聲均值超過。.15時，待識別字符在噪聲作用下不再接近于理想字符，無噪聲訓(xùn)練網(wǎng)絡(luò)的出錯率急劇上升，此時有噪聲訓(xùn)練網(wǎng)絡(luò)的性能較優(yōu).

3.3離散型，霍普菲爾德網(wǎng)絡(luò)的設(shè)計及其識別效果

此時網(wǎng)絡(luò)輸人節(jié)點數(shù)目與輸出神經(jīng)元的數(shù)目是相等的，有r=s=35，采用正交化的權(quán)值設(shè)計方法。在MATLAB工具箱中可直接調(diào)用函數(shù)newh叩.m。要注意的是，由于調(diào)用函數(shù)newhoP.m，需要將輸人信號中所有的。代寫英語論文 變換為一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕’。設(shè)計離散型霍普菲爾德網(wǎng)絡(luò)進(jìn)行字符識別，只需要讓網(wǎng)絡(luò)記憶所要求的穩(wěn)定平衡點，即待識別的26個英文字母。故只需要用理想輸人信號來訓(xùn)練網(wǎng)絡(luò)。對于訓(xùn)練后的網(wǎng)絡(luò)，我們進(jìn)行性能測試。給網(wǎng)絡(luò)輸入任意字母，并在其上加人具有平均值從。~0.5的噪聲，隨機(jī)產(chǎn)生100個輸人矢量，觀察字母識別出錯率，結(jié)果如圖4所示。從圖中可以看出，在均值為0~0.33之間的噪聲環(huán)境下，網(wǎng)絡(luò)能夠準(zhǔn)確地進(jìn)行識別。在0.33~0.4之間的噪聲環(huán)境下，識別出錯率不到1%，在0.4以上的噪聲環(huán)境下，網(wǎng)絡(luò)識別出錯率急劇上升，最高達(dá)到大約10%?？梢钥闯?，該網(wǎng)絡(luò)穩(wěn)定點的吸引域大約在0.3~。.4之間。當(dāng)噪聲均值在吸引域內(nèi)時，網(wǎng)絡(luò)進(jìn)行字符識別時幾乎不出錯，而當(dāng)噪聲均值超過吸引域時，網(wǎng)絡(luò)出錯率急劇上升。

4結(jié)論

本文設(shè)計了3種人工神經(jīng)網(wǎng)絡(luò)對26個英文字母進(jìn)行了識別?？梢钥闯?，這3種人工神經(jīng)網(wǎng)絡(luò)均能有效地進(jìn)行字符識別，并且識別速度快，自適應(yīng)性能好，分辨率較高。由圖2和圖3可以看出，單層感知器的有噪聲訓(xùn)練網(wǎng)絡(luò)在均值為O~0.06之間的噪聲環(huán)境下可以準(zhǔn)確無誤的識別，而有噪聲訓(xùn)練的BP網(wǎng)絡(luò)可以在o~0.12之間的噪聲環(huán)境下準(zhǔn)確無誤的識別，故BP絡(luò)網(wǎng)絡(luò)容錯性比單層感知器的容錯性好;此外，噪聲達(dá)到0.2時，單層感知器的有噪聲訓(xùn)練網(wǎng)絡(luò)的識別出錯率為6.6%，而有噪聲訓(xùn)練的BP網(wǎng)絡(luò)的識別出錯率為2.1%，故BP網(wǎng)絡(luò)比單層感知器識別能力強(qiáng)。另外，由圖2、圖3和圖4可以看出，這3種網(wǎng)絡(luò)中霍普菲爾德網(wǎng)絡(luò)識別率最高，它在噪聲為0.33以前幾乎不會出錯，BP網(wǎng)絡(luò)次之，感知器最差。

通過設(shè)計、應(yīng)用與性能對比，我們可得單層感知器網(wǎng)絡(luò)結(jié)構(gòu)和算法都很簡單，訓(xùn)練時間短，但識別出錯率較高，容錯性也較差。BP網(wǎng)絡(luò)結(jié)構(gòu)和算法比單層感知器結(jié)構(gòu)稍復(fù)雜，但其識別率和容錯性都較好?；羝辗茽柕戮W(wǎng)絡(luò)具有設(shè)計簡單且容錯性最好的雙重優(yōu)點。因此，我們應(yīng)根據(jù)網(wǎng)絡(luò)的特點以及實際要求來選擇人工神經(jīng)網(wǎng)絡(luò)對字符進(jìn)行識別。

參考文獻(xiàn)

[1]叢爽.面向MATLAB工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用「M」.合肥:中國科學(xué)技術(shù)大學(xué)出版社，2003.

[2]武強(qiáng)，童學(xué)鋒，季雋.基于人工神經(jīng)網(wǎng)絡(luò)的數(shù)字字符識別[J].計算機(jī)工程，2003，29(14):112一113.

[3]廖翔云，許錦標(biāo)，龔仕偉.車牌識別技術(shù)研究[J].徽機(jī)發(fā)展，2003，13:30一35.

[4]李中凱，王效岳，魏修亭.BP網(wǎng)絡(luò)在汽車牌照字符識別中的應(yīng)用[J].東理工大學(xué)學(xué)報，2004，18(4):69一72.

[5]汪同慶，居淡，任莉.基于神經(jīng)網(wǎng)絡(luò)及多層次信息融合的手寫體數(shù)字識別[J].小型徽型計算機(jī)系統(tǒng)，2003，24(12):2286一2290.

[6]楊慶雄.基于神經(jīng)網(wǎng)絡(luò)的字符識別研究[J].信息技術(shù)，2005，4:92一96.

更多醫(yī)療電子信息請關(guān)注：21ic醫(yī)療電子頻道