新聞中心

EEPW首頁 > 測試測量 > 設(shè)計應(yīng)用 > 基于改進遺傳算法的支持向量機特征選擇

基于改進遺傳算法的支持向量機特征選擇

—— Feature Selection for SVM Based on Improved Genetic Algorithm
作者:張子寧 單甘霖 段修生 張岐龍 軍械工程學(xué)院光學(xué)與電子工程系 時間:2010-02-05 來源:電子產(chǎn)品世界 收藏

  引言

本文引用地址:http://butianyuan.cn/article/105942.htm

  是一種在統(tǒng)計學(xué)習(xí)理論的基礎(chǔ)上發(fā)展而來的機器學(xué)習(xí)方法[1],通過學(xué)習(xí)類別之間分界面附近的精確信息,可以自動尋找那些對分類有較好區(qū)分能力的支持向量,由此構(gòu)造出的分類器可以使類與類之間的間隔最大化,因而有較好的泛化性能和較高的分類準(zhǔn)確率。由于具有小樣本、非線性、高維數(shù)、避免局部最小點以及過學(xué)習(xí)現(xiàn)象等優(yōu)點,所以被廣泛運用于故障診斷、圖像識別、回歸預(yù)測等領(lǐng)域。但是如果缺少了對樣本進行有效地特征選擇,在分類時往往會出現(xiàn)訓(xùn)練時間過長以及較低的分類準(zhǔn)確率,這恰恰是由于支持向量機無法利用混亂的樣本分類信息而引起的,因此特征選擇是分類問題中的一個重要環(huán)節(jié)。特征選擇的任務(wù)是從原始的特征集合中去除對分類無用的冗余特征以及那些具有相似分類信息的重復(fù)特征,因而可以有效降低特征維數(shù),縮短訓(xùn)練時間,提高分類準(zhǔn)確率。

  目前特征選擇的方法主要有主成分分析法、最大熵原理、粗糙集理論等。然而由于這些方法主要依據(jù)繁復(fù)的數(shù)學(xué)理論,在計算過程中可能存在求導(dǎo)和函數(shù)連續(xù)性等客觀限定條件,在必要時還需要設(shè)定用來指導(dǎo)尋優(yōu)搜索方向的搜索規(guī)則。遺傳算法作為一種魯棒性極強的智能識別方法,直接對尋優(yōu)對象進行操作,不存在特定數(shù)學(xué)條件的限定,具有極好的全局尋優(yōu)能力和并行性;而由于遺傳算法采用概率化的尋優(yōu)方法,所以在自動搜索的過程中可以自主獲取與尋優(yōu)有關(guān)的線索,并在加以學(xué)習(xí)之后可以自適應(yīng)地調(diào)整搜索方向,不需要確定搜索的規(guī)則。因此遺傳算法被廣泛應(yīng)用在知識發(fā)現(xiàn)、組合優(yōu)化、機器學(xué)習(xí)、信號處理、自適應(yīng)控制和人工生命等領(lǐng)域。

  基于改進遺傳算法的特征選擇

  遺傳算法是一種新近發(fā)展起來的搜索最優(yōu)化算法[2~5]。遺傳算法從任意一個的初始生物種群開始,通過隨機的選擇、交叉和變異操作,產(chǎn)生一群擁有更適應(yīng)自然界的新個體的新一代種群,使得種群的進化趨勢向著最優(yōu)的方向發(fā)展。圖1中所示的是標(biāo)準(zhǔn)的遺傳算法的流程框圖。

  傳統(tǒng)的遺傳算法存在早熟收斂、非全局收斂以及后期收斂速度慢的缺點,為此本文提出了一種能夠在進化過程中自適應(yīng)調(diào)節(jié)變異率,以及利用模擬退火防止早熟的改進遺傳算法,同時該算法利用敏感度信息可以有效地控制遺傳操作。圖2是改進遺傳算法的流程框圖。


上一頁 1 2 3 4 5 下一頁

評論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉