基于改進(jìn)平衡Winnow算法的短信過(guò)濾系統(tǒng)

作者：時(shí)間：2011-01-20 來(lái)源：網(wǎng)絡(luò)

加入技術(shù)交流群
- 掃碼加入
  和技術(shù)大咖面對(duì)面交流
  海量資料庫(kù)查詢

3 系統(tǒng)反饋

Winnow 是一種在線學(xué)習(xí)的、以錯(cuò)誤為驅(qū)動(dòng)的分類器，適于結(jié)合增量式學(xué)習(xí)來(lái)解決自適應(yīng)問(wèn)題，實(shí)現(xiàn)用戶的個(gè)性化要求。平衡Winnow 算法是基本W(wǎng)innow 算法的另外一種形式，同樣具有在線更新能力。在分類器訓(xùn)練過(guò)程中，對(duì)錯(cuò)分的短信通過(guò)α 和β 更新類別權(quán)重向量，實(shí)現(xiàn)對(duì)分類器的更新，平衡Winnow 算法中w+和w-的雙向調(diào)節(jié)，使算法的訓(xùn)練速度更快，適合于對(duì)分類實(shí)時(shí)性要求較高的短信過(guò)濾系統(tǒng)。

4 實(shí)驗(yàn)資源及分析與*價(jià)

本文在自建短信語(yǔ)料庫(kù)的基礎(chǔ)上完成對(duì)比實(shí)驗(yàn)，其中正常短信1 892 條，垃圾短信270 條，將短信語(yǔ)料庫(kù)隨機(jī)分成5 等份，其中4 份用于訓(xùn)練樣本，1 份作為測(cè)試樣本。

4.1 *價(jià)指標(biāo)

分類系統(tǒng)*價(jià)指標(biāo)如下，包括兩類短信各自的準(zhǔn)確率(precision) 和召回率(recall) ，由于系統(tǒng)目標(biāo)是垃圾短信過(guò)濾，于是增加了針對(duì)垃圾短信的綜合*價(jià)指標(biāo)(F1):

F1=(2×準(zhǔn)確率×召回率)/( 準(zhǔn)確率+召回率)。

4.2 實(shí)驗(yàn)結(jié)果分析

(1) 實(shí)驗(yàn)1：探討改進(jìn)的特征權(quán)重計(jì)算方法對(duì)實(shí)驗(yàn)結(jié)果的影響。實(shí)驗(yàn)結(jié)果如表1 所示。

表1 特征權(quán)重計(jì)算方法對(duì)實(shí)驗(yàn)結(jié)果的影響。

其中測(cè)試樣本中正常短信被誤分為垃圾短信條數(shù)為22 條，正常短信召回率為94.2%；垃圾短信被誤分為正常短信8 條，準(zhǔn)確率僅為67.7%。

(2) 實(shí)驗(yàn)2：統(tǒng)一參數(shù)和取固定的閾值θ 之后對(duì)實(shí)驗(yàn)結(jié)果的影響。該實(shí)驗(yàn)中取：α=1.5 、β=1/1.5 、θ=15 。實(shí)驗(yàn)結(jié)果如表2 所示。

表2 選定參數(shù)對(duì)實(shí)驗(yàn)結(jié)果的影響

其中測(cè)試樣本中正常短信被誤分為垃圾短信條數(shù)為18 條，正常短信召回率為96.1%；而測(cè)試用的垃圾短信正確識(shí)別了44 條，準(zhǔn)確率為71.0%。由此可見，參數(shù)對(duì)實(shí)驗(yàn)結(jié)果的影響不大。

(3) 實(shí)驗(yàn)3：去除野點(diǎn)對(duì)實(shí)驗(yàn)結(jié)果的影響。實(shí)驗(yàn)結(jié)果如表3 所示。

表3 去除野點(diǎn)對(duì)實(shí)驗(yàn)結(jié)果的影響。

從實(shí)驗(yàn)結(jié)果分析，僅有12 條正常短信和8 條垃圾短信被錯(cuò)誤分類。通過(guò)去除野點(diǎn)，發(fā)現(xiàn)不僅緩減了抖動(dòng)現(xiàn)象，而且提高了分類器的分類性能及正常短信的召回率。

Balanced Winnow 在訓(xùn)練速度和分類速度上具有較大優(yōu)勢(shì)，所以具有更高的實(shí)用價(jià)值，非常適合短信過(guò)濾的要求。另外，Winnow 作為一種在線學(xué)習(xí)方法，在訓(xùn)練集合不斷擴(kuò)大的情況下能夠快速對(duì)分類器進(jìn)行更新。正是基于Winnow 不斷學(xué)習(xí)、不斷調(diào)整的機(jī)制，使其非常適合用戶自己定制需要的分類標(biāo)準(zhǔn)。隨著用戶不斷地反饋調(diào)整，整個(gè)系統(tǒng)會(huì)表現(xiàn)出越來(lái)越好的效果。