語(yǔ)音識(shí)別系統(tǒng)中增加圖像識(shí)別技術(shù)的設(shè)計(jì)
加入技術(shù)交流群
聲學(xué)模型是識(shí)別系統(tǒng)的底層模型，并且是語(yǔ)音識(shí)別系統(tǒng)中最關(guān)系的一部分。聲學(xué)模型的目的是提供一種有效的方法，計(jì)算語(yǔ)音的特征矢量序列和每個(gè)發(fā)音模板之間的距離。聲學(xué)模型的設(shè)計(jì)與語(yǔ)言發(fā)音特點(diǎn)密切相關(guān)。聲學(xué)模型單元大?。ㄗ职l(fā)音模型、半音字模型或音素模型）對(duì)語(yǔ)音訓(xùn)練數(shù)據(jù)量大小、系統(tǒng)識(shí)別率以及靈活性有較大的影響。必須根據(jù)不同的語(yǔ)言的特點(diǎn)、識(shí)別系統(tǒng)詞匯量的大小決定識(shí)別單元的大小。 語(yǔ)言模型對(duì)中、大詞匯量的語(yǔ)音識(shí)別系統(tǒng)特別重要。當(dāng)分類(lèi)發(fā)生錯(cuò)誤時(shí)可以根據(jù)語(yǔ)言學(xué)模型、語(yǔ)法結(jié)構(gòu)、語(yǔ)義學(xué)進(jìn)行判斷糾正，特別是一些同音字則必須通過(guò)上下文結(jié)構(gòu)才能確定詞義。語(yǔ)言學(xué)理論包括語(yǔ)義結(jié)構(gòu)、語(yǔ)法規(guī)則、語(yǔ)言的數(shù)學(xué)描述模型等有關(guān)方面。目前比較成功的語(yǔ)言模型通常是采用統(tǒng)計(jì)語(yǔ)法的語(yǔ)言模型與基于規(guī)則語(yǔ)法結(jié)構(gòu)命令的語(yǔ)言模型。語(yǔ)法結(jié)構(gòu)可以限定不同詞之間的相互連接關(guān)系，減少了識(shí)別系統(tǒng)的搜索空間，這有利于提高系統(tǒng)的識(shí)別。 語(yǔ)音識(shí)別過(guò)程實(shí)際上是一種認(rèn)識(shí)過(guò)程。就像人們聽(tīng)語(yǔ)音時(shí)，并不把語(yǔ)音和語(yǔ)言的語(yǔ)法結(jié)構(gòu)、語(yǔ)義結(jié)構(gòu)分開(kāi)。因?yàn)楫?dāng)語(yǔ)音發(fā)音模糊時(shí)人們可以用這些和知識(shí)來(lái)指導(dǎo)對(duì)語(yǔ)言的理解過(guò)程，但是對(duì)機(jī)器來(lái)說(shuō)，識(shí)別系統(tǒng)也要利用這些知識(shí)，只是如何有效地描述這些語(yǔ)法和語(yǔ)義還有困難： （1）小詞匯量語(yǔ)音識(shí)別系統(tǒng)：包括幾十個(gè)詞的語(yǔ)音識(shí)別系統(tǒng)。 （2）中等詞匯量的語(yǔ)音識(shí)別系統(tǒng)：通常包括幾百個(gè)詞至上千個(gè)詞的識(shí)別系統(tǒng)。 （3）大詞匯量語(yǔ)音識(shí)別系統(tǒng)：通常包括幾千至幾萬(wàn)個(gè)詞的語(yǔ)音識(shí)別系統(tǒng)。 這些不同的限制也確定了語(yǔ)音識(shí)別系統(tǒng)的困難度。
由于有了種種困難，語(yǔ)音識(shí)別技術(shù)通常根據(jù)使用中的限制性要求，構(gòu)建成不同類(lèi)型的系統(tǒng)，通常包括三類(lèi)。其一為限制用戶的說(shuō)話方式，這又可以分為孤立詞語(yǔ)音識(shí)別系統(tǒng)（isolate-word speech recognition system）、連接詞語(yǔ)音識(shí)別系統(tǒng)（connected-words speech recognition system）、連續(xù)語(yǔ)音識(shí)別系統(tǒng)（continue speech recopnition system）和即興口語(yǔ)語(yǔ)音識(shí)別系統(tǒng)（spontaneous speech recognition system）。其二為限制用戶的用詞范圍。第三種為限制系統(tǒng)的用戶對(duì)象。 1 增加圖像識(shí)別設(shè)計(jì)的目的 如今的語(yǔ)音識(shí)別技術(shù)正在逐漸成熟，許多語(yǔ)音識(shí)別技術(shù)都已經(jīng)能夠達(dá)到很高的識(shí)別率了，不過(guò)當(dāng)識(shí)別率到了一定的程度后，再提高就很困難，此時(shí)需要采用其他技術(shù)來(lái)協(xié)助語(yǔ)音的識(shí)別。 目前的語(yǔ)音識(shí)別系統(tǒng)由于采用單一傳感器（聲音傳感器）進(jìn)行工作，在進(jìn)行語(yǔ)音識(shí)別時(shí)，不可能對(duì)捕獲的語(yǔ)音信息進(jìn)行細(xì)分，只能采用定速率跟蹤識(shí)別，將語(yǔ)音信息與系統(tǒng)庫(kù)中的模板進(jìn)行匹配判斷。如果捕獲信息的速率與存儲(chǔ)在系統(tǒng)庫(kù)中的模板相關(guān)不多，則能正常工作，否則將會(huì)出現(xiàn)誤判。然而現(xiàn)實(shí)生活中，人們說(shuō)話不可能總保持相同的速率，而是不斷變化的，這勢(shì)必造成了語(yǔ)音識(shí)別系統(tǒng)的誤差增多，以致降低語(yǔ)音識(shí)別系統(tǒng)的實(shí)用性。 人們?cè)谶M(jìn)行語(yǔ)音交流時(shí)，在捕獲語(yǔ)音信息的同時(shí)，也在獲取其他的信息以幫助理解，例如表情、神態(tài)等信息。如果得不到相關(guān)信息，人們相互之間也會(huì)產(chǎn)生誤解，例如當(dāng)兩個(gè)人在相隔較遠(yuǎn)距離時(shí)，由于不能清楚對(duì)方的表情、神態(tài)，經(jīng)常會(huì)出現(xiàn)理解錯(cuò)誤的情況發(fā)生?？梢?jiàn)使用單一的信息渠道的確會(huì)增加理解難度，因此有必要考慮增加信息渠道來(lái)解決這個(gè)問(wèn)題。這就是增加圖像識(shí)別功能的原因。 對(duì)于語(yǔ)音識(shí)別系統(tǒng)，如果能像人一樣判斷語(yǔ)言對(duì)象的喜、怒、哀、樂(lè)，當(dāng)然是最好的，但這勢(shì)必大大增加圖像識(shí)別的工作量，甚至超過(guò)語(yǔ)音識(shí)別的成本，不太合理。并且，由于技術(shù)的原因，還不能使機(jī)器有像人一樣的視覺(jué)能力，要讓機(jī)器能夠準(zhǔn)確識(shí)別出人的各種表情還達(dá)不到，所以此種方案是不可取的。進(jìn)一步分析知道，語(yǔ)音識(shí)別系統(tǒng)受語(yǔ)速的影響是很大的。人在正常講話時(shí)，嘴的開(kāi)合狀態(tài)都是大同小異的，如果讓機(jī)器只對(duì)嘴的開(kāi)合兩種情況進(jìn)行判斷和實(shí)時(shí)跟蹤，得出講話人的語(yǔ)速信息，是能夠做到的。所以僅僅需要機(jī)器識(shí)別出人說(shuō)話的速度，以此來(lái)調(diào)整語(yǔ)音識(shí)別的匹配速度，從而適合語(yǔ)音韻律，自然有利于系統(tǒng)的語(yǔ)音識(shí)別能力，提高識(shí)別的準(zhǔn)確性。通過(guò)語(yǔ)速對(duì)語(yǔ)音識(shí)別系統(tǒng)的幫助，將為語(yǔ)音系統(tǒng)提供另一條實(shí)用的信息渠道。
采用語(yǔ)速作為系統(tǒng)的第二信息渠道，一旦系統(tǒng)跟蹤到了目標(biāo)的語(yǔ)還，在協(xié)助語(yǔ)音識(shí)別的同時(shí)還能夠有效地排除與語(yǔ)音信息不同步的外界噪聲，因此系統(tǒng)能夠獲得更好的識(shí)別性能。 2 實(shí)現(xiàn)的技術(shù)及方法 2．1 系統(tǒng)總體設(shè)計(jì)概述 語(yǔ)音系統(tǒng)采集說(shuō)話人（語(yǔ)言對(duì)象）的兩路信息，一路由聲音傳感器取得，一路由攝像設(shè)備取得。攝像設(shè)備取得人的嘴型變化后，將之轉(zhuǎn)化為語(yǔ)速信息送到語(yǔ)音識(shí)別器與采集到的語(yǔ)音進(jìn)行匹配識(shí)別，自動(dòng)調(diào)節(jié)識(shí)別速度，更好地完成語(yǔ)音識(shí)別工作。系統(tǒng)的工作流程如圖1。 2．2 輔助圖像識(shí)別設(shè)計(jì) 捕獲語(yǔ)言對(duì)象的說(shuō)話速率是保證整個(gè)系統(tǒng)良好工作的關(guān)鍵。為了實(shí)現(xiàn)此目的，使用基于機(jī)器視覺(jué)的人嘴部狀態(tài)檢測(cè)方法來(lái)設(shè)計(jì)。由于對(duì)圖像的識(shí)別精度要求不高，可以選擇灰度圖像以提高運(yùn)算速度。在速度允許的情況下，彩色圖像的識(shí)別精度會(huì)更高。 2．2．1 流程分析 整個(gè)輔助圖像識(shí)別設(shè)計(jì)的目的就是通過(guò)機(jī)器視覺(jué)進(jìn)行圖像采集、圖像處理，提取出說(shuō)話人的語(yǔ)速信息供語(yǔ)音系統(tǒng)使用。 以灰度圖像為例，其圖像處理過(guò)程如圖2。 對(duì)于彩色圖像，特征量會(huì)更多一些，也就更復(fù)雜一些，但其基本步驟都是先完成圖像數(shù)字化，再進(jìn)行圖像特片提取，最后進(jìn)行圖像識(shí)別和理解。 當(dāng)完成圖像處理后，比較模塊將這一幀圖像與上一幀圖像的數(shù)據(jù)進(jìn)行對(duì)比，判斷出變化，從而統(tǒng)計(jì)出語(yǔ)速信息，最后輸出給語(yǔ)音識(shí)別器進(jìn)行匹配工作。
2．2．2 圖像處理算法設(shè)計(jì) （1）圖像分割 經(jīng)過(guò)對(duì)人臉RGB像素的分析，發(fā)現(xiàn)人臉圖像中的R、G兩分量符合二維高斯分布。因此，可通過(guò)這兩個(gè)分量確定人臉的位置。在人臉定位的基礎(chǔ)上，根據(jù)人的嘴部處于人臉下半部分的特片，比較容易確定出嘴部的大致位置，它為嘴部精確定位提供了基本條件，如圖3所示。 （2）圖像特征的提取 根據(jù)系統(tǒng)要求，灰度圖像可以滿足需要，但由于嘴唇與皮膚的灰度差別不大，而且灰度信息更容量受到光照條件、人臉的運(yùn)動(dòng)和旋轉(zhuǎn)變化等影響，使人臉圖像中嘴唇區(qū)域邊緣不明顯，特別是當(dāng)嘴唇內(nèi)部的陰影區(qū)域與牙齒交替出現(xiàn)時(shí)，嘴唇的邊緣變得更加模糊，所以利用唇色和膚色的灰度及邊緣信息分割不能達(dá)到很高的準(zhǔn)確度。若要提高對(duì)嘴部狀況的識(shí)別準(zhǔn)確度，可以利用彩色信息來(lái)對(duì)人嘴的形狀、位置進(jìn)行確定。 研究發(fā)現(xiàn)，嘴唇的主要顏色特征是唇色相對(duì)膚色顏色較紅，而且歸一化RGB顏色對(duì)光照、人臉運(yùn)動(dòng)和旋轉(zhuǎn)具有不變性。因此利用顏色信息，采用模式分類(lèi)技術(shù)分割嘴唇區(qū)域，可以克服灰度圖像本身固有的缺點(diǎn)。由于Fisher線性分類(lèi)器能夠最大限度地分開(kāi)兩類(lèi)，且其學(xué)習(xí)是離線處理，減少了計(jì)算量，因此可采用Fisher線性分類(lèi)器進(jìn)行嘴唇區(qū)域分割。 人嘴在說(shuō)話與正常情況下的外形有明顯的區(qū)別。說(shuō)話時(shí)嘴部張開(kāi)較大，而正常情況下，嘴部基本閉合（圖4）。因此，可以利用這些特征進(jìn)行嘴部狀態(tài)的檢測(cè)。研究中發(fā)現(xiàn)，嘴部區(qū)域的最大寬度Wmax、最大高度Hmax能夠表征嘴部的張開(kāi)程度，應(yīng)取為特征值；上嘴唇與下嘴唇之間的高度Hmin在說(shuō)話不說(shuō)話時(shí)也有明顯不同，應(yīng)取為特征值。將以上三個(gè)特征值組成一組向量，即可描述出不同狀態(tài)下的嘴部幾何特片，如圖5所示。 將獲得的能夠描述人的嘴部區(qū)域幾何形狀特征參數(shù)組成一個(gè)特征向量Zui，即可作為下一步判別分類(lèi)的輸入向量：Zui=(Wmax,Hmax,Hmin)。 在進(jìn)行識(shí)別時(shí)只要確定兩個(gè)狀態(tài)“開(kāi)”、“合”即可。在實(shí)際中由于發(fā)音時(shí)不同的語(yǔ)音會(huì)導(dǎo)致嘴的開(kāi)合程度不一，所以對(duì)“開(kāi)”（Hmin>0）的區(qū)分會(huì)很多種情況，必然會(huì)極大地增加運(yùn)算存儲(chǔ)量。相對(duì)而言，嘴的“閉合”狀態(tài)一般只有一種模式（Hmin=0），因此可以只確定說(shuō)話人嘴的“閉合”狀態(tài)，其他狀態(tài)都判為“開(kāi)”，這樣將方便處理。 （3）圖像識(shí)別理解 由于對(duì)識(shí)別精度要求不高，既可以采用傳統(tǒng)的統(tǒng)計(jì)模式識(shí)別方法，也可以采用較熱門(mén)的神經(jīng)網(wǎng)絡(luò)識(shí)別方法；但由于系統(tǒng)對(duì)實(shí)時(shí)要求較高，而神經(jīng)網(wǎng)絡(luò)識(shí)別方法運(yùn)行速度成問(wèn)題，因此不建議采用神經(jīng)網(wǎng)絡(luò)識(shí)別方法。 2．3 語(yǔ)速信息的提取 選用合適的捕獲頻率不斷采集說(shuō)話人的圖像，用當(dāng)前幀的數(shù)據(jù)與上一幀數(shù)據(jù)進(jìn)行比較，根據(jù)其變化的頻率就可以推算出語(yǔ)速信息。實(shí)際情況中，所求的語(yǔ)速信息不需要太精確就能夠達(dá)到一般要求。
3 應(yīng)用展望 語(yǔ)音識(shí)別是一種賦能技術(shù)，現(xiàn)有的很多人機(jī)交互界面都可能通過(guò)補(bǔ)充語(yǔ)音識(shí)別功能而得到改善。語(yǔ)音識(shí)別技術(shù)可以把費(fèi)腦、費(fèi)力、費(fèi)時(shí)的機(jī)器操作變成一件很容易且有趣味性的事情，在許多“手忙”、“手不能用”、“手所不能及”、“懶得動(dòng)手”的場(chǎng)景中，包括像駕駛室、一些危險(xiǎn)的工業(yè)場(chǎng)合、家電控制等方面，高識(shí)別率的語(yǔ)音識(shí)別系統(tǒng)將會(huì)更加方便人的工作和生活。 由于知識(shí)層次和知識(shí)領(lǐng)域的差異，現(xiàn)實(shí)生活中有相當(dāng)一部分人很難享受到現(xiàn)代化生活帶來(lái)的便利，包括信息服務(wù)和其他各類(lèi)先進(jìn)設(shè)備可提供的幫助。高識(shí)別率語(yǔ)音識(shí)別技術(shù)有助于改善這種情況，使社會(huì)各個(gè)階層更多的人享受到更多的社會(huì)信息資源和現(xiàn)代化服務(wù)，提高整個(gè)社會(huì)的信息化程度和現(xiàn)代化速度。 高識(shí)別率語(yǔ)音識(shí)別技術(shù)還將推出機(jī)器人智能技術(shù)的發(fā)展，由于機(jī)器人本來(lái)就要配置視覺(jué)系統(tǒng)，本方案很容易實(shí)現(xiàn)，提高了人與機(jī)器交互的能力。另外高識(shí)別率語(yǔ)音識(shí)別技術(shù)在語(yǔ)音錄入系統(tǒng)、會(huì)議實(shí)時(shí)記錄及同聲翻譯、記者采訪設(shè)備等方向有著廣闊的應(yīng)用前景。
評(píng)論