基于極限學(xué)習(xí)機(jī)和自適應(yīng)提升的交通標(biāo)志識(shí)別方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明設(shè)及一種計(jì)算機(jī)視覺(jué)與機(jī)器學(xué)習(xí)領(lǐng)域中的圖像識(shí)別方法，特別是設(shè)及一種 基于極限學(xué)習(xí)機(jī)化LM)和自適應(yīng)提升(AdaBoost)的交通標(biāo)志識(shí)別方法。
【背景技術(shù)】
[0002] 交通標(biāo)志識(shí)別系統(tǒng)是智能交通系統(tǒng)的重要組成部分，同時(shí)也是汽車輔助駕駛技術(shù) 和無(wú)人駕駛技術(shù)的一個(gè)重要模塊。由于道路交通環(huán)境的復(fù)雜性（比如雨雪天氣、霧靈天氣 等)和交通標(biāo)志的扭曲、遮擋、變形、污損等原因，使得交通標(biāo)志的實(shí)時(shí)自動(dòng)識(shí)別變得異常困 難，容易出現(xiàn)錯(cuò)檢、漏檢現(xiàn)象，而現(xiàn)如今自然場(chǎng)景下的交通標(biāo)志識(shí)別技術(shù)又尚不成熟，需要 進(jìn)行進(jìn)一步的深入研究。
[0003] 2008年，Keller等人[1]提出了一種識(shí)別算法，針對(duì)限速類交通標(biāo)志，算法首先對(duì) 2880張訓(xùn)練樣本進(jìn)行訓(xùn)練，然后對(duì)1233張測(cè)試樣本進(jìn)行識(shí)別，最終得到的識(shí)別率為92.4%。 該算法存在兩大問(wèn)題，一是識(shí)別的交通標(biāo)志種類太少僅僅局限于限速類交通標(biāo)志，二是識(shí) 別率低容易出現(xiàn)錯(cuò)檢、漏檢現(xiàn)象。2010年，Basc0n等人[2]對(duì)193類共36000幅交通標(biāo)志進(jìn)行 訓(xùn)練和識(shí)別，算法采用的是支持向量機(jī)(SVM)技術(shù)，識(shí)別準(zhǔn)確率達(dá)到95.5%，但該算法所采 用的數(shù)據(jù)庫(kù)并沒(méi)有公開(kāi)，識(shí)別率也不是太高。2011年，Boi等[3]提出了一種基于方向梯度直 方圖化0G)特征和SVM的識(shí)別算法，該算法分為預(yù)處理階段和訓(xùn)練識(shí)別階段，預(yù)處理階段提 取出訓(xùn)練用交通標(biāo)志數(shù)據(jù)庫(kù)的HOG特征和色調(diào)直方圖特征，訓(xùn)練識(shí)別階段采用SVM進(jìn)行訓(xùn)練 和識(shí)別，算法最終的識(shí)別率為96.89 %，但也同樣存在計(jì)算復(fù)雜度高的問(wèn)題。2011年， Ciresan和Meier[4]提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)和多層感知技術(shù)的識(shí)別算法。該算法通 過(guò)訓(xùn)練多列深層神經(jīng)網(wǎng)絡(luò)甚至得到了 99.15%的識(shí)別率。但該算法對(duì)于多列深層神經(jīng)網(wǎng)絡(luò) 的訓(xùn)練時(shí)間達(dá)到了 50小時(shí)，計(jì)算復(fù)雜度特別高。
[0004] 2004年新加坡南洋理工大學(xué)的黃廣斌教授[5]提出極限學(xué)習(xí)機(jī)（Extream Learning Machine ,ELM) eELM算法是一種基于單隱層前向反饋神經(jīng)網(wǎng)絡(luò)（Single Hidden Layer化ed化rward化ural化tworks，SLFNs)的監(jiān)督型學(xué)習(xí)算法。假如輸入為N個(gè)訓(xùn)練樣 本（xi,ti),i = l,2,...,N，其中xi=(xil,xi2，...，xin)TeRn，ti=(til,ti2，...，t化)TeRK，n和k 分別為輸入和輸出神經(jīng)元的個(gè)數(shù)。而標(biāo)準(zhǔn)的SLF化模型為
[0005] ... (1;
[0006] 其中L為隱藏層神經(jīng)元個(gè)數(shù)，Wi = (Wil，Wi2, . . .，Win)T為第i個(gè)隱藏層神經(jīng)元與輸入 神經(jīng)元之間的權(quán)重向量，βι=(βι1，βι2, . . .，βιΚ)Τ為第i個(gè)隱藏神經(jīng)元與輸出神經(jīng)元之間的權(quán) 重向量，bi第i個(gè)隱藏神經(jīng)元的闊值。g(x)為激活函數(shù)，本發(fā)明中選用的是sigmoidal函數(shù)
[0007]
口)
[000引標(biāo)準(zhǔn)的SLF化模型能夠做到零誤差的逼近N個(gè)訓(xùn)練樣本，即
[0012] 可進(jìn)一步簡(jiǎn)化為
[OOU]地=Τ. (5)
[0014]其中Η為隱藏層神經(jīng)元的輸出矩陣，β為隱藏層神經(jīng)元與輸出神經(jīng)元之間的輸出權(quán) 重，Τ為期望輸出矩陣，如式(6)和(7)所示
[0017]最終，可求得β的最小范數(shù)二乘解
[001引聲=巧化 微
[0019] 其中好^為Η的Moore-Penrose廣義逆矩陣，且可表示為
[0020] (9)
[0021] 其中，I為與HHT同維數(shù)的單位矩陣，C為可設(shè)置的常量值。
[0022] 自適應(yīng)提升(AdaBoost)算法最早由F;riedman[6]提出，是一種自適應(yīng)增強(qiáng)型學(xué)習(xí) 算法，能將若干弱分類器提升為分類精度更高的強(qiáng)分類器，幾乎可W應(yīng)用于所有目前流行 的機(jī)器學(xué)習(xí)算法W進(jìn)一步提升原算法的識(shí)別準(zhǔn)確度，被廣泛應(yīng)用于二分類和多分類問(wèn)題 中。其本質(zhì)思想是對(duì)錯(cuò)誤分類的樣本，通過(guò)弱分類器迭代調(diào)整使得被錯(cuò)誤分類的樣本權(quán)重 加大，而對(duì)于正確分類的樣本減小其訓(xùn)練權(quán)重，從而加大錯(cuò)誤分類樣本對(duì)弱分類器的影響， 最終減小錯(cuò)誤分類率，提升識(shí)別率。
[002；3]給定N個(gè)訓(xùn)練樣本數(shù)據(jù)X = {(X1,C1) , (X2，C2)，. . .，（XN，CN)}，其中Xi = (Xil，Xi2,…， Xin)Ter為第i個(gè)訓(xùn)練樣本，且為具有η維特征的矩陣，c功其類標(biāo)。算法采用Μ個(gè)ELM分類器 作為弱分類器，假設(shè)ELMm(x)為第m個(gè)弱分類器，則AdaBoost算法如下：
[0024] 首先，初始化每一個(gè)訓(xùn)練樣本的權(quán)重Wi=l/N，i = l，2, . . .，N.
[0025] 對(duì)于每一個(gè)ELM弱分類器ELMm(x)，m=l，2,. . .，M.
[00%] (a)使用弱分類器ELMm(x)訓(xùn)練帶有權(quán)重wi的訓(xùn)練樣本
[0027] (b)計(jì)算加權(quán)誤差
[002引 U0)
[0029]其中，I(x)為二值函數(shù)，即
[0030]
[0031] (c)計(jì)算第m個(gè)弱分類器ELMm(x)的權(quán)重 (ID
[0032] 02)
[0033] 其中Κ為交通標(biāo)志的總類別數(shù)。
[0034] (d)根據(jù)am更新每一個(gè)訓(xùn)練樣本的權(quán)重wi
[0035] wi=wi · exp(am · I(ci辛ELMm(Xi))). (13)
[0036] (3)進(jìn)而，得到AdaBoost強(qiáng)分類器的輸出為
[00 別
(14)：
[0038] 參考文獻(xiàn)
[0039] [1jKeller C G,Sprunk C,Bahlmann C,et al.Real-time recognition of U.S.speed signs[C]//Intelligent Vehicles Symposium,2008 IE邸.I邸E,2008:518- 523。
[0040] [2]Basc6n S M,Rodriguez J A,Arroyo S L,et al.An optimization on pictogram identification for the road-sign recognition task using SVMs[J] .Computer Vision & Image Unders1:anding,2010,114(3):373_383。
[0041] [3]Boi FjGagliardini L.A Support Vector Machines Network For Traffic Sign Recognition[C]//Proceedings of the International Joint Conference on Neural 化tworks.2011:2210-2216。
[0042] [4]Ciresan,Dan,Meier U,Masci J,et al.A committee of neural networks for traffic sign classification[C]//IN INTERNATIONAL JOINT CONFERENCE ON 肥URAL 肥TWO服S.2011:1918-1921。
[0043] [5]Huang G B,Zhu Q Y,Slew C K.Extreme learning machine:a new learning scheme of feedforward neural networks[J].Proc.int. joint Conf.neural Netw, 2004,2:985-990 vol.2。
[0044] [6]Friedman J H.Additive Logistic Regression:a Statistical View of Boosting[J].Annals of Sl:atistics,1998,28(1) :2000。

【發(fā)明內(nèi)容】

[0045] 為克服現(xiàn)有技術(shù)的不足，減少需要設(shè)置的參數(shù)，獲得一個(gè)很高的識(shí)別率。本發(fā)明采 用的技術(shù)方案是，基于極限學(xué)習(xí)機(jī)和自適應(yīng)提升的交通標(biāo)志識(shí)別方法，包括訓(xùn)練階段和識(shí) 別階段；
[0046] 訓(xùn)練階段:首先提取出交通標(biāo)志數(shù)據(jù)庫(kù)訓(xùn)練樣本集中每一張交通標(biāo)志的方向梯度 直方圖HOG特征，然后使用主成分分析PCA方法對(duì)提取出的HOG特征進(jìn)行降維，然后初始化每 一個(gè)訓(xùn)練樣本的權(quán)重，接著用加權(quán)處理后的特征作為多個(gè)極限學(xué)習(xí)機(jī)ELM弱分類器的輸入