分類模型構(gòu)建方法及裝置的制造方法
【技術(shù)領(lǐng)域】
[0001] 本公開(kāi)涉及分類模型構(gòu)建技術(shù)領(lǐng)域，尤其涉及分類模型構(gòu)建方法及裝置。
【背景技術(shù)】
[0002] 深度學(xué)習(xí)的概念由Hinton等人于2006年提出。基于深信度網(wǎng)（DBN)提出非監(jiān)督 貪心逐層訓(xùn)練算法，為解決深層結(jié)構(gòu)相關(guān)的優(yōu)化難題帶來(lái)希望，隨后提出多層自動(dòng)編碼器 深層結(jié)構(gòu)。此外Lecun等人提出的卷積神經(jīng)網(wǎng)絡(luò)是第一個(gè)真正多層結(jié)構(gòu)學(xué)習(xí)算法，它利用 空間相對(duì)關(guān)系減少參數(shù)數(shù)目以提高訓(xùn)練性能。
[0003] 卷積神經(jīng)網(wǎng)絡(luò)可用于對(duì)圖片的識(shí)別。而隨著用戶終端中照片數(shù)目的增多，就需要 終端能自動(dòng)根據(jù)照片內(nèi)容對(duì)照片進(jìn)行分類，比如將所有照片中包含寵物的照片分類至寵物 相冊(cè)。而相關(guān)技術(shù)中，雖然存在這種分類方法，但是對(duì)于寵物的召回率和錯(cuò)誤率都存在較高 的偏差。其中，召回率是指把A識(shí)別為A的比例，召回率越高越好。錯(cuò)誤率是指把非A識(shí)別 成A的比例，錯(cuò)誤率越低越好。

【發(fā)明內(nèi)容】

[0004] 本公開(kāi)實(shí)施例提供一種分類模型構(gòu)建方法及裝置，包括如下技術(shù)方案：
[0005] 根據(jù)本公開(kāi)實(shí)施例的第一方面，提供一種分類模型構(gòu)建方法，包括：
[0006] 獲取至少一種物品類別對(duì)應(yīng)的至少一個(gè)樣本圖片集，其中，每個(gè)樣本圖片集對(duì)應(yīng) 一種物品類別，每個(gè)樣本圖片集中的每個(gè)樣本圖片中均包括該樣本圖片集所對(duì)應(yīng)的物品類 別下的物品；
[0007] 根據(jù)預(yù)設(shè)訓(xùn)練協(xié)議和預(yù)設(shè)網(wǎng)絡(luò)模型對(duì)所述至少一個(gè)樣本圖片集中的樣本圖片進(jìn) 行訓(xùn)練，得到所述至少一種物品類別對(duì)應(yīng)的分類模型，所述分類模型用于確定待分類圖片 所對(duì)應(yīng)的目標(biāo)物品類別。
[0008] 在一個(gè)實(shí)施例中，所述根據(jù)預(yù)設(shè)訓(xùn)練協(xié)議和預(yù)設(shè)網(wǎng)絡(luò)模型對(duì)所述至少一個(gè)樣本圖 片集中的樣本圖片進(jìn)行訓(xùn)練，得到所述至少一種物品類別對(duì)應(yīng)的分類模型，包括：
[0009] 保持所述預(yù)設(shè)網(wǎng)絡(luò)模型的特征層的參數(shù)不變，對(duì)所述預(yù)設(shè)網(wǎng)絡(luò)模型的中的全連接 層進(jìn)行降維和優(yōu)化處理，所述全連接層包括第一全連接層和第二全連接層，所述第一全連 接層的輸出為所述第二全連接層的輸入；
[0010] 將所述第二全連接層的輸出發(fā)送至所述預(yù)設(shè)網(wǎng)絡(luò)模型的分類器層，對(duì)所述分類器 層進(jìn)行調(diào)整，得到所述至少一種物品類別對(duì)應(yīng)的分類模型。
[0011] 分類模型在一個(gè)實(shí)施例中，所述根據(jù)預(yù)設(shè)訓(xùn)練協(xié)議和預(yù)設(shè)網(wǎng)絡(luò)模型對(duì)所述至少一 個(gè)樣本圖片集中的樣本圖片進(jìn)行訓(xùn)練，得到所述至少一種物品類別對(duì)應(yīng)的分類模型之前， 所述方法還包括：
[0012] 將所述至少一個(gè)樣本圖片集中的樣本圖片的尺寸處理為預(yù)設(shè)尺寸。
[0013] 在一個(gè)實(shí)施例中，所述分類模型確定待分類圖片所對(duì)應(yīng)的目標(biāo)物品類別的步驟包 括：
[0014] 將所述待分類圖片的尺寸處理為預(yù)設(shè)尺寸；
[0015] 根據(jù)所述分類模型從所述待分類圖片中抽取特征向量；
[0016] 根據(jù)所述特征向量和所述分類模型，計(jì)算所述待分類圖片與所述至少一種物品類 別中每個(gè)物品類別之間具有對(duì)應(yīng)關(guān)系的概率值；
[0017] 將概率值最大的物品類別確定為所述目標(biāo)物品類別。
[0018] 在一個(gè)實(shí)施例中，所述預(yù)設(shè)訓(xùn)練協(xié)議包括Alex訓(xùn)練協(xié)議，所述預(yù)設(shè)網(wǎng)絡(luò)模型包括 Alex網(wǎng)絡(luò)模型。
[0019] 在一個(gè)實(shí)施例中，所述方法還包括：
[0020] 利用第一計(jì)算公式和第二計(jì)算公式對(duì)所述全連接層和所述分類器層進(jìn)行處理，其 中，所述第一計(jì)算公式為
所述第二計(jì)算公式為：Wt+1= Wt+Vt+1，其 中，％=0，￥。的取值范圍為0至1之間的隨機(jī)數(shù)，μ為0.9, VL(Wt)為將所述^進(jìn)行梯度 求導(dǎo)后得到的值，其中，Vt為每次的更新步長(zhǎng)，α為學(xué)習(xí)速率，決定梯度下降搜索的步長(zhǎng)，Wt為網(wǎng)絡(luò)權(quán)值，μ為控制上次的更新步長(zhǎng)的參數(shù)，所述全連接層中參數(shù)α的值小于所述分類 器層中參數(shù)α的值。
[0021 ] 在一個(gè)實(shí)施例中，所述方法還包括：
[0022] 將所述待分類圖片添加至所述目標(biāo)物品類別對(duì)應(yīng)的圖片集中。
[0023] 在一個(gè)實(shí)施例中，所述物品類別包括貓、狗。
[0024] 根據(jù)本公開(kāi)實(shí)施例的第二方面，提供一種分類模型構(gòu)建裝置，包括：
[0025] 獲取模塊，用于獲取至少一種物品類別對(duì)應(yīng)的至少一個(gè)樣本圖片集，其中，每個(gè)樣 本圖片集對(duì)應(yīng)一種物品類別，每個(gè)樣本圖片集中的每個(gè)樣本圖片中均包括該樣本圖片集所 對(duì)應(yīng)的物品類別下的物品；
[0026] 訓(xùn)練模塊，用于根據(jù)預(yù)設(shè)訓(xùn)練協(xié)議和預(yù)設(shè)網(wǎng)絡(luò)模型對(duì)所述至少一個(gè)樣本圖片集中 的樣本圖片進(jìn)行訓(xùn)練，得到所述至少一種物品類別對(duì)應(yīng)的分類模型，所述分類模型用于確 定待分類圖片所對(duì)應(yīng)的目標(biāo)物品類別。
[0027] 在一個(gè)實(shí)施例中，所述訓(xùn)練模塊包括：
[0028] 第一參數(shù)調(diào)整子模塊，用于保持所述預(yù)設(shè)網(wǎng)絡(luò)模型的特征層的參數(shù)不變，對(duì)所述 預(yù)設(shè)網(wǎng)絡(luò)模型的中的全連接層進(jìn)行降維和優(yōu)化處理，所述全連接層包括第一全連接層和第 二全連接層，所述第一全連接層的輸出為所述第二全連接層的輸入；
[0029] 第二參數(shù)調(diào)整子模塊，用于將進(jìn)行參數(shù)調(diào)整后的全連接層的輸出數(shù)據(jù)發(fā)送至所述 預(yù)設(shè)網(wǎng)絡(luò)模型的分類器層，對(duì)所述分類器層進(jìn)行調(diào)整，得到所述至少一種物品類別對(duì)應(yīng)的 分類模型。
[0030] 分類模型在一個(gè)實(shí)施例中，所述裝置還包括：
[0031] 第一處理模塊，用于將所述至少一個(gè)樣本圖片集中的樣本圖片的尺寸處理為預(yù)設(shè) 尺寸。
[0032] 在一個(gè)實(shí)施例中，當(dāng)使用所述分類模型確定待分類圖片所對(duì)應(yīng)的目標(biāo)物品類別 時(shí)，所述裝置還包括：
[0033] 第二處理模塊，用于將所述待分類圖片的尺寸處理為預(yù)設(shè)尺寸；
[0034] 抽取模塊，用戶根據(jù)所述分類模型從所述待分類圖片中抽取特征向量；
[0035] 計(jì)算模塊，用于根據(jù)所述特征向量和所述分類模型，計(jì)算所述待分類圖片與所述 至少一種物品類別中每個(gè)物品類別之間具有對(duì)應(yīng)關(guān)系的概率值；
[0036] 確定模塊，用于將概率值最大的物品類別確定為所述目標(biāo)物品類別。
[0037] 在一個(gè)實(shí)施例中，所述預(yù)設(shè)訓(xùn)練協(xié)議包括Alex訓(xùn)練協(xié)議，所述預(yù)設(shè)網(wǎng)絡(luò)模型包括 Alex網(wǎng)絡(luò)模型。
[0038] 在一個(gè)實(shí)施例中，所述第一參數(shù)調(diào)整子模塊、所述第二參數(shù)調(diào)整子模塊用于：
[0039] 利用第一計(jì)算公式和第二計(jì)算公式分別對(duì)所述全連接層和所述分類器層進(jìn)行
處理，其中，所述第一計(jì)算公式為： 所述第二計(jì)算公式為：Wt+1 = Wt+Vt+1，其中，所述第一計(jì)算公式為 所述第二計(jì)算公式為：Wt+1 = Wt+Vt+1，其中，V。= 0, W。的取值范圍為0至1之間的隨機(jī)數(shù)，μ為0. 9, VL(Wt)為將所述Wt進(jìn)行梯度求導(dǎo)后得到的值，其中，Vt為每次的更新步長(zhǎng)，α為學(xué)習(xí)速率，決定梯度下降搜索 的步長(zhǎng)，Wt為網(wǎng)絡(luò)權(quán)值，μ為控制上次的更新步長(zhǎng)的參數(shù)，所述全連接層中參數(shù)α的值小 于所述分類器層中參數(shù)α的值。
[0040] 添加模塊，用于將所述待分類圖片添加至所述目標(biāo)物品類別對(duì)應(yīng)的圖片集中。
[0041 ] 在一個(gè)實(shí)施例中，所述物品類別包括貓、狗。
[0042] 根據(jù)本公開(kāi)實(shí)施例的第三方面，提供一種分類模型構(gòu)建裝置，包括：
[0043] 處理器；
[0044] 用于存儲(chǔ)處理器可執(zhí)行指令的存儲(chǔ)器；
[0045] 其中，所述處理器被配置為：
[0046] 獲取至少一種物品類別對(duì)應(yīng)的至少一個(gè)樣本圖片集，其中，每個(gè)樣本圖片集對(duì)應(yīng) 一種物品類別，每個(gè)樣本圖片集中的每個(gè)樣本圖片中均包括該樣本圖片集所對(duì)應(yīng)的物品類 別下的物品；
[0047] 根據(jù)預(yù)設(shè)訓(xùn)練協(xié)議和預(yù)設(shè)網(wǎng)絡(luò)模型對(duì)所述至少一個(gè)樣本圖片集中的樣本圖片進(jìn) 行訓(xùn)練，得到所述至少一種物品類別對(duì)應(yīng)的分類模型，所述分類模型用于確定待分類圖片 所對(duì)應(yīng)的目標(biāo)物品類別。
[0048] 本公開(kāi)的實(shí)施例提供的技術(shù)方案可以包括以下有益效果：
[0049] 上述技術(shù)方案，利用至少一個(gè)樣本圖片集中的樣本圖片和預(yù)設(shè)訓(xùn)練協(xié)議對(duì)預(yù)設(shè)網(wǎng) 絡(luò)模型中的參數(shù)進(jìn)行調(diào)整，例如，保持預(yù)設(shè)網(wǎng)絡(luò)模型的特征層的參數(shù)不變，對(duì)全連接層進(jìn)行 微調(diào)訓(xùn)練，對(duì)分類器層進(jìn)行重新學(xué)習(xí)調(diào)參，從而得到至少一個(gè)物品類別對(duì)應(yīng)的分類模型，如 利用一些包含貓、狗等寵物的樣本圖片集和預(yù)設(shè)訓(xùn)練協(xié)議對(duì)預(yù)設(shè)網(wǎng)絡(luò)模型中的參數(shù)進(jìn)行調(diào) 整，從而得到可以對(duì)貓、狗等寵物進(jìn)行識(shí)別的分類模型，利用這個(gè)分類模型就可以對(duì)貓、狗 等進(jìn)行寵物識(shí)別和分類。這樣，可以根據(jù)用戶需要自動(dòng)對(duì)用戶相冊(cè)中的照片進(jìn)行分類，如 將所有照片中包含貓、狗的照片分到寵物相冊(cè)，從而無(wú)需用戶手動(dòng)進(jìn)行圖片分類，提升用戶 的使用體驗(yàn)，同時(shí)由于根據(jù)物品類別的圖片集訓(xùn)練后得到的分類模型更符合物品類別的需 求，可以提高圖片識(shí)別的準(zhǔn)確率，即提高識(shí)別的召回率，減小識(shí)別的錯(cuò)誤率。
[0050] 應(yīng)當(dāng)理解的是，以上的一般描述和后文的細(xì)節(jié)描述僅是示例性和解釋性的，并不 能限制本公開(kāi)。
【附圖說(shuō)明】
[0051] 此處的附圖被并入說(shuō)明書(shū)中并構(gòu)成本說(shuō)明書(shū)的一部分，示出了符合本公開(kāi)的實(shí)施 例，并與說(shuō)明書(shū)一起用于解釋本公開(kāi)的原理。
[0052] 圖IA是根據(jù)一示例性實(shí)施例示出的分類模型構(gòu)建方法的流程圖。
[0053] 圖IB是根據(jù)一示例性實(shí)施例示出的Alex網(wǎng)絡(luò)模型的示意圖。
[0054] 圖2是根據(jù)一示例性實(shí)施例示出的另一種分類模型構(gòu)建方法的流程圖。
[0055] 圖3是根據(jù)一示例性實(shí)施例示出的再一種分類模型構(gòu)建方法的流程圖。
[0056] 圖4是根據(jù)一示例性實(shí)施例示出的又一種分類模型構(gòu)建方法的流程圖。
[0057] 圖5A是根據(jù)一示例性實(shí)施例示出的又一種分類模型構(gòu)建方法的流程圖。
[0058] 圖5B是根據(jù)一