發(fā)布時間：2022-01-20 17:37

　　為提升網(wǎng)絡(luò)結(jié)構(gòu)的尋優(yōu)能力,提出一種改進的深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)搜索方法。針對網(wǎng)絡(luò)結(jié)構(gòu)間距難以度量的問題,結(jié)合神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)搜索方案,設(shè)計基于圖的深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)間距度量方式。對少量步數(shù)訓(xùn)練和充分訓(xùn)練2種情況下的網(wǎng)絡(luò)結(jié)構(gòu)性能進行分析,基于多樣性解的優(yōu)勢,給出一種多樣性最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)搜索方法。實驗結(jié)果表明,該方法能夠有效提高解的質(zhì)量,有助于尋找到更優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu)。 

【文章來源】：計算機工程. 2020,46(12)北大核心CSCD

【文章頁數(shù)】：9 頁

【部分圖文】：

數(shù)據(jù)流特征鄰域示意圖

其中,γin、γout和γf是常數(shù)因子,控制數(shù)據(jù)流特征和操作特征在距離度量中的重要程度,A0是屬性特征中非數(shù)值類型特征的索引集合,f v 1 A 0 ˉ 、f v 2 A 0 ˉ 表示屬性特征中去掉非數(shù)值特征值后的向量。將非數(shù)值特征和數(shù)值特征分開,符合人們的直觀認識,如圖2所示。當(dāng)類型特征和數(shù)值特征同時改變時,可以認為這樣的變動產(chǎn)生的距離大于只改變數(shù)值或只改變類型產(chǎn)生的距離。按照上述的距離定義方式,3×3的空洞卷積變成5×5的普通卷積時的距離,會大于3×3的普通卷積變成5×5的普通卷積時的距離或3×3的空洞卷積變成3×3的普通卷積時的距離。上述距離度量方法同時考慮了網(wǎng)絡(luò)連接方式和操作本身特性。2.4 結(jié)構(gòu)距離度量

訓(xùn)練步數(shù)對實驗結(jié)果的影響

【參考文獻】：
期刊論文
[1]基于類別先驗與深度神經(jīng)網(wǎng)絡(luò)特征的顯著性檢測[J]. 鄧凝旖,沈志強,郭躍飛.  計算機工程. 2017(06)



本文編號：3599245