基于堆疊式自編碼器的新型分子毒性預(yù)測模型
發(fā)布時間:2021-03-30 23:52
本文提出了一種新型的分子毒性預(yù)測模型,采用堆疊式自編碼器(SAE)對高維的稀疏數(shù)據(jù)進行特征提取,而后對分類器進行改進,使用膠囊網(wǎng)絡(luò)作為分類器進行毒性預(yù)測分類,為了證明該模型的有效性,我們將SAE+CAPS與傳統(tǒng)的softmax分類器和SAE+softmax分類器進行了對比,實驗結(jié)果表明相較于另外兩種模型而言該模型擁有更高的性能。
【文章來源】:電子技術(shù)與軟件工程. 2020,(15)
【文章頁數(shù)】:2 頁
【部分圖文】:
SAE+CAPS結(jié)構(gòu)
堆疊式自動編碼器(SAE)由多個層組成,每個層由單個AE學(xué)習(xí)。在無監(jiān)督特征提取中,采用貪婪式分層預(yù)訓(xùn)練進行逐層初始化,通過微調(diào)來訓(xùn)練最終的SAE模型。具體來說,貪婪式分層方法是原始輸入數(shù)據(jù)通過在第一層AE上的訓(xùn)練,得到第一級的特征,然后將第一級的特征作為輸入在第二層AE訓(xùn)練得到下一級的特征,一直到最后一層的AE,最終可以得到信息充分、維數(shù)較低的特征提取。因此,自編碼器的疊加可以實現(xiàn)對原始數(shù)據(jù)的特征提取,同時可以達到降維的效果得到維數(shù)較低的特征。上述過程是SAE的與訓(xùn)練過程,這個過程中可以實現(xiàn)特征的提取,但是并不具備分類功能,因此通常在SAE后添加一個分類器來達到預(yù)測分類的效果。在預(yù)訓(xùn)練完成后應(yīng)用反向傳播算法,利用隨機梯度下降算法對整個SAE進行微調(diào),堆疊式自編碼器(SAE)的結(jié)構(gòu)圖如圖1所示。圖2:膠囊網(wǎng)絡(luò)的機構(gòu)
膠囊網(wǎng)絡(luò)的機構(gòu)
本文編號:3110372
【文章來源】:電子技術(shù)與軟件工程. 2020,(15)
【文章頁數(shù)】:2 頁
【部分圖文】:
SAE+CAPS結(jié)構(gòu)
堆疊式自動編碼器(SAE)由多個層組成,每個層由單個AE學(xué)習(xí)。在無監(jiān)督特征提取中,采用貪婪式分層預(yù)訓(xùn)練進行逐層初始化,通過微調(diào)來訓(xùn)練最終的SAE模型。具體來說,貪婪式分層方法是原始輸入數(shù)據(jù)通過在第一層AE上的訓(xùn)練,得到第一級的特征,然后將第一級的特征作為輸入在第二層AE訓(xùn)練得到下一級的特征,一直到最后一層的AE,最終可以得到信息充分、維數(shù)較低的特征提取。因此,自編碼器的疊加可以實現(xiàn)對原始數(shù)據(jù)的特征提取,同時可以達到降維的效果得到維數(shù)較低的特征。上述過程是SAE的與訓(xùn)練過程,這個過程中可以實現(xiàn)特征的提取,但是并不具備分類功能,因此通常在SAE后添加一個分類器來達到預(yù)測分類的效果。在預(yù)訓(xùn)練完成后應(yīng)用反向傳播算法,利用隨機梯度下降算法對整個SAE進行微調(diào),堆疊式自編碼器(SAE)的結(jié)構(gòu)圖如圖1所示。圖2:膠囊網(wǎng)絡(luò)的機構(gòu)
膠囊網(wǎng)絡(luò)的機構(gòu)
本文編號:3110372
本文鏈接:http://www.sikaile.net/yixuelunwen/swyx/3110372.html
最近更新
教材專著