注意力機制與改進RNN的混合音樂推薦算法研究
【文章頁數(shù)】:6 頁
【部分圖文】:
圖1 AIRNN混合模型框架圖
音樂推薦算法的任務是為用戶推薦喜愛的歌曲,將音樂分為用戶喜愛與不喜愛兩類,因此,該任務可以歸結(jié)為二分類問題.混合注意力機制的獨立循環(huán)神經(jīng)網(wǎng)絡(luò)音樂推薦算法(AttentionIndependentRecurrentNeuralNetwork,AIRNN)是在深度學習RNN的....
圖2 AIRNN推薦算法結(jié)構(gòu)圖
本文通過疊加IndRNN的基礎(chǔ)結(jié)構(gòu)構(gòu)建一個深度的IndRNN網(wǎng)絡(luò),并將網(wǎng)絡(luò)輸入的處理方式由全連接改為殘差連接并引入注意力機制,給出一種混合注意力機制的AIRNN音樂推薦算法.算法結(jié)構(gòu)圖如圖2所示.在每一個時間步長內(nèi),借助Relu非飽和激活函數(shù),梯度可以恒等映射并直接傳播到其他層.....
圖3 AIRNN算法流程圖
對式(15)取似然負對數(shù)作為損失函數(shù)可得的交叉熵損失函數(shù)為:AIRNN算法流程圖如圖3所示.首先按照順序從歌曲列表中取出數(shù)據(jù),并將數(shù)據(jù)分為音頻數(shù)據(jù)和用戶畫像兩部分,隨后把用戶歷史音樂音頻數(shù)據(jù)進行散射變換,并將從中提取的特征作為AIRNN算法的輸入,同時將用戶畫像數(shù)據(jù)輸入到DNN模....
圖4 不同數(shù)據(jù)預處理方式對算法準確度的影響
首先設(shè)置兩個仿真實驗組對照MFCC和ST預處理對算法的影響,兩組使用相同的5層AIRNN網(wǎng)絡(luò).從圖4中可以看出,在訓練達到70個epoch時,使用散射變換預處理的仿真組比使用梅爾倒譜系數(shù)的仿真組準確度高15%.這是由于使用梅爾倒譜系數(shù)預處理會使音頻信息缺失時間尺度為25ms以上的....
本文編號:4043441
本文鏈接:http://www.sikaile.net/kejilunwen/xinxigongchenglunwen/4043441.html