點(diǎn)擊率預(yù)估作為推薦系統(tǒng)、在線廣告等業(yè)務(wù)場景的核心研究問題,在整個(gè)互聯(lián)網(wǎng)領(lǐng)域有著舉足輕重的作用。近年來,人工智能、深度學(xué)習(xí)在計(jì)算機(jī)視覺、自然語言處理領(lǐng)域取得的眾多研究進(jìn)展,使得各大互聯(lián)網(wǎng)企業(yè)和相關(guān)研究機(jī)構(gòu)在將深度學(xué)習(xí)應(yīng)用于點(diǎn)擊率預(yù)估的問題上做了許多的探索和研究,并取得了一系列優(yōu)秀的成果。本文通過對(duì)近年來一系列深度學(xué)習(xí)技術(shù)在點(diǎn)擊率預(yù)估問題上研究成果的總結(jié),發(fā)現(xiàn)現(xiàn)今存在的很多基于深度學(xué)習(xí)技術(shù)的點(diǎn)擊率預(yù)估模型,在針對(duì)用戶個(gè)性化偏好的挖掘上還存在諸多缺陷和不足,尤其是在對(duì)用戶歷史行為序列特征的利用上,仍有許多可以優(yōu)化和提高的空間。在此背景下,本文通過研究計(jì)算機(jī)視覺、自然語言處理領(lǐng)域深度學(xué)習(xí)的各種獨(dú)特網(wǎng)絡(luò)結(jié)構(gòu),以及自身對(duì)各種網(wǎng)絡(luò)結(jié)構(gòu)的實(shí)驗(yàn)和探索,提出了一種基于深度偏好網(wǎng)絡(luò)的點(diǎn)擊率預(yù)估模型。論文主要內(nèi)容包括以下三個(gè)方面:第一、對(duì)近年來涌現(xiàn)的各種基于深度學(xué)習(xí)技術(shù)的點(diǎn)擊率預(yù)估模型進(jìn)行歸納綜述,并根據(jù)模型的結(jié)構(gòu)特點(diǎn)和應(yīng)用范圍對(duì)各個(gè)模型進(jìn)行分類總結(jié)。在此基礎(chǔ)上,對(duì)基于DNN的點(diǎn)擊率預(yù)估模型的相關(guān)技術(shù)和Attention機(jī)制及相關(guān)變形結(jié)構(gòu)的理論原理進(jìn)行了詳細(xì)的闡述。第二、提出了一種用于挖掘用戶個(gè)性化偏好信息的... 

【文章來源】：北京大學(xué)北京市 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：64 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

基于Attention機(jī)制的Seq2Seq模型結(jié)構(gòu)圖

基于深度偏好網(wǎng)絡(luò)的點(diǎn)擊率預(yù)估模針對(duì) CTR 預(yù)估模型的過擬合問相結(jié)合的正則化方法，可以使單元。深度神經(jīng)網(wǎng)絡(luò)之所以可就是神經(jīng)網(wǎng)絡(luò)中非線性單元的可以避免模型出現(xiàn)梯度彌散問訓(xùn)練時(shí)間。模型收斂速度方面有良好效果Linear Unit）函數(shù)[48]，其函數(shù)圖

可以避免模型出現(xiàn)梯度彌散問訓(xùn)練時(shí)間。模型收斂速度方面有良好效果Linear Unit）函數(shù)[48]，其函數(shù)圖圖 3-5 ReLU 激活函數(shù)函數(shù)在 y 值小于 0 時(shí)的輸出值為。為了解決這個(gè)問題，又有人提d Linear Unit）函數(shù)[49]，其函數(shù)


本文編號(hào)：3098766