帶非光滑凸正則項(xiàng)的矩陣函數(shù)優(yōu)化問(wèn)題是一類在許多領(lǐng)域都有應(yīng)用的問(wèn)題,目前已有眾多關(guān)于這類問(wèn)題的工作。對(duì)于這類問(wèn)題,人們通常會(huì)利用梯度下降法對(duì)光滑函數(shù)進(jìn)行近似,得到原函數(shù)的近似函數(shù)列,近似函數(shù)列的優(yōu)化問(wèn)題為線性約束核范數(shù)最小化問(wèn)題(Linearly Constrained Nuclear Norm Minimization),在假設(shè)線性約束核范數(shù)最小化問(wèn)題可以快速精確恢復(fù)的前提下,梯度下降法的收斂速度可以達(dá)到與光滑問(wèn)題一樣的O(k/1),而在[1]中求解向量函數(shù)的優(yōu)化問(wèn)題之時(shí),使用加速梯度下降法進(jìn)行了加速,收斂速率可以達(dá)到O(κ2)。在前人的工作中使用梯度下降法解決這類矩陣優(yōu)化問(wèn)題之時(shí),通常在求解線性約束核范數(shù)最小化問(wèn)題之時(shí)采用的是半定規(guī)劃方法[45]或奇異值分解法[8],它們?cè)谟?jì)算大型矩陣之時(shí)代價(jià)較大,本文針對(duì)這一點(diǎn)選用不動(dòng)點(diǎn)延拓迭代算法(Fixed Point Continuation)[17]加以改進(jìn),改進(jìn)之后的算法可以更有效地針對(duì)較大的矩陣計(jì)算情況。

【文章頁(yè)數(shù)】：28 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
1 緒論
    1.1 內(nèi)容安排
2 背景
    2.1 多任務(wù)學(xué)習(xí)[4]
    2.2 矩陣填充[7]
3 問(wèn)題分析
    3.1 梯度下降法
    3.2 加速梯度下降法
    3.3 收斂速率
4 模型改進(jìn):不動(dòng)點(diǎn)迭代延拓算法
5 數(shù)值實(shí)驗(yàn)
6 總結(jié)與展望
7 參考文獻(xiàn)
8 致謝



本文編號(hào)：3809274