復雜環(huán)境下的特征學習
發(fā)布時間：2021-09-23 21:08
從給定輸入數(shù)據中提取特征是機器學習成功應用的關鍵[8]。特征學習尋求從輸入數(shù)據到（通常是實數(shù)值的）特征向量的最優(yōu)轉換,該特征向量可以作為學習問題的輸入。常見的特征學習方法包括字典學習、維度約減、流形學習、距離度量學習、神經網絡等。距離度量學習作為特征學習的子領域,可以根據不同的任務自主學習出特定的度量距離函數(shù),進而提高基于相似度的學習器（如k近鄰）的學習能力,近年來得到廣泛關注。同時,機器學習領域的進展促使政府和企業(yè)將其部署在自動化系統(tǒng)中,如無人駕駛、自動交易系統(tǒng)等,這些應用要求算法在復雜環(huán)境下對已知和未知情況都能保證魯棒性[9][10]。本文考慮了現(xiàn)實中的復雜情況,在不同情形下對距離度量學習做出以下研究:1.考慮復雜環(huán)境下樣本上可能有的噪音或擾動會改變其間的關系,影響到學得的度量矩陣,本文提出在學習度量矩陣的同時近似樣本上的噪音,得到了更魯棒的學習算法。2.針對復雜環(huán)境下物體聯(lián)系的多樣性,本文給出一種考慮樣例上多種度量關系的統(tǒng)一框架。該框架通過引入操作子靈活刻畫了樣例間的關系,不僅考慮了樣本間的空間關系度量,還表達出樣本間的語義聯(lián)系。此外,該框架還可以轉化為其他已有的度量學習算法。3...
【文章來源】：南京大學江蘇省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】：75 頁
【學位級別】：碩士
【部分圖文】：
圖２．１?ＤＲＩＦＴ方法示例
?南京大學研究生畢業(yè)論文???可以擴大類別邊界。反之，處于區(qū)域“Ａ”的樣例在類別交界處，對噪聲比較敏??感，不易處理。因此，和前面的樣例相比，如果區(qū)域“Ａ”中的樣例被選做目標??近鄰，它們對應的協(xié)方差應該較小，期望距離也比較小，并且求解中其相關約束??的權重也應該小一些。??ｖ?｜?ｘ矣別１?ｘ?Ｘ?ｘ?Ｘ類釗Ｉ?｜??ｘ?Ｉ?？奚別２１＿?ｖ??Ｘ?ｘ?＼?於?／??（ａ）人造數(shù)據集?（６）?ＤＲＩＦＴ映射??１?１?＇?ｘ?１?１?１?ｔｘｖ／?？?ｗ?ｘ?？?ｙ??Ｘ矣別ｌ｜?令｜?Ｘ類ｈｉ系??ｘ?ｘ?Ｉ?？奚別２１?＾?０?＿＾＾２?ｊ：??：釋／?：銷養(yǎng)：??（Ｃ）選擇的主要結構?（０〇?分布的視覺效果??圖２．２人造數(shù)據集上ＤＲＩＦＴ性質的可視化。圖⑷－⑷分別是原始樣例，映射后的??樣例，選擇的結構和所學的分布。??２．４．２真實數(shù)據集上的結果??為了驗證ＤＲＩＦＴ方法學得的度量的分類能力，木小節(jié)在丨５個Ｋ實數(shù)據集上??通過３０次隨機實驗對比了?ＤＲＩＦＴ算法和Ｋ．他度Ｍ學法�？来螌嶒炿S機挑選??出７０％的數(shù)據作為訓練集，余下的為測試集。參數(shù)范圍設置為丨１（Ｔ２，?１０＇．．．，?１０”。??對比的方法分為三類。第一類是常用的度Ｍ學習方法：ＬＭＮＮ＾、ｄｎｅｉ３７ｉ、??ｉｔｍｌＡ?ＧＭＭＬＷ和ＲＶＭＬｌ３％第：：：類是在訓練過程中考慮輔助信息權重的方??法：ＭＳＬＭＮＮｆ５】、ＬＮＭＵ２３＿?ＭＳＭＵ４°］。最后－類是在距離〖卜算時考慮了噪音??影響或者數(shù)據分布的方法：ＳＧＤＤｌＷ和ＭＰＭＦＪ２｜１。丈驗屮使川？：近鄰方法分類，??１５??
?南京大學研究生畢業(yè)論文???成３個目標近鄰和１０個異類點組成三元組集合。然后從集合中采樣２０％的三元??組，交換近鄰樣本和異類樣本的位置，將它們作為噪音數(shù)據。因為ＬＭＮＮ、??ＭＳＬＭＮＮ和ＬＮＭＬ都是從三元組信息中學習度量，本小節(jié)比較了這三種方法和??ＤＲＩＦＴｂ。ＭＳＬＭＮＮ是個多階段方法，實驗中對其每階段新產生的輔助信息都進??行了擾動，實驗結果如圖２．３所示。??０．５－１?０．５－１??０．４?－?－?０?４?－?Ｔ?■?＿??平?千??均?ｆ?ｒ￣?ｎ?均?ｒ￣?ｒ?一１??測…?１?Ｔ?測…?１?Ｉ??？Ｍｉｌｌ?？：ｉｎＢｉＨｉ??ｌｉＵＣＵＤ?ＬＭＮＮ?ＭＳＬＭＶＮ?ＬＮＭＬ?ＤＲＵＴ?Ｉ：ＵＣＬＩＤ?ＬＭＮＮ?ＭＳＬＭＮＮ?ＬＮＭＬ?１）Ｒ�。桑�??（ａ）?ａｕｓｔｒａｌｉａ?（ｂ）?ｃｒｅｄｉｔ??０．Ｊ０－１?０．６－??平?平“．??均?ｒｔｉ?Ｈｈ?均。４．?廠—ｉ廠—ｉ??測?壽疼：：ｉ．?測?：：：１??７尺（１．０５?．?ｒ—Ｏ．Ｊ?■?Ｖ／???ｊ??＇ＩｎｉＨｉｉ?輔?ｈｉｉ??ｌ．ｌｌＣＬｉｎ?１．ＭＮＸ?ＭＳＬＭＮＮ?ＬＮＭｌ．?ＤＲＩＩＴ?ｌ：Ｕｒｉ．ＩＤ?ＬＭＮＮ?ＭＳｌ．ＭＮＮ?Ｉ．．ＭＭＩ?ＤＲ１ＩＴ??（ｃ）?ｓｉｃｋ?（ｄ）?ｓｏｎａｒ??圖２．３在有噪音的輔助信息上的算法結果比較。算法在無噪音數(shù)據上的結果用??純色表示，在有噪音數(shù)據上增加的錯誤率用對應顏色的陰影表示。誤差條表示??算法在有噪音數(shù)據上３０次實驗的均方誤差。??這里只給出了?４個數(shù)據集上的結果，除了上述三種和三元組相關的度量學習?
本文編號：3406417
【文章來源】：南京大學江蘇省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】：75 頁
【學位級別】：碩士
【部分圖文】：
圖２．１?ＤＲＩＦＴ方法示例
?南京大學研究生畢業(yè)論文???可以擴大類別邊界。反之，處于區(qū)域“Ａ”的樣例在類別交界處，對噪聲比較敏??感，不易處理。因此，和前面的樣例相比，如果區(qū)域“Ａ”中的樣例被選做目標??近鄰，它們對應的協(xié)方差應該較小，期望距離也比較小，并且求解中其相關約束??的權重也應該小一些。??ｖ?｜?ｘ矣別１?ｘ?Ｘ?ｘ?Ｘ類釗Ｉ?｜??ｘ?Ｉ?？奚別２１＿?ｖ??Ｘ?ｘ?＼?於?／??（ａ）人造數(shù)據集?（６）?ＤＲＩＦＴ映射??１?１?＇?ｘ?１?１?１?ｔｘｖ／?？?ｗ?ｘ?？?ｙ??Ｘ矣別ｌ｜?令｜?Ｘ類ｈｉ系??ｘ?ｘ?Ｉ?？奚別２１?＾?０?＿＾＾２?ｊ：??：釋／?：銷養(yǎng)：??（Ｃ）選擇的主要結構?（０〇?分布的視覺效果??圖２．２人造數(shù)據集上ＤＲＩＦＴ性質的可視化。圖⑷－⑷分別是原始樣例，映射后的??樣例，選擇的結構和所學的分布。??２．４．２真實數(shù)據集上的結果??為了驗證ＤＲＩＦＴ方法學得的度量的分類能力，木小節(jié)在丨５個Ｋ實數(shù)據集上??通過３０次隨機實驗對比了?ＤＲＩＦＴ算法和Ｋ．他度Ｍ學法�？来螌嶒炿S機挑選??出７０％的數(shù)據作為訓練集，余下的為測試集。參數(shù)范圍設置為丨１（Ｔ２，?１０＇．．．，?１０”。??對比的方法分為三類。第一類是常用的度Ｍ學習方法：ＬＭＮＮ＾、ｄｎｅｉ３７ｉ、??ｉｔｍｌＡ?ＧＭＭＬＷ和ＲＶＭＬｌ３％第：：：類是在訓練過程中考慮輔助信息權重的方??法：ＭＳＬＭＮＮｆ５】、ＬＮＭＵ２３＿?ＭＳＭＵ４°］。最后－類是在距離〖卜算時考慮了噪音??影響或者數(shù)據分布的方法：ＳＧＤＤｌＷ和ＭＰＭＦＪ２｜１。丈驗屮使川？：近鄰方法分類，??１５??
?南京大學研究生畢業(yè)論文???成３個目標近鄰和１０個異類點組成三元組集合。然后從集合中采樣２０％的三元??組，交換近鄰樣本和異類樣本的位置，將它們作為噪音數(shù)據。因為ＬＭＮＮ、??ＭＳＬＭＮＮ和ＬＮＭＬ都是從三元組信息中學習度量，本小節(jié)比較了這三種方法和??ＤＲＩＦＴｂ。ＭＳＬＭＮＮ是個多階段方法，實驗中對其每階段新產生的輔助信息都進??行了擾動，實驗結果如圖２．３所示。??０．５－１?０．５－１??０．４?－?－?０?４?－?Ｔ?■?＿??平?千??均?ｆ?ｒ￣?ｎ?均?ｒ￣?ｒ?一１??測…?１?Ｔ?測…?１?Ｉ??？Ｍｉｌｌ?？：ｉｎＢｉＨｉ??ｌｉＵＣＵＤ?ＬＭＮＮ?ＭＳＬＭＶＮ?ＬＮＭＬ?ＤＲＵＴ?Ｉ：ＵＣＬＩＤ?ＬＭＮＮ?ＭＳＬＭＮＮ?ＬＮＭＬ?１）Ｒ�。桑�??（ａ）?ａｕｓｔｒａｌｉａ?（ｂ）?ｃｒｅｄｉｔ??０．Ｊ０－１?０．６－??平?平“．??均?ｒｔｉ?Ｈｈ?均。４．?廠—ｉ廠—ｉ??測?壽疼：：ｉ．?測?：：：１??７尺（１．０５?．?ｒ—Ｏ．Ｊ?■?Ｖ／???ｊ??＇ＩｎｉＨｉｉ?輔?ｈｉｉ??ｌ．ｌｌＣＬｉｎ?１．ＭＮＸ?ＭＳＬＭＮＮ?ＬＮＭｌ．?ＤＲＩＩＴ?ｌ：Ｕｒｉ．ＩＤ?ＬＭＮＮ?ＭＳｌ．ＭＮＮ?Ｉ．．ＭＭＩ?ＤＲ１ＩＴ??（ｃ）?ｓｉｃｋ?（ｄ）?ｓｏｎａｒ??圖２．３在有噪音的輔助信息上的算法結果比較。算法在無噪音數(shù)據上的結果用??純色表示，在有噪音數(shù)據上增加的錯誤率用對應顏色的陰影表示。誤差條表示??算法在有噪音數(shù)據上３０次實驗的均方誤差。??這里只給出了?４個數(shù)據集上的結果，除了上述三種和三元組相關的度量學習?
本文編號：3406417
本文鏈接：http://www.sikaile.net/kejilunwen/zidonghuakongzhilunwen/3406417.html
最近更新
教材專著
