喜報(bào)

近日，必贏3003no1線路檢測(cè)中心2020級(jí)本科生鄧陽(yáng)以第一作者身份首次投稿的學(xué)術(shù)論文 Blurred-Dilated Net for Adversarial Attacks 被人工智能領(lǐng)域的國(guó)際頂級(jí)會(huì)議NeurIPS 2023接收。

NeurIPS，全稱為神經(jīng)信息處理系統(tǒng)大會(huì)（Conference on Neural Information Processing Systems），在中國(guó)計(jì)算機(jī)學(xué)會(huì)（CCF）的國(guó)際學(xué)術(shù)會(huì)議排名中，為人工智能領(lǐng)域的A類會(huì)議，也是該領(lǐng)域公認(rèn)的國(guó)際頂級(jí)會(huì)議之一。NeurIPS創(chuàng)辦于1987年，會(huì)議主題涵蓋了機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、神經(jīng)科學(xué)與認(rèn)知科學(xué)、最優(yōu)化、概率方法、強(qiáng)化學(xué)習(xí)等眾多細(xì)分領(lǐng)域，旨在為來(lái)自世界各地的頂尖人工智能研究人員和從業(yè)人員提供一個(gè)交流最新研究成果和技術(shù)進(jìn)展的平臺(tái)。

論文介紹

深度學(xué)習(xí)模型容易受到對(duì)抗噪聲的影響而做出錯(cuò)誤的判斷，因此，在黑盒場(chǎng)景下生成對(duì)抗樣本來(lái)評(píng)估深度學(xué)習(xí)模型的魯棒性，就成為了一個(gè)重要的研究課題。遷移攻擊利用一個(gè)現(xiàn)有的白盒模型來(lái)生成對(duì)抗樣本，并將其直接用于攻擊遠(yuǎn)端目標(biāo)模型，是一種在黑盒場(chǎng)景下評(píng)估深度學(xué)習(xí)模型魯棒性的重要手段。

然而，現(xiàn)有遷移攻擊方法常常過(guò)擬合于特定源模型學(xué)到的特征，從而導(dǎo)致其產(chǎn)生的對(duì)抗樣本可遷移性不佳，對(duì)與源模型不同的目標(biāo)模型不能產(chǎn)生良好的攻擊效果。

針對(duì)此問(wèn)題，該論文提出了一種優(yōu)化模型結(jié)構(gòu)的方法：模糊-空洞法。該方法通過(guò)減少源模型中的下采樣操作，并引入模糊池化和空洞卷積，來(lái)盡可能完整地保留圖像的特征信息，從而使得生成的對(duì)抗樣本可以更全面地破壞圖像的特征信息，增強(qiáng)其可遷移性。大量實(shí)驗(yàn)表明，相比于現(xiàn)有最先進(jìn)的遷移攻擊方法，利用該論文提出的方法能生成可遷移性更強(qiáng)的對(duì)抗樣本。此外，該論文提出的方法還可以很方便地與現(xiàn)有攻擊方法進(jìn)行結(jié)合，來(lái)進(jìn)一步地提高其攻擊性能。

指導(dǎo)老師介紹

得益于學(xué)院以全程導(dǎo)師制為基礎(chǔ)的育人體系，鄧陽(yáng)同學(xué)在本科階段便加入學(xué)院助理教授吳煒濱老師的課題組開(kāi)展學(xué)術(shù)研究。

吳煒濱老師目前是必贏3003no1線路檢測(cè)中心必贏3003no1線路檢測(cè)中心的助理教授，碩士生導(dǎo)師。他的主要研究方向包括可信人工智能、深度學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、智能軟件工程等，重點(diǎn)關(guān)注深度學(xué)習(xí)的可靠性、安全性、可解釋性與隱私性。他主持或參與了國(guó)家自然科學(xué)基金、香港研資局、深圳科創(chuàng)委等多個(gè)基金項(xiàng)目，為多個(gè)國(guó)際頂級(jí)會(huì)議和期刊的審稿人，如AAAI、ICLR、ICCV、ACL、TPAMI、TKDE等。近年來(lái)在NeurIPS、CVPR、ICSE等人工智能、計(jì)算機(jī)視覺(jué)、軟件工程領(lǐng)域的CCF A類國(guó)際頂級(jí)會(huì)議上發(fā)表論文10余篇。