喜報

近日，必贏3003no1線路檢測中心2020級本科生鄧陽以第一作者身份首次投稿的學術論文 Blurred-Dilated Net for Adversarial Attacks 被人工智能領域的國際頂級會議NeurIPS 2023接收。

NeurIPS，全稱為神經(jīng)信息處理系統(tǒng)大會（Conference on Neural Information Processing Systems），在中國計算機學會（CCF）的國際學術會議排名中，為人工智能領域的A類會議，也是該領域公認的國際頂級會議之一。NeurIPS創(chuàng)辦于1987年，會議主題涵蓋了機器學習、深度學習、神經(jīng)科學與認知科學、最優(yōu)化、概率方法、強化學習等眾多細分領域，旨在為來自世界各地的頂尖人工智能研究人員和從業(yè)人員提供一個交流最新研究成果和技術進展的平臺。

論文介紹

深度學習模型容易受到對抗噪聲的影響而做出錯誤的判斷，因此，在黑盒場景下生成對抗樣本來評估深度學習模型的魯棒性，就成為了一個重要的研究課題。遷移攻擊利用一個現(xiàn)有的白盒模型來生成對抗樣本，并將其直接用于攻擊遠端目標模型，是一種在黑盒場景下評估深度學習模型魯棒性的重要手段。

然而，現(xiàn)有遷移攻擊方法常常過擬合于特定源模型學到的特征，從而導致其產(chǎn)生的對抗樣本可遷移性不佳，對與源模型不同的目標模型不能產(chǎn)生良好的攻擊效果。

針對此問題，該論文提出了一種優(yōu)化模型結(jié)構的方法：模糊-空洞法。該方法通過減少源模型中的下采樣操作，并引入模糊池化和空洞卷積，來盡可能完整地保留圖像的特征信息，從而使得生成的對抗樣本可以更全面地破壞圖像的特征信息，增強其可遷移性。大量實驗表明，相比于現(xiàn)有最先進的遷移攻擊方法，利用該論文提出的方法能生成可遷移性更強的對抗樣本。此外，該論文提出的方法還可以很方便地與現(xiàn)有攻擊方法進行結(jié)合，來進一步地提高其攻擊性能。

指導老師介紹

得益于學院以全程導師制為基礎的育人體系，鄧陽同學在本科階段便加入學院助理教授吳煒濱老師的課題組開展學術研究。

吳煒濱老師目前是必贏3003no1線路檢測中心必贏3003no1線路檢測中心的助理教授，碩士生導師。他的主要研究方向包括可信人工智能、深度學習、計算機視覺、自然語言處理、智能軟件工程等，重點關注深度學習的可靠性、安全性、可解釋性與隱私性。他主持或參與了國家自然科學基金、香港研資局、深圳科創(chuàng)委等多個基金項目，為多個國際頂級會議和期刊的審稿人，如AAAI、ICLR、ICCV、ACL、TPAMI、TKDE等。近年來在NeurIPS、CVPR、ICSE等人工智能、計算機視覺、軟件工程領域的CCF A類國際頂級會議上發(fā)表論文10余篇。