喜  報(bào)

近日，必贏3003no1線路檢測中心2020級(jí)本科生吳翰、區(qū)冠彥以共同第一作者身份投稿的學(xué)術(shù)論文Improving Transferable Targeted Adversarial Attacks with Model Self-Enhancement被人工智能領(lǐng)域的國際頂級(jí)會(huì)議CVPR 2024接收。

CVPR，全稱為國際計(jì)算機(jī)視覺與模式識(shí)別會(huì)議(IEEE/CVF Computer Vision and Pattern Recognition Conference)，是全球人工智能與計(jì)算機(jī)視覺領(lǐng)域最具影響力的國際頂級(jí)學(xué)術(shù)會(huì)議之一。在中國計(jì)算機(jī)學(xué)會(huì)（CCF）推薦的國際學(xué)術(shù)會(huì)議中，CVPR為人工智能領(lǐng)域的A類會(huì)議；在谷歌學(xué)術(shù)公布的最新學(xué)術(shù)出版物影響力榜單中，CVPR在工程和計(jì)算機(jī)科學(xué)領(lǐng)域的所有學(xué)術(shù)出版物中排名第一，h5-index為422。

CVPR始辦于1983年，是由IEEE計(jì)算機(jī)協(xié)會(huì)（IEEE Computer Society）和計(jì)算機(jī)視覺基金會(huì)（Computer Vision Foundation）共同主辦的一年一度的國際學(xué)術(shù)會(huì)議，會(huì)議主題涵蓋了計(jì)算機(jī)視覺與模式識(shí)別的各個(gè)細(xì)分領(lǐng)域。

論文介紹

隨著深度神經(jīng)網(wǎng)絡(luò)在現(xiàn)實(shí)世界場景中的應(yīng)用日漸廣泛，其所面臨的安全威脅也日益加劇。為評(píng)估并解決深度神經(jīng)網(wǎng)絡(luò)的安全隱患，許多針對深度神經(jīng)網(wǎng)絡(luò)魯棒性的評(píng)測方法已被提出。作為評(píng)測深度神經(jīng)網(wǎng)絡(luò)魯棒性的常用手段之一，對抗攻擊技術(shù)近年來受到了廣泛關(guān)注和深入研究。

根據(jù)攻擊目標(biāo)的差異，對抗攻擊可以分為非定向攻擊和定向攻擊兩類。前者旨在引導(dǎo)目標(biāo)模型做出誤分類，而后者則在此基礎(chǔ)上進(jìn)一步要求將目標(biāo)模型的分類結(jié)果引導(dǎo)至特定的目標(biāo)類別。在遷移攻擊的場景下進(jìn)行定向攻擊，也就是定向遷移攻擊，還要求在未知目標(biāo)模型的情況下，利用已知的源模型來生成對抗樣本，并且使得目標(biāo)模型可以將生成的對抗樣本識(shí)別為攻擊者指定的目標(biāo)類別。因此，定向遷移攻擊成功的關(guān)鍵就在于增強(qiáng)由源模型生成的定向?qū)箻颖镜目蛇w移性。

然而，盡管在進(jìn)行非定向遷移攻擊時(shí)表現(xiàn)出色，現(xiàn)有對抗攻擊方法在進(jìn)行定向遷移攻擊時(shí)，仍存在著較大的不足。針對這一問題，該論文發(fā)現(xiàn)，對抗擾動(dòng)對泛化能力較弱的源模型的過度擬合，會(huì)在一定程度上削弱其進(jìn)行定向攻擊時(shí)的可遷移性。為此，該論文提出了一種模型增強(qiáng)方法，通過增強(qiáng)源模型、提高模型泛化性來提高其所生成的定向?qū)箻颖镜目蛇w移性。針對多種類別的深度神經(jīng)網(wǎng)絡(luò)和實(shí)際商業(yè)應(yīng)用的測試表明，相比于前沿的基準(zhǔn)方法，該論文提出的方法能生成更具有可遷移性的定向?qū)箻颖尽?/p>

指導(dǎo)老師介紹

學(xué)院構(gòu)建以全程導(dǎo)師制為基礎(chǔ)的學(xué)術(shù)育人體系，吳翰同學(xué)和區(qū)冠彥同學(xué)在本科大二階段便加入了吳煒濱助理教授的課題組接受全面的科研訓(xùn)練和開展學(xué)術(shù)研究。

吳煒濱，必贏3003no1線路檢測中心必贏3003no1線路檢測中心助理教授，碩士生導(dǎo)師，中國計(jì)算機(jī)學(xué)會(huì)軟件工程專業(yè)委員會(huì)執(zhí)行委員。主要研究方向包括可信人工智能、深度學(xué)習(xí)、計(jì)算機(jī)視覺、自然語言處理、智能軟件工程等，重點(diǎn)關(guān)注深度學(xué)習(xí)的可靠性、安全性、可解釋性與隱私性。主持或參與了國家自然科學(xué)基金、香港研資局、深圳科創(chuàng)委等多個(gè)基金項(xiàng)目，是多個(gè)國際頂級(jí)會(huì)議和期刊的審稿人，如AAAI、ICLR、ICCV、ACL、TPAMI、TKDE等。近年來在NeurIPS、CVPR、ICSE等人工智能、計(jì)算機(jī)視覺、軟件工程領(lǐng)域的CCF A類國際頂級(jí)會(huì)議上發(fā)表論文15篇。

感想和經(jīng)驗(yàn)分享

吳翰：在這篇論文的實(shí)驗(yàn)測試和論文撰寫過程中，我深刻感受到了團(tuán)隊(duì)合作的重要性。從集體討論到問題協(xié)商，這篇論文的實(shí)驗(yàn)推進(jìn)離不開各位團(tuán)隊(duì)成員的有效溝通、互相尊重和緊密協(xié)作。我還想在此衷心感謝我們的導(dǎo)師吳老師，他在我們面對難題時(shí)提供了許多專業(yè)指導(dǎo)和學(xué)術(shù)建議，為我們完成這項(xiàng)研究提供了關(guān)鍵支撐。

區(qū)冠彥：在本科期間發(fā)表一篇論文是令人激動(dòng)的，也是辛苦的。在吳老師的實(shí)驗(yàn)室里，我付出了許多時(shí)間和努力，從接觸機(jī)器學(xué)習(xí)開始，到動(dòng)手實(shí)踐寫出代碼，復(fù)現(xiàn)前人的方法，最終找到突破點(diǎn)，改進(jìn)現(xiàn)有方法。這個(gè)過程使我從以前單純的接收和學(xué)習(xí)知識(shí)，成長為能夠進(jìn)行科研創(chuàng)新，為我將來的研究生階段學(xué)習(xí)打下了良好基礎(chǔ)。我非常感謝吳老師對我的耐心指導(dǎo)和共同作者吳翰同學(xué)的緊密合作，他們不僅是這項(xiàng)研究工作成功的關(guān)鍵，也給了我許多啟發(fā)和建議。