喜  報

近日，必贏3003no1線路檢測中心2020級本科生吳翰、區(qū)冠彥以共同第一作者身份投稿的學術論文Improving Transferable Targeted Adversarial Attacks with Model Self-Enhancement被人工智能領域的國際頂級會議CVPR 2024接收。

CVPR，全稱為國際計算機視覺與模式識別會議(IEEE/CVF Computer Vision and Pattern Recognition Conference)，是全球人工智能與計算機視覺領域最具影響力的國際頂級學術會議之一。在中國計算機學會（CCF）推薦的國際學術會議中，CVPR為人工智能領域的A類會議；在谷歌學術公布的最新學術出版物影響力榜單中，CVPR在工程和計算機科學領域的所有學術出版物中排名第一，h5-index為422。

CVPR始辦于1983年，是由IEEE計算機協(xié)會（IEEE Computer Society）和計算機視覺基金會（Computer Vision Foundation）共同主辦的一年一度的國際學術會議，會議主題涵蓋了計算機視覺與模式識別的各個細分領域。

論文介紹

隨著深度神經(jīng)網(wǎng)絡在現(xiàn)實世界場景中的應用日漸廣泛，其所面臨的安全威脅也日益加劇。為評估并解決深度神經(jīng)網(wǎng)絡的安全隱患，許多針對深度神經(jīng)網(wǎng)絡魯棒性的評測方法已被提出。作為評測深度神經(jīng)網(wǎng)絡魯棒性的常用手段之一，對抗攻擊技術近年來受到了廣泛關注和深入研究。

根據(jù)攻擊目標的差異，對抗攻擊可以分為非定向攻擊和定向攻擊兩類。前者旨在引導目標模型做出誤分類，而后者則在此基礎上進一步要求將目標模型的分類結(jié)果引導至特定的目標類別。在遷移攻擊的場景下進行定向攻擊，也就是定向遷移攻擊，還要求在未知目標模型的情況下，利用已知的源模型來生成對抗樣本，并且使得目標模型可以將生成的對抗樣本識別為攻擊者指定的目標類別。因此，定向遷移攻擊成功的關鍵就在于增強由源模型生成的定向?qū)箻颖镜目蛇w移性。

然而，盡管在進行非定向遷移攻擊時表現(xiàn)出色，現(xiàn)有對抗攻擊方法在進行定向遷移攻擊時，仍存在著較大的不足。針對這一問題，該論文發(fā)現(xiàn)，對抗擾動對泛化能力較弱的源模型的過度擬合，會在一定程度上削弱其進行定向攻擊時的可遷移性。為此，該論文提出了一種模型增強方法，通過增強源模型、提高模型泛化性來提高其所生成的定向?qū)箻颖镜目蛇w移性。針對多種類別的深度神經(jīng)網(wǎng)絡和實際商業(yè)應用的測試表明，相比于前沿的基準方法，該論文提出的方法能生成更具有可遷移性的定向?qū)箻颖尽?/p>

指導老師介紹

學院構(gòu)建以全程導師制為基礎的學術育人體系，吳翰同學和區(qū)冠彥同學在本科大二階段便加入了吳煒濱助理教授的課題組接受全面的科研訓練和開展學術研究。

吳煒濱，必贏3003no1線路檢測中心必贏3003no1線路檢測中心助理教授，碩士生導師，中國計算機學會軟件工程專業(yè)委員會執(zhí)行委員。主要研究方向包括可信人工智能、深度學習、計算機視覺、自然語言處理、智能軟件工程等，重點關注深度學習的可靠性、安全性、可解釋性與隱私性。主持或參與了國家自然科學基金、香港研資局、深圳科創(chuàng)委等多個基金項目，是多個國際頂級會議和期刊的審稿人，如AAAI、ICLR、ICCV、ACL、TPAMI、TKDE等。近年來在NeurIPS、CVPR、ICSE等人工智能、計算機視覺、軟件工程領域的CCF A類國際頂級會議上發(fā)表論文15篇。

感想和經(jīng)驗分享

吳翰：在這篇論文的實驗測試和論文撰寫過程中，我深刻感受到了團隊合作的重要性。從集體討論到問題協(xié)商，這篇論文的實驗推進離不開各位團隊成員的有效溝通、互相尊重和緊密協(xié)作。我還想在此衷心感謝我們的導師吳老師，他在我們面對難題時提供了許多專業(yè)指導和學術建議，為我們完成這項研究提供了關鍵支撐。

區(qū)冠彥：在本科期間發(fā)表一篇論文是令人激動的，也是辛苦的。在吳老師的實驗室里，我付出了許多時間和努力，從接觸機器學習開始，到動手實踐寫出代碼，復現(xiàn)前人的方法，最終找到突破點，改進現(xiàn)有方法。這個過程使我從以前單純的接收和學習知識，成長為能夠進行科研創(chuàng)新，為我將來的研究生階段學習打下了良好基礎。我非常感謝吳老師對我的耐心指導和共同作者吳翰同學的緊密合作，他們不僅是這項研究工作成功的關鍵，也給了我許多啟發(fā)和建議。