粵港澳大灣區(qū)軟件可靠性學術(shù)沙龍

2024年11月2日下午，粵港澳大灣區(qū)軟件可靠性學術(shù)沙龍在必贏3003no1線路檢測中心珠海校區(qū)瀚林2號舉行。香港科技大學王帥副教授、香港中文大學（深圳）賀品嘉助理教授、香港大學陳怡助理教授、必贏3003no1線路檢測中心網(wǎng)絡(luò)空間安全學院薛磊副教授、必贏3003no1線路檢測中心必贏3003no1線路檢測中心院長鄭子彬教授、學院多位教師以及全體研究生參加了此次論壇，論壇由學院南雨宏副教授和陳壯彬助理教授共同主持。

在本次論壇中，香港中文大學（深圳）賀品嘉助理教授作了題為“基于ICL和SFT的大模型越獄攻防研究”的報告，詳細介紹了團隊針對大模型，在“當前的訓練數(shù)據(jù)可能存在什么樣的問題”以及“什么樣的訓練數(shù)據(jù)可以訓練出更安全的模型”這兩個問題上所開展的研究。他表示，理解能力更強的大模型在面對非自然語言越獄攻擊時反而存在更大的安全風險，希望能在保持模型有效性的基礎(chǔ)上對模型進行安全微調(diào)，從而提升可靠性。

賀品嘉助理教授作學術(shù)報告

香港大學陳怡助理教授作了題為“字里行間的陷阱：從文檔表達錯誤預(yù)測代碼安全威脅”的報告，分別介紹了文檔信息不一致、信息分散以及關(guān)鍵信息缺失所帶來的安全問題，并以4G/5G及生活中的實際聚合支付場景為例進行具體闡述。她指出了研究在代碼生成前進行文檔層面的漏洞檢測的意義，這不僅能節(jié)約時間和經(jīng)濟成本，還能提高發(fā)現(xiàn)邏輯漏洞的成功率，并表示大模型會是很好的研究輔助工具。

陳怡助理教授作學術(shù)報告

香港科技大學王帥副教授作了題為“打造安全可靠的大模型系統(tǒng)”的報告。在介紹完研究視角和技術(shù)矩陣后，他分別以AC-Xray和AC-Guard這兩個安全保障平臺為例，以全要素的安全視角出發(fā)，分享了大模型從底層硬件向上直到行業(yè)應(yīng)用的相關(guān)案例及研究成果。AC-Xray在對大模型服務(wù)棧進行漏洞檢測中發(fā)現(xiàn)了側(cè)信道泄露、硬件漏洞注入、大模型非公平性等一系列問題；而AC-Guard借助混淆、水印、模型修復(fù)等技術(shù)來為大模型使用過程提供持續(xù)防護。

王帥副教授作學術(shù)報告

本次論壇還設(shè)置了圓桌交流環(huán)節(jié)。幾位參會老師就“優(yōu)秀碩博的科研成長路”這一主題展開了熱烈的討論，分享了寶貴的經(jīng)驗與見解。例如，針對“提高論文寫作質(zhì)量與效率的技巧”這一話題，賀品嘉助理教授分享了自己通過拆解和批注優(yōu)秀論文來提高寫作能力的經(jīng)驗，并表示文章內(nèi)容的表達應(yīng)該簡單直接；王帥副教授談到一篇好的文章應(yīng)該具備清晰的行文邏輯，有助于審稿人理解核心要點；陳怡助理教授則表示，寫作沒有技巧只有方法，需要給寫作和修改留出充足的時間去訓練；薛磊副教授同樣表示好的文章不僅是寫出來的，很多時候還是改出來的，論文寫作應(yīng)該是一個先完成基本思路再通過交流討論去不斷完善的過程；鄭子彬教授補充提到部分學生對于不同國際會議論文的側(cè)重點和寫作風格不夠了解，需要有自己更專注研究的子領(lǐng)域。

論壇最后，學院進行了產(chǎn)學研成果展示大賽的獲獎名單公布及頒獎活動，由參會嘉賓向獲獎同學頒發(fā)獎狀并合影留念。

產(chǎn)學研成果展示大賽頒獎環(huán)節(jié)

世紀中大，山高水長。必贏3003no1線路檢測中心在必贏3003no1線路檢測中心百年校慶之際順利舉行了粵港澳大灣區(qū)軟件可靠性學術(shù)沙龍，旨在促進參與者之間的思想碰撞和知識分享，也進一步激發(fā)了師生的創(chuàng)新思維，助力我校研究生成長及職業(yè)發(fā)展。