近日,我校計算機科學與技術學院王亮亮副教授及其碩士研究生楊清倩在聯(lián)邦學習安全方向取得重要研究成果。相關論文《Stealthy Backdoor Attack in Federated Learning via Adaptive Layer-wise Gradient Alignment》以上海電力大學第一單位及研究生第一作者身份被國際計算機視覺與人工智能領域頂級會議ICCV 2025(CCF-A類)錄用,合作單位包括上海交通大學。
該研究聚焦于聯(lián)邦學習中的后門攻擊問題,針對現(xiàn)有攻擊方法在攻擊強度和隱蔽性之間難以兼顧的問題,提出了一種新型的自適應分層梯度對齊策略。傳統(tǒng)后門攻擊通常存在顯著的“可檢測性與有效性”權衡:攻擊越強,越容易被防御機制識別;而為了規(guī)避檢測,攻擊強度往往不得不減弱,從而影響實際效果。
為此,論文提出的方法以歷史全局模型更新作為對齊參考,在無需任何額外信息的前提下,引導本地模型在各層級進行精細化更新,有效增強攻擊隱蔽性,同時保持后門的注入效果。該策略具備良好的通用性和可擴展性,能夠在多種網絡結構和數(shù)據(jù)場景下適用。
大量實驗結果表明,該方法能夠成功規(guī)避多種先進防御機制(SOTA),在多個公開數(shù)據(jù)集上實現(xiàn)最高可達54.76%的攻擊性能提升,顯著優(yōu)于現(xiàn)有主流方法。同時,該策略在魯棒性測試中表現(xiàn)穩(wěn)定,展現(xiàn)出較強的適應能力與泛化能力。

該項成果為構建更系統(tǒng)、更具對抗性評估能力的聯(lián)邦學習安全框架提供了理論支持與實踐驗證,也為今后聯(lián)邦學習中的攻防對抗研究提供了重要參考。
計算機科學與技術學院 供稿