近日,全球最負盛名的人工智能頂級國際學術會議NeurIPS 2025 公布了錄用論文。我校計算機學院能源大數據智慧計算科研團隊負責人杜海舟副教授及其碩士生向怡然、蔡藝文撰寫的長文論文《FedFree: Breaking Knowledge-sharing Barriers through Layer-wise Alignment in Heterogeneous Federated Learning》成功入選。這是該團隊連續兩年在人工智能頂級國際學術會議NeurIPS上發表分布式機器學習領域研究成果。
NeurIPS 全稱 Annual Conference on Neural Information Processing Systems,與 ICML、ICLR 并稱為人工智能領域“三大頂級會議”。該會議在中國計算機學會推薦會議列表中列為 A 類會議,在 CORE Conference Ranking 中被評為 A* 級別,其 H5-index 高達 330 以上,長期穩居全球人工智能與機器學習國際學術會議影響力之首。NeurIPS 的投稿數量和競爭激烈程度屢創新高,2025年在主會有效投稿量突破21575篇情況下,錄用率不足 24.52%,體現出其極高的學術認可度與難度。本次成果的入選,不僅代表了團隊在異構分布式機器學習研究方向上的重要進展,也標志著我校在人工智能領域的國際影響力實現了新跨越。
論文針對異構分布式機器學習(Heterogeneous Federated Learning, HtFL)中的異構模型難以聚合收斂的核心瓶頸展開研究。現有方法往往依賴代理數據或模型壓縮方法,容易帶來隱私風險與知識傳遞不完整的問題。為此,本文提出了新一代框架 FedFree,通過“逐層知識對齊”機制(layer-wise alignment),實現跨異構模型的數據無關知識共享。具體而言,FedFree 設計了反向逐層知識遷移(reverse layer-wise transfer)與知識增益熵(Knowledge Gain Entropy, KGE),在保證隱私安全的前提下,有效緩解了細粒度知識丟失問題。理論分析與實驗結果均表明,FedFree 不僅實現了嚴格的收斂性保證,而且在計算機視覺典型數據集上顯著優于現有方法,最高精度提升超過46%,展示了強大的性能提升。

圖1. FedFree框架整體架構概覽
這一研究成果對于未來的應用場景具有廣闊前景。在邊緣計算場景中,FedFree框架能夠提升異構設備間的協同建模能力;在自動駕駛與車聯網中,該框架可增強多車型、異構傳感器間的聯合學習魯棒性;在大模型訓練應用場景中,該框架可以實現有效的大小模型協同訓練效果,加速整體大模型的訓練效果,在無人機群協作及電力系統巡檢等領域,FedFree框架的數據無關與隱私保護特性能夠保障模型高效、安全地訓練。長遠來看,該框架為構建面向大模型時代的高效、安全、普適的分布式智能系統提供了新路徑。
能源大數據智慧計算團隊圍繞以人工智能為核心,在分布式機器學習、多模態和語言大模型、自然語言處理、知識圖譜等關鍵領域進行持續深耕,并已形成一系列高水平成果。近年來,團隊已有多篇高質量論文被NeurIPS、AAAI、ECAI、ECML、CIKM、ICSOC 等國際頂級學術會議錄用。展現了持續向國際頂尖科研前沿邁進的堅實步伐。團隊連續兩年論文入選 NeurIPS人工智能頂級國際學術會議,不僅是對團隊長期科研工作的高度肯定,更為我校人工智能與分布式學習方向的發展注入了新的動力。
計算機科學與技術學院 供稿