6月12日下午，由上海市計算機學會信息安全專委會主辦、我校承辦、華為可信領域科學家委員會協辦的“大模型時代的AI安全：從理論到實踐”技術論壇，在我校臨港校區舉行。我校黨委副書記、紀委書記張艷林出席并致辭，計算機科學與技術學院黨委副書記齊永曉、華為可信領域科學家委員會首席科學家金意兒，以及來自學術界、產業界的專家學者、我校教師及各學院學生共百余人參加論壇。本次論壇由計算機科學與技術學院院長溫蜜主持。本次論壇匯聚了國內AI安全領域的頂尖專家學者，呈現了四場精彩紛呈的特邀報告。

張艷林在開幕式致辭中談到，人工智能是國家“十四五”和“十五五”規劃中科技創新體系的核心戰略方向，作為能源電力特色鮮明的高等院校，學校始終緊扣國家需求，積極探索人工智能與能源電力深度融合，在智能電網、能源大數據、網絡信息安全等方向取得了顯著成果。面對大模型帶來的機遇與挑戰，特別是日益凸顯的數據隱私、算法偏見、系統風險等安全問題，高校必須成為連接科技創新與產業發展的橋梁，通過深化“產教融合、科教融合”，推動教育鏈、人才鏈與產業鏈、創新鏈有機銜接，為AI技術的可持續發展和安全可控應用貢獻力量。未來，學校將繼續聚焦人工智能在能源系統中的應用場景與安全保障，強化跨學科協同，打造面向“雙碳”目標的人工智能創新高地。

金意兒在致辭中表示，大模型技術在為諸多領域帶來革命性賦能的同時，其伴生的數據隱私泄露、模型對抗攻擊、內容生成濫用、算法偏見等問題已成為制約AI可持續發展的關鍵瓶頸。構建理論支撐與實踐規范并重的安全體系，發展可信、可控、可解釋的新一代人工智能，需要學術界、產業界和政策制定者的緊密協作。

在特邀報告環節，復旦大學張謐教授作題為《大模型安全風險與治理—復旦白澤助力負責任AI》的報告。報告深入剖析了通用人工智能（AGI）面臨的安全倫理風險及多種攻擊模式，并分享了其團隊開發的“復旦白澤AI大模型安全評估與治理平臺AADE”在推動大模型健康發展方面的作用，強調了在全球治理框架下建立安全風險攻關機制的重要性。

上海市數據科學重點實驗室副主任、復旦大學熊贇教授以《領域大模型方法研究與安全挑戰》為題，介紹了大模型在行業領域（如金融、醫保、交通）的構建方法、應用案例及其展現的強大能力，同時著重指出了領域大模型在實際應用中面臨的安全挑戰。

杭州安恒信息技術股份有限公司智能檢測與終端產品線總裁符春輝作《讓智能更安全：大模型風險識別與防范》的報告，通過理論闡述與案例分析相結合的方式，全面揭示了大模型在數據、模型、內容等維度面臨的安全風險，系統介紹了實用的風險識別方法與防范策略，并強調了技術創新與合規治理協同的必要性。

中國科學院信息工程研究所副研究員孟國柱博士帶來了《保護AI系統：現實部署的風險與挑戰》的報告，點出了在聚焦于AI模型在真實世界部署后遇到的、超越傳統研究的軟硬件新威脅，分析了當前保護措施的局限性、計算框架的缺陷以及大模型應用特有的安全風險，為實際應用中的安全保障提供了新視角。

專家們嚴謹的科研態度、豐碩的科研成果和精彩的演講，引起了會議現場老師和同學們的極大興趣和積極反響，師生們踴躍提問交流。

本次論壇為學界與產業界搭建了高水平的交流平臺，有效促進了AI安全領域前沿思想與實踐經驗的碰撞與融合。論壇聚焦的核心挑戰與提出的應對思路，將為我國人工智能安全標準的制定、治理體系的完善以及在關鍵行業（尤其是能源電力領域）的安全落地應用提供重要的參考和推動力。我校也將繼續發揮自身學科優勢，攜手各方合作伙伴，為構建安全、高效、綠色、智能的現代能源體系持續貢獻智慧與力量。

計算機科學與技術學院 供稿