主講人:專家
講座時間:2025-06-12 13:20:00
講座地點:臨港校區(qū)學(xué)術(shù)樓301
主辦單位:上海市計算機(jī)學(xué)會信息安全專委會;承辦單位:上海電力大學(xué);協(xié)辦:華為可信領(lǐng)域科學(xué)家委員會
主講人簡介:【1】張謐,復(fù)旦大學(xué)計算與智能創(chuàng)新學(xué)院教授,博導(dǎo),白澤AI團(tuán)隊負(fù)責(zé)人,專注于對話大模型、多模態(tài)大模型與智能體安全研究。曾深度參與信安標(biāo)委《生成式人工智能服務(wù)安全基本要求》、《人工智能生成合成內(nèi)容標(biāo)識辦法》等多項國家/行業(yè)標(biāo)準(zhǔn)起草/建議工作;主持科
技部重點研發(fā)計劃課題等,并主持奇安信、阿里、華為等企業(yè)項目,曾獲CCF科學(xué)技術(shù)獎自然科學(xué)二等獎等榮譽(yù);在網(wǎng)絡(luò)安全與AI領(lǐng)域頂會頂刊發(fā)表學(xué)術(shù)成果近百篇,包括S&P、USENIX Security、 CCS、 TDSC、 TIFS、 TPAMI、 TKDE、 ICML、 NeurIPS、 AAAI、
CVPR、ICDE等。團(tuán)隊培養(yǎng)碩博數(shù)十人,畢業(yè)生就業(yè)去向包括大廠、各大高校等。
【2】熊贇,教授,博士生導(dǎo)師。上海市數(shù)據(jù)科學(xué)重點實驗室副主任。研究方向數(shù)據(jù)科學(xué)、大數(shù)據(jù)。研究工作獲得了國家、省部級以及企業(yè)資助。發(fā)表論文100余篇,出版專著4本。曾獲中國計算機(jī)學(xué)會科學(xué)技術(shù)發(fā)明獎、上海市科技進(jìn)步獎等獎項。在國內(nèi)率先開展數(shù)據(jù)科學(xué)的研
究工作,提出了一批新型的大數(shù)據(jù)智能挖掘算法,這些算法已經(jīng)被應(yīng)用于證券交易所、醫(yī)聯(lián)平臺、交通信息中心等上海市大數(shù)據(jù)建設(shè)重要領(lǐng)域。
【3】符春輝,杭州安恒信息技術(shù)股份有限公司 智能檢測與終端產(chǎn)品線副總裁、CCF人工智能與模式識別專委委員;負(fù)責(zé)過多款漏洞掃描產(chǎn)品的開發(fā),包括工具箱、漏洞掃描、資產(chǎn)脆弱性及漏洞管理系統(tǒng)等;對主機(jī)、Web安全有非常深入的研究,目前聚焦在大模型安全研究,
是公司首款大模型安全產(chǎn)品“大模型風(fēng)險評估系統(tǒng)”的負(fù)責(zé)人;參與過多個地區(qū)的地標(biāo)、大型央國企的企標(biāo)的制定和審核,牽頭與中國軟件測評中心輸出《Top開源大模型安全測評報告(2024)》。
【4】孟國柱 ,2017年博士畢業(yè)于新加坡南洋理工大學(xué),2018年加入中國科學(xué)院信息工程研究所擔(dān)任副研究員。曾獲2019年ACM SIGSAC中國新星獎,2022年北京市科技新星,北京市科技進(jìn)步一等獎,電子學(xué)會科技進(jìn)步一等獎等。主要研究方向包括軟件與系統(tǒng)安全、人工
智能安全與隱私,在ACM CCS,USENIX Security,ICSE等學(xué)術(shù)會議和期刊上發(fā)表CCF-A類論文30余篇。
講座內(nèi)容:隨著大模型技術(shù)的飛速發(fā)展,人工智能正以前所未有的速度改變著各行各業(yè)。從自然語言處理到計算機(jī)視覺,從生成式AI到多模態(tài)融合,大模型展現(xiàn)出強(qiáng)大的能力,同時也帶來了諸多安全挑戰(zhàn)。數(shù)據(jù)隱私泄露、模型對抗攻擊、內(nèi)容生成濫用、算法偏見與歧視等問題日益突出,成為制約AI技術(shù)可持續(xù)發(fā)展的關(guān)鍵瓶頸。在此背景下,如何構(gòu)建安全可信的人工智能系統(tǒng),已成為學(xué)術(shù)界、產(chǎn)業(yè)界和監(jiān)管機(jī)構(gòu)共同關(guān)注的核心議題。
本次技術(shù)論壇以“大模型時代的AI安全:從理論到實踐”為主題,旨在匯聚來自學(xué)術(shù)界、工業(yè)界及政策制定領(lǐng)域的專家學(xué)者,圍繞AI安全的核心挑戰(zhàn)展開深入探討。論壇將聚焦于大模型在實際應(yīng)用中的安全風(fēng)險識別、評估與治理,分享最新的研究成果與工程實踐經(jīng)驗,推動建立科學(xué)合理的AI安全標(biāo)準(zhǔn)與治理體系。通過理論與實踐的結(jié)合,促進(jìn)跨學(xué)科交流與合作,助力打造更加可信、可控、可解釋的新一代人工智能系統(tǒng),為AI技術(shù)的健康發(fā)展提供堅實保障。
時間
| 內(nèi)容 |
13:30-13:40
| 開幕式,領(lǐng)導(dǎo)致辭 |
| 13:40-14:20 | 報告01:張謐 題目:大模型安全風(fēng)險與治理—復(fù)旦白澤助力負(fù)責(zé)任AI |
14:20-15:00
| 報告02:熊贇 題目:領(lǐng)域大模型方法研究與安全挑戰(zhàn) |
15:00-15:10
| 中場休息 |
15:10-15:50
| 報告03:符春輝 題目:讓智能更安全:大模型風(fēng)險識別與防范 |
| 15:50-16:30 | 報告04:孟國柱 題目:保護(hù)AI系統(tǒng):現(xiàn)實部署的風(fēng)險與挑戰(zhàn) |