講座主題：人工智能安全
主講專家：薛明富
主 持 人：周曉誼（副院長）
講座時間：2023年04月11日 14:00-15:30
講座地點：線上會議号：868-323-246（騰訊會議）
專家簡介：薛明富，南京航空航天大學計算機科學與技術學院/人工智能學院副教授。博士畢業于東南大學，曾于新加坡南洋理工大學公派留學。研究方向為人工智能安全、深度學習模型版權保護、硬件安全。IEEE Senior Member、CCF Senior Member。任國家自然科學基金函評專家、教育部學位中心學位論文評審專家。已主持14個科研項目，另參與4個項目，含6個國家級項目（國家自然科學基金、JWKJW項目、XXXXXX項目等），3個省部級項目，3個CCF基金等。發表SCI/EI論文約60篇，其中約30篇SCI，11篇CCF A類/中科院1區/Transactions。獲3項論文獎。2本著作。專利10餘項。任ACM南京分會執行委員、中國人工智能學會人工智能與安全專業委員會委員、中國圖像圖形學學會數字媒體取證與安全專委會委員等多個專委會委員。任20餘個國際會議的程序委員會委員。任50餘個SCI國際期刊（包括13個Transactions）、2個CCF中文A類學報、30餘個國際會議(如CVPR、ECCV、ICCV等)的長期審稿人。
報告摘要：深度學習已廣泛應用于多個領域，包括一些安全關鍵應用中。然而，近來的研究表明，深度學習模型自身在其全生命周期中面臨着許多安全威脅，如訓練階段的投毒攻擊、後門攻擊，測試階段的對抗樣本攻擊、模型竊取攻擊、恢複敏感數據攻擊等，這将會嚴重動搖人工智能應用系統的安全性。本報告将介紹對抗環境下的深度學習模型安全性問題，包括人工智能安全的内涵，以及課題組在投毒攻擊、後門攻擊、對抗樣本、模型隐私相關方面的部分工作。
