計算機科學學院研究生麻斌豪等在《Neural Networks》發表研究成果
作者：孟博 編輯：由永慧 上傳：由永慧 審核： 柯尊韜 發布時間：2023-10-20 瀏覽次數：
計算機科學學院研究生麻斌豪等在《Neural Networks》發表研究成果
我校計算機科學學院碩士研究生麻斌豪以第一作者在人工智能頂刊《Neural Networks》上發表論文：Multi-domain Active Defense: Detecting Multi-domain backdoor poisoned samples via ALL to ALL Decoupling Training without clean datasets （2023, 168:350-362；https://www.sciencedirect.com/science/article/pii/S0893608023005324?via%3Dihub）。孟博教授為唯一通訊作者，我校為第一且唯一署名單位。
圖 多域主動防御方法框架
深度學習容易受到后門攻擊，在這種攻擊中，攻擊者可以通過向訓練集中注入中毒樣本，輕松地將隱藏的后門嵌入到訓練好的模型中。許多用于檢測后門中毒攻擊的先進技術都是基于潛在可分性假設。然而，目前的自適應中毒策略會大大降低 "可區分行為"，從而使大多數先前的先進技術變得不那么有效。此外，現有的檢測方法對于多域數據集來說并不實用，而且可能會泄露用戶隱私，因為它們需要并收集干凈的樣本。
為了解決上述問題，該論文提出了一種不使用干凈數據集的多域主動防御方法。所提出的方法可以生成不同域的干凈樣本，并利用干凈樣本逐輪解耦神經網絡，從而解除特征和標簽之間的關聯，使后門中毒樣本更容易被檢測。
Neural Networks 是一個專注于神經網絡和深度學習研究的學術期刊。該期刊發布了關于神經網絡、深度學習、機器學習和相關領域的原創研究論文、綜述文章和技術報告。在人工智能領域具有較高的國際影響力，是中科院SCI一區TOP期刊。
作者：孟博 編輯：由永慧 審核：柯尊韜 上傳：由永慧
