歡迎進入 澳門城市大學 科研管理處

澳城大學者Q1研究成果 聚焦人工智能機器學習


發佈日期:2023/07/31
  • 分享至:

 隨著科技的進步,機器學習技術正逐漸發展成熟成為一項值得重視的高新技術。高新技術為特區政府積極推動發展的四大產業之一,為響應促進澳門經濟適度多元發展之號召,澳門城市大學數據科學學院以產業導向作為研究方向,應作斌副教授以通訊作者身份於SCI索引Q1期刊《Information Sciences》發表研究論文 “ Membership Reconstruction Attack in Deep Neural Networks”。

 

    為了進一步增強機器學習系統的可靠性,越來越多的研究致力於相應的隱私保護技術。特別是成其員私,側重於披露是否在的機密訓練集中呈現特定數據點。然而,最新的研究所構建的攻擊只追求攻擊的准確性,幾乎沒有將其範圍擴展到有助於成員/非成員分類的證據。這在很大程度上限制了成員推斷攻擊的實用性,特別是實際的數據通常包含多個特征沒,因此確定以下哪一項在敏感訓練集中實際涉及到的特征是一個重大挑戰。為此,在該項研究中,我們研究一個成員推理攻擊的基本挑戰之一:度量攻擊樣本和成員樣本之間的距離。特別地,我們提出了一種新的成員重構攻擊(MRA)威脅模型,攻擊者旨在重建目標訓練集的精確分布。MRA通過標記每個輸入來實現這一點維度(例如,圖片中的像素),根據其與中的目標數據集的相似性

功能空間。我們的攻擊在各種集合中證明了其有效性,包括不同的主要數據集(MNIST、CIFAR-10、CIFAR-100)以及不同的模型體系結構(AlexNet、ResNet、DenseNet和一般模型)。我們還從防禦者的角度評估成員重構攻擊,以及針對我們的攻擊測試幾種防禦方法

    在數據科學學院瞄準國際科技前沿、聚焦創新發展、發揮學科優勢的重要戰略指導下該研究秉持加強本澳科技力量的累積、為澳門產業多元化助力的宗旨,聚焦於區塊鏈、聯邦學習等高新技術,開展了針對多方機器學習隱私保護的一系列研究,為本澳區塊鏈技術的發展貢獻了一份力量。

     澳城大鼓勵跨學科組建科研團隊,以交叉科學視角聚焦業界前沿問題,歡迎學術同仁參與聯合科研攻關。

應作斌副教授聯繫方式:zbying@cityu.mo

 



 
瀏覽次數:420