公司

首頁(yè) > 關(guān)于我們 > 安恒動(dòng)態(tài) > 2022 > 正文

上榜國(guó)際頂級(jí)學(xué)術(shù)期刊，安恒信息聯(lián)邦學(xué)習(xí)領(lǐng)航科技創(chuàng)新

閱讀量：次 文章來(lái)源：安恒信息

近日，由安恒信息博士后工作站的劉恬博士主導(dǎo)的針對(duì)聯(lián)邦學(xué)習(xí)的安全攻擊研究“FacilitatingEarly-Stage Backdoor Attacks in Federated Learning with Whole PopulationDistribution Inference”，被物聯(lián)網(wǎng)領(lǐng)域國(guó)際頂級(jí)學(xué)術(shù)期刊《IEEE Internet of ThingsJournal》收錄并在線發(fā)表。

IEEE Internet of Things Journal（簡(jiǎn)稱IoTJ）是國(guó)際電氣和電子工程師協(xié)會(huì)（IEEE）于2014年創(chuàng)建的物聯(lián)網(wǎng)領(lǐng)域的頂級(jí)期刊。該期刊最新的影響因子高達(dá)10.238，是SCI檢索期刊，同時(shí)也是中科院一區(qū)Top期刊以及JCR一區(qū)期刊。該研究的第一作者是安恒信息博士后工作站的劉恬博士，其第一完成單位為之江實(shí)驗(yàn)室和安恒信息。

研究背景

隨著聯(lián)邦學(xué)習(xí)在各個(gè)領(lǐng)域的普及，其安全性變得愈發(fā)重要。聯(lián)邦學(xué)習(xí)涉及多個(gè)參與方共同訓(xùn)練模型。由于無(wú)法驗(yàn)證參與方上傳的模型的合法性，可能會(huì)遭受來(lái)自惡意參與方的后門攻擊，即惡意參與方對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行投毒，目的是使聯(lián)邦模型對(duì)于帶有特定“后門”的數(shù)據(jù)錯(cuò)誤分類。在實(shí)際場(chǎng)景中，多次注入的后門攻擊可以取得較好的攻擊效果，然而單次后門攻擊在現(xiàn)實(shí)場(chǎng)景中的攻擊效果有限。

研究?jī)?nèi)容

該研究首先分析了單次后門攻擊受限的原因。后門攻擊通過(guò)對(duì)聯(lián)邦學(xué)習(xí)全局模型進(jìn)行替換以達(dá)到攻擊目的。由于在聯(lián)邦學(xué)習(xí)模型聚合時(shí)，正常模型參數(shù)起到了稀釋惡意攻擊參數(shù)的作用，因此單次后門攻擊很難達(dá)到理想的攻擊效果。研究發(fā)現(xiàn)，通過(guò)促進(jìn)聯(lián)邦學(xué)習(xí)全局模型的收斂，可以降低這種稀釋作用，從而提高后門攻擊的成功率。

接著，研究提出了一個(gè)兩階段的后門攻擊算法。在第一階段（準(zhǔn)備階段），攻擊者發(fā)起對(duì)全局?jǐn)?shù)據(jù)分布的推理攻擊，通過(guò)使本地?cái)?shù)據(jù)分布與全局?jǐn)?shù)據(jù)分布對(duì)齊，促進(jìn)全局模型的收斂。在第二階段（攻擊階段），攻擊者發(fā)起常規(guī)的后門攻擊。該攻擊通過(guò)向本地?cái)?shù)據(jù)添加“后門”并翻轉(zhuǎn)數(shù)據(jù)標(biāo)簽，將在注入數(shù)據(jù)上訓(xùn)練的模型發(fā)送到中心服務(wù)器。

兩階段后門攻擊實(shí)施流程

最后，通過(guò)對(duì)提出的攻擊模式進(jìn)行了測(cè)試，驗(yàn)證了該方法對(duì)于聯(lián)邦學(xué)習(xí)單次后門攻擊成功率以及留存時(shí)間的提升。同時(shí)，還分析了該攻擊的潛在防御手段。

部分實(shí)驗(yàn)結(jié)果

本研究對(duì)聯(lián)邦學(xué)習(xí)的安全性進(jìn)行了深入探究，在安恒信息的數(shù)據(jù)安全島聯(lián)邦學(xué)習(xí)平臺(tái)上已經(jīng)成功實(shí)現(xiàn)了產(chǎn)品轉(zhuǎn)化。通過(guò)對(duì)潛在的安全漏洞進(jìn)行提前修補(bǔ)，為實(shí)際應(yīng)用和推廣打下了堅(jiān)實(shí)的基礎(chǔ)。未來(lái)，安恒信息將深入探索聯(lián)邦學(xué)習(xí)的安全與隱私問(wèn)題，提出安全高效的安全與隱私保護(hù)技術(shù)路徑，提升聯(lián)邦學(xué)習(xí)在實(shí)際應(yīng)用中的可靠性和穩(wěn)定性，為數(shù)據(jù)安全保駕護(hù)航。

關(guān)閉

云安全>

態(tài)勢(shì)感知>

物聯(lián)網(wǎng)安全>

工業(yè)互聯(lián)網(wǎng)安全>

>

>

新一代安全服務(wù)>

偵測(cè)服務(wù)>

保護(hù)檢測(cè)服務(wù)>

監(jiān)控分析服務(wù)>

應(yīng)急服務(wù)>

運(yùn)營(yíng)管理服務(wù)>

特色服務(wù)>

>

數(shù)據(jù)安全>

基礎(chǔ)安全>