蓋世汽車(chē)訊 深度神經(jīng)網(wǎng)絡(luò)是用于各種分類(lèi)問(wèn)題的機(jī)器學(xué)習(xí)算法的一個(gè)子集，包括圖像識(shí)別和機(jī)器視覺(jué)（由自動(dòng)駕駛汽車(chē)和其他機(jī)器人使用）、自然語(yǔ)言處理、語(yǔ)言翻譯和欺詐檢測(cè)。但心懷不軌的人可能會(huì)修改輸入，并使得算法運(yùn)行錯(cuò)誤。據(jù)外媒報(bào)道，為保護(hù)算法免受此類(lèi)攻擊，密歇根大學(xué)（University of Michigan）的研究人員開(kāi)發(fā)出強(qiáng)大的對(duì)抗性免疫啟發(fā)學(xué)習(xí)系統(tǒng)（Robust Adversarial Immune-inspired Learning System，RAILS）。

圖片來(lái)源：密歇根大學(xué)

John H. Holland杰出教授、研究員之一Alfred Hero表示：“RAILS是第一種以適應(yīng)性免疫系統(tǒng)為模型的對(duì)抗性學(xué)習(xí)方法，該系統(tǒng)與先天免疫系統(tǒng)的運(yùn)作方式不同?！?/p>

當(dāng)先天免疫系統(tǒng)對(duì)病原體進(jìn)行全面攻擊時(shí)，哺乳動(dòng)物的免疫系統(tǒng)可以產(chǎn)生新的細(xì)胞來(lái)抵御特定的病原體。事實(shí)證明，受到大腦信息處理系統(tǒng)啟發(fā)的深度神經(jīng)網(wǎng)絡(luò)也可以利用這一生物過(guò)程。

計(jì)算醫(yī)學(xué)和生物信息學(xué)副教授、該研究的共同負(fù)責(zé)人Indika Rajapakse說(shuō)：“免疫系統(tǒng)設(shè)計(jì)令人驚嘆，它總能找到解決方案?！?/p>

圖片來(lái)源：密歇根大學(xué)

RAILS通過(guò)模仿免疫系統(tǒng)的自然防御來(lái)識(shí)別并最終處理神經(jīng)網(wǎng)絡(luò)的可疑輸入。 起初為了開(kāi)發(fā)，生物團(tuán)隊(duì)對(duì)小鼠的適應(yīng)性免疫系統(tǒng)如何對(duì)抗原作出反應(yīng)進(jìn)行了研究。該實(shí)驗(yàn)使用了在B細(xì)胞上表達(dá)熒光標(biāo)記的轉(zhuǎn)基因小鼠的組織。

該團(tuán)隊(duì)通過(guò)將脾臟細(xì)胞與骨髓細(xì)胞一起培養(yǎng)，創(chuàng)建了一個(gè)免疫系統(tǒng)模型，代表了免疫系統(tǒng)的總部和要塞。該系統(tǒng)使生物團(tuán)隊(duì)能夠跟蹤B細(xì)胞的發(fā)育，這開(kāi)始便是一種試錯(cuò)法來(lái)設(shè)計(jì)與抗原結(jié)合的受體。一旦B細(xì)胞聚集在一個(gè)解決方案上，它們就會(huì)產(chǎn)生漿B細(xì)胞以捕獲存在的所有抗原，并產(chǎn)生記憶B細(xì)胞以準(zhǔn)備下一次攻擊。

當(dāng)時(shí)的生物信息學(xué)博士生Stephen Lindsly對(duì)Rajapakse實(shí)驗(yàn)室產(chǎn)生的信息進(jìn)行了數(shù)據(jù)分析，并擔(dān)任生物學(xué)家和工程師之間的翻譯。Hero的團(tuán)隊(duì)隨后在計(jì)算機(jī)上模擬了該生物過(guò)程，將生物機(jī)制融入代碼中。他們用對(duì)抗性輸入測(cè)試了RAILS防御。然后，他們將B細(xì)胞學(xué)習(xí)攻擊抗原的學(xué)習(xí)曲線與學(xué)習(xí)排除不良輸入的算法進(jìn)行了比較。

Hero表示：“在我們將RAILS的學(xué)習(xí)曲線與從實(shí)驗(yàn)中提取的曲線進(jìn)行比較之前，我們不確定我們是否真的捕捉到了生物過(guò)程?！?/p>

RAILS不僅是一種有效的仿生學(xué)，而且優(yōu)于用于對(duì)抗對(duì)抗性攻擊的兩種最常見(jiàn)的機(jī)器學(xué)習(xí)過(guò)程：穩(wěn)健的深度k近鄰（Deep k-Nearest Neighbor）和卷積神經(jīng)網(wǎng)絡(luò)。

圖片來(lái)源：密歇根大學(xué)

主要負(fù)責(zé)軟件開(kāi)發(fā)和實(shí)施的電氣和計(jì)算機(jī)工程研究員Ren Wang表示：“這項(xiàng)工作的重要部分是我們的通用框架可以防御不同類(lèi)型的攻擊?！?/p>

研究人員使用圖像識(shí)別作為測(cè)試用例，針對(duì)多個(gè)數(shù)據(jù)集中的八種對(duì)抗性攻擊評(píng)估 RAILS。它在所有情況下都顯示出改進(jìn)，包括防止最具破壞性的對(duì)抗性攻擊類(lèi)型：投影梯度下降（Projected Gradient Descent）攻擊。此外，RAILS提高了整體精度。例如，它可以正確識(shí)別雞和鴕鳥(niǎo)的圖像，而此前其他系統(tǒng)會(huì)將這兩種圖像識(shí)別為貓和馬。

未來(lái)，Hero團(tuán)隊(duì)將致力于把響應(yīng)時(shí)間從毫秒級(jí)縮短到微秒級(jí)。

返回第一電動(dòng)網(wǎng)首頁(yè) >