全新算法助機(jī)器學(xué)習(xí)抵抗干擾

機(jī)器學(xué)習(xí)模型受到攻擊將產(chǎn)生嚴(yán)重的后果，但如果對(duì)這一情形提前預(yù)防呢？就像人類(lèi)針對(duì)即將到來(lái)的病毒去接種疫苗一樣。據(jù)澳大利亞聯(lián)邦科學(xué)與工業(yè)研究組織（CSIRO）官方網(wǎng)站消息，該機(jī)構(gòu)的一個(gè)研究團(tuán)隊(duì)，日前開(kāi)發(fā)了一套人工智能（AI）最新算法，可幫助機(jī)器學(xué)習(xí)抵御可能遇到的干擾。

機(jī)器學(xué)習(xí)是人工智能的核心，也是使計(jì)算機(jī)具有智能的根本途徑。機(jī)器學(xué)習(xí)主旨是讓計(jì)算機(jī)去模擬或?qū)崿F(xiàn)人類(lèi)的學(xué)習(xí)行為，以獲取新的知識(shí)或技能，并重新組織已有的知識(shí)結(jié)構(gòu)，使之不斷改善自身的性能。

機(jī)器學(xué)習(xí)雖然可以在大數(shù)據(jù)訓(xùn)練中學(xué)到正確的工作方法，但它也很容易受到惡意干擾。通常攻擊者是通過(guò)輸入惡意數(shù)據(jù)來(lái)“欺騙”機(jī)器學(xué)習(xí)模型，導(dǎo)致其出現(xiàn)嚴(yán)重故障。

此次，開(kāi)發(fā)出新算法的研究團(tuán)隊(duì)——“Data61”機(jī)器學(xué)習(xí)小組領(lǐng)導(dǎo)者理查德·諾克表示，攻擊者會(huì)在進(jìn)行圖像識(shí)別時(shí)，在圖像上添加一層干擾波，達(dá)到“欺騙”的目的，從而讓機(jī)器學(xué)習(xí)模型產(chǎn)生錯(cuò)誤的圖像分類(lèi)。

諾克及其團(tuán)隊(duì)成員研發(fā)的新算法，通過(guò)一種類(lèi)似疫苗接種的思路，可以幫助機(jī)器學(xué)習(xí)“修煉”出抗干擾能力。這是針對(duì)機(jī)器學(xué)習(xí)模型打造的防干擾訓(xùn)練，譬如，在圖片識(shí)別領(lǐng)域，該算法能夠?qū)D片集合進(jìn)行微小的修改或使其失真，激發(fā)出機(jī)器學(xué)習(xí)模型“領(lǐng)會(huì)”到越來(lái)越強(qiáng)的抗干擾能力，并形成相關(guān)的自我抗干擾訓(xùn)練模型。

經(jīng)過(guò)此類(lèi)小規(guī)模的失真訓(xùn)練后，最終的抗干擾訓(xùn)練模型將更加強(qiáng)大，當(dāng)真正的攻擊到來(lái)之時(shí)，機(jī)器學(xué)習(xí)模型將具備“免疫”功能。