與預防疾病疫苗相同的編程技術(shù)可以保護機器學(xué)習系統免受惡意網(wǎng)絡(luò )攻擊。該技術(shù)由澳大利亞國家科學(xué)機構CSIRO的數字專(zhuān)家組開(kāi)發(fā)，最近在美國加利福尼亞州長(cháng)灘舉行的機器學(xué)習國際會(huì )議上發(fā)表。

機器學(xué)習系統或神經(jīng)網(wǎng)絡(luò )在現代社會(huì )中變得越來(lái)越普遍，在現代社會(huì )中，它們被廣泛應用于交通管理，醫療診斷和農業(yè)等領(lǐng)域。它們也是自動(dòng)駕駛汽車(chē)的關(guān)鍵部件。

它們在初始訓練階段運行，在該階段中，它們被饋送給定任務(wù)的數萬(wàn)次可能的迭代。然后，由此產(chǎn)生的算法具有學(xué)習的能力 - 增加其自身的可能性并相應地采取行動(dòng)，而無(wú)需進(jìn)一步的人為輸入。

然而，盡管它們是高效的，機器傾斜系統 - 像任何計算機驅動(dòng)的機制 - 仍然容易受到黑客攻擊。發(fā)生這種情況的主要方式是引入“噪聲” - 干擾和扭曲輸入信號的附加數據點(diǎn) - 這樣外部元素就會(huì )被錯誤分類(lèi)。

該方法在業(yè)務(wù)術(shù)語(yǔ)中稱(chēng)為將“對抗性示例”引入系統。通過(guò)添加噪聲(并且通常不是非常大的噪聲)，可以將機器學(xué)習算法誤導為將熊貓的圖像分類(lèi)為長(cháng)臂猿的圖像。

更有針對性的是，鑒于自動(dòng)駕駛汽車(chē)的興起，他們可以被黑客攻擊并說(shuō)服將停車(chē)標志歸類(lèi)為綠色交通燈。

使機器學(xué)習系統具有抗破壞性是一個(gè)生動(dòng)的研究領(lǐng)域，最近的研究發(fā)現，現實(shí)世界的例子很容易被使用，而不是使用比智能手機相機更復雜的東西。

由Richard Nock領(lǐng)導的研究人員采用的最新方法從公共衛生中獲得了啟發(fā)。

在醫學(xué)上，接種疫苗的做法取決于將身體的免疫系統暴露于病原體的弱或死版本(例如導致流感或脊髓灰質(zhì)炎的病毒)的合理想法，促使特定抗體的發(fā)展。然后免疫系統“記住”病原體，以便下次遇到它時(shí) - 全力和真實(shí) - 它會(huì )識別它并立即消除它。

Nock和同事以同樣的方式接近他們的任務(wù)。

“我們的新技術(shù)使用類(lèi)似于疫苗接種的過(guò)程來(lái)防止對抗性攻擊，”他解釋道。

“我們實(shí)施對手的弱版本，例如對圖像集合的小修改或失真，以創(chuàng )建更”困難“的訓練數據集。當算法針對暴露于小劑量失真的數據進(jìn)行訓練時(shí)，得到的模型更加強大并且不受對抗性攻擊。“

該方法仍處于早期階段，尚未在真實(shí)情況下針對真正的惡意入侵企圖進(jìn)行測試，但結果很有希望。它們在此處提供的預印紙中詳細描述。

雖然顯然需要進(jìn)行更多的檢測，但現階段沒(méi)有證據表明疫苗接種可能會(huì )導致計算機自閉癥。