Ian Goodfellow牽頭舉辦NIPS機器學習對抗賽，提升系統魯棒性

via pulse2

每年年底舉辦的 NIPS 都是令學者為之一振的頂級學術盛會。雷鋒網了解到，今年首次增加了一個新議程，即「NIPS 2017 Competition Track」。本次競賽活動從 23 個候選提案中選擇了五個數據驅動的比賽項目，覆蓋領域廣泛。而今天谷歌大腦研究員 Ian Goodfellow 在 Twitter 上強烈推薦了他牽頭組織的 Adversarial Attacks and Defences（對抗攻擊防御）比賽。而 Nicolas Papernot 也傾情轉發支持。

這一比賽由 Alexey Kurakin、Ian Goodfellow 和 Samy Bengio 一同舉辦。目前大多數現有的機器學習分類器的魯棒性很差，容易受對抗樣本的影響。樣本經過輕微修改后，可能就會讓機器學習分類器受到迷惑，并進行錯誤的分類。這些修改可能人類幾乎無法看出區別，這可能會對機器學習分類器的安全性產生不利影響。因此，這一比賽主要也是為了加快研究機器學習分類器的對抗樣本，提升其魯棒性。

Kaggle 前段時間被谷歌收購，因此這一比賽也自然而然在 Kaggle 上發布。雖然是在 Kaggle 上發布具體介紹，但這一比賽依然要遵循 NIPS 2017 Competition Track 的相關規定。

比賽的全名為 Non-targeted Adversarial Attack，簡介是「Imperceptibly transform images in ways that fool classification models」，也就是說，需要以欺騙分類模型的方式將圖片巧妙地移花接木。具體而言，分為三個競賽項目：

• Non-targeted Adversarial Attack，競賽者所提交的系統需要對給定的圖片進行處理，使得某個通用機器學習分類器無法識別。

• Targeted Adversarial Attack，競賽者所提交的系統需要對給定的圖片進行處理，讓某個通用機器學習分類器能成功識別圖像屬于特定類別。

• Defense Against Adversarial Attack，競賽者需要構建一個機器學習分類器，擁有足夠的魯棒性使之能正確鑒別對抗性的圖像。

比賽將在給定的數據集中進行測試，并且希望參賽者能針對數據集中的每張圖像生成對應的對抗樣本。所有生成的圖片將在所有提交的防御性分類器中進行測試，如果分類器分類錯誤，則對方得一分。而每次攻擊都會依照下面的公式進行計算，分數越高，則說明攻擊系統的效果越好。

在本次比賽中，用于攻擊與防御所用的分類任務都是源于 ImageNet。谷歌希望參賽者也能構建強大的 ImageNet 分類器，并且能抵御對抗攻擊。

此外，為了讓競爭更加有趣，而且避免公共數據的過度使用，將采用 DEV 與 TEST 數據集對結果進行評估與測試。DEV 數據集涵蓋 1000 張圖像，而 TEST 數據集目前保密，將在比賽結束后公開。

根據介紹，雷鋒網了解到，8 月 1 日、9 月 1 日、9 月 15 日將分別啟動三輪開發進程，并在 10 月 1 日截止提交。在 Kaggle 頁面上包含了參賽的詳細信息，感興趣的同學朋友們可以密切關注這一賽事。

NIPS 介紹頁面：https://nips.cc/Conferences/2017/CompetitionTrack

Kaggle 介紹頁面：https://www.kaggle.com/c/nips-2017-non-targeted-adversarial-attack#description，雷鋒網整理