今日 Paper | PolarMask；時間序列；面部表情編輯；ELECTRA 等

本文作者： AI研習社

2020-03-25 15:55

導語：為了更好地服務廣大 AI 青年，AI 研習社正式推出全新「論文」版塊。

PolarMask: 一階段實例分割新思路

論文名稱：PolarMask: Single Shot Instance Segmentation with Polar Representation

作者：Enze Xie

發(fā)表時間：2019/12/24

論文鏈接：https://paper.yanxishe.com/review/13545?from=leiphonecolumn_paperreview0325

推薦原因

本文的研究意義：

在本文中，作者介紹了一種新的單實例分割方法——PolarMask，該方法完全卷積且網(wǎng)絡結(jié)構(gòu)簡單，可以最大限度的將其嵌入到大多數(shù)現(xiàn)成的檢測方法中使用。通過PolarMask方法可以將實例分割問題轉(zhuǎn)化為研究中心分類和極坐標距離回歸的輪廓預測問題。此外，作者還對處理高質(zhì)量采樣的中心示例和密集距離回歸優(yōu)化進行了探索，發(fā)現(xiàn)采用該方法可以顯著提高性能并簡化訓練過程。最后作者通過實驗證明了提出的PolarMask框架在實例分割任務中是明顯優(yōu)于其他的方法。

今日 Paper | PolarMask；時間序列；面部表情編輯；ELECTRA 等

特例化的時間序列模型特征重要度度量

論文名稱：What went wrong and when? Instance-wise Feature Importance for Time-series Models

作者：Sana Tonekaboni /Shalmali Joshi /David Duvenaud /Anna Goldenberg

發(fā)表時間：2020/3/5

論文鏈接：https://paper.yanxishe.com/review/13468?from=leiphonecolumn_paperreview0325

推薦原因

1 核心問題：

本文主要研究的是探究在時間序列模型中，何種特征在哪個時間段對預測結(jié)果影響最大的問題。

2 創(chuàng)新點：

在在時間序列分析中，大部分特征重要度的分布模型都把注意力放在全局級別的重要度中，但是，全局級別的的重要度可能無法產(chǎn)生對個體樣本實例的局部解釋，此類模型不利于用戶理解某個特例的模型結(jié)果。本文的工作則聚焦在時間序列中例子級別的特征重要度，提出了一個通用的時間序列觀測重要度度量方法。該方法在個體歷史數(shù)據(jù)的分布中采樣，基于合理的反事實上的積分，去估計了在觀測前后預測分布的差異來度量重要度。根據(jù)該方法，可以得到在不同時間上的相關(guān)特征復雜度，并且可以得到每個特征最有影響力（重要度最高）的特定時間點。

3 研究意義：

（1）本文將得到的重要度度量，和基于梯度的解釋，注意力機制以及其他基準在模擬和臨床ICU數(shù)據(jù)的結(jié)果進行了比較，說明了本文的方法可以生成最精確的結(jié)果（2）同時，本模型還具有價格低廉，通用的特點（3）并且可以使用在任意復雜時間序列模型和預測器中（4）最后，本文提出的設(shè)計是唯一一個對時間序列中每一個特征都可以確定其重要時間點的方法。

Cascade EF-GAN：以局部焦點進行漸進式面部表情編輯

論文名稱：Cascade EF-GAN: Progressive Facial Expression Editing with Local Focuses

作者：Wu Rongliang /Zhang Gongjie /Lu Shijian /Chen Tao

發(fā)表時間：2020/3/12

論文鏈接：https://paper.yanxishe.com/review/14229?from=leiphonecolumn_paperreview0325

推薦原因

這篇論文被CVPR 2020接收，考慮的是面部表情編輯的問題。

生成對抗網(wǎng)絡易于在表達密集區(qū)域周圍產(chǎn)生偽影和模糊，且在處理諸如從憤怒到笑的轉(zhuǎn)換時，常會引入不希望的重疊偽影。為克服這些局限性，這篇論文提出級聯(lián)表情聚焦生成對抗網(wǎng)絡（Cascade Expression Focal GAN，Cascade EF-GAN），能以局部表情為重點進行漸進式面部表情編輯。引入局部焦點后，Cascade EF-GAN可以更好保留與身份相關(guān)的特征和眼睛、鼻子、嘴巴周圍的細節(jié)，從而進一步減少生成的面部圖像中的偽影和模糊。此外，通過將大型面部表情轉(zhuǎn)換分成多個小面部表情，這篇論文還設(shè)計了一種新的級聯(lián)轉(zhuǎn)換策略，這有助于抑制重疊的偽像并在處理大間隙表情轉(zhuǎn)換時產(chǎn)生更逼真的編輯效果。在兩個公開面部表情數(shù)據(jù)集上進行的大量實驗表明，Cascade EF-GAN具有出色的面部表情編輯性能。

ELECTRA：預訓練文本編碼器作為鑒別器而不是生成器

論文名稱：ELECTRA: PRE-TRAINING TEXT ENCODERS AS DISCRIMINATORS RATHER THAN GENERATORS

作者：Kevin Clark /Minh-Thang Luong /Quoc V. Le /Christopher D. Manning

發(fā)表時間：2020/9/24

論文鏈接：https://paper.yanxishe.com/review/14226?from=leiphonecolumn_paperreview0325

推薦原因

本文重點：隨著bert的爆發(fā)，現(xiàn)在在NLP領(lǐng)域眾多的預訓練語言模型已經(jīng)成為當下的熱點，這篇論文完成了類似的工作

創(chuàng)新點：在NLP領(lǐng)域擁有語言模型（LM）和掩碼語言模型（MLM），其中BERT就是掩碼語言模型。而本論文提出了一種新的任務replaced token detection，它像語言模型，又像掩碼語言模型。它像MLM一樣訓練一個雙向模型，也像LM一樣學習所有輸入位置。它使用偽token替換真實的token。首先使用一個生成器預測句中被mask掉的token，接下來使用預測的token替代句中的[MASK]標記，然后使用一個判別器區(qū)分句中的每個token是原始的還是替換后的。

研究意義：他超過了之前的BERT和XLNET模型。

FOAL：用于心臟運動估計的快速在線自適應學習

論文名稱：FOAL: Fast Online Adaptive Learning for Cardiac Motion Estimation

作者：Yu Hanchao /Sun Shanhui /Yu Haichao /Chen Xiao /Shi Honghui /Huang Thomas /Chen Terrence

發(fā)表時間：2020/3/10

論文鏈接：https://paper.yanxishe.com/review/14059?from=leiphonecolumn_paperreview0325

推薦原因

這篇論文被CVPR 2020接收，考慮的是心臟運動估計的問題。

心臟MRI視頻動態(tài)估計對于評估人體心臟的解剖結(jié)構(gòu)和功能至關(guān)重要。在臨床部署中，由于訓練和測試數(shù)據(jù)集之間分布不匹配，深度學習模型的性能急劇下降。這篇論文提出了一種新的快速在線自適應學習（Fast Online Adaptive Learning ，F(xiàn)OAL）框架，包括一種基于在線梯度下降的優(yōu)化器，該優(yōu)化器由元學習器進行優(yōu)化。元學習器使在線優(yōu)化器能夠執(zhí)行快速而強大的調(diào)整。這篇論文通過在兩個公共臨床數(shù)據(jù)集上的廣泛實驗評估了所提方法。結(jié)果表明，與離線訓練的跟蹤方法相比，F(xiàn)OAL準確性更高。