騰訊知文團隊 3 篇 IJCAI 2018 一作長文解讀

雷鋒網(wǎng) AI 科技評論按：本文經(jīng)微信公眾號“騰訊知文”授權(quán)轉(zhuǎn)載。

備受關(guān)注的人工智能領(lǐng)域頂級國際會議 IJCAI，2018 年將于 7 月 13 日至 19 日在瑞典斯德哥爾摩舉行。IJCAI-ECAI 2018, the27th International Joint Conference on Artificial Intelligence and the 23rd European Conference on Artificial Intelligence 是國際 AI 領(lǐng)域研究內(nèi)容最為全面、最具影響力的頂級學術(shù)會議之一。在近日揭曉 2018 年收錄論文名單中，騰訊知文團隊有 3 篇一作長文被錄取，我們將對文章進行簡要解讀，歡迎交流討論。

騰訊知文團隊介紹

騰訊知文是 SNG 數(shù)據(jù)中心的 NLP 團隊，目前專注于問答與對話領(lǐng)域，服務(wù)與支持的產(chǎn)品包括騰訊云小微機器人、騰訊云金融智能客服、騰訊云內(nèi)容理解等。基于語義分析、知識計算、機器閱讀理解等技術(shù)，知文團隊在語言智能的求知之路持續(xù)探索，同時通過騰訊云提供專業(yè)的產(chǎn)品與服務(wù)，為更多的業(yè)務(wù)實踐賦能 AI。知文致力于打造業(yè)界下一代智能問答平臺，深度融合 KBQA、DocQA、TaskQA 等多種問答模式。問答是搜索的進化形式，加入我們，加入 1998 年的 Google。

騰訊知文團隊 3 篇入選長文解讀

1.PLASTIC：基于生成對抗網(wǎng)絡(luò)調(diào)節(jié)推薦系統(tǒng)里全局和局部信息的互補性

PLASTIC: PrioritizeLong and Short-term Information in Top-n Recommendation using AdversarialTraining

本文由騰訊知文團隊與中科院深圳先進技術(shù)研究院等高校聯(lián)合完成。傳統(tǒng)的基于協(xié)同過濾的推薦系統(tǒng)是認為用戶偏好和電影屬性都是靜態(tài)的，但他們實質(zhì)是隨著用時間的推移而緩慢變化的。例如，一個電影的受歡迎程度可能由外部事件（如獲得奧斯卡獎）所改變。另一方面，隨著深度學習應(yīng)用的爆發(fā)式發(fā)展，基于深度學習的推薦系統(tǒng)越來越引發(fā)大家的關(guān)注。循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）理論上能夠有效地對用戶偏好和物品屬性的動態(tài)性進行建模，基于當前的趨勢，預測來的行為。為了有效地利用傳統(tǒng)協(xié)同過濾推薦技術(shù)（i.e., 矩陣分解）和深度學習方法（i.e., 循環(huán)神經(jīng)網(wǎng)絡(luò)）各自的優(yōu)點，捕獲用戶和電影之間的長期（全局）和短期（局部）關(guān)聯(lián)，本文主要研究和探索基于生成對抗網(wǎng)絡(luò)（GAN）調(diào)節(jié)矩陣分解（Matrix Factorization, MF）和循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）在推薦系統(tǒng)上的互補性。

2. 基于主題模型和強化學習的文本摘要

A ReinforcedTopic-Aware Convolutional Sequence-to-Sequence Model for Abstractive TextSummarization

本文由騰訊知文團隊與蘇黎世聯(lián)邦理工學院（ETH）、美國哥倫比亞大學、騰訊 AI lab 聯(lián)合完成。自動文本摘要方法一般有兩種類型，分別為提取式和總結(jié)式。提取式方法通過選擇重要的文本片段來生成摘要，更具可讀性。總結(jié)式方法需要先「理解」文檔，然后再組織并生成文本摘要，更靈活，目前更受關(guān)注，但可控制性和相關(guān)性有所欠缺。另一方面，近年來廣泛應(yīng)用的傳統(tǒng)基于 RNN 的文本摘要模型存在 exposure bias 和難以并行化的問題。針對以上問題，該研究工作提出一種基于卷積神經(jīng)網(wǎng)絡(luò)的總結(jié)式文本摘要生成方法，并結(jié)合主題模型的注意力機制，利用強化學習方法進行優(yōu)化。卷積神經(jīng)網(wǎng)絡(luò)具有可并行化的特點，可以提高訓練速度。這是首次將基于主題模型的注意力機制引入自動文本摘要的生成，可以提高摘要結(jié)果的信息相關(guān)性和多樣性。另一方面，self-critical 強化學習方法的引入使模型可以針對摘要的評價指標進行優(yōu)化，緩解訓練和預測過程的 exposure bias。

3. 基于多任務(wù)學習的圖像描述自動生成

A Multi-task LearningApproach for Image Captioning

本文由騰訊知文團隊與中科院深圳先進技術(shù)研究院、豐田工業(yè)大學芝加哥分校（TTIC）等高校聯(lián)合完成。傳統(tǒng)的基于編解碼器的圖像描述任務(wù)沒有識別和定位多物體的能力，生成的文本經(jīng)常遇到語言學問題，比如缺少成分、語法錯誤和論點矛盾等。特別是語言學問題，目前的測量方法是無法給出公正評價的。例如，「a group of people standing next to a.「和「agroup of people standing next a fire truck.」兩個句子各項指標的分數(shù)差異不顯著，但前者缺少名詞性補語，讓讀者難以理解。本文采用多任務(wù)學習方法共享編解碼器，同時提升編碼器對物體的識別能力，以及減少解碼器在生成文本過程中出現(xiàn)的語法錯誤。從離線、線上榜單和人工評測的結(jié)果來看，本文提出的方法有不錯的性能表現(xiàn)。