AI科技評論按：2020年9月6日，中國計算機學會自然語言處理專業委員會（CCF-NLP）發起、聯合AI研習社及各個知名高校開展的“CCF-NLP走進高校”系列高校NLP研究分享報告會——華南理工大學站，通過線上直播的方式進行。
本期報告會邀請了華為諾亞方舟實驗室首席科學家劉群、北京大學王選計算機研究所研究員&博士生導師趙東巖、天津大學張梅山副教授三位特邀報告嘉賓，北京大學語言計算與互聯網挖掘研究室負責人&自然語言處理專業委員會秘書長萬小軍教授和西湖大學特聘研究員張岳教授主持了本次報告會。在本次報告會上，專家們圍繞預訓練語言模型、跨語言遷移學習做了精彩報告，在AI研習社、Bilibili等平臺上觀看的用戶合計4.2萬人次，報告會反響熱烈。此外，本次活動東道主華南理工大學組織了部分學生進行了線下報告聽講交流。
自然語言處理專業委員會主任、蘇州大學NLP帶頭人周國棟教授作為開場嘉賓分別作了開場介紹。周國棟教授首先對組織者的準備以及報告嘉賓的到來表示熱烈的歡迎和衷心的感謝，并指出，以自然語言處理為代表的人工智能技術受到了學術界和工業界的廣泛關注，第一期CCF-NLP走進高校報告會在華南理工大學召開，可謂正當其時、恰逢其勢。隨后，另一位開場嘉賓、東道主華南理工大學蔡毅教授也介紹了華南理工大學及其團隊在NLP領域的研究情況。
接下來的報告環節中首先進行分享的是華為諾亞方舟實驗室首席科學家劉群，報告題目為《預訓練語言模型研究進展》。
劉群老師介紹了預訓練語言模型的發展歷程，并結合諾亞方舟開發自研的預訓練語言模型哪吒（NEZHA）的技術特色介紹了諾亞方舟實驗室的中文預訓練語言模型的具體工作，包括用概率掩碼的預訓練語言模型同時實現自然語言的理解和任意詞序的生成；通過擾動掩碼實現基于BERT的無監督句法分析；兩個模型壓縮的工作TinyBERT（預訓練語言模型的極限壓縮）和DynaBERT（動態可伸縮的預訓練語言模型）。在報告結束后劉群老師還就聽眾提出的常規方法研究的前景、掩碼概率的調節、預訓練模型在自然語言推斷（NLI）任務方面的效果、大模型中間層蒸餾的效果等問題進行了解答。（具體分享內容可進入文末報告會視頻回放頁面進行了解）
在劉群老師之后，北京大學王選計算機研究所研究員，博士生導師趙東巖進行了題為《基于知識的文本語義理解與文本生成》的報告。報告共分為三個部分進行，分別是知識圖譜的研究背景、基于知識的文本語義理解與生成及應用實例。趙東巖教授從類人智能研究動態開始，引出基于知識圖譜的語義理解技術與研究工作，進而講解基于知識圖譜的智能應用，并重點介紹了知識圖譜的動態構建、事件抽取、新聞事件觸發的知識更新、知識圖譜的融合并探討了如何基于知識圖譜理解語義，進而實現智能問答等智能應用的理論方法和技術路線，最后介紹了北京大學王選計算機研究所在這個研究方向上的具體進展，包括高考因果類問題解答、融合多種知識資源的事實類問題求解和智能投資助手等。在問答環節，趙東巖教授也回答了聽眾關于構建常識性的知識圖譜的方法、結合多模態的知識對知識圖譜進行擴展等問題，用多模態信息來獲取知識并輔助解決“雞兔同籠”等傳統方法難以解決問題的例子也給聽眾留下了深刻印象。最后一位進行報告的天津大學張梅山副教授的報告主題為《基于翻譯的無監督跨語言遷移學習》。
跨語言遷移學習是解決資源稀缺語言自然語言處理的一個非常有效的方法，對于某個特定的任務，我們假定在例如英語這種資源豐富語言上存在一定規模的標注語料，然后輔助一個機器翻譯系統，便可以為目標語言提供自動構建的訓練語料，從而指導目標資源稀缺語言的模型訓練。在報告中，張梅山副教授介紹了兩個任務的相關工作，分別針對依存句法分析和語義角色標注，調研基于翻譯的方法在這兩個任務上面的有效性。
最后，萬小軍教授進行了活動總結，并再次向參加活動的各位專家學者表示感謝，并期待更多的專家、老師和同學能關注NLP領域的進展。此后還將會有更多的高校加入CCF -NLP走進高校系列活動，第二場分享會已定于9月27日，走進鄭州大學，更多分享會信息請持續關注AI科技評論。中國計算機學會自然語言處理專委會（CCF-NLP）1987年10月成立, 專委會成立之初即確定了“中國語言文字處理的計算機系統”和“以計算機為工具研究語言文字處理技術”兩個主要研究方向，主要包括（或涉及）中國各民族語言文字的自然語言處理、機器翻譯、信息抽取、數據挖掘、信息檢索、智能問答、語音識別與合成、社會網絡計算等眾多學術領域，以及中文計算，即中國語言文字處理的應用技術領域。專委會致力于團結、聯合、組織中文信息技術相關領域的各界專業人士，開展學術/技術交流、發展戰略研究、專業技術標準制定、專業技術評測、專業培訓等相關活動，提高中文信息技術領域的科研、教學、應用水平，促進研究成果的應用和向產品的轉化，提升在國家科技活動和國際學術方面的影響力。為了促進更多師生對自然語言處理前沿進展的了解，幫助在校計算機及相關專業大學生成長和發展，CCF-NLP致力于讓領域內的權威大牛們走進更多的高校，與師生進行溝通和交流。這是成為我國NLP領域發展的迫切需求。自然語言處理專委會為此將舉辦一系列 CCF -NLP走進高校系列活動。CCF-NLP后續還將與更多高校合作，繼續召開一系列的“走進高校”分享活動，進一步促進各高校之間的學術交流，推動科研合作發展，為 NLP 的研究添磚加瓦。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
