循環智能與華為云聯合推出首個千億中文語言模型 刷新CLUE三項榜單記錄

　　4月25日,循環智能(Recurrent AI)與華為云聯合推出千億參數、40TB訓練數據的全球最大中文語言預訓練模型“盤古”,鵬城實驗室提供算力支持。在權威的中文語言理解評測基準CLUE榜單中,總成績及閱讀理解、分類任務單項均排名第一,刷新三項榜單紀錄,總成績得分83;在NLPCC2018文本摘要任務中,取得了Rouge平均分0.53的業界最佳成績,超越第二名百分之六十。

　　“跟以往的大規模預訓練模型不同,盤古模型從第一天起就是奔著商業化落地和企業級應用的角度進行設計和研發的。”循環智能(Recurrent AI)聯合創始人楊植麟博士表示,“作為一個深耕 NLP 企業服務的團隊,我們看到了 GPT-3 等大規模預訓練模型的潛力,但也看到了它們在落地過程中的局限。盤古NLP大模型正是為了克服這些局限而生。”

　　三大創新,瞄準NLP大模型落地難題

　　在NLP大模型的企業級落地應用中,GPT-3等模型由于應對復雜商用場景的小樣本學習能力弱、難以結合微調擴展業務場景以及難以融入不同領域的知識,所以很難在商業場景中得到應用。為了克服這些局限,盤古NLP大模型帶來三大創新。

　　第一,盤古NLP大模型在小樣本學習任務上超越GPT-3,解決后者難應對少樣本復雜商用場景的問題。比如在企業客戶心聲分析和員工執行力分析場景中,使用盤古NLP大模型生產語義標簽時,實測得到目標結果所需的樣本量僅為GPT-3模型的十分之一,即AI生產效率可提升十倍。

　　第二,盤古團隊在預訓練階段加入了基于 prompt 的任務,大幅降低微調難度,解決以往大模型難為不同行業場景進行微調的問題。在下游數據充足時,微調難度的降低使得模型可以隨著數據變多而持續優化;在下游數據稀缺時,微調難度的降低使得模型的少樣本學習效果得到顯著提升。比如,在企業借助溝通內容判斷客戶購買意向,以找出更多目標客戶從而提升轉化率的場景中,實測盤古NLP大模型相比GPT-3可提升 27% 的成單轉化率。

　　第三,除了能像GPT-3等僅基于端到端生成的方式以外,盤古NLP大模型還可以通過少樣本學習對意圖進行識別,轉化為知識庫和數據庫查詢,解決以往大模型難融入行業知識和數據的問題。比如在金融服務場景中,盤古NLP大模型能更好地賦能實時溝通輔助系統,幫助服務人員快速提升業務水平,重塑消費者體驗。

　　此外,盤古NLP大模型涉及千億參數、40TB訓練數據,對算法、算力、海量數據處理都提出了很大挑戰。在算法方面,循環智能與華為云的算法研究團隊經過數月的聯合攻關,通過在預訓練階段引入基于Prompt的任務等多項創新方案,成功突破了大模型微調的難題。在算力方面,鵬城實驗室的國內最大規模AI訓練集群鵬城云腦II,在大模型訓練中展示出強大的AI算力和數據吞吐能力,為盤古大模型訓練打下堅實的基礎。在海量數據處理等方面,華為云底層軟件、訓練框架、ModelArts平臺協同優化,充分釋放算力,達成全棧性能優化。

　　全新理念,增強“人”的智能

　　在高附加值的產品銷售與服務過程中,如保險、房產、教育、財富管理等行業,企業需要借助人與人之間的溝通過程,讓銷售人員與客戶建立更緊密的聯結,提供更專業的服務。但由于銷售人員的素質和能力提升緩慢,同時企業缺乏對目標客戶的了解,導致客戶體驗不佳,銷售難獲增長。

　　循環智能(Recurrent AI)為企業提供人員產能提升、精準銷售和新一代合規質檢解決方案,幫助企業更快地提升銷售人員能力、更快地找到目標客戶以及降低合規風險。

　　• 人員產能提升 Expert↑:借助深入業務流程的優秀實踐挖掘、溝通實時輔助和執行監督報表產品組合,幫助企業將優秀銷售人員的實踐經驗傳遞給每一名普通銷售。在與客戶溝通中實時輔助銷售人員,提升他們的表現,將他們為企業創造的價值最大化。

　　• 精準銷售 Target↑:循環智能開創了基于溝通對話數據與成單結果的意向預測模型,通過算法模型,可篩選存量線索中的高意向線索,或篩選對某產品更感興趣的客戶名單,幫助銷售人員更精準地找到目標客戶,提升銷售和服務效率。

　　• 新一代合規質檢 Complicance↑:不同于基于“關鍵詞+正則”的傳統方案,循環智能提供高準確率和召回率的“非正則”合規質檢方案,配合獨家的“違規率排序”功能,可助力質檢員多找出 2～10 倍違規對話,幫助企業大幅降低合規風險。

　　截止2021年4月,循環智能(Recurrent AI)已服務了銀行、保險、在線教育、房產和消費金融等領域的眾多行業標桿客戶,包括招商銀行、人保財險、太平洋保險、招商信諾、水滴、新東方在線、51Talk、豌豆思維、萬科、我愛我家、安居客和捷信等。

　　關于循環智能

　　循環智能(Recurrent AI)是一家 AI 企業服務公司,借助原創的自然語言處理和深度學習技術,幫助中大型企業充分挖掘對話數據的價值,提升員工產能,帶來業績增長。公司服務的客戶主要在保險、銀行、房產和在線教育等領域。創始團隊來自清華大學、卡內基梅隆大學,并獲得紅杉資本中國基金、真格基金、金沙江創投、靖亞資本等知名投資機構的支持。2021年,循環智能入選CB Insights 年度“AI 100全球榜單”。2020年,循環智能獲得高新技術企業認證,并被德勤Deloitte評選為“中國明日之星50強”。2019～2020年,循環智能連續兩年入選《機器之心》年度“最具產業價值”榜單。