2023稀土掘金創(chuàng)新論壇在京舉辦 探討技術革新的機遇與挑戰(zhàn)

　　10月28日，由稀土掘金社區(qū)主辦的首屆「稀土掘金創(chuàng)新論壇」在北京開幕。本次創(chuàng)新論壇以「AI時代下的管理變革」為主題，線上線下聯(lián)動，重點關注LLM等新技術以及開源新模式帶來的管理挑戰(zhàn)，與技術決策者們共探應對之道。

　　本次創(chuàng)新論壇通過主論壇(上午場，公開直播)及掘金閉門會(下午場，閉門交流)兩大環(huán)節(jié)，不僅可以讓參會者提升技術視野，同時也給予了相應參會者深度探討和交流的機會。

　　來自AMD公司中國區(qū)數(shù)據(jù)中心業(yè)務部產(chǎn)品及市場總監(jiān)曲大健作為開場嘉賓帶來了《卓越算力，引領新一代數(shù)據(jù)中心和AI技術》分享。在會議上，他首先從AMD的公司使命和愿景出發(fā)，詳細闡述了產(chǎn)品不斷改進和提升算力的重要性。接著，他從“多”、“快”、“好”、“省”四個角度全面介紹了第四代EPYC處理器。他特別強調(diào)了第四代EPYC處理器在云計算功能和CPU單核性能上的領先地位。此外，他還從成本的角度出發(fā)，指出這次的第四代EPYC處理器相較于以往產(chǎn)品，能夠節(jié)省每年能源成本、減少占用空間、減少網(wǎng)絡端口和線纜的使用，同時還能保持10%的性能提升。

　　上海人工智能實驗室青年科學家陳愷帶來了《書生·浦語大模型全鏈條開源體系》的主題演講。會上他簡單介紹了書生·浦語大模型從6月7日發(fā)布至今的開源歷程。陳愷強調(diào)，目前20B開源大模型的性能已經(jīng)全面領先相近量級的開源模型，并以不足三分之一的參數(shù)量，達到了Llama2-70B的水平，并可免費商用。

　　同時，陳愷還向開發(fā)者們詳細介紹了書生·浦語全鏈條開源開放體系所覆蓋的六大環(huán)節(jié)。首先，在數(shù)據(jù)環(huán)節(jié)，上海人工智能實驗室開源了多模態(tài)語料庫書生·萬卷，數(shù)據(jù)總量超過2TB。其次，在預訓練環(huán)節(jié)，開源了InternLM-Train預訓練框架，支持了書生·浦語大模型的千卡級高效訓練。在微調(diào)環(huán)節(jié)，陳愷介紹了不同微調(diào)方法，以及低成本微調(diào)框架XTuner。接下來是評測環(huán)節(jié)，介紹了國內(nèi)外整體的評測情況以及社區(qū)最全面的開源評測體系OpenCompass。在部署環(huán)節(jié)，陳愷展示了如何將書生·浦語大模型部署到實際應用中，并介紹了大模型推理部署框架LMDeploy的優(yōu)勢。最后是應用環(huán)節(jié)，介紹了基于大語言模型的智能體應用方案，和輕量靈活的智能體框架Lagent。

　　智聯(lián)招聘集團ALG執(zhí)行副總裁蔡白銀帶來的演講主題是《AI 時代的人力資源生態(tài)鏈重塑》。會上他分享了來自北京大學國家發(fā)展研究院與智聯(lián)招聘聯(lián)合發(fā)布的《AI大模型對我國勞動力市場潛在影響研究報告》內(nèi)容。據(jù)研究團隊構建的"基于工作任務的大語言模型影響指數(shù)"顯示，影響指數(shù)最高的20個職業(yè)主要是白領工作，共同特點是需要處理大量文本和資料整理等知識性任務，而這正是大語言模型人工智能的強項。但同時AI的發(fā)展也產(chǎn)生了許多新興崗位。他強調(diào)人工智能的進步重塑了人力資源生態(tài)鏈，幫助了企業(yè)組織進行人才升級，并對AI未來為人力資源帶來的改變充滿期待。

　　Dify.AI 聯(lián)合創(chuàng)始人兼產(chǎn)品VP 延君晨，為開發(fā)者帶來了題為《 LLMs App 技術棧與工作流實踐 101 》的主題演講。他圍繞大語言模型落地應用的現(xiàn)狀，提出并回答了以下三個問題:

　　1. 關于應用創(chuàng)新是否有配方，他強調(diào)要抓住機遇快速交付價值，沒有所謂的平均機會和低垂的果實。

　　2. 關于工程落地是否有范式，他認為優(yōu)秀的大模型基礎設施可以極大降低落地門檻。

　　3. 最后關于組織協(xié)作問題，他看好提示詞工程在R&D領域的發(fā)展，并展望未來人與AI能建立互信合作。

　　BentoML 創(chuàng)始人、CEO 楊超予帶來了《OpenLLM: 開源大語言模型的推理與部署實踐》的主題演講。會上他指出，在AIGC飛速發(fā)展的時代，可以通過三個方面來判斷市面上琳瑯滿目的開源 LLM的質(zhì)量：一是它能否滿足特定領域的模型需求、二是它是否能保證數(shù)據(jù)的安全，最后是能否用低成本去獲取高收益。除此之外他強調(diào)了針對目前大模型落地目前還面臨著五個挑戰(zhàn)，分別是實操性、拓展性、吞吐量、端對端的延遲以及成本問題。對于這些挑戰(zhàn)他總結出一個有價值的openLLM是如何去解決這些問題。

　　面對AI的革新可能會引發(fā)一些擔憂和不確定性，主論壇圓桌環(huán)節(jié)5位嘉賓就時下開發(fā)者關心的一些落地場景、商業(yè)模式、業(yè)務創(chuàng)新等問題，通過不同業(yè)務視角，深度探討了應對之道。

　　在未來的日子里，稀土掘金技術社區(qū)將會始終如一地為企業(yè)和技術人員提供一個交流觀點、碰撞思想的平臺，以實現(xiàn)雙向賦能。2023年，稀土掘金將繼續(xù)堅持以開發(fā)者為核心，努力將產(chǎn)業(yè)的上下游緊密連接起來，與各行業(yè)共同迎接技術發(fā)展的新時代。(作者：曹旭哲)