韓國SKT自研電信大模型成果已成功落地實施

　　C114訊 北京時間11月20日消息(艾斯)韓國電信運營商SK電訊(SKT)正在持續大舉進行AI轉型。

　　近日，該運營商宣布推出推出了一款AI客服工具，旨在提高處理客戶查詢的效率。這一新系統利用SKT自研的電信大語言模型(Telco LLM)和大型多模態模型(LMM)技術，專注于電信領域知識。SKT韓國客服中心從今年10月中旬以來一直在測試該工具，測試階段持續了大約一個月時間。

　　報道稱，上述Telco LLM是通過與Anthropic等主流國際大模型公司合作開發的，使該系統能夠提供深厚的電信專業知識。

　　SKT還開發了能夠理解與通信相關的文本和圖像的專用LMM。測試版服務于10月中旬逐步推出，并顯示出良好的效果。這是韓國國內客服中心首次采用這類AI咨詢系統。這家運營商表示，該系統提高了工作效率，提供了更加個性化的客戶咨詢。利用其自研的Telco LLM，可幫助agent更快地從內部數據庫中檢索相關信息，從而縮短響應時間，并提高服務質量。

　　另外，SKT采用了檢索增強生成(RAG)進一步優化系統，使模型在回答客戶查詢時僅訪問最準確的數據。此功能提高了響應的可靠性和準確度，確保agent能夠提供最好的服務。RAG的集成還通過簡化數據檢索過程提高了整體響應質量，使其更快、更有效。

　　在過去的一年里，SKT重組了其知識管理系統，以更好地適應AI需求。該公司利用各種通信數據和客服專家的大量反饋對其模型進行了微調。

　　這種由強化學習驅動的迭代過程確保了Telco LLM和LMM是量身定制的，能夠以最高的準確度處理與電信相關的查詢。

　　除了核心的AI功能外，SKT還計劃推出三項創新解決方案：AI知識搜索助手、智能文檔處理、自動后處理系統。這些功能已于今年10月開始測試，并將于2025年全面推出。

　　據C114了解，韓國電信運營商一直在AI數字化轉型方面表現得果敢激進。就在最近，SKT還宣布了一項新計劃，將致力于建設所謂的“AI基礎設施高速公路”，以AI數據中心(AIDC)、GPU即服務(GPUaaS)和邊緣AI三大主軸為中心，在全國范圍內構建AI基礎設施，從而成為亞太地區的“AI樞紐中心”(AI Hub)。

　　SKT首席執行官Yoo Young-sang表示：“迄今為止，通信基礎設施一直是關于網絡連接的競爭，也即網速和容量的較量，但現在網絡演進的范式必須改變了。未來，6G將發展成為融合通信和AI的下一代AI基礎設施。”

　　此前在2024年6月，SK電訊與德國電信(Deutsche Telekom)、e&、新加坡電信(Singtel)、軟銀(SoftBank)共同宣布成立全球電信人工智能聯盟(GTAA)，聯盟成員同意成立一家合資企業，開發專門針對電信行業的大語言模型，這是對利用海量電信數據的一次主動嘗試。

　　市場研究公司Omdia在一篇報告中寫到，現有大語言模型的局限性引發了打造Telco LLM的想法，這是一種先進的大語言模型，可以為AI服務配備電信行業知識，以了解用戶的意圖。Telco LLM將推動AI轉型并提高客戶服務質量標準，同時還具有提升生成式AI表現的潛力。

　　Omdia資深分析師Harith Abdul Hadi指出，在生成式AI當中打造Telco LLM的目的是簡化員工的工作流程，更重要的是，支撐運營商在各個領域(例如咨詢、研發和營銷)的AI轉型計劃，包括將運營商的新業務與核心業務相結合。電信公司將能夠留住人才并使工作變得更有趣，特別是在需求下降的領域(例如客戶服務、后端運營)。

　　不過，也有電信運營商對于是否需要打造專門的Telco-LLM持懷疑態度。例如，歐洲大型電信運營商Orange就表示，從商業角度來看，目前最好的做法是對現有模型進行微調，而不是從頭開始構建自己的大模型或對現有的大模型進行全面的再訓練。Orange認為，對“特定的”電信大模型的需求仍是一個需要探討的問題。

　　因此，Orange并未將過多的精力放在構建特定的大模型上，而是持續通過開發自己與現有大模型的接口來探索通用大模型應用。