國產GPU對決！清華經管聯合Plaso伯索，“AI+教育”5大場景橫評

　　人工智能技術的迅猛發展，正深刻重塑著教育形態。清華大學經濟管理學院(下稱“清華經管”)作為國內頂尖院校，積極推動人工智能技術與教育教學的深度融合與應用，聚焦實際業務場景，追求落地實效，借助AI技術創新人才培養模式、改革教學方式。清華經管采用Plaso伯索旗下“英飛 AI WorkSpace”平臺，在教學、科研、行政管理等場景開展了深入實踐，其“交互式數字畫布+AI智能體”的核心技術和產品理念，高度契合清華經管對AI場景的需求，探索出了一條基于實際業務場景、真正可落地的創新實踐路徑，并取得了顯著成效。隨著探索的拓展和深入，AI大模型在處理教育場景中特有的短文本對話交互、長文本總結摘要、長文本生成擴寫、長文本翻譯解讀、高并發等場景時，對高性能GPU支撐的需求正愈發凸顯。可以說，GPU作為大模型應用的基礎設施，其性能直接關系到“AI+教育“場景的落地效率、應用深度和用戶體驗，是支撐高質量、多元化“AI+教育“場景的基石。

　　與此同時，在面對復雜的國際環境與國家關鍵核心技術自主可控的時代要求下，肩負“服務國家戰略與引領教育創新”雙重使命的清華經管展現出了責任擔當和示范引領，在教育領域率先部署國產GPU方案，并進行性能驗證。

　　為此，清華經管聯合Plaso伯索，聚焦5大“AI+教育”應用場景，對相關國產GPU展開了全面深度測試。

　　清華經管“AI+教育”落地實踐清華經管依托Plaso伯索旗下“英飛 AI WorkSpace”打造AI體驗中心，通過實際應用場景的搭建，全方位、多維度落地AI場景，融入教學、科研和行政管理等各個主要場景。

　　在教學領域，AIGC可生成課程的知識圖譜、能力圖譜，構建賦能“知識傳授、能力培養、價值塑造”的三位一體的多智能體協同育人空間，教師在知識傳授過程可以使用AI用具體示例對某一晦澀難懂的概念提供清晰的多段式解釋，并給出不同角度的理解。此外，AIGC還能根據學生的學習數據生成個性化學情報告，有助于提升教學的針對性和有效性，為教師提供精準教學參考，為學生提供更優質的教育資源。

　　在科研方面，清華經管重點聚焦將AI技術應用于科研與學科數據的采集、分析與應用領域，系統性探索學科交叉創新路徑，實現異質知識體系的高效融合。學院將于近期推出AI科研工作臺，為科研工作者提供全新的智能協作范式。

　　在行政管理領域，英飛 AI WorkSpace也有諸多實踐應用。例如清華經管教師人事管理部門使用多智能體技術重構了海外人才引進的流程，構建了“AI人才引進空間”和“人才引進AI檔案袋”，通過使用AI對應聘教師的簡歷和CV進行關鍵信息提取，自動篩選和匹配符合要求的人才簡歷，簡化人才招聘流程，提高招聘效率和準確性。減少招聘過程中的人力和時間成本，提高招聘質量。

　　此外，Plaso伯索配合清華經管已經完成了諸如“三會一課AI黨建空間”、“青年教師顧問組空間”、“學生職業發展空間”等多個AI賦能的場景規劃和設計，隨著2025年秋季學期的展開，將陸續上線與應用。

　　測試方法及指標體系構建考慮到AI在教學、科研、行政管理等業務場景的實際應用中，涉及到大量的學院本地化數據處理，為滿足數據安全與合規要求，清華經管采用私有化部署GPU來實現。基于上述具體業務場景的需求，清華經管聯合Plaso伯索共同規劃設計了具備代表性和實用性的測試方法與指標體系，對國產GPU展開深度測試。結合業內通用開源測試方法-vLLM性能基準測試套件及LLMPerf開展了對國產人工智能服務器的實測評估測試。本次評估測試圍繞推理場景展開，包括推理性能測試及多維度推理準確性測試。

　　為保證測試結果的公正與合理，推理性能測試部分具體實施規范如下：

　　1)測試環境標準化配置：

　　模型版本：統一部署 DeepSeek-R1-671B 模型(20250120) INT8 量化版本

　　運行環境：模型部署所在 的AI 服務器(避免網絡波動等場外因素干擾);

　　2)動態填充測試框架：

　　并發控制：初始化 N 個虛擬用戶實例構建基礎并發壓力;

　　動態補償：通過智能請求隊列管理實現實時請求補充，完成請求與新增請求建立 1:1 映射;

　　終止條件：設置 M×N 的總請求窗口。

　　在推理準確性測試部分中，我們調整模型生成參數與DeepSeek-R1原論文一致(temperature=0.6，top-p=0.95)。

　　本次測試聯合清華經管選取了兩家主流的國產GPU設備進行多維度測試，以下使用代號A設備和B設備命名。

　　A設備在INT8精度下各個維度的測試結果：

　　B設備在INT8精度下各個維度的測試結果：

　　*具體測試數據詳見Plaso伯索官方報道。

　　整體測試結論通過比較 A設備和B設備在INT8精度下的多維度測試結果，得出以下結論：

　　推理性能方面：

　　在長上下文任務中(上下文長度≥4096 tokens，出現在長文本翻譯/解讀、長文本生成/擴寫和長文本總結/摘要場景下)，兩設備在滿足SLO的條件下對并發請求的支持能力無顯著差異;在中短上下文任務中(如短文本對話交互場景)，A 設備在滿足 SLO時的并發處理能力優于 B 設備。

　　推理準確性方面：

　　在INT8量化下，A、B設備均能保持模型具有較低的準確度損失，保證用戶的使用體驗。結語此次清華經管聯合Plaso伯索聚焦“AI+教育”核心應用場景，對國產GPU進行的深度測試具有重要意義。

　　清華經管不僅著眼于自身需求，更立足于國家關鍵核心技術自主可控的時代要求，不僅是對國產GPU性能的一次嚴謹檢驗，更為教育行業乃至更廣泛領域提供了寶貴的國產GPU選型基準、技術驗證范式和落地經驗，有助于推動國產GPU在關鍵領域的應用進程與產業發展。

　　未來，清華經管將繼續聯合Plaso伯索，圍繞更多“AI+教育”業務場景開展兼具務實性與前瞻性的應用探索。同時，我們也誠邀更多AI 領域的優秀廠商攜手共建生態，共同推動AI技術在教育領域的創新突破與高質量發展。關于Plaso伯索Plaso伯索(全名“南京伯索網絡科技有限公司”)成立于2012年，總部位于六朝古都南京，團隊在AIGC、AI智能體、邊緣智能、云計算、大數據、富媒體通訊、音視頻處理、多模態畫布空間、人機實時協作、安全信創等技術方面積累了豐富的產品實踐經驗。

　　Plaso伯索融合創新AI Sandbox(AI沙盒)底座應用，陸續推出了【伯索云學堂】、【伯索融課】、【英飛·思想家】等智能化“AI+教育”產品應用體系，已成功服務了來自基礎教育、高等教育、培訓教育、商業培訓、企業協作辦公等領域超120,000家客戶。近年曾榮獲：2023江蘇省“專精特新”企業、2024全國行業競爭力5A級單位、2024江蘇人工智能應用創新獎、2024教育部智慧教育優秀案例、2025江蘇生成式人工智能創新大賽三等獎等殊榮。伯索云學堂：AI智能教育全場景解決方案。產品支持：互動直播、微課錄播、在線答疑、題庫測評、作業鞏固、在線網校、教研備課等，并融合強大的AI能力(AI學習空間、AI智能字幕、AI打點、AI助手、AI答疑、AI作業批改等)，助力機構教學效率與服務體驗雙升級。

　　伯索融課：AI賦能的一體化數字研訓解決方案，提供數字化備課空間、數字化教學空間、數字化教研空間、資源共享系統數據統管系統五大產品體系，圍繞“備、教、研、評、學、管”六大場景，專注數字化賦能教育教學，聚焦教師成長、賦能課堂教學、助力教學創新。英飛·思想家：數字畫布+AI智能體，人機高效協同空間。以數字畫布+AI智能體為底座，集音視頻通訊、富媒體文件、多樣化批注等功能，積木化、快速搭建貼合業務場景的AI智能體工作流，實現人機高效協同，助力機構高效協作、備課、服務、知識復用、全流程降本增效。