上海AI實驗室、信通院、螞蟻、IIFAA聯盟聯合發布《終端智能體安全2025》白皮書

　　7月28日，世界人工智能大會(WAIC)期間，在由中國信息通信研究院舉辦的“大模型智塑全球產業新秩序論壇”上，上海人工智能實驗室‌、信通院、螞蟻、IIFAA聯盟聯合發布《終端智能體安全2025》白皮書(下稱“白皮書”)，首次系統梳理了智能體(AI Agent)風險分類、如何發現風險、如何防御風險，并覆蓋了單智能體設備、多智能體協同，以及AI終端生態的全面挑戰，成為終端智能體安全提供風險評估指南。

　　在AI大模型加速下沉的2025年，智能體正快速滲透進手機、眼鏡、耳機、車機等各種終端設備，悄悄成為連接人、設備與環境的關鍵樞紐。生活、工業、醫療、教育等多個行業，正在被一批更“主動”、更“擬人化”的終端智能體重新定義交互方式。它們不再是傳統意義上的智能終端，也不是完全云端運行的AI Agent，而是一種運行在“端側”的智能體。

　　白皮書指出，隨著模型越來越懂用戶、操作越來越自動，終端智能體的風險邊界也在拓展：不再只是“數據泄露”這么簡單，而是向模型行為、身份偽造、環境感知誤導，甚至算法倫理等深層問題蔓延。

　　中國信通院華東分院人工智能事業部主任常永波介紹道，在AI Agent成為“下一代操作系統”的當下，對安全設施的梳理，尤為必要。為了應對這些高度復雜、層層遞進的安全風險，白皮書提出了三大防護路徑：單智能體安全、多智能體可信互連、AI終端安全，希望作為一份全面且具針對性的、可參考的智能體安全指引。

　　圖說：《終端智能體安全2025》白皮書首次提出終端智能體安全體系

　　白皮書首次提出終端智能體安全體系，在技術生態體系的支撐下，單智能體安全技術包括安全護欄、數據去毒、基座對齊和柔性管理，多智能體可信互連技術則包括可信數據流轉、可信服務流轉、可信身份認證和可信記憶共享，AI 終端安全技術可信隱私沙箱、跨設備可信連接等，共同支撐AI/AR眼鏡、智能手機助手、智能座駕等行業應用。

　　值得一提的是，白皮書提出，智能體可信互連的核心，在于構建“可信”的智能體協作環境，具體體現在四個關鍵維度：可信連接、可信鑒權、可信意圖、可信授權。它就像智能體世界的 “安全衛士”，從身份驗證到數據傳輸，從需求處理到結果追溯，全程筑牢安全防線。

　　作為發布單位之一，IIFAA聯盟一直致力于推動行業共同制定跨智能體交互的相關安全技術規范，共建開放、合作、共贏的智能體生態。聯盟技術負責人萬小飛表示，在智能終端快速發展的今天，單獨一家企業很難承擔構建智能終端可信體系的任務，智能終端的可信體系，需要生態共建共贏。“呼吁整個生態，共同完善智能體可信基礎設施，共建智能體可信互連生態，最終共筑智能體協作信任網絡。”

　　據了解，今年4月，IIFAA聯盟推出業內首個智能體可信互連技術ASL(Agent Security Link)，該技術可以在MCP等協議的基礎之上，保障各個智能體協作中在權限、數據、隱私等方面的安全，為Agent互連提供安全、可信的協作保障。