信通院云大所郭雪：構(gòu)建“12345”責(zé)任共擔(dān)體系，筑牢AI云數(shù)據(jù)安全防線

　　C114訊 7月4日消息(水易)由全球數(shù)字經(jīng)濟(jì)大會(huì)組委會(huì)主辦，中國(guó)信息通信研究院、中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)承辦的全球數(shù)字經(jīng)濟(jì)大會(huì)—云智算安全論壇暨第三屆“SecGo論壇”在京召開(kāi)。

　　中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所開(kāi)源和軟件安全部主任郭雪表示，“云+AI”成為新一代人工智能發(fā)展的重要驅(qū)動(dòng)力，正在重構(gòu)云服務(wù)產(chǎn)業(yè)格局，AI云服務(wù)成為用戶開(kāi)發(fā)和應(yīng)用人工智能技術(shù)的首要選擇。

　　與此同時(shí)，數(shù)據(jù)是AI云場(chǎng)景的引擎和燃料，支撐大模型的訓(xùn)練、推理與落地。因此，海量數(shù)據(jù)在AI云端的全生命周期安全成為當(dāng)下進(jìn)一步促進(jìn)人工智能發(fā)展與AI業(yè)務(wù)平穩(wěn)運(yùn)行的重要條件。

　　基于責(zé)任共擔(dān)的“12345”AI云數(shù)據(jù)保護(hù)體系

　　郭雪表示，AI云服務(wù)場(chǎng)景多樣，參與者眾多，不同服務(wù)場(chǎng)景責(zé)任劃分存在差異，做好數(shù)據(jù)安全的核心是明確責(zé)任主體，劃分責(zé)任邊界，確認(rèn)保護(hù)對(duì)象。為此，應(yīng)協(xié)同參與各方構(gòu)建具有1個(gè)明確目標(biāo)、2個(gè)溝通機(jī)制、3類參與角色、4種服務(wù)場(chǎng)景、5個(gè)保護(hù)對(duì)象的AI云數(shù)據(jù)保護(hù)體系。

　　“1個(gè)明確目標(biāo)”即構(gòu)建基于多角色責(zé)任共擔(dān)的AI云數(shù)據(jù)保護(hù)體系;“2個(gè)溝通機(jī)制”即AI云服務(wù)商與AI云服務(wù)用戶、AI云服務(wù)用戶與大模型提供者之間的信息傳遞機(jī)制;“3類參與角色”包括AI云服務(wù)商、AI云服務(wù)用戶、大模型提供者;“4種服務(wù)場(chǎng)景”包括智算基礎(chǔ)設(shè)施資源服務(wù)、大模型平臺(tái)服務(wù)、公有云SaaS服務(wù)、大模型訓(xùn)推一體機(jī);“5個(gè)保護(hù)對(duì)象”包括個(gè)人信息、上傳數(shù)據(jù)、模型數(shù)據(jù)、生成數(shù)據(jù)、日志數(shù)據(jù)。

　　郭雪進(jìn)一步表示，構(gòu)建基于責(zé)任共擔(dān)的“12345”AI云數(shù)據(jù)保護(hù)體系需要充分考慮在不同場(chǎng)景下，AI云服務(wù)商、大模型提供者、AI云服務(wù)用戶對(duì)AI云計(jì)算環(huán)境組成部分的可見(jiàn)性與可控性不同，相同角色在不同場(chǎng)景中受到的法律法規(guī)約束也存在差異，在進(jìn)行AI云服務(wù)數(shù)據(jù)保護(hù)責(zé)任范圍劃分時(shí)應(yīng)根據(jù)AI云服務(wù)場(chǎng)景進(jìn)行分類討論。

　　因此，AI云服務(wù)商、AI云服務(wù)用戶、大模型提供者三方應(yīng)攜手共建AI云數(shù)據(jù)安全體系，云服務(wù)商多維度強(qiáng)化AI云上數(shù)據(jù)安全底座，大模型服務(wù)商保障模型數(shù)據(jù)安全，客戶側(cè)主要依托數(shù)據(jù)安全治理方法論持續(xù)推進(jìn)治理工作。

　　技術(shù)、標(biāo)準(zhǔn)、生態(tài)，共創(chuàng)更安全的AI云環(huán)境

　　郭雪介紹，這一背景下，中國(guó)信通院發(fā)起“云上數(shù)據(jù)暴露面梳理·三步走賦能計(jì)劃”，旨在幫助云用戶梳理上云后數(shù)據(jù)安全風(fēng)險(xiǎn)。第一步,全面梳理企業(yè)云上資產(chǎn)，形成云上關(guān)鍵風(fēng)險(xiǎn)點(diǎn)清單，按照規(guī)則賦予權(quán)重;第二步，按資產(chǎn)梳理云上數(shù)據(jù)安全風(fēng)險(xiǎn)事件，按照規(guī)則賦予風(fēng)險(xiǎn)事件權(quán)重以及其發(fā)生概率權(quán)重;第三步，基于上述三點(diǎn)權(quán)重推演基于資產(chǎn)的云上數(shù)據(jù)暴露面。

　　系統(tǒng)性開(kāi)展云服務(wù)用戶數(shù)據(jù)保護(hù)評(píng)估。中國(guó)信通院牽頭將我國(guó)數(shù)據(jù)安全相關(guān)法律法規(guī)與用戶實(shí)踐相結(jié)合，制定了YD/T3954-2021《云服務(wù)用戶數(shù)據(jù)保護(hù)能力參考框架》行業(yè)標(biāo)準(zhǔn)，并依據(jù)標(biāo)準(zhǔn)面向云服務(wù)商與云服務(wù)用戶展開(kāi)云服務(wù)用戶數(shù)據(jù)保護(hù)護(hù)航計(jì)劃，計(jì)劃旨在從根本上保護(hù)用戶上云后的云上數(shù)據(jù)安全。當(dāng)前共有16家企業(yè)(共計(jì)29個(gè)云平臺(tái))通過(guò)評(píng)估。

　　啟動(dòng)可信AI云服務(wù)用戶數(shù)據(jù)保護(hù)合約簽署計(jì)劃。中國(guó)信通院牽頭編制《AI云服務(wù)用戶數(shù)據(jù)保護(hù)協(xié)議》，面向AI云服務(wù)商提供的SLA格式進(jìn)行規(guī)范，以SLA為核心，搭建AI云服務(wù)商與用戶間的信任橋梁，增強(qiáng)用戶信心，促進(jìn)AI云服務(wù)行業(yè)健康可持續(xù)發(fā)展。同時(shí)中國(guó)信通院將攜手通過(guò)評(píng)估的企業(yè)共同簽署“可信AI云服務(wù)用戶數(shù)據(jù)保護(hù)計(jì)劃”向用戶承諾其數(shù)據(jù)安全與主權(quán)性將得到妥善保護(hù)，與用戶形成信任關(guān)系。

　　強(qiáng)化一體機(jī)數(shù)據(jù)保護(hù)能力，提升AI應(yīng)用私有化部署行業(yè)信心。大模型技術(shù)正加速向政企端場(chǎng)景滲透，本地化部署的大模型一體機(jī)成為央國(guó)企與政務(wù)場(chǎng)景智能化的核心載體。然而一體機(jī)的數(shù)據(jù)處理體系同樣存在存儲(chǔ)介質(zhì)暴露、運(yùn)行環(huán)境復(fù)雜、模型權(quán)限失控等安全挑戰(zhàn)，用戶對(duì)大模型一體機(jī)端側(cè)數(shù)據(jù)保護(hù)能力存在顧慮。中國(guó)信通院聯(lián)合頭部云廠商與安全廠商，共同編制《大模型一體機(jī)數(shù)據(jù)保護(hù)能力要求》，幫助大模型一體機(jī)服務(wù)商規(guī)范數(shù)據(jù)安全能力，打消用戶使用顧慮。

　　面向未來(lái)，郭雪表示，應(yīng)從技術(shù)、標(biāo)準(zhǔn)、生態(tài)三方面共創(chuàng)更加安全的AI云環(huán)境。技術(shù)方面，零信任+AI將持續(xù)激發(fā)安全技術(shù)創(chuàng)新活力，為企業(yè)核心數(shù)據(jù)安全保駕護(hù)航;標(biāo)準(zhǔn)方面，構(gòu)建國(guó)際化的AI云數(shù)據(jù)安全責(zé)任共擔(dān)標(biāo)準(zhǔn)體系，賦能一帶一路沿線國(guó)家數(shù)據(jù)跨國(guó)界流通;生態(tài)方面，引入網(wǎng)絡(luò)安全保險(xiǎn)，閉環(huán)云上數(shù)據(jù)安全保護(hù)。