中國工程院院士沈昌祥：“六不原則”打造安全可信的算力網(wǎng)絡(luò)新業(yè)態(tài)

　　9月27日-29日，2024中國算力大會(huì)在河南鄭州成功舉辦。其中，28日下午舉行的第二場主論壇以“算力筑基，賦能千行百業(yè)”為主題，深入探討算力如何成為新時(shí)代發(fā)展的堅(jiān)實(shí)基石，驅(qū)動(dòng)各行各業(yè)轉(zhuǎn)型升級。

　　在主旨演講環(huán)節(jié)，中國工程院院士沈昌祥表示：“新質(zhì)生產(chǎn)力是新型經(jīng)濟(jì)形態(tài)，尤其是數(shù)字經(jīng)濟(jì)，數(shù)字經(jīng)濟(jì)靠什么?算力!沒有算力不成為數(shù)字經(jīng)濟(jì)。因此我們必須要認(rèn)清算力和數(shù)字經(jīng)濟(jì)的關(guān)系。”

　　回顧數(shù)字經(jīng)濟(jì)的發(fā)展過程，沈昌祥強(qiáng)調(diào)，從產(chǎn)業(yè)數(shù)字化到數(shù)字產(chǎn)業(yè)化，要充分理解大數(shù)據(jù)是什么。“大數(shù)據(jù)是原料，通過大模型訓(xùn)練出人工智能產(chǎn)品，實(shí)現(xiàn)數(shù)字化運(yùn)用、數(shù)字化社會(huì)。”

　　沈昌祥同時(shí)指出，大模型的訓(xùn)練數(shù)據(jù)可能會(huì)產(chǎn)生虛假、有偏見、侵權(quán)、違背倫理的錯(cuò)誤。由于數(shù)據(jù)是原料，大量錯(cuò)誤數(shù)據(jù)被(大模型)采納后，會(huì)引起幻覺，甚至出現(xiàn)各種各樣違反法律、倫理的問題。“安全是發(fā)展的前提，所以要打造安全可信的算力網(wǎng)絡(luò)新業(yè)態(tài)。”沈昌祥說。

　　網(wǎng)絡(luò)安全法明確提出，要加大投入，扶持重點(diǎn)網(wǎng)絡(luò)安全技術(shù)產(chǎn)業(yè)和項(xiàng)目，支持網(wǎng)絡(luò)安全技術(shù)的研究開發(fā)和應(yīng)用，推廣安全可信的網(wǎng)絡(luò)產(chǎn)品和服務(wù)，保護(hù)網(wǎng)絡(luò)技術(shù)知識產(chǎn)權(quán)，支持企業(yè)、研究機(jī)構(gòu)和高等學(xué)校等參與國家網(wǎng)絡(luò)安全技術(shù)創(chuàng)新項(xiàng)目。今年8月21日發(fā)布的《關(guān)于完善市場準(zhǔn)入制度的意見》提出，優(yōu)化新業(yè)態(tài)新領(lǐng)域市場準(zhǔn)入環(huán)境，其中就包括自主可信計(jì)算。

　　沈昌祥解釋稱，安全可信的本質(zhì)不是有病毒殺病毒、有黑客防黑客、有漏洞打補(bǔ)丁。而是要使得完成計(jì)算任務(wù)的邏輯組合不被破壞、不被篡改，達(dá)到預(yù)期的計(jì)算目標(biāo)，相當(dāng)于人體有免疫能力，保證健康工作、健康生活。

　　沈昌祥提出，未來打造可信生態(tài)環(huán)境要達(dá)到六個(gè)“不”的效果，即“攻擊‘進(jìn)不去’;進(jìn)去以后‘拿不到’東西，拿到東西‘看不懂’;基于免疫系統(tǒng)，信息‘改不了’;發(fā)現(xiàn)故障苗頭馬上處理，系統(tǒng)‘癱不了’;最后是‘賴不掉’，有可信計(jì)算使得痕跡不能抹掉。”