生成式AI正在偷走你的數據

　　妙鴨相機火了。

　　無需高額的價格、無需耗時的定妝，只需要9.9元和20張個人照片，就可以利用AI生成媲美“海馬體”“天真藍”的精美照片。

　　憑借低廉的價格和較好的生成效果，“妙鴨相機”一經推出便迅速出圈。

　　不過，這次出圈的不止是產品，還有當時近似“霸王條款”的用戶協議。

　　據媒體報道，妙鴨相機初版用戶協議的“授權許可”條款頗具爭議。一句話就是：用戶授權妙鴨相機，無償且*地使用該信息。

　　圖片來源：網絡

　　“這樣操作，其實是國內無數軟件、APP的默認選項，但是正大光明地說出來，可以說‘有恃無恐’了。”某互聯網數據信息安全企業負責人向「甲子光年」表示。

　　面對用戶的質疑，妙鴨相機很快修改了相關條例，并在官方公眾號、小紅書等多個平臺發布了道歉聲明，直言：已經收到用戶關于用戶協議的反饋，原協議內容有誤，已*時間根據妙鴨的實際情況進行了修改。“在這里鄭重地向大家承諾，您所上傳的照片只會用于數字分身制作，不會提取也不會用于識別和其他用途，且分身制作完成后自動刪除。”

　　事實上，一直以來，“互聯網服務與數據安全難以兩全”都是一個棘手的問題。妙鴨相機用戶協議授權問題，僅僅是互聯網數據安全問題的一個縮影。

　　長期專注于數據合規領域，曾為多家境內外上市公司、知名企業提供數據合規服務的北京植德律師事務所合伙人王藝告訴「甲子光年」：“目前有較多因為‘AI換臉’軟件產生的侵權案件，利用AI技術侵犯個人隱私數據的案例數量也在逐步上升。”

　　用戶處于被動位置，難以保障自身的數據安全， 隱私保護的無力感正在從互聯網時期蔓延至AI時代。但顯而易見的是，在AI時代，企業對數據的爭奪更加激烈，用戶數據隱私安全面臨的挑戰也更加嚴峻。

　　大模型訓練不僅離不開豐富的數據集，也愈加需要高質量的數據;由于涉及到人與AI的交互，用戶的個人信息權利難以響應，技術開發者、服務提供者也面臨著潛在的合規風險。

　　當老生常談的問題遇上新的技術變革，大模型時代又將打響怎樣的數據安全保衛戰?

　　在創新與安全的平衡中，法律規范、企業自治、數據安全技術正在給出它們的答案。

　　1.大模型時代，數據安全的新挑戰

　　數據，是AI發展的養料。人們在輕而易舉獲取數據的同時，對數據安全的討論也此起彼伏。

　　2013年，線上辭典Dictionary.com將“Privacy(隱私)”選為當年的年度詞匯。彼時美國政府棱鏡計劃被曝光、谷歌修改隱私協議以整合旗下各服務用戶數據，個人隱私成為數據安全中關注度最高、涉及人群最廣的方面。

　　相較于互聯網對用戶上網習慣、消費記錄等信息的覆蓋，人臉識別、智能設備、AI換臉等AI應用的出現，對用戶個人信息的采集范圍大幅擴大，包括人臉、指紋、聲紋、虹膜、心跳、基因等強個人屬性的生物特征信息。

　　2017年，*例利用AI侵犯公民個人信息案犯罪在浙江紹興破獲，其中超10億條公民個人信息被非法獲取。

　　360集團首席安全官杜躍進此前接受「甲子光年」采訪時就曾表示：“人工智能和大數據的安全必須放在一起看。”

　　生成式AI、大模型的出現，對數據提出了前所未有的要求，也隨之帶來了更加突出的數據安全問題。

　　在大模型的訓練數據量上，以OpenAI的GPT模型為例：GPT-1預訓練數據量僅為5GB;到了GPT-2，數據量已經增加至40GB;而GPT-3的數據量已經直接飛升至45TB(相當于GPT-2數據量的1152倍)。

　　市場逐漸凝成這樣的共識：得數據者得天下，數據是大模型競爭的關鍵。

　　頂象安全專家告訴「甲子光年」：“模型需要數據來訓練。數據除了自己采集，就是爬蟲爬取。爬取的數據大部分沒有經過數據所有者允許，可以說大部分是非授權的盜用。”

　　2022年11月，OpenAI和GitHub一起推出的代碼助手Copilot就曾被程序員們告上法庭。原告們認為，Copilot在未獲得GitHub用戶授權的情況下，使用了公共存儲庫進行訓練。

　　在今年6月，OpenAI同樣因為未經允許使用個人隱私數據收到了一份長達157頁的訴訟書。

　　除了模型的訓練階段，在模型的實際應用階段中，個人隱私泄露的風險持續存在。

　　頂象安全專家告訴「甲子光年」，生成式AI不僅僅泄露人的隱私和秘密，甚至會讓人變得透明。“就跟《三體》中的智子一樣，提問者說的話會被記錄下來，生產生活產生的數據信息會成為AIGC訓練的素材。”

　　早在2020年，人們就發現OpenAI的GPT-2會透露訓練數據中的個人信息。隨后的調查發現，語言模型越大，隱私信息泄露的概率也越高。

　　今年3月，多名ChatGPT用戶在自己的歷史對話中看到了他人的對話記錄，包括用戶姓名、電子郵件地址、付款地址、信用卡號后四位以及信用卡有效期。

　　不到一個月之后，三星電子就因員工使用ChatGPT，被迫面臨三起數據泄露事故：其半導體設備測量、良品/缺陷率、內部會議內容等相關信息被上傳到了ChatGPT的服務器中。隨后，三星立即禁止員工在公司設備及內網上使用類ChatGPT的聊天機器人，同樣禁用的公司還包括蘋果、亞馬遜、高盛等世界500強公司。

　　觀韜中茂律師事務所發布的《生成式AI發展與監管白皮書(三)》解釋了大模型在應用上的特殊性。大模型與人之間的交互，不同于一般應用程序中填入式的收集個人信息方式，所以對于個人信息的披露也不同于往常意義上的“公開披露”，更類似于一種“被動公開”，即當某個用戶的真實個人信息被摘錄在語料庫后，之后任意用戶通過詢問等方式均可以得知相關個人信息。

　　這意味著，在大模型時代，不僅個人信息泄露的范圍擴大了，個人信息的采集過程也變得更為隱秘，難以辨認，而且一旦侵權，就是對大量用戶造成的侵權。那么，泄露之后的個人信息去向了哪里?究竟會對用戶造成什么影響?

　　北京植德律師事務所合伙人王藝告訴了「甲子光年」答案。他表示，生成式AI造成的個人信息泄露，輕則可能侵害他人的肖像權，為造謠者實施便利，重則可能被犯罪分子利用，實施犯罪。

　　頂象的安全專家也表示，在所有互聯網產品或軟件都有可能被植入AI元素的當下，AI濫用帶來的社會問題會越來越多。“造假會更簡單，眼見不一定為實，電信詐騙、網絡詐騙越來越復雜。”

　　2023年5月，安全技術公司邁克菲對來自七個國家的7054人進行了調查，發現有四分之一的成年人經歷過某種形式的AI語音詐騙(10%發生在自己身上，15%發生在他們認識的人身上)，10%的受害者因此造成經濟損失。

　　「甲子光年」從慧科數據庫、公開報道中發現，今年以來全國各地發現利用AI技術竊取個人隱私進行詐騙的案例至少有14例。

　　其中，大多數案例通過視頻聊天與受害者進行聯系，逼真的人臉和聲音容易讓人們放下警惕，冒充朋友、親人也迅速讓受害者交與信任。詐騙金額多在萬元以上，最高被詐騙金額甚至高達430萬元。

　　數據來源：慧科新聞數據庫，綜合媒體報道

　　除此之外，通過“AI換臉”造成肖像權被侵犯的案件也屢見不鮮。王藝表示，雖然此類案件的數量在逐步上升，但由于隱蔽性強，且是微型侵權，很多案例都沒有走上法庭，即使進行了法院審判，得到的賠償金額也并不高。

　　可以說，普通人在面對利用AI技術進行的個人隱私侵權面前，其實并沒有太多的辦法。

　　2.嚴苛的立法態度不是監管的*解法

　　技術發展與法律監管總是并駕齊驅的。如果說數據安全已經成為人工智能時代的必答題，法律與監管便是解答的關鍵。

　　今年4月，斯坦福大學以人為本人工智能研究所(Stanford HAI)發布了《2023年人工智能指數報告》(Artificial Intelligence Index Report 2023)報告。通過對127個國家的立法記錄調研，報告顯示，包含“人工智能”法案通過的數量，從2016年的1個增長到2022年的37個。在對81個國家涉及人工智能的議會記錄進行分析后，研究人員發現全球立法程序中提及人工智能的次數自2016年以來增加了近6.5倍。

　　區別于信息剽竊、隱私侵犯等“老生常談”的數據安全問題，由于涉及到人與AI的交互，大模型時代數據安全面臨著更為迫切的難題——個人信息權利響應難以落實。

　　如何精準識別交互過程中收集的個人信息?如何劃清用戶服務與模型訓練的使用界限?面對全新的數據安全、個人信息安全、網絡安全難題，大模型時代亟須新的監管辦法出臺。

　　2023年7月13日，中國網信辦發布《生成式人工智能服務管理暫行辦法》(下文簡稱《暫行辦法》，2023年8月15日施行)，明確規定了生成式人工智能服務提供者的服務規范。

　　在涉及個人信息安全的相關條例中，《暫行辦法》規定：

　　第九條提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。

　　提供者應當與注冊其服務的生成式人工智能服務使用者(以下稱使用者)簽訂服務協議，明確雙方權利義務。

　　第十一條提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。

　　提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。

　　隨著管理細則逐步落實、施行日期臨近，多家服務提供商也在開展自檢自查。據了解，由于數據采集和使用環節不夠規范，蘋果應用商店已經下架了多款AIGC相關軟件。數據規范的緊迫性可見一斑。

　　除了數據安全外，對技術的監管不可避免地涉及“發展與監管”之間的矛盾。北京植德律師事務所合伙人王藝告訴「甲子光年」：“如何處理二者之間的矛盾，是不同國家的戰略選擇。”

　　相較于4月11日發布的《生成式人工智能服務管理辦法(征求意見稿)》(下文簡稱《征求意見稿》)，《暫行辦法》做出了較大改動。

　　《暫行辦法》刪除了對研發主體的監管要求，將《征求意見稿》中將強制性的“生成內容應當真實準確”修改為非強制性的“提高生成內容的準確性和可靠性”，并補充要求提升生成式人工智能服務的透明度。

　　“監管部門對《征求意見稿》的很多條款進行了刪除或者松綁。從立法前后稿子的變化，可以看出我國還是以發展為先的。”王藝說道。

　　在監管和發展平衡中，此次條例的修改不無道理。因為立法監管并非是一蹴而就的，過于嚴苛的立法態度可能會成為技術發展的掣肘。在歐洲，部分技術從業者就該問題表達了擔憂。

　　ChatGPT推出后，歐洲國家對OpenAI的監管逐步加緊。意大利宣布禁用ChatGPT后，出于數據保護的考慮，德國、法國、西班牙等國家也表示正在考慮對AI聊天機器人采取更嚴格的監管。

　　6月14日，歐盟通過的《人工智能法案》最新草案，也貫徹了以往嚴苛的立法態度。法案對于“基礎模型”或經過大量數據訓練的強大AI系統，明確規定了透明度和風險評估要求，包括在AI技術投入日常使用之前進行風險評估等。

　　對風險的猜想是否高于實際?歐盟嚴苛的立法態度招致了歐洲風投公司和科技公司的許多不滿。

　　6月30日，歐洲各地的主要科技公司創始人、首席執行官、風險投資家等150家企業高管共同簽署了一封致歐盟委員會的公開信，警告歐盟法律草案中對人工智能的過度監管。

　　“想要將生成式人工智能的監管納入法律并以嚴格的合規邏輯進行，這種方法是官僚主義的，因為它無法有效地實現其目的。在我們對真正的風險、商業模式或生成人工智能的應用知之甚少的情況下，歐洲法律應該僅限于以基于風險的方法闡述廣泛的原則。”公開信中指出，該立法草案將危及歐洲的競爭力和技術主權，而無法有效解決我們現在和未來可能要面臨的挑戰。

　　無獨有偶，日本一名官員此前也表示，日本更傾向于采用比歐盟更寬松的規則來管理AI，因為日本希望利用該技術促進經濟增長，并使其成為先進芯片的*。

　　“一項新技術從研發到進入市場，再到融入社會生產、生活，產生風險是難以避免的，不能因為風險而放棄新技術的研發和應用。理想目標應是把風險最小化，把技術獲利*化。”頂象的安全專家告訴「甲子光年」。

　　上述受訪者繼續說道，歐盟在規范AI問題上下手早，但其過度監管也限制了相關市場的發展，造成歐盟數字產業的發展速度落后于全球。在全球技術主權激烈競爭的背景下，立法與監管政策需要保持謹慎思考，在治理與發展之間做好平衡，在方便企業抵御AI倫理風險的同時，為企業、行業以及相關產業提供充分的發展空間。

　　“不發展是*的不安全。”嚴苛的立法態度不是監管政策的*解法，企業和立法者也不應該是矛盾雙方，而是謀求數據安全與技術發展的同路人。

　　以美國為例，谷歌、微軟、OpenAI等科技巨頭也在主動構建安全屏障。7月21日，谷歌、微軟、OpenAI、Meta在內的7家AI公司參與白宮峰會，并就AI技術和研發的安全、透明、風險等問題作出“八大承諾”。7月26日，微軟、谷歌、OpenAI、Anthropic四家AI科技巨頭宣布成立行業組織——“前沿模型論壇”(Frontier Model Forum)，來確保前沿AI開發的安全和負責。

　　8月3日，我國網信辦發布關于《個人信息保護合規審計管理辦法(征求意見稿)》也進一步細化落實了《個人信息保護法》中個人信息處理者合規審計的相關要求，進一步完善了我國個人信息處理者自我規制。

　　面對尚未確定的技術生態，技術開發者、服務提供者都面臨著潛在的合規風險。只有明確了合法獲取的路徑和規章底線，大模型訓練者、服務提供者才能放下戒備，在更大的空間施展拳腳。

　　站在技術變革的十字路口，如何平衡好數據安全與技術發展的需求，制定出更為系統、更具針對性的監管細則，也是對各國立法者的新考驗。

　　3.在創新與安全之間，如何平衡？

　　“監管，如果不向前邁進，就會面臨人工智能被濫用的風險;如果倉促行事，就有導致行業陷入困境的危機。”

　　7月25日，Anthropic聯合創始人兼CEO Dario Amodei、加州大學伯克利分校教授Stuart Russell和蒙特利爾大學教授Yoshua Bengio出席美國參議院司法委員會舉行的人工智能聽證會。在會議上，他們一致達成這樣的觀點：AI需要監管，但過猶不及。

　　面對大模型對隱私數據的挑戰，在創新與安全的博弈之間，我們還有哪些解法?

　　加強數據安全保護可能是最容易想到的答案。360集團首席安全官杜躍進此前接受「甲子光年」采訪時曾表示：“數據安全不應該關注采集了什么，而應該關注采集的數據是怎么用的，怎么保護的。”

　　隱私計算成為近些年數據隱私保護的技術*解。與傳統的加密技術相比，隱私計算可以在不泄露原始數據的前提下對數據進行分析計算，實現數據的共享、互通、計算和建模。

　　讓數據變得“可用不可見”，也就規避了個人數據泄露或不當使用的風險。這項技術目前已經在醫療、金融、政府等對數據高度敏感的領域內相繼落地。

　　在大模型時代，隱私計算也同樣適用。中國信通院云計算與大數據研究所副主任閆樹在7月的兩次活動上都表達了這樣的觀點，隱私計算可以滿足大模型預測階段的隱私保護需求。

　　具體來說，隱私計算的不同路線，包括可信執行環境(TEE)、多方安全計算(MPC)等都可以與大模型進行結合，“比如在云端部署TEE ，用戶在推理時將輸入數據加密傳輸至云端，在其內部解密然后進行推理;還有在模型推理階段使用多方安全計算來提升隱私保護能力”。但值得注意的是，隱私計算也不可避免會對模型訓練和推理的性能造成影響。

　　除了加強數據安全保護之外，還有一種可以從數據源頭上解決隱私安全問題的方法——合成數據。

　　合成數據指通過AI技術和算法模型，基于真實數據樣本生成虛擬數據，因此也不存在用戶的個人隱私信息。

　　隨著大模型的火熱，合成數據也越來越受到關注，保護隱私就是合成數據研究背后強有力的驅動力之一。

　　“合成數據解決了三個挑戰——質量、數量和隱私。”合成數據平臺Synthesis AI的創始人兼CEO Yashar Behzadi接受科技媒體《VentureBeat》采訪時表示：“通過使用合成數據，公司可以明確定義所需要的訓練數據集，可以在*程度上減少數據偏差并確保包容性，不會侵犯用戶的隱私。”

　　OpenAI聯合創始人兼CEO Sam Altman同樣也看好合成數據。

　　根據英國《金融時報》報道，5月在倫敦舉行的一次活動上，Sam Altman被問及是否擔心監管部門對ChatGPT潛在隱私侵犯的調查，他并沒有特別在意，而是認為“非常有信心所有的數據很快會成為合成數據”。

　　在合成數據方面，微軟在今年更是動作頻頻。5月，微軟在論文《TinyStories: How Small Can Language Models Be and Still Speak Coherent English?》中描述了一個由GPT-4生成的短篇小說合成數據集TinyStories，其中只包含了四歲兒童可以理解的單詞，用它來訓練簡單的大語言模型，也能夠生成出流暢且語法正確的故事。

　　6月，微軟在發布的論文《Textbooks Are All You Need》中論證，AI可以使用合成的Python代碼進行訓練，并且這些代碼在編程任務上表現得相當不錯。

　　在AI的圈子內，通過合成數據進行大模型的訓練早已見怪不怪。全球IT研究與咨詢機構Gartner預測，2030年，合成數據的體量將遠超真實數據，成為AI研究的主要數據來源。

　　在技術之外，數據市場也在漸漸明朗。北京植德律師事務所合伙人王藝向「甲子光年」介紹，目前已經有數據交易所建立了語料庫專區，并為相關語料數據產品掛牌(包括文本、音頻、圖像等多模態，覆蓋金融、交通運輸和醫療等領域)，方便技術提供者和服務提供者合作采購。

　　在王藝看來，大模型數據的合法合規，需要生成式AI服務提供者首先做好數據分類分級，區分不同數據類型，如個人數據、商業數據、重要數據等，并根據這些不同數據的使用方式，找到對應的法律，分別開展數據來源合法性的審查工作。

　　而在監管方面，為了平衡好數據安全和AI的發展，王藝表示，對AI的監管需要有主次之分：重點在應用層的監管，尤其是內容監管和個人信息安全;其次是基礎層和模型層的監管，對于相關深度合成算法要督促其及時完成備案;再次是要關注技術本身的主體是否涉及境外，可能會存在數據出境、出口管制等問題。

　　每一次技術產生變革的時期，期待和恐懼總是如影隨形，發展和監管的呼聲向來不相上下。

　　目前大模型的發展還在早期，應用層的爆發尚未實現，但AI不會停下腳步，如何把控前行的方向，如何平衡安全與創新，或許是AI發展歷程中持續伴隨的命題。