AI詐騙效率高、成本低，「三個(gè)魔法」有效防范潛在威脅

　　隨著生成式AI技術(shù)，如GPT-4等強(qiáng)大的語言模型的廣泛普及，人們對于AI在各個(gè)領(lǐng)域，如文本創(chuàng)作、藝術(shù)繪畫、翻譯，以及替代傳統(tǒng)的人工客服等方面的潛力滿懷期待。

　　然而，這種對未來技術(shù)的期待之余，我們也不得不面對AI技術(shù)可能被濫用的風(fēng)險(xiǎn)。讓我們關(guān)注的是，一些犯罪分子已開始巧妙地利用AI技術(shù)進(jìn)行電信詐騙，這無疑給我們的防范帶來了新的挑戰(zhàn)。

　　2019年，全球首例AI詐騙案發(fā)生在英國，一名詐騙者利用先進(jìn)的AI語音模仿軟件，假扮公司高層，成功騙取一家英國能源公司總經(jīng)理的22萬歐元。近期在國內(nèi)，一例更令人震驚的案件中，某公司法人在使用微信與好友視頻聊天的短短10分鐘內(nèi)被騙取了高達(dá)430萬元。

　　這些駭人聽聞的案例揭示了AI生成虛假信息所潛在的巨大社會(huì)風(fēng)險(xiǎn)，同時(shí)也讓我們對人工智能軟件被用于各類犯罪活動(dòng)的可能性深感憂慮。

　　在人工智能技術(shù)的興起之時(shí)，我們正處于尋找*應(yīng)用場景與商業(yè)落地的關(guān)鍵期。雖然這類個(gè)別的詐騙案例不會(huì)直接扼殺AI的發(fā)展，但如果不能妥善解決相關(guān)的安全和隱私問題，也許會(huì)對人工智能的前景產(chǎn)生負(fù)面影響，形成對AI發(fā)展的壓力。

　　01 AI詐騙：為何成功率極高?

　　AI詐騙的出現(xiàn)在很大程度上得益于人工智能技術(shù)，尤其是深度學(xué)習(xí)和機(jī)器學(xué)習(xí)的快速發(fā)展。通過這些先進(jìn)的技術(shù)，詐騙者能夠逐步訓(xùn)練出能夠模擬人類行為和語言的AI，甚至能制作出極為逼真的虛假視頻或音頻(例如：人工智能的深度換臉技術(shù)Deepfakes)。

　　這些偽造的內(nèi)容極度真實(shí)，讓識(shí)別真假變得異常困難，從而大大提高了詐騙者的欺騙效果。

　　在這個(gè)日益數(shù)字化的社會(huì)，人們在網(wǎng)絡(luò)和社交媒體上的活動(dòng)越來越頻繁，每個(gè)人都在生成大量的數(shù)字化信息。這為詐騙者提供了廣闊的操作空間，他們可以利用這些平臺(tái)，配合AI技術(shù)，進(jìn)行大規(guī)模、精準(zhǔn)的詐騙行為。

　　無論是通過大數(shù)據(jù)分析來獲取被詐騙對象的行為習(xí)慣，更精確地定位其所處的社會(huì)層級和經(jīng)濟(jì)實(shí)力，還是通過熟悉的偏好接近對象，獲得其信任，最終達(dá)到詐騙目標(biāo)，都顯示了AI詐騙的高效性和隱蔽性。

　　詐騙者往往擁有比受害者更多的信息和技術(shù)資源，這使得受害者在面對這種高科技詐騙時(shí)，難以察覺和防御。因此，信息和技術(shù)的不對稱性，無疑成為了AI詐騙的一大優(yōu)勢。

　　然而，盡管一些地方已經(jīng)開始制定針對AI詐騙的法規(guī)，但法律和監(jiān)管的滯后也是一個(gè)不容忽視的問題。現(xiàn)有的法律和規(guī)定往往無法跟上技術(shù)的快速發(fā)展，導(dǎo)致AI詐騙在法律漏洞中找到足夠的操作空間。

　　最后不可忽視的是，經(jīng)濟(jì)激勵(lì)是推動(dòng)詐騙者行動(dòng)的主要因素。由于AI詐騙往往難以被察覺，詐騙者可以獲得更高的經(jīng)濟(jì)收益。這種巨大的利益誘惑，也使他們愈加積極地進(jìn)行這種活動(dòng)。

　　綜上，可以看出，AI詐騙的成功率之高，主要源于其技術(shù)優(yōu)勢、社會(huì)數(shù)字化、信息不對稱、法規(guī)滯后以及經(jīng)濟(jì)激勵(lì)等因素。

　　02 AI詐騙與傳統(tǒng)詐騙相比，成本更低

　　隨著AI技術(shù)的發(fā)展，它不僅改變了許多領(lǐng)域的工作方式，還深刻地改變了詐騙的形態(tài)，使得電信詐騙更加難以防范。

　　舉個(gè)例子，AI換臉技術(shù)已經(jīng)相對成熟，可以以較低的成本合成出極其真實(shí)的動(dòng)態(tài)視頻。最近的一個(gè)案例中，一名女子被一段偽造的自己的視頻所詐騙，讓她相信自己無意間涉及了一場犯罪，最終被騙走了大量財(cái)物。

　　AI詐騙具有高度自動(dòng)化的特點(diǎn)。經(jīng)過適當(dāng)訓(xùn)練的AI模型能夠在無人工干預(yù)的情況下自動(dòng)運(yùn)行。這意味著一旦AI詐騙工具被創(chuàng)建并部署，它就可以全天候、24小時(shí)進(jìn)行欺詐行為，無需人工參與，從而降低了詐騙的人力成本。

　　首先技術(shù)從哪來?在GitHub等開源社區(qū)上，就有開源使用的AI換臉軟件。其中最知名的是Deepfacelive、Deepfacelab兩種著名開源換臉模型。很多相關(guān)的技術(shù)社區(qū)、論壇、貼吧，有大量小白入門系列教程，甚至還有中文版AI現(xiàn)成模型下載，一些交易平臺(tái)上也有大量教程與教學(xué)包售賣，價(jià)格數(shù)元起。

　　此外，AI詐騙具有很強(qiáng)的可擴(kuò)展性。與需要人工參與的傳統(tǒng)詐騙方式不同，AI詐騙可以在短時(shí)間內(nèi)輕易擴(kuò)展到大規(guī)模。

　　舉例來說，某詐騙集團(tuán)完全可以利用自動(dòng)撥打系統(tǒng)、AI語音識(shí)別和自然語言處理技術(shù)，日均撥打幾十萬甚至上百萬次電話(類似海外ip呼出)，范圍覆蓋全國多個(gè)城市。這種規(guī)模的擴(kuò)張僅需增加一些計(jì)算資源，就能讓AI詐騙影響到更多的人。

　　AI詐騙利用深度偽造和自然語言處理等技術(shù)制造出相當(dāng)逼真的假象，使得詐騙行為更難以被察覺。例如，某歐洲能源公司因?yàn)橐煌▊卧斓腃EO電話而被詐騙了約22萬歐元。因?yàn)樗鼈兛梢栽诓槐徊煊X的情況下模擬人類的行為，這降低了詐騙行為被發(fā)現(xiàn)和制止的可能性，進(jìn)一步降低了詐騙的風(fēng)險(xiǎn)成本。

　　然而，我們需要意識(shí)到，開發(fā)和訓(xùn)練一個(gè)有效的AI模型并不容易，這需要大量的數(shù)據(jù)、專門的技術(shù)知識(shí)和計(jì)算資源，都需要投入一定的成本。

　　隨著法律監(jiān)管力度的加大和識(shí)騙技術(shù)的發(fā)展，AI詐騙的風(fēng)險(xiǎn)和成本也可能會(huì)增加。一些國家已經(jīng)開始建立相關(guān)法律，對使用AI進(jìn)行詐騙的行為給予嚴(yán)厲懲罰。因此，盡管AI詐騙在某些方面具有成本優(yōu)勢，但實(shí)施AI詐騙仍然需要考慮多方面的風(fēng)險(xiǎn)和代價(jià)。

　　03 魔法打敗魔法：社交平臺(tái)的關(guān)鍵角色

　　在這個(gè)數(shù)字化的時(shí)代，社交平臺(tái)顯然已成為AI詐騙的主要戰(zhàn)場。人們在社交平臺(tái)上進(jìn)行大量的在線活動(dòng)和社交互動(dòng)，為詐騙者提供了豐富的目標(biāo)選擇和信息來源，使得AI詐騙在社交平臺(tái)上層出不窮。

　　舉例來說，在一次針對社交媒體用戶的詐騙中，詐騙者利用AI技術(shù)模仿了受害者朋友的語音，發(fā)起了一次虛假的緊急求助。受害者在無法分辨語音真假的情況下，被騙取了大量資金。

　　另外，一些詐騙者使用深度學(xué)習(xí)技術(shù)制作了假冒名人的虛假視頻，聲稱這些名人在推薦某種投資機(jī)會(huì)，從而騙取了無數(shù)人的財(cái)產(chǎn)。

　　社交平臺(tái)的多元性和開放性使得監(jiān)管和防范變得困難。用戶眾多且行為各異，詐騙者往往能夠混入其中進(jìn)行犯罪行為。一旦被識(shí)別出來，他們往往已經(jīng)騙取了大量財(cái)富，并逃之夭夭。

　　因此，社交平臺(tái)在防止AI詐騙中扮演著至關(guān)重要的角色。它們需要利用先進(jìn)的技術(shù)手段進(jìn)行預(yù)防，制定并執(zhí)行明確的用戶政策，加強(qiáng)對用戶的教育和引導(dǎo)，以便盡可能地減少AI詐騙的發(fā)生。

　　升級技術(shù)魔法打敗：首先，社交平臺(tái)需要強(qiáng)化技術(shù)防護(hù)。借助機(jī)器學(xué)習(xí)等先進(jìn)技術(shù)，平臺(tái)可以檢測并標(biāo)記出異常行為或可疑賬戶。例如，通過分析用戶的行為模式，機(jī)器學(xué)習(xí)算法可以尋找并識(shí)別出與正常行為模式不符的行為，這類行為往往暗示可能存在詐騙行為。

　　建立規(guī)則魔法打敗：其次，社交平臺(tái)應(yīng)制定并執(zhí)行明確的用戶政策。5月9日，抖音平臺(tái)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等。一旦發(fā)現(xiàn)違規(guī)行為，平臺(tái)將嚴(yán)格處罰。

　　其他平臺(tái)也需要明確說明哪些行為是被禁止的，以及違反規(guī)定將面臨的后果。對于違規(guī)用戶，社交平臺(tái)需要設(shè)立一個(gè)公正而快速的處理機(jī)制，以確保公平對待每一位用戶。

　　培養(yǎng)意識(shí)魔法打敗：再者，社交平臺(tái)可以通過提升用戶的網(wǎng)絡(luò)安全意識(shí)來防止AI詐騙。通過發(fā)布有關(guān)如何安全使用社交平臺(tái)的教育內(nèi)容，教導(dǎo)用戶如何識(shí)別和防范AI詐騙，用戶們就可以有效地降低自身成為詐騙受害者的風(fēng)險(xiǎn)。

　　同時(shí)，提醒用戶不輕易信任陌生人，以及警告用戶注意保護(hù)個(gè)人信息也是重要的措施。

　　總的來說，社交平臺(tái)在防止AI詐騙中扮演著至關(guān)重要的角色。

　　正如同一把錘子可以用來建房子也可以用來破壞房子，AI技術(shù)為社交平臺(tái)帶來更好的用戶體驗(yàn)，本身是一件好事，關(guān)鍵在于如何使用。平臺(tái)需要在多個(gè)方面采取積極行動(dòng)，以確保用戶的網(wǎng)絡(luò)安全，利用自身的技術(shù)能力來削弱AI詐騙產(chǎn)生的弊端。

　　04 結(jié)言

　　AI詐騙無疑是當(dāng)前AI發(fā)展面臨的重大挑戰(zhàn)之一，其影響不容忽視。然而，相信有讀者會(huì)認(rèn)為將其視為壓倒AI發(fā)展的“最后一根稻草”或許過于悲觀。事實(shí)上，技術(shù)發(fā)展總會(huì)伴隨無限可能的延展，也并非危言聳聽。

　　我們需要認(rèn)識(shí)到這一問題，并通過多角度的努力，包括社交平臺(tái)的技術(shù)防護(hù)、用戶教育、法律監(jiān)管等途徑，共同應(yīng)對并降低其對社會(huì)的潛在風(fēng)險(xiǎn)。

　　AI詐騙的出現(xiàn)確實(shí)揭示了AI技術(shù)的一面隱患，但同樣的，我們也可以看到，眾多企業(yè)、研究機(jī)構(gòu)以及監(jiān)管者正努力在探索解決方案，以確保AI技術(shù)的健康發(fā)展和應(yīng)用。

　　未來，我們將會(huì)看到更多的科技創(chuàng)新幫助我們識(shí)別和防范AI詐騙，法律監(jiān)管體系將更加完善，社交平臺(tái)將提供更好的用戶安全保障。

　　AI詐騙并不會(huì)成為阻礙我們前進(jìn)的“最后一根稻草”，相反，它將成為推動(dòng)我們繼續(xù)前進(jìn)、發(fā)展更安全、更負(fù)責(zé)任的AI技術(shù)的重要驅(qū)動(dòng)力。我們要保持樂觀，積極應(yīng)對挑戰(zhàn)，并共同努力創(chuàng)造一個(gè)更加安全、可信賴的數(shù)字化社會(huì)。