Soul App推出“假人設(shè)風(fēng)險提醒”，“打假”工作成效顯著

　　“你的圖很好，但下一秒就是我的了。”

　　我們經(jīng)常能在某些梗圖或表情包的評論區(qū)看到類似的玩笑，然而當(dāng)盜圖行為真實(shí)發(fā)生在社交軟件中，其帶來的后果可未必能有這么輕松。

　　在如今的互聯(lián)網(wǎng)時代，眼見不一定為實(shí)。部分不法分子利用科技盜取他人照片，建立包裝出一個更有社交優(yōu)勢的虛假人設(shè)，利用此進(jìn)行社交乃至詐騙行為，這種“假人設(shè)”行為的主要表現(xiàn)：

　　• 虛假外觀：通過盜用使用他人人像等手段，以實(shí)現(xiàn)“增加性吸引力”目的;

　　• 虛假生活方式：通過展示不屬于自身的高價值物品，偽造當(dāng)前經(jīng)濟(jì)實(shí)力，增加社交優(yōu)勢;或營造“賣慘哭窮”人設(shè)，以達(dá)到網(wǎng)乞、引流等目的;

　　• 虛假個人信息：通過編造個人姓名、年齡、身高體重、冒充職業(yè)、夸大成就等方式，偽造個人形象，達(dá)到社交目。

　　如果以上“假人設(shè)”行為無法得到治理，將導(dǎo)致社交平臺上不真實(shí)的內(nèi)容泛濫，以及由于部分“假人設(shè)”行為目的不純，更可能導(dǎo)致騙炮、殺豬盤等惡劣行為滋生，引發(fā)用戶不安全感，降低用戶對平臺內(nèi)容的信任度。

　　今年以來，國家網(wǎng)信辦實(shí)施“清朗”系列專項(xiàng)行動，嚴(yán)厲打擊網(wǎng)絡(luò)生態(tài)中的突出問題。Soul App積極響應(yīng)國家倡議，履行了其作為平臺的社會責(zé)任。為進(jìn)一步凈化網(wǎng)絡(luò)環(huán)境，Soul App生態(tài)風(fēng)控團(tuán)隊建立專項(xiàng)小組，針對“假人設(shè)”問題進(jìn)行分析，在“假人設(shè)”的治理策略中，全新推出“瞬間假人設(shè)風(fēng)險提醒”功能。

　　從全站到全網(wǎng)，圖片識別再升級

　　圖片已成為“假人設(shè)”詐騙的主要工具，其中不乏涉及人像、財產(chǎn)、身份等敏感內(nèi)容。此前，Soul App已推出圖片查重功能，幫助網(wǎng)友能更好地辨別內(nèi)容真實(shí)性，一度引發(fā)網(wǎng)絡(luò)熱議，該功能可針對高風(fēng)險圖片進(jìn)行預(yù)警——

　　當(dāng)系統(tǒng)檢測到圖片在站內(nèi)有重復(fù)使用時，會立即提示用戶“系統(tǒng)識別該圖片曾在站內(nèi)出現(xiàn)過”，這樣的即時提醒有助于用戶快速識別潛在的虛假身份，有效遏制不實(shí)信息的擴(kuò)散，進(jìn)而規(guī)避經(jīng)濟(jì)上的損失。

　　而隨著“瞬間假人設(shè)風(fēng)險提醒”功能的上線，Soul App也對圖片識別模型進(jìn)行升級，由之前的只能識別站內(nèi)圖片，升級為全網(wǎng)圖片識別，大幅提升了識別范圍和準(zhǔn)確性，提醒話術(shù)相應(yīng)更新為：“請注意甄別信息真?zhèn)危�避免上�?dāng)受騙。”

　　即便是站外盜圖，在Soul上也會被一眼識破

　　若在私聊場景中，系統(tǒng)會直接提示：您的聊天對象可能存在虛假人設(shè)情況，請保持警惕

　　升級后的圖片識別技術(shù)，已超越了單一的站內(nèi)重復(fù)性檢測。通過融合圖片格式分析、歷史行為追蹤、圖庫比對等多種維度的技術(shù)，結(jié)合先進(jìn)的人像識別算法，Soul App的風(fēng)控團(tuán)隊目前已能精確評估出圖片人像的真實(shí)性。全自動化系統(tǒng)能夠高效識別和處理站內(nèi)的盜圖問題，從而顯著提升對站內(nèi)虛假圖片和盜圖行為的管理能力。

　　風(fēng)控模型升級，精準(zhǔn)識別假人設(shè)

　　真的假不了，假的真不了。“假人設(shè)”既然為假，便總有露出馬腳的時候。Soul App的風(fēng)控模型已具有全維度的監(jiān)控能力，包括且不限于私聊、發(fā)帖或各個公域場景中圖片、語音與文字內(nèi)容的識別。

　　很多假人設(shè)在構(gòu)建身份敘述時，常常會出現(xiàn)與真實(shí)情況不符或前后敘述不一致的破綻，通過精確地捕捉這些身份矛盾點(diǎn)，并針對性地對相關(guān)用戶進(jìn)行識別和分類，對內(nèi)能顯著增加站內(nèi)的人像識別效率，對外能提升用戶體驗(yàn)，創(chuàng)建更符合用戶期待的社區(qū)環(huán)境。

　　針對各大社交平臺上頻發(fā)的“假人設(shè)”現(xiàn)象，如假冒‘警察’、‘離異帶娃’等身份，Soul App迅速識別并鎖定可能存在風(fēng)險的用戶群體，通過多維度的考察方法，包括但不限于：年齡及地理位置的異常、人設(shè)的可疑性、高危職業(yè)身份、潛在的受害者特征、網(wǎng)絡(luò)圖片盜用等，風(fēng)控模型將對這些指標(biāo)進(jìn)行重點(diǎn)持續(xù)監(jiān)控，以確保平臺環(huán)境的安全性和真實(shí)性。

　　準(zhǔn)確率超95%，治理工作成效顯著

　　得益于Soul App團(tuán)隊在平臺風(fēng)控上的努力，“瞬間假人設(shè)風(fēng)險提醒”自上線以來，已經(jīng)實(shí)現(xiàn)超過95%的準(zhǔn)確率和60%的覆蓋率，在近一個月的時間內(nèi)，發(fā)送提醒超57萬次。

　　步履不停，今年7月份至今，Soul App創(chuàng)新研發(fā)了“AI輔助識別”“網(wǎng)絡(luò)乞討行為識別”“虛假人設(shè)識別”等能力，累計研發(fā)并上線各項(xiàng)反詐策略共計430余條，平臺反詐識別能力顯著提升。據(jù)通報數(shù)據(jù)顯示，從Soul App導(dǎo)流發(fā)案的案件數(shù)量連續(xù)下降，第三季度發(fā)案數(shù)比前一季度下降13%，平臺治理工作成效顯著。

　　一直以來，Soul不懈追求和推動真誠社交的理念。平臺相信，社交的本質(zhì)在于人與人之間真實(shí)、坦誠的交流與連接。為了實(shí)現(xiàn)這一愿景，Soul不斷投入資源和技術(shù)創(chuàng)新，旨在打造一個安全、可靠且富有溫度的社交平臺。通過引入先進(jìn)的人工智能技術(shù)，加強(qiáng)風(fēng)控策略與內(nèi)容審核，確保用戶在Soul上的每一次互動都是基于真實(shí)的身份和真誠意圖，讓虛假無處遁形。