文/羊城晚報全媒體記者 邵梓恒

如今，以假亂真的AI換臉成為不少詐騙分子的新花招，一些影視明星的形象和聲音更成了他們招搖撞騙的工具。在一些短視頻平臺上，“假靳東”“假董卿”依然在詐騙老年人。據(jù)媒體報道，今年5月至7月，上海靜安警方赴多省市開展收網(wǎng)行動，打掉一個在短視頻平臺上開設“明星私人直播間”實施詐騙的幕后團伙，先后抓獲王某等犯罪團伙成員8人。

“假靳東”還在和阿姨們談戀愛

2022年9月，上海市民王先生報案稱，他60多歲的母親王阿姨迷戀靳東，并加入了一個所謂的“明星粉絲團”。王阿姨背著家人通過轉(zhuǎn)賬的方式參與了所謂的“應援投資”和“公益項目”，總計損失了20萬元。王先生懷疑他的母親曾受騙。

接報后，警方立即對這起案件進行了立案，并多次上門向王阿姨進行反詐勸阻。然而，王阿姨已經(jīng)被深度洗腦，堅信那些騙子就是真正的“明星”，拒絕配合警方的調(diào)查，并堅稱自己有權利向?qū)Ψ街Ц犊铐棥?/p>

近日，警方查明一個在短視頻平臺上設立“明星私人直播間”并實施詐騙活動的幕后團伙以及他們的人員組織結構。據(jù)犯罪嫌疑人王某交代，他在直播中使用的明星照片和視頻資料都是網(wǎng)上下載的，互動過程中使用的明星聲音也是通過軟件修改的變聲音頻。其他團伙成員主要負責招募和維系“粉絲”，他們把那些被“明星偶像”吸引來的人經(jīng)過篩選，拉入所謂“明星私人粉絲團”，再由團伙成員加上微信，以“明星”身份與被害人進行情感交流，有時還會寄送一些“小禮物”，比如紅酒、香水等作為回報。當被害人放下戒備信以為真后，犯罪團伙就轉(zhuǎn)入傳統(tǒng)“殺豬盤”模式，實施定向詐騙。

據(jù)詐騙團伙交代，在選擇潛在目標時，他們會提前對被害人身份信息及家庭情況展開調(diào)查，物色其中的單身大齡女性或老年群體行騙，利用他們?nèi)鄙佟熬窦耐小?、生活比較空虛的弱點，用關心關愛沖破被害人心防。

目前，犯罪嫌疑人王某等8人因涉嫌詐騙罪已被警方依法采取刑事強制措施，案件正在進一步調(diào)查之中。警方已經(jīng)核實了來自多個省市的5名被騙者，他們大部分都是60多歲的老年人，涉案金額近百萬元。

類似事件已不止一次發(fā)生。早在2020年10月就曝光過一例“假靳東”的詐騙事件。江西61歲的黃大媽聲稱要嫁給演員靳東，并表示：“靳東已在全網(wǎng)向她告白，所有玩抖音的都知道”。隨即靳東工作室正式回應：靳東目前從未在任何短視頻平臺開設賬號，“靳東”系列賬號均非本人，將通過法律途徑追究相關主體的法律責任。

明星直播帶貨竟是AI換臉

“假靳東”們不但騙感情還騙錢。據(jù)央視財經(jīng)報道，如今，以假亂真的AI換臉成為不少詐騙分子的新花招，近期，不少電商直播間就被曝出使用明星AI換臉進行直播。

記者了解到，在網(wǎng)上購買一套AI實時換臉的模型僅需3.5萬元。法律人士表示，使用AI換臉技術或合成人聲服務時，應有顯著標識，以免公眾混淆。未經(jīng)明星同意使用其肖像直播帶貨，可能涉嫌多項侵權。

業(yè)內(nèi)人士指出，數(shù)字人直播是行業(yè)的新趨勢，但是研發(fā)投入較大，因此 AI 換臉成為了數(shù)字主播的“平替”。但是這種行為可能涉嫌欺詐和侵權，根據(jù)今年 1 月起實施的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，使用 AI 換臉技術或合成人聲服務時，應有顯著標識，以免公眾混淆。此外，未經(jīng)明星同意使用其肖像直播帶貨，可能侵犯了明星的肖像權和隱私權。

被仿冒的名人不只是靳東

“假靳東”事件被曝光后，相關短視頻平臺發(fā)布了打擊仿冒名人黑產(chǎn)的處罰公告，封禁了5000+個疑似“靳東”的仿冒賬號。但這些賬號可謂屢禁不絕，許多帶“靳東”“東弟”關鍵詞的賬號，迅速改名成“勒東”，但內(nèi)容卻是換湯不換藥，背景多是將靳東本人照片，文案也大體雷同，以情感互動、情感雞湯為主，引導關注點贊。還有許多仿冒賬號轉(zhuǎn)投其他短視頻平臺，同樣活躍。

除了靳東，其他一些名人明星的假賬號也在短視頻平臺上活躍著，例如：馬云、董卿、張嘉譯等。這些賬號頭像都是本人頭像，昵稱多與情感勵志有關，靠著一致的視頻風格，漲粉少則上萬，多則數(shù)十萬。(更多新聞資訊，請關注羊城派 pai.ycwb.com)

來源 | 羊城晚報·羊城派

責編 | 聶青

校對 | 朱艾婷