欧美一区二区三区婷婷,挨个儿淹死完整版未删减在线观看,国产免费av片在线鞠婧祎,国产精品丝袜黑色高跟鞋v18,婷婷六月久久,韩国三级陷阱2未删减版在线观看,一区二区天堂

客戶端
官方微信
官方微博
今日頭條
北疆觀察
數(shù)字報(bào)刊
北疆新聞 > 國內(nèi) > 正文
警惕AI換臉技術(shù)濫用滋生黑灰產(chǎn):色情視頻被惡意“炮制” 幾元就能買到預(yù)訓(xùn)練模型
2026年01月08日 13:32 來源:經(jīng)濟(jì)參考報(bào) 關(guān)燈

在短視頻社交平臺(tái)的隱秘角落,一場基于虛擬合成技術(shù)的犯罪正悄然蔓延。記者調(diào)查發(fā)現(xiàn),通過AI換臉、深度偽造等虛擬合成技術(shù),大量違背倫理道德的色情視頻被“炮制”而出。受害者面容被惡意嫁接到各類低俗影片中,甚至滋生出黑灰產(chǎn)。

業(yè)內(nèi)人士指出,這些以假亂真的換臉視頻不僅突破了法律與道德的底線,更對個(gè)人安全和社會(huì)公序良俗構(gòu)成嚴(yán)重威脅,呼吁加強(qiáng)治理。

女性面容被惡意嫁接

小雨是一名娛樂主播,直播內(nèi)容主要是和粉絲聊天,不涉及任何擦邊內(nèi)容。但不法分子卻將小雨的臉換到色情影片中傳播,讓她無端卷入不良輿論風(fēng)波。

“視頻是不能P的”“居然背著我們偷偷拍片”……看到直播間公屏上類似彈幕如爆炸般襲來,小雨自此不敢再參加任何線上或線下社交活動(dòng)。

后來,小雨在短視頻平臺(tái)又看到,有人毫不避諱地宣揚(yáng)有關(guān)她的色情影片。順著對方給的聯(lián)系方式,小雨進(jìn)入了所謂的“工程設(shè)計(jì)交流群”,發(fā)現(xiàn)群里全是各種各樣的網(wǎng)址和行業(yè)黑話。在這個(gè)群里,不法分子將許多女性的臉換到色情電影中非法牟利。最終,小雨報(bào)警,五名嫌疑人被抓,相關(guān)賬號(hào)和群聊也被永久封禁。

小雨的遭遇,并非個(gè)例。

記者潛入一個(gè)“可靈AI交流群”群聊,群里一位名叫“學(xué)校的你進(jìn)社會(huì)”的網(wǎng)友發(fā)布了一條擦邊視頻,聲稱“988元包教會(huì),流量很好”。視頻中,一位自稱女大學(xué)生的人坐在宿舍床上,穿著黑絲和蕾絲緊身衣做著各種低俗動(dòng)作。這位網(wǎng)友自詡AI換臉領(lǐng)域高手,只要發(fā)給他正臉照,即可生成與照片主人公相關(guān)的擦邊視頻。

而在淘寶搜索“AI人臉替換”,也會(huì)出現(xiàn)不少提供AI換臉視頻制作服務(wù)的商家。消費(fèi)者只需花費(fèi)幾元到十幾元不等,就能定制一部換臉視頻,換臉對象可以是普通女性,也可以是女網(wǎng)紅、女明星。法律界人士指出,這些被明碼標(biāo)價(jià)的照片和視頻嚴(yán)重?fù)p害了受害者的肖像權(quán)益和人格尊嚴(yán),亟待加強(qiáng)清理。

背后暗藏黑色產(chǎn)業(yè)鏈

深度偽造(Deepfake),是指通過使用人工智能生成技術(shù),將個(gè)人的聲音、面部表情以及身體動(dòng)作拼接合成虛假內(nèi)容。最常見的是AI換臉技術(shù),也包括語音模擬、人臉合成、視頻生成等。

2024年8月,韓國曾爆發(fā)過一起引發(fā)全球關(guān)注的深度偽造危害事件。在這起事件中,韓國網(wǎng)民在通訊軟件“電報(bào)”(Telegram)上發(fā)現(xiàn)大量聊天群,其中有成員創(chuàng)建和分享露骨的“深度偽造”色情圖像,涉及對象不乏未成年女孩。在付費(fèi)的深度偽造電報(bào)頻道中,男性訂閱用戶甚至只要提供照片,交錢后頻道便可為其制作色情圖片。社交媒體流傳的受深度偽造影響的名單中包含百余所韓國中小學(xué)以及國際學(xué)校,受害者達(dá)到22萬余人。

深度偽造的“作案工具”究竟來自哪里?記者采訪了解到,最多只需要四樣?xùn)|西:AI換臉軟件、預(yù)訓(xùn)練模型、被換臉的視頻、受害人照片。

首先,AI換臉必然需要受害人的照片。根據(jù)相關(guān)技術(shù)社區(qū)的分享,最初版本的深度偽造大概需要50張多角度、高清晰度的照片,才能實(shí)現(xiàn)較為自然的視頻合成。但經(jīng)過幾年迭代,目前只需要20張左右的照片就可以實(shí)現(xiàn)。

其次,制作高清流暢版AI換臉視頻需要獲取預(yù)訓(xùn)練模型。預(yù)訓(xùn)練模型,是AI開發(fā)的一個(gè)基本機(jī)制。由于大部分AI模型的前置訓(xùn)練任務(wù)是相同的,因此開發(fā)者傾向?qū)⑾嗤牟糠诌M(jìn)行預(yù)訓(xùn)練,在同類任務(wù)中作為公用底座來使用。在AI換臉任務(wù)中,由于難以掌握訓(xùn)練方法,大部分新手訓(xùn)練出的AI換臉模型,會(huì)出現(xiàn)貼臉不自然、嚴(yán)重掉幀等現(xiàn)象,這時(shí)候就需要使用預(yù)訓(xùn)練模型。

按理說,作為非技術(shù)人員的普通人,應(yīng)該較難獲得預(yù)訓(xùn)練模型來進(jìn)行深度偽造。但事實(shí)并非如此。

打開很多電商平臺(tái)、二手交易平臺(tái),可以輕松找到專用于深度偽造的預(yù)訓(xùn)練模型。這些模型一般被稱為“AI金丹”,只需要幾元錢成本,便可輕易獲得。

受訪專家表示,從照片盜用到預(yù)訓(xùn)練模型的交易,每一個(gè)環(huán)節(jié)都暴露了當(dāng)前網(wǎng)絡(luò)環(huán)境的漏洞。

呼吁加強(qiáng)監(jiān)管治理

實(shí)際上,在打擊AI換臉色情視頻的技術(shù)攻防戰(zhàn)中,公安機(jī)關(guān)面臨前所未有的挑戰(zhàn)。

太原市某分局王警官介紹,Deepfake技術(shù)的受害者群體主要是女性:發(fā)布在社交平臺(tái)上穿著校服的女高中生照片被合成在裸體表情包上;外網(wǎng)流傳的相關(guān)群聊只需要提供照片便能實(shí)現(xiàn)色情圖片和視頻的自動(dòng)合成,并且這些群聊還被按照城市和學(xué)校進(jìn)行分類,目的是能在這些人的社交圈內(nèi)傳播。

服務(wù)器難以追蹤、證據(jù)難以保存,是警方不得不面對的現(xiàn)實(shí)問題?!跋胍獙I生成內(nèi)容進(jìn)行溯源,難度不亞于大海撈針。”王警官介紹,“犯罪嫌疑人會(huì)通過頻繁更換服務(wù)器、匿名網(wǎng)絡(luò)信息等手段隱藏蹤跡,再加上電子證據(jù)極易被加密、篡改或銷毀,都對警方搜集證據(jù)、研判案情造成阻礙?!?/p>

而對于受害者而言,過高的技術(shù)壁壘也使得獨(dú)立取證幾乎成為一件不可能的事?!皞鹘y(tǒng)辦案中‘人贓俱獲’的模式在AI犯罪面前已經(jīng)不起作用了。”王警官坦言。

值得注意的是,近年來,通過開展各類專項(xiàng)行動(dòng)、加強(qiáng)技術(shù)研究,必要時(shí)聯(lián)合國際執(zhí)法機(jī)構(gòu)協(xié)同辦案,公安機(jī)關(guān)“打擊利用AI技術(shù)犯罪”的多維防線日益緊固。2025年1月,天津的李先生被詐騙分子偽造的企業(yè)老板視頻誘導(dǎo)轉(zhuǎn)賬95萬元。專案組通過分析轉(zhuǎn)賬資金流向、追蹤異常IP地址,聯(lián)合網(wǎng)絡(luò)安全公司還原了犯罪團(tuán)伙利用AI語音合成技術(shù)實(shí)施詐騙的全過程。最終警方與銀行聯(lián)動(dòng)凍結(jié)了李先生的賬戶,追回了83萬元。

業(yè)內(nèi)人士指出,技術(shù)再逼真,人性的漏洞永遠(yuǎn)是突破口。面對可疑電話時(shí)保持冷靜,收到親友緊急轉(zhuǎn)賬請求時(shí)多渠道核實(shí),警惕背后可能存在的AI語音合成陷阱。(記者 原勛)

北疆新聞 | 內(nèi)蒙古自治區(qū)重點(diǎn)新媒體平臺(tái),內(nèi)蒙古出版集團(tuán)?內(nèi)蒙古新華報(bào)業(yè)中心主管主辦的國家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)平臺(tái)。

編輯:方琳
5490

北疆新聞版權(quán)與免責(zé)聲明:

一、凡本站中注明“來源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時(shí)必須注明“來源:北疆新聞”,并附上原文鏈接。

二、凡來源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點(diǎn)。

如因作品內(nèi)容、版權(quán)和其它問題需要同本網(wǎng)聯(lián)系的,請?jiān)谝娋W(wǎng)后30日內(nèi)進(jìn)行,聯(lián)系郵箱:bjwmaster@163.com。

杖頭木偶戲走進(jìn)“開學(xué)第一課”

版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報(bào)電話:15648148811蒙ICP備16001043號(hào)-1

Copyright © 2016- 北疆新聞 All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1廣播電視節(jié)目制作經(jīng)營許可證:(蒙)字第631號(hào)蒙公網(wǎng)安備:15010502001245