AI換臉調(diào)查：淫穢視頻可定制女星 700部百元打包賣

新京報(bào)記者近日調(diào)查發(fā)現(xiàn)，隨著AI技術(shù)走紅以及門(mén)檻降低，售賣明星換臉的淫穢視頻已經(jīng)成為一門(mén)地下生意。百度貼吧中部分標(biāo)榜“換臉＋女明星姓名”的發(fā)帖者，售賣通過(guò)AI換臉技術(shù)合成的視頻，價(jià)格可4元一部，也可158元打包購(gòu)買700部視頻。而多位知名女明星頻被提及。

此外，新京報(bào)記者注意到，閑魚(yú)上還有賣家提供“定制換臉”服務(wù)。買家提供明星或私人照片，賣家即可將淫穢視頻中的主角“移花接木”。定制換臉視頻1分鐘20元－50元不等。

對(duì)此，聯(lián)合國(guó)網(wǎng)絡(luò)安全與網(wǎng)絡(luò)犯罪問(wèn)題高級(jí)顧問(wèn)吳沈括對(duì)新京報(bào)記者表示，售賣AI換臉淫穢視頻，本身已經(jīng)是傳播淫穢物品牟利罪，同時(shí)也侵犯了肖像權(quán)。而買家購(gòu)買之后加以傳播或者以傳播牟利，則可能構(gòu)成違法。

售賣

女星頻被“換臉”，35部視頻打包69元

記者搜索發(fā)現(xiàn)，“換臉”、“Deepfake”以及“FakeApp”貼吧等都存在售賣AI換臉淫穢視頻的帖子。發(fā)帖者多為無(wú)頭像、簡(jiǎn)單英文字母名稱的用戶，而且發(fā)帖用詞隱晦，包括“國(guó)內(nèi)外81部，誠(chéng)信第一”。

記者聯(lián)系到一位名為阿長(zhǎng)(化名)的賣家，其隨后發(fā)來(lái)“80部明星合成視頻列表”的壓縮包，包含多部淫穢視頻的列表截圖，文件名上標(biāo)注出多位大眾熟知的女明星。

“(購(gòu)買)低于15部算4元一部，超過(guò)15部算3元一部，80部全買只要68元?！卑㈤L(zhǎng)表示，視頻文件將通過(guò)QQ文件發(fā)送，支持微信、支付寶、QQ紅包等支付方式。記者4元隨機(jī)購(gòu)買了一個(gè)標(biāo)題為某知名女明星的視頻。視頻中女主角臉部全部替換成了該女明星，盡管換臉效果粗糙，但仍能一眼識(shí)別出來(lái)。

隨后，阿長(zhǎng)附贈(zèng)了相關(guān)視頻的剪輯版本，包含多個(gè)淫穢視頻的部分內(nèi)容，其中女主角的臉全被替換成了這一女星。

另一位發(fā)帖的賣家林祥(化名)則是向記者發(fā)送了網(wǎng)盤(pán)鏈接，網(wǎng)盤(pán)中除了視頻目錄、截圖、試看視頻等文件，還包括一個(gè)單獨(dú)被命名為某知名女明星目錄的文件。

“打包價(jià)158元，700部視頻，買打包送截圖。”林祥提供的壓縮文件顯示，多位女明星被換臉成主角的頻率最高。

“有30分鐘、40分鐘的，也有5分鐘的，有像的也有不像的，所以單買價(jià)格不可能一樣?！绷窒榉Q，單個(gè)視頻根據(jù)時(shí)長(zhǎng)和制作效果定價(jià)。

而上述某知名女明星目錄文件中包含35部視頻，打包價(jià)69元，單賣約5-10元一部。時(shí)長(zhǎng)10分鐘以上的視頻為每部20－28元。

記者詢問(wèn)阿長(zhǎng)，其他售賣相關(guān)視頻的賣家是否也是他時(shí)，他隨即否認(rèn)并拿出更新目錄。“他肯定沒(méi)這些，我這會(huì)更新”。他告訴記者，這些視頻并非自己制作，均來(lái)自國(guó)內(nèi)某網(wǎng)絡(luò)平臺(tái)，充值會(huì)員可以下載，然后再分銷。

不過(guò)，記者通過(guò)檢索并未發(fā)現(xiàn)這類國(guó)內(nèi)網(wǎng)絡(luò)平臺(tái)。

定制

提供照片或視頻可移花接木，“照片越多越像”

除了百度貼吧，二手閑置平臺(tái)閑魚(yú)同樣存在相關(guān)售賣信息。記者在閑魚(yú)上搜索“AI換臉”看到，“AI換臉明星最全精品”、“AI換臉，合集，都懂！”等信息，實(shí)則在售賣“嫁接”了女明星臉部的淫穢視頻。

記者分別與4位賣家進(jìn)行了溝通，其一般會(huì)提供標(biāo)有女明星姓名的目錄截圖，并以100部打包的形式售賣，價(jià)格從10元－38元不等。賣家子君(化名)告訴記者，在他打包售賣的淫穢視頻中，知名女性明星被惡意“嫁接”的最多。

此外，記者檢索閑魚(yú)發(fā)現(xiàn)，部分賣家還提供“定制換臉”服務(wù)，買家提供明星或私人照片，賣家可將照片中的臉“嫁接”到包括淫穢視頻在內(nèi)的任何視頻之中，制作周期為1-2天，報(bào)價(jià)1分鐘20元－50元不等。

賣家高爾(化名)表示，視頻素材和照片需要買家提供?！罢掌帱c(diǎn)，側(cè)面等各個(gè)角度，至少需要提供二十張以上。照片越多越像，沒(méi)照片發(fā)視頻也行”。

另一賣家要求，如果是“換臉”淫穢視頻，3分鐘起做。該賣家的定制價(jià)為一分鐘50元、二分鐘95元、三分鐘135元，也就是說(shuō)，買家至少要花費(fèi)135元才能定制換臉淫穢視頻。

記者近日在閑魚(yú)平臺(tái)搜索“AI換臉”顯示9個(gè)商品售出，包括“換臉軟件”、“定制換臉”和“換臉教學(xué)”，有部分賣家在商品信息中注明，“本店僅負(fù)責(zé)服務(wù)配置環(huán)境和教授基礎(chǔ)知識(shí)，不幫忙操作，請(qǐng)各位自覺(jué)遵守當(dāng)?shù)胤?，否則后果自負(fù)”。

記者調(diào)查過(guò)程中注意到，閑魚(yú)平臺(tái)已將部分淫穢視頻售賣鏈接刪除。

此外，記者在淘寶搜索“AI換臉”，20多家店鋪有相關(guān)售賣信息。記者隨機(jī)詢問(wèn)7家店鋪，其中4家店鋪提供定制服務(wù)，但有賣家明確表明“不做黃、不辦證”。該賣家還向記者默認(rèn)曾有人要求他制售假證。

教學(xué)

賣家稱398元包教會(huì)，學(xué)生打七折

記者在查看上述視頻時(shí)注意到，部分視頻有“合成聯(lián)盟”的字樣及其QQ號(hào)水印。記者通過(guò)這一QQ號(hào)聯(lián)系到昵稱為“明星合成＋教學(xué)＋代做視頻”的賣家，其稱不僅售賣明星換臉視頻和定制換臉?lè)?wù)，還提供教學(xué)服務(wù)。

“買教學(xué)送全套視頻，600多部?！痹撡u家表示，他提供AI換臉視頻的制作教學(xué)服務(wù)，售價(jià)398元，包教會(huì)并附贈(zèng)淫穢視頻600多部?！拔覀冇玫脑齐娔X，做出來(lái)效果是Deepfake的幾十倍?！痹撡u家告訴記者，“買云電腦送FakeApp和DeepNude。”

賣家提供的教學(xué)內(nèi)容顯示，用戶根據(jù)指引，完成“鏈接到云硬盤(pán)、提取臉部數(shù)據(jù)、訓(xùn)練模型、換臉輸出視頻”四個(gè)步驟就能實(shí)現(xiàn)AI換臉視頻的制作。

“感謝你們的信任，(學(xué)員)昨天下午剛學(xué)的，不到3個(gè)小時(shí)全會(huì)，只要想學(xué)我都會(huì)盡心盡力的教你們?！痹撡u家的微信朋友圈顯示，已有多位學(xué)員學(xué)習(xí)了相關(guān)AI換臉技術(shù)。

記者翻閱賣家朋友圈看到，“AI智能暑假期間所有學(xué)生憑學(xué)生證一律7折，一學(xué)就會(huì)，不費(fèi)勁?！倍u家提供的截圖顯示已有學(xué)生提供學(xué)生證信息，并購(gòu)買了該教學(xué)服務(wù)。

根據(jù)《紐約時(shí)報(bào)》報(bào)道，Deepfake指的是用人工智能軟件制作的虛假視頻，由FakeApp程序創(chuàng)建而成，F(xiàn)akeApp則可實(shí)現(xiàn)AI換臉。而DeepNude可通過(guò)人工智能將照片中穿著衣服的人物實(shí)現(xiàn)“一鍵脫衣”的效果。

“隨著科技的發(fā)展，大眾一定會(huì)面臨這樣的問(wèn)題，DeepNude生成的照片并不是本人，而是PS后效果?！本W(wǎng)絡(luò)安全專家張百川在接受新京報(bào)記者采訪時(shí)表示，目前網(wǎng)絡(luò)上已存在部分人士開(kāi)始研究類似的算法。

同時(shí)，針對(duì)網(wǎng)絡(luò)安全，吳沈括指出，《網(wǎng)絡(luò)安全法》確立了網(wǎng)絡(luò)產(chǎn)品和服務(wù)的安全可控原則，將他人肖像用于制作淫穢視頻或者利用網(wǎng)絡(luò)技術(shù)“作惡”，是對(duì)他人合法權(quán)益的侵害。

爭(zhēng)議

換臉視頻網(wǎng)絡(luò)扎堆，個(gè)人難防中招

其實(shí)，AI換臉技術(shù)，已經(jīng)在各個(gè)領(lǐng)域沿用許久。而運(yùn)用最廣泛的領(lǐng)域便是電影。據(jù)新京報(bào)此前報(bào)道，中國(guó)科學(xué)院計(jì)算技術(shù)研究所張杰解釋稱，“這個(gè)技術(shù)簡(jiǎn)單可理解為，通過(guò)學(xué)習(xí)的方式讓一個(gè)神經(jīng)網(wǎng)絡(luò)把李四扭曲過(guò)的人臉還原成真實(shí)的人臉。”該神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)后，具備了將任意的人臉，還原成“李四”人臉的能力。

早在今年年初，一段通過(guò)AI技術(shù)將《射雕英雄傳》中朱茵臉部替換成楊冪的視頻在網(wǎng)絡(luò)引起熱議。記者搜索發(fā)現(xiàn)，視頻網(wǎng)站嗶哩嗶哩(B站)上存在大量AI換臉視頻，且人氣較高。其中，一個(gè)將蔡徐坤臉部替換成前網(wǎng)絡(luò)游戲主播盧本偉的視頻，播放量達(dá)到253.1萬(wàn)。不少網(wǎng)友在相關(guān)視頻評(píng)論區(qū)留言稱“毫無(wú)違和感”、“好笑哈哈哈”。

阿樂(lè)(化名)告訴者，出于獵奇和娛樂(lè)心態(tài)，自己喜歡在嗶哩嗶哩觀看AI換臉視頻?！鞍淹鈬?guó)人的臉換在古裝人物身上，很新奇?！钡灿芯W(wǎng)友在相關(guān)評(píng)論區(qū)稱“AI換臉(可能用于)敲詐勒索色情造謠，技術(shù)無(wú)罪，果然還是人本惡”。

律師、星娛樂(lè)法創(chuàng)始人李振武曾對(duì)新京報(bào)記者表示，視頻制作者未經(jīng)朱茵和楊冪許可，擅自使用其肖像，雖其抗辯未有營(yíng)利行為，但在互聯(lián)網(wǎng)語(yǔ)境里，流量變現(xiàn)以及粉絲倍增，都很難解釋為非營(yíng)利行為，因此，此舉可能涉嫌侵犯肖像權(quán)。

有觀點(diǎn)認(rèn)為，AI換臉技術(shù)門(mén)檻正在不斷降低。對(duì)此，張百川稱：“放在以前的話，技術(shù)難度非常大，已經(jīng)有人開(kāi)始研究這種算法了，如果算法公開(kāi)，這種趨勢(shì)將很難抵擋”。

張百川告訴記者，普通人可能不太容易學(xué)會(huì)AI換臉技術(shù)，但有人可能利用此項(xiàng)技術(shù)制成有類似功能的軟件，那么普通人只要在APP上傳照片即可。針對(duì)個(gè)人如何防范，張百川表示：“很難，如果你有照片在互聯(lián)網(wǎng)上，就會(huì)有(被利用)的風(fēng)險(xiǎn)”。

記者注意到，Deepfake和DeepNude在國(guó)外已引起熱議，據(jù)《紐約時(shí)報(bào)》報(bào)道，隨著越來(lái)越多的人利用FakeApp制作名人的色情視頻，F(xiàn)akeApp正在引起恐慌?！缎l(wèi)報(bào)》稱此類軟件為“對(duì)未來(lái)可怕的一瞥”，顯示了對(duì)人工智能未來(lái)可能造成的倫理問(wèn)題的擔(dān)憂。

當(dāng)?shù)貢r(shí)間7月2日，美國(guó)弗吉尼亞州已通過(guò)一條有關(guān)色情禁令的法律修正案，成為美國(guó)首批禁止傳播計(jì)算機(jī)生成的色情內(nèi)容的地區(qū)之一。根據(jù)修正案，未經(jīng)許可傳播或出售以任何方式創(chuàng)作的某人處于裸體或脫衣?tīng)顟B(tài)的視頻或靜止圖像都是違法的，包括虛假創(chuàng)作的視頻或靜止圖像。

在我國(guó)，根據(jù)《刑法》第三百六十三條規(guī)定，以牟利為目的，制作、復(fù)制、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴(yán)重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴(yán)重的，處十年以上有期徒刑或者無(wú)期徒刑，并處罰金或者沒(méi)收財(cái)產(chǎn)。

聯(lián)合國(guó)網(wǎng)絡(luò)安全與網(wǎng)絡(luò)犯罪問(wèn)題高級(jí)顧問(wèn)吳沈括表示，就中國(guó)法律來(lái)講，售賣AI換臉淫穢視頻，本身已經(jīng)是傳播淫穢物品牟利罪，同時(shí)在民事侵權(quán)領(lǐng)域，未經(jīng)允許，將他人的肖像用于謀利的，也侵犯了肖像權(quán)。

針對(duì)AI換臉淫穢視頻的購(gòu)買者，吳沈括告訴記者，目前對(duì)于購(gòu)買淫穢物品沒(méi)有設(shè)置法律責(zé)任，主要集中在傳播淫穢物品和傳播淫穢物品牟利兩種非法形式。買家在購(gòu)買AI換臉淫穢視頻之后，加以傳播或者以傳播牟利，則可能構(gòu)成違法甚至犯罪。

張百川認(rèn)為，技術(shù)本身沒(méi)有問(wèn)題，是有人利用技術(shù)作惡，大眾需在日常生活中，注重個(gè)人隱私保護(hù)?！袄缂磿r(shí)通訊軟件，有人用它工作，有人用它詐騙?！?/p>