演員吳越怒斥AI「魔改」其形象帶貨，涉事賬號被永久封禁

來源：界面圖庫

近日，演員吳越通過公開渠道發聲，直指有人利用AI技術「魔改」其本人影像、聲音，製作仿冒帶貨視頻，相關事件引起廣泛關注。

10月18日凌晨，吳越發文怒斥：「一覺醒來，誰在利用AI肆意抓人替自己作惡？這位’花姐’你騙了多少人的錢？請如數奉還！太惡劣！！！」

10月19日，界面新聞在微信中搜索相關視頻賬號，發現已經無法搜索到。據媒體報道，目前賬號已被永久封禁，內容清空不可見。

據了解，在此前發布的視頻中，「吳越」拎著一款精華液出場，並稱「這個產品不是他們找我，是我找他們的，因為我看了一些視頻，我覺得有沒有這麼誇張啊，但是當我收到之後，效果是真的非常直觀。」

從普通用戶的視角看，這些視頻幾可亂真：AI技術將吳越過往的公開影像素材進行深度合成，通過調整口型、替換台詞、復刻聲線，製造出她親自推薦商品的帶貨場景。畫面細節、語氣節奏都達到極高模擬度，僅憑肉眼很難第一時間識別出內容為AI生成。

近年來，利用AI深度合成技術偽造名人形象、替換面容與聲音的視頻頻頻出現。此前，演員溫崢嶸也曾自曝刷到AI盜播自己的直播間，上前質問竟被秒拉黑。溫崢嶸在採訪中表示，「早在4月份之前，就說我出現在多個直播間，同一時段，妝發不同，不同的產品，說著同樣的話。」

霍啟剛也曾在個人社交賬號上發文，稱自己的形象遭到AI盜用。「他們提取了我的聲線、利用我的樣貌生成短視頻，但是裡面的內容完全不是我的觀點，連我同事都說看了一段時間才發現原來是AI生成的，這樣的信息實在是誤導觀眾。」

靳東也遭遇AI換臉侵害，他的形象被不法分子仿冒后，專門用於針對中老年群體實施詐騙，讓人防不勝防。靳東直言，「一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣，希望能建立更好的規則。」

名人仿冒視頻層出不窮，監管層面也已出手。今年9月底，中央網信辦印發通知，在全國範圍內部署開展為期2個月的「清朗·整治短視頻虛假人設亂象」專項行動。專項行動整治重點就包括通過AI合成虛假音視頻等方式，假冒公眾人物，實施虛假代言、營銷等侵權違法行為。網信部門督促網站平台切實履行內容審核義務，不得借已標註虛構演繹、AI生成、營銷、轉載、個人觀點等內容標籤及無不良導向聲明規避網路生態治理相關要求，從源頭阻遏虛假人設類短視頻的上傳發布。

司法層面，最高人民法院發布關於依法審理涉人工智慧（AI）糾紛案件的意見，進一步明確司法裁判規則，釋放堅持發展和安全並重的鮮明信號，促推人工智慧健康有序發展。

事實上，各大平台近半年來已陸續升級AI內容治理措施。今年3月，微信視頻號曾發布關於加強AI生成內容治理的公告表示，平台已建立針對AI生成合成內容的常態化管控機制，對疑似AI生成合成內容添加標識提示，方便用戶清晰辨識。

近期，抖音上線兩項核心功能：一是AI內容標識功能，協助創作者主動打標；二是AI內容元數據標識讀寫功能，可識別並寫入AI內容元數據信息，為內容溯源提供技術支撐。

快手已上線AI生成合成內容標識和用戶主動聲明功能，在平台AI生成內容中添加「AI生成」顯式標識及嵌入文件元數據的隱式標識，並對疑似AI內容進行顯著提示。