近日，知名傳染病學專家張文宏直播賣蛋白棒的視頻，讓不少老人信以為真，瘋狂買單，櫥窗商品已售出上千件。但最終發(fā)現(xiàn)這是一起利用AI換臉技術合成的侵權視頻。

張文宏等名人成為被AI技術假冒的“躺槍者”，并非個案。今年“3·15”期間，本報曾發(fā)表了《AI換臉下的扭曲生意鏈》一文，揭露一些不良商家利用AI換臉構建起一條低成本牟暴利的灰色產(chǎn)業(yè)鏈。9個月后，AI換臉騙局不僅沒有得到遏制，反而愈演愈烈。引導AI換臉回歸正軌，不僅需要平臺方更多的監(jiān)管，也真正考驗相關管理者的智慧。

名人到公眾

泛濫的銷售產(chǎn)業(yè)鏈

添加一段視頻，輸入一段語音，便能提取克隆相關的嗓音特質(zhì)，根據(jù)預設好的文本內(nèi)容，智能修改口型。當前，AI換臉技術已經(jīng)非常成熟，在合成軟件上生成這樣一個時長1分鐘的換臉視頻，只需等待幾小時。

北京商報記者使用了幾款熱門AI換臉合成軟件發(fā)現(xiàn)，僅需提供一張照片，就可以生成寫真照片、跳舞視頻等。如果不確定需要哪種風格的照片或視頻，軟件內(nèi)還提供各種模板，包括古風漢服、民族服飾、熱門大咖、明星換臉等選擇。

AI技術的進步給用戶帶來了便利性和娛樂性，但同時，由AI換臉引起的侵權和違法行為不在少數(shù)。10月30日，根據(jù)北京互聯(lián)網(wǎng)法院發(fā)布的數(shù)據(jù)，近一年共受理個人信息保護糾紛案件113件，呈增長趨勢，侵權主體以互聯(lián)網(wǎng)企業(yè)為主，AI換臉等新型侵權案件不斷涌現(xiàn)。

據(jù)報道，換臉明星名人直播帶貨的產(chǎn)品銷量往往數(shù)小時可達上千件，并且已形成換臉銷售產(chǎn)業(yè)鏈；山東濟南一男子接通了由AI換臉成親戚的視頻通話，7秒的視頻時間被騙了30萬元；今年2月，一跨國公司在開視頻會議時，不法分子換臉成公司高管，讓員工先后15次將2億港元轉到指定賬戶。

“不僅是面部特征一樣，AI還會說方言，我打了兩次視頻電話都沒有發(fā)現(xiàn)對方不是自己的爸媽。”曾被AI換臉騙走8000元的李女士向北京商報記者說道。

天使投資人、資深人工智能專家郭濤說：“AI換臉技術主要基于深度學習算法，尤其是生成對抗網(wǎng)絡（GAN）。通過不斷訓練，生成器能夠逐漸生成難以被判別器識別的假臉。同時，結合面部特征點識別、3D建模等技術輔助，實現(xiàn)臉部表情、動作等逼真合成。”

面對這些明目張膽的侵權行為，張文宏在接受采訪時表示：“這樣的賣貨賬號不止一個，且一直在變，我多次向平臺投訴但屢禁不絕。很多不明真相的老百姓，特別是有些對AI不是很熟悉的、年紀較大的市民，就很容易相信。”此外，張文宏也考慮求助警方，但對方看不見、摸不著，經(jīng)常更換賬號，很難找到準確的報警對象。

郭濤補充到，當前AI技術飛速發(fā)展，特別是深度學習算法的不斷成熟，使得換臉技術的門檻大大降低。“可以說，AI換臉的泛濫與技術門檻的降低具有密不可分的關系。”

侵權與違法

被踐踏的肖像權

“我的人臉信息他們從何獲得？”“AI換臉違法嗎？”對于AI換臉所觸及到的侵害個人權益和欺詐問題，北京觀韜律師事務所執(zhí)行合伙人、知識產(chǎn)權業(yè)務委員會主任李洪江律師對此直言：“AI根據(jù)用戶指令生成的某些換臉視頻可能涉嫌侵權甚至構成違法。”

近日，廣州互聯(lián)網(wǎng)法院就審結了一起由“AI換臉”視頻合成模板引發(fā)的侵權糾紛。一位知名短視頻博主發(fā)現(xiàn)自己的漢服裝扮視頻被某科技公司擅自制成了付費“AI換臉”模板。法院審理后認定，該公司的行為侵犯了博主的肖像權。廣州互聯(lián)網(wǎng)法院綜合審判三庭庭長曹鈺說，本案的焦點就在于，沒有使用他人面部形象的情況下是否構成侵害肖像權。

此外，北京互聯(lián)網(wǎng)法院提供的典型案例也顯示，原告廖某是一名古風短視頻博主，在全網(wǎng)擁有較多粉絲。被告某科技文化有限公司在未經(jīng)原告授權同意的情況下，使用原告出鏡的系列視頻制作換臉模板，并上傳至其運營的案涉軟件中，提供給用戶付費使用并以此牟利。最終法院判決被告向原告賠禮道歉、賠償精神損害撫慰金和維權費用。

根據(jù)《民法典》，公民享有肖像權，這意味著他人不得隨意使用肖像，同時，對自然人聲音的保護，參照適用肖像權保護的有關規(guī)定。

李洪江認為，AI換臉技術被濫用后，不僅會侵犯他人的肖像權，如果被用于丑化、污損他人形象，或制作不雅視頻等會侵犯他人的名譽權，另外，涉及獲取、處理、使用他人的人臉信息等敏感個人信息，且未經(jīng)權利人同意則可能侵犯個人信息權益。

李洪江進一步指出：“利用換臉技術進行直播帶貨，涉嫌違反民法典關于肖像權和個人信息保護的規(guī)定，同時可能涉嫌虛假宣傳；而如果利用換臉技術進行詐騙，違反了刑法關于詐騙罪和幫助信息網(wǎng)絡犯罪活動罪等的規(guī)定，可能構成犯罪。”

對此，郭濤建議：“可以通過觀察面部細節(jié)是否自然、表情動作是否連貫，以及視頻中光影效果的變化來判斷是否是AI換臉視頻。”

“如遇到AI換臉視頻，受害者要第一時間保存證據(jù)，同時注意保存與侵權行為相關的所有信息，并尋求專業(yè)的技術鑒定機構對涉嫌侵權的作品進行鑒定，以確認其是否由AI合成。”李洪江補充道。

預防和識別

全鏈條進行治理

AI換臉等新型侵權案件不斷涌現(xiàn)，除了用戶自身提高網(wǎng)絡安全意識，對于AI換臉相關風險的預防與整治，需要從源頭進行監(jiān)管，司法形成多主體、全鏈條的治理。

“AI換臉與個人肖像密切相關，不免引起公眾對肖像權與個人信息權益的擔憂。”北京互聯(lián)網(wǎng)法院在闡述上述案件典型意義時指出，本案明確了肖像權“可識別性”不局限于面部，但應當主要集中于自然人的個人生理特征，避免肖像權的任意擴張影響妝容、造型等領域的合法使用及創(chuàng)作傳播。

現(xiàn)階段，不少平臺已經(jīng)明確要求在使用AI換臉技術時標明身份，并對不當使用的行為作出了處置措施。

3月26日，抖音安全中心發(fā)布不當利用AI生成虛擬人物的治理公告，指出將嚴格處罰違規(guī)使用AI生成虛擬人物發(fā)布違背科學常識、弄虛作假、造謠傳謠的內(nèi)容；12月15日，“微信珊瑚安全”微信公眾號發(fā)布關于打擊利用AI仿冒知名人士進行營銷宣傳的公告，已處理532條內(nèi)容，關閉賬號209個。

另外，相關規(guī)定也為AI換臉劃定了“底線”和“紅線”。2023年起施行的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確，任何組織和個人不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，深度合成服務提供者應當以顯著方式提示深度合成服務技術支持者和使用者承擔信息安全義務。

但AI換臉技術涉及復雜的算法和數(shù)據(jù)處理過程，使得法律難以全面覆蓋所有可能的濫用情況。

李洪江認為：“AI換臉技術的法律地位尚未明確，導致侵權責任的界定困難。一方面，因AI換臉技術的高度逼真性和隱蔽性，受害者往往難以發(fā)現(xiàn)侵權行為并獲取有力證據(jù)；另一方面，AI換臉技術發(fā)展迅速，不斷出現(xiàn)新的應用場景和濫用方式，使得法律難以跟上技術的步伐。”

“從多主體、全鏈條預防和識別這類內(nèi)容是解開騙局的關鍵。”在郭濤看來，從加強監(jiān)管入手，在源頭上阻止這些虛假視頻的傳播；另外，要完善法律法規(guī)，明確AI換臉技術的使用規(guī)范和違法界限。

對于未來在監(jiān)管方面視頻平臺如何應對，北京商報記者采訪了多家短視頻平臺企業(yè)，但多數(shù)平臺都回避了這個問題。某視頻平臺內(nèi)部人士對記者表示，AI換臉是全行業(yè)問題，源頭來自于AI換臉網(wǎng)站，平臺也深受其害。建議全行業(yè)形成規(guī)范，在AI內(nèi)容生成時即自動植入某種計算機能夠識別的標記，以便于各平臺識別AI內(nèi)容，防止虛假信息傳播。

此外，北京商報記者聯(lián)系了相關監(jiān)管部門，但截至發(fā)稿均未得到回復。記者之后也撥打了12345熱線和12315熱線，兩方均表示：如果遇到AI換臉視頻，可以幫用戶聯(lián)系到相關平臺方，根據(jù)用戶要求進行視頻下架等處理；如AI換臉視頻涉及詐騙，則建議盡快報警。

中國政法大學傳播法研究中心副主任朱巍表示，對AI的約束要跟上AI技術的發(fā)展，在傳播渠道上，可以對AI作品實現(xiàn)溯源。

此前，全國人大法工委曾就AI換臉現(xiàn)象作出回應，表示將不斷建立健全制度和監(jiān)管，以保障公民的合法權益。今年9月14日，國家網(wǎng)信辦起草了《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》，該辦法出臺后，將進一步加強對AI生成技術的約束和規(guī)范，督促服務提供者和網(wǎng)絡平臺承擔起應有的法律責任。

北京商報記者 金朝力 實習記者 劉曼華