核心提示:近日，濫用AI換臉技術的詐騙犯罪層出不窮，連直播間也出現了換臉的假明星。
這種情況下，有人卻在社交平台上堂而皇之賣起「作案工具」，79元就可以買30個人臉模型。是誰在甩賣AI換臉工具？
自從5月底「AI詐騙正在全國爆發」登上熱搜後，利用AI換臉技術的詐騙事件頻繁發生。
近日，中國銀河證券發布公告稱：利用「AI合成技術」的詐騙手段或將逐步蔓延至證券行業。公告顯示，某知名經濟學家稱，自己被人利用「AI換臉」等技術，通過視頻、語音等方式聯繫投資者，騙取投資者信任，開展薦股活動。
此前已經有哈爾濱、福州等多地網警通報有關AI換臉的詐騙事件，有人10分鐘被騙了430萬。
而「AI換臉」詐騙猖獗的當下，社交平台上也湧現了一批推銷「AI換臉教程」的賬號。
這些賬號發布的視頻，主要內容都是人物手一揮就換了一張臉。視頻還會同時搭配洗腦的音樂，簡單的動作，以及「AI換臉教程、直播實時換臉、視頻實時換臉、自定義換臉」等相關文字。
如果有用戶在視頻下面回復，他們就會在評論區引導，讓用戶加聯繫方式詳談。
這些賬號背後的上傳者，自稱是自媒體時代的成功學導師，不斷追逐熱點，付費傳授各種流量密碼。
只不過，這一次的「AI換臉」尚處於監管灰色地帶，參與其中的用戶可能稍不留神，就從「知識付費」變成「今日說法」。
1、AI詐騙之後，「換臉」教程席捲平台
5月底，有不少網友發現，當紅女星「楊冪」「迪麗熱巴」親自在某女裝品牌直播間帶貨。她們互動熱情，介紹專業，短時間引來大量網友圍觀。
但仔細看，主播的臉又不太像明星本人，如果主播扭頭的幅度太大，居然會瞬間「顯出原形」，變出另一張臉來。更有人在不同直播間同時看到多個「楊冪」「熱巴」。一時間，「明星主播」分身有術，處處有「楊冪」，個個是「熱巴」。
經過媒體曝光，人們才發現，原來部分直播間在未標識情況下，用AI換臉技術，讓主播套上一張明星臉，誤導消費者。
想起差點因為虛假的明星效應衝動消費，人們對AI換臉的魔力越發心有餘悸。
視頻換臉技術出現已久，早在2019年，一款名為「ZAO」的換臉App就曾紅極一時，用戶只要上傳一張自己的正面照，就可以在電影角色的臉上套上自己的五官，與明星同台飆戲。
到了2021年年初，換臉應用程序Avatarify一度登上了App Store中國區應用免費榜榜首，但不到一個星期，該應用就被中國區App store下架。
這些軟件的技術往往來自於DeepFake開源技術，依託大數據和人工智能深度學習機制，對既有視頻或圖片中的人物面部圖像進行替換。
雖然當時的換臉技術還不夠逼真，但已經能讓一些短視頻創作者吸引流量。
在2021年3月，TikTok上的某個視頻賬號就通過換臉技術，製作了換臉湯姆克魯斯練習高爾夫、表演魔術、講笑話等視頻，發布沒多久就收穫了20多萬粉絲。
當時，這種技術門檻較高。視頻製作者宣稱使用了開源的DeepFaceLab算法以及其他的視頻編輯工具，通過將傳統的視覺特效與DeepFake技術相結合，前後花了整整兩個月的時間製作。此外，硬件上還需要使用一對NVIDIA RTX 8000 GPU訓練AI模型，才能達到以假亂真的效果。
隨着近兩年來技術大爆發，不僅出現了幾乎可以傻瓜式操作換臉的相關軟件，逼真程度也一再上升，目前已經可以做到實時換臉，從而應用到上面提到的直播領域。
但是從娛樂領域到商業領域，AI換臉還處於灰色地帶。
在此前的報道中，有法律人士認為，使用AI換臉技術時，應有顯著標識，以免公眾混淆。而未經明星同意使用其肖像直播帶貨，可能涉嫌多項侵權。
2023年3月，某短視頻平台上的特效師通過把電視劇中男主角的臉換成自己的臉，合成與女明星親吻的影像，並藉此宣傳售賣「特效換臉教程」，也引發了很大爭議，並且該賬號「特效合成師洪亮（收徒）」被平台封號15天。
目前短視頻平台對於這類行為提出了規範。比如2023年5月9日，抖音發布「關於人工智能生成內容的平台規範暨行業倡議」，其中提到創作者應對人工智能生成內容進行顯著標識，同時虛擬人需在平台進行註冊，虛擬人技術使用者需實名認證。
而在政策監管上，今年1月生效的《互聯網信息服務深度合成管理規定》也指出，提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。並要求任何組織和個人不得採用技術手段刪除、篡改、隱匿相關標識。
面對平台和監管部門的圍追堵截，換臉明星以吸引流量的路子走不通。部分博主發現以身犯法不行，轉身賣起了所謂的AI換臉課程。
2、79元就能「換」30張臉
此前，央視財經曝光「主播AI換臉明星進行直播」時提到，在網上購買一套AI實施換臉的模型需3.5萬元。
只過了一個多月的時間，AI換臉的價格正在迅速平民化。如今，只需要79元，一個AI換臉套餐就能幫你換30張臉。
《豹變》在社交平台上搜到了有關「AI換臉教程，直播實時換臉，視頻通話換臉」的相關視頻，視頻下方的商品鏈接中售賣相應的課程——不僅提供「AI換臉直播間搭建」工具包＋教程，同時「包教包會換臉直播，79元可以解鎖30張面孔」。
店鋪顯示，該課程已售13份。《豹變》詢問後並沒有得到回覆，截至發稿，相關產品已經下架。
類似售賣AI變臉課程的賬號往往非常謹慎，多數賬號在視頻中並不直接宣傳賣課，而是以「帶你玩AI換臉」等字眼，吸引用戶主動詢問。
此外，賣家還會通過大批沒有其他內容的殭屍號，批量轉發同樣的視頻，然後在賬號簡介或私信中交換聯繫方式。
《豹變》從一位賣家客服那裡了解到，不同的套餐價格不一樣，包括588元的入門版本、888元的基礎版本、1388元的進階版本，以及2888元的專業版本。
客服表示，如果用於直播帶貨，建議購買2888元的專業版本：「我們這個活動很划算了，永久免費使用，包更新，後續這個價格會變為年卡。」
有相關行業從業者表示，類似的AI換臉技術主要來自於國外開源項目：「最近AI技術大爆炸，很多技術都是開源的，而且更新非常快。國產自研技術也有，但都是有投資的公司做的，而且效果不理想。」
類似的開源項目，官方網站上就有使用教程。一些人搬運到國內之後，開始打包賣課程和教程，成本幾乎為零。
比如，B站、抖音等視頻網站上的很多AI換臉視頻都是通過DeepFaceLab生成的。DeepFaceLab安裝簡單，更新快，功能強，模型多，參數豐富，對設備配置要求低。
其他熱門的軟件，比如Fake App、OpenFaceSwap等，都能在互聯網上找到相關資源。
對此，《豹變》向售賣課程的客服核實售賣的軟件是否屬於開源項目，希望對比使用界面，客服卻宣稱，自家產品屬於內部軟件，不方便公開。
而其他從事AI技術科普的博主告訴《豹變》，這就是靠信息差割韭菜。
3、AI換臉的用武之地在哪？
比起其他AI技術誕生之後備受各方矚目，AI換臉技術似乎只得到違法分子的青眼。「換臉」的作用總讓人想到灰色產業，在實時換臉技術成熟之後，沒想到最先降低的似乎是違法成本。
實際上，此前AI換臉技術常運用於影視劇領域，一些曾因劣跡藝人被迫雪藏的影視劇，也是憑藉AI換臉技術重見天日。而當實時換臉成為可能後，AI換臉技術也有可能在直播領域找到用武之地。
通過AI換臉，品牌方可以讓不同直播間裡的主播共享同一張臉，一方面可以強化品牌IP與主播的連接，另一方面也可以減少主播流失帶來的損失，擺脫對大主播的依賴。
此前大熱的數字人直播技術，目前還面臨着技術不夠成熟、對算力的要求過高、互動能力不足等尷尬情況。相對來說，AI換臉技術更為經濟實用。
而且，AI換臉技術已經在部分特殊場景有所應用。比如，對於國內中小跨境電商商家來說，外籍主播和模特的人力成本略高，導致運營壓力過大。所以，有TikTok商家通過AI換臉將英語口語能力不錯的國內主播、模特換臉變成外籍主播、模特，以減少人力成本。
目前已經有電商公司、科技公司在着手研究AI換臉技術。電商直播行業龍頭遙望科技曾於5月15日發布公告稱，與小冰公司簽訂關於《直播電商人工智能技術/產品戰略合作》的協議，雙方就AI技術、產品的研發、推廣等事項在直播、短視頻、電商等領域展開全面合作。其中包括AI換臉技術的研發。
騰訊旗下優圖實驗室、天天P圖聯合打造的AI變臉玩法等，也在嘗試能夠完成人臉替換、人臉再現、人臉合成甚至全身合成、虛擬環境合成等功能。
相對應的，針對AI換臉的檢測技術也在發展。企查查顯示，2022年10月4日，百度申請的「人臉鑒偽方法、裝置及計算機程序產品」專利公布。該專利涉及人工智能技術領域，具體涉及深度學習技術，可用於人臉鑒偽場景，提高了人臉圖像鑒偽結果的準確度。
對於AI換臉技術在灰色產業的濫用，在監管和鑑別技術逐漸完善的情況下，類似情況應該會得到控制。目前來看，需要更多的相關科普、反詐知識來謹防AI換臉詐騙。-(作者:宋子豪*編輯:劉楊/豹變)
