“我被人用AI做的私密裸照威脅了，我該怎麽辦？”
2023年10月16日，小紅書博主“tinky是只喵”發布帖子稱，自己受到了AI裸照的威脅。
從郵件內容可以看到，一位自稱裸體繪畫藝術家的外國人聲稱自己受到委托，按要求制作博主的裸體圖片。但委托人最終並沒有支付費用，所以他決定向博主索要500 USDT（一種與美元挂鈎的加密貨幣，500 USDT約合人民幣3500元），否則自己將會把帶有博主形象的裸照進行公開售賣，並且根據博主的社交賬號內容繼續制作裸照。
“我看了那些照片，不知情的人真的會以爲是我。”在評論區裏，“tinky是只喵”憂心忡忡地表示。
這並不是孤例，打開各大社交網站進行搜索，類似的求助帖非常多，勒索者主要面向年輕男女，利用AI合成的色情圖片進行敲詐勒索，俨然成爲一種新型電詐方式。令人難以接受的是，在極易泄露個人形象的今天，即使你什麽都沒有做，都可能因爲AI圖片受到威脅。
不僅是敲詐，利用AI産出色情內容、AI電信詐騙、AI侵權等情況更是屢見不鮮。
技術本身沒有善惡，但使用技術的人有。當我們爲AI技術發展帶來的便利歡呼時，一個不得不面對的事實是，新技術出現後，往往也會被應用于各種灰色地帶。從色情産業到Deepfake詐騙，在互聯網的幽暗角落裏，AI滋生的陰影正在不斷擴大。
AI，遊走于灰色地帶
當ChatGPT以黑馬之姿闖入人類互聯網世界時，我們或許就應該意識到，生成式AI會不可避免地産生滑向灰色地帶的風險。畢竟他們展現出的反饋能力遠超人們的想象，只要用戶有需求，他們很容易就能成爲“完美伴侶”，帶有性意味的對話開始被制造。
在刺猬公社此前發布的文章《除了主動示愛的機器人，AI還能給社區産品帶來什麽？》中，我們曾提到過虎撲App推出的AI對話産品“女娲AI”，其帶有的擦邊屬性一度引起熱議。
但類似問題不是某個産品所獨有，市面上的大多數AI對話産品，使用層面基本都存在著一些灰色地帶，甚至不少用戶就是爲了隨意“開車”才選擇虛擬戀人。
AI對話産品使用者飛禾告訴刺猬公社，虎撲女娲AI的主要問題在于其公共社區屬性，事實上，按照虎撲AI上的這種尺度，跟很多AI對話軟件相比只是初級玩家。“根據我體驗過的，很多AI軟件都能實現類似的體驗，只要你不斷訓練，引導，就能打造一個願意跟你‘開車’的虛擬戀人。”
她給我們列舉了幾個她曾使用過的軟件，“Glow、築夢島等都能有類似的功能，相對社區産品的AI對話來說，這些App上的對話更私密，所以不會産生太大的負面影響。”這或許也是平台並沒有對這方面進行深度監管的原因。
但這並不代表這些會“開車”的虛擬戀人是每個用戶獨屬的，在Glow等一系列軟件上，會有其他用戶訓練的智能體開放對話，其中的一些在介紹一欄就會公然顯示“爲了金錢做任何事”“柔弱不會反抗”等頗具性暗示的標簽。
此類內容也會受到部分用戶的反感。在小紅書等App上，就有很多對AI對話機器人的相關吐槽，在無意間開啓一場對話後，AI展現出的“惡臭”發言令人崩潰。“我只是想體驗一下而已，爲什麽要經曆這樣奇怪的對話。”
事實上，在各種用戶的調教下，人工智能“騷擾”用戶的情況已經不再是新聞。
2023年初，社交聊天AI産品Replika就曾爆出大量“性騷擾”事件，許多用戶精心訓練出來的AI智能體突然不再親切謹慎，反而口出“暴言”，大談親密內容。一些智能體甚至會發送大尺度照片，給予用戶視覺沖擊。
當視之爲親朋的AI突然開始輸出色情圖片，許多用戶都難以接受。值得注意的是，Replika背後的科技公司luka一度以大尺度親密聊天作爲變現轉化的重要方式，只要每月付費，就能和AI智能體暢聊成人內容。那一次群體“性騷擾”事件，其實是版本更新下AI的大規模失控。
“跟很多社交軟件一樣，AI對話産品可能就是需要滿足用戶的一些‘性幻想’，才能真正吸引到更多用戶，尤其是有消費能力的用戶。”飛禾認爲，事實就是，搞“擦邊”確實能帶來關注和轉化，這是國內外AI對話産品都在面臨的羅生門。
在類似的問題上，AI生圖更是已經成爲“重災區”。
作爲AIGC發展最快的領域之一，在Stable Diffusion、Midjourney等模型産品的飛速發展下，AI生圖不僅在精度、創意上展現出了超強的創作能力，也成爲了更多人遊走于灰色地帶的工具。
打開國內外各大網絡平台，能夠看到各種真人風格的AI圖片，主打一個“低級趣味”，大量穿著暴露、身材誇張的AI圖片充斥在用戶眼前，畢竟其生成成本極低。
在各種灰色地帶，販賣大尺度的AI照片已經成爲不少人的盈利方式，手指一點就能生成一批一批高質量的暴露圖片，對于不少人來說是一本萬利的營生。
誰是受害者？
在人性的驅動下，AI難以避免地成爲了低俗內容的生産工具，同時新的討論也開始在網絡上蔓延：在AIGC時代，色情內容也由AI生成，那麽是否可以減少現實生活中偷拍等事件的發生？在一些人看來，或許“憑空生成”的AI圖能夠取代真人色情內容，從而減少N號房這樣的悲劇。
但答案很可能是否定的。
在被大量用于生産低俗內容時，作爲灰色産業的一環，AI正在成爲罪犯的幫凶。開篇提到的“AI裸照勒索”就是最常見的犯罪方式，其運用的AI技術被稱爲DeepFake，也就是深度僞造。
DeepFake最早可以追溯到2016年，從移動互聯網剛開始興起之時，這種深度僞造就已經開始發展，近幾年流行的換臉就是DeepFake的主要表現方式。但在AIGC崛起之前，換臉等技術仍舊有較大瑕疵，普通人通過仔細觀察，基本都能分辨出換臉內容。但伴隨著AI生圖等技術的飛速發展，DeepFake也迎來了質變，從而擴大其傷害性。
在AI時代，我們很難用肉眼分辨出一張圖片、一段視頻的真假了。
千嶽就是DeepFake的受害者之一。作爲平面設計師，他很早就開始接觸AI相關的産品了，但很難想到，有一天自己會成爲AI生圖的受害者。2023年7月，他結識了一位“網友”，互相加上了QQ。
“其實有點難以啓齒，沒有管住自己的欲望。”在對方的引導下，他下載了一個軟件，很快，對方在QQ上給他發送了兩張裸照，照片上的臉赫然就是他自己。
“應該是軟件訪問了我的通訊錄和相冊。”千嶽告訴刺猬公社，對方根據讀取到的相冊內容直接AI合成了裸照，並很快打來了勒索電話，“對面是男聲，上來就威脅我，要4、5萬元，否則就把照片發給我通訊錄裏的所有人。”千嶽向對方表示沒錢，勒索者則直接威脅“沒錢就去貸款”。
他最終沒有妥協，並在第一時間報了警。“我運氣比較好，對方可能看我沒有價值就不浪費時間了。”在被拒絕後，勒索者發來了一張短信圖片，顯示已經將合成的照片發送給了千嶽的親友。但值得慶幸的是，並沒有人真正收到。“估計也是合成的，主要還是我運氣比較好，他們也是要KPI的，看我沒有同意就放棄了。”
千嶽發布的帖子
但並不是每個人都有這麽好的運氣，已經有許多人因爲AI合成圖被勒索。
受到勒索的當天，千嶽在社交平台上發布帖子求助，帖子發布後，有四五個類似經曆的人向他咨詢，其中有一些已經選擇“破財免災”。“警察告訴我，這種情況下唯一的方法就是刪除拉黑不理睬。”千嶽表示，敲詐者基本都在境外，很難追查成功。
這種敲詐方式類似于一度非常猖獗的“裸聊”，同樣是利用人的欲望，但AI的介入讓整個過程更加簡化了。只需要一個能夠入侵相冊和通訊錄的軟件，即使受害者不露臉，都會被合成色情圖片，而且這些圖片真假難辨。
不僅僅是沒有“管住欲望”的男性會中招，女性同樣容易受到類似的勒索。
開篇提到的博主，正是被人用自己發布在社交網絡上的照片進行了DeepFake。除了公開發布的照片外，一些AI圖生圖的小程序、來曆不明的二維碼等，都有可能成爲信息竊取的渠道，通過把這些真實圖片信息“喂”給AI，從而生成逼真的色情圖片。“現在遭遇這種敲詐的人非常多。”千嶽告訴刺猬公社。
除了通過照片勒索外，在AI合成聲音、實時換臉等技術日漸成熟的今天，相關領域的DeepFake詐騙也屢見不鮮。
“我接到的詐騙電話，聲音跟我朋友一模一樣，我沒有分辨出來。”根據Macfee2023年5月發布的AI語音詐騙相關報告，有77%的受害者因爲AI合成語音詐騙付出經濟損失，超過三分之一的人損失超過1000美元，而這種騙局正在成爲當下最主流的詐騙方式之一。
即使沒有主觀的勒索與詐騙行爲，很多女性被惡意制作AI合成圖片、視頻後，也會遭受造謠、隱私泄露、網絡暴力等困擾。值得關注的是，很多AI色情圖片制作者，會從網絡公共社區提取圖片“喂”給AI，根據美媒404 Media的報道，CivitAI、Discord等AI生圖網站都存在著抓取網絡圖片的情況，Reddit、YouTube等擁有龐大用戶的網站都深受其害。
AI色情圖片創作者們在互聯網的各個角落裏搜刮著照片、圖像信息，最終“喂養”出名爲色情內容的“惡獸”。當他們流出到全網，普通人面臨的可能是敲詐勒索，名人明星面對的可能就是大規模的圖像視頻造謠。
現如今，很多明星、網紅都已經成爲DeepFake的受害者，在AI技術的加持下，大量換臉視頻、合成圖片被制造出來，並造成了極其惡劣的影響。這是一場從上到下的危機，在AI時代，每個人都有可能被迫成爲“商品”，“有圖有真相”不複存焉。
*脫缰、失控、治理
除了色情內容、詐騙勒索等灰色産業外，AIGC背後的內容侵權問題也愈演愈烈。
AI繪圖所引發的大討論仍在眼前，反對者認爲AI生圖是“屍塊拼接”“畸形産物”。在他們看來，AI生圖並不是一種創作，而是一種重組，被投喂了一個畫師的大量作品後，AI會不自覺的産生類似作品，這本身就是一種侵權。而當AI繪圖被廣泛應用于各大平台後，這種“侵權”行爲似乎越來越明顯，甚至出現了企業利用AI侵權的行爲。
AI繪圖爭吵不斷，而在文本領域，新的“信任危機”也在蔓延。2023年9月，亞馬遜推出了新的政策，限制AI內容制作者每日出版作品的數量。原因就在于，AI生成的書籍，正在擾亂整個圖書市場。
跟AI生圖一樣，AI生成文本內容同樣基于對網絡文本的大量深度學習，而當生成某一種類型的書籍時，不可避免地會參考某些作家的文本，于是侵權問題再度出現。6月，就有一批作家與用戶向亞馬遜抗議，原因是青少年言情小說榜上AI生成的“書”明顯帶有一些作家的風格色彩。
當一位作家在網絡上大量發布文本內容後，其創作的文本很有可能被AI書籍創作者作爲訓練數據投喂給AI，最終養成一個跟作家本身風格類似的AI創作者，搶占作家自身應有的讀者和收益。
另一方面，AI創作的高效率、低成本也致使AI書籍過分泛濫，內容卻難以保證質量，整個市場被AI作品充斥，擾亂用戶的消費過程。
從AI圖片到AI書籍，侵權、泛濫現象層出不窮，歸根結底上是AI創作低門檻、弱監管所導致的創作脫缰，是“人”所導致的。但在AI産品大量出現的今天，AI自身的失控也值得關注。
當産品的運維過程出現失誤，AI自身很有可能出現失控現象，前面提到的Replika智能體騷擾事件就是一個例證。
大廠也難以避免類似問題，2023年10月，Meta推出了AI生成聊天貼紙功能“Emu”，用戶可以通過prompt在幾秒鍾內創建獨屬于自己的高質量貼紙。但貼紙本身的內容卻令人大跌眼鏡，由于缺乏過濾系統，當用戶對有爭議的提示詞進行組合輸入後，AI會産出各種奇形怪狀的貼紙，比如帶有女性特征的馬斯克、手持武器的孩子等。
目前已經有數十億張貼紙被創作出來，但是其中大部分都是用戶參透系統bug後的“整活”，各種邪典獵奇的形象被創作出來，其中很多都是違反社區規則的。當系統本身出現問題，AI的失控就難以避免，畢竟用戶是難以規範的。
關于AI技術的脫缰與失控問題是必須解決的，但對于技術開發者、企業、監管部門等産業上下遊的所有參與者來說，這個問題都很具有挑戰性。
難點首先在于AI技術的開源性質，在所有人都可以參與情況下，技術如何被應用是很難規範的；而在內容保護、版權維護等角度，需要對所有內容社區進行規範，實施難度極大；在最關鍵的“人”這一環，灰色地帶會産生相當大的商業轉化空間，當利益成爲唯一的驅動力，一切治理的推動都會難上加難。
國內的治理正在路上。
2023年10月12日，中國網絡空間安全協會人工智能安全治理專業委員會正式成立，該協會由國家互聯網應急中心、阿裏雲、華爲、金山等單位企業共同發起。該協會將會在國內AI安全領域發起努力，其中內容安全、隱私保護、知識産權保護等方面更是重中之重。
從目前的現實來看，行業上遊的治理仍需要時間，法規制定、監管必然會成爲當下的治理重點。
一個無可辯駁的事實是，AI正在成爲解放生産力的工具，並且正在改變這個世界。但在推動技術發展的同時，我們需要保有一份警惕。
畢竟技術背後的，是需要約束的人性。
（文中姓名皆爲化名。）-[文:刺猬公社*作者:世昕*編輯:陳梅希/钛媒體]
