火爆網絡的AI 捏臉,竟然藏著這些危險
摘要 :保護好個人隱私信息至關重要。
最近,“AI捏臉”視頻在社交平台上頗爲流行——一雙手捏住各種立體人像,慢慢用力,把人像捏扁、捏爆、捏碎,被捏的對象既有發布者本人,也有各種影視劇人物乃至虛擬人物。不少發布者表示“AI捏臉非常解壓”,並鼓勵他人嘗試。
其實,實現AI捏臉並不複雜。簡單來說,就是應用人工智能技術,先將照片、視頻等裏的人物進行3D建模,然後經技術處理,用捏臉模版中的“雙手”將3D模型捏扁、捏爆。
社交平台的各種“捏臉”“捏物”視頻都是AI 合成的
調查發現,“AI捏臉”效果起初來自一款海外AI工具軟件,隨著相關視頻走俏,國內平台上也出現了類似的應用軟件。
但上海辟謠平台試用發現,這些應用雖說能實現“AI捏臉”效果,但在保護個人信息、不濫用個人信息上做得並不夠。對使用者來說,無異于主動將人臉等隱私信息拱手送上,安全風險極大。
根據一名主播的推薦,記者搜索到一款聲稱免費提供“AI捏臉”效果的小程序,但發現啓用該小程序時,不時彈出廣告,必須手動關閉。
就連記者閱讀小程序的用戶協議、隱私條款時,也被廣告打擾。可見,該小程序雖說是免費的,但實際是利用“AI捏臉”功能招攬用戶,提高使用量和浏覽量,以增加廣告收入。
而且,從該小程序的算法公式、隱私條款和服務方式看,它也讓人不太放心。
其在“算法公示”中稱,基本原理是將人臉圖片的面部特征轉移到視頻素材中的特定人物上,但並未表示哪些視頻素材不能用、哪些場景不適合合成。
“隱私條款”表示,小程序會收集用戶的昵稱、頭像、性別、地區、相冊、設備信息等個人信息,這些信息的存儲地點和期限非常模糊,前者是“境內”,後者是“小程序停止運營後即使刪除”。
至于該小程序的服務內容,除了用AI技術爲用戶實現捏臉等效果外,還收費提供各種換臉、換背景的照片、視頻産品。
以上種種顯示,“AI捏臉”並非看起來那麽簡單有趣。它背後不僅有部分小程序、平台、主播的推廣、拉流量等營銷之舉;而且在具體服務中,對個人信息索取、使用、保管等也存在瑕疵。
進一步調查還發現,很多提供“AI捏臉”等效果的小程序、網站等,都有類似問題。
要知道,將個人照片等發送給不明來曆的應用程序、平台等,風險極大。
此前,多地警方披露過犯罪分子使用AI換臉、換聲等技術實施敲詐勒索案件,作案的基礎就是受害人的頭像等個人信息有過泄露。
例如,深圳市民吳先生收到陌生手機號碼發送的彩信,裏面是他與一名陌生女子在酒店房間的不雅照片,以及敲詐勒索。
吳先生選擇報警。
深圳警方偵查後發現,全市有同樣遭遇的不止吳先生一人,犯罪嫌疑人的敲詐勒索方式如出一轍。
警方調查發現,背後是一個犯罪團夥,內部分工明確,有人負責尋找作案目標,有人負責修圖,有人負責發短信打電話敲詐勒索。
最終,警方成功抓獲10多名犯罪嫌疑人,並在他們的電腦裏發現大量經過合成換臉後的不雅照片。
網絡安全專家表示,隨著AI技術的發展,一張照片、一段語音、一段視頻,都有可能成爲不法分子犯罪工具。
他們利用AI技術,不僅能把人物的靜態照片合成到各種背景中,而且能變成動態視頻;同樣的,獲得一定量的音頻信息後,AI技術可以模擬聲音,制造更多的語音文件,從而實施詐騙等犯罪行爲。
要預防這類犯罪,保護好個人隱私信息至關重要。
但眼下,部分網民還不了解隨意上傳個人照片、聲音的隱患,從而讓犯罪分子有機可趁。
眼下,部分網民有“曬”的習慣,會通過社交平台曬出身份證、結婚證、房産證、孩子的出生證等各種證件照片;還有的習慣拿著這類證件拍照,或拍攝手持圖畫、報紙等造型的照片。
殊不知,各種證件照片包含了個人隱私信息,很容易被不法分子利用,包括辦理信用卡、網貸等金融業務。手持圖畫或報紙的照片,則容易被篡改爲手持身份證等照片,用在驗證身份上,從而被不法分子用于制作假證件或進行網絡詐騙。
網絡安全專家提醒,公衆在日常上網和使用各種AI工具及應用時,要有保護個人隱私、個人信息的意識,不隨意上傳人臉、照片、聲音等個人信息。
在朋友圈等社交平台分享個人生活時,也要避免那些含有敏感信息,或容易被不法分子偷梁換柱的照片。---來源 : 上觀新聞 -