當心AI圈"李鬼"!Meta:假冒ChatGPT的惡意軟件正激增
隨着全球對AI聊天機器人ChatGPT的興趣高漲,黑客們也開始利用這一熱潮。
[財聯社5月4日訊*編輯:劉蕊] 隨着全球對AI聊天機器人ChatGPT的興趣高漲,一些黑客也開始利用這一熱潮。
美東時間周三,Facebook的母公司Meta發布安全報告稱,近期發現與ChatGPT相關的惡意軟件正在激增。一些惡意軟件以提供ChatGPT相關聯的工具為幌子,試圖侵入人們的設備。
黑客們正利用ChatGPT熱潮
Meta的安全團隊在報告中表示,他們近期發現,很多黑客軟件聲稱,可以通過瀏覽器擴展和在線應用商店提供基於Chatgpt的工具,而這些工具中往往包含惡意軟件,旨在讓黑客侵入人們的設備。
Meta表示,僅在今年,該公司就發現並破壞了近10種新的惡意軟件,包括冒充ChatGPT瀏覽器擴展和生產力工具的惡意軟件等。這些惡意軟件通過電子郵件網絡釣魚、惡意瀏覽器擴展、廣告和移動應用程序以及各種社交媒體平台來誘騙用戶。
「我們在其他熱門話題上也看到過類似現象,比如由對數字貨幣的巨大興趣推動的加密騙局。」Meta的首席信息安全官蓋伊·羅森(Guy Rosen)表示,「從壞人的角度來看,ChatGPT是一種新的加密貨幣。」
僅今年3月以來,Meta阻止了1000多個惡意鏈接。這些鏈接往往聲稱可以提供ChatGPT相關的工具,這其中,一些工具的確包括可用的ChatGPT功能,但同時也包含感染用戶設備的惡意代碼。
「我們和安全研究人員的研究一次又一次地表明,惡意軟件運營商,就像垃圾郵件發送者一樣,試圖抓住熱點問題和熱門話題來引起人們的注意,」Meta表示,「以誘騙人們點擊惡意鏈接或下載惡意軟件為最終目標,最新一波惡意軟件活動已經注意到生成人工智能工具的流行。」
Meta正採取行動應對
Meta表示,它已經「調查並採取行動,打擊這些利用人們對OpenAI的ChatGPT的興趣,誘騙他們安裝假裝提供AI功能的惡意軟件。」
Meta指出,在Facebook上管理商業事務或使用該平台工作的人是黑客們的特定目標。詐騙者通常會追蹤用戶的個人賬戶,以便進入相關的商業頁面或廣告賬戶,而這些賬戶更有可能有關聯的信用卡。
為了解決這個問題,Meta計劃為企業推出一種名為「Meta Work」帳戶的新型帳戶。這些帳戶將使用戶能夠在沒有個人Facebook帳戶的情況下使用Facebook的業務管理工具,從而保持其個人賬戶的安全。
Meta表示,今年將開始對新賬戶功能進行「有限」測試,並將隨着時間的推移進行擴展。-來源:財聯社-
相關板塊:
人工智能+4.55%
網絡安全+3.41%
ChatGPT+6.18%
*中國互聯網大廠的「ChatGPT」追趕之旅現狀*
五一長假前後,我有幸跟一些互聯網大廠的朋友深聊,大家有一個話題是繞不開的:ChatGPT,以及由此席捲而起的「生成式AI」潮流。A股市場當然早已把一切能攀上GPT概念的公司給炒到天上去了,但是稍有常識的人都承認,中國做生成式AI(無論是模型還是應用)最值得仰仗的還是互聯網大廠,只有它們擁有足夠的資源和決心去做這件事情。不過,互聯網大廠的「ChatGPT追趕之旅」的具體進度,很大程度上尚未被外人所知,也尚未反應在財務業績和資本市場當中。
在跟一些熟悉內情的朋友溝通之後,我感覺比以前更有信心一點了,但也只是「一點」而已。在生成式AI這一賽道,國內互聯網大廠固然落後於世界先進水平(其實就是OpenAI),但落後的幅度尚不致命,而且不缺乏追趕的手段。關鍵的掣肘可能不在於技術層,而在於其他方面。總而言之:
互聯網大廠內部的技術團隊對生成式AI的熱情很高,老闆也樂意投入巨額資源,這不僅僅是出於「追新」或迎合資本市場。
互聯網大廠做生成式AI,目前的主要應用方向還是內部降本增效,至於面向C端(或中小B端)的大規模應用尚十分遙遠。
追趕OpenAI的道路是艱難的,但是在不計成本的投入之下,差距可能縮小到一個合理的量級,儘管差距將一直存在。
各級主管部門的支持當然很重要,不過目前互聯網大廠尚未拿出能說服主管部門的概念或實例,從而難以為生成式AI爭取更多上層資源。
先說第一條。互聯網大廠內部做技術的人,無論是基礎研發團隊還是應用技術團隊,對生成式AI的熱情都很高。因為在ChatGPT橫空出世之前,AI在互聯網行業的落地場景(搜索、個性化推薦、自動客服等)已經基本被做到極限,進化空間不大了;而其他突破性技術又沒有出現。所以,2021-22年,互聯網大廠普遍對算法崗位進行裁員。在這種情況下,ChatGPT的誕生可謂雪中送炭,給了技術人員一個向公司證明自己價值、升職加薪的大好機會。
而互聯網大廠的各級老闆們也非常樂意配合,因為生成式AI跟此前的元宇宙、Web3.0等概念不同,有着切切實實的應用案例,而且硅谷已經在前面踩出了一條清晰的道路。這就進入了中國互聯網行業最擅長的「投入資源模仿追趕」的模式。目前很多互聯網大廠的基礎研發團隊,以及業務部門裡面的算法團隊,都把原來手頭做的東西暫停了,集中力量all-in大模型。現在大模型不僅是公司層面的一號位工程,也成為了諸多事業群、事業部的一號位工程,這就決定了它能得到近乎無窮的資源投入。
接着說第二條。在降本增效的大背景下,互聯網大廠目前對生成式AI最大的期望其實不是開闢財源,而是節約成本或為老業務賦能。例如GPT商業化的第一批客戶包括Shopify這樣的電商SaaS及代運營商,在國內阿里、京東可以把自己的大模型直接用於自身電商平台的代運營;騰訊可以利用大模型補齊自己的客服短板,還能在騰訊文檔等應用中加入自動生成文案功能;所有的信息流媒體平台都可以利用生成式AI進行轉評贊、活躍社區氛圍。上面舉出的只是一小批正在進行的案例而已。
至於開發大型C端應用,或者面向廣大中小B端開放API,目前看來還比較遙遠。除了技術瓶頸之外,監管風險是一個主要考慮點:國內對生成式AI的監管討論才剛剛開始,尚未形成成熟的監管體系,此時貿然上馬大型C端應用的風險極高。然而,這裡有牽扯出了一個新的問題:互聯網大廠在既有的應用中大規模使用生成式AI,是否也會帶來潛在的監管風險?這個話題比較敏感,目前還難以討論,在此就不展開了。
再說第三條。OpenAI不是世界上唯一的生成式AI大模型開發者,GPT的技術路線也不是唯一的。但是,國內互聯網大廠的研發思路高度統一,那就是模仿乃至徹底復刻GPT。結果就是一切與OpenAI能夠沾邊的人才和信息幾乎全部被瓜分利用殆盡——其中既有合法的利用,也有灰色地帶的利用。不計成本的投入,加上國內相對硅谷而言較低的人力成本,是可以在一定程度上拉近差距的。這種模仿路線當然不可能把落後轉化為領先,不過目前大家還考慮不到這麼遠。
第四條也是一個非常重要的因素。我們知道,對於芯片、新能源等「硬科技」產業,國內各級主管部門(包括國家和地方)予以了極大的政策和資源扶持;生成式AI在理論上也屬於「硬科技」,如果也能得到類似的扶持,無疑可以大幅度加快發展進度、降低風險。然而,生成式AI有一個嚴重的軟肋:它不是製造業,無法像芯片、新能源、生物醫藥那樣提供較長的產業鏈、立竿見影地為地方創造GDP。此外,它也尚未被主流媒體認為是一項「卡脖子」技術。在幾個月乃至幾年之內,生成式AI要成為一項被大力扶持的「硬科技」,還是很有難度的。
當然,互聯網大廠可以採取一種話術,即生成式AI具備很強的「乘數效應」或上下游拉動作用,例如可以間接刺激芯片行業的成長,以及促進智慧城市、智慧交通的實現,等等。但是,上述「乘數效應」過於迂迴,在短期內又很難看到效果。在可見的未來,主流媒體和主管部門心目中的「硬科技」代表仍將是光刻機而非ChatGPT,互聯網大廠必須主要依靠自身資源投入而非政策扶持。
過去多年,中國互聯網行業曾一再證明:只要它們下定決心投入足夠的資源,並且有龐大的潛在C端應用場景,它們就能夠成功模仿乃至超越硅谷的同行。這一發展路線並非百試不爽,不過大部分情況下是成立的。生成式AI是對上述路線的一次大考:在GPT3.5以前版本已經開源,基礎研發路線並無秘密可言,潛在應用市場非常廣闊,而且國內互聯網大廠均已投入足夠資源、提起絕對重視的情況下,中國能否在生成式AI這條賽道上迅速縮小差距乃至有朝一日超越?
相信這個問題已經被資本市場提了無數次,也被互聯網從業者提了無數次。我的觀點偏向悲觀一邊:由於種種掣肘(在此就不討論了)、種種天然限制,國內生成式AI最多只能將與硅谷的差距縮小到可以接受的程度,而不可能徹底消除這種差距。不過,我的上述「悲觀」觀點,在很多人看來或許已經算是樂觀了?
事在人為,但在很多時候,形勢比人強。-來源:蒲公英互聯-