OpenAI 震蕩 : 無視安全倉促上4o,每天工作20小時,不再理想主義
動蕩內幕終于曝光——OpenAI CTO Mira Murati的離開,與GPT-4o、Her息息相關!
簡單來說,就是今年春天OpenAI爲了大搶谷歌開發者大會的風頭,緊急推出GPT-4o。
時間真的是非、常、緊、張,以至于安全團隊只能在極短的時間內(9天,拿不到更多時間了)完成安全測試評估。
時間緊,任務重,即便007式工作,每天工作20小時,測試數據還是不足。
結果大家也看到了,4o發布後才爆出該模型存在安全問題。
總的來說,OpenAI好像有點變形了:壓榨員工、輕視安全,在市場上大出風頭比安全可靠更重要。
之前奧特曼被開除時诟病的問題,特別是對安全的漠視,實實在在被證明了。比起AI技術的安全可靠,他更在乎競爭上的贏。
很多員工和高管都超不滿的。
當初4o發布第二天,沈寂許久的OpenAI靈魂人物Ilya就宣布了自己的離開。
現在,4o全量上線的第二天,Mira也走了。
還帶著研究主管Bob McGrew和研究副總裁Barret Zoph一起跑路。
(真不知道是說這些元老們太顧念公司,還是說OpenAI真是營銷天才。)
說來說去,他們告別OpenAI都圍繞一個原因,那就是“公司對安全重視程度不足”。
OpenAI,真的不要安全了??!
* 試圖搶救“安全性”的Mira
我們再來展開說說4o上線的火急火燎程度。
今年5月14日,OpenAI發布GPT-4o;5月15日,Google發布名爲Project Astra的AI助手,同日OpenAI首席科學家Ilya官宣離職。
一切的發生,早“有預謀”。
據透露,挑在14日發布,完全因爲OpenAI想搶Google的風頭。
爲此,OpenAI安全團隊僅得到了9天的時間,來做安全檢測。
就,時間真的不夠啊!
9天時間裏,安全團隊成員們007式工作,每天不分白天黑夜,拼死拼活幹20個小時,還是沒做完安全測試。
即便如此,GPT-4o還是如期發布了。
然後就果然被發現GPT-4o有安全問題,它的“勸說”“誘導”性非常強,具備創建能夠說服人們改變信念並參與潛在危險或非法行爲的內容的能力。
很容易引導人誤入歧途,幹些不好的事,說些不對的話。
一些OpenAI內部員工也表示,倉促發布GPT-4o,讓OpenAI失去了對領域內的領先優勢。
但能咋辦,發都發布出去了……
Mira試圖力挽狂瀾,只能把4o的全量上線往後一延再延,最終在本周三(9月25日)才全量發布。
隔天她就宣布辭職了。
她揮一揮衣袖,帶走了另外兩名高管。
其實,Mira也不是沒有試圖拯救過OpenAI的“不安全”。
一方面,OpenAI前任及在職員工分別透露過,作爲CTO的Mira多次推遲了包括搜索和語音交互在內的産品的計劃發布。
她認爲它們還沒有准備好。
另一方面,最近曝出5月Ilya辭職後,Mira和後來長期休假的總裁Greg Brockman都去Ilya家找過他。
他倆帶著公司員工寫的卡片,對Ilya曉之以理,動之以情:
我的老天奶,你可回來吧,Ilya!公司現在好混亂,沒有你咱肯定得崩潰!
Ilya應該是動過心的,他對OpenAI的前同事表示,他真的在認真考慮要不要重回OpenAI。
但沒過多久,Brockman就打電話過來說OpenAI撤回了讓Ilya重返公司的邀請。
真·一整個大問號。
多八卦兩句,Ilya和Mira之間,還有其他核心成員因不滿OpenAI對安全的重視程度而離職。
比如John Schulman,也是OpenAI的聯合創始人。
8月6日,他告別OpenAI,轉投最強競對Anthropic。
他在推特發文表示,他表示選擇離職是爲了更深入地從事AI對齊研究,即確保AI的發展與人類價值觀相一致。
* OpenAI轉向:公司關鍵數據曝光
一切的一切,似乎都與OpenAI轉向有關。
LeCun表示,將一家非盈利開放研究機構變成一家秘密的、以産品爲中心的盈利性公司,勢必會導致許多人退出。
有媒體,甚至直接以OpenAI as we know it is dead爲名。
據OpenAI內部員工爆料,OpenAI越來越專注于構建産品而非研發技術。這些産品的重點不再是純粹的研究。
此前,也的確有類似的消息爆出,比如GPT-5遲遲不發,卻計劃出AI搜索對標谷歌,大舉招募産品設計等相關的員工。
不過另一面,參加過o1和
動蕩內幕終于曝光——OpenAI CTO Mira Murati的離開,與GPT-4o、Her息息相關!
簡單來說,就是今年春天OpenAI爲了大搶谷歌開發者大會的風頭,緊急推出GPT-4o。
時間真的是非、常、緊、張,以至于安全團隊只能在極短的時間內(9天,拿不到更多時間了)完成安全測試評估。
時間緊,任務重,即便007式工作,每天工作20小時,測試數據還是不足。
結果大家也看到了,4o發布後才爆出該模型存在安全問題。
總的來說,OpenAI好像有點變形了:壓榨員工、輕視安全,在市場上大出風頭比安全可靠更重要。
之前奧特曼被開除時诟病的問題,特別是對安全的漠視,實實在在被證明了。比起AI技術的安全可靠,他更在乎競爭上的贏。
很多員工和高管都超不滿的。
當初4o發布第二天,沈寂許久的OpenAI靈魂人物Ilya就宣布了自己的離開。
現在,4o全量上線的第二天,Mira也走了。
還帶著研究主管Bob McGrew和研究副總裁Barret Zoph一起跑路。
(真不知道是說這些元老們太顧念公司,還是說OpenAI真是營銷天才。)
說來說去,他們告別OpenAI都圍繞一個原因,那就是“公司對安全重視程度不足”。
OpenAI,真的不要安全了??!
* 試圖搶救“安全性”的Mira
我們再來展開說說4o上線的火急火燎程度。
今年5月14日,OpenAI發布GPT-4o;5月15日,Google發布名爲Project Astra的AI助手,同日OpenAI首席科學家Ilya官宣離職。
一切的發生,早“有預謀”。
據透露,挑在14日發布,完全因爲OpenAI想搶Google的風頭。
爲此,OpenAI安全團隊僅得到了9天的時間,來做安全檢測。
就,時間真的不夠啊!
9天時間裏,安全團隊成員們007式工作,每天不分白天黑夜,拼死拼活幹20個小時,還是沒做完安全測試。
即便如此,GPT-4o還是如期發布了。
然後就果然被發現GPT-4o有安全問題,它的“勸說”“誘導”性非常強,具備創建能夠說服人們改變信念並參與潛在危險或非法行爲的內容的能力。
很容易引導人誤入歧途,幹些不好的事,說些不對的話。
一些OpenAI內部員工也表示,倉促發布GPT-4o,讓OpenAI失去了對領域內的領先優勢。
但能咋辦,發都發布出去了……
Mira試圖力挽狂瀾,只能把4o的全量上線往後一延再延,最終在本周三(9月25日)才全量發布。
隔天她就宣布辭職了。
她揮一揮衣袖,帶走了另外兩名高管。
其實,Mira也不是沒有試圖拯救過OpenAI的“不安全”。
一方面,OpenAI前任及在職員工分別透露過,作爲CTO的Mira多次推遲了包括搜索和語音交互在內的産品的計劃發布。
她認爲它們還沒有准備好。
另一方面,最近曝出5月Ilya辭職後,Mira和後來長期休假的總裁Greg Brockman都去Ilya家找過他。
他倆帶著公司員工寫的卡片,對Ilya曉之以理,動之以情:
我的老天奶,你可回來吧,Ilya!公司現在好混亂,沒有你咱肯定得崩潰!
Ilya應該是動過心的,他對OpenAI的前同事表示,他真的在認真考慮要不要重回OpenAI。
但沒過多久,Brockman就打電話過來說OpenAI撤回了讓Ilya重返公司的邀請。
真·一整個大問號。
多八卦兩句,Ilya和Mira之間,還有其他核心成員因不滿OpenAI對安全的重視程度而離職。
比如John Schulman,也是OpenAI的聯合創始人。
8月6日,他告別OpenAI,轉投最強競對Anthropic。
他在推特發文表示,他表示選擇離職是爲了更深入地從事AI對齊研究,即確保AI的發展與人類價值觀相一致。
* OpenAI轉向:公司關鍵數據曝光
一切的一切,似乎都與OpenAI轉向有關。
LeCun表示,將一家非盈利開放研究機構變成一家秘密的、以産品爲中心的盈利性公司,勢必會導致許多人退出。
有媒體,甚至直接以OpenAI as we know it is dead爲名。
據OpenAI內部員工爆料,OpenAI越來越專注于構建産品而非研發技術。這些産品的重點不再是純粹的研究。
此前,也的確有類似的消息爆出,比如GPT-5遲遲不發,卻計劃出AI搜索對標谷歌,大舉招募産品設計等相關的員工。
不過另一面,參加過o1和
的研究員Noam Brown針對這些傳聞了個推特 :研究的重要性降低了?沒聽說過
奧特曼本周去意大利參加活動時,也否認了員工離職與公司轉變有關。
我看到的大多數內容也完全是錯誤的。但過去一年裏,我們的董事會一直在獨立思考公司的下一階段發展需要什麽。
我認爲這些變動反映了人們准備好迎接人生新篇章,同時也標志著新一代領導力的崛起。
不過也有網友替奧特曼說話 :經營一家公司遠比想象中那麽困難。它不可能以非盈利的形式生存下來。
紐約時報今天也透露了關于OpenAI經營的一些關鍵數據:
. 8月收入達到了3億美元,相較于去年(2023年)年初增長了1700%,較去年同同期增長兩倍多。
. 截至今年6月,每月使用其服務的人約有3.5億人,相較于今年3月僅有1億人左右,高了三倍多。
. 今年的年銷售額預計約爲37億美元,其中10億來自于企業;而去年僅有7億美元。
. 每月大概有1000萬ChatGPT用戶,向OpenAI支付20美元。
. 2025年收入將達到116億美元;2029年收入達到1000億美元。
這樣看,OpenAI其實已經賺很多了,甚至勢頭還在蹭蹭蹭地往上漲。
但如果對于現階段的公司來說,可能還不夠。
比如支付一些基礎運營和硬件設施的費用,今年就將虧損約50億美元。
那老板就不能不管了。要麽從用戶這邊入手,要麽從投資方這邊入手。
文件中顯示,預計今年年底ChatGPT訂閱價格將再漲個2美元, 並且未來五年內漲到44美元。
我先幫咱們算算,大概一個月也就300多塊錢吧。
那融資這邊,OpenAI一直就沒有閑著。
早在今年8月份就被曝出,OpenAI正在就新一輪融資進行談判。
老股東興盛資本(Thrive Captial)可能領投10億美元,最大股東微軟也有望參與此輪融資(但沒看到OpenAI首位投資人Vinod Khosla的身影)。
由此,OpenAI的估值將超過此前的860億美元,甚至超過1000億美元。
什麽概念呢?相當于當時Anthropic估值(150億)的6倍、馬斯克xAI(240億)的4倍。
結果現在剛好一個月過去,這次尋求的融資估值已上升至——1500億美元。
* 融資窗口期:高層動蕩,蘋果退出
如今,OpenAI又迎來了關鍵的融資窗口期。
本輪計劃以1500億美元估值收獲70億美元融資,不過其他媒體爆料說是65億美元,也是創業公司有史以來最高估值之一。微軟預計將參與投資10億美元。
這輪融資最早可能在下周結束。
據爆料,作爲投資的一部分,OpenAI有兩年時間需要將自己的公司轉變成營利性的公司。
隨後還會有新的一系列電話會議,介紹OpenAI産品和研究團隊的主要領導人。
這樣的時間,大批量重要高管離職,也不免讓一些業內人士合理懷疑:
融資還沒結束就離職,可能會讓投資者恐慌,由此搞亂OpenAI接下來進展。
不過就在剛剛,有消息稱,蘋果將不再參與此次的投資。
以及對于OpenAI來說,最大的挑戰不是一筆兩筆融資,也不是産品模型是不是依然具備先進性,而是正在失去理想主義的旗幟,變得沒有夢想,走向平庸。
奧特曼在被重新評價---歸結起來一句話:初心已不再。
當初OpenAI建立,就是看到了AI正在帶來的巨大改變,以及最頂級的DeepMind這樣的研究機構,正在成爲Google這樣巨頭的附庸,包括馬斯克在內的人,擔心智能時代的核武器,壟斷在日益“邪惡”的大公司手中。于是自掏腰包、慷慨解囊,給最頂級的人才發大公司同樣級別的薪水,然後用夢想激勵他們Think Different,真正改變世界。
天才Ilya就是在這樣的背景中,放棄了谷歌最頂級的待遇,成爲OpenAI的聯合創立者,一點點沿著“天方夜譚”式的AGI目標,最後在GPT的新範式中,真正改寫了AI時代的進程。
然而山姆·奧特曼不是這樣的人,他不是技術出身,他也不是喬布斯那樣希望通過産品改變世界的人,他關注創新、欣喜于創業投資的樂趣,但最後似乎角色更像是一個頂級的矽谷生意人。他最初的角色是OpenAI的資助者,後來成了CEO,然後又在馬斯克出局OpenAI後獲得了更大的內部話語權,並且在ChatGPT問世後,大名得曝,地位前所未有,一度封神。
他被外界評價“ChatGPT之父”——即便嚴格來講他不是,他樂于代表整個團隊談論AGI、談論AI帶來的世界變革,遊走出訪于各個國家,享受最受歡迎的追捧。一度,他被放到了喬布斯、馬斯克之後,認爲他可能就是下一個從矽谷改變世界的人。
直到Ilya發動內讧,以“不顧AI安全”之名,把他開除,這是OpenAI裂縫的開始,但裂痕卻沒有得到愈合,並且越來越大。
Ilya最終走了,OpenAI的前進似乎並沒有結束,即便所有人都感知得到進展在減緩。
奧特曼也開始呈現了更加詭異得一面,在他已經再無掣肘的領導下,OpenAI越來越關注競爭,而不是Think Different;越來越展現估值、融資和盈利可能性上的追求,而不是AGI的目標;變得越來越不cool,甚至被曝出開始搞辦公室政治,開始走下坡路……
于是在核心技術人員的流失中,在OpenAI顯而易見的轉變中,一度封神的奧特曼,開始面臨全新的爭議,他開始獲得一些完全不同的評價,他現在是這樣一個人——
一個被ilya帶到了他不應該有的高度的人,一個追名逐利現在利欲熏心的人,一個曾經被擁護最後又衆叛親離的人。
一個讓OpenAI失去理想主義的人。---[衡小宇 白小交 發自 : 凹非寺*量子位 : 公衆號 QbitAI/來源 : 量子位 ]
參考鏈接:
[1]https://x.com/bindureddy/status/1839819878792122600
[2]https://x.com/oran_ge/status/1839820626774950351
[3]https://www.wsj.com/tech/ai/open-ai-division-for-profit-da26c24b?st=C8P17G&reflink=desktopwebshare_permalink
[4]https://x.com/bindureddy/status/1839819878792122600
[5]https://x.com/ciphergoth/status/1834665686280683533
[6]https://www.nytimes.com/2024/09/27/technology/openai-chatgpt-investors-funding.html