不回了!Open AI宮鬥大反轉
“周六解雇,周日和解,周一回去上班。”原本吃瓜群衆以爲Sam Altman會照著喬布斯的劇本來演。
這Altman以爲自己回來靠譜了,周日帶著訪客證記錄推文一則“這是我第一次也是最後一次戴這玩意兒來這兒了”。
(來源:X)
結果劇本又給Open AI董事會撕爛了,“不好意思!我們找到人了。”內外逼宮下的董事會決定一條路走到黑,硬是不讓人回來,還任命了新的臨時CEO(Twitch前高管埃米特·謝爾)。
看著自己培養的合作夥伴徹底黑化,微軟大哥倒吸一口涼氣,不要是吧,那來我這幹吧。目前這一幕,以Open AI前高管Sam Altman和Greg Brockman加入微軟新AI研究團隊結束。
(來源:X)
王者歸來,喬布斯花了整整12年。Open AI的內部矛盾,從公司成立,到大模型作爲商業化工具大範圍推廣時一直存在,作爲一個以非營利標簽自居,亟需融資繼續生存的商業實體,商業營利和技術安全不一致的沖突讓天秤加速傾斜。
01. 被“流放”48小時
簡單回顧一下此次“政變”,公司前總裁Greg Brockman(與Sam一同被董事會除名,後自行辭去職務)在事發後提供了事情的詳細經過。
大意就是,公司首席科學家兼董事會成員Ilya主導了此次“政變”,先後在兩人不在場的情況下,召開會議將Sam和Greg除名,Sam被直接解雇,原本可以留下來的Greg火速辭職。除了接任CEO的米拉在前一天晚上知曉,管理團隊其他成員都是臨時才知道這次人事巨震。
同一時間,Open AI官網迅速發布一篇文章宣布Sam Altman被解雇的決定,在闡釋原因時用了“始終不坦誠”的評價形容Altman和董事會的溝通,使得董事會對他的領導失去了信心。
(來源:Open AI公告)
Sam和Greg,一個CEO,一個總裁兼董事會主席,先後被董事會趕出門是什麽感受?
一臉懵逼。
(來源:X)
Sam被逐出公司後,投資人立馬坐不住了。
連Open AI最大的金主爸爸,微軟同樣爲Altman被解雇的決定感到措手不及,他們聲稱事先並不知情,而是等到決定做出前那幾分鍾才知曉。
ChatGPT能取得這麽快的進展並不是Altman一個人的功勞,但將ChatGPT成功商業化,爲公司帶來百億美元融資卻要仰仗Altman早年在創投圈積累的強大人脈和資源。沒了他充當公司的門面,競爭對手追趕Open AI的機會將大大提升。
況且Open AI還在爲新一輪融資進行著談判,外界投資者本要向Open AI員工所持股份進行要約收購,身爲融資高手的Altman一走,要約收購就沒辦法順利進行下去。
由于這些投資人沒有董事會席位,對公司治理沒有決策權,與之緊密溝通的Altman就是他們選出的代理人,他在公司的地位和外部投資人的利益攸關,因此在其離職後開始向公司董事會施壓,要求讓Altman“官複原職”。
但員工已經開始逼宮。
部分OpenAI 的員工要求在北美時間周六下午5點前,整個董事會必須集體辭職,並迎回Altman,否則他們就會辭職並跟隨Altman。臨時CEO Mira Murati、首席戰略官Jason Kwon、首席運營官Brad Lightcap,都站在了Altman這一邊,希望董事會辭職。
據The Verge援引一位Altman的消息人士稱,OpenAI董事會目前原則上已經同意辭職,並允許二人回歸,不過由于形式仍不明朗,董事會成員一直猶豫不決,以至于錯過了員工要求的截止時間。
在此之前,隨著兩人離職,三名忠于Altman的骨幹級研究人員也在周五離開了公司,因這一消息而辭職:GPT-4負責人兼OpenAI研究總監 Jakub Pachocki;人工智能風險評估團隊負責人Aleksander Madry和開源基線研究員Szymon Sidor。
Altman回歸的一大條件,同樣是現有董事會必須走人。
整場鬧劇,或者站在Sam的視角稱之爲一場“政變”,決定做得很草率,公關寫得很草率,董事會架構更是草率,只要三票就能把CEO趕走,而且除了公司內部成員,獨立董事的數量居然占了一半。
政變再早個幾年,根本不會成功,因爲當時董事會裏還有像馬斯克、裏德·霍夫曼等大佬坐鎮,但後來都因爲利益沖突離開。19年Altman引入微軟融資,爲了不違背初衷同時讓公司能夠持續運轉,Altman開創性地協調了營利和非營利組織的天然矛盾。
Open AI的結構不尋常,他的營利主體是由一個非營利性501(c)(3)公共慈善機構擁有,前者可以接受投資並設定回報率,但是要在後者的治理下展開運作,而後者又由董事會來領導。
與傳統公司不同,OpenAI的董事會的任務不是最大化股東價值,他們也沒有持有OpenAI的股權。相反,他們的宣言使命是確保創造出對社會“廣泛有益”的人工通用智能(AGI)。
爲了讓董事會身份背景更加多元,除了Sam、Greg、Ilya三個聯合創始人,Open AI還引進了Adam D'Angelo、Tasha McCauley以及Helen Toner來擔任獨立董事。
三位獨董,D’Angelo是北美“知乎”Quora的創始人;McCauley是名利場跨界來的,美國演員約瑟夫·高登-萊維特的妻子;Toner是搞政治學術研究的,畢生都在和官員打交道。
可以看出,三位是跟Open AI,甚至跟AI都無關的純路人,卻在公司重要事項上有三票話語權,這就是戲劇性的一面,奇葩的董事會架構設置把Sam Altman回歸的路堵死了。
可畢竟基本都是門外漢,三個獨立董事不可能在Sam下台這件事上獨立形成共識,因此外界幾乎對董事會剩余一位公司內部成員,首席科學家—Ilya Sutskever,策劃這場“政變”的可能性達成了一致。
何以至此?
02. 安全主義 vs 加速主義
“政變”具體導火索不詳,但顯然不僅僅歸咎于Sam的溝通不當,鎖定核心人物後發現,矛盾依然圍繞著Open AI內部研究和産品的派系鬥爭逐漸激化,更深層次地,是AI安全主義和矽谷技術樂觀主義相互對立的一面。
在Ilya聯合其他成員推動Altman和Greg下台的敘事裏,這位當初從谷歌Deep Mind跳槽的天才科學家並不把自己當成Altman的“沃茲尼亞克”(與喬布斯共同創立蘋果),而更像是將AI安全放置上商業利益之上的“奧本海默”。
Gillett News報導稱:“Ilya認爲作爲CEO的山姆沒有針對減輕AI風險給予足夠的重視,伊利亞還對自己在公司中的作用減弱表示不滿。”在談到被指控發動政變時,Ilya表示這是董事會爲了非盈利組織的使命所做的決定,即確保Open AI能夠構建對全人類有益的AGI。
Altman和Greg顯然是技術樂觀派的代表,管理著GPT商業化的進度並且想要加快運用他們的研究成果。但Ilya卻越來越擔心Open AI是否堅持了管理非營利組織創造有益的AGI的使命。
曾擔任Ilya博士生導師的AI先驅傑弗裏·辛頓表示,過去幾年,Open AI大語言模型的快速進展讓Ilya對 AGI 即將到來更加充滿信心,從而更加專注于預防其可能帶來的危險。
本月早些時候,公司舉行了第一次“開發者大會”,在會上Altman推出了GPTs,ChatGPT的自定義版本,增加GPT Store並允許通過收益分成來豐富開發生態。
在在內部一些技術安全派看來,沒有經過充分審查就利用ChatGPT來掙錢是不夠謹慎的,已經和公司非營利的主旨背道而馳。
可Altman不但不聽勸,還要繼續擡高公司的估值進行新一輪融資。
之後Greg和Altman開始全力融資,11月9日Greg與法國總統馬克龍會面,隨後在巴黎舉行了投資者會議,意圖吸引主權財富基金和歐洲家族式的大額投資。
13日在倫敦接受《金融時報》的采訪時,Altman首次確認他們已經開始開發 GPT5,並正在爲此籌集資金。16日在APEC首席執行官峰會上,Altman確認了技術突破,稱幾周前他們再度打開了“無知之幕”。
但開發日後,使用量激增給他們的服務器帶來嚴重過載,使得籌資堆砌算力變得愈發緊迫。OpenAI經歷了包括ChatGPT及其API的大規模中斷。CNBC報導,開發者大會三天後,微軟出于安全考慮短暫限制了員工訪問ChatGPT。
據傳聞,17日董事會會議上,Ilya帶來兩名23歲的資深工程師向董事會報告了項目的進展和潛在風險。當他表示他們不應該再籌資,不應該擴張,以及Sam擅自進行巡演時,會議變成了一場辯論,最終Ilya大發雷霆,隨後推動兩位聯合創始人一並出局。
把時間線拉長一些,短短一年之內,Altman幫助Open AI從一家混合型研究公司轉變爲一家處于全面增長模式的矽谷科技公司,年營收已經超過10億美元。
部分矽谷科技精英崇尚著一種技術創新的價值觀—有效加速主義(e/acc),就是說人類應該無條件地加速技術創新,通過快速叠代來顛覆社會結構,我們認爲技術顛覆可能會帶來的社會風險本質上會迫使人類不斷去適應,從而達到更高的意識水平。
雖然沒有證據證明Altman笃信這一派觀點,但從Open AI近一年取得的成就看得出,Altman是懂如何“加速”的。
而要理解技術宅大神Ilya的立場則更加複雜。Ilya對Open AI技術越有信心,對AGI的信仰越讓他走向Altman的對立面。
在《麻省理工科技評論》的專訪中,Ilya表示自己並不打算構建下一個GPT或圖像生成模型DALL-E,而是打算弄清楚如何阻止超級人工智能變得不受控制。
他認爲ChatGPT可能是有意識的,他眼中的超級人工智能跳出人類思考的局限,有著更深入的洞察力,而隨著能力變得更強大,人類無法可靠地評估AI,這會帶來無法估計的風險。
7月,Ilya領導發起了一項”超級對齊”活動,利用公司未來20%的算力資源,該項目旨在幫助引導超級人工智能走向人類價值觀和目標,開發更多上遊人工智能安全技術,爲本十年實現AGI的可能性做好准備。
“對齊”的本質,是讓人工智能模型按照明確的指令做事,而超級對齊,是Open AI專門用于超級智能的對齊術語。Ilya本人表示這是“興趣驅使”,他更關心的並不是AI是否具有情感,而是AI是否對人類有真正的愛。
聽上去像科幻小說,但不妨仔細理解一下。技術大牛可能對怎麽賺錢不感興趣,但對AGI的理解真的比我們高了不少層。
現在對于我們而言AI只是個工具,而Ilya已經站在數字生命體的角度去思考,所謂”真正的愛“,是無條件,超越人性,守護價值觀的愛。
Ilya打算從AGI誕生的一開始,就給他植入底層原則,如同阿西莫夫著名的”機器人三定律“,通過目前基于人類反饋的強化學習可能還無法實現,但只要我們日後爲超級數字生命體植入這一原則,才不會真來一出”黑客帝國“。
爲何不等AGI誕生再慢慢調整?Ilya表示等不了,現在就得做。從描述上倒推進度,Open AI的研發團隊可能真的積累了一些能載入史冊的成果。Altman想快點用,Ilya覺得不安全,應該多堆資源在他的項目裏,這裏既有資源分配的分歧,也有對于如何平衡進步和安全的矛盾。
03. 尾聲 : 技術樂觀主義和AI安全主義在Open AI成長史裏如同兩塊分分合合的橡皮泥,一邊受到快速商業化的推動,另一邊則堅持必須極其謹慎地加以控制AI。馬斯克是典型的AI威脅論代表,曾經的骨幹研究人員也由于同樣的分歧出走創立Anthropic。
但兩位創始人的離開,意味著Open AI的融資計劃可能要泡湯了,即使能夠實現,缺少靈魂人物掌舵,Open AI未來商業前景的不確定性陡然增加,內部派系矛盾的不斷激化也會削弱公司未來的招聘能力,原本860億美元的估值剩下多少,對于計劃參與投標的員工都會是巨大的打擊。
而累計已經在Open AI上花了130億美元的微軟成了和事佬,既然要求Altman回歸的談判走向破裂,這邊與Open AI還要繼續合作,不得不將兩人先收入麾下,放在一個新的AI研究團隊下,也給其他想跟著Altman跳槽的員工吃了顆定心丸,防止人才資源迅速地湧向競爭對手。
但就這樣麽?通過挽救這場勞動糾紛,微軟與Open AI是否能繼續穩定地合作,對Open AI內部治理沒有投票權的金主爸爸是否著意更多。
據外媒報導,微軟曾考慮爭奪OpenAI董事會的位置,或作爲沒有投票權的觀察員加入,前提是阿爾特曼複職。但目前談判失敗,董事會成員是否會重新進行調整,目前尚不清楚。
二進宮暫時是失敗了,但劇情反轉格外激烈。
喬布斯的王者歸來之所以傳奇,在于一直被诟病不懂技術的他不像工程師般追求極致的技術成果,但更懂得傾聽用戶的聲音,把出色的功能塞進更大的願景裏,兜售出百八十億美元的成就。
站在喬布斯的視角,技術的優越性,恰好也是它的偏見所在,偉大産品的CEO需要站在市場和研發中間,讓市場爲技術路線實現反饋,而Open AI的象牙塔,有淩駕于市場的價值追求。
兩個故事能否成功“對齊”,要看在未來公司商業化進度和AI技術運用上,Altman、微軟、以及Open AI新晉管理層如何角力了。----港股那點事-