01-神魔宇宙 ***宇宙天國首部曲 彌勒天書閣 https://maitreya-books.com/ 神話從來就不是怪力亂神,而是原始先民在日常生活情況的觀察之中,所建立的真實認知。唯有相信神話中的真實,才能感受到神話的詩意隱喻背後,所具有的神聖力量。打開你的想像,打開你的相信,你才能知道神話告訴了你什麼宇宙生命的資訊。 生命起源於宇宙之中,生長於宇宙之中,結束於宇宙之中,因此,宇宙的起源就是生命背景的起源。生命形成的每一個階段,其實都在述說著生命的本能,也就是生命本就存在的一種力量,在此雖是說明一種狀況,然而將這狀況投射在生命的生活行動之中,你就會明白自己究竟有哪些不可思議的本能!

GPT-5被5萬張H100卡脖子!Altman急籌數十億美元,欲取代英偉達建起AI芯片帝國

2024012217:11


【新智元導讀】最近,外媒曝出Sam Altman正計劃籌集數十億美元,爲OpenAI建起全球性的半導體晶圓廠網絡。GPT-5訓練嚴重缺芯,OpenAI誓不讓英偉達掌握主動權,幹脆自己做新的AI芯片霸主?

Sam Altman正在籌集數十億美元,建立一個全球性的半導體晶圓廠網絡!

這一事件背後的原因很可能就是,OpenAI已經無「芯」訓練「GPT-5」了。

此前,據英國《金融時報》報道,OpenAI 正在開發一種新的AI模型,該模型將是 GPT-4 的「重大升級」,預計將于今年晚些時候發布。

訓練GPT-4,用了大約25000塊A100 GPU 。而訓練GPT-5,還需要5萬張H100。如今,英偉達的H100售價爲2.5萬至3萬美元。

英偉達的AI芯片,基本壟斷了市場,這一命脈怎能掌握在他人手中?



果然,最近外媒接連曝出,Sam Altman正在和中東投資者以及台積電談判,展開合作關系,以訓練和運行AI模型的芯片。

算力貨幣決定著OpenAI的前途,絕不能把握在英偉達手裏!Altman這次,是下定決心了。

訓GPT-5,OpenAI對芯片的需求只會越來越大

Altman的野心是,隨著AI技術的廣泛應用,在未來幾年建成一個自給自足的半導體供應鏈帝國。

所以,OpenAI也有意跟英特爾、台積電和三星等行業巨頭競爭了?



Altman在達沃斯經濟論壇上表示,今後世界的兩大貨幣,就是算力和能源

比起亞馬遜、谷歌、微軟等大廠,Sam Altman顯然有更宏大的計劃:建立一個AI芯片工廠網絡。

Altman應該是很確信,現在的台積電、三星、英特爾之類的代工廠,未來幾年內肯定無法滿足對AI芯片的需求。

現在,Altman正在籌集數十億美元,目標就是建立一個遍布全球的AI芯片工廠網絡。

現在,他正在和多家潛在的大型投資者進行談判,包括總部設在阿布紮比的G42和軟銀集團。

顯然,在AGI時代,芯片會供不應求。Altman現在十分擔心,隨著AI技術的日益普及,現有的芯片供應將無法滿足大規模部署的需求。



目前生産的AI芯片,遠遠落後于預期的需求。只有立刻行動,才能確保十年內能有充足的芯片供應。

然而,建立一個全球性的芯片工廠網絡需要龐大的投資,並且耗時多年。

而且,與行業中其他公司不同的是,建設和維護半導體工廠的成本要高得多。一個先進工廠的建設成本,可能高達數百億美元。

亞馬遜、谷歌、微軟都傾向于設計自家的定制芯片,將制造外包,這也是因爲建造和維護半導體的晶圓廠的成本,實在太高了!

畢竟,建造一家最先進的晶圓廠可能需要數百億美元的投資,而建立這樣的設施網絡可能需要數年時間。

根據彭博社的報道,僅在OpenAI與G42的談判中,涉及金額就接近80億到100億美元。

OpenAI新金主:中東土豪

OpenAI的前任金主是微軟。而現在爲了籌資,Altman聯系上了中東土豪們,比如阿聯酋的一些投資者。



其中一位,就是阿布紮比最富有、最有影響力的人物之一——謝赫·塔赫努恩。



謝赫·塔赫努恩是阿聯酋最有權勢的人之一,是總統謝赫·穆罕默德的兄弟,還是阿聯酋的國家安全顧問。

他還負責監督迅速擴張的商業帝國,並擔任阿布紮比若幹最強國家投資基金的主席。其中包括8000億美元的阿布紮比投資局和另一家國有投資實體ADQ。



另外,他還擔任國際控股公司和G42的主席。前者是一家龐大的企業集團,已迅速成爲阿聯酋最大的上市公司;而G42是一家雄心勃勃的AI公司,已經和微軟、OpenAI建立起了合作夥伴關系。

目前還不清楚Altman具體的籌款金額,但要與市值接近1.5萬億美元的英偉達競爭,保守來說至少會花費數十億美元。



G42集團CEO Peng Xiao和Sam Altman簽訂協議

別的不說,Sam Altman的社交手腕,是真的達到了人類天花板級別。

建廠要花費的,是天文數字

咱們來盤一盤,要建起一座晶圓廠,Sam Altman究竟需要花多少錢。

開發2nm或3nm工藝技術的成本,高達數十億美元,並且隨著工藝節點的縮小,這一成本還在上升。



同時,一個能夠大規模生産3nm或2nm芯片的現代晶圓廠,如今成本可達300億美元。

並且,晶圓廠的成本還在迅速上升,比如一台低數值孔徑(Low-NA)極紫外(EUV)光刻設備的價格,約爲2億美元,而高數值孔徑(High-NA)的光刻機,預計售價在3億至4億美元之間。



一個領先的晶圓廠要想生産最先進的AI和高性能計算(HPC)芯片,這種設備怎麽也得備上若幹台。



AI浪潮中,英偉達坐收漁翁之利

現在,谷歌、亞馬遜、Meta、OpenAI和微軟,都在使用英偉達的GPU來訓練AI、向客戶部署模型。僅Meta一家,就計劃在年底前爲服務器安裝340,000塊H100。

可以說,英偉達壟斷了目前的AI算力市場,並且手持定價權,這就導致其收入飛速增長。

像Graphcore這樣的芯片初創公司,已經很難與英偉達的主導地位競爭了,這是由軟件和硬件之間的相互作用造成的。僅僅制造一個更快的芯片,已經遠遠不夠的,何況這本身就相當困難。

顯然,各大科技公司都很早就開始布局了。

亞馬遜、谷歌和微軟這樣的大科技公司是這麽做的——設計自己的定制半導體産品,將生産過程外包給其他公司。

現在,各家都到了收獲的季節。去年11月底,微軟就推出了首款AI芯片,同時,微軟也在和AMD加緊合作;23年春季之前,Meta也推出了自家芯片;谷歌和亞馬遜,則分別研發TPU和Trainium芯片多年。



微軟的最新Azure Maia 100芯片

OpenAI曾怒甩5100萬刀狂買AI芯片

去年12月,Altman就被曝出正在進行「芯片交易」,而這也疑似成爲OpenAI宮鬥的導火索。

當時有外媒曝出,OpenAI在2019與AI芯片初創公司Rain AI簽訂了一份價值5100萬美元的意向書,會在Rain AI的芯片上市後購買芯片。

Rain AI正在研發一種「類腦」NPU芯片,能大幅降低AI算力的成本,預計將在12月流片,並于2024年10月開始供貨。



而且值得注意的是,Sam Altman作爲Rain AI的股東,本人也親自斥資,投入了100萬美元。

根據一位不願意公開身份的人士透露,Sam Altman之前被OpenAI前董事會解雇,部分原因就是他的其他投資與OpenAI糾葛的關系。




據悉,Altman曾爲了這個代號爲Tigris的項目在中東籌集資金

RainAI開發的神經形態處理單元(NPU),能模仿人類大腦的功能,有希望提供比當今的GPU更高的處理能力和能源效率。



這個NPU「類腦」芯片,號稱比GPU高出100倍的計算能力,而在訓練方面的能效,甚至比GPU高出10000倍。

Rain的目標是提供一種芯片,既能用于模型和算法的訓練,又能用于之後的推理運行。

根據Rain的說法,這種芯片將允許AI模型根據周圍環境實時定制或微調。

——從這個角度來看,它並不是當下英偉達H100之類GPU的直接競品。

相關人士表示,這些功能對OpenAI來說是一個強大的吸引力,OpenAI希望利用這些芯片來降低數據中心的成本,並將自己的模型部署在手機和手表等設備中。

如果能夠開發成功,OpenAI自然不會再受制于英偉達。



其實,Altman的布局很早。

早在2018年,他就領導了Rain的種子輪融資,一年後,OpenAI通過了這份價值5100萬美元的芯片購買意向書。

當然,Altman的計劃也不是一帆風順的。

此前Rain的領導層曾改組,公司的投資者也發生了變化。一個負責監管國家安全風險投資的跨部門政府機構,要求沙特阿拉伯附屬基金Prosperity7 Ventures出售其Rain的股份,之後,矽谷的Grep VC收購了這些股份。

——這一切變動,可能會增加Rain將新型芯片技術推向市場的難度,也使OpenAI的5100萬美元訂單的兌現日期,變得不太清晰。

總的來說,與Rain的這項交易也顯示,OpenAI願意花費大量資金,來確保自己的AI項目所需的芯片供應。

現在,從Rain AI購買的價值5100萬美元的AI芯片,只是OpenAI在AI芯片上巨額投入的一小部分而已。

OpenAI的野心,正在悄悄部署

年前,OpenAI就任命了前谷歌TPU的負責人爲硬件主管,並且正在招聘「數據中心設施設計專家」。



消息稱,由芯片工程師Richard Ho領導生成式AI創業公司的新部門,幫助優化合作夥伴的數據中心網絡、機架和架構。



「他在TPU的創建中也發揮了重要作用。也曾在DE Shaw工作並設計過ASIC。到目前爲止,他更多地負責軟件硬件集成、DC設計和加速器芯片選擇。但OpenAI最近也聘請了不少編譯器和內核方面的專家。」

另外,Altman還曾與包括芯片設計公司Arm在內的半導體高管進行過討論,商討如何盡早設計出新的芯片,爲OpenAI降低成本。

OpenAI的GPU短缺有多嚴重?Altman:都先別用ChatGPT了

去年一整年,Sam Altman都在抱怨OpenAI已經陷入了嚴重的GPU短缺。

生成式AI爆發仍舊沒有放緩,對算力提出了更高的要求。很多公司都在用英偉達性能極高的H100來訓練模型,但H100非常昂貴。

馬斯克就表示,GPU如今比drug還緊俏。



Sam Altman表示,OpenAI已經嚴重受到GPU限制,不得不推遲了衆多短期計劃(微調、專用容量、32k上下文窗口、多模態)。

甚至,因爲GPU的短缺,Altman都不希望有很多人使用ChatGPT。

    我們的GPU非常短缺,使用我們産品的人越少越好。 如果人們用的越少,我們會很開心,因爲我們沒有足夠的GPU。



OpenAI許多用戶都在抱怨API的可靠性和速度,對此Sam Altman解釋道,原因也是在于GPU太缺了。

訓練GPT-5,需要5萬塊H100,但此前曾有報道稱,英偉達最好的芯片H100,將在2024年之前就會售罄。

如果市場上GPU跟不上,將會阻礙OpenAI提升和訓練新模型的能力。

如今到處奔走的Altman,能爲建立晶圓廠籌到數十億甚至數千億美元的資金嗎?能維持廠子的運營嗎?

目前我們只知道,他的舉動有可能改變整個代工市場的格局。---[新智元報導*編輯 : 編輯部/來源: 新智元 ]

參考資料:

https://www.tomshardware.com/tech-industry/artificial-intelligence/openais-sam-altman-raises-billions-to-build-chip-empire-report

https://the-decoder.com/gpt-4-successor-reportedly-a-major-upgrade-openais-altman-in-talks-with-tsmc-for-ai-chips/

https://www.ft.com/content/1cdaadc3-b384-4f50-88ff-291c062c8376